信息论和编码有什么用?
信息论和编码主要分为两部分。前几章主要讲信息,后面几章讲编码。那么信息论和编码的目的是什么呢?
1,信息论与编码研究是整个通信最基础的问题。可以说信息论是我们专业的大纲。从香农在1948年发表《通信中的数学原理》到现在的60多年,信息论对整个行业的发展有着不可替代的指导意义。最著名的信息论是香农的四大定理(国内一般称为三大定理)。信源编码的第一个定理是解决通信中的信源压缩问题,也是后来图像和视频压缩的基本定理。第二个定理,信道编码定理,是解决通信中特定信道可以传输最大数据速率的问题,即最大数据速率小于信道容量,容量问题是通信中最活跃的问题之一,如4G或LTE中广泛使用的MIMO(多输入多输出,或多天线)技术,其理论本质是David Tse提出的容量与天线数的线性递增关系(这句话是概述,我凭印象写的);第三定理有损信源编码定理解决了在允许一定失真的情况下信源编码的问题,比如jpeg图像编码,mp3音频编码,都是有损编码,都是在香农第三定理的边界下得到的。第四个定理,信源信道分离定理,解决了信源编码和信道编码可以分开求解的问题,所以现在有的人可以做信源编码,有的人可以做信道编码。
2.这门课比较难,国内对信息论的介绍也比较晚,且不说国内学者对信息论的重视程度(国内几乎没有这方面的知名学者),但这门课确实是传播学的基础。正如欧几里得的几何原本影响了西方学术界近2000年一样,信息论也必将影响未来几百年的传播学发展。
3.回到现实,如果这门课和专业联系紧密,我觉得在物理层(主要是无线通信)、编码(信道编码或者图像视频编码)、密码学的学习中,认真学习信息论是很有必要的。对于其他两个学科,如网络层、硬件设计、光纤通信,学习这门课只需要知道这四个(或三个)定理。
信息论讲了这么多,编码有什么用。