？信息论的产生和发展概述
实践证明，世间万物都在运动变化的过程中，而在这个运动变化的过程中，会发出各种信息，内部的变化可以反映到外部，外部的表现反映出内部的本质；整体的变化可以体现在局部，局部的变化影响整体。人类为了在世界上生存，必须认识和使用信息，否则无法生存，如预防和避免自然灾害、发明和创造工具、发展生产、科学实验等。，都是受到一些信息的启发。战争更离不开信息。例如，中国在周代使用烽火台来传递战争信息。所有这些，总之，从有人类的那一天起，人类就生活在信息的海洋里，一刻也离不开信息。关键问题是如何认识和利用信息来改变他们的生活状况，创造更好的生活环境。正是根据世界环境的变化，人类对自己的行动做出调整，改变与自然抗争的策略。所以，人类总是以信息为中心。信息论的观点是把人对外界的行动概括为一个信息和信息反馈的过程。人类之所以能够保证正常的生活条件，不断改善自己的生活条件，是因为人类具有获取、使用、维护和传递信息的能力。这种识别和利用信息的能力，和其他问题一样，是由简单到复杂的。
人类有获取信息的权利，但信息不是人类独有的，其他生物也有认识和利用信息的本能。俗话说“人话动物话”，就是这个意思。其他的，比如一些动物的保护色，猎食等。，都是认识和利用信息的表现。植物也有自己的信息感，比如生物钟，其实就是信息的反映。因此，可以说世界上所有的生物都与信息有关。不同的是，人类对信息的理解和利用比其他生物更广更深，引进了创造性的船只，而其他生物只是为了生存。
人类需要信息，也要传递信息。语言的作用是传递信息，也是信息传递的最佳方法。但由于距离的限制，语言在声音无法到达的地方失去了传递的功能，容易受到外界噪音的干扰。所以人类发明了文字，文字也是一种传递信息的方式，但是也有一定的局限性，所以人类不断创造出很多传递信息的方法。传递信息的目的是为了做出合理的决策，虽然人类对信息的理解和利用，也就是信息反馈的历史很长。而真正的信息论研究只有半个多世纪的历史，其突破点是从信息传递的方法开始的。1922卡陈阐述了边带问题的理论，提出了信号保护定律，即信号调制(编码)过程中的频谱展宽法。可以说是信息论的先行者。
1921年，美国的奈奎斯特和德国的凯夫曼证实了卡森的理论。1928年，哈特尔发表了《信息传递》，首次提出信息是代码、符号和序列，而不是内容本身，排除了主观因素，实现了概念上的突破。他还首次提出了信息量的概念，并尝试用数值公式来描述，为信息的传递找到了理论基础，促进了信息论的建立。1938年，美国人摩尔斯发明了高效率的编码电报方法，人类终于找到了更先进的信息传输工具。65438-0940二战期间，因为通信的军事意义，美国人神农开始研究信息论。1945年，波特发表了声音的视觉图形。1947年，他和科普等人一起写了视觉语言，使信息论建立的条件越来越成熟。1948年，神农出版了《传播的数学理论》。从而宣告信息论的建立。神农信息论的主要内容是研究信源、信宿、信道和编码。战后，由于通信的需要和电子技术的迅速发展，促进了信息论的进一步发展，许多国家的学者对此做了大量的研究工作，取得了很大的成就。
由于信息论的成就，它给许多学科带来了希望。人们试图应用信息论的基本理论来解决组织、语义、听觉、神经病学、生理学和心理学等一些难题。1950在英国伦敦召开信息论会议，收到论文20多篇，其中6篇是关于信息论在心理学和神经生理学中的应用。1951年，美国无线电工程学会认可了信息论这一新学科，成立了信息论组。65438-0955年在伦敦召开的第三届信息论会议涉及了解剖学、动物健康、神经生理学、神经精神病学和心理学。65438-0956神农谈到信息论的发展前景:“信息论的很多概念会对心理学、经济学等一些领域有用。」
20世纪50年代，英国人E.C. Cherley也对信息进行了历史性的考察，发表了《信息论史》和《人类信息》两篇文章。20世纪50年代见证了信息论对各种科学的影响。居住在美国的法国物理学家l .布里渊将信息学扩展到了物理学领域。他的著作《生命——热力学与控制论》认为:“为了可靠地将类似概念应用于与生命和智能相关的基本问题，除了物理熵这一旧的经典概念之外，还需要一些大胆的新的概括和概括。1956年发表《科学与信息论》，试图将信息与具体的物理过程联系起来，并将信息熵与热力学熵直接联系起来，提出了信息负熵原理，认为信息与负熵是等价的。在1979中，Carker根据这一原理讨论了人体肾脏的化学稳态功能的效率，并得出了更有实用价值的结论。
60年代是基于现有信息论的大建设时期，重点是信息和源码编码。这一时期，信息论得到普及并应用于生物学，神经生理学方面是美国的阿什比。他指出“信息论本质上是组合论的一个分支，其本质基本上是一个数”。20世纪60年代，人们把信息分为三种:狭义信息论、广义信息论和广义信息论。
20世纪70年代，由于数字计算机的广泛应用，通信系统的能力大大提高。如何更有效地利用和处理信息成为一个日益紧迫的问题，人们越来越认识到信息的重要性。信息的概念和方法已经渗透到各个科学领域，迫切需要突破神农信息论的狭窄范围，以促进许多新兴学科的进一步发展。70年代，信息传输有了新的进展，在新的条件下出现了几种信源和信道编码定理。Berg写了一本关于信息源和编码的相当完整的书。在语义问题和有效性方面，高爱思在1971年提出了“有效信息”的概念。在1978中，在维尔马等人修正的可加性的基础上，将其推广到非可加性的“广义有效信息”。还有卡尔纳普等人提出的“语义信息”，廷格尔提出的“非概率信息”，杰马里提出的“相对信息”等等。Chad在1965提出模糊数学后，有人在模糊集合论的基础上建立了“熵”和信息的概念，并进一步尝试建立“模糊信息论”。还有人设想根据计算机中的信息问题建立“算法信息论”。在自然科学和哲学中，有人把信息作为基本参数来研究。他们认为形式、结构、关系和类似的东西比物质和能量更基本，这些不同的结构和关系以信息为特征。
总之，这十年的进步已经远远超出了神农信息论的范畴。正如大学者郎高在1975发表的文章《信息论、新方向与未解决的问题》中指出的那样，“神农在贡献中小心排除的，现在都包括在内了”。目前，信息论已广泛应用于物理学、化学、生物学、心理学、管理学等学科，一门研究信息的科学正在形成。