信息熵怎么理解

更新时间： 2025-09-29 01:36:20

信息熵是计算机概念中的一种。可以理解成某种特定信息的出现概率（离散随机事件的出现概率）。一个系统越是有序，信息熵就越低；反之，一个系统越是混乱，信息熵就越高。

信息熵也可以说是系统有序化程度的一个度量。信息的基本作用就是消除人们对事物了解的不确定性。美国信息论创始人香农发现任何信息都存在冗余，冗余的大小与信息的每一个符号出现的概率和理想的形态有关，多数粒子组合之后，在它似像非像的形态上押上有价值的数码，那一定是给一个博弈研究者长期迷惑的问题提供了一个负熵论据，这种单相思占优的形态以及信息