大家好,小金来为大家解答以上的问题。香农熵公式 应用,香农熵这个很多人还不知道,现在让我们一起来看看吧!
1、1948 年,香农提出了“信息熵”(shāng) 的概念,才解决了对信息的量化度量问题。
2、一条信息的信息量大小和它的不确定性有直接的关系。
3、比如说,我们要搞清楚一件非常非常不确定的事,或是我们一无所知的事情,就需要了解大量的信息。
4、相反,如果我们对某件事已经有了较多的了解,我们不需要太多的信息就能把它搞清楚。
5、所以,从这个角度,我们可以认为,信息量的度量就等于不确定性的多少。
本文到此分享完毕,希望对大家有所帮助。