雷利法则的三个公式 雷利法则计算公式

雷利法则的第一个公式：信息熵

雷利法则的第一个公式是信息熵，这听起来像是科幻电影里的东西，但实际上它就在我们日常生活中。信息熵是用来衡量信息的不确定性，简单来说，就是看一条消息里有多少“料”。比如，你朋友发来一条消息说“今天天气不错”，这条消息的信息熵就很低，因为你知道今天天气大概率是不错的。但如果你朋友发来的是“今天有外星人降临地球”，那这条消息的信息熵就高得离谱了，因为你完全不知道会发生什么。所以，信息熵就是帮你判断一条消息是不是值得你放下手中的薯片去看看。

雷利法则的第二个公式：互信息

接下来是雷利法则的第二个公式——互信息。这个公式听起来像是两个朋友之间的秘密协议，但实际上它是用来衡量两个变量之间的相关性。比如，你和你朋友都喜欢看同一部电视剧，那么你们之间的互信息就很高。但如果你们一个喜欢看科幻片，一个喜欢看爱情片，那互信息就低得可怜了。互信息的妙处在于，它不仅能告诉你两个东西是否相关，还能告诉你它们相关的程度有多深。所以，下次你想知道你和你朋友是不是真的有共同语言，不妨用互信息来测一测。

雷利法则的第三个公式：条件熵

最后登场的是雷利法则的第三个公式——条件熵。这个公式有点像是在玩“猜猜我是谁”的游戏。条件熵是用来衡量在已知某些条件下，信息的不确定性还剩下多少。举个例子，如果你已经知道今天是个晴天，那么“今天会不会下雨”这个问题的不确定性就很低了。但如果你什么都不知道，那这个问题的不确定性就很高。条件熵就是帮你算出在知道了一些事情之后，你还剩下多少事情不知道。所以，下次你在玩猜谜游戏时，不妨用条件熵来预测一下你的胜算有多大。