想知道什么信息及信息量通信信号系刘红梅课件.pptx

通信信号系刘红梅;目录;信息的概念;传输信息的多少用“信息量”来衡量。对于接收者来说，某些消息比另外一些消息传递更多的信息。

消息确实有量值的意义。对接收者来说，事件越不可能发生，越是使人感到意外和惊奇，信息量就越大。

注意：信息量的大小实际上与内容无关

一个消息对于接收者很有价值（即信息量大）在于这个消息是他不知道的事情或觉得不可能发生的事情（即小概率事件）

【例】“某客机坠毁”这条消息比“今天下雨”这条消息包含有更多的信息。;一条信息发生的概率越小，信息量越大；概率越大（一种极端情况是“必然的事情”信息量为0）则信息量越小

于是，对于一条信息x，人们用下列公式表示其信息量I：;信息量的单位由对数底的取值决定。

若对数以2为底时单位是“比特”（bit—binaryunit的缩写）；

若以e为底时单位是“奈特”（nat—natureunit的缩写）；

若以10为底时单位是“哈特”（Hart—Hartley的缩写）。

通常采用“比特”作为信息量的实用单位。;