信息技术导论精要.pptx
文本预览下载声明
即,一条信息发生的概率越小,信息量越大;概率越大(一种极端情况是“必然的事情”信息量为0)则信息量越小
于是,对于一条信息x,人们用下列公式表示其信息量I (书上用了先验概率和后验概率这两个术语)
之所以取对数是由于信息量的“累加性”决定的两个消息加在一起的总信息量等于每个信息各自信息量之和,
即:. Log(m1?m2)=Logm1+Logm2 …
一.信息度量的方法(重点)
度量信息量的方法
设:P(x) - 消息发生的概率,
I - 消息中所含的信息量,
则 P(x) 和 I 之间应该有如下关系:
I 是 P(x) 的函数: I =I [P(x)]
P(x) ?,I ? ; P(x) ? ,I ?;
P(x) = 1时,I = 0; P(x) = 0时,I = ?;
满足上述3条件的关系式如下:
-信息量的定义
一.信息度量的方法(重点)
上式的单位由对数底的取值决定。
若对数以2为底时单位是“比特”(bit — binary unit的缩写);(现阶段我们主要采用这个单位)
若以e为底时单位是“奈特”(nat—nature unit的缩写);
若以10为底时单位是“哈特”(Hart — Hartley的缩写)。
通常采用“比特”作为信息量的实用单位,这时有
一.信息度量的方法(重点)
【例】 设一个二进制离散信源,以相等的概率发送数字“0”或“1”,则信源每个输出的信息含量为
在工程应用中,习惯把一个二进制码元称作1比特
一.信息度量的方法(重点)
若有M个等概率波形(P = 1/M),且每一个波形的出现是独立的,则传送M进制波形之一的信息量为
若M是2的整幂次,即 M = 2k,则有
当M = 4时,即4进制波形,I = 2比特,
当M = 8时,即8进制波形,I = 3比特。
一.信息度量的方法(重点)
对于非等概率情况:
设:一个离散信源是由M个符号组成的集合,其中每个符号xi (i = 1, 2, 3, …, M)按一定的概率P(xi)独立出现,即
且有
则x1 , x2, x3,…, xM 所包含的信息量分别为
于是,每个符号所含平均信息量为
由于H(x)同热力学中的熵形式相似,故称它为信息源的熵
一.信息度量的方法(重点)
分辨率的表示法
在图像显示应用中的图像分辨率表示法
物理尺寸:每毫米线数(或行数)
行列像素:像素/行×行/幅,如640像素/行×480行/幅
像素总数:如数码相机上标的500万像素
单位长度上的像素:如像素每英寸(pixels per inch,PPI)
线对(line pair)数:以黑白相邻的两条线为一对,如5对线
在图像数字化和打印应用中的图像分辨率表示法
通常用多少点每英寸(dots per inch,DPI)表示,如300 DPI
分辨率越高,图像质量就越高,像素就越多,要求存储容量就越大
二、分辨率
课堂练习
例:在1200 ×800分辨率的显示器上分别显示800 ×600分辨率,600 ×400的图像,会占屏幕的多大面积。
解 (800 ×600) /(1200 ×800) = 1/2
(600 ×400) /(1200 ×800) = 1/4
存储介质的分类(现状)
磁存储介质
光存储介质
半导体存储介质
存储介质一般分为光存储(CD,DVD等)、磁存储(硬盘,磁带等)和半导体(电)存储(内存条、U盘等)。
闪存(Flash ROM),是一种采用集成电路的可多次擦写的存储器,广泛用于U盘、数码设备的存储卡等领域。有体积小便于携带,不怕震动,不磨损,保存时间长等优点。和其他存储设备相比主要缺点是速度慢,容量小。随着科技的进步,这些缺点也在逐渐被克服,高端的闪存容量已经达到4GB以上,擦写速度也达到每秒钟几十兆。
a1
a2
a3
a4
a5
a6
a7
0.20
0.19
0.18
0.17
0.15
0.10
0.01
10
11
000
001
010
0110
0111
信源符号
概率
Huffman码
编码过程
Huffman编码过程
数据结构的图示
一般用示意图表示数据结构。用小圆圈代表数据元素,用小圆圈之间的连线代表小圆圈对应的数据元素具有的关系,如果强调关系的方向性,可用带箭头的线段表示关系。具体地讲,若d1和d2表示两个数据元素,它们具有关系<d1,d2>,则表示为如图6-3所示的结构。
图中表示的只是一个抽象关系,不代表具体意义。对于具体的应用,也可以表示家族关系中的父子关系。例如,<d1,d2>可代表d1是d2的父亲。
三、常见的几种数据结构
至此,我们已经知道数据结构是想要解决非数值计算问题的求解,我们也知道了数据结构应该包含两层含义,即数据的逻辑结构和物理结构。但
显示全部