信息技术导论精要.pptx

即，一条信息发生的概率越小，信息量越大；概率越大（一种极端情况是“必然的事情”信息量为0）则信息量越小 于是，对于一条信息x，人们用下列公式表示其信息量I (书上用了先验概率和后验概率这两个术语) 之所以取对数是由于信息量的“累加性”决定的两个消息加在一起的总信息量等于每个信息各自信息量之和， 即：. Log(m1?m2)＝Logm1＋Logm2 … 一.信息度量的方法(重点) 度量信息量的方法 设：P(x) － 消息发生的概率， I － 消息中所含的信息量， 则 P(x) 和 I 之间应该有如下关系： I 是 P(x) 的函数： I ＝I [P(x)] P(x) ?，I ? ； P(x) ? ，I ?； P(x) = 1时，I ＝ 0； P(x) = 0时，I ＝ ?； 满足上述3条件的关系式如下： －信息量的定义 一.信息度量的方法(重点) 上式的单位由对数底的取值决定。 若对数以2为底时单位是“比特”（bit — binary unit的缩写）；（现阶段我们主要采用这个单位） 若以e为底时单位是“奈特”（nat—nature unit的缩写）； 若以10为底时单位是“哈特”（Hart — Hartley的缩写）。 通常采用“比特”作为信息量的实用单位，这时有 一.信息度量的方法(重点) 【例】 设一个二进制离散信源，以相等的概率发送数字“0”或“1”，则信源每个输出的信息含量为 在工程应用中，习惯把一个二进制码元称作1比特 一.信息度量的方法(重点) 若有M个等概率波形（P = 1/M），且每一个波形的出现是独立的，则传送M进制波形之一的信息量为 若M是2的整幂次，即 M = 2k，则有 当M = 4时，即4进制波形，I = 2比特， 当M = 8时，即8进制波形，I = 3比特。 一.信息度量的方法(重点) 对于非等概率情况： 设：一个离散信源是由M个符号组成的集合，其中每个符号xi (i = 1, 2, 3, …, M)按一定的概率P(xi)独立出现，即 且有 则x1 , x2, x3,…, xM 所包含的信息量分别为 于是，每个符号所含平均信息量为 由于H(x)同热力学中的熵形式相似，故称它为信息源的熵 一.信息度量的方法(重点) 分辨率的表示法 在图像显示应用中的图像分辨率表示法 物理尺寸：每毫米线数(或行数) 行列像素：像素/行×行/幅，如640像素/行×480行/幅 像素总数：如数码相机上标的500万像素 单位长度上的像素：如像素每英寸(pixels per inch，PPI) 线对(line pair)数：以黑白相邻的两条线为一对，如5对线 在图像数字化和打印应用中的图像分辨率表示法 通常用多少点每英寸(dots per inch，DPI)表示，如300 DPI 分辨率越高，图像质量就越高，像素就越多，要求存储容量就越大 二、分辨率 课堂练习 例：在1200 ×800分辨率的显示器上分别显示800 ×600分辨率，600 ×400的图像，会占屏幕的多大面积。 解 (800 ×600) /（1200 ×800） = 1/2 (600 ×400) /（1200 ×800） = 1/4 存储介质的分类(现状) 磁存储介质 光存储介质 半导体存储介质 存储介质一般分为光存储（CD，DVD等）、磁存储（硬盘，磁带等）和半导体（电）存储（内存条、U盘等）。 闪存（Flash ROM），是一种采用集成电路的可多次擦写的存储器，广泛用于U盘、数码设备的存储卡等领域。有体积小便于携带，不怕震动，不磨损，保存时间长等优点。和其他存储设备相比主要缺点是速度慢，容量小。随着科技的进步，这些缺点也在逐渐被克服，高端的闪存容量已经达到4GB以上，擦写速度也达到每秒钟几十兆。 a1 a2 a3 a4 a5 a6 a7 0.20 0.19 0.18 0.17 0.15 0.10 0.01 10 11 000 001 010 0110 0111 信源符号 概率 Huffman码 编码过程 Huffman编码过程 数据结构的图示 一般用示意图表示数据结构。用小圆圈代表数据元素，用小圆圈之间的连线代表小圆圈对应的数据元素具有的关系，如果强调关系的方向性，可用带箭头的线段表示关系。具体地讲，若d1和d2表示两个数据元素，它们具有关系＜d1,d2＞，则表示为如图6-3所示的结构。 图中表示的只是一个抽象关系，不代表具体意义。对于具体的应用，也可以表示家族关系中的父子关系。例如，＜d1,d2＞可代表d1是d2的父亲。 三、常见的几种数据结构 至此，我们已经知道数据结构是想要解决非数值计算问题的求解，我们也知道了数据结构应该包含两层含义，即数据的逻辑结构和物理结构。但