ch-限失真信源编码.ppt

* 0 1 0 ε 1 7.1.1 失真函数——举例 * 失真度与平均失真度 矢量失真函数/字失真度： 7.1.1 失真函数——矢量失真函数 ——矢量失真矩阵 7.1.2 平均失真度量 * 信源 单个符号的失真函数 试验信 道特性 * 7.2 信息率失真函数7.2.1 D允许信道——定义 信源 试验信道 信宿 * 失真度与平均失真度 7.2.1 D允许信道——理解 信源 试验信道 信宿 * 信息率失真函数/率失真函数： 对 离散无记忆信源： 7.2.2 信息率失真函数的定义 信道容量 率失真函数 * 信道固定,信源分布可变 信源固定，失真度量固定，信道可变 选择信源，使得互信息最大 选择试验信道，使得互信息最小 研究信道容量是为了充分利用特定信道，使传输的信息量最大而错误概率任意小 为了在一定的失真条件下，尽可能用最少的码符号来传送信源消息 信道编码定理：R C 限失真信源编码定理： R R(D) 7.2.2 信息率失真函数的定义——与信道容量对比 * 7.2.3 率失真函数的性质 * 7.3 限失真信源编码定理和逆定理 7.3.1 限失真编码定理 * 7.3.1 限失真编码定理——理解 在允许失真D的条件下，R(D)是可达的信息传输率的下限。 * 7.3.2 限失真编码逆定理 * * 信息对抗技术研究所 教师：李琼 哈尔滨工业大学 计算机科学与技术学院 信息对抗技术研究所 计算机科学与技术 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 第7章 限失真信源编码 很多情况下，不可能进行无失真信源编码—— 如，连续信源的绝对熵 H 为无限大 很多应用中，没必要进行无失真信源编码—— 如，人眼所能分辨的灰度级 、颜色都是有限的. 人耳仅能感受 几KHz~十几KHz 的语音信号. 为什么研究 限失真信源编码？ * 图像压缩 8K 10K 14K * 音频压缩 请听一段著名的演讲： 曾经有一份真诚的爱情……. 曾经有一份真诚的爱情……. 曾经有一份真诚的爱情……. 64Kbps 128Kbps 256Kbps * 信 源 信 源 编 码 器 信 道 编 码 器 保 密 编 码 器 信 源 译 码 器 信 道 译 码 器 信 宿 ⊕ ⊕ 解 密 译 码 器 噪 声 源 调 制 器 解 调 器 信道 广义无干扰信道 试验信道 * 信 源 信 宿 试验信道 简化的通信系统模型 * 主要内容 7.1 失真测度 7.2 信息率失真函数 7.3 限失真信源编码定理和逆定理 * 7.1 失真测度 7.1.1 失真函数——单个符号间的失真函数 语音处理中，常用失真度量： Itakura-Saito 距离 图像处理中，常用失真度量： 平方误差失真 * 失真度与平均失真度 ——失真矩阵 7.1.1 失真函数——单个符号间的失真矩阵 信息对抗技术研究所 教师：李琼 哈尔滨工业大学 计算机科学与技术学院 信息对抗技术研究所 计算机科学与技术 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 计算机科学与技术学院 * *