信息论与编码（汤学明）信息论与编码——B.doc
文本预览下载声明
计算机学院 2011 — 2012 学年第 一 学期
《信息论与编码》考试试卷
B卷 闭卷 考试时间： 年 月 日
专业 信息安全 班级 学号 学生姓名
题号 一 二 三 四 五 六 七 总分 核对人 题分 10 20 16 15 15 12 12 100 得分
得分 评卷人 一、填空题（共10分，每空1分） (1) 信息与信号的关系可表述为：信息是信号 ，信号是信息的 。
(2) 必然发生的随机事件的自信息量为 ，不可能的随机事件若发生，则能提供的自信息量为 。
(3) 限平均功率的最大连续熵仅与信源随机变量的 有关，其表达式为 。
(4) 固定信源，平均互信息是信道转移概率分布的 函数；反之，固定信道，平均互信息是信源概率分布的 函数。
(5) 某单符号离散信源取值于4种不同符号构成的符号集，对其进行3次扩展，则扩展信源的符号序列数共有 种，扩展信源的最大熵为 。
得分 评卷人 二、名词解释（共20分，每小题5分） (1) 平均互信息：
(2) 熵功率：
(3) 信数据处理定理：
(4) 信道疑义度：
得分 评卷人 三、计算题I（共16分）
X Y 0 1 2 0 0.2 0.3 0.5 1 0.7 0.2 0.1 已知某单符号离散信源Ｘ以40%的概率发出“0”，60%的概率发出“1”，经由右表所示的转移概率到达信宿Y，试计算：
(1) 联合概率及反向转移概率； （3分）
(2) 信息熵； （5分）
(3) 条件熵及平均互信息； （5分）
(4) 如果对X进行定长无失真信源编码，若要求编码效率为95%，译码差错率为，需要多少个信源符号一起编码？ （3分）
得分 评卷人 四、计算题II（共15分） 设有一个2进制二阶马尔可夫信源，其信源符号集为{0, 1}，条件概率为：
试求：
(1) 信源全部状态及一步状态转移概率矩阵； （4分）
(2) 画出完整的二阶马尔可夫信源的状态转移图； （4分）
(3) 该二阶马尔可夫信源的极限熵和冗余度。 （7分）
得分 评卷人 五、计算题III（共15分） 已知某离散信道的概率转移矩阵为：试求：
(1) 该信道的信道容量C； （8分）
(2) 达到信道容量的最佳输入概率分布。 （7分）
得分 评卷人 六、计算题IV（共12分） 设有某二元离散信源的概率分布为：，其失真矩阵定义为：，该信源通过某信道，试求：
(1) 该信源的平均失真度 （6分）
(2) 该信源的信息率失真函数 （3分）
(3) 达到平均失真度时通信系统的价值率 （3分）
得分 评卷人 七、信源编码题（共12分） 设有一单符号离散无记忆信源如下：
，试求：
(1) 2进制费诺编码、平均码长及其编码效率。 （5分）
(2) 3进制哈夫曼编码、平均码长及其编码效率。 （7分）
- 1 -
显示全部