朱雪龙《应用信息论基础》习题第四章答案.doc

第4章习题答案 4.1 设有离散无记忆信道，输入X：，输出Y：，当输入/出x和y的互信息也为一随机变量，试证：当时，平均互信息达到信道容量C。 证明： 由可知，以概率1取常数，所以有 满足定理4.3关于离散无记忆信道达到信道容量的充要条件。且此时平均互信息 所以当时，平均互信息达到信道容量C。 证毕 4.2 设某信道的输入X取值，又信道有加性噪声n，其分布密度为，求信道容量。 答：C = 0.5bit, 当输入的概率分布为时达到信道容量。 设在图 4.10 的一般高斯信道中，试求信道的容量费用函数 解： 根据 可推得的一个方程，如下： (3) 解出(3)式,即可求得 而 故可求。 4.4 设X和Y为信道的输入和输出，两者均取值于集合。已知，，定义，求证： 其中。 证明： 法一：构造随机变量，满足 于是，，从而 又由，可得 (a) 而 (b) (c) 将(b), (c)代入(a)可得 成立。 证毕 法二： 于是有 所以有。 证毕 4.5 已知信道转移概率矩阵如下，求此信道的信道容量。 x y 0 1 2 3 0 1/3 1/3 1/6 1/6 1 1/6 1/3 1/6 1/3 答：0.04bit，当输入等概时达到信道容量。 4.6 设有信道，输入X的字母表为：，噪声为独立加性噪声Z，Z的取值也在集合中，但两者相加为模K相加，即输出 模K，试求此信道的信道容量。 答：，输入等概时达到信道容量 4.7 设有二元对称信道，其中为模2和，，：，但不是独立随机序列，试证： 其中，。 证明： 对任意输入分布有下式成立 取输入分布使得序列统计独立，且，设这时的互信息为，这时有 ， 所以 证毕 4.8 设有输入为X，输出为的高斯信道，其中，，X的最大功率受限P，，其中，试求： 1) 2) 时的信道容量。 证明： (a) 又由 所以 代入(a)，可得。 证毕 2)答：，当输入是方差为P的高斯分布时达到信道容量。 B4-4 应用信息论基础 B4-3 习 题 答 案