4.2 信道容量.pdf

复习 DMC(平稳)模型 X ,P y / x ,Y { ( ) } { } Y {0,1,2,..., J −1} X 0,1,2, ,K −1 y 0 y 1 ... y J −1 x 0 ⎡ p(0|0) p(1|0) pJ( =−1|0) ⎤ ⎢ ⎥ x 1 ⎢ p(0|1) p(1|1) pJ( =−1|1) ⎥ ⎢ ⎥ ⎢ ⎥ x K=−1 p(0|K−1) p(0|K−1) pJ( −1|K−1) ⎣ ⎦ 复习 定义：信道容量 C max{I( X; Y)} 约束条件 qk ≥0, ∑qk 1. q { } k k 最佳输入分布的充分必要条件为：对任何满足q(k)0 的k ， J−1 p(y |k ) I(X k;Y) p(y |k)log ∑ K−1 y 0 q(x)p(y| x) ∑ x 0 都取一个相同的值；对任何满足q(k)=0 的k ， I(X=k; Y) ≤此相同的值。 复习 关于输入为对称 关于输出为对称 准对称信道几个简单的结论 （1）准对称信道一定是关于输入为对称的。 （2 ）对称信道不仅关于输入为对称的，也关于输 出为对称的。 （3 ）对称DMC 当输入分布等概时，输出分布等 概。 （4 ）准对称DMC 当输入分布等概时，输出分布局 部等概。（准对称DMC 当输入分布等概时，若j 和l 属于转移概率矩阵的同一个列子集，则w =w 。） j l （5 ）对称信道未必有J=K 。 复习 准对称信道几个简单的结论 ⎡0.8 0.1 0.1⎤ ⎡1/ 3 1/ 3 1/ 3⎤ ⎢ ⎥ ⎢ ⎥ ⎣0.1 0.1 0.8⎦ ⎣1/ 3 1/ 3 1/ 3⎦ 输入等概时达到信道容量 J −1 p (y |k ) J