6.3 信道编码定理.pdf
信道编码定理
信道编码定理的中心问题
pb、R、C以及N之间的关系
输入输出
LˆL
u∈Uu∈U
mxm∈XNym∈YNm
L纠纠L
级错错级
移编离散信道译移
MM
存码码存
器器器器
干扰
Shannon第二编码定理
p
对于给定的RC,通过增加N就能使为任意小;
b
RCp
反之,若,就会趋于1。
b
Fano不等式
(u,u,L,u)(x1,x2,L,xN)(y1,y2,L,yN)(v1,v2,L,vL)
12L
信道编码信道信道译码
ULXNYNVL
p和H(ULVL)有何关系?
b
uxyv
L=1信道编码信道信道译码
UXYV
当收到V后关于U的平均不确定性或含糊度若不
为0,就一定存在有错误,可以表示为
pbf[H(UV)]
Fano不等式
−+≥
pblog(M1)H(pb)H(UV)
设空间U和V各有M个元素u1,u2,L,uM,平均误码率pb为
pQ(u)p(vu)w(v)p(ev)
∑∑
bmjm∑j