关于相关信源的码率界限及其编码的评述.docx

关于相关信源的码率界限及其编码的评述 摘要 随着多媒体移动通信技术的快速发展，人们对信息可靠且有效的传输需求日益增长，但是由于受到无线带宽资源和多径衰落等因素的影响，很难实现高速可靠的数据传输。要解决这一矛盾我们必须采用全新的通信理论及技术。本文从信息论的角度对相关信源编码的相关理论进行了介绍，包括单符号信源编码的理论基础，相关信源的编码理论和码率界限和其编码。 关键字：信源编码，相关信源编码，分布式信源编码，Slepian-Wolf编码理论， Abstract With the development of multimedia mobile communication technologies, the demand for reliable and efficient transmission of information is growing. However, due to the impact of limited wireless bandwidth resources, multipath fading and other factors, it is difficult to achieve high-speed and reliable data transmission. To solve this problem we must adopt some new communication theories and technologies. This article makes an introduction to the related theories of correlated source coding from the perspective of information-theoretic security, including the basic theory of single symbol source coding and correlated source coding. KEYWORD：Source Coding，Correlated Source Coding，Distributed Source Coding，Coding Theory of Slepian-Wolf 引言 信源编码是一种以提高通信有效性为目的而对信源符号进行的变换，或者说为了减少或消除信源冗余度而进行的信源符号变换。具体说，就是针对信源输出符号序列的统计特性来寻找某种方法，把信源输出符号序列变换为最短的码字序列，使后者的各码元所载荷的平均信息量最大，同时又能保证无失真地恢复原来的符号序列。信源编码的作用之一是设法减少码元数目和降低码元速率，即通常所说的数据压缩；作用之二是将信源的模拟信号转化成数字信号，以实现模拟信号的数字化传输。最原始的信源编码就是莫尔斯电码，另外还有ASCII码和电报码都是信源编码。但现代通信应用中常见的信源编码方式有：Huffman编码、算术编码、L-Z编码，这三种都是无损编码，另外还有一些有损的编码方式。信源编码的目标就是使信源减少冗余，更加有效、经济地传输，最常见的应用形式就是压缩。 而相关信源编码与传统信源编码不同。它一般采用信道码编码技术得以实现，因而可以看作是一种联合信源-信道编码技术。虽然分布式编码理论早在二十多年前就已经提出，但Slepian-Wolf理论[1]和Wyner-Ziv理论[2]只给出了信源编码的理论根据，并没有给出一种具体的实现方法，因此这方面的进展并不显著。直到近几年，研究者才找到实现分布式信源编码的可行方法，发现了信源编码和信道编码的密切关系。如果信道码能够渐近地接近信道容量，那么把它应用于分布式信源编码就能渐近地接Slepian-Wolf理论极限，Pradhan和Ramchan－dran提出了分布式编码的实现方案[3]，一些具体的实现方案陆续的提出[4-6]，从理论上证明了使用Turbo码可以接Selpian-Wolf编码效率[6]，并且证明了使用LDPC 码可以达到比Turbo码更好的效果[7]。 本文从信源编码的基本理论出发，介绍了相关信源的分布式编码的信息论基础。重点介绍了Slepian-Wolf理论即相关信源的码率界限，对几种不同的编码方式进行了简单介绍和评述。 相关信源编码的理论 单符号信源编码 信源编码理论是信息论的重要内容，信源是多种多样的，但信源符号之间具有一定的相关性，因此可以利用信源的冗余度来进行压缩，通过编码让符号间解除相关性，尽可能独立。或是压缩每个信源的平均比特数，从而提高编码效率。它使信源编码的具体设计和架构更加明确。 而香农第一定理明确的提出了信源编码的理论依据。即在无失真的信源编。码当中，离散信源的熵为H(X)，对n次扩展