关于相关信源的码率界限及其编码的评述
- 格式:docx
- 大小:189.84 KB
- 文档页数:7
自从我国广电进入数字化变革以来。
在卫星广播系统.有线电视系统.电视台制播系统的数字化初期.人们毫无争议地选择了MPEG-2信源编码标准.这是一个历史的必然。
而今.全国乃至全球的数字化变革正在不断深化.涉及到广电的各个业务角落,甚至深入到网络融合的新媒体业务中;所到之处.广大用户切身感受到的是数字化带来的感官痛快,但却给工程技术开发人员造成了心理”郁闷”.倍感头痛的是信源编码标准的“两难选择”:是采用MPEG一2,还是采用第二代信源编码标准.或是H.264,或是AVS国标。
工程实践中的”两难”出现的频率极高.无论数字电视地面广播国标的推广、奥运高清节目制作和传播、移动多媒体手机电视,还是在直播卫星系统.以及电信运营的IPl’v等等新媒体.新业务中.都会出现这种“两难“。
因此,本文试图透过评述信源编码标准的历史演进,来分析和推理面向未来信源编码大趋势的现实对策。
一、国际信源编码标准的演进从20世纪80年代开始.现代信源编码标准进入实质性研究阶段(不包括算法和体系的研究)。
1984年以后,由现已并入nTU-T的国际电报电话咨询委员会【ccrvr)和国际标准化机构ISO所属MPEG组织制定了一系列信源编46D’GITCW200e’1辽宁电视台赵季伟码技术标准和建议。
其中包括面向视频会议的H.261。
H.262建议和面向视频广播的MPEG一1/2/3标准.这些建议和标准的制订有力地推动了数字电视和多媒体技术的实用化和产业化。
1984年ccrvr第15研究组成立了一个专家组.专门研究电视电话的信源编码问题.经过5年以上的研究和努力,在1990年12月完成和批准了CCITT推荐书H.261。
在H.261的基础上.1996年ITU—T完成了H.263编码标准,在很少增加编码算法复杂度的基础上.H.263能够以更低的速率提供更好的图像质量。
目前,H.263编码是D视频通信采用最多的—种信源编码方法。
1998年Ⅱu-T推出的H.263+是H.263建议的第二版.它提供了12个新的可协商模式和其他特征.进一步提高了压缩编码性能。
信源编码与信道编码⼀.信源编码和信道编码的发展历程信源编码:最原始的信院编码就是莫尔斯电码,另外还有ASCII码和电报码都是信源编码。
但现代通信应⽤中常见的信源编码⽅式有:Huffman编码、算术编码、L-Z编码,这三种都是⽆损编码,另外还有⼀些有损的编码⽅式。
信源编码的⽬标就是使信源减少冗余,更加有效、经济地传输,最常见的应⽤形式就是压缩。
相对地,信道编码是为了对抗信道中的噪⾳和衰减,通过增加冗余,如校验码等,来提⾼抗⼲扰能⼒以及纠错能⼒。
信道编码:1948年Shannon极限理论→1950年Hamming码→1955年Elias卷积码→1960年 BCH码、RS码、PGZ译码算法→1962年Gallager LDPC(Low Density Parity Check,低密度奇偶校验)码→1965年B-M译码算法→1967年RRNS码、Viterbi算法→1972年Chase⽒译码算法→1974年Bahl MAP算法→1977年IMaiBCM分组编码调制→1978年Wolf 格状分组码→1986年Padovani恒包络相位/频率编码调制→1987年Ungerboeck TCM格状编码调制、SiMonMTCM多重格状编码调制、WeiL.F.多维星座TCM→1989年Hagenauer SOVA算法→1990年Koch Max-Lg-MAP算法→1993年Berrou Turbo码→1994年Pyndiah 乘积码准最佳译码→1995年 Robertson Log-MAP算法→1996年 Hagenauer TurboBCH码→1996MACKay-Neal重新发掘出LDPC码→1997年 Nick Turbo Hamming码→1998年Tarokh 空-时卷格状码、AlaMouti空-时分组码→1999年删除型Turbo码虽然经过这些创新努⼒,已很接近Shannon极限,例如1997年Nickle的TurboHamming码对⾼斯信道传输时已与Shannon极限仅有0.27dB相差,但⼈们依然不会满意,因为时延、装备复杂性与可⾏性都是实际应⽤的严峻要求,⽽如果不考虑时延因素及复杂性本来就没有意义,因为50多年前的Shannon理论本⾝就已预⽰以接近⽆限的时延总容易找到⼀些⽅法逼近Shannon 极限。
离散数学中的编码理论知识框架在离散数学中的编码理论知识框架中,我们将讨论编码理论的基本概念、常用编码技术以及编码的应用等方面。
编码理论是计算机科学和信息工程领域的重要基础理论,它在数据传输、存储和处理等方面起着关键作用。
一、基本概念编码是将一种信息转化为另一种形式的过程。
在编码理论中,我们需要了解以下几个基本概念:1.1 信源:信源是指产生信息的源头,可以是离散的符号、字母、数字或其他可以表示信息的物体。
1.2 码字:码字是用于表示信源输出结果的编码序列。
1.3 编码:编码是将信源输出结果映射为码字的过程。
1.4 解码:解码是将接收到的码字恢复为原始信源输出结果的过程。
1.5 码长:码长是指一个码字的长度,它表示了编码所需的比特数或数字的位数。
1.6 前缀编码:前缀编码是指没有任何码字是其他码字的前缀的编码方式。
1.7 码率:码率是指单位时间内传输的码字数或码字位数。
二、常用编码技术在编码理论中,有多种常用的编码技术,下面将介绍其中几种:2.1 哈夫曼编码:哈夫曼编码是一种基于出现频率进行编码的无损编码技术。
它通过构建哈夫曼树来实现对信源输出结果的编码,使得出现频率高的符号有较短的码字,从而达到压缩数据的效果。
2.2 霍夫曼编码:霍夫曼编码是一种基于信源输出结果的概率分布进行编码的无损编码技术。
它通过构建霍夫曼树来实现对信源输出结果的编码,使得频率较高的符号有较短的码字,从而达到压缩数据的目的。
2.3 线性编码:线性编码是指使用线性函数对信源输出结果进行编码的技术。
常见的线性编码方式有奇偶校验码、循环冗余校验码等。
2.4 网络编码:网络编码是指在网络通信中对数据进行编码的技术。
它能够通过将多个数据包进行线性组合,使得接收方只需接收一部分数据包即可恢复出原始数据。
三、编码的应用编码在现代通信中有着广泛的应用,下面将介绍几个常见的应用领域:3.1 数据压缩:编码技术在数据压缩中扮演着重要角色。
通过合理选择编码方式,可以减少数据的冗余信息,从而实现对数据的压缩存储和传输。
数字通信中的信源编码和信道编码摘要:如今社会已经步入信息时代,在各种信息技术中,信息的传输及通信起着支撑作用.而对于信息的传输,数字通信已经成为重要的手段。
本论文根据当今现代通信技术的发展,对信源编码和信道编码进行了概述性的介绍。
关键词:数字通信;通信系统;信源编码;信道编码Abstract:Now it is an information society。
In the all of information technologies,transmission and communication of information take an important effect。
For the transmission of information,Digital communication has been an important means。
In this thesis we will present an overview of source coding and channel coding depending on the development of today’s communica tion technologies.Key Words:digital communication; communication system; source coding; channel coding1.前言通常所谓的“编码”包括信源编码和信道编码。
编码是数字通信的必要手段。
使用数字信号进行传输有许多优点, 如不易受噪声干扰,容易进行各种复杂处理,便于存贮,易集成化等。
编码的目的就是为了优化通信系统.一般通信系统的性能指标主要是有效性和可靠性.所谓优化,就是使这些指标达到最佳。
除了经济性外,这些指标正是信息论研究的对象.按照不同的编码目的,编码可主要分为信源编码和信道编码。
在本文中对此做一个简单的介绍.2.数字通信系统通信的任务是由一整套技术设备和传输媒介所构成的总体—-通信系统来完成的.电子通信根据信道上传输信号的种类可分为模拟通信和数字通信.最简单的数字通信系统模型由信源、信道和信宿三个基本部分组成.实际的数字通信系统模型要比简单的数字通信系统模型复杂得多。
信源编码与信道编码解析摘要:衡量一个通信系统性能优劣的基本因素是有效性和可靠性,有效性是指信道传输信息的速度快慢,可靠性是指信道传输信息的准确程度。
在数字通信系统中,信源编码是为了提高有效性,信道编码是为了提高可靠性,而在一个通信系统中,有效性和可靠性是互相矛盾的,也是可以互换的。
我们可以用降低有效性的办法提高可靠性,也可以用用降低可靠性的办法提高有效性。
本文对信源编码和信道编码的概念,作用,编码方式和类型进行了解析,以便于更好的理解数字通信系统的各个环节。
关键字:信源编码信道编码abstract: the measure of a communication system the basic factor is quality performance efficiency and reliability, effectiveness refers to channel to transfer information machine speed, reliability is to point to the accuracy of the information transmission channel. in digital communication system, the source coding is in order to improve the effectiveness, channel coding is in order to improve the reliability, and in a communication system, effectiveness and reliability is contradictory, is also can be interchanged. we can use to reduce the availability of improving the reliability, also can use to improve the effectiveness ofreduces reliability. in this paper, the source coding and channel coding concept, function, coding mode and the types of analysis, in order to better understand all aspects of digital communication systems.key words: the source coding channel coding1引言数字通信系统:信源是把消息转化成电信号的设备,例如话筒、键盘、磁带等。
信源编码和信源解码信源编码和信源解码字、符号、图形、图像、音频、视频、动画等各种数据本身的编码通常称为信源编码,信源编码标准是信息领域的基础性标准。
无论是数字电视、激光视盘机,还是多媒体通信和各种视听消费电子产品,都需要音视频信源编码这个基础性标准。
大家用电脑打字一定很熟悉,当你用WORD编辑软件把文章(DOC文件)写完,存好盘后,再用PCTOOLS工具软件把你的DOC 文件打开,你一定能看到你想象不到的东西,内容全是一些16进制的数字,这些数字叫代码,它与文章中的字符一一对应。
现在我们换一种方法,用小画板软件来写同样内容的文章。
你又会发现,用小画板软件写出来的BMP文件,占的内存(文件容量)是DOC文件的好几十倍,你知道这是为什么?原来WORD编辑软件使用的是字库和代码技术,而小画板软件使用的是点阵技术,即文字是由一些与坐标位置决定的点来组成,没有使用字库,因此,两者在工作效率上相差几十倍。
[信源]->[信源编码]->[信道编码]->[信道传输+噪声]->[信道解码]->[信源解码]->[信宿]目前模拟信号电视机图像信号处理技术就很类似小画板软件使用的点阵技术,而全数字电视机的图像信号处理技术就很类似WORD编辑软件使用的字库和代码技术。
实际上这种代码传输技术在图文电视中很早就已用过,在图文电视机中一般都安装有一个带有图文字库的译码器,对方发送图文信号的时候只需发送图文代码信息,这样可以大大地提高数据传输效率。
对于电视机,显示内容是活动图像信息,它哪来的“字库”或“图库”呢?这个就是电视图像特有的“相关性”技术问题。
原来在电视图像信号中,90%以上的图像信息是互相相关的,我们在模拟电视机中使用的Y/C(亮度信号/彩色信号)分离技术,就是利用两行图像信号的相关性,来进行Y/C分离。
如果它们之间内容不相关,Y/C 信号则无法进行分离。
全数字信号电视也一样,如果图像内容不相关,则图像信号压缩也就要免谈。
运营探讨无线网络中的信道编码综述周宇翔1,周华2南京210044;2.南京信息工程大学在无线网络中,由于没有有线通信信道,信息源和接收端之间的信息共享非常复杂,因此无线信道经常受到许多干扰的影响而导致信宿接收到错误的码字。
为了检测和纠正传输数据中的错误,信道编码技术应运而生。
信道编码能够在传输的数据中找出错误,并且往往有着一定的纠错能力,能够恢复出原始数据。
在噪声较大的无线网络中通常需要优异的编码码字,以保证较好的传输性能。
以此为基础的数据传输通常有两个过程,一个是利用映射或编码的方式将输入数据转换为信道输入序列,另一个是利用反向映射或解码以检索原始传输数据。
信道编码的类型有很多,常用的有线性分组码、卷积码、Turbo码以及LDPC码等。
通过对无线网络中的信道编码进行论述,信道编码;无线网络;线性分组码;卷积码;Turbo码;LDPCOverview of Channel Coding in Wireless NetworksZHOU Yuxiang1, ZHOU Hua. Changwang School of Honors, Nanjing University of Information Science & Technology, Nanjing. School of Electronics and Information Engineering, Nanjing University of Information Science and Technology,图1 码字传输原理在分组码中,信息序列被划分成固定长度的消息分组,每一个消息分组含有k 个信息比特,一共有个不同的消息。
在(n ,k )分组码中,这k 个消息比特按照一定的编码规则被编码成长为n (n >k )的二进制序列c =(c 1,c 1,…,c n-1),由编码器产生的n -k 个添加到每个输入消息中的比特称为冗余比特。
WCDMA技术的信源编码和信道编码WCDMA网络是全球商用时间最长,技术成熟、可演进性最好的,全球第一个3G商用网络就是采用WCDMA制式。
我国采用了全球广泛应用的WCDMA 3G技术,目前已全面支持HSDPA/HSUPA,网络下载理论最高速率达到14.4Mbps。
2G无线宽带的最高下载速度约为150Kbps,我国的WCDMA网络速度几乎是2G网络速度的100倍。
支持业务最广泛,基于WCDMA成熟的网络和业务支撑平台,其所能实现的3G业务非常丰富。
无线上网卡、手机上网、手机音乐、手机电视、手机搜索、可视电话、即时通讯、手机邮箱、手机报等业务应用可为用户的工作、生活带来更多的便利和美妙享受。
终端种类最多,截至2008年底,支持WCDMA商用终端的款式数量超过2000款,全球主要手机厂商都推出了为数众多的WCDMA手机。
国内覆盖广泛,截至2009年9月28日,联通3G网络已成功在中国大陆285个地市完成覆盖并正式商用,新覆盖的城镇数量还在不断增长中,联通3G网络和业务已经覆盖了中国绝大部分的人口和地域。
开通国家最广,可漫游的国家和地区最多,截至2008年底,全球已有115个国家开通了264个WCDMA网络,占全球3G商用网络的71.3%。
截至2009年9月28日,中国联通已与全球215个国家的395个运营商开通了。
WCDMA的优势明显,技术成熟,在WCDMA物理层来看,信源编码和信道编码是WCDMA技术的基础,信源编码是采用语音编码技术,AMR语音编码技术是由基于变速率多模式语音编码技术发展而来,主要原理在于:语音编码器模型由一系列能提供多种编码输出速率与合成质量的声码器构成AMR支持八种速率。
鉴于不同信源比特对合成语音质量的影响不同AMR 语音编码器输出的话音比特在传输之前需要按照它们的主观重要性来排序分类,分别采用不同保护程度的信道编码对其进行编码保护。
信源编码AMR模式自适应选择编码器模式以更加智能的方式解决信源和信道编码的速率匹配问题,使得无线资源的配置和利用更加灵活和高效。
信源编码技术
信源编码技术是一种将源信号进行压缩表示的技术。
它的主要目的是通过减少表示信号所需的比特数量来节省传输或存储空间。
信源编码技术可以分为两大类:有损编码和无损编码。
有损编码是指在信号压缩过程中会丢失一定的信息,但这些信息对于人类感知系统来说并不重要。
这种编码方法能够显著减少信号的大小,适用于音频、视频等多媒体信号的压缩。
无损编码是指在信号压缩过程中不会丢失任何信息。
这种编码方法可以完全恢复原始信号,适用于要求高精度的数据传输和存储,如文本文件和图像等。
常见的信源编码技术包括:
1. 霍夫曼编码:根据信源中各符号出现的概率,为每个符号分配一个可变长度的编码,以便高频率的符号使用较短的编码,低频率的符号使用较长的编码。
2. 道格拉斯-普克算法:将图像中的连续区域划分为不同的矩
形块,通过对每个块的位置和内容进行编码来压缩图像。
3. 简单轮廓编码(RLE):对连续重复出现的符号或模式进行计数,然后用一个计数符号和其重复出现的符号或模式来表示。
4. 差分编码:将连续的信号样本之间的差异进行编码,以减少表示样本所需的比特数。
5. 预测编码:基于信号中的统计特性对下一个样本进行预测,并将预测误差进行编码。
信源编码技术在数据传输和存储中起着重要的作用,可以通过减少数据的大小来提高效率,并在保持良好质量的同时节省传输带宽和存储空间。
信道编码的码率是指每码元携带的平均信息量,它说明了信道的利用效率,是衡量信道编码性能的一个重要参数。
根据信道的情况不同,信道编码方案也有所不同。
在DVB-T中,由于无线信道存在多径干扰和其他干扰,其信道编码为RS+外交积+卷积码+内交积,其中RS作为外编码,其编码效率为188/204(又称外码率),卷积码作为内编码,其编码效率有1/2、2/3、3/4、5/6、7/8五种(又称内码率)选择,信道的总编码效率是两种编码效率的级联叠加。
在DVB-C中,由于是有线信道,信道比较“干净”,其信道编码为RS+交积,一般DVB-C的信道物理带宽是8MHZ,在符号率为6.8966Ms/s,调制方式为64QAM的系统,其总传输率是41.379Mbps,由于其编码效率为188/204,所以其有效传输率是41.379*188/204=38.134Mbps。
在DVB-S中,由于它是无线信道,所以其信道编码为RS+交积+卷积码。
以上内容仅供参考,如需更准确全面的信息,可以咨询通信领域或相关工程领域业内人士。
画质、码率、帧数、分辨率、体积的基础编码知识画质、码率、帧数、分辨率、体积的基础编码知识什么是视频编码率?可以简单的理解为,衡量文件体积大小的关键参数,表示每秒钟多少KB的参数。
观察会发现他的单位是Kbps,其实Kbps是Kbit/s的意思,8Kbit/s=1KB/s。
也就是说800Kbps意思就是每秒视频就要占用100KB磁盘空间(当然这里没有加上音频所占的体积)。
上面举例只是让你对视频编码率(以下简称为:码率)有一个具体的形象,其实不用自己算,WisMencoder都已经帮你算好了,就在软件的右下角显示了当前配置每小时和每分钟所需要占用的磁盘空间。
(只是理论值,实际压缩后的编码率可能有一定误差)所以你可以理解为压缩同一个视频,视频编码率越大,文件体积越大。
和画质的关系:文件体积大了,价值何在?可以认为:视频编码率越大,画质越好,马赛克越少。
什么是帧数?我们都知道电影是由一张张的图片组成的,播放电影时,一张张画面快速连续的出现。
这里其中的每张画面称之为“帧”。
帧数在WisMencoder的单位其实是fps,即全称应为每秒的帧数。
也就是每秒含有多少张画面。
显然,每秒含有的画面数越多,则画面显得越连续,越少,则画面越“卡”。
和画质的关系:帧数也与画质有关!在同一视频,同一码率的情况下,帧数越大,则画质越不好。
尤其是运动的画面。
因为每张画面会分担每秒有限的文件体积,如果画面越多,那么每张画面所能表现的内容就越有限。
什么是画面大小?这里的画面大小,单位是像素,而不是英寸和厘米。
这要弄清楚。
画面大小也称为分辨率。
每个像素就是一个点,640x480就表示该视频的每张画面是由宽640点,高480点组成的。
现在相机所说的像素也是这个概念,只不过相机所说的像素是宽和高的乘积值。
很容易理解,画面大小越大的视频,能反映的图像就越细致,越清楚。
就好比你用一个5x5的棋盘摆一个图形和用一个50x50摆一个图形,5x5很难反映50x50的细节一样。
sa不同信道编码码率
sa不同信道编码码率指的是在不同的通信信道下,对传输的信息进行不同的编码以及采用不同的码率来进行传输。
例如,在低信噪比的无线信道下,需要采用更高的编码率来保证传输质量,而在高信噪比的信道下则可以采用较低的编码率来进行传输。
sa不同信道编码码率对于通信技术的发展具有非常重要的意义。
通过对不同信道的分析和比较,可以选择最适合的编码和码率来进行传输,从而提高传输效率和传输质量。
同时,对于某些特殊的应用场景,如视频传输等,需要特别的编码和码率来满足其实时性和清晰度等要求。
sa不同信道编码码率的选择是一个复杂的问题,需要考虑多方面的因素。
一方面,需要考虑信道的特性,如信噪比、带宽等因素,另一方面,还需要考虑传输的数据类型和传输目的等因素。
因此,在实际应用中,需要根据具体情况进行选择和调整。
- 1 -。
关于相关信源的码率界限及其编码的评述摘要随着多媒体移动通信技术的快速发展,人们对信息可靠且有效的传输需求日益增长,但是由于受到无线带宽资源和多径衰落等因素的影响,很难实现高速可靠的数据传输。
要解决这一矛盾我们必须采用全新的通信理论及技术。
本文从信息论的角度对相关信源编码的相关理论进行了介绍,包括单符号信源编码的理论基础,相关信源的编码理论和码率界限和其编码。
关键字:信源编码,相关信源编码,分布式信源编码,Slepian-Wolf编码理论,AbstractWith the development of multimedia mobile communication technologies, the demand for reliable and efficient transmission of information is growing. However, due to the impact of limited wireless bandwidth resources, multipath fading and other factors, it is difficult to achieve high-speed and reliable data transmission. To solve this problem we must adopt some new communication theories and technologies.This article makes an introduction to the related theories of correlated source coding fromthe perspective of information-theoretic security, including the basic theory of single symbol source coding and correlated source coding.KEYWORD:Source Coding,Correlated Source Coding,Distributed Source Coding,CodingTheory of Slepian-Wolf1.引言信源编码是一种以提高通信有效性为目的而对信源符号进行的变换,或者说为了减少或消除信源冗余度而进行的信源符号变换。
具体说,就是针对信源输出符号序列的统计特性来寻找某种方法,把信源输出符号序列变换为最短的码字序列,使后者的各码元所载荷的平均信息量最大,同时又能保证无失真地恢复原来的符号序列。
信源编码的作用之一是设法减少码元数目和降低码元速率,即通常所说的数据压缩;作用之二是将信源的模拟信号转化成数字信号,以实现模拟信号的数字化传输。
最原始的信源编码就是莫尔斯电码,另外还有ASCII码和电报码都是信源编码。
但现代通信应用中常见的信源编码方式有:Huffman编码、算术编码、L-Z编码,这三种都是无损编码,另外还有一些有损的编码方式。
信源编码的目标就是使信源减少冗余,更加有效、经济地传输,最常见的应用形式就是压缩。
而相关信源编码与传统信源编码不同。
它一般采用信道码编码技术得以实现,因而可以看作是一种联合信源-信道编码技术。
虽然分布式编码理论早在二十多年前就已经提出,但Slepian-Wolf理论[1]和Wyner-Ziv理论[2]只给出了信源编码的理论根据,并没有给出一种具体的实现方法,因此这方面的进展并不显著。
直到近几年,研究者才找到实现分布式信源编码的可行方法,发现了信源编码和信道编码的密切关系。
如果信道码能够渐近地接近信道容量,那么把它应用于分布式信源编码就能渐近地接Slepian-Wolf理论极限,Pradhan和Ramchan-dran提出了分布式编码的实现方案[3],一些具体的实现方案陆续的提出[4-6],从理论上证明了使用Turbo码可以接Selpian-Wolf编码效率[6],并且证明了使用LDPC 码可以达到比Turbo码更好的效果[7]。
本文从信源编码的基本理论出发,介绍了相关信源的分布式编码的信息论基础。
重点介绍了Slepian-Wolf理论即相关信源的码率界限,对几种不同的编码方式进行了简单介绍和评述。
2.相关信源编码的理论2.1单符号信源编码信源编码理论是信息论的重要内容,信源是多种多样的,但信源符号之间具有一定的相关性,因此可以利用信源的冗余度来进行压缩,通过编码让符号间解除相关性,尽可能独立。
或是压缩每个信源的平均比特数,从而提高编码效率。
它使信源编码的具体设计和架构更加明确。
而香农第一定理明确的提出了信源编码的理论依据。
即在无失真的信源编。
码当中,离散信源的熵为H(X),对n次扩展信源进行信源编码,对任意给定的ɛ>0,只要有码率:R>H(X)+ ɛ那么当n足够大时,平均译码错误概率就无限接近于0。
这就是单符号离散信源的编码原理。
由定理可得,若想符号可以从码字中无损的恢复出来,信源熵H(X)是信源实现无失真编码的速率最小值。
香农编码、Fano编码Huffman编码DMS的几个基本的信源编码方法。
2.2相关信源编码的理论相关信源编码是分布式信源编码的基本研究问题,目前已经解决了相关信源的可达信息率问题,虽然很多学者做出了努力,但是关于具体码字的设计和优化还没有明确的答案。
20 世纪70年代,分布式信源编码[8]( Distributed Source Coding , DSC )初步形成,它也可以称为是相关信源的信源编码。
DSC的理论基础是Slepian-Wolf理论和Wyner-Ziv理论组成而来。
Slepian和Wolf指出如果两个信源有一定关联性,若想实现信源的无损压缩则可以根据它们的信息熵计算出一个理论极限,我们称之为Slepian-Wolf 界。
其中两个相关信源在分离状态下压缩编码,仍可以达到互相协作时的压缩效率。
不久之后,Wyner和Ziv对无损压缩理论做出了进一步研究,并提出了有损压缩编码理论,得到类似的结果。
它与传统的信源编码不同,传统的信源编码是编码端充分利用多个信源的冗余信息最大限度的进行压缩,而Slepian-Wolf理论和Wyner-Ziv理论的出现,使人们意识到信源的冗余信息在译码端也可以充分利用,从而达到相同效果。
在传统的信源编码中,由无失真信源编码定理而得,只有当编码速率比信息熵大时才能保证信息的正确传送。
传统信源编码结构中,两个相关信源X,Y 间能够相互通信,通过对信源X和Y进行联合编码,同样要实现无差错恢复出信源,就必须保证编码和速率大于X,Y的联合熵H(X,Y)。
图1给出了传统的信源编码结构,其中编码端X,Y可以互相结合各自的信息,同时将信源X压缩到速率为H(X/Y),信源Y以H(Y)的速率进行压缩,译码器收到X和Y的相关信息序列后进行联合译码。
图1 传统信源编码结构当两个相关信源不能互相通信时,如下图2所示。
已知针对两个独立信源分别用独立信道传送时,若实现无损压缩编码,每个信道的信息率必须大于各信源的无条件熵,即总信息率必须大于H(X) +H(Y)。
首先此处要满足这个基本条件。
但是X,Y有一定相关性,Slepian和Wolf利用此相关性进行了一定研究,指出若数字信号X、Y满足条件概率分布p(x,y),如果X,Y在编码端不能互相通信,分别采取独立编码也可以达到X,Y互相通信联合编码的编码效率。
只要在解码端联合译码,则分开编码和联合编码都能正确解码,效率相同,这即为Slepian-Wolf定理。
图2 分布式信源编码结构图2中两个分离的编码器分别对X,Y进行编码,码率设置为Rx和Ry,而在译码处进行联合解码,Slepian-Wolf 理论提出对于互相关的两个离散随机信号X、Y,服从联合概率分布p(x,y),那么在编码端得不到Y的情况下对X 进行编码可以取得编码效率和在编码端得到Y的情况下对X进行编码的效率一样。
也就是说,在编码端可以不需要直接跟Y通信,X最少也能以H(X/Y)比特编码,只要在解码端可以得到Y,那么X仍能正确解码。
根据Slepian-Wolf理论,图3所示的两种编码方案可以取得相同的编码效率。
图3两种编码器结构Slepian-Wolf 理论可以简单地描述如下:假定X和Y是两个互相关的离散无记忆信源,对X和Y进行独立编码,H(X)、H(Y)分别是X,Y的熵,编码器X 输出的码率是Rx,编码器Y输出的码率是Ry,在解码端进行联合解码,如果在解码端可以无失真的恢复X,Y需要满足下面三个式子:Rx ≥H(X/Y)Ry≥H(Y/X)Rx +Ry≥H(X/Y)Slepian-Wolf理论的可达码率界限如图4所示:图4Slepian-Wolf理论可达的码率界限只要如Rx和Ry的取值范围在图中的Slepian-Wolf压缩可达速率的区域,则在解码端可以任意小的误码率来联合解码。
在Slepian-Wolf的无损编码理论发表后不久,Wyner-Ziv就对这个理论进行了扩充,建立了在解码端使用辅助信息的有损编码理论[2],如图5所示:图5 Wyner-Ziv有损分布式编码结构3.相关信源的分布式编码方案在相关信源编码理论的支撑下,其分布式编码方案也越来越多,但是一直没有提出实际可行的方案。
之后,研究学者发现信源编码和信道编码之间有紧密联系,可以采用有优异性能的信道码来实现,这样则可以逼Slepian-Wolf的理论限值。
编码方案具体可以分为基于校验位(Parity)和基于伴随式的分布式信源编码(Distributed Source Coding Using Syndrome, DISCUS)两种方式。
3.1Discus 编码方案2000年,Pradhan和Ramchandran[9]首先提出了DISCUS方案,将卷积码的维特比译码方法进行修正,解码器根据伴随式s搜索陪集中与y最接近的序列。
之后提出的方案均是在DISCUS的基础之上的变形。
2005年Z.Tu, J.Li和Blum[10]就将陪集首的变化转移到译码端外,进行反向伴随式变换,然后与y结合,这样解码端只需在伴随式为0的陪集中进行即可,并且不用修改卷积码的维特比译码算法,另外,也可以采用Turbo码实现。
2007年,针对伴随式方案,又提出了一种基于卷积码和Turbo码的速率自适应方案,对伴随式比特进行打孔,并设计了最佳解码方法来补偿打孔带来的性能损失。
与此同时,译码的复杂性与增加的打孔比特数量呈线性关系。
Discus编码方案[3]考虑了两个相关的信源X和Y的独立编码和联合解码,在X和Y之间想象一条虚拟的信道P(Y/X),把信源X看作信道的输入,把参考信息Y看作信道的输出,即把信源Y看成是信源X经过噪声污染后的结果,这样就可以利用信道码的纠错性能来恢复信源码字。