第5章信源编码

信息论与编码第5章第五章信源编码（第⼗讲）（2课时）主要内容：（1）编码的定义（2）⽆失真信源编码重点：定长编码定理、变长编码定理、最佳变长编码。

难点：定长编码定理、哈夫曼编码⽅法。

作业：5。

2，5。

4，5。

6；说明：本堂课推导内容较多，枯燥平淡，不易激发学⽣兴趣，要注意多讨论⽤途。

另外，注意，解题⽅法。

多加⼀些内容丰富知识和理解。

通信的实质是信息的传输。

⽽⾼速度、⾼质量地传送信息是信息传输的基本问题。

将信源信息通过信道传送给信宿，怎样才能做到尽可能不失真⽽⼜快速呢？这就需要解决两个问题：第⼀，在不失真或允许⼀定失真的条件下，如何⽤尽可能少的符号来传送信源信息；第⼆，在信道受⼲扰的情况下，如何增加信号的抗⼲扰能⼒，同时⼜使得信息传输率最⼤。

为了解决这两个问题，就要引⼊信源编码和信道编码。

⼀般来说，提⾼抗⼲扰能⼒（降低失真或错误概率）往往是以降低信息传输率为代价的；反之，要提⾼信息传输率常常⼜会使抗⼲扰能⼒减弱。

⼆者是有⽭盾的。

然⽽在信息论的编码定理中，已从理论上证明，⾄少存在某种最佳的编码或信息处理⽅法，能够解决上述⽭盾，做到既可靠⼜有效地传输信息。

这些结论对各种通信系统的设计和估价具有重⼤的理论指导意义。

§3.1 编码的定义编码实质上是对信源的原始符号按⼀定的数学规则进⾏的⼀种变换。

讨论⽆失真信源编码，可以不考虑⼲扰问题，所以它的数学描述⽐较简单。

图 3.1是⼀个信源编码器，它的输⼊是信源符号},,, {21q s s s S =，同时存在另⼀符号},,,{21r x x x X =，⼀般来说，元素xj 是适合信道传输的，称为码符号（或者码元）。

编码器的功能就是将信源符号集中的符号s i （或者长为N 的信源符号序列）变换成由x j (j=1,2,3,…r)组成的长度为l i 的⼀⼀对应的序列。

输出的码符号序列称为码字，长度l i 称为码字长度或简称码长。

可见，编码就是从信源符号到码符号的⼀种映射。

第5章无失真信源编码定理●通信的实质是信息的传输。

高效率、高质量地传送信息又是信息传输的基本问题。

●信源信息通过信道传送给信宿，需要解决两个问题：第一，在不失真或允许一定失真条件下，如何用尽可能少的符号来传送信源信息，以提高信息传输率。

第二，在信道受干扰的情况下，如何增强信号的抗干扰能力，提高信息传输的可靠性同时又使得信息传输率最大。

●为了解决以上两个问题，引入了信源编码和信道编码。

●提高抗干扰能力（降低失真或错误概率）往往是增加剩余度以降低信息传输率为代价的；反之，要提高信息传输率往往通过压缩信源的剩余度来实现，常常又会使抗干扰能力减弱。

●上面两者是有矛盾的，然而在信息论的编码定理中，已从理论上证明，至少存在某种最佳的编码或信息处理方法，能够解决上述矛盾，做到既可靠又有效地传输信息。

●第5章着重讨论对离散信源进行无失真信源编码的要求、方法及理论极限，得出极为重要的极限定理——香农第一定理。

5.1编码器●编码实质上是对信源的原始符号按一定的数学规则进行的一种变换。

●图5.1就是一个编码器，它的输入是信源符号集S={s 1,s 2,…,s q }。

同时存在另一符号集X={x 1,x 2, …,x r }，一般元素x j 是适合信道传输的，称为码符号（或称为码元）。

编码器是将信源符号集中的符号s i （或者长为N 的信源符号序列a i ）变换成由x j（j=1,2, …,r ）组成的长度为l i的一一对应序列。

●这种码符号序列W i 称为码字。

长度l i称为码字长度或简称码长。

所有这些码字的集合C 称为码。

●编码就是从信源符号到码符号的一种映射，若要实现无失真编码，必须这种映射是一一对应的、可逆的。

编码器S ：{s 1,s 2,…s q }X ：{x 1,x 2,…x r }C ：{w 1,w 2,…w q }（w i 是由l i 个x j （x j 属于X ））组成的序列，并于s i 一一对应一些码的定义●二元码：若码符号集为X={0,1}，所得码字都是一些二元序列，则称为二元码。

5-1 有一信源，它有六种可能的输出，其概率分布如下表所示，表中给出了对应的六种编码12345C C C C C 、、、、和6C 。

（1） 求这些码中哪些是唯一可译码； （2） 求哪些是非延长码（即时码）；（3） 对所有唯一可译码求出其平均码长。

解：（1(2)1,3,6是即时码。

5-2证明若存在一个码长为12,,,q l l l ⋅⋅⋅的唯一可译码，则一定存在具有相同码长的即时码。

证明：由定理可知若存在一个码长为Lq L L ,,2,1 的唯一可译码，则必定满足kraft 不等式∑=-qi l ir1≤1。

由定理44⋅可知若码长满足kraft 不等式，则一定存在这样码长的即时码。

所以若存在码长Lq L L ,,2,1 的唯一可译码，则一定存在具有相同码长P （y=0）的即时码。

5-3设信源126126()s s s S p p p P s ⋅⋅⋅⎡⎤⎡⎤=⎢⎥⎢⎥⋅⋅⋅⎣⎦⎣⎦，611i i p ==∑。

将此信源编码成为r 元唯一可译变长码（即码符号集12{,,,}r X x x x =⋅⋅⋅），其对应的码长为（126,,,l l l ⋅⋅⋅）=（1，1，2，3，2，3），求r 值的最小下限。

解：要将此信源编码成为 r 元唯一可译变长码，其码字对应的码长（l 1 ,l 2 ,l 3, l 4,l 5, l 6）=(1,1,2,3,2,3) 必须满足克拉夫特不等式，即132321161≤+++++=------=-∑r r r r r r ri li所以要满足122232≤++r r r ，其中 r 是大于或等于1的正整数。

可见，当r=1时，不能满足Kraft 不等式。

当r=2, 1824222>++，不能满足Kraft 。

当r=3,127262729232<=++，满足Kraft 。

所以，求得r 的最大值下限值等于3。

5-4设某城市有805门公务和60000门居民。

作为系统工程师，你需要为这些用户分配。

第5章语音编码、信道编码和交织技术引言一般的数字通信系统都包含信源编解码、信道编解码和调制解调这三对功能模块，语音编码是一种信源编码的，在移动通信中由于信道的特点，往往还需要交织和去交织这一对功能模块。

为什么要进行信源编码、信道编码和交织呢？从实现过程分析：信源编码——原理：去掉一些信息（信源中统计特性具有相关性的信息）；（有效性）目的：尽可能用最少的信息比特表示信源，从而达到压缩信息速率，以较少的信息速率传送信息；信道编码——原理：加入一些信息（监督码或检验码）；（可靠性）目的：用来供接收端纠正或检出信息在信道中传输时，由于干扰、噪声或衰落等所造成的误码。

交织——原理：不改变信息量，只改变信息的排序；（可靠性）目的：克服信道中由于深衰落而造成的突发的成串的误码。

对本章的学习，我们复习信源编码和信道编码的基础上，重点掌握：1．移动通信对编码的要求；2．蜂窝移动通信典型系统用到的编码方式；3．在这些系统中的实现过程；4．交织的原理和作用。

5.1 语音编码通信系统中的语音编码的目的是解除语音信源的统计相关性，语音编码大致分为三类。

一．语音编码的分类（参考：《吴伟陵，《移动通信原理》，电子工业出版社，P72）1．波形编码波形编码是以精确再现语音波形为目的，并以保真度即自然度为度量标准的编码方法。

这类编码是保留语音个性特征为主要目标的方法，其码速较高。

常用的波形编码及其原理：PCM、DPCM、ADPCM应用：适用于骨干（固定）通信网。

2．参量编码利用人类的发声机制，仅传送反映语音波形变化主要参量的编码方法。

在接收端，可根据发声模型，由传送过来的变化参量激励产生人工合成的语音。

参量编码的主要标准是可懂度。

显然，这类编码是以提取并传送语音的共性特征参量为目的的编码方式，其码速较低。

（声码器）常用的参量编码及其原理：LPC应用：主要用于军事保密通信。

3．混合编码混合编码是吸取上述两类编码的优点，以参量编码为基础，并附加一定的波形编码特征，以实现在可懂度基础上适当改善自然度目的的编码方式。