信息论与编码杜玉华第8章

信息论与编码（第八讲）第一篇信息论第1章概论（2）第2章信源及其信息量（12）第3章信道及其容量（4）第4章信息率失真函数（4）第二篇编码理论第5章信源编码（4）第6章信道编码的基本概念（2）第7章线性分组码（6）第8章循环码（4）第9章卷积码（4）目录á信道的功能：以信号形式传输和存储信息。

á信道传输信息的速率：与物理信道本身的特性、载荷信息的信号形式和信源输出信号的统计特性有关。

á信道容量研究内容：在什么条件下，通过信道的信息量最大。

á信道定义：传输信息的媒介或通道。

信道也可以看作一种变换，把输入变换成输出。

á信道的随机性：á信道的描述：用条件转移概率表示。

3.1 信道的数学模型和分类3.2 单符号离散信道的信道容量3.3 离散无记忆扩展信道3.4 多用户信道3.5 连续信道3.6 信道编码定理3.7 小结(1) 一般信道的数学模型(2) 信道的分类(3) 实际的信道(1) 一般信道的数学模型①信道的广义性②一般信道的数学模型(1) 一般信道的数学模型①信道的广义性á信息论把任何一个有输入、输出的系统都可以看成是一个信道（物理信道多种多样：简单：滤波器；复杂：国际通信线路）。

á信号在信道中传输会引入噪声或干扰，它使信号通过信道后产生错误和失真。

á信道的输入和输出之间一般不是确定的函数关系，而是统计依赖关系。

á知道了信道的输入信号、输出信号以及它们之间的依赖关系，信道的全部特性就确定了。

(1) 一般信道的数学模型②一般信道的数学模型á信息论对信道的研究：对具体物理信道抽象，建立与各种通信系统相适应的信道模型，研究信息在这些模型信道上传输的普遍规律，指导通信系统的设计。

á信道模型：不研究信号在信道中传输的物理过程，把信道模型看作黑匣子。

(1) 一般信道的数学模型②一般信道的数学模型á一般，输入和输出信号都是广义的时间连续的随机信号，可用随机过程来描述。

20XX年复习资料大学复习资料专业：班级：科目老师：日期：第1章绪论1.1信息论的形成与发展⏹信息论的发展过程✓20X X X X24年，H N y q u i s t，信息率与带宽联系✓20X X X X28年，R V H a r t l e y,引入非统计信息量✓20X X X X36年，E H A r m s t r o n g，带宽与抗干扰能力✓20X X X X36年，H D u d l e y,发明声码机✓40年代初，N W i e n e r,“控制论”✓20X X X X48年，S h a n n o n,“信息论”“A m a t h e m a t i c a l t h e o r y o fc o m m u n i c a t i o n s”信息时代的里程碑✓50年代开始，I R E成立信息论组，出版信息论汇刊⏹信息论的形成与发展✓20X X X X59年，S h a n n o n,信源压缩编码理论，“C o d i n g t h e o r e m f o r a d i s c r e t e s o u r c e w i t h a f i d e l i t y c r i t e r i o n”✓20X X X X0X X1年，S h a n n o n,“双路通信信道”，多用户理论✓20X X X X0X X2年，C o v e r,广播信道⏹三大定理⏹无失真信源编码定理（第一极限定理）⏹信道编码定理（第二极限定理）⏹限失真信源编定理（第三极限定理）S h a n n o n信息论：在噪声环境下，可靠地、安全地、有效地传送信息理论----狭义信息论⏹信息✓定义广义定义：信息是物质的普遍属性，所谓物质系统的信息是指它所属的物理系统在同一切其他物质系统全面相互作用（或联系）过程中，以质、能和波动的形式所呈现的结构、状态和历史概率信息：信息表征信源的不定度，但它不等同于不定度，而是为了消除一定的不定度必须获得与此不定度相等的信息量⏹信息✓性质信息是无形的信息是可共享的信息是无限的信息是无所不在的信息是可度量的⏹信息✓信息与消息、信号比较消息是信息的数学载体、信号是信息的物理载体信号：具体的、物理的消息：具体的、非物理的 信息：非具体的、非物理的 信息的定义和性质⏹ 信息、消息、信号u 信号最具体，它是一物理量，可测量、可显示、可描述，同时它又是载荷信息的实体 信息的物理层表达u 消息是具体的、非物理的，可描述为语言文字、符号、数据、图片，能够被感觉到，同时它也是信息的载荷体。

信息论与编码习题参考答案 第一章 单符号离散信源1.1同时掷一对均匀的子，试求：(1)“2和6同时出现”这一事件的自信息量； (2)“两个5同时出现”这一事件的自信息量； (3)两个点数的各种组合的熵； (4)两个点数之和的熵；(5)“两个点数中至少有一个是1”的自信息量。

解：bitP a I N n P bit P a I N n P c c N 17.536log log )(361)2(17.418log log )(362)1(36662221111616==-=∴====-=∴===⨯==样本空间：(3)信源空间：bit x H 32.436log 3662log 3615)(=⨯⨯+⨯⨯=∴ bitx H 71.3636log 366536log 3610 436log 368336log 366236log 36436log 362)(=⨯⨯+⨯+⨯+⨯⨯=∴＋＋ (5) bit P a I N n P 17.11136log log )(3611333==-=∴==1.2如有6行、8列的棋型方格，若有两个质点A 和B ，分别以等概落入任一方格，且它们的坐标分别为（Xa ，Ya ）, （Xb ，Yb ）,但A ，B 不能同时落入同一方格。

（1） 若仅有质点A ，求A 落入任一方格的平均信息量； （2） 若已知A 已落入，求B 落入的平均信息量； （3） 若A ，B 是可辨认的，求A ，B 落入的平均信息量。

解：bita P a P a a P a I a P A i 58.548log )(log )()(H 48log )(log )(481)(:)1(481i i i i i ==-=∴=-=∴=∑=落入任一格的概率Θbitb P b P b b P b I b P A i 55.547log )(log )()(H 47log )(log )(471)(:B ,)2(481i i i i i ==-=∴=-=∴=∑=落入任一格的概率是落入任一格的情况下在已知ΘbitAB P AB P AB H AB P AB I AB P AB i i i i i i i 14.11)4748log()(log )()()(log )(471481)()3(47481=⨯=-=-=∴⨯=∑⨯=是同时落入某两格的概率1.3从大量统计资料知道,男性中红绿色盲的发病率为7%,女性发病率为0.5%.如果你问一位男士：“你是否是红绿色盲？”他的回答可能是：“是”，也可能“不是”。

第二章 信息量和熵2.2八元编码系统，码长为3，第一个符号用于同步,每秒1000个码字,求它的信息速率.解:同步信息均相同，不含信息，因此 每个码字的信息量为 2⨯8log =2⨯3=6 bit因此，信息速率为 6⨯1000=6000 bit/s2。

3 掷一对无偏骰子，告诉你得到的总的点数为:(a ） 7； （b) 12。

问各得到多少信息量.解:(1) 可能的组合为 {1，6｝，｛2，5}，｛3，4},{4，3｝,{5，2｝,｛6,1｝)(a p =366=61得到的信息量 =)(1loga p =6log =2。

585 bit (2） 可能的唯一，为 {6,6｝)(b p =361得到的信息量=)(1logb p =36log =5。

17 bit2.4 经过充分洗牌后的一副扑克(52张）,问：（a) 任何一种特定的排列所给出的信息量是多少？(b) 若从中抽取13张牌，所给出的点数都不相同时得到多少信息量?解:（a ） )(a p =!521信息量=)(1loga p =!52log =225.58 bit （b) ⎩⎨⎧⋯⋯⋯⋯花色任选种点数任意排列13413!13)(b p =1352134!13A ⨯=1352134C 信息量=1313524log log -C =13。

208 bit2.9随机掷3颗骰子，X 表示第一颗骰子的结果，Y 表示第一和第二颗骰子的点数之和，Z 表示3颗骰子的点数之和，试求)|(Y Z H 、)|(Y X H 、),|(Y X Z H 、)|,(Y Z X H 、)|(X Z H 。

解:令第一第二第三颗骰子的结果分别为321,,x x x ，1x ，2x ，3x 相互独立,则1x X =，21x x Y +=，321x x x Z ++=)|(Y Z H =)(3x H =log 6=2.585 bit )|(X Z H =)(32x x H +=)(Y H=2⨯(361log 36+362log 18+363log 12+364log 9+365log 536)+366log 6 =3。

可编辑修改精选全文完整版第8章 循环码习题答案：1. 已知(8, 5)线性分组码的生成矩阵为⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎣⎡=1000011101000100001000100001000100001111G（1）证明该码是循环码；（2）求该码的生成多项式)(x g 。

（1）证明如下：(1)(2)(2)1 1 1 1 0 0 0 0 1 1 1 1 0 0 0 01 0 0 0 1 0 0 0 0 1 1 1 1 0 0 0 0 1 0 0 0 1 0 0 0 1 0 0 0 1 0 0 0 0 1 0 0 0 1 00 0 1 0 0 0 1 01 1 1 0 0 0 0 1 1 1 1 0 0 0 0 1+⎡⎤⎡⎤⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥−−−→⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦(3)(3)(4)1 1 1 1 0 0 0 0 1 1 1 1 0 0 0 00 1 1 1 1 0 0 0 0 1 1 1 1 0 0 0 0 0 1 1 1 1 0 0 0 0 1 1 1 1 0 0 0 0 1 0 0 0 1 00 0 0 1 1 1 1 01 1 1 0 0 0 0 1 1 1 1 0 0 0 0 1++−−−→⎡⎤⎡⎤⎢⎥⎢⎥⎢⎥⎢⎢⎥⎢−−−→⎢⎥⎢⎢⎥⎢⎢⎥⎢⎣⎦⎣⎦(1)(5)(4)(5)1 1 1 1 0 0 0 0 1 1 1 1 0 0 0 00 1 1 1 1 0 0 0 0 1 1 1 1 0 0 0 0 0 1 1 1 1 0 0 0 0 1 1 1 1 0 0 0 0 0 1 1 1 1 00 0 0 1 1 1 1 00 0 0 1 0 0 0 10 0 0 0 1 1 1 1++⎥⎥−−−→⎥⎥⎥⎡⎤⎡⎢⎥⎢⎢⎥⎢⎥−−−→⎢⎥⎢⎥⎢⎥⎣⎦⎣⎤⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎦由生成矩阵可知为（8、5）循环码。

（2）生成多项式如下：32()1g x x x x =+++2. 证明：1245810++++++x x x x x x为(15, 5)循环码的生成多项式，并写出信息多项式为1)(4++=x x x m 时的码多项式（按系统码的形式）。