信息论复习提纲 第一章绪论 1．通信系统模型； 2．香浓信息的概念； 3．信源、信道、信源编码和信道编码研究的核心问题。 第二章离散信源及信源熵 1．离散信息量、联合信息量、条件信息量、互信息量定义； 2．信源熵、条件熵、联合熵定义； 3．平均互信息量定义、性质、三种表达式及物理意义，与其它熵的关系（不证明）； 4．最大信源熵定理及证明； 5．本章所有讲过的例题； 第三章离散信源的信源编码 1．信息传输速率、编码效率定义； 2．最佳编码定理（即节定理：概率越大，码长越小；概率越小，码长越大）及证明； 3．码组为即时码的充要条件； 4．单义可译定理（Kraft不等式）及应用； 5．费诺编码方法、霍夫曼编码方法应用（二进制，三进制，四进制）；6．本章所有讲过的例题； 第四章离散信道容量 1．利用信道矩阵计算信道容量（离散无噪信道、强对称离散信道、对称离
散信道、准对称离散信道）； 2．本章讲过的例题； 第五章连续消息和连续信道 1．相对熵的定义； 2．均匀分布、高斯分布、指数分布的相对熵及证明； 3．峰值功率受限条件下的最大熵定理及证明，平均功率受限条件下的最大熵定理及证明，均值受限条件下的最大熵定理及证明； 4．香农公式及意义； 5．本章所有讲过的例题； 第六章差错控制 1．重量、最小重量、汉明距离、最小汉明距离、编码效率的定义；2．最小距离与检错、纠错的关系（即节定理）； 3．本章所有讲过的例题； 第七章线性分组码 1．线性分组码定义； 2．线性分组码的最小距离与最小重量的关系及证明； 3．生成矩阵、一致校验矩阵定义，给出线性方程组求出生成矩阵和一致校验矩阵的标准形式，生成矩阵与一致校验矩阵的关系； 4．制作标准阵列并利用标准阵列译码； 5．本章所有讲过的例题； 第八章循环码 1．生成多项式的特点，有关定理（三定理1，定理2，定理3）及证明；
一填空题 1、平均自信息为 表示信源的平均不确定度，也表示平均每个信源消息所提供的信息量。 平均互信息 表示从Y 获得的关于每个X 的平均信息量，也表示发X 前后Y 的平均不确定性减少的量，还表示通信前 后整个系统不确定性减少的量。 2、最大离散熵定理为：离散无记忆信源，等概率分布时熵最大,最大熵值为。 3、香农公式为 为保证足够大的信道容量，可采用（1）用频带换信噪比； （2）用信噪比换频带。 4、只要，当N 足够长时，一定存在一种无失真编码。 5、当R ＜C 时，只要码长足够长，一定能找到一种编码方法和译码规则，使译码错误概率无穷小。 6、1948年，美国数学家 香农 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。 7.人们研究信息论的目的是为了 高效、可靠、安全 地交换和利用各种各样的信息。 8.信息的 可度量性 是建立信息论的基础。 9.统计度量 是信息度量最常用的方法。 10、单符号离散信源一般用随机变量描述，而多符号离散信源一般用 随机矢量 描述。 11、一个随机事件发生某一结果后所带来的信息量称为自信息量，定义为 其发生概率对数的负值 。 12、自信息量的单位一般有 比特、奈特和哈特 。 13、必然事件的自信息是 0 。 14、不可能事件的自信息量是 ∞ 。 15、两个相互独立的随机变量的联合自信息量等于 两个自信息量之和 。 16、数据处理定理：当消息经过多级处理后，随着处理器数目的增多，输入消息与输出消息之间的平均互信息量 趋于变小 。 17、离散平稳无记忆信源X 的N 次扩展信源的熵等于离散信源X 的熵的 N 倍 。 18、离散平稳有记忆信源的极限熵，=∞H )/(lim 121-∞→N N N X X X X H 。 19、对于n 元m 阶马尔可夫信源，其状态空间共有 n m 个不同的状态。 20、一维连续随即变量X 在[a ，b]区间内均匀分布时，其信源熵为 log2（b-a ） 。
1、有一个二元对称信道，其信道矩阵如下图所示。设该信道以1500个二元符号/秒的速度传输输入符号。现有一消息序列共有14000个二元符号，并设在这消息中P(0)=P(1)=1/2。问从信息传输的角度来考虑，10秒钟内能否将这消息序列无失真地传送完？ 解答：消息是一个二元序列，且为等概率分布，即P(0)=P(1)=1/2，故信源的熵为H(X)=1(bit/symbol)。则该消息序列含有的信息量＝14000(bit/symbol)。 下面计算该二元对称信道能传输的最大的信息传输速率： 信道传递矩阵为： 信道容量（最大信息传输率）为： C=1-H(P)=1-H(0.98)≈0.8586bit/symbol 得最大信息传输速率为： Rt ≈1500符号/秒× 0.8586比特/符号 ≈1287.9比特/秒 ≈1.288×103比特/秒 此信道10秒钟内能无失真传输得最大信息量＝10× Rt ≈ 1.288×104比特 可见，此信道10秒内能无失真传输得最大信息量小于这消息序列所含有的信息量，故从信息传输的角度来考虑，不可能在10秒钟内将这消息无失真的传送完。 2、若已知信道输入分布为等概率分布，且有如下两个信道，其转移概率矩阵分别为： 试求这两个信道的信道容量，并问这两个信道是否有噪声？ 3 、已知随即变量X 和Y 的联合分布如下所示： 01100.980.020.020.98P ?? =?? ??11112222 1111222212111122221111222200000000000000000000000000000000P P ???????? ????==???? ????????11 2222111 22222log 4(00)1/()log 42/log 8(000000)2/(),H bit symbol H X bit symbol C C H bit symbol H X C =-===>=-==1解答：(1)由信道1的信道矩阵可知为对称信道故C 有熵损失，有噪声。(2)为对称信道，输入为等概率分布时达到信道容量无噪声
信息论与编码习题参考答案 第一章 单符号离散信源 同时掷一对均匀的子，试求： (1)“2和6同时出现”这一事件的自信息量； (2)“两个5同时出现”这一事件的自信息量； (3)两个点数的各种组合的熵； (4)两个点数之和的熵； (5)“两个点数中至少有一个是1”的自信息量。 解： bit P a I N n P bit P a I N n P c c N 17.536log log )(36 1 )2(17.418log log )(362)1(36 662221111 616==-=∴====-=∴== =?==样本空间： * (3)信源空间： bit x H 32.436log 36 16236log 36215)(=??+?? =∴
bit x H 71.3636 log 366536log 3610 436log 368336log 366236log 36436log 362)(=??+?+?+??= ∴＋＋ (5) bit P a I N n P 17.111 36 log log )(3611333==-=∴== ? 如有6行、8列的棋型方格，若有两个质点A 和B ，分别以等概落入任一方格内，且它们的坐标分别为（Xa ，Ya ）, （Xb ，Yb ）,但A ，B 不能同时落入同一方格内。 （1） 若仅有质点A ，求A 落入任一方格的平均信息量； （2） 若已知A 已落入，求B 落入的平均信息量； （3） 若A ，B 是可辨认的，求A ，B 落入的平均信息量。 解： ！ bit a P a P a a P a I a P A i 58.548log )(log )()(H 48log )(log )(481 )(:)1(48 1 i i i i i ==-=∴=-=∴= ∑=落入任一格的概率 bit b P b P b b P b I b P A i 55.547log )(log )()(H 47 log )(log )(47 1 )(:B ,)2(48 1i i i i i ==-=∴=-=∴=∑=落入任一格的概率是落入任一格的情况下在已知 bit AB P AB P AB H AB P AB I AB P AB i i i i i i i 14.11)4748log()(log )()() (log )(47 1 481)()3(47481 =?=-=-=∴?=∑?=是同时落入某两格的概率 从大量统计资料知道,男性中红绿色盲的发病率为7%,女性发病率为%.如果你问一位男士：“你是否是红绿色盲”他的回答可能是：“是”，也可能“不是”。问这两个回答中各含有多少信息量平均每个回答中各含有多少信息量如果你问一位女士，则她的答案中含有多少平均信息量 解：
4-1 设有一个二元等该率信源{}1,0∈X ,2/110==p p ，通过一个二进制对称信道（BSC ）。其失真函数ij d 与信道转移概率ij p 分别定义为 j i j i d ij =≠???=,0,1 ，j i j i p ij =≠? ??-=,1,εε 试求失真矩阵d 和平均失真D 。 解：由题意得， 失真矩阵为d ??????=0110d ，信道转移概率矩阵为P ?? ????--=εεεε11)(i j 平均失真为ε εεεε=?-+?+?+?-= =∑0)1(211211210)1(21),()()(,j i d i j p i p D j i 4-3 设输入符号与输出符号X 和Y 均取值于{0,1,2,3}，且输入符号的概率分布为P(X=i)=1/4,i=0,1,2,3,设失真矩阵为 ????? ???????=0111101111011110d 求)(),(,,max min max min D R D R D D 以及相应的编码器转移概率矩阵。 解：由题意，得 0min =D 则symbol bit X H R D R /24log )()0()(2min ==== 这时信源无失真，0→0,1→1,2→2,3→3，相应的编码器转移概率矩阵为
????? ???????=1000 010*********)j (i P ∑===30 3,2,1,0max ),()(min i j j i d i p D ，，14 1141041141141141141041min{?+?+?+??+?+?+?= }04 1141141141141041141141?+?+?+??+?+?+?， 43}43,43,43,43min{== 则0)(max =D R 此时输出概率分布可有多种，其中一种为：p(0)=1,p(1)=p(2)=p(3)=0 则相应的编码器转移概率矩阵为????? ???????=0001000100010001)(i j P
第四章信源编码 习题解答 1、一个信源由 1） 哪些是非奇异码？哪些是唯一可译码？哪些是即时码？ 2） 分别计算每个唯一可译码的平均码长和编码效率。 解：1）A 、B 、C 、D 、E 、F 是非奇异码。A 、B 、C 、F 是唯一可译码（E 不满足克拉夫特不等式）。A 、C 、F 是即时码（B 是续长码）。 3） 编码A ： 平均码长：3A L = 码元/消息 信源熵：111111 ()lb lb 4lb 222441616 H X =- --?=比特/消息 编码效率：max ()/2/3 66.7%lb21 A H H X L H η====码码 编码B 和C ： 平均码长：111111 23456 2.1252416161616 B C L L ==+?+?+?+?+?= 码元/消息 编码效率：max ()/2/2.125 94.1%lb21 B C H H X L H ηη=====码码 编码F ： 平均码长：11 1234 2.524 16F L ??=? +?+?= ??? 码元/消息 编码效率：max ()/2/2.5 80%lb21 F H H X L H η====码码 2、离散无记忆信源X 的概率空间为：1 234567()0.200.190.180.170.150.100.01X x x x x x x x p X ????=???? ?? ?? 1）对其进行费诺编码，并计算其编码效率；
2）对其进行哈夫曼编码，并将其编码效率与费诺编码相比较。 解：1）费诺编码： 平均码长：()()()0.20.1720.190.180.1530.10.014 2.74L =+?+++?++?=码元/符号 信源熵： ()0.20lb0.200.19lb0.190.18lb0.180.17lb0.170.15lb0.150.1lb0.10.01lb0.01 2.60/874H X =-------= 比特符号 编码后平均码元熵：() 2.60874 0.95212.74H X H L = ==码比特/码元 编码效率：max 0.9521 95.21%lb2 H H η= ==码码 2）哈夫曼编码： 码长 码字 信源X p (X ) 2 10 x 1 2 11 x 2 3 000 x 3 3 001 x 4 3 010 x 5 4 0110 x 6 4 0111 x 7 平均码长：()()()0.20.1920.180.170.1530.10.014 2.72L =+?+++?++?=码元/符号 编码后平均码元熵：() 2.60874 0.95912.72H X H L = ==码比特/码元
电路第五版(邱关源罗先觉著) 高等教育出版社课后答案【khdaw_lxywyl】 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=4097&fromuid=9 电路第四版(邱关源著) 高等教育出版社课后答案 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=259&fromuid=9 数字电子技术基础第四版(阎石著) 高等教育出版社课后答案【khdaw_lxywyl】https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=215&fromuid=9 模拟电子技术基础简明教程第三版(杨素行著) 高等教育出版社课后答案 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=166&fromuid=9 《信号与系统》第二版（郑君里）高等教育出版社课后答案【khdaw_lxywyl】 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=994&fromuid=9 电磁场与电磁波西安电子科技大学（第二版） https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=588&fromuid=9 通信原理第5版(樊昌信著) 国防工业出版社课后答案【khdaw_lxywyl】 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=34&fromuid=9 模拟电子技术基础第三版(华成英童诗白著) 高等教育出版社课后答案 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=242&fromuid=9 电机学(张松林著) 机械工业出版社课后答案【khdaw】 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=356&fromuid=9 高频电子线路(曾兴雯著) 高等教育出版社课后答案【khdaw_lxywyl】 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=1110&fromuid=9 数字信号处理第二版(丁玉美高西全著) 西安电子科技大学出版社课后答案【khdaw_lxywyl】 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=882&fromuid=9 《电动力学》郭硕鸿习题第二章课后答案【khdaw_lxywyl】 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=216&fromuid=9 电机学(第二版) (辜承林陈乔夫熊永前著) 华中科技大学出版社课后答案【khdaw_ricardo】 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=1011&fromuid=9 电工学第六版上下册(秦曾煌著) 高等教育出版社课后答案【khdaw_lxywyl】 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=1980&fromuid=9 《电路》邱关源罗先觉第五版高等教育第一章课后答案1【khdaw_lxywyl】 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=4071&fromuid=9 《电工学》秦曾煌第六版全部课后答案【khdaw_lxywyl】 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=1930&fromuid=9 模拟电子技术基础简明教程（第二版）(杨素行著) 高等教育出版社出版课后答案https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=113&fromuid=9 电力电子技术第四版(王兆安黄俊著) 机械工业出版社课后答案【khdaw】 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=1273&fromuid=9 通信原理教程(樊昌信著) 电子工业出版社课后答案【khdaw_lxywyl】 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=371&fromuid=9 电子技术基础第五版模拟部分(康华光著) 高等教育出版社课后答案 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=2023&fromuid=9 电子技术基础数字部分(第四版) 康华光高等教育出版社课后答案【khdaw】 https://www.doczj.com/doc/2110529303.html,/bbs/viewthread.php?tid=769&fromuid=9
北京邮电大学 06级《信息论》期中考试试题答案 （2008.11.15） 姓名班级学号分数 注意：要求将试卷和答题纸一起上交 一、(25分)已知基于字符表{“blank”, B, I, M, O, P, S, T}的一段文本如下： OTTOS MOPS TOBT MIT OTTOS MOP BIS OTTO MOPPOT （其中的blank表示空格） (1) 统计文本中出现各字符的频度，并近似看作各字符的概率进行二元Huffman 编码，给出每个字符对应的码字（要求：码长方差最小）；(9分) (2) 求平均码长及码长方差；(4+4=8分) (3) 求编码速率和编码效率。(4+4=8分) 解： 11 10 8 4 4 4 2 20 14 18 1 16 8 18 27 45 码字 1 1 1 1 00 10 010 110 0110 0111 1110 1111 O T “blank” M P S B I O T M P S B I “blank” （3+4=7分，每错一个码字扣0.5分）(2) 平均码长及码长方差为：
8.245/)2244(445/)48(345/)1011(2=+++?++?++?=- l 码元/信源符号(4分) 693 .08.245/42245/44245/3445/3845/21045/21122222222 22=-??+??+?+?+?+?=-=∑i i i l l p σ（4分） 3）编码速率8.22log '==l R 比特/信源符号（4分） 编码效率() 2.753298.32%2.8 log 2 H X L η- = ==（4分） 二、（25分）一马氏源具有状态集合{}1,2,...,N ，状态转移图如下图所示 … … p 其中0,0,1p q p q >>+=。 （1）当N=3时，写出状态转移概率矩阵，并求平稳分布。（3+6=9分） （2）对任意N 值，写出状态转移概率矩阵，并求平稳分布。（3+6=9分） （3）对任意N 值，求马氏源的符号熵。（7分） 答： （1） N=3,状态转移概率矩阵为： 000q p q p q p ?? ? ? ?? ? （3分） 由()() 1231231230001 q p q p q p πππππππππ?? ? = ? ?? ? ++= （3分） 得平稳分布为：22 122 2 2222 22 3222 (1)1(1) 11q p p pq q p p pq p p p pq q p p p p p pq q p p πππ-==++-+-==++-+== ++-+（各1分共3分）
第二章 信息量和熵 2.2 八元编码系统，码长为3，第一个符号用于同步，每秒1000个码字，求它的 信息速率。 解：同步信息均相同，不含信息，因此 每个码字的信息量为 2?8log =2?3=6 bit 因此，信息速率为 6?1000=6000 bit/s 2.3 掷一对无偏骰子，告诉你得到的总的点数为：(a) 7; (b) 12。问各得到多少信 息量。 解：(1) 可能的组合为 {1，6},{2，5},{3，4},{4，3},{5，2},{6，1} )(a p =366=6 1 得到的信息量 =) (1 log a p =6log =2.585 bit (2) 可能的唯一，为 {6，6} )(b p =361 得到的信息量=) (1 log b p =36log =5.17 bit 2.4 经过充分洗牌后的一副扑克（52张），问： (a) 任何一种特定的排列所给出的信息量是多少？ (b) 若从中抽取13张牌，所给出的点数都不相同时得到多少信息量？ 解：(a) )(a p =! 521 信息量=) (1 log a p =!52log =225.58 bit (b) ???????花色任选 种点数任意排列 13413!13 )(b p =13 52134!13A ?=1352 13 4C 信息量=1313 52 4log log -C =13.208 bit
2.9 随机掷3颗骰子，X 表示第一颗骰子的结果，Y 表示第一和第二颗骰子的 点数之和，Z 表示3颗骰子的点数之和，试求)|(Y Z H 、)|(Y X H 、 ),|(Y X Z H 、)|,(Y Z X H 、)|(X Z H 。 解：令第一第二第三颗骰子的结果分别为321,,x x x ，1x ，2x ，3x 相互独立， 则1x X =，21x x Y +=，321x x x Z ++= )|(Y Z H =)(3x H =log 6=2.585 bit )|(X Z H =)(32x x H +=)(Y H =2?( 361log 36+362log 18+363log 12+364log 9+365log 536)+36 6 log 6 =3.2744 bit )|(Y X H =)(X H -);(Y X I =)(X H -[)(Y H -)|(X Y H ] 而)|(X Y H =)(X H ，所以)|(Y X H = 2)(X H -)(Y H =1.8955 bit 或)|(Y X H =)(XY H -)(Y H =)(X H +)|(X Y H -)(Y H 而)|(X Y H =)(X H ，所以)|(Y X H =2)(X H -)(Y H =1.8955 bit ),|(Y X Z H =)|(Y Z H =)(X H =2.585 bit )|,(Y Z X H =)|(Y X H +)|(XY Z H =1.8955+2.585=4.4805 bit 2.10 设一个系统传送10个数字，0，1，…，9。奇数在传送过程中以0.5的概 率错成另外一个奇数，其余正确接收，求收到一个数字平均得到的信息量。 解： 8,6,4,2,0=i √ );(Y X I =)(Y H -)|(X Y H 因为输入等概，由信道条件可知，
6.解释最小错误概率译码准则，最大似然译码准则和最小距离译码准则，说明三者的关答：最小错误概率译码准则下，将接收序列译为后验概率最大时所对应的码字。 最大似然译码准则下，将接收序列译为信道传递概率最大时所对应的码字。 最小距离译码准则下，将接收序列译为与其距离最小的码字。 三者关系为：输入为等概率分布时，最大似然译码准则等效于最小错误概率译码准则。在二元对称无记忆信道中，最小距离译码准则等效于最大似然译码准则。 1.设线性分组码的生成矩阵为，求： （1）此（n，k）码的n=？ k=？，写出此（n，k）码的所有码字。 （2）求其对应的一致校验矩阵H。 （3）确定最小码距，问此码能纠几位错？列出其能纠错的所有错误图样和对应的伴随式。（4）若接收码字为000110，用伴随式法求译码结果。 1.答：1）n=6，k=3，由C=mG可得所有码字为： 000000，001011，010110，011101，100101，101110，110011，111000 2）此码是系统码，由G知，，则 3）由H可知，其任意2列线性无关，而有3列线性相关，故有，能纠一位错。 错误图样E 伴随式 100000 101 010000 110 001000 011 000100 100 000010 010 000001 001 4）由知E＝010000，则 信息传输率为 则
6.设有一离散信道，其信道矩阵为，求： （1）最佳概率分布？（2）当，时，求平均互信息 信 道疑义度 （3 ）输入为等概率分布时，试写出一译码规则，使平均译码错误率最小，并求此 答：1）是准对称信道，因此其最佳输入概率分布为。 2）当， 时，有 则 3）此时可用最大似然译码准则，译码规则为 且有 四（15分）设离散无记忆信道输入集合为X={0，1}，输出集合为{0,E,1}，信道转移概率 矩阵为0 103/41/81/811/81/83/4E ?????????? ，输入先验分布为Q(0)= 1/4，Q(1) =3/4。 （1） 求信道容量C 及其最佳分布。 （2） 求采用最佳译码准则下的译码规则，并计算平均错误概率。 （3） 设发送的消息只有两种0000和1111，若接收的序列为0E10，请根据最大似然 准则给出译码结果，并计算此时的错误概率。 五（15分）设二元(5,2)线性分组码的生成矩阵为
一个马尔可夫信源有3个符号{}1,23,u u u ，转移概率为：()11|1/2p u u =，()21|1/2p u u =， ()31|0p u u =，()12|1/3p u u =，()22|0p u u =，()32|2/3p u u =，()13|1/3p u u =，()23|2/3p u u =，()33|0p u u =，画出状态图并求出各符号稳态概率。 解：状态图如下 状态转移矩阵为： 1/21/2 01/302/31/32/30p ?? ?= ? ??? 设状态u 1，u 2，u 3稳定后的概率分别为W 1，W 2、W 3 由1231WP W W W W =??++=?得1231132231231 112331223 231W W W W W W W W W W W W ?++=???+=???=???++=? 计算可得1231025925625W W W ?=??? =?? ?=?? 由符号集{0，1}组成的二阶马尔可夫链，其转移概率为：(0|00)p =，(0|11)p =，(1|00)p =， (1|11)p =，(0|01)p =，(0|10)p =，(1|01)p =，(1|10)p =。画出状态图，并计算各状态 的稳态概率。 解：(0|00)(00|00)0.8p p == (0|01)(10|01)0.5p p == (0|11)(10|11)0.2p p == (0|10)(00|10)0.5p p == (1|00)(01|00)0.2p p == (1|01)(11|01)0.5p p == (1|11)(11|11)0.8p p == (1|10)(01|10)0.5p p ==
" 1. 在无失真的信源中，信源输出由 H (X ) 来度量；在有失真的信源中，信源输出由 R (D ) 来度量。 2. 要使通信系统做到传输信息有效、可靠和保密，必须首先 信源 编码， 然后_____加密____编码，再______信道_____编码，最后送入信道。 3. 带限AWGN 波形信道在平均功率受限条件下信道容量的基本公式，也就是有名的香农公式是log(1)C W SNR =+；当归一化信道容量C/W 趋近于零时，也即信道完全丧失了通信能力，此时E b /N 0为 dB ，我们将它称作香农限，是一切编码方式所能达到的理论极限。 4. 保密系统的密钥量越小，密钥熵H (K )就越 小 ，其密文中含有的关于明文的信息量I (M ；C )就越 大 。 5. 已知n ＝7的循环码4 2 ()1g x x x x =+++，则信息位长度k 为 3 ，校验多项式 h(x)= 3 1x x ++ 。 6. ? 7. 设输入符号表为X ＝{0，1}，输出符号表为Y ＝{0，1}。输入信号的概率分布为p ＝(1/2，1/2)，失真函数为d (0，0) = d (1，1) = 0，d (0，1) =2，d (1，0) = 1，则D min ＝ 0 ，R (D min )＝ 1bit/symbol ，相应的编码器转移概率矩阵[p(y/x )]＝1001?? ???? ；D max ＝ ，R (D max )＝ 0 ，相应的编码器转移概率矩阵[p(y/x )]＝1010?? ? ??? 。 8. 已知用户A 的RSA 公开密钥(e,n )=(3,55)，5,11p q ==,则()φn = 40 ，他的秘密密钥(d,n )＝(27,55) 。若用户B 向用户A 发送m =2的加密消息，则该加密后的消息为 8 。 二、判断题 1. 可以用克劳夫特不等式作为唯一可译码存在的判据。 （ ） 2. 线性码一定包含全零码。 （ ） 3. 算术编码是一种无失真的分组信源编码，其基本思想是将一定精度数值作为序列的 编码，是以另外一种形式实现的最佳统计匹配编码。 （×） 4. " 5. 某一信源，不管它是否输出符号，只要这些符号具有某些概率特性，就有信息量。 （×） 6. 离散平稳有记忆信源符号序列的平均符号熵随着序列长度L 的增大而增大。 （×） 7. 限平均功率最大熵定理指出对于相关矩阵一定的随机矢量X ，当它是正态分布时具 有最大熵。 （ ） 8. 循环码的码集中的任何一个码字的循环移位仍是码字。 （ ） 9. 信道容量是信道中能够传输的最小信息量。 （×） 10. 香农信源编码方法在进行编码时不需要预先计算每个码字的长度。 （×） 11. ！ 12. 在已知收码R 的条件下找出可能性最大的发码i C 作为译码估计值，这种译码方
4.5若将N 个相同的BSC 级联如题图4.5所示，各信道的转移概率矩阵为??????--p p p p 11。令Q t =P{X t =0}，t=0,1,…,N,且Q 0为已知。 题图 4.5 (a)求Q t 的表达式。 (b)证明N →∞时有Q N →1/2，且与Q 0取值无关，从而证明N →∞级联信道的信道容量C N →0，P>0。 解： (a)对于满足X N 为马氏链的串联信道，他们总的信道转移概率矩阵为各个串联信道矩阵的乘积，即P(X N |X 0)= P(X 1|X 0) P(X 2|X 1)……P(X N |X N-1) 由已知得，但各信道的转移概率矩阵为?? ?? ??--p p p p 11 则两个信道级联的转移概率矩阵为： P 2=??????--p p p p 11????? ?--p p p p 11=()()()()??????-+---+2222112p 12p 1p p p p p p 三个信道级联的转移概率矩阵为： P 3=()()()()???? ??????-+----+33331221211221211221211-2p 2121p p p 四个信道级联的转移概率矩阵为： P 4=()()()()???? ??????-+----+44441221211221211221211-2p 2121p p p 以此类推：可得N 个信道级联的转移概率矩阵为： P N =()()()()??????????-+----+N N N N p p p 122121122 1211221211-2p 2121 则 Q t =P{X t =0}=()()()()()000121221211122121122121Q p p Q p Q p t t t t -+--=-?? ????--+??????-+
试题编号： 北京邮电大学2009/2010学年2学期 《信息论基础》试卷（期末）（A卷）（开卷） 一、填空题（共15分，每空1分） 1、当时，信源与信道达到匹配。 2、若高斯白噪声的平均功率为6 W，则噪声熵为。如果一个平均功率为9 W的连续信源的熵等于该噪声熵，则该连续信源的熵功率为。 3、信源符号的相关程度越大，信源的符号熵越，信源的剩余度越。 4、离散无记忆信源在进行无失真变长信源编码时，码字长度是变化的。根据信源符号的统计特性，对概率的符号用短码，对概率的符号用长码，从而减少平均码长，提高编码效率。 8、香农第一编码定理指出平均码长的理论极限值为， 《信息论基础》试卷第1页
《信息论基础》试卷第2页 此时编码效率为 。 4、在下面空格中选择填入数学符号“=，≥，≤，>”或“<” （1）()()2 212X X H H =X ()X 3H = () 3 321X X X H （2）()XY H ()()Y X H Y H |+ ()()X H Y H +。 9、有一信源X ，其概率分布为??? ? ? ???=??? ???818141214321x x x x P X ，若对该信源进行１００次扩展， 则每扩展符号的平均信息量是 。 11、当 时，信源熵为最大值。８进制信源的最大熵为 。 二、判断题（正确打√，错误打×）（共5分，每小题1分） 1）噪声功率相同的加性噪声信道中以高斯噪声信道的容量为最大。 （ ） 2）即时码可以在一个码字后面添上一些码元构成另一个码字。 （ ） 3）连续信源的熵可正、可负、可为零， （ ） 4）平均互信息始终是非负的。 （ ） 5） 信道容量C 只与信道的统计特性有关，而与输入信源的概率分布无关。 （ ）
第4章无失真信源编码 习题及其参考答案 4-1 有一信源，它有六个可能的输出，其概率分布如下表所示，表中给出了对应的码A、B、C、D、E和F （1）求这些码中哪些是唯一可译码； （2）求哪些码是及时码； （3）对所有唯一可译码求出其平均码长l。 4-2 设信源 6 126 1 126 ()1 ()()() ()i i s s s X p s p s p s p s P X = ?? ?? == ?? ?? ???? ∑。对此次能源进行m元唯一 可译编码，其对应的码长为（l1,l2,…,l6）=(1,1,2,3,2,3)，求m值的最好下限。（提示：用kraft不等式）
4-3设信源为1 234567 811111111()2 4 8 16 3264128128s s s s s s s s X p X ?? ????=???? ??? ??? ，编成这样的码：（000，001，010，011，100，101，110，111）。求 （1）信源的符号熵； （2）这种码的编码效率； （3）相应的仙农码和费诺码。 4-4求概率分布为11122 (,,, ,)3551515 信源的二元霍夫曼编码。讨论此码对于概率分布为 11111 (,,,,)55555 的信源也是最佳二元码。 4-5有两个信源X 和Y 如下： 1 234567()0.200.190.180.170.150.100.01X s s s s s s s p X ????=???????? 1 23456789()0.490.140.140.070.070.040.020.020.01Y s s s s s s s s s p Y ????=???????? （1）用二元霍夫曼编码、仙农编码以及费诺编码对信源X 和Y 进行编码，并计算其平均码长和编码效率； （2）从X ，Y 两种不同信源来比较三种编码方法的优缺点。 4-6设二元霍夫曼码为（00，01，10，11）和（0，10，110，111），求出可以编得这样 霍夫曼码的信源的所有概率分布。 4-7设信源为1234 5678()0.40.20.10.10.050.050.050.05X s s s s s s s s p X ????=???????? ，求其三元霍夫曼编 码。 4-8若某一信源有N 个符号，并且每个符号等概率出现，对这个信源进行二元霍夫曼编码，问当 N =2i 和N =2i +1（i 是正整数）时，每个码值的长度是多少？平均码长是多少？ 4-9现有一幅已离散量化后的图像，图像的灰度量化分成8级，如下表所示。表中数字为相应像
《信息论与编码》 第四章 信息率失真函数 习题答案 4.1 解： 依题意可知：失真矩阵：??????=0110d ，转移概率??????--=εε εε11)|(i j a b p 平均失真： ε εεεε=?-?+??+??+?-?==∑∑==0)1(2/112/112/10)1(2/1) ,()|()(2121j i i j i j i b a d a b p a p D 4.2 解： 依题意可知：失真矩阵：?? ????=0210d ， 002/102/1),(min )(min =?+?==∑j i i j i y x d x p D ∑=?+?=?+?===i j i i j j y x d x p D D )102/122/1(2/112/102/1),()(min min max 舍去当0min =D ，bit X H R D R 12log )()0()(min ==== 因为没有失真，此时的转移概率为?? ????=1001P 当2/1max =D ，0)(max =D R 因为取的是第二列的max D 值，所以输出符号概率:,1)(,0)(21==b p b p ,,2221b a b a →→因此编码器的转移概率为?? ????=1010P 4.3 解： 0041041041041),(min )(43041141141141),()(min min min max =?+?+?+?===?+?+?+?===∑∑i j i j i i j i i j j y x d x p D y x d x p D D 当0min =D ，bit X H R D R 24log )()0()(min ==== 因为没有失真，此时的转移概率为????? ???????=1000010000100001P 当4/3max =D ，0 )(max =D R
第4章 无失真信源编码 习题及其参考答案 4-1 有一信源，它有六个可能的输出，其概率分布如下表所示，表中给出了对应的码A 、B 、C 、D 、E 和F （1）求这些码中哪些是唯一可译码； （2）求哪些码是及时码； （3）对所有唯一可译码求出其平均码长l 。 4-2 设信源6 1 261 126()1() () ()()i i s s s X p s p s p s p s P X =????==???? ???? ∑。对此次能源进行m 元唯一 可译编码，其对应的码长为（l 1,l 2,…,l 6）=(1,1,2,3,2,3)，求m 值的最好下限。（提示：用kraft 不等式） 4-3设信源为1 234567 811111111()2 4 8 16 3264128128s s s s s s s s X p X ?? ????=???? ??? ??? ，编成这样的码：（000，001，010，011，100，101，110，111）。求 （1）信源的符号熵； （2）这种码的编码效率； （3）相应的仙农码和费诺码。 4-4求概率分布为11122 (, ,,,)3551515 信源的二元霍夫曼编码。讨论此码对于概率分布为11111 (,,,,)55555 的信源也是最佳二元码。 4-5有两个信源X 和Y 如下： 1 234567()0.200.190.180.170.150.100.01X s s s s s s s p X ????=???????? 123456789()0.490.140.140.070.070.040.020.020.01Y s s s s s s s s s p Y ????=????????
一、（11’）填空题 （1）1948年，美国数学家香农发表了题为“通信的数学理论”的长篇论文,从而创立了信息论. （2）必然事件的自信息是 0 。 （3）离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的 N倍。 （4）对于离散无记忆信源，当信源熵有最大值时，满足条件为__信源符号等概分布_。 （5）若一离散无记忆信 源的信源熵H（X） 等于 2.5，对信源 进行等长的无失真 二进制编码，则编 码长度至少为 3 . （6）对于香农编码、费诺编码和霍夫曼编码，编码方法惟一的是香农编码。（7）已知某线性分组码的最小汉明距离为3，那么这组码最多能检测出_2_______个码元错误，最多能纠正___1__个码元错误. （8）设有一离散无记忆平稳信道，其信道容量为C，只要待传送的信息传输率R__小于___C(大于、小于或者等于）, 则存在一种编码,当输入序列长度n足够大,使译码错误概率任意小。 （9）平均错误概率不仅与信道本身的统计特性有关，还与___译码规则____________和___编码方法___有关 二、（9）判断题 （1）信息就是一种消息。 ( ） （2）信息论研究的主要问题是在通信系统设计中如何实现信息传输、存储和处理的有效性和可靠性。（） （3）概率大的事件自信息量大。 ( ） （4）互信息量可正、可负亦可为零。（） （5）信源剩余度用来衡量信源的相关性程度，信源剩余度大说明信源符号间的依赖关系较小。 （）
（6） 对于固定的信源分布，平均互信息量是信道传递概率的下凸函数。 （ ） （7） 非奇异码一定是唯一可译码，唯一可译码不一定是非奇异码。 （ ） （8） 信源变长编码的核心问题是寻找紧致码（或最佳码），霍夫曼编码方法构造的是最佳码。 （ ) （9)信息率失真函数R(D)是关于平均失真度D 的上凸函数. ( ） 三、(5）居住在某地区的女孩中有25%是大学生，在女大学生中有75％是身高1。6米以上的， 而女孩中身高1.6米以上的占总数的一半。 假如我们得知“身高1.6米以上的某女孩是大学生”的消息，问获得多少信息量? 解:设A 表示“大学生”这一事件，B 表示“身高1.60以上”这一事件，则 P （A)=0。25 p （B)=0。5 p （B ｜A ）=0。75 (2分) 故 p （A ｜B ）=p(AB)/p(B)=p(A)p(B|A)/p(B)=0。75*0.25/0.5=0。375 (2分） I （A|B ）=-log0.375=1。42bit （1分） 四、（5）证明：平均互信息量同信息熵之间满足 I （X ；Y)=H(X)+H （Y)-H(XY ） 证明： ()()() () ()()()() ()() Y X H X H y x p y x p x p y x p x p y x p y x p Y X I X X Y j i j i Y i j i X Y i j i j i -=??? ???---==∑∑∑∑∑∑log log log ; (2分） 同理 ()()() X Y H Y H Y X I -=; （1分） 则