信息理论与编码试卷 A

信息论与编码理论习题答案LG GROUP system office room 【LGA16H-LGYY-LGUA8Q8-LGA162】第二章 信息量和熵八元编码系统，码长为3，第一个符号用于同步，每秒1000个码字，求它的信息速率。

解：同步信息均相同，不含信息，因此 每个码字的信息量为 2⨯8log =2⨯3=6 bit因此，信息速率为 6⨯1000=6000 bit/s掷一对无偏骰子，告诉你得到的总的点数为：(a) 7; (b) 12。

问各得到多少信息量。

解：(1) 可能的组合为 {1，6},{2，5},{3，4},{4，3},{5，2},{6，1})(a p =366=61得到的信息量 =)(1loga p =6log = bit (2) 可能的唯一，为 {6，6})(b p =361得到的信息量=)(1logb p =36log = bit 经过充分洗牌后的一副扑克（52张），问：(a) 任何一种特定的排列所给出的信息量是多少？(b) 若从中抽取13张牌，所给出的点数都不相同时得到多少信息量？解：(a) )(a p =!521信息量=)(1loga p =!52log = bit (b) ⎩⎨⎧⋯⋯⋯⋯花色任选种点数任意排列13413!13)(b p =1352134!13A ⨯=1352134C 信息量=1313524log log -C = bit 随机掷3颗骰子，X 表示第一颗骰子的结果，Y 表示第一和第二颗骰子的点数之和，Z 表示3颗骰子的点数之和，试求)|(Y Z H 、)|(Y X H 、),|(Y X Z H 、)|,(Y Z X H 、)|(X Z H 。

解：令第一第二第三颗骰子的结果分别为321,,x x x ，1x ，2x ，3x 相互独立，则1x X =，21x x Y +=，321x x x Z ++=)|(Y Z H =)(3x H =log 6= bit )|(X Z H =)(32x x H +=)(Y H=2⨯(361log 36+362log 18+363log 12+364log 9+365log 536)+366log 6= bit )|(Y X H =)(X H -);(Y X I =)(X H -[)(Y H -)|(X Y H ]而)|(X Y H =)(X H ，所以)|(Y X H = 2)(X H -)(Y H = bit或)|(Y X H =)(XY H -)(Y H =)(X H +)|(X Y H -)(Y H 而)|(X Y H =)(X H ，所以)|(Y X H =2)(X H -)(Y H = bit),|(Y X Z H =)|(Y Z H =)(X H = bit )|,(Y Z X H =)|(Y X H +)|(XY Z H =+= bit设一个系统传送10个数字，0，1，…，9。

题号 一 二 三 四 总分 统分人 题分 35 10 23 32 100得分 一、填空题（每空1分，共35分） 得分| |阅卷人|1、1948年，美国数学家 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。

信息论的基础理论是 ，它属于狭义信息论。

2、信号是 的载体，消息是 的载体。

3、某信源有五种符号}{,,,,a b c d e ，先验概率分别为5.0=a P ，25.0=b P ，125.0=c P ，0625.0==e d P P ，则符号“a ”的自信息量为 bit ，此信源的熵为 bit/符号。

4、某离散无记忆信源X ，其概率空间和重量空间分别为1234 0.50.250.1250.125X x x x x P ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦和1234 0.5122X x x x x w ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦，则其信源熵和加权熵分别为 和 。

5、信源的剩余度主要来自两个方面，一是 ，二是 。

6、平均互信息量与信息熵、联合熵的关系是 。

7、信道的输出仅与信道当前输入有关，而与过去输入无关的信道称为 信道。

8、马尔可夫信源需要满足两个条件：一、 ； 二、 。

9、若某信道矩阵为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡0100010000001100，则该信道的信道容量C=__________。

10、根据是否允许失真，信源编码可分为 和 。

11、信源编码的概率匹配原则是：概率大的信源符号用 ，概率小的信源符号用 。

（填短码或长码）12、在现代通信系统中，信源编码主要用于解决信息传输中的 性，信道编码主要用于解决信息传输中的 性，保密密编码主要用于解决信息传输中的安全性。

13、差错控制的基本方式大致可以分为 、 和混合纠错。

14、某线性分组码的最小汉明距dmin=4，则该码最多能检测出 个随机错，最多能纠正 个随机错。

15、码字101111101、011111101、100111001之间的最小汉明距离为 。

信息理论与编码-期末试卷A及答案⼀、填空题（每空1分，共35分）1、1948年，美国数学家发表了题为“通信的数学理论”的长篇论⽂，从⽽创⽴了信息论。

信息论的基础理论是，它属于狭义信息论。

2、信号是的载体，消息是的载体。

3、某信源有五种符号}{,,,,a b c d e ，先验概率分别为5.0=a P ，25.0=b P ，125.0=c P ，0625.0==e d P P ，则符号“a ”的⾃信息量为 bit ，此信源的熵为 bit/符号。

4、某离散⽆记忆信源X ，其概率空间和重量空间分别为1234 0.50.250.1250.125X x x x x P =???和12340.5122X x x x x w=，则其信源熵和加权熵分别为和。

5、信源的剩余度主要来⾃两个⽅⾯，⼀是，⼆是。

6、平均互信息量与信息熵、联合熵的关系是。

7、信道的输出仅与信道当前输⼊有关，⽽与过去输⼊⽆关的信道称为信道。

8、马尔可夫信源需要满⾜两个条件：⼀、；⼆、。

9、若某信道矩阵为010001000001100，则该信道的信道容量C=__________。

10、根据是否允许失真，信源编码可分为和。

11、信源编码的概率匹配原则是：概率⼤的信源符号⽤，概率⼩的信源符号⽤。

（填短码或长码）12、在现代通信系统中，信源编码主要⽤于解决信息传输中的性，信道编码主要⽤于解决信息传输中的性，保密密编码主要⽤于解决信息传输中的安全性。

13、差错控制的基本⽅式⼤致可以分为、和混合纠错。

14、某线性分组码的最⼩汉明距dmin=4，则该码最多能检测出个随机错，最多能纠正个随机错。

15、码字1、0、1之间的最⼩汉明距离为。

16、对于密码系统安全性的评价，通常分为和两种标准。

17、单密钥体制是指。

18、现代数据加密体制主要分为和两种体制。

19、评价密码体制安全性有不同的途径，包括⽆条件安全性、和。

20、时间戳根据产⽣⽅式的不同分为两类：即和。

一、填空题（每空1分，共35分） 1、1948年，美国数学家 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。

信息论的基础理论是 ，它属于狭义信息论。

2、信号是 的载体，消息是 的载体。

3、某信源有五种符号}{,,,,a b c d e ，先验概率分别为5.0=a P ，25.0=b P ，125.0=c P ，0625.0==e d P P ，则符号“a ”的自信息量为 bit ，此信源的熵为 bit/符号。

4、某离散无记忆信源X ，其概率空间和重量空间分别为1234 0.50.250.1250.125X x x x x P ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦和12340.5122X x x x x w ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦，则其信源熵和加权熵分别为 和 。

5、信源的剩余度主要来自两个方面，一是，二是 。

6、平均互信息量与信息熵、联合熵的关系是 。

7、信道的输出仅与信道当前输入有关，而与过去输入无关的信道称为 信道。

8、马尔可夫信源需要满足两个条件：一、 ； 二、。

9、若某信道矩阵为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡010001000001100，则该信道的信道容量C=__________。

10、根据是否允许失真，信源编码可分为 和 。

12、在现代通信系统中，信源编码主要用于解决信息传输中的 性，信道编码主要用于解决信息传输中的 性，保密密编码主要用于解决信息传输中的安全性。

13、差错控制的基本方式大致可以分为 、 和混合纠错。

14、某线性分组码的最小汉明距dmin=4，则该码最多能检测出 个随机错，最多能纠正 个随机错。

15、码字101111101、011111101、100111001之间的最小汉明距离为 。

16、对于密码系统安全性的评价，通常分为 和 两种标准。

17、单密钥体制是指 。

18、现代数据加密体制主要分为 和 两种体制。

19、评价密码体制安全性有不同的途径，包括无条件安全性、 和 。

2012-2013 (2) 信息论与编码理论1 A 卷答案一、 单项选择题（每题3分，总计15分） 1．当底为e 时，平均互信息的单位为（ C ）。

A 奈特B 哈特C 奈特/符号D 哈特/符号 2．下列量当Y X ,交换位置时（ C ）没有对称性。

A );(Y X IB ),(Y X HC )|(Y X HD )|,(Z Y X I3．下列（ A ）陈述是错误的。

A 算术编码不需要知道信源的分布B LZ 编码不需要知道信源的分布C 游程编码不需要知道信源的分布D KY 编码不需要知道信源的分布 4．下列数组中（ A ）不满足两个字母上的Kraft 不等式。

A (1，2，1)B (2,2)C (1,2,3)D （3，3，3） 5．下列译码法则中（ A ）一定是错误概率最小的。

A 最大后验概率译码准则B 最大似然译码准则C 最小距离译码准则D 最大先验概率译码准则 二、填空题（每空2分，总计12分）1．若某离散信道转移概率矩阵为⎥⎦⎤⎢⎣⎡125.0125.05.025.0125.0125.025.05.0，则其信道容量为43log 352-比特/符号。

2．若一个信道的输入熵为8.1)(=X H 比特/符号，输出熵为2.2)(=Y H 比特/符号，6.0);(=Y X I 比特/符号，则=),(Y X H __3.4比特/符号__，疑义度为1.2比特/符号_。

3．平均互信息对信源概率分布是上凸函数，对信道的状态转移概率分布是下凸函数。

4．对信源U 任一个D 元唯一可译码的平均码长必大于等于DU H log )(。

三、计算题（73分）1）（15分）设随机变量Y X ,的联合概率分布如下：Y X Z ⊕=，⊕为模2加。

分别求);(),|(),(),(Z X I Y X H Y H X H 。

解: X 的分布率为则1)(=X H 比特/符号..3分Y 的分布率为则3log 432)(2-=Y H =0.811比特/符号. …………………………………………………..……..6分)0()0,0()0|0(======Y P Y X p Y X p =1,)1()1,0()1|0(======Y P Y X p Y X p =31)0()0,1()0|1(======Y P Y X p Y X p =0,)1()1,1()1|1(======Y P Y X p Y X p = 32)1|0(log )1,0()0|0(log )0,0()|(22p p p p Y X H --=)1|1(log )1,1()0|1(log )0,1(22p p p p --=32log 210log 031log 411log 412222----=213log 432-=0.688比特/符号. ……………..10分)0()0,0()0|0(======Z P Z X p Z X p =31,)1()1,0()1|0(======Z P Z X p Z X p =1 )0()0,1()0|1(======Z P Z X p Z X p =32,)1()1,1()1|1(======Z P Z X p Z X p =0则)1()1|1(log )1,1()1()0|1(log )0,1()0()1|0(log )1,0()0()0|0(log )0,0();(2222=+=+=+==X p p p X p p p X p p p X p p p Z X I =210log 02132log 41211log 412131log 412222+++=9log 4112-=0.2075比特/符号. …………………..15分2）（22分）若离散无记忆信源的概率分布为⎪⎪⎭⎫ ⎝⎛=3.01.04.005.005.01.0654321a a a a a a U① 分别构造二元，三元Huffman 编码（要求码长方差最小，但不需求出），Shannon 编码，Fano编码，Shannon-Fano-Elias 编码。

计算机科学技术：信息论与编码真题1、判断题（江南博哥）狭义的信道编码既是指：信道的检、纠错编码。

答案：对2、填空题信源的消息通过信道传输后的误差或失真越大道传输消息所需的信息率（）。

答案：也越小3、填空题互信息I（X；Y）与信息熵H（Y）的关系为：I（X；Y）（）（大于、小于或者等于）H（Y）。

答案：小于4、判断题互信息量I（X；Y）表示收到Y后仍对信源X的不确定度。

答案：对5、填空题线性分组码是同时具有（）的纠错码。

答案：分组特性和线性特性6、填空题连续信源或模拟信号的信源编码的理论基础是（）。

答案：限失真信源编码定理7、填空题设有一个离散无记忆平稳信道，其信道容量为C，只要待传送的信息传输率R（）C（大于、小于或者等于），则存在一种编码，当输入序列长度n 足够大，使译码错误概率任意小。

答案：小于8、名词解释香农信息答案：信息是事物运动状态或存在方式的不确定性的描述。

9、名词解释码距答案：两个等长码字之间对应码元不相同的数目，称为码距10、单选一珍珠养殖场收获240颗外观及重量完全相同的特大珍珠，但不幸被人用外观相同但重量仅有微小差异的假珠换掉1颗。

一人随手取出3颗，经测量恰好找出了假珠，不巧假珠又滑落进去，那人找了许久却未找到，但另一人说他用天平最多6次能找出，结果确是如此，这一事件给出的信息量（）。

A.0bitB.log6bitC.6bitD.log240bit答案：A11、填空题平均失真度的下限取0的条件是失真矩阵的（）。

答案：每一行至少有一个零元素12、判断题信源编码是提高通信有效性为目的的编码。

答案：对13、判断题最大信息传输速率，即：选择某一信源的概率分布（p（xi）），使信道所能传送的信息率的最大值。

答案：错14、填空题一般情况下，信源编码可以分为（）、（）和（）。

答案：离散信源编码;连续信源编码;相关信源编码15、判断题游程序列的熵（“0”游程序列的熵与“1”游程序列的熵的和）大于等于原二元序列的熵。

一、(11’）填空题（1）1948年,美国数学家香农发表了题为“通信的数学理论”的长篇论文，从而创立了信息论.（2）必然事件的自信息是0 。

（3）离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的N倍。

（4）对于离散无记忆信源，当信源熵有最大值时，满足条件为__信源符号等概分布_。

（5）若一离散无记忆信源的信源熵H（X）等于2。

5，对信源进行等长的无失真二进制编码，则编码长度至少为 3 。

（6）对于香农编码、费诺编码和霍夫曼编码，编码方法惟一的是香农编码。

（7）已知某线性分组码的最小汉明距离为3,那么这组码最多能检测出_2_______个码元错误，最多能纠正___1__个码元错误。

（8）设有一离散无记忆平稳信道，其信道容量为C,只要待传送的信息传输率R__小于___C（大于、小于或者等于)，则存在一种编码，当输入序列长度n足够大,使译码错误概率任意小。

（9）平均错误概率不仅与信道本身的统计特性有关,还与___译码规则____________和___编码方法___有关三、(5'）居住在某地区的女孩中有25％是大学生，在女大学生中有75%是身高1。

6米以上的，而女孩中身高1。

6米以上的占总数的一半。

假如我们得知“身高1。

6米以上的某女孩是大学生”的消息，问获得多少信息量?解：设A表示“大学生"这一事件，B表示“身高1.60以上”这一事件，则P（A）=0。

25 p（B）=0。

5 p(B|A）=0.75 （2分）故 p（A｜B)=p(AB）/p（B）=p（A)p（B｜A）/p(B）=0.75*0。

25/0.5=0.375 （2分）I（A｜B)=—log0.375=1。

42bit （1分）四、(5'）证明：平均互信息量同信息熵之间满足I(X；Y）=H（X)+H（Y)—H（XY）证明：()()()()()()()()()()Y X H X H y x p y x p x p y x p x p y x p y x p Y X I X X Y j i j i Y i j i XYi j i j i -=⎥⎦⎤⎢⎣⎡---==∑∑∑∑∑∑log log log; (2分）同理()()()X Y H Y H Y X I -=; (1分) 则()()()Y X I Y H X Y H ;-= 因为()()()X Y H X H XY H += (1分） 故()()()()Y X I Y H X H XY H ;-+=即()()()()XY H Y H X H Y X I -+=; (1分）五、（18’）。

1、单选题下列不属于消息的是( ）。

2分文字信号图像语言标准答案： B2、单选题设有一个无记忆信源发出符号A和B，已知[如图1]，发出二重符号序列消息的信源，无记忆信源熵[如图2]为( ）。

2分图1图20.81bit/二重符号1.62bit/二重符号0.93 bit/二重符号1.86 bit/二重符号标准答案： B3、单选题同时扔两个正常的骰子,即各面呈现的概率都是1/6,若点数之和为12，则得到的自信息为( ）。

2分－log36bitlog36bit－log（11/36）bitlog（11/36)bit标准答案： B4、单选题二进制通信系统使用符号0和1，由于存在失真，传输时会产生误码，用符号表示下列事件，x0: 发出一个0 、x1: 发出一个1、y0 ：收到一个0、y1：收到一个1 ，则已知收到的符号，被告知发出的符号能得到的信息量是( ）。

2分H（X/Y)H(Y/X)H（X，Y)H(XY）标准答案： A5、单选题一个随即变量x的概率密度函数P（x）= x /2,[如图1]，则信源的相对熵为( ）。

2分图10.5bit0.72bit1bit1.44bit标准答案： C6、单选题下面哪一项不属于熵的性质：( ）。

2分非负性完备性对称性确定性标准答案： B7、单选题根据树图法构成规则，( ）。

2分在树根上安排码字在树枝上安排码字在中间节点上安排码字在终端节点上安排码字标准答案： D8、单选题下列组合中不属于即时码的是( ）。

2分｛0，01,011}｛0，10，110｝｛00，10，11}｛1,01，00}标准答案： A9、单选题已知某（6,3）线性分组码的生成矩阵[如图1]，则不用计算就可判断出下列码中不是该码集里的码是( ）。

2分图1000000110001011101111111标准答案： D10、单选题下列保密编码中属于现代密码体制的是( ）2分凯撒密码Vigenere密码韦维纳姆密码DES加密算法标准答案： D11、单选题1948年，美国数学家( ）发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。

一、填空题（每空1分，共35分）1、1948年，美国数学家 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。

信息论的基础理论是 ，它属于狭义信息论。

2、信号是 的载体，消息是 的载体。

3、某信源有五种符号}{,,,,a b c d e ，先验概率分别为5.0=a P ，25.0=b P ，125.0=c P ，0625.0==e d P P ，则符号“a ”的自信息量为 bit ，此信源的熵为 bit/符号。

4、某离散无记忆信源X ，其概率空间和重量空间分别为1234 0.50.250.1250.125X x x x x P ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦和12340.5122X x x x x w ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦，则其信源熵和加权熵分别为 和 。

5、信源的剩余度主要来自两个方面，一是 ，二是 。

6、平均互信息量与信息熵、联合熵的关系是 。

7、信道的输出仅与信道当前输入有关，而与过去输入无关的信道称为 信道。

8、马尔可夫信源需要满足两个条件：一、 ；二、 。

9、若某信道矩阵为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡010001000001100，则该信道的信道容量C=__________。

10、根据是否允许失真，信源编码可分为 和 。

11、信源编码的概率匹配原则是：概率大的信源符号用 ，概率小的信源符号用 。

（填短码或长码）12、在现代通信系统中，信源编码主要用于解决信息传输中的 性，信道编码主要用于解决信息传输中的 性，保密密编码主要用于解决信息传输中的安全性。

13、差错控制的基本方式大致可以分为 、 和混合纠错。

14、某线性分组码的最小汉明距dmin=4，则该码最多能检测出 个随机错，最多能纠正 个随机错。

15、码字1、0、1之间的最小汉明距离为 。

16、对于密码系统安全性的评价，通常分为 和 两种标准。

17、单密钥体制是指 。

18、现代数据加密体制主要分为 和 两种体制。

第一章 自我测试题一、填空题1. 在认识论层次上研究信息的时候，必须同时考虑到形式、__语义___和__语用___三个方面的因素。

2. 如果从随机不确定性的角度来定义信息，信息是用以消除__随机不确定性___的东西。

3. 信源编码的结果是__减小_冗余；而信道编码的手段是__增加___冗余。

4. _1948_年，香农发表了著名的论文__通信的数学理论__，标志着信息论诞生。

5. 信息商品是一种特殊商品，它有__保存性_性、_共享_性、_老化可能_性和 知识创造性 等特征。

二、判断题1. 信息传输系统模型表明，噪声仅仅来源于信道（×）2. 本体论层次信息表明，信息不依赖于人而存在（√）3. 信道编码与译码是一对可逆变换（×）4. 1976年，论文《密码学的新方向》的发表，标志着保密通信研究的开始（×）5. 基因组序列信息的提取和分析是生物信息学的研究内容之一（√）三、选择题1.下列表述中，属于从随机不确定性的角度来定义信息的是__D___ A ． 信息是数据B ． 信息是集合之间的变异度C ． 信息是控制的指令D ． 信息是收信者事先不知道的报道 2.___B__是最高层次的信息 A ． 认识论 B ． 本体论 C ． 价值论 D ． 唯物论 3.下列不属于狭义信息论的是__D___ A ． 信息的测度 B ． 信源编码 C ． 信道容量 D ． 计算机翻译 4.下列不属于信息论的研究内容的是__A___ A ． 信息的产生 B ． 信道传输能力 C ． 文字的统计特性 D ． 抗干扰编码 5.下列关于信息论发展历史描述不正确的是__B___A ． 偶然性、熵函数引进物理学为信息论的产生提供了理论前提。

B ． 1952年，香农发展了信道容量的迭代算法C ． 哈特莱用消息可能数目的对数来度量消息中所含有的信息量，为香农创立信息论提供了思路。

D ． 1959年，香农首先提出率失真函数和率失真信源编码定理，才发展成为信息率失真编码理论。

2009 至 2010 学年第 1 学期《信息论与编码》试卷A卷出卷教师：朱春华适应班级：信息科学与工程学院07级电信专业考试方式：闭卷本试卷考试分数占学生总评成绩的 70%(1) 无失真信源编码定理(2) 《通信的数学理论》(3) 提高信息传输的可靠性(4) 4 (5) 前向纠错(6) 增加码长(7)循环码(8) 提高信息传输的有效性(9) 码多项式(10) 正态(11) 系统码 (12) 减小码率(13) 2 (14) 混合纠错(15) 突发差错(16) 最大似然译码 (17) 检错重发 (18）信道编码定理(19) 小于 (20) 相关性(21) x i (22)限失真信源编码定理 (23) 随机差错(24) H(X)(25) x n+1_(26) 3(27) ∞(28) 不均匀性(29) 均匀(30) 增大信道容量C(31) 平均信息量(32) 信道容量(33)独立等概（34）C=Wlog(1+SNR)bit/s (35) 等于1.香农于1948年发表了，这是一篇关于现代信息论的开创性的权威论文，为信息论的创立作出了独特的贡献。

2.香农信息论的三大极限定理是、、。

3.对于单符号信源（信源熵为H(X)），若该信源无记忆，则其二次扩展信源X2的平均符号熵 H(X)；若该信源有记忆，则其二次扩展信源的平均符号熵 H(X).4.冗余度来自两个方面，一是信源符号间的，另一个方面是信源符号分布的。

5.对于离散信源X，信息率失真函数R(0)= ，对于连续信源R(0)= 。

6.信道编码的目的是，信源编码的目的是。

7.把信息组原封不动的搬到码字前k位的(n,k)码就叫做。

8.循环码中的任何一个码字的循环仍是码字，因此用一个基底就足以表示一个码的特征，所以描述循环码的常用数学工具是。

9.差错控制的途径：、、。

10.带限AWGN波形信道在平均功率受限条件下信道容量的基本公式，也就是有名的香农公式。

11.假设一码集中最小码距为5(dmin=5)，该码用于检错，能检出位错码；若用于纠错，能纠正位错误。

西安电子科技大学考试时间120分钟试题1.考试形式：闭卷；2.本试卷共七大题，满分100分。

班级 学号 姓名 任课教师一（30分）基本概念题（1）请判断正误：平均互信息I （X ；Y ）不大于条件平均互信息I （X ；Y|Z ）。

（2）请给出Kraft 不等式，并说明它是否为判断唯一可译码的充要条件。

（3）请说明最大似然译码准则是否为最佳译码准则。

（4）请给出信息率失真函数R(D)的定义并解释其物理含义。

（5）请说明为什么对于平均功率受限的时间离散恒参可加噪声信道，高斯干扰是最坏的干扰及该结论在实际通信中的作用。

（6）设有一硬币，其正面出现的概率为1/3，令0表示正面，试说明在ε→0情况下一个典型序列应具备的特点，并给出这一序列出现的概率。

（7）若失真矩阵为⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡130102，输入集合X 的概率为（1/3、1/3、1/3），请分别给出D min和D max 。

解：（1）该结论错误。

（2）craft 不等式：长度为n 1,n 2,…,n K 的D 元异字头码存在的充分必要条件是∑=-≤Kk knD11。

该不等式可以用来判断是否存在对应长度的唯一可译码，但是不能作为判断唯一可译码的充要条件。

（3）当先验等概时，最大似然准则等价于最佳译码准则；当先验不等概时，不符合最佳译码准则。

（4）信息率失真函数R (D )定义为在满足D 保真度准则下所有许可试验信道所对应的平均互信息的最小值。

其物理含义为：当给定失真度D 时，R(D)是满足保真度第2页共6页准则情况下传输信源信息速率的最低值，即信源压缩的下限。

（5）对平均功率受限的时间离散的恒参可加噪声信道容量C 满足：⎥⎦⎤⎢⎣⎡+≤≤⎪⎪⎭⎫ ⎝⎛+222log 211log 21σσσS C S 其中-2σ是噪声集Z 的熵功率。

由于在平均功率受限条件下，同样噪声功率时，高斯分布可以达到最大的熵功率，从而在高斯噪声时，上述C 取得最小值。

《信息理论与编码》习题参考答案1. 信息是什么?信息与消息有什么区别和联系?答：信息是对事物存在和运动过程中的不确定性的描述。

信息就是各种消息符号所包含的具有特定意义的抽象内容，而消息是信息这一抽象内容通过语言、文字、图像和数据等的具体表现形式。

2. 语法信息、语义信息和语用信息的定义是什么？三者的关系是什么？ 答：语法信息是最基本最抽象的类型，它只是表现事物的现象而不考虑信息的内涵。

语义信息是对客观现象的具体描述，不对现象本身做出优劣判断。

语用信息是信息的最高层次。

它以语法、语义信息为基础，不仅要考虑状态和状态之间关系以及它们的含义，还要进一步考察这种关系及含义对于信息使用者的效用和价值。

三者之间是内涵与外延的关系。

第2章1. 一个布袋内放100个球，其中80个球是红色的，20个球是白色的，若随机摸取一个球，猜测其颜色，求平均摸取一次所能获得的自信息量？答：依据题意，这一随机事件的概率空间为120.80.2X x x P ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦其中：1x 表示摸出的球为红球事件，2x 表示摸出的球是白球事件。

a)如果摸出的是红球，则获得的信息量是()()11log log0.8I x p x =-=-（比特）b)如果摸出的是白球，则获得的信息量是()()22log log0.2I x p x =-=-（比特）c) 如果每次摸出一个球后又放回袋中，再进行下一次摸取。

则如此摸取n 次，红球出现的次数为()1np x 次，白球出现的次数为()2np x 次。

随机摸取n 次后总共所获得信息量为()()()()1122np x I x np x I x +d)则平均随机摸取一次所获得的信息量为()()()()()()()()()112211221log log 0.72 H X np x I x np x I x n p x p x p x p x =+⎡⎤⎣⎦=-+⎡⎤⎣⎦=比特/次2. 居住某地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数的一半。

信息理论与编码试卷Ａ答案专业年级：通信07级总分100分，占总评成绩70%注：此页不作答题纸，请将答案写在答题纸上一填空题（本题20分，每小题2分）1 无失真信源编码的中心任务是编码后的信息率压缩接近到 1 限失真压缩中心任务是在给定的失真度条件下，信息率压缩接近到2 。

2信息论是应用近代数理统计方法研究信息的传输、存储与处理的科学，故称为 3 ；1948年香农在贝尔杂志上发表了两篇有关的“通信的数学理论”文章，该文用熵对信源的 4 的度量，同时也是衡量 5 大小的一个尺度；表现在通信领域里，发送端发送什么有一个不确定量，通过信道传输，接收端收到信息后，对发送端发送什么仍然存在一个不确定量，把这两个不确定量差值用 6 来表示，它表现了通信信道流通的7 ,若把它取最大值，就是通信线路的8 ，若把它取最小值，就是9 。

3 若分组码H阵列列线性无关数为n,则纠错码的最小距离d min为10 。

二简答题（本题20分，每小题4分）1. 根据信息理论当前无失真压宿在压宿空间和速度两个方向还有研究价值吗？2. 我们知道，“猫”(调制解调器的俗称)是在模拟链路上传输数字数据的设备，它可以在一个音频电话线上传输二进制数据，并且没有太高的错误率。

现在，我们上网用的“猫”的速度已可达到56Kbps了，但是，如果你用网络蚂蚁或其它软件从网上下载东西时，你会发现很多时候网络传输的速度都很低，远低于56Kbps（通常音频电话连接支持的频率范围为300Hz到3300Hz，而一般链路典型的信噪比是30dB）（摘自中新网）3.结合信息论课程针对”信息”研究对象,说明怎样研究一个对象.4. 用纠错编码基本原理分析由下列两种生成矩阵形成线性分组码的优劣（1）（2）5. 新华社电,2008年 5月16日下午6时半，离汶川地震发生整整100个小时。

虚弱得已近昏迷的刘德云被救援官兵抬出来时，看到了自己的女儿。

随即，他的目光指向自己的左手腕。

《信息理论与编码》,答案,考试重点(1--3章)work Information Technology Company.2020YEAR《信息理论与编码》习题参考答案1. 信息是什么信息与消息有什么区别和联系答：信息是对事物存在和运动过程中的不确定性的描述。

信息就是各种消息符号所包含的具有特定意义的抽象内容，而消息是信息这一抽象内容通过语言、文字、图像和数据等的具体表现形式。

2. 语法信息、语义信息和语用信息的定义是什么三者的关系是什么答：语法信息是最基本最抽象的类型，它只是表现事物的现象而不考虑信息的内涵。

语义信息是对客观现象的具体描述，不对现象本身做出优劣判断。

语用信息是信息的最高层次。

它以语法、语义信息为基础，不仅要考虑状态和状态之间关系以及它们的含义，还要进一步考察这种关系及含义对于信息使用者的效用和价值。

三者之间是内涵与外延的关系。

第2章1. 一个布袋内放100个球，其中80个球是红色的，20个球是白色的，若随机摸取一个球，猜测其颜色，求平均摸取一次所能获得的自信息量？答：依据题意，这一随机事件的概率空间为120.80.2X x x P ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦其中：1x 表示摸出的球为红球事件，2x 表示摸出的球是白球事件。

a)如果摸出的是红球，则获得的信息量是()()11log log0.8I x p x =-=-（比特）b)如果摸出的是白球，则获得的信息量是()()22log log0.2I x p x =-=-（比特）c) 如果每次摸出一个球后又放回袋中，再进行下一次摸取。

则如此摸取n 次，红球出现的次数为()1np x 次，白球出现的次数为()2np x 次。

随机摸取n 次后总共所获得信息量为()()()()1122np x I x np x I x +d)则平均随机摸取一次所获得的信息量为()()()()()()()()()112211221log log 0.72 H X np x I x np x I x n p x p x p x p x =+⎡⎤⎣⎦=-+⎡⎤⎣⎦=比特/次2. 居住某地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数的一半。

《信息理论与编码》习题参考答案1. 信息是什么信息与消息有什么区别和联系答：信息是对事物存在和运动过程中的不确定性的描述。

信息就是各种消息符号所包含的具有特定意义的抽象内容，而消息是信息这一抽象内容通过语言、文字、图像和数据等的具体表现形式。

2. 语法信息、语义信息和语用信息的定义是什么三者的关系是什么答：语法信息是最基本最抽象的类型，它只是表现事物的现象而不考虑信息的内涵。

语义信息是对客观现象的具体描述，不对现象本身做出优劣判断。

语用信息是信息的最高层次。

它以语法、语义信息为基础，不仅要考虑状态和状态之间关系以及它们的含义，还要进一步考察这种关系及含义对于信息使用者的效用和价值。

三者之间是内涵与外延的关系。

第2章1. 一个布袋内放100个球，其中80个球是红色的，20个球是白色的，若随机摸取一个球，猜测其颜色，求平均摸取一次所能获得的自信息量答：依据题意，这一随机事件的概率空间为120.80.2X x x P ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦其中：1x 表示摸出的球为红球事件，2x 表示摸出的球是白球事件。

a)如果摸出的是红球，则获得的信息量是()()11log log0.8I x p x =-=-（比特）b)如果摸出的是白球，则获得的信息量是()()22log log0.2I x p x =-=-（比特）c) 如果每次摸出一个球后又放回袋中，再进行下一次摸取。

则如此摸取n 次，红球出现的次数为()1np x 次，白球出现的次数为()2np x 次。

随机摸取n 次后总共所获得信息量为()()()()1122np x I x np x I x +d)则平均随机摸取一次所获得的信息量为()()()()()()()()()112211221log log 0.72 H X np x I x np x I x n p x p x p x p x =+⎡⎤⎣⎦=-+⎡⎤⎣⎦=比特/次2. 居住某地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数的一半。