信息论与编码(第二版)陈运主编课件第六章 (2)

信息论与编码试题集与答案(新)

1. 在无失真的信源中，信源输出由 H(X) 来度量；在有失真的信源中，信源输出由

R(D) 来度量。

2. 要使通信系统做到传输信息有效、可靠和保密，必须首先信源编码，

然后_____加密____编码，再______信道_____编码，最后送入信道。

3. 带限AWGN波形信道在平均功率受限条件下信道容量的基本公式，也就是有名的香农公式是log(1)CWSNR；当归一化信道容量C/W趋近于零时，也即信道完全丧失了通信能力，此时Eb/N0为 -1.6 dB，我们将它称作香农限，是一切编码方式所能达到的理论极限。

4. 保密系统的密钥量越小，密钥熵H(K)就越小，其密文中含有的关于明文的信息量I(M；C)就越大。

5. 已知n＝7的循环码42()1gxxxx，则信息位长度k为 3 ，校验多项式

h(x)= 31xx 。

6. 设输入符号表为X＝{0，1}，输出符号表为Y＝{0，1}。输入信号的概率分布为p＝(1/2，1/2)，失真函数为d(0，0) = d(1，1) = 0，d(0，1) =2，d(1，0) = 1，则Dmin＝ 0 ，R(Dmin)＝ 1bit/symbol ，相应的编码器转移概率矩阵[p(y/x)]＝1001；Dmax＝ 0.5 ，R(Dmax)＝

0 ，相应的编码器转移概率矩阵[p(y/x)]＝1010。

7. 已知用户A的RSA公开密钥(e,n)=(3,55)，5,11pq,则()n 40 ，他的秘密密钥(d,n)＝(27,55) 。若用户B向用户A发送m=2的加密消息，则该加密后的消息为 8 。

二、判断题

1. 可以用克劳夫特不等式作为唯一可译码存在的判据。（ ）

2. 线性码一定包含全零码。（ ）

信息论与编码试卷与答案

一、概念简答题（每题5分，共40分）

1.什么是平均自信息量与平均互信息，比较一下这两个概念的异同？

2.简述最大离散熵定理。对于一个有m个符号的离散信源，其最大熵是多少？

3.解释信息传输率、信道容量、最佳输入分布的概念，说明平均互信息与信源的概率分布、信道的传递概率间分别是什么关系？

4.对于一个一般的通信系统，试给出其系统模型框图，并结合此图，解释数据处理定理。

5.写出香农公式，并说明其物理意义。当信道带宽为5000Hz，信噪比为30dB时求信道容量。

6.解释无失真变长信源编码定理。

7.解释有噪信道编码定理。

8.什么是保真度准则？对二元信源，其失真矩阵，求a>0时率失真函数的和？

二、综合题（每题10分，共60分）

1.黑白气象传真图的消息只有黑色和白色两种，求：

1）黑色出现的概率为0.3，白色出现的概率为0.7。给出这个只有两个符号的信源X的数学模型。假设图上黑白消息出现前后没有关联，求熵；

2）假设黑白消息出现前后有关联，其依赖关系为：，，，，求其熵；

2.二元对称信道如图。；

1）若，，求和；

2）求该信道的信道容量和最佳输入分布。

3.信源空间为，试分别构造二元和三元霍夫曼码，计算其平均码长和编码效率。

4.设有一离散信道，其信道传递矩阵为，并设，试分别按最小错误概率准则与最大似然译码准则确定译码规则，并计算相应的平均错误概率。

5.已知一（8，5）线性分组码的生成矩阵为。

求：1）输入为全00011和10100时该码的码字；2）最小码距。

6.设某一信号的信息传输率为5.6kbit/s，在带宽为4kHz的高斯信道中传输，噪声功率谱NO=5×10－6mw/Hz。试求：（1）无差错传输需要的最小输入功率是多少？

（2）此时输入信号的最大连续熵是多少？写出对应的输入概率密度函数的形式。

一、概念简答题（每题5分，共40分）

1.答：平均自信息为

表示信源的平均不确定度，也表示平均每个信源消息所提供的信息量。

信息论与编码模拟试卷

信息论与编码模拟试卷1答案及评分标准

一、填空题(共 15 分)

1. ∪

2. 4，3

3. ∪

4. H(U)/logD≤N< 1/L+H(U)/logD

5. 0111001

6. p(y/x)，有效性

7. =，≥，=

8. H(X/Y) ≤H2(Pe)+Pelog(k-1)，H2(Pe)

二、选择题(共 20 分)

D，A，D，B，C，B，A，D，C，A

三、简答题(共15分)

1．H(X)≤logM (5分 )

2. 信源产生消息 (10分)

编码器提高有效性和可靠性

信道信息传输通道

译码器还原消息

信宿接收消息

四、编码题 (共 12 分)

1. Huffuman编码0，21，20，12，11，10，221，220 (8分) 2. 平均码长N (2分)

编码效率 η = H(X)/2log3 (2分) 五、计算题(共 38 分)

1． (3分) []⎥⎥⎥

⎦⎤

⎢⎢⎢

⎣⎡=04.004.012.015.015.02.006.009.015.0),(yxp

第 1 页共 2 页最佳判决译码 y1→x2 (1分)

y2→x2 (1分)

y3→x2 (1分)

误码率 Pe= 0.5 (2分)

2. 最佳分布q(x) = 0.5 (2分)

[]⎥⎥⎥

⎦⎤

⎢⎢⎢

⎣⎡

−−−−=

414144444141),(rrrrrrrryxp (2分)

w(y) =⎥⎦⎤⎢⎣⎡41414141 (2分)

C = I（X;Y）=H（Y）-H（Y/X） (2分) 3. Dmin = 0 ， Dmax = 4/3 ，R(D)min = 0 ，R(D)max = H(X) (8分)

六、综合题(共 14 分)

1. (2分) ⎥⎥⎥

⎦⎤

⎢⎢⎢

⎣⎡=100011010110001101H

2. 纠1位，检2位 (2分)

3. 全部码字000000,100101,010011,001110,110110,101011,011101,111000 (8分)

信息论与编码试题集与答案(新) 2