《信息论与编码》试卷样卷

  • 格式:doc
  • 大小:30.00 KB
  • 文档页数:2

武汉大学 学年度第 学期
《信息论与编码 》试卷(A)
学院 专业 班 学号 姓名 分数

“On my honor as a student I have neither given nor received any help for this assignment/test”
Signature:

一.填空题(每空1分,共20分)
1.香农信息论的三个基本概念分别为____________、____________、____________。
2.对离散无记忆信源来说,当信源呈____________分布情况下,信源熵取最大值。
3.写出平均互信息的三种表达公式____________、____________、____________。
4.若连续信源输出的平均功率和均值被限定,则其输出信号幅度的概率密度函数为____________
时,信源具有最大熵值;若连续信源输出非负信号的均值受限,则其输出信号幅度呈
____________分布时,信源具有最大熵值。
5.信道容量是为了解决通信的________问题,而信息率失真函数是为了解决通信的________问题。
6.费诺编码比较适合于____________________________________的信源。
7.无记忆编码信道的每一个二元符号输出可以用多个比特表示,理想情况下为实数,此时的无记忆
二进制信道又称为____________。
8.差错控制的4种基本方式是:____________、____________、____________、____________。
9.(n,k) 线性码能纠t个错误,并能发现l 个错误 (l>t),码的最小距离为:
____________________________________。
10.循环码码矢的 i 次循环移位等效于将码多项式乘____________后再模____________。

二.简答题(每小题5分,共30分)
1.分别说明平均符号熵与极限熵的物理含义并写出它们的数学表达式。
2.写出二进制均匀信道的数学表达式,并画出信道容量C与信道转移概率p的曲线图。
3. 简述保真度准则下的信源编码定理及其物理意义。
4.在哈夫曼编码过程中,对缩减信源符号按概率由大到小的顺序重新排列时,应将合并后的新符号
排在同概率大小信源符号的前面还是后面?并说明原因。
5.设某二元码为C={11100,01001,10010,00111},请问此码的最小码距是多少?码率R(假设码字等
概率分布)为多少?此码能纠正几位码元错误?
6.目前对卷积码有哪些描述方法?各从什么角度考虑的?
三.计算题(每小题10分,共50分)
1.黑白气象传真图的消息只有黑色和白色两种,即信源X={黑,白}。设黑色出现的概率为P(黑)=0.4,
白色的出现概率P(白)=0.6。
(1) 假设图上黑白消息出现前后没有关联,求熵H(X);
(2) 假设消息前后有关联,其依赖关系为P(白/白)=0.8,P(黑/白)=0.2,
P(白/黑)=0.3,P(黑/黑)=0.7,求此一阶马尔可夫信源的熵H2(X);
(3) 分别求上述两种信源的剩余度,比较H(X)和H2(X)的大小,并说明其物理意义。
2.设电话信号的信息率为5.6×104比特/秒,在一个噪声功率谱为N0=5×10-6mW/Hz、限频F、限输
入功率P的高斯信道中传送,若F=4kHz, 问无差错传输所需的最小功率P是多少W? 若F趋于无穷
大时,则P是多少瓦?

3.有一个二元对称信道,其信道矩阵为0.880.120.120.88。设该信源以1500二元符号/秒的速度传输输
入符号。现有一消息序列共有12000个二元符号,并设p(0)=p(1)=1/2,问从信息传输的角度来考虑,
10秒钟内能否将这消息序列无失真地传递完?
4.信源符号X有6种字母,概率为 (0.32, 0.22, 0.18, 0.16, 0.08, 0.04)
(1)用香农编码编成二进变长码,计算其编码效率。
(2)用哈夫曼编码编成二进变长码,计算其编码效率。
5.已知(7,3)循环码的全部码字
0000000
0011101
0111010
1101001
1010011
0100111
1001110
(1) 写出该循环码的生成多项式g(x)和生成矩阵G;
(2) 写出一致监督矩阵H;