2004信息论与编码试卷1
- 格式:doc
- 大小:81.50 KB
- 文档页数:5
考试时间120分钟
1.(15分)彩色电视显象管的屏幕上有5×105个象元,设每个象元有64种彩色度,每种彩度又有16种不同的亮度层次,如果所有的彩色品种和亮度层次的组合均以等概率出现并且各个组合之间相互独立。
①计算每秒传送25帧图象所需要的信道容量;
②如果在加性高斯白噪声信道上信号与噪声平均功率的比值为63,为实时传送彩色电视的
图象,信道的带宽应为多大?
(1)每种彩色度和亮度层次组合的概率P =1/(64*16)。每个彩色像元的自信息
量I1=log 1/P = 10 bits/每像元。每帧彩色图像的信息量I2= 10*5*105= 5*106
bit/帧。因为每秒有25帧图像,所以,所需的信道容量至少为
C =5*106*25 = 1.25 * 108 bits
(2)因为,S/N=63 C = Wlog2(1+S/N) = 6W
所以,W =C/6 =20.9 MHz
2.(15分)已知一个信源包含八个符号消息,它们的概率分布如下表,
①该信源每秒钟内发出一个符号,求该信源的熵及信息传输速率。
②对八个符号作二进制码元的霍夫曼编码,写出各代码组,并求出编码效率。
③对八个符号作三进制码元的霍夫曼编码,写出各代码组,并求出编码效率。
①H(X) = -∑p(x)logp(x) = 2.552 bits/符号。由于每秒中只有一个符号,所以传输速率R =
H = 2.552 bits/S
②各符号对应的码组如下:A―100;B―110;C―0;D―11101;E-1010;F-1111;
G-1011;H-11100。
平均码长N =∑P i N i=0.4*1 + 0.28*3 + 0.23*4 + 0.09*5 = 2.61
编码效率η=H(X)/N = 97.79%
③各符号对应的码组如下:A―11;B―12;C―2;D―022;E-00;F-10;G-01;
H-021。
平均码长N =∑P i N i=0.4*1 + 2*0.51 + 3*0.09 = 1.69
编码效率η=H(X)/N = 95.28%
3.(15分)一信源产生概率为995.0)0(,005.0)1(==P P 的统计独立二进制数符。这
些数符组成长度为100的数符组。我们为每一个含有3个或少于3个“1”的源数符组提供一个二进制码字,所有码字的长度相等。
① 求出为所规定的所有源符组都提供码字所需的最小码长。 ② 求信源发出一数符组,而编码器无相应码字的概率。
①
含有1个“1”的个数为
1001
100=C ; 不含有“1”的个数为 10100
=C ;
含有2个“1”的个数为
49502100=C ;含有3个“1”的个数为 1617003100=C ;所以,
含有3个“1”或少于3个“1”的源符组个数为 M = 1+100+4950+161700 = 166751 所需最小码长为
D M N 22log /log ≥,因为是二元码所以D =2
⎡⎤
18log 2=≥M N
②
首先求信源发出一源符组,有码字与之对应的概率。由题意,只有当源符组含有3个“1”或少于3个“1”时,才有码字与之对应。因此有码字的概率为
99833
.0012.0075.0304.0606.0)1()0()1()0( )1()0()1()0(3
973
10029821001
99110001000100=+++=+++=P P C P P C P P C P P C P c
无码字与之对应的概率为00167.099833.011=-=-=c e
P P
4.(15分)
求下图中DMC 的信道容量。如果输入分布为{p(x=0)=1/2,p(x=1)=1/4,
p(x=2)=1/4),试求输入的信息熵和经过该信道的输入、输出间的平均互信息量。
由图可知,该信道的转移概率矩阵如下
Y=0 Y=1 Y=2 Y=3
X=0 1/3 1/3 0 1/3
X=1 0 1/3 1/3 1/3
X=2 1/3 0 1/3 1/3
易知该信道是一个准对称信道,则当输入为等概分布时
C = I(x=0, Y) = ∑
∑
=
=
3
2
)|
(
3
1
)0|
(
log
)0|
(
j
i
i
j
p
j
p
j
P
=
∑
=
3
)
(
)0|
(
log
)0|
(
j
j
w
j
p
j
P
因为W(0) = 1/3 [1/3 + 1/3] = 2/9 W(1) = 1/3[1/3 +1/3] = 2/9 W(3) = 1/3[1/3+1/3+/13] = 1/3
所以
3/1
3/1
log
3
1
9
2
3
1
log
3
1
9
2
3
1
log
3
1
+
+
=
C
= 2/3log3/2 bits
当p(x=0) = 1/2, p(x=1) = 1/4, p(x=2) = 1/4时:
H(X) =
∑
-
x
x
p
x
p)
(
log
)
(
2
=3/2 bits
又因为H(Y)=
∑
-
y
y
p
y
p)
(
log
)
(
2
= 1+ 1/6log6 + 1/3log3 3