.. ..
... . .
第3章 信道容量
习题解答
3-1 设二进制对称信道的转移概率矩阵为2/31/31/32/3⎡⎤
⎢⎥⎣⎦
解: (1) 若12()3/4,()1/4P a P a ==，求(),(),(|),(|)H X H Y H X Y H Y X 和
(;)I X Y 。
i i 2
i=1
3311
H(X)=p(a )log p(a )log()log()0.8113(/)4444bit -=-⨯-=∑符号
111121*********
j j j=1
32117
p(b )=p(a )p(b |a )+p(a )p(b |a )=43431231125
p(b )=p(a )p(b |a )+p(a )p(b |a )=434312
7755
H(Y)=p(b )log(b )=log()log()0.9799(/)
12121212bit ⨯+⨯=
⨯+⨯=
---=∑符号 22
i j j i j i j i ,H(Y|X)=p(a ,b )logp(b |a )p(b |a )logp(b |a )
2211
log()log()0.9183(/)
3333
i j
j
bit -=-=-⨯-⨯=∑∑符号
I(X;Y)=H(Y)H(Y|X)=0.97990.91830.0616(/)bit --=符号 H(X|Y)=H(X)I(X;Y)=0.81130.06160.7497(/bit --=符号)
(2)求该信道的信道容量及其达到信道容量时的输入概率分布。
二进制对称信息的信道容量
H(P)=-plog(p)-(1-p)log(1-p)
1122
C =1-H(P)=1+log()+log()=0.0817(bit/)
3333符 BSC 信道达到信道容量时，输入为等概率分布，即：{0.5，0.5} 注意单位
3-4 设BSC 信道的转移概率矩阵为
1
12211Q εεεε-⎡⎤=⎢⎥
-⎣⎦
1）写出信息熵()H Y 和条件熵(|)H Y X 的关于1()H ε和2()H ε表达式，其中
()log (1)log(1)H εεεεε=----。
2）根据()H ε的变化曲线，定性分析信道的容道容量，并说明当12εε=的信道容量。
解：（1）设输入信号的概率颁布是{p,1-p}
111121212
()()(|)()(|)(1)(1)p b p a p b a p a p b a p p =⨯+⨯=⨯-ε+-⨯ε212122212()()(|)()(|)(1)(1)
p b p a p b a p a p b a p p =⨯+⨯=⨯ε+-⨯-ε
11221212121212()()log ()()log ()
[(1)(1)]log[(1)(1)][(1)(1)]log[(1)(1)][(1)(1)]
H Y p b p b p b p b p p p p p p p p H p p =--=-⨯-ε+-⨯ε⨯-ε+-⨯ε-⨯ε+-⨯-ε⨯ε+-⨯-ε=⋅-ε+-⋅ε
2
,1
111222212(|)()(|)log (|)
[(1)log(1)1log()](1)[(1)log(1)log()]()(1)()
i j i j i i j H Y X p a p b a p b a p p p H p H ==-=-⨯-ε-ε+εε---ε-ε+εε=⋅ε+-⋅ε∑
（2）()H ε的变化曲线，是一个上凸函数，当输入等概率分布时达到信道容量。
()
()
1212()
max{(;)}max{()(|)}
max{[(1)(1)]()(1)()}p x p x p x C I X Y H Y H Y X H p p p H p H ==-=⨯-ε+-⨯ε-⨯ε+-⨯ε
由于函数H （ε）是一个凸函数，有一个性质：
1212((1))()(1)()f f f θ⋅α+-θ⋅α≥θ⋅α+-θ⋅α
.. ..
... . .
可知：C ≥0
假设12εε==ε时此信道是一个二元对称信道，转移概率分布为：
11Q ε-ε
ε⎡⎤=⎢⎥
ε-⎣⎦ 信道容量：
121-log -(1-)log(1-)1-()
C H εεε
εεεεε==== 3-10 电视图像由30万个像素组成，对于适当的对比度，一个像素可取10个可辨别的亮度电平，假设各个像素的10个亮度电平都以等概率出现，实时传送电视图像每秒发送30帧图像。为了获得满意的图像质量，要求信号与噪声的平均功率比值为30dB ，试计算在这些条件下传送电视的视频信号所需的带宽。 解：
i 1
p(x )=
10
()log10 3.32/I X bit ==像素
1秒可以传送的信息量为：
3.3219/bit bit ⨯⨯⨯⨯7像素3010000像素30=2.989710
103
36log(1),:10log ()3010log(110): 2.999510S S
C B dB N N
S
N
B B HZ
=+
=∴=⨯=+=⨯7已知2.989710可得
3-11 一通信系统通过波形信道传送信息，信道受双边功率谱密度
80/20.510N -=⨯W ／Hz 的加性高斯白噪声的干扰，信息传输速率
24R =kbit/s ，信号功率1P =W 。
1）若信道带宽无约束，求信道容量；
解：带限的加性高斯白噪声波形信道的信道容量为
