当前位置：文档之家 › 信息论基础 答案2

信息论基础 答案2

  • 格式：doc
  • 大小：614.00 KB
  • 文档页数：5

《信息论基础》试卷第1页
《信息论基础》答案
一、填空题（共15分，每空1分）
1、若一连续消息通过某放大器，该放大器输出的最大瞬时电压为b，最小瞬时电压为a。
若消息从放大器中输出，则该信源的绝对熵是 无穷大 ；其能在每个自由度熵的最

大熵是 logb-a。

2、高斯白噪声信道是指 信道噪声服从正态分布，且功率谱为常数 。
3、若连续信源的平均功率为5 W，则最大熵为12log10e，达到最大值的条件是 高

斯信道 。
4、离散信源存在剩余度的原因是 信源有记忆（或输出符号之间存在相关性） 和 不
等概 。
5、离散无记忆信源在进行无失真变长信源编码时，编码效率最大可以达到 1 。
6、离散无记忆信源在进行无失真变长信源编码时，码字长度是变化的。根据信源符号
的统计特性，对概率大的符号用 短 码，对概率小的符号用 长 码，这样平均码长
就可以降低，从而提高编码效率。

7、八进制信源的最小熵为 0 ，最大熵为 3bit。

8、一个事件发生概率为0.125，则自信息量为 3bit。
9、在下面空格中选择填入数字符号“,,,”或“<”
HXY = HYHXY HYHX
二、判断题（正确打√，错误打×）（共5分，每小题1分）
1) 离散无记忆等概信源的剩余度为0。 （ √ ）
2) 离散无记忆信源N次扩展源的熵是原信息熵的N倍 （ √ ）
3) 互信息可正、可负、可为零。 （ √ ）
4) 信源的真正功率P永远不会大于熵功率P，即PP （ × ）
5) 信道容量与信源输出符号的概率分布有关。 （ × ）

三、（5分）已知信源的概率密度函数px如下图所示，求信源的相对熵

0.5
02
4
x


px


《信息论基础》试卷第2页


4
2
log1hxpxpxdxbit

自由度

四、（15分）设一个离散无记忆信源的概率空间为

12
0.50.5

X
aaPx









它们通过干扰信道，信道输出端的接收信号集为12=,Ybb，已知信道出书概率如下图所
示。

1
x

2
x
1
y

2
y
0.02

0.98

0.8
0.2

试计算：
（1） 信源X中事件1x的自信息量；（3分）
（2） 信源X的信息熵；（3分）

（3） 共熵HXY;（3分）

（4） 噪声熵HYX；（3分）
（5） 收到信息Y后获得的关于信源X的平均信息量。（3分）
（1）11Ixbit

（2）11,1/22Hbit符号
（3）0.490.41.432HXYH，0.01，0.1,
（4）0.432HXYHXYHX
《信息论基础》试卷第3页

（5）,,10.59,0.4110.9771.4320.545IXYHXHYHXYHHXY
五、（10分）一个平均功率受限的连续信道，信道带宽为10MHz，信道噪声为高斯白噪
声。
（1）已知信道上的信号与噪声的平均功率比值为63，计算该信道的信道蓉量。
（2）如果信道带宽降为2MHz，要达到相同的信道容量，信道上的信号与噪声的平均功
率比值应为多少？

2
log1SCBN




（1）6721010log163610/Cbits

（2）309212110CBSN
六、（10分）已知信源共7个符号信息，其概率空间为


1234567
0.20.20.20.10.10.10.1

S
sssssss

PS











（1） 试用霍夫曼编码法编成二进制变长码。（7分）
（2） 计算信源熵，平均码长和编码效率。（9分）
（1）

1
s

2
s
3
s
4
s

5
s

6
s
7
s

0.2
0.2
0.2

0.1

0.1
0.1
0.1

0
0
0

0
0

0

1
1

1

1
1
1

0.4
0.6
0.2
0.2
0.4

0.1

1
2
3
4
5
6
7

00010011100101110111sssssss





（7分）
（2）



0.2,0.2,0.2,0.1,0.1,0.1,0.1,2.72HSH


《信息论基础》试卷第4页

分）

（3
分）
七、（10分）设给定两随机变量1X和2X，它们的联合概率密度为



22

12
212121,2xxpxxexx



求随机变量12YXX的概率密度函数，并计算变量Y的熵hY。
已知12pxx得

1
2112xpxe


2
2212xpxe

（2分）

则1212pxxpxpx （2分）
所以1x和2x独立，所以y为高斯分布
因为 12yxx

所以 0,2EYDY （2分）

所以 2414ypye （2分）
所以 1log4/2hYebit自由度 （2）
八、（10分）设某信道的传递矩阵为
1111
3366
1111
6633

P






计算该信道的信道容量，并说明达到信道容量的最佳输入概率分布。

解：s=4

4

2

1111
loglog3366111111112loglogloglog0.0817/33336666CsHpHbit列矢量

符号
（2分）

（2
分）

__
0.220.832.8L码元/信源符号



__
0.97HSL=
《信息论基础》试卷第5页
最佳概率分布当输入概率1212papa （2
分）
九、（14分）设有一个马尔可夫信源，如果1X为a时，2X为a、b、c的概率为1/3；
如果1X为b时，2X为a、b、c的概率为1/3；如果1X为c时，2X为a、b的概率为

1/2。而且后面发iX的概率只与1iX有关，又1213iiPXXPXXi。
（1）写出转移概率矩阵
（2）计算达到稳定后状态的极限概率。
（3）该马尔可夫信源的极限熵H

解 （1）
111
333
111
333
11
0

22

P







（4分）

（2） 1123212331212311133211133211331PEPEPEPEPEPEPEPEPEPEPEPEPEPE 1233814PEPEPE （3分）
（3）


3

2112311111111,,,,,,03333332231log3log21.439/42IkiHHPEHaEPEHPEHPEHbit








符号

合集下载

《信息论基础》试卷(期末)(B2卷)

《信息论基础》试卷(期末)(B2卷)

试题编号：重庆邮电大学2008/2009学年2学期《信息论基础》试卷（期末）（B卷）（开卷）一、填空题（共25分，每空1分）1、连续信源的绝对熵为。

2、离散无记忆信源在进行无失真变长信源编码时，编码效率最大可以达到。

3、无记忆信源是指。

4、离散无记忆信源在进行无失真变长信源编码时，码字长度是变化的。

根据信源符号的统计特性，对概率大的符号用码，对概率小的符号用码，这样平均码长就可以降低，从而提高。

5、为了提高系统的有效性可以采用，为了提高系统的可靠性可以采用。

6、八进制信源的最小熵为，最大熵为。

《信息论基础》试卷第1页7、若连续信源输出信号的平均功率为1瓦特，则输出信号幅度的概率密度函数为时，信源具有最大熵，其值为。

8、即时码是指。

9、无失真信源编码定理指出平均码长的理论极限值为，此时编码效率为，编码后的信息传输率为。

10、一个事件发生概率为0.125，则自信息量为。

11、信源的剩余度主要来自两个方面，一是，二是。

12、m阶马尔可夫信源的记忆长度为，信源可以有个不同的状态。

13、同时扔一对均匀的骰子，当得知“两骰子面朝上点数之和为2”所获得的信息量为比特，当得知“面朝上点数之和为8”所获得的信息量为比特。

14、在下面空格中选择填入数学符号“=，≥，≤，>”或“<”()+()()XHYH+。

H|YXYHH()()YX《信息论基础》试卷第2页二、（5分）已知信源的概率密度函数为1()a xb p x b a⎧≤≤⎪=-⎨⎪⎩其他，计算信源的相对熵。

三、（10分）一个平均功率受限的连续信道，信道带宽为1MHz，信道噪声为高斯白噪声。

（1）已知信道上的信号与噪声的平均功率比值为20，计算该信道的信道容量。

（2）如果信道上的信号与噪声的平均功率比值降为10，要达到相同的信道容量，信道带宽应为多少？（3）如果信道带宽降为0.5MHz，要达到相同的信道容量，信道上的信号与噪声的平均功率比值应为多少？《信息论基础》试卷第3页《信息论基础》试卷第4页四、（16分）一个离散无记忆信源123456()1/81/81/81/81/41/4X x x x x x x P x ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦1) 求()H X 和冗余度；2) 编成Fano 码，计算编码效率； 3) 编成Huffman 码，计算编码效率《信息论基础》试卷第5页五、（１6分）设一个离散无记忆信源的概率空间为它们通过干扰信道，信道输出端的接收符号集为[]21,b b Y =，已知信道传输概率如下图所示。

信息论--傅祖芸课后题解答

信息论--傅祖芸课后题解答


1 24
1 12
1 12
11 24
第五章
5.3 （1）最小距离为3
（2） R log 4 2 55
（3） F(1000) 10010, F(01100) 11100, F(00100) 不确定
（4）能纠正一位错误 5.15 (1)最小汉明距离准则
（2） （3） （4）
PE p7 5 p6 p
(2)可分为：
p p 2 0
p
p
0
2
C 1 H ( p , p , 2 ) [(1 2 ) log(1 2 ) 2 log 2 ]
信道2的信道容量大于信道1的信道容量
第三章
3.16
C log 4 H ( p) 2 H ( p)
第四章
4.1 (1)
H (S) 3 log 4 1 log 4 0.811
Байду номын сангаас
H
p log
p
p log
p 2
(1
p) log(1
p)
p log
p
p
求导数得：
H (1 p) log(1 p) p log p p p
log(1 p) 1 log p 1 1
ln 2
ln 2
log 2(1 p) p
log 2(1 p) 0 2(1 p) 1 p 2
p
p
3
第二章习题
(2)每个象素色度所含的信息量为： H (Y ) log 30 4.91
亮度和色度彼此独立
H (XY ) H (X ) H (Y ) log10 log 30 8.23 H (XY ) log 300 2.5 H ( X ) log10
第二章习题
朱雪龙《应用信息论基础》习题答案

朱雪龙《应用信息论基础》习题答案

第二章习题参考答案2.2证明:l(X;Y|Z) H(X|Z) H(X|YZ) H (XZ) H (Z) H (XYZ) H(YZ)H(X) H(Z |X) H(Z) H(XY) H (Z | XY) H (Y) H(Z|Y) [H(X) H(Y) H(XY)] H(Z|X) H(Z) H (Z | XY) H(Z |Y) I(X;Y) H(Z|X) H(Z) H (Z | XY) H(Z | Y)0 H(Z) H(Z) H (Z | XY) H(Z) H(Z) H (Z | XY)1 H (Z) H (Z | XY),即 H(Z) 1 H (Z | XY) 又 H(Z) 1,H(Z |XY) 0,故 H(Z) 1,H (Z | XY) 0 同理，可推出H(X) 1;H(Y) 1;H (XYZ) H(XY) H (Z | XY) H(X) H (Y) H (Z | XY) 1 1 0 22.3 1) H(X)= 0.918 bit , H(Y) = 0.918 bit2) H(X|Y)2= bit H(Y|X)=2-bit , H(X|Z)= 3 2 —bit33) I(X;Y): =0.251 bit , H(XYZ)= =1.585 bit2.4证明：（1）根据熵的可加性，可直接得到,a k 1), H(Y) log(k 1),故原式得证2.5考虑如下系统:又 l(X;Y|Z) = H(X|Z) — H(X|YZ) = H(X|Z) = 1 bit1不妨设 P(Z=0) = P(Z=1)=2设 P(X=0,Y=0|Z=0) = p P(X=1,Y=1|Z=0) = 1 — p1~[ Plogp + (1 — p)log (1 — p)]-[qlogq + (1 — q)log(1 — q)] =11满足上式的p 、q 可取：p =; q =2.1 In2 xnatIOg 2bi tP(X=0,Y=1|Z=1) = q P(X=1,Y=0|Z=1) = 1 — q⑵ Y 的值取自（31,32,假设输入X 、Y 是相互独立 的，则满足 I(X;Y) = 0则 H(X|Z)=•满足条件的一个联合分布：11 P(X=0, Y=0, Z=0)=4 P(X=1, Y=1, Z=0)=411 P(X=1, Y=1, Z=0)= 4P(X=1, Y=0, Z=1)=42.6 解：1 给出均匀分布p(x)—a x b 其中b a1,则 h(X) 0b a2.7 证明：l(X;Y;Z) = l(X;Y) — l(X;Y|Z)=I(X;Z) — I(X;Z|Y)•/ A, B 处理器独立，l(X;Z|Y) = 0••• l(X;Z) = I(X;Y) — I(X;Y|Z) W I(X;Y) 等号于p(x/yz) = p(x)下成立11 2.8 N=2 时， P(0 0) =, P(1 1)=—，其它为 022l( X ! ;X 2) = 1 bit N 工2时，l(X k1;X k |X 1 …X k 2) (3 W k)=P(X 「・・X k 2中有奇数个1) l(X k1;X k |X 「・・X k 2中有奇数个1) 1) l(X k1;X k |X 1…X k2中有偶数个1)1P(X 1…X k 2中有奇数个1)=-2 1P(X 1…X k 2中有偶数个1)=-2P(X k 1=1|X 1 - X k 2中有奇数个1P(X k1=0|X 1…X k 2中有奇数个1)=-2 1P(X k =1|X 1 - X k 2 中有奇数个 1)=-2 1P(X k =0|X 1…X k 2中有奇数个1)=-2 1P(X k 1=1|X 1 - X k 2 中有偶数个 1)=-+ P(X 1 - X k 2中有偶数个 1)=1(注意，这里k W N — 1)1 P(X k 1=0|X1- X k 2中有偶数个1)=-2P（X k=1|X「・X k2中有偶数个1）= （注意，这里k w N-1P（X k=O|X i…X k 2中有偶数个1）=-21P（X k 1=0, X k=0|X1- X k 2中有奇数个1）=—41P（X k 1=0, X k=1|X1 …X k 2 中有奇数个1）=-41P（X k 1=1, X k=0|X1- X k 2中有奇数个1）=-41P（X k 1=1, X k=1|X1 …X k 2 中有奇数个1）=-41P（X k 1=0, X k=0|X1 …X k 2 中有偶数个1）=-41P（X k1=O, X k=1|X1- X k 2中有偶数个1）=-41P（X k 1=1, X k=0|X1 …X k 2 中有偶数个1）=-41P（X k 1=1, X k=1|X1- X k 2中有偶数个1）=-4综上：l（X k1；X k|X1 …X k 2 中有奇数个1）（3w k w N -1）奇数个1）=H（X k 1|X1…X k 2中有奇数个1） + H（X k |X1…X k 2中有-H（X k 1；XJX1…X k 2中有奇数个1）=0l（X k1；X k|X1…X k 2中有偶数个1） = 0当 3 w k w N- 1 时，l（X k1；X k|X1 …X k 2） = 0当k = N时即l（X N 1 ；X N | X1 X N 2）=H（X N 1 |X 1 X N 2 ）—H（X N 1 |X 1 X N 2 ,X N ） =1 bit2.91）实例如2.5题2）考虑随机变量X=Y=Z的情况1取P（X=0, Y=0, Z=0）=- P（X=1, Y=1, Z=1）= 则l（X;Y|Z） = 0I（X;Y） = 1 满足I（X;Y|Z）V I（X;Y）2.10 H(X Y) < H(X) + H(Y)等号在X 、Y 独立时取得满足H(X Y)取最大值2.11证明：p(xyz) p(x)p(y |x)p(z/y) l(X;Z|Y) 0,2.12证明:H (XYZ) H (XZ) H(Y | XZ) I (Y;Z |X) H(Y|X) H (Y | XZ) H (XYZ) H (XZ) H(Y|X) I(Y;Z|X)2.13证明：I(X;Y;Z) I(X;Y) I(X;Y|Z)H(X) H(X |Y) H(Y|Z) H (Y | XZ) H(X) H(X |Y) H(Y|Z) H(XYZ) H(XZ)H(XYZ) H(X |Y) H (Y|Z) H(Z|X) 而等式右边 H(XYZ)H(X) H (Y) H (Z)H (X) H (X |Y) H(Y) H(Y |Z) H(Z) H(Z | X) H (XYZ) H(X |Y) H (Y | Z) H (Z | X)故左式 右式，原式成立2.16证明:1卩心4)= 12 P( a2b2 )= 1 '24 P(a 3b 2)= 124P( a2b3)=P(a 3b 3)=1 24丄24I(X;Y) I(X;Y|Z) I(X;Y;Z) 故I (X ;Y ) I (X ;Y |Z )成立I(X;Z) I(X;Z|Y) I(X;Z) 02.15H(X)=1log(^)n=n (」)n = 2bitn 12 2222 121log(nat)1--P( a i b i )=3 - 1 P( a2b1)= 6 一 1 PGS)=- P(a 1b s )=2.14 P(X=n) = (2)n 1 1=(舟)"2 22 12 211E I(2PN (a k )尹N '(ak ),p(ak ))根据鉴别信息的凸性11 1 11(二 P N (aQ -P N '(a k ), p(a k )) -I (P N (a k ),P(aQ)二 1仇'何),p(aQ) 2 2 2 21 1 1 1又 E ：l(P N (a k ), p(aQ) ； I 仇'何)，p(aQ) 二 E l(P N (aQ, p(aQ) ； E I(P N '(aj p(aQ2 2 2 2而根据随机序列的平稳 性，有：1 1E -I (P N (a k ), p(a k )) T(P N ‘(a k ), p(aj)E I (P N (a k ), p(a k )) E I (P N '(a k ), p(a k )2 21 1E I (P 2N (a k ), p(a k )) E l(—P N (aQ - P N '(a k ), p(a k ))2 2R N (a k ) 1 2N 耐1^ a"二丄的概率为p k （丄），其中X 1X 2 2N 2NX N 中出现a k 的频 1 率为P N (a k )N N nW a k ) n 1 的概率为6中，X N 1X N 2X 2N 中出现a k 的 1 频率为P N '(a k)—N n2N l(X n N 1 n 2 N P N （a k ）的概率为P k （晋），则有 1 F2N (a k )P N (ak ) 1 尹血）所以E 1 ( P2N (a k ),P(ak ))1 1E -I(P N(a k), p(a k)) -I(P N'(a k), P(aQ)2 2E l(P N(aJ p(a k))2-- log e2.17 解:2.18 I(P 2,P i ；X) l(q 2,q i ；X |Y)q 2(X k |y j )h 2(y j )log q2(xk |Yj)qm |y j )g,P i ；XY) P 2(xy) log P 2(xy))P 1(xy)dxdy ;P i (xy) g(x)h(y);其中 g(x)2x2 exP(1h(y) ------ 2 exp(2 yI(P 2,P I ；XY) p 2 (xy) log p 2(xy)dxdyg(x)h(y)1 、• •「2 / ---- JP 2(xy)log( ---- 2 )dxdy 2 loge P 2(xy) 12~~2(1 ) 2x~2 xxy2y_ 2 y2 x~2 x2y_ 2 ydxdy|(P I ,P 2；XY )1log( ---- 2)1 22(11log (------ 2)1 2 log e2E(X ) 22-E(Y )yE(XY)x yp 1(xy)log鷲dxdylog (〒丄诗)log e 2(1 2) 22-E(X )x22-E(Y )y-—E(XY)x yJ(P 2,P I ；XY) I(P 2,P I ；XY) I(P I , P 2；XY) 2--- log e当XY 满足P 1(xy)分布时，I (X;Y) 0； 当XY 满足P 2(xy)分布时，I (X ;Y) 1I(P 2,P 1;XY) log('12) P 2(xjlog P2"xk)P i (xQq 2(X k ,y j ) P 2(xQ q i (X k ,y j ) P i (X k )jP 2(x)h 2(y)，且 q i (X k ,y j ) P i (xQh i (y j )时I(P 2,P i ；X) I(q 2,q i ；X |Y)q 2 (X k , y j ) log q i (X k ,y j ) P i (X k ) h i (y j )关系不定 2.19 解：天平有3种状态，即平衡，左重，左轻，所以每称一次消除的不确定性为Iog3, 12个一 一 1 1球中的不等重球（可较轻，也可较重）的不确定性为： loglog 24 因为3log312 2> log24••• 3次测量可以找出该球具体称法略。

朱雪龙《应用信息论基础》习题答案

朱雪龙《应用信息论基础》习题答案

朱雪龙《应用信息论基础》习题答案第二章习题参考答案2.2证明:l(X;Y|Z) H(X|Z) H(X|YZ) H (XZ) H (Z) H (XYZ) H(YZ)H(X) H(Z |X) H(Z) H(XY) H (Z | XY) H (Y) H(Z|Y) [H(X) H(Y) H(XY)] H(Z|X) H(Z) H (Z | XY) H(Z |Y) I(X;Y) H(Z|X) H(Z) H (Z | XY) H(Z | Y)0 H(Z) H(Z) H (Z | XY) H(Z) H(Z) H (Z | XY)1 H (Z) H (Z | XY),即 H(Z) 1 H (Z | XY) 又 H(Z) 1,H(Z |XY) 0,故H(Z) 1,H (Z | XY) 0 同理，可推出H(X) 1;H(Y) 1;H (XYZ) H(XY) H (Z | XY) H(X) H (Y) H (Z | XY) 1 1 0 22.3 1) H(X)= 0.918 bit , H(Y) = 0.918 bit2) H(X|Y)2= bit H(Y|X)=2-bit , H(X|Z)= 3 2 —bit33) I(X;Y): =0.251 bit , H(XYZ)= =1.585 bit2.4证明：（1）根据熵的可加性，可直接得到,a k 1), H(Y) log(k 1),故原式得证2.5考虑如下系统:又 l(X;Y|Z) = H(X|Z) — H(X|YZ) = H(X|Z) = 1 bit1不妨设 P(Z=0) = P(Z=1)=2设 P(X=0,Y=0|Z=0) = p P(X=1,Y=1|Z=0) = 1 — p1~[ Plogp + (1 — p)log (1 — p)]-[qlogq + (1 — q)log(1 — q)] =11满足上式的p 、q 可取：p =; q =2.1 In2 xnatIOg 2bi tP(X=0,Y=1|Z=1) = q P(X=1,Y=0|Z=1) = 1 — q ⑵ Y 的值取自（31,32,假设输入X 、Y 是相互独立的，则满足 I(X;Y) = 0 则 H(X|Z)=满足条件的一个联合分布：11 P(X=0, Y=0, Z=0)=4 P(X=1, Y=1, Z=0)=411 P(X=1, Y=1, Z=0)= 4P(X=1, Y=0, Z=1)=42.6 解：1 给出均匀分布p(x)—a x b 其中b a1,则 h(X) 0b a2.7 证明：l(X;Y;Z) = l(X;Y) — l(X;Y|Z)=I(X;Z) — I(X;Z|Y)/ A, B 处理器独立，l(X;Z|Y) = 0l(X;Z) = I(X;Y) — I(X;Y|Z) W I(X;Y) 等号于p(x/yz) = p(x)下成立11 2.8 N=2 时， P(0 0) =, P(1 1)=—，其它为 022l( X ! ;X 2) = 1 bit N 工2时，l(X k1;X k |X 1 …X k 2) (3 W k)=P(X 「??X k 2中有奇数个1) l(X k1;X k |X 「??X k 2中有奇数个1) 1) l(X k1;X k |X 1…X k2中有偶数个1)1P(X 1…X k 2中有奇数个1)=-2 1P(X 1…X k 2中有偶数个1)=-2P(X k 1=1|X 1 - X k 2中有奇数个1P(X k1=0|X 1…X k 2中有奇数个1)=-2 1P(X k =1|X 1 - X k 2 中有奇数个 1)=-2 1P(X k =0|X 1…X k 2中有奇数个1)=-2 1P(X k 1=1|X 1 - X k 2 中有偶数个 1)=-+ P(X 1 - X k 2中有偶数个 1)=1(注意，这里k W N — 1)1 P(X k 1=0|X1- X k 2中有偶数个1)=-2P（X k=1|X「?X k2中有偶数个1）= （注意，这里k w N-1P（X k=O|X i…X k 2中有偶数个1）=-21P（X k 1=0, X k=0|X1- X k 2中有奇数个1）=—41P（X k 1=0, X k=1|X1 …X k 2 中有奇数个1）=-41P（X k 1=1, X k=0|X1- X k 2中有奇数个1）=-41P（X k 1=1, X k=1|X1 …X k 2 中有奇数个1）=-41P（X k 1=0, X k=0|X1 …X k 2 中有偶数个1）=-41P（X k1=O, X k=1|X1- X k 2中有偶数个1）=-41P（X k 1=1, X k=0|X1 …X k 2 中有偶数个1）=-41P（X k 1=1, X k=1|X1- X k 2中有偶数个1）=-4综上：l（X k1；X k|X1 ...X k 2 中有奇数个1）（3w k w N -1）奇数个1）=H（X k 1|X1...X k 2中有奇数个1） + H（X k |X1 (X)k 2中有-H（X k 1；XJX1…X k 2中有奇数个1）=0l（X k1；X k|X1…X k 2中有偶数个1） = 0当 3 w k w N- 1 时，l（X k1；X k|X1 …X k 2） = 0当k = N时即l（X N 1 ；X N | X1 X N 2）=H（X N 1 |X 1 X N 2 ）—H（X N 1 |X 1 X N 2 ,X N ） =1 bit2.91）实例如2.5题2）考虑随机变量X=Y=Z的情况1取P（X=0, Y=0, Z=0）=- P（X=1, Y=1, Z=1）= 则l（X;Y|Z）= 0I（X;Y） = 1 满足I（X;Y|Z）V I（X;Y）。