信息论与编码课件(第四章)

1. 在无失真的信源中，信源输出由 H(X) 来度量；在有失真的信源中，信源输出由

R(D) 来度量。

2. 要使通信系统做到传输信息有效、可靠和保密，必须首先 信源 编码，

然后_____加密____编码，再______信道_____编码，最后送入信道。

3. 带限AWGN波形信道在平均功率受限条件下信道容量的基本公式，也就是有名的香农公式是log(1)CWSNR；当归一化信道容量C/W趋近于零时，也即信道完全丧失了通信能力，此时Eb/N0为 -1.6 dB，我们将它称作香农限，是一切编码方式所能达到的理论极限。

4. 保密系统的密钥量越小，密钥熵H(K)就越 小 ，其密文中含有的关于明文的信息量I(M；C)就越 大 。

5. 已知n＝7的循环码42()1gxxxx，则信息位长度k为 3 ，校验多项式

h(x)= 31xx 。

6. 设输入符号表为X＝{0，1}，输出符号表为Y＝{0，1}。输入信号的概率分布为p＝(1/2，1/2)，失真函数为d(0，0) = d(1，1) = 0，d(0，1) =2，d(1，0) = 1，则Dmin＝ 0 ，R(Dmin)＝ 1bit/symbol ，相应的编码器转移概率矩阵[p(y/x)]＝1001；Dmax＝ 0.5 ，R(Dmax)＝

0 ，相应的编码器转移概率矩阵[p(y/x)]＝1010。

7. 已知用户A的RSA公开密钥(e,n)=(3,55)，5,11pq,则()n 40 ，他的秘密密钥(d,n)＝(27,55) 。若用户B向用户A发送m=2的加密消息，则该加密后的消息为 8 。

二、判断题

1. 可以用克劳夫特不等式作为唯一可译码存在的判据。 （ ）

2. 线性码一定包含全零码。 （ ）

第四章

4.7解：

（1）由题，信道是对称信道，当输入为均匀输入时，即：31)()()(321xpxpxp，达到信道容量：

)1,(3logppHC

)(3log2pHC

最佳分布：31)()()(321xpxpxp

（2）由题，信道是对称信道，当输入为均匀输入时，即：21)()(21xpxp，达到信道容量：)21,2(2logPPHC

)(2log2pHC

最佳分布：21)()(21xpxp

（5）由题，信道是对称信道，当输入为均匀输入时，即：21)()(21xpxp，达到信道容量：)32,31(1)(1HpHC

)/(082.0符号BitC

最佳分布：21)()(21xpxp

4.10解：本信道是二个相同的二元对称信道的和信道，每个分量信道的容量为 )(121PHCC

在输入为均匀分布时达到容量。于是和信道容量为)(222log21pHCCC bit/次

4.11解：由题，这是一个准对称信道，根据定理4.3，当X等概分布，即21)()(21xqxq时，信道容量 21)()(21|);(xqxqYXIC

)|(log)|()()(log)(212121ijijijijjjxypxypxqyyC

)7.0log7.05.0log5.023.0log3.0(216.0log6.04.0log4.0C

符号）（/0312.0BitC

4.20解：由题得，98.002.002.098.0P

信道容量859.0)02.0,98.0(2logHCbit/符号

传输速率1500tRb/s

1. 在无失真的信源中，信源输出由 H(X) 来度量；在有失真的信源中，信源输出由

R(D) 来度量。

2. 要使通信系统做到传输信息有效、可靠和保密，必须首先 信源 编码，

然后_____加密____编码，再______信道_____编码，最后送入信道。

3. 带限AWGN波形信道在平均功率受限条件下信道容量的基本公式，也就是有名的香农公式是log(1)CWSNR；当归一化信道容量C/W趋近于零时，也即信道完全丧失了通信能力，此时Eb/N0为 -1.6 dB，我们将它称作香农限，是一切编码方式所能达到的理论极限。

4. 保密系统的密钥量越小，密钥熵H(K)就越 小 ，其密文中含有的关于明文的信息量I(M；C)就越 大 。

5. 已知n＝7的循环码42()1gxxxx，则信息位长度k为 3 ，校验多项式

h(x)= 31xx 。

6. 设输入符号表为X＝{0，1}，输出符号表为Y＝{0，1}。输入信号的概率分布为p＝(1/2，1/2)，失真函数为d(0，0) = d(1，1) = 0，d(0，1) =2，d(1，0) = 1，则Dmin＝ 0 ，R(Dmin)＝ 1bit/symbol ，相应的编码器转移概率矩阵[p(y/x)]＝1001；Dmax＝ 0.5 ，R(Dmax)＝

0 ，相应的编码器转移概率矩阵[p(y/x)]＝1010。

7. 已知用户A的RSA公开密钥(e,n)=(3,55)，5,11pq,则()n 40 ，他的秘密密钥(d,n)＝(27,55) 。若用户B向用户A发送m=2的加密消息，则该加密后的消息为 8 。

二、判断题

1. 可以用克劳夫特不等式作为唯一可译码存在的判据。 （ ）

2. 线性码一定包含全零码。 （ ）

第六章

6.5解：

Dmin=0×0.5+0×0.25+0×0.25=0

Dmax=min{2×0.25+1×0.25,2×0.5+1×0.25,1×0.5+3×0.25}=0.75

定义域：0 ≤D ≤ 0.5

R（Dmin）= －0.5log0.5－0.25log0.25－0.25log0.25=0.45 R（Dmax）= 0

值域：0 ≤ R(D) ≤ H(X) = 1.5 (Bit/符号)

6.7解：（1）选择信道105.05.001P，可使平均失真min1DD

（2）选择信道为0.50.55.05.00.50.5P，可使平均失真34DDmax

6.12解：率失真函数为

DDDDijpDDDHDR11)]([21021012log)(2