信息论习题集
第二章
2.1同时掷2颗骰子，事件A、B、C分别表示：(A)仅有一个骰子是3; ( B)至少有一个骰子是4;
(C)骰子上点数的总和为偶数。试计算A、B、C发生后所提供的信息量。
2.3 —信源有4种输出符号X，i =0，1，2, 3,且p(Xj=1/4。设信源向信宿发出X3，但由于传输中的干扰，接收者收到X3后，认为其可信度为0.9。于是信源再次向信宿发送该符号 (X3 )，信宿准确无误收到。问信源在两次发送中发送的信息量各是多少？信宿在两次接收中得到的信息量又各是多少？
2.5 一信源有6种输出状态，概率分别为
p(A) =0.5，p(B)=0.25，p(C)=0.125，p(D)= p(E)=0.05，p(F)=0.025
试计算H(X)。然后求消息ABABBA和FDDFDF的信息量(设信源先后发出的符号相互独立) ，并将之与长度为6的消息序列信息量的期望值相比较。
2.6中国国家标准局所规定的二级汉字共6763个。设每字使用的频度相等，求一个汉字所含的信息量。
设每个汉字用一个16 16的二元点阵显示，试计算显示方阵所能表示的最大信息量。显示方阵的利用率是
多少？
2.7已知信源发出6和a2两种消息，且p(aj = p(a2)=1/2。此消息在二进制对称信道上传输，信道
传输特性为p(bi |aj = p(b2 la?) =1 - ；，p(b | a?) = p(b21 aj =；。求互信息量I 佝4)和I 佝；b?)。
2.8已知二维随机变量XY的联合概率分布p(X i y j)为：p(0,0) = p(1,1)=1/8，
p(0,1) =p(1,0) -3/8，求H (X |Y)。
2.13有两个二元随机变量X和Y，它们的联合概率分布如表 2.5所列，同时定义另一随机变量Z二X|_Y (一般乘积)。试计算：
(1)熵H(X),H(Y),H(Z), H(XZ),H(YZ), H(XYZ)；
(2)条件熵H(X |Y),H(Y|X),H(X |Z),H(Z|X),H(Y|Z), H(Z|Y), H(X|YZ), H (Y | XZ)和H(Z | XY);
(3)互信息I (X;Y), I (X;Z), I (Y; Z), I(X;Y| Z),I(Y;Z| X)和I (X ;Z |Y)。
2.14假定X1r X^ —X3 T ■■ X n形成一个马尔可夫链，那么P(X i X^| x n)=
P(X I)P(X2 |xj||| p(X n |X n J，请简化I (X I；X^|X N)。
2.15给定X，Y的联合概率分布，如表2.10所示。
(1) H(X)，H(Y)；
(2) H(X|Y)，H(Y|X)；
(3) H(XY)；
(4) H(Y) -H(Y|X)；
(5) I(X;Y) o
2.23判断题
(1)H(X) 0 ;
(2)若X 与Y 独立，则H(X)二H (X |Y);
(3)I (X;Y) —l(X;Y|Z);
(4)如果H (X |YZ) =0,则要么H (X |Y) =0 ,要么H (X | Z) =0 ;
(5)I(X;YpHH(Y);
(6)H (X |X)=0 ;
(7)若X 与Y 独立，则H (Y| X) =H(X |Y);
(8) H (X |Y) -H (X |YZ) o
『22211 11】
2.24设随机变量X 的概率分布为
，—，，，，
。随机变量Y 是X 的函数，其分布为将
J0 10 10 10 10 10,10：
、， 、 「2 2
2 4〕 X 的4个最小的概率分布合并为一个：
，一,,
[10 10 10 10J
(1) 显然H(X)乞log 27，请解释原因； (2) 请解释为什么 H(X) . Iog 25 ？ (3) 计算 H(X)，H(Y)； (4) 计算H(X|Y)并解释其结果。
第三章
3.2有一无记忆信源的符号集为
(1) 求信源熵;
(2)求由m 个"0"和(100-m)个"1"构成的某一特定序列自信息量的表达式;
(3)计算由100个符号构成的符号序列的熵。
4
4 4
3.3有一离散无记忆信源，其输出为 X ?〈0,1,2?，相应的概率为 p 。二一，5二一，P 2二一，设计两
4 4 2
个独立的试验去观察它，其结果分别为
Y )? b,1，丫2?b,1，已知条件概率如表 3.1所列。
表3.1
(1)
求)和，并判断哪一个实验好些；
(2) 求I (X;YY 2)，并计算做Y 和篦两实验比做￥或Y>中的一个实验可多得多少关于 X 的信息; (3) 求I(X ；Y IYJ 和i (x ；丫 |￥)，并解释它们的含义。
P(￥|X)
0 1
0 1 0 1
0 1 2 1/2
1/2
P(YJX )
0 1
0 1 0 1
1 0 2
1
「0,1，已知信源的概率空间为
(1)求信源符号熵；
(2)求平均每个消息符号所需要的二进制码元的个数或平均代码长度，进而用这一结果求码序列的二进制码元的熵；
(3)当消息是由符号序列组成时，各符号之间若相互独立，求其对应的二进码序列中出现"0"和"1"的
无条件概率p(0)和p(1)，以及相邻码元间的条件概率p(0|0)、p(1|0)、p(0|1)和P(1|1)。
3.6 —个马尔可夫过程的基本符号为0, 1, 2,这3个符号等概率出现，并且具有相同的转移概率。
(1)画出一阶马尔可夫过程的状态图，并求稳定状态下的一阶马尔可夫信源熵H1和信源剩余度；
(2)画出二阶马尔可夫过程的状态图，并求稳定状态下的二阶马尔可夫信源熵H2和信源剩余度。
3.7 一阶马尔可夫信源的状态转移图如图 3.2,信源X的符号集为〈0,1,2?。
(1 )求平稳后的信源的概率分布；
(2) 求信源熵H ::;
(3) 求当p =0或p =1时信源的熵，并说明其理由。
3.8有一个二元无记忆信源，其发0的概率为p，而p ■ 1，所以在发出的二元序列中经常出现的是那些一串为0的序列，称高概率序列。对于这样的信源我们可以用另一新信源来代替，新信源中只包含这些
高概率序列。这时新信源 S n ，S i ,S 2,S 3,|||S n ,S n J ，共有n ? 1个符号，它与高概率的二元序列的对应关系 如下：
二元序列：1，01，001，,， 00 川 01 (共 n —1 个 0)，0憎 (共 n 个 0)； 新信源符号：SC’HIS n ’S n 1。 (1)求 H(S n )；
⑵ 当n —?
时，求信源的熵H (S) Him H (S n )。
n ^sc
3.9给定状态转移概率矩阵，
P = 1 一 P
1
(1)
此两状态马尔可夫链的熵率 H ： 一； (2) 此熵率的极大值及相应的
p ；
(3) 在达到最大熵率的情况下，求出每一个
3.11图3.4是一张有4个节点的随机行走图，从任何一个节点走到下一个节点的概率都相等。
图3.4 (1) 求随机行走的稳态分布； (2)
求随机行走的熵率。
3.12求具有如下概率密度函数的随机变量的熵。 (1 )指数分布 f (x) = he"%, x 0 ； (2)
f(x)二丄‘尹；
2
(3) 单边高斯分布f (x)
2
e^ /2' ,x _0。
(2 兀 b 2
3.13连续随机变量 X 和Y 的联合概率密度为
，求:
n 长序列的概率。
试求 h(X) , h(Y) , h(Y|X)和 l(X;Y)。
1 —a a '
3.16给定状态转移概率矩阵，
P=
，求：此二状态马尔可夫信源的熵率
。
"1—B 丿
00
「0.9 0.1)
3.18已知一个二元马尔可夫信源的状态转移概率矩阵
P=
。
>0.2 0.8,
(1) 求此马尔可夫信源的熵率； (2)
求符号序列1000011的概率(根据平稳分布确定第一个符号的概率)
；
(3) 计算分布函数 F(x) =P
:: x 当X =1000011的值。
3.23设以8000样值/秒的速率抽样一语音信号，并以 M =28 = 256级对抽样均匀量化，设抽样值取各
量化值的概率相等，且抽样间相互统计独立。求:
(1) 每抽样的信息熵； (2 )求信源的信息输出率。
第四章
I(X =1;Y)和 I(X;Y)。
4.2二元删除信道有两个输入： 0，1和3个输出：0, 1, E ,其中E 表示可检出但无法纠正的错误。信 道前向转移概率是
Sj
2兀TSN l 2N ] I s 丿
4.1设一个二元信道如图
4.1所示，其输入概率空间为
[XH 。； 01』试计算
|(X =0;丫 = 1)，
p(0 ⑴=0
求信道容量C 。
p(E ⑴=：
P( 1 | 1) -1
图4.1 图4.2
p(0|0) =1 -：P(1|0H0
4.4设有扰离散信道的输入端是以等概率出现的
A 、
B 、
C 、
D 4个字母。该信道的正确传输概率为
1/2，
错误传输概率平均分布在其它
3个字母上。验证在该信道上每个字母传输的平均信息量为
0.208比特。
（1） 求最佳输入分布； （2） 求；=1/2时的信道容量；
（3） 求当：.r 0和：.r 1时的最佳输入分布值。
4.6如图4.6所示把n 个二元对称信道串接起来，每个二元对称信道的错误传递概率为 p 。证明这n
个串接信道可以等效于一个二元对称信道，其错误传递概率为寸】-（1-
，并证明
I i m X<0 X N =） ,0设 P 式0 或 1。
n _g :
图4.6
4.8试画出三元对称信道在理想（无噪声）和强噪声（输出不依赖于输入）的情况下的信道模型，设 信道输入等概率分布。
4.9串联信道如图4.9所示，求总的信道矩阵。
4.3设某二进制数字传输系统接受判决器的输入信号电平、噪声密度分布、 及判决电平如图4.3所示。
试求：（1）信道模型；（2）平均互信息；（3）信道容量。
发送"0"
发送"1"
对称pdf
*门限 1
4.5 Z 信道及它的输入、输出如图
4.5所示。
1/2
1
Y1Z
0 -0
1/3
1/2
1
1/3卄1
1/3
图4.9
4.14设某一信号的信息输出率为
5.6
kpbs,
斯信道中传输。试求无差错传输需要的最小输入功率
2/3
噪声功率谱为N =5 10^mW/Hz，在带宽B =4 kHz的高
P是多少?
4.15判断图4.13中各信道是否对称，如对称，求出其信道容量。
(a) (b) (c)
(d) (e)
图 4.13
4.16 一个快餐店只提供汉堡包和牛排，当顾客进店以后只需要向厨房喊一声 B ”或“ Z”就表示他
点
的是汉堡包或牛排，不过通常80%的概率厨师可能会出错。一般来说进店的顾客
点牛排。问：
（1 ）这个信道的信道容量；
（2 ）每次顾客点菜时提供的信息；
（3 ）在这个信道可不可以正确地传递顾客点菜的信息？
4.17求图4.14中信道的信道容量及其最佳的输入概率分布，并求当
图 4.14
第五章
源符号序列的长度为n =100 ,假定对所有只包含3个以下符号"1"的序列编制长度为k的非奇异二进制码。
求：
（1）信源的熵H（S）及其冗余度；
（2）k的最小值应该为多少？试比较k/n和H（S）；
（3）信源产生的序列没有码字与其对应的概率。
5.2用Fibonacci数列的前8 个非零元素构成相应的概率分布为
P X=-—；，— ^5, 3 , —, 1，对于这样一个概率分布存在着许多拥有不同码长分布的最优编.34 34 34 34 34 34 34 34 J
码方案。
5.3设X1,X2X3为独立的二进制随机变量，并且有只&1=1}=丄P,X2=1} =」，
90%会点汉堡包，10%会
.^0或1/2时的信道容量值。
5.1设S为一离散无记忆信源，其符号集合为「0,1，概率分布为p（0）=0.995，p（1）= 0.005。令信
2 3
1 R{X3=I}=—，请给出联合随机变量（X i,X2X3）的Huffman编码，并求其平均码长。
4
5.4下面以码字集合的形式给出5种不同的编码，第一个码的码符号集合为:X, y, Z?,其他4个码都是
二进制码。
:xx, xz, y,zz, xyz?
「000,10,00,11
{100,101,0,11}
{01,100,011,00,111,1010,1011,1101}
^01,111,011,00,010,110?
对于上面列出的5种编码，分别回答下述问题：
（1）此码的码长分布是否满足Kraft-McMilla n 不等式？
（2）此码是否是及时码？如果不是，请给出反例。
（3）此码是否是唯一可译码？如果不是，请给出反例。
5.22 一个离散无记忆信源，其样本空间为〈W,B?，符号W出现的概率为0.99, B出现的概率为0.01.
（1）对此信源的二次扩展，求出信源符号序列的概率分布，找出相应的Huffman编码并求平均码长。
（2）对此信源的三次扩展重复上一问。
（3）计算信源的单符号熵并与上两问中的单符号平均码长进行比较。
（4）要想使得单符号平均码长匚/n只比单符号信源熵大出10%，请问扩展次数n应该是多少？
5.25已知离散无记忆信源如下，试求：
S1S2S3S4S5S6S
7
P 110.200.190.180.170.150.100.01
（1）信源符号熵H （S）；
（2）相应的二元Huffman编码及其编码效率；
（3）相应的三元Huffman编码及其编码效率；
（4）若要求P E空10’，采用定长二元码要求达到第（2）问中的编码效率，至少需要多少信源符号一起编码才能实现？
第七章
7.2利用R（D）的性质，画出一般R（D）的曲线，并说明其物理意义？试问为什么R（D）是非负且非增
7.4令=g,t ； = ?，设失真矩阵为
7.5令X 等概率分布的Bernoulli 随机变量，其相应的失真测度定义为
广 0 1 O0
工={。,1}, d(x,X)=
，上={0,e,l}
导 1
丿
(1)
请找出使得R(D)非平凡的(D min ,D max )；
(2)计算 R(D) o
7.7三元信源的概率分布为
10.4,0.4,0.2?,失真函数为
「0
5 1
试求:
(1) 信息失真率R(D)；
(2)若此信源用容量为1比特/符号和0.1比特/符号的信道传输，请分别计算出最小误码率 F E o
7.8 一个不对称的失真测度 d(x,?)定义为
1
即：不允许用 1来表示0。设随机变量 X 的概率分布为P X (0) = p X (1)
，并令R(D)表示基于
2
d(x,xO 的随机变量X 的信息失真函数。
(1) R(0)的值是多少?
(2)使用R(D 。)=0的最小D 。是多少?
(3)在满足条件EV (X,)?)￥D 的前提下，找出使得l(X;f)最小并且满足DcD 。的p(?|x) o (4)给出0 一 D - D 0之上的信息率失真函数 R(D) o
7.9信源X 遵循：1,2,11 |,mf 上的均匀分布。Hamming 失真定义为
的？
对于一个等概率分布的
d(x,X )= <
1
3
Bernoulli 随机变量，求 2
、
2
>
R(D) ? 0,1 对应的定义域(D min ,D max )。
d(x,X)J°
x =0.1;5?=0.1
请求出此信源的信息率失真函数。
巾2
、
7.10 一个离散无记忆信源输出符号等概率分布，失真函数定义如下，试求：
dfj = 1 1
a b
（1） 信息率失真函数 R （D ）； （2） 试验信道转移概率。
曲=0
x = X x-X
模拟试题一 一、概念简答题（共10题，每题5分） 1.简述离散信源和连续信源的最大熵定理。 2.什么是平均自信息（信息熵）？什么是平均互信息？比较一下两个概念的异同之处。 3.解释等长信源编码定理和无失真变长信源编码定理，说明对于等长码和变长码，最佳码的每符号平均码长最小为多少？编码效率最高可达多少？ 4.解释最小错误概率译码准则，最大似然译码准则和最小距离译码准则，说明三者的关系。 5.设某二元码字C={111000，001011，010110，101110}， ①假设码字等概率分布，计算此码的编码效率？ ②采用最小距离译码准则，当接收序列为110110时，应译成什么码字？ 6.一平稳二元信源，它在任意时间，不论以前发出过什么符号，都按 发出符号，求
和平均符号熵 7.分别说明信源的概率分布和信道转移概率对平均互信息的影响，说明平均互信息与信道容量的关系。 8.二元无记忆信源，有求： （1）某一信源序列由100个二元符号组成，其中有m个“1”，求其自信息量？
（2）求100个符号构成的信源序列的熵。 9.求以下三个信道的信道容量： ， ，10.已知一（3，1，3）卷积码编码器，输入输出关系为：
试给出其编码原理框图。 二、综合题（共5题，每题10分） 1.二元平稳马氏链，已知P（0/0）=0.9，P（1/1）=0.8，求： （1）求该马氏信源的符号熵。 （2）每三个符号合成一个来编二进制Huffman码,试建立新信源的模型，给出编码结果。 （3）求每符号对应的平均码长和编码效率。 2.设有一离散信道，其信道矩阵为，求：（1）最佳概率分布？
题号 一 二 三 四 总分 统分人 题分 35 10 23 32 100 得分 一、填空题（每空1分，共35分） 得分| |阅卷人| 1、1948年，美国数学家 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。信息论的基础理论是 ，它属于狭义信息论。 2、信号是 的载体，消息是 的载体。 3、某信源有五种符号}{,,,,a b c d e ，先验概率分别为5.0=a P ，25.0=b P ，125.0=c P ，0625.0==e d P P ，则符号“a ”的自信息量为 bit ，此信源的熵为 bit/符号。 4、某离散无记忆信源X ，其概率空间和重量空间分别为123 4 0.50.250.1250.125X x x x x P ???? =????????和1234 0.5122X x x x x w ???? =????????，则其信源熵和加权熵分别为 和 。 5、信源的剩余度主要来自两个方面，一是 ，二是 。 6、平均互信息量与信息熵、联合熵的关系是 。 7、信道的输出仅与信道当前输入有关，而与过去输入无关的信道称为 信道。 8、马尔可夫信源需要满足两个条件：一、 ； 二、 。 9、若某信道矩阵为????????????0100010000001100，则该信道的信道容量C= __________。 10、根据是否允许失真，信源编码可分为 和 。 11、信源编码的概率匹配原则是：概率大的信源符号用 ，概率小的信源符号用 。（填 短码或长码） 12、在现代通信系统中，信源编码主要用于解决信息传输中的 性，信道编码主要用于解决信息传输中的 性，保密密编码主要用于解决信息传输中的安全性。 13、差错控制的基本方式大致可以分为 、 和混合纠错。 14、某线性分组码的最小汉明距dmin=4，则该码最多能检测出 个随机错，最多能纠正 个随机错。 15、码字101111101、011111101、100111001之间的最小汉明距离为 。 16、对于密码系统安全性的评价，通常分为 和 两种标准。 17、单密钥体制是指 。 18、现代数据加密体制主要分为 和 两种体制。 19、评价密码体制安全性有不同的途径，包括无条件安全性、 和 。 20、时间戳根据产生方式的不同分为两类：即 和 。 二、选择题（每小题1分，共10分） 得分| |阅卷人| 1、下列不属于消息的是（ ）。 A. 文字 B. 信号 C. 图像 D. 语言 2、设有一个无记忆信源发出符号A 和B ，已知43 41)(,)(==B p A p ，发出二重符号序列消息的信源， 无记忆信源熵)(2X H 为（ ）。 A. 0.81bit/二重符号 B. 1.62bit/二重符号 C. 0.93 bit/二重符号 D . 1.86 bit/二重符号 3、 同时扔两个正常的骰子，即各面呈现的概率都是1/6，若点数之和为12，则得到的自信息为（ ）。 A. －log36bit B. log36bit C. －log (11/36)bit D. log (11/36)bit 4、 二进制通信系统使用符号0和1，由于存在失真，传输时会产生误码，用符号表示下列事件，x0: 发出一个0 、 x1: 发出一个1、 y0 : 收到一个0、 y1: 收到一个1 ，则已知收到的符号，被告知 发出的符号能得到的信息量是（ ）。 A. H(X/Y) B. H(Y/X) C. H( X, Y) D. H(XY) 5、一个随即变量x 的概率密度函数P(x)= x /2，V 20≤≤x ，则信源的相对熵为（ ）。 A . 0.5bit B. 0.72bit C. 1bit D. 1.44bit
一、（11’）填空题 （1）1948年，美国数学家香农发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。 （2）必然事件的自信息是 0 。 （3）离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的 N倍。 （4）对于离散无记忆信源，当信源熵有最大值时，满足条件为__信源符号等概分布_。 （5）若一离散无记忆信源的信源熵H（X）等于2.5，对信源进行等长的无失真二进制编码，则编码长度至少为 3 。 （6）对于香农编码、费诺编码和霍夫曼编码，编码方法惟一的是香农编码。（7）已知某线性分组码的最小汉明距离为3，那么这组码最多能检测出_2_______个码元错误，最多能纠正___1__个码元错误。 （8）设有一离散无记忆平稳信道，其信道容量为C，只要待传送的信息传输率R__小于___C（大于、小于或者等于），则存在一种编码，当输入序列长度n足够大，使译码错误概率任意小。（9）平均错误概率不仅与信道本身的统计特性有关，还与___译码规则____________和___编码方法___有关 三、（5'）居住在某地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数的一半。 假如我们得知“身高1.6米以上的某女孩是大学生”的消息，问获得多少信息量？ 解：设A表示“大学生”这一事件，B表示“身高1.60以上”这一事件，则 P(A)=0.25 p(B)=0.5 p(B|A)=0.75 （2分） 故 p(A|B)=p(AB)/p(B)=p(A)p(B|A)/p(B)=0.75*0.25/0.5=0.375 （2分） I(A|B)=-log0.375=1.42bit （1分） 四、（5'）证明：平均互信息量同信息熵之间满足 I(X;Y)=H(X)+H(Y)-H(XY) 证明：
《信息论基础》答案 一、填空题（本大题共10小空，每小空1分，共20分） 1.按信源发出符号所对应的随机变量之间的无统计依赖关系，可将离散信源分为有记忆信源和无记忆信源两大类。 2.一个八进制信源的最大熵为3bit/符号 3.有一信源X ，其概率分布为1 23x x x X 1 11P 244?? ?? ? =?? ????? ，其信源剩余度为94.64%；若对该信源进行十次扩展，则每十个符号的平均信息量是 15bit 。 4.若一连续消息通过放大器，该放大器输出的最大瞬间电压为b ，最小瞬时电压为a 。若消息从放大器中输出，则该信源的绝对熵是∞；其能在每个自由度熵的最大熵是log （b-a ）bit/自由度；若放大器的最高频率为F ，则单位时间内输出的最大信息量是 2Flog （b-a ）bit/s. 5. 若某一 信源X ，其平均功率受限为16w ，其概率密度函数是高斯分布时，差熵的最大值为 1 log32e 2 π；与其熵相等的非高斯分布信源的功率为16w ≥ 6、信源编码的主要目的是提高有效性，信道编码的主要目的是提高可靠性。 7、无失真信源编码的平均码长最小理论极限制为信源熵（或H(S)/logr= H r (S)）。 8、当R=C 或（信道剩余度为0）时，信源与信道达到匹配。 9、根据是否允许失真，信源编码可分为无失真信源编码和限失真信源编码。 10、在下面空格中选择填入数学符号“,,,=≥≤?”或“?” （1）当X 和Y 相互独立时，H （XY ）=H(X)+H(X/Y)。 （2）假设信道输入用X 表示，信道输出用Y 表示。在无噪有损信道中，H(X/Y)> 0, H(Y/X)=0,I(X;Y) 一、填空题（共25分，每空1分） 1、连续信源的绝对熵为 无穷大。（或()()lg lim lg p x p x dx +∞ -∞?→∞ --??） 2、离散无记忆信源在进行无失真变长信源编码时，编码效率最大可以达到 1 。 3、无记忆信源是指 信源先后发生的符号彼此统计独立 。 4、离散无记忆信源在进行无失真变长编码时，码字长度是变化的。根据信源符号的统计特性，对概率大的符号用 短 码，对概率小的符号用 长 码，这样平均码长就可以降低，从而提高 有效性(传输速率或编码效率) 。 5、为了提高系统的有效性可以采用 信源编码 ，为了提高系统的可靠性可以采用 信道编码 。 6、八进制信源的最小熵为 0 ，最大熵为 3bit/符号 。 7、若连续信源输出信号的平均功率为1瓦特，则输出信号幅度的概率密度函数为 高斯分布(或()0,1x N 或22 x -)时，信源具有最大熵，其值为 0.6155hart(或 1.625bit 或1lg 22 e π)。 8、即时码是指 任一码字都不是其它码字的前缀 。 9、无失真信源编码定理指出平均码长的理论极限值为 信源熵(或H r (S)或()lg H s r )，此时编码效率为 1 ，编码后的信息传输率为 lg r bit/码元 。 10、一个事件发生的概率为0.125，则自信息量为 3bit/符号 。 11、信源的剩余度主要来自两个方面，一是 信源符号间的相关性 ，二是 信源符号概率分布的不均匀性 。 12、m 阶马尔可夫信源的记忆长度为 m+1 ，信源可以有 q m 个不同的状态。 13、同时扔出一对均匀的骰子，当得知“两骰子面朝上点数之和为2”所获得的信息量为 lg36=5.17 比特，当得知“面朝上点数之和为8”所获得的信息量为 lg36/5=2.85 比特。 14.在下面空格中选择填入的数学符号“=，≥，≤，>”或“<” H(XY) = H(Y)+H(X ∣Y) ≤ H(Y)+H(X) 二、(5分)已知信源的概率密度函数为()10a x b p x b a ?≤≤?=-???其他 ，计算信源的相对熵。 ()()() 1lg b c a H x p x dx p x =?------3分 ()lg b a =-bit/自由度-------2分 三、(10分)一个平均功率受限的连续信道，信道带宽为1MHz ，信道噪声为高斯白噪声。 (1)已知信道上的信号与噪声的平均功率比值为20，计算该信道的信道容量。 (2)如果信道上的信号与噪声的平均功率比值降为10，要达到相同的信道容量，信道带宽应为多少？ (3)如果信道带宽降为0.5MHz ，要达到相同的信道容量，信道上的信号与噪声的平均功率比值应为多少？ 1) ()10lg 1NR c S =+------3分 64.3910=?b/s---1分 2) ()610 1.2710lg 1NR c S ==?+Hz---3分 重庆邮电大学2007/2008学年2学期 《信息论基础》试卷（期末）（A卷）（半开卷） 一、填空题（本大题共10小空，每小空1分，共20分） 1.按信源发出符号所对应的随机变量之间的无统计依赖关系，可将离散信源分为有记忆信源和无记忆信源两大类。 2.一个八进制信源的最大熵为3bit/符号 3.有一信源X，其概率分布为 123 x x x X 111 P 244 ?? ?? ? = ?? ? ?? ?? ，其信源剩余度为94.64%；若对该信源进行十次扩展，则 每十个符号的平均信息量是 15bit。 4.若一连续消息通过放大器，该放大器输出的最大瞬间电压为b，最小瞬时电压为a。若消息从放大器中输出，则该信源的绝对熵是∞；其能在每个自由度熵的最大熵是log（b-a）bit/自由度；若放大器的最高频率为F，则单位时间内输出的最大信息量是 2Flog（b-a）bit/s. 5. 若某一信源X，其平均功率受限为16w，其概率密度函数是高斯分布时，差熵的最大值为1 log32e 2 π；与其 熵相等的非高斯分布信源的功率为16w ≥ 6、信源编码的主要目的是提高有效性，信道编码的主要目的是提高可靠性。 7、无失真信源编码的平均码长最小理论极限制为信源熵（或H(S)/logr= H r(S)）。 8、当R=C或（信道剩余度为0）时，信源与信道达到匹配。 9、根据是否允许失真，信源编码可分为无失真信源编码和限失真信源编码。 10、在下面空格中选择填入数学符号“,,, =≥≤?”或“?” （1）当X和Y相互独立时，H（XY）=H(X)+H(X/Y)。 （2）假设信道输入用X表示，信道输出用Y表示。在无噪有损信道中，H(X/Y)> 0, H(Y/X)=0,I(X;Y) 一、概念简答题（每题5分，共40分） 1.什么是平均自信息量与平均互信息，比较一下这两个概念的异同？ 答：平均自信息为 表示信源的平均不确定度，也表示平均每个信源消息所提供的信息量。 平均互信息 表示从Y获得的关于每个X的平均信息量，也表示发X前后Y的平均不确定性减少的量，还表示通信前后整个系统不确定性减少的量。 2.简述最大离散熵定理。对于一个有m个符号的离散信源，其最大熵是多少？ 答：最大离散熵定理为：离散无记忆信源，等概率分布时熵最大。 最大熵值为。 3.解释信息传输率、信道容量、最佳输入分布的概念，说明平均互信息与信源的概率分布、信道的传递概率间分别是什么关系？ 答：信息传输率R指信道中平均每个符号所能传送的信息量。信道容量是一个信道所能达到的最大信息传输率。信息传输率达到信道容量时所对应的输入概率分布称为最佳输入概率分布。 平均互信息是信源概率分布的∩型凸函数，是信道传递概率的U型凸函数。 4.对于一个一般的通信系统，试给出其系统模型框图，并结合此图，解释数据处理定理。 答：通信系统模型如下： 数据处理定理为：串联信道的输入输出X、Y、Z组成一个马尔可夫链，且有， 。说明经数据处理后，一般只会增加信息的损失。 5.写出香农公式，并说明其物理意义。当信道带宽为5000Hz，信噪比为30dB时求信道容量。 .答：香农公式为，它是高斯加性白噪声信道在单位时间内的信道容量，其值取决于信噪比和带宽。 由得，则 6.解释无失真变长信源编码定理。 .答：只要，当N足够长时，一定存在一种无失真编码。 7.解释有噪信道编码定理。 答：当R＜C时，只要码长足够长，一定能找到一种编码方法和译码规则，使译码错误概率无穷小。 8.什么是保真度准则？对二元信源，其失真矩阵，求a>0时率失真函数的和？ 答：1）保真度准则为：平均失真度不大于允许的失真度。 2）因为失真矩阵中每行都有一个0，所以有，而。 二、综合题（每题10分，共60分） 1.黑白气象传真图的消息只有黑色和白色两种，求： 2009-2010学年第二学期末考试试题 信息论与编码理论 一、（共10分） 简述最大熵原理与最小鉴别信息原理,并说明两者之间的关系。 二、（共12分） 某一无记忆信源的符号集为{0, 1}，已知P(0) = 1/4，P(1) = 3/4。 1) 求符号的平均熵； 2) 有100个符号构成的序列，求某一特定序列（例如有m个“0”和（100 - m）个“1”）的自信息量的表达式； 3) 计算2)中序列的熵。 三、（共12分） 一阶马尔可夫信源的状态图如下图所示。信源X 的符号集为{0, 1, 2}。 1) 求平稳后信源的概率分布； 2) 求)(X H ； 3) 求上述一阶马尔可夫信源的冗余度。 P P 四、（共10分） 设离散型随机变量XYZ 的联合概率满足xyz ?)()()()(y z p x y p x p xyz p =。 求证：);();(Z Y X I Y X I ≥ 五、（共12分） 设有一离散无记忆信道，输入信号为321,,x x x ，输出为321,,y y y ，其信道转移矩阵为???? ??????=214141412141414121Q ，61)(,32)(21==x P x P 。 试分别按理想译码准则与最大似然译码准则确定译码规则，并计算相应的平均译码差错概率。 六、（共14分） 设有一离散信道，输入X ，输出Y ，其信道转移矩阵为?? ????7.01.02.02.01.07.0， 求：1）信道的信道容量及达到信道容量时的输入分布？ 2）当输入X 分布为7.0)(1=x P 3.0)(2=x P 时，求平均互信息);(Y X I 及信道疑义度)(X Y H 。 信息论与编码期中试题答案 一、（10’）填空题 （1）1948年，美国数学家香农发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。 （2）必然事件的自信息是 0 。 （3）离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的 N倍。 （4）对于离散无记忆信源，当信源熵有最大值时，满足条件为__信源符号等概分布_。 （5）若一离散无记忆信源的信源熵H（X）等于2.5，对信源进行等长的无失真二进制编码，则编码长度至少为 3 。 二、（10'）判断题 （1）信息就是一种消息。（?） （2）信息论研究的主要问题是在通信系统设计中如何实现信息传输、存储和处理的有效性和可靠性。（√） （3）概率大的事件自信息量大。（?） （4）互信息量可正、可负亦可为零。（√） （5）信源剩余度用来衡量信源的相关性程度，信源剩余度大说明信源符号间的依赖关系较小。 （?） （6）对于固定的信源分布，平均互信息量是信道传递概率的下凸函数。（√） （7）非奇异码一定是唯一可译码，唯一可译码不一定是非奇异码。（?） （8）信源变长编码的核心问题是寻找紧致码（或最佳码）。 （√） （9）信息率失真函数R(D)是关于平均失真度D的上凸函数. ( ? ) 三、（10'）居住在某地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数的一半。 假如我们得知“身高1.6米以上的某女孩是大学生”的消息，问获得多少信息量？ 解：设A表示“大学生”这一事件，B表示“身高1.60以上”这一事件，则 P(A)=0.25 p(B)=0.5 p(B|A)=0.75 （5分） 故 p(A|B)=p(AB)/p(B)=p(A)p(B|A)/p(B)=0.75*0.25/0.5=0.375 （4分） I(A|B)=-log0.375=1.42bit （1分） 四、（10'）证明：平均互信息量同信息熵之间满足 I(X;Y)=H(X)+H(Y)-H(XY) 证明： 于信源爛H(X). () 2.由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵有可能生成同一码集. () 3.—般情况下，用变长编码得到的平均码长比定长编码 大得多. () 4.只要信息传输率大于信道容量，总存在一种信道编译 码，可以以所要求的任意小的误差概率实现可靠的通信 . () 5.务码字的长度符合克拉夫特不等式，是唯一可译码存在的充分和必要条件.() &连续信源和离散信源的爛都具有非负性. () 7.信源的消息通过信道传输后的误差或失真越大，信宿收到消息后对信源存在的不确 定性就越小，获得的信息戢就越小. 8.汉明码是一种线性分组码. () 9.率失真函数的最小值是0 . () 10.必然事件和不可能事件的自信息量都是0 . () 二、填空题共6小题，满分20分. 1 、码的检、纠错能力取决 于______________________________ . 2、___________________________________ 信源编码的目的是:信道编码 的目的是____________________ . 3、把信息组原封不动地搬到码字前k位的(仏灯码就叫 做___________________ ? 4、香农信息论中的三大极限建理 是____________________ 、 ____________________ 、■ 5、耳信道的输入与输出随机序列分别为X和Y ,则 KX\Y N)=NI(X,Y)成立的 条件______________________________ ? 6、对于香农-费诺编码、原始香农-费诺编码和哈夫曼编码， 编码方法惟一的是 O "，则该信源的Dmax= ________ a 0 三、本题共4小题，满分50分. K某信源发送端有2种符号x,i = 1,2), /心)=a：接收端 有3种符号y r. () = 123),转移概率矩阵为 1/2 1/2 0 P = ? 1/2 1/4 1/4. (1)计算接收端的平均不确定 度 (2)计算由于噪声产生的不确 定度H(rix)： (3)计算信道容量以及最佳入 口分布. 2、一阶马尔可夫信源的状态转移 (1) 求信源平稳后的概率分布： (2) 求此信源的燔： (3) 近似地认为此信源为无记忆时，符号的概率分布为 稳分布?求近似信源的爛H(X)并与Hs进行比较. 4、设二元(7,4)线性分组码的生成矩阵为0 0 0 10 0 0 1 0 0 0 1 (1)给岀该码的一致校验矩阵，写出 所有的陪集首和与之相对应的伴随式： (2)若接收矢gv = (0001011),试讣 算出其对应的伴 随式S并按照最小距离译码准则试着对其译码. (二) 一、填空题(共15分，每空1分) 一、判断题共10小J满分20分. 1.当随机变量X和丫相互独立时，条件爛H(XI Y)等 7、某二元信源［爲冷打加其失真矩阵 图如右图所示, 信源X的符号集为{0丄2}? 1 1 0 1 G = 1 1 0 1 1 0 1 0 1 0 北方民族大学试卷 课程代码： 01100622 课程：信息理论及编码 B 卷答案 : 号学 说明：此卷为《信息理论及编码》 B 卷答案 一、概念简答题（每小题6分，共30分） 1、比较平均自信息（信源熵）与平均互信息的异同。 。题试试 考 末期期学季 秋 年学 - —80 名姓班级业专程工息信院学 程工息信气电 线 - q - 答：平均自信息为 H X - -7 p q log p q ，表示信源的平均不确定度， 也表示平 - i 4 - 均每个信源消息所提供的信息量。 ........................... （3分） 平均互信息I X;Y P xy log X,Y 。表示从Y 获得的关于每个 X 的平均信息量, 也表示发X 前后Y 的平均不确定性减少的量，还表示通信前后整个系统不确定性减少的量。 （3分） 2、简述香农第一定理。 - 答：对于离散信源 S 进行r 元编码，只要其满足 L N _匕^， ..................................... （3分） - N log r - 当N 足够长，总可以实现无失真编码。 ............................. （3分） 密 3、简述唯一可译变长码的判断方法？ - 答：将码C 中所有可能的尾随后缀组成一个集合 F ，当且仅当集合 F 中没有包含任一码字 - 时，码C 为唯一可译变长码。构成集合 F 的方法： ............. （2分） 首先，观察码C 中最短的码字是否是其他码字的前缀。若是，将其所有可能的尾随后缀排 列出。而这些尾随后缀又可能是某些码字的前缀， 再将由这些尾随后缀产生的新的尾随后 缀列出。依此下去，直至没有一个尾随后缀是码字的前缀或没有新的尾随后缀产生为 止。 .............（2分） 接着，按照上述步骤将次短的码字直至所有码字可能产生的尾随后缀全部列出， 得到尾随 后缀集合F 。 ............. （2分） 4、简述最大离散熵定理。 答：最大离散熵定理为：对于离散无记忆信源，当信源等概率分布时熵最大。…… （3分） 对于有m 个符号的离散信源，其最大熵为 log m 。 （3分） 专升本《信息论与编码》 一、（共48题,共150分） 1. H(X)____________0，小概率事件对熵的贡献____________，确定事件的信息量____________0。（6分） .标准答案：1. >= ;2. 小;3. =; 2. 确定信道的H(Y/X) ____0，H(X/Y) ____0。（4分） .标准答案：1. =;2. ; 3. 霍夫曼编码可以编出不同的码，这些码的平均码长________，.编码效率 ________，码长方差________。（6分） .标准答案：1. 一样;2. 一样;3. 不一定一样; 4. N个独立并联的信道，每个信道的信道容量为C，为了达到总的信道容量NC，所有信道的输入要________________，.所有信道的输入概率分布是各自信道的 ________________。（4分） .标准答案：1. 相互独立;2. 最佳分布; 5. 通信系统中的编码器包括____________________，____________________， ____________________。（6分） .标准答案：1. 信源编码器;2. 纠错编码器;3. 调制器; 6. 率失真函数R（D）的最大值为________________，最小值为 ________________。（4分） .标准答案：1. H(X);2. 0; 7. 某事件的概率为p(x)，则自信息量为（）。（2分） A.-p(x) B.1/ p(x) C.-log p(x) D.log p(x) .标准答案：C 8. 有事件x，y，I(x)=2 bit，I(x/y)=1 bit，则互信息量I(x；y)的值为（）。（2分） A.1 bit B.2 bit C.3 bit D.4 bit .标准答案：A 9. 下列关于条件熵的结论，不成立的是（）（2分） A.H(X/Y)C.H(X/Y).标准答案：B 10. 使I(X;Y)=0成立的条件是（）: （2分） A.X和Y相互独立 B.H (X) =H(Y) C.X和Y的概率分布相同 .标准答案：A 11. 以下关于离散无记忆信源（熵为H(X)）的结论，不正确的是（）: （2分） A.是平稳信源 B.其N次无记忆扩展信源的熵是NH(X) C.其极限熵大于H(X) .标准答案：C 12. 以下关于信道容量C和信息传输率R间的关系，正确的是（）: （2分） A.C R B.C=R C.C R .标准答案：A 13. 某信源有8个符号，其信源熵为2.4 bit，进行二元定长编码（不扩展），则其编码效率至少可达（）（2分） A.80% B.85% C.90% D.95% .标准答案：A 14. 在准对称信道中，要达到信道容量，要求（）: （2分） A.信源和信宿的概率分布一致 B.信源为等概分布 C.信宿为等概分布 .标准答案：B 15. 在信道编码中，简单重复编码可以（）: （2分） A.减小但降低了信息传输率 B.提高了信息传输率，但增大了PE C.减小并提高了信息传输率 .标准答案：A 16. 二元码C={(000),(011),(101),(110)，该码的最小码距是（）:。（2分） A.1 B.2 C.3 D.4 .标准答案：B 17. 率失真函数R(D)的取值与（）无关（2分） A.信源的概率分布 B.保真度D C.失真函数 D.信道转移矩阵 .标准答案：D 18. 熵函数是信源概率分布的________函数，函数值________0。（4分） .标准答案：1. 上凸;2. ; 19. I(x i,y j) ____ I(y j,x i)，I(x i,y j) ____ I(x i)，I(x i,y j) ____ I(y j)。（6分） .标准答案：1. =;2. ;3. ; 安徽大学2011—2012学年第1学期 《信息论》考试试卷（AB 合卷） 院/系 年级 专业 姓名 学号 一、填空题 1、接收端收到y 后，获得关于发送的符号是x 的信息量是 。 2、香农信息的定义 。 3、在已知事件z Z ∈的条件下，接收到y 后获得关于事件x 的条件互信息(;|)I x y z 的表达式为 。 4、通信系统模型主要分成五个部分分别为： 。 5、研究信息传输系统的目的就是要找到信息传输过程的共同规律，以提高信息传输的可靠性、有效性、 和 ，使信息传输系统达到最优化。 6、某信源S 共有32个信源符号，其实际熵H ∞=1.4比特/符号，则该信源剩余度为 。 7、信道固定的情况下，平均互信息(;)I X Y 是输入信源概率分布()P x 的 型凸函数。 信源固定的情况下，平均互信息(;)I X Y 是信道传递概率(|)P y x 的 型凸函数。 8、当信源与信道连接时，若信息传输率达到了信道容量，则称此信源与信道达到匹配。信道剩余度定义为 。 9、已知信源X 的熵H (X )=0.92比特/符号,则该信源的五次无记忆扩展信源X 5的信息熵 5()H X = 。 10、将∞H ，6H ，0H ，4H ，1H 从大到小排列为 。 11、根据香农第一定理，对于离散无记忆信源S ，用含r 个字母的码符号集对N 长信源符号序列进行变长编码，总能找到一种无失真的唯一可译码，使每个信源符号所需平均码长满足： 。 12、多项式剩余类环[]())q F x f x 是域的充要条件为 。 13、多项式剩余类环[](1)n q F x x -的任一理想的生成元()g x 与1n x -关系为 。 14、有限域12 2F 的全部子域为 。 15、国际标准书号（ISBN ）由十位数字12345678910a a a a a a a a a a 组成（诸i a ∈11F ，满足： 10 1 0(mod11)i i ia =≡∑） ，其中前九位均为0-9，末位0-10，当末位为10时用X 表示。《Handbook of Applied Cryptography 》的书号为ISBN ：7-121-01339- ，《Coding and Information Theory 》的书号为ISBN ：7-5062-3392- 。 二、判断题 1、互信息(;)I x y 与平均互信息(;)I X Y 都具有非负性质。 （ ） 2、离散信源的信息熵是信源无失真数据压缩的极限值。 （ ） 3、对于无噪无损信道，其输入和输出有确定的一一对应关系。 （ ） 4、对于有噪无损信道，其输入和输出有确定的一一对应关系。 （ ） 5、设有噪信道的信道容量为C ，若信息传输率R C >，只要码长n 足够长，必存在一种信道编码和相应的译码规则，使译码平均错误概率E P 为任意小。反之，若R C <则不存在以R 传输信息而E P 为任意小的码。 （ ） 6、在任何信息传输系统中，最后获得的信息至多是信源所提供的信息。如果一旦在某一 中国海洋大学2008—2009学年第一学期 一、填空题（每空2分，共20分） 1、1948年，美国数学家 香农 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。 2、信源编码的目的是提高通信的有效性。信道编码的最终目的是提高信号传输的可靠性。 3、离散平稳无记忆信源X 的N 次扩展信源的熵等于离散信源X 的熵的N 倍。 4、对于香农编码、费诺编码和哈夫曼编码，编码方法惟一的是香农编码。 5、信道输入与输出间的平均互信息是信道转移概率的 下凸 函数，是输入概率的 上凸 函数。 6、信道矩阵????? ?10002/12/1代表的信道的信道容量C=符号/1bit ，达到信道容量的条件是输入符号等概分布。 7、 设某二进制码｛00011，10110，01101，11000，10010，10001｝，则码的最小距离是2 ，假设码字等概分布，则该码的码率为 0.517比特/符号 ，这时若通过二元对称信道接收码字为01100和00110时，应译为01101 ， 10110 。。 二、判断题（每题2分，共10分） 1、必然事件和不可能事件的自信息量都是0 。（错） 2、最大后验概率准则与最大似然准则是等价的。（错） 3、如果信息传输速率大于信道容量，就不存在使传输差错率任意小的信道编码。（对） 4、连续信源和离散信源的熵都具有非负性。（错） 5、相同功率的噪声中，高斯噪声使信道容量最小。（对） 三、简答题（第1、2题各6分，第三题10分，共22分） 1、简述最大离散熵定理。对于一个有m 个符号的离散信源，其最大熵是什么？ 答：最大离散熵定理为：离散无记忆信源，等概率分布时熵最大。 (3分) 最大熵值为 m H 2m ax log = (3分) 2、对于任意概率事件集X 、Y 、Z ，证明下述三角不等式成立()()()Z X H Z Y H X H ≥+ 证：因为)|()|(Y X H YZ X H ≤ ，(3分) 所以： ) |()|()|() |,() |()|()|()|(Z Y H XZ Y H Z Y H Z Y X I YZ X H Z X H Y X H Z X H ≤-==-≤-(3分) 上海大学2011～2012学年度冬季学期试卷（A卷） 课程名:信息论与编码课程号: 07276033学分: 4 应试人声明： 我保证遵守《上海大学学生手册》中的《上海大学考场规则》，如有考试违纪、作弊行为，愿意接受《上海大学学生考试违纪、作弊行为界定及处分规定》的纪律处分。 应试人应试人学号应试人所在院系 题号 1 2 3 4 得分——————————————————————————————————————一：填空题(每空2分，共40分) 1：掷一个正常的骰子，出现‘5’这一事件的自信息量为________,同时掷两个正常的骰子，‘点数之和为5’这一事件的自信息量为___________.（注明物理单位） 2：某信源包含16个不同的离散消息，则信源熵的最大值为___________,最小值为_____________. 3：信源X经过宥噪信道后，在接收端获得的平均信息量称为______________. 4：一个离散无记忆信源输出符号的概率分别为p(0)=0.5,p(1)=0.25,p(2)=0.25,则由60个符号构成的消息的平均自信息量为__________. 5：信源编码可提高信息传输的___有效___性，信道编码可提高信息传输的___可靠_性. 6:若某信道的信道矩阵为 ? ? ? ? ? ? ? ? ? ? ? ? 001 100 010 100 ，则该信道为具有____归并____性能的信道 7：根据香农第一定理（定长编码定理）若一个离散无记忆信源X的信源熵为H(X)，对其n个符号进行二元无失真编码时，其码字的平均长度必须大于____________ 8：若某二元序列是一阶马尔科夫链，P(0/0)=0.8，P(1/1)=0.7，则‘0’游程长度为4的概率为____________,若游程序列为312314，则原始的二元序列为_________. 9:若循环码的生成多项式为1 ) (2 3+ + =x x x g，则接收向量为（1111011）的伴随多项式为_______________ 10:对有32个符号的信源编4进制HUFFMAN码，第一次取_______个信源进行编码. 11:若一个线性分组码的所有码字为：00000,10101,01111,11010，则该码为（____,_____）,该码最多可以纠正_______位错误，共有________陪集. 12：码长为10的线性分组码若可以纠正2个差错,其监督吗至少有__5____位. 13：（7,4）汉明码的一致校验矩阵为 ? ? ? ? ? ? ? ? ? ? 1,0,1,0,1, ,1 0,1,1,0,0, ,1 0,0,0,1,1, ,1 3 2 1 r r r ，则3 2 1 r r r 为__________. _______________________________________________________________ 草稿纸 成绩 一、填空题（本大题共10小空，每小空1分，共20分） 1.按信源发出符号所对应的随机变量之间的无统计依赖关系，可将离散信源分 为 和 2.一个八进制信源的最大熵为 3.有一信源X ，其概率分布为??? ? ? ???=??? ???414 12 1 321 x x x P X ，其信源剩余度为 ；若对该信源进行十次扩展，则每十个符号的平均信息量是 。 4.若一连续消息通过放大器，该放大器输出的最大瞬间电压为b ，最小瞬时电压为a 。若消息从放大器中输出，则该信源的绝对熵是 ；其能在每个自由度熵的最大熵是 ；若放大器的最高频率为F ，则单位时间内输出的最大信息量是 . 5. 若某一 信源X ，其平均功率受限为16w ，其概率密度函数是高斯分布时，差熵的最大值为 ；与其熵相等的非高斯分布信源的功率为 6、信源编码的主要目的是 ，信道编码的主要目的是 。 7、无失真信源编码的平均码长最小理论极限制为 . 8、当 时，信源与信道达到匹配。 9、根据是否允许失真，信源编码可分为 和 。 10、在下面空格中选择填入数学符号“,,, =≥≤?”或“?” （1）当X和Y相互独立时，H（XY） H(X)+H(X/Y)。 （2）假设信道输入用X表示，信道输出用Y表示。在无噪有损信道中，H(X/Y) 0, H(Y/X) 0,I(X;Y) H(X)。 二、（8分）掷两粒骰子，各面出现的概率都是1/6，计算信息量： 1.当点数和为3时，该消息包含的信息量是多少？ 2.当点数和为7是，该消息包含的信息量是多少？ 3.两个点数中没有一个是1的自信息是多少？ 三、（12分）设X、Y是两个相互统计独立的二元随机变量，其取-1或1的概率相等。定义另一个二元随机变量Z，取Z=YX（一般乘积）。试计算： 1.H（Y）、H（Z）； 2.H（XY）、H（YZ）； 3.I（X;Y）、I（Y;Z）； 四、(15分)如图所示为一个三状态马尔科夫信源的转移概率矩阵 P= 11 22 11 0 22 111 424?? ? ? ? ? ? ? ??? 1.绘制状态转移图； 2.求该马尔科夫信源的稳态分布； 3.求极限熵； 五、（12分）在干扰离散对称信道上传输符号1和0，已知P（0）=1/4,P(1)=3/4, 《信息论基础》参考答案 一、填空题 1、信源编码的主要目的是提高有效性，信道编码的主要目的是提高可靠性。 2、信源的剩余度主要来自两个方面，一是信源符号间的相关性，二是信源符号的统计不均匀性。 3、三进制信源的最小熵为0，最大熵为32log bit/符号。 4、无失真信源编码的平均码长最小理论极限制为信源熵（或H(S)/logr= H r (S)）。 5、当R=C 或（信道剩余度为0）时，信源与信道达到匹配。 6、根据信道特性是否随时间变化，信道可以分为恒参信道和随参信道。 7、根据是否允许失真，信源编码可分为无失真信源编码和限失真信源编码。 8、若连续信源输出信号的平均功率为2σ，则输出信号幅度的概率密度是高斯分布或正态分布或()22 212x f x e σπσ -= 时，信源 具有最大熵，其值为值21 log 22 e πσ。 9、在下面空格中选择填入数学符号“,,,=≥≤?”或“?” （1）当X 和Y 相互独立时，H （XY ）=H(X)+H(X/Y)=H(Y)+H(X)。 （2）()() 1222H X X H X =≥()()12333 H X X X H X = （3）假设信道输入用X 表示，信道输出用Y 表示。在无噪有损信道中，H(X/Y)> 0, H(Y/X)=0,I(X;Y) 考试科目名称：信息论 一. 单选（每空2分，共20分） 1.信道编码的目的是（C ），加密编码的目的是（D ）。 A．保证无失真传输 B．压缩信源的冗余度，提高通信有效性 C．提高信息传输的可靠性 D．提高通信系统的安全性 2.下列各量不一定为正值的是（D ） A．信源熵 B．自信息量 C．信宿熵 D．互信息量 3.下列各图所示信道是有噪无损信道的是（B ） A． B． C． D． 4.下表中符合等长编码的是（ A ） 5.联合熵H（XY）与熵H（X）及条件熵H（X/Y）之间存在关系正确 的是（A ） A．H（XY）＝H（X）＋H（Y／X） B．H（XY）＝H（X）＋H（X／Y） C．H（XY）＝H（Y）＋H（X） D．若X和Y相互独立，H（Y）=H（YX） 6.一个n位的二进制数，该数的每一位可从等概率出现的二进制码元（0， 1）中任取一个，这个n位的二进制数的自信息量为（C ） A．n2 B．1 bit C．n bit n D．2 7.已知发送26个英文字母和空格，其最大信源熵为H0 = log27 = 4.76比 特/符号；在字母发送概率不等时，其信源熵为H1 = 4.03比特/符号； 考虑字母之间相关性时，其信源熵为H2 = 3.32比特/符号；以此类推， 极限熵H =1.5比特/符号。问若用一般传送方式，冗余度为（ B ）∞ A．0.32 B．0.68 C ．0.63 D ．0.37 8. 某对称离散信道的信道矩阵为 ，信道容量为（ B ） A ． )6 1 ,61,31,31(24log H C -= B ． )61 ,61,31,31(4log H C -= C ． )61 ,61,31,31(2log H C -= D ． )6 1 ,31(2log H C -= 9. 下面不属于最佳变长编码的是（ D ） A ．香农编码和哈夫曼编码 B ．费诺编码和哈夫曼编码 C ．费诺编码和香农编码 D ．算术编码和游程编码 二. 综合（共80分） 1. （10分）试写出信源编码的分类，并叙述各种分类编码的概念和特性。 （1分）将信源消息分成若干组，即符号序列xi ， xi ＝(xi1xi2…xil …xiL)， { 非分组码 分组码 { 奇异码 非奇异码 { 非唯一可译码 唯一可译码 { 非即时码 即时码（非延长码） 码 （5分）信息论试卷(期末)(B2卷)
信息论基础》试卷(期末A卷
信息论与编码试卷及答案(多篇)
信息论考试题
信息论与编码期中试卷及答案
信息论与编码期末考试题(全套)..
《信息论》期末考试B卷答案
专升本《信息论与编码》_试卷_答案
(整理)信息论期末考试试题1.
信息论试卷题目及答案
信息论与编码期末试卷
信息论试题1
信息论与编码期末考试题----学生复习用
信息论考试卷及答案
相关主题
文本预览