信息论基础教程第二版第四章课后习题答案
- 格式:pdf
- 大小:8.75 MB
- 文档页数:41
各章参考答案2.1. (1)4.17比特 ;(2)5.17比特 ; (3)1.17比特 ;(4)3.17比特2.2. 1.42比特2.3. (1)225.6比特 ;(2)13.2比特2.4. (1)24.07比特; (2)31.02比特2.5. (1)根据熵的可加性,一个复合事件的平均不确定性可以通过多次实验逐步解除。
如果我们使每次实验所获得的信息量最大。
那么所需要的总实验次数就最少。
用无砝码天平的一次称重实验结果所得到的信息量为log3,k 次称重所得的信息量为klog3。
从12个硬币中鉴别其中的一个重量不同(不知是否轻或重)所需信息量为log24。
因为3log3=log27>log24。
所以在理论上用3次称重能够鉴别硬币并判断其轻或重。
每次实验应使结果具有最大的熵。
其中的一个方法如下:第一次称重:将天平左右两盘各放4枚硬币,观察其结果:①平衡 ②左倾 ③右倾。
ⅰ)若结果为①,则假币在未放入的4枚币,第二次称重:将未放入的4枚中的3枚和已称过的3枚分别放到左右两盘,根据结果可判断出盘中没有假币;若有,还能判断出轻和重,第三次称重:将判断出含有假币的三枚硬币中的两枚放到左右两盘中,便可判断出假币。
ⅱ)若结果为②或③即将左盘中的3枚取下,将右盘中的3枚放到左盘中,未称的3枚放到右盘中,观察称重砝码,若平衡,说明取下的3枚中含假币,只能判出轻重,若倾斜方向不变,说明在左、右盘中未动的两枚中其中有一枚为假币,若倾斜方向变反,说明从右盘取过的3枚中有假币,便可判出轻重。
(2)第三次称重 类似ⅰ)的情况,但当两个硬币知其中一个为假,不知为哪个时,第三步用一个真币与其中一个称重比较即可。
对13个外形相同的硬币情况.第一次按4,4,5分别称重,如果假币在五个硬币的组里,则鉴别所需信息量为log10>log9=2log3,所以剩下的2次称重不能获得所需的信息.2.6. (1)215log =15比特; (2) 1比特;(3)15个问题2. 7. 证明: (略) 2.8. 证明: (略)2.9.31)(11=b a p ,121)(21=b a p ,121)(31=b a p ,61)()(1312==b a b a p p ,241)()()()(33233222====b a b a b a b a p p p p。
信息论基础智慧树知到课后章节答案2023年下潍坊学院潍坊学院第一章测试1.信息论的奠基人是()。
A:香农 B:阿姆斯特朗 C:哈特利 D:奈奎斯特答案:香农2.下列不属于信息论的研究内容的是()。
A:纠错编码 B:信息的产生 C:信道传输能力 D:信源、信道模型答案:信息的产生3.下列不属于消息的是()A:文字 B:图像 C:信号 D:语音答案:信号4.信息就是消息. ()A:错 B:对答案:错5.信息是不可以度量的,是一个主观的认识。
()A:错 B:对答案:错6.任何已经确定的事物都不含有信息。
()A:对 B:错答案:对7.1948年香农的文章《通信的数学理论》奠定了香农信息理论的基础。
()A:错 B:对答案:对8.信息论研究的目的就是要找到信息传输过程的共同规律,以提高信息传输的(),使信息传输系统达到最优化。
A:有效性 B:认证性 C:可靠性 D:保密性答案:有效性;认证性;可靠性;保密性9.下列属于香农信息论的主要研究理论的是()。
A:压缩理论 B:调制理论 C:保密理论 D:传输理论答案:压缩理论;保密理论;传输理论10.信源编码的作用包含()。
A:检错纠错 B:对信源的输出进行符号变换 C:数据压缩 D:提升信息传输的安全性答案:对信源的输出进行符号变换;数据压缩第二章测试1.信息传输系统模型中,用来提升信息传输的有效性的部分为()A:信源 B:信道编码器、信道译码器 C:信道 D:信源编码器、信源译码器答案:信源编码器、信源译码器2.对于自信息,以下描述正确的是()A:以2为底时,单位是奈特。
B:以2为底时,单位是比特。
C:以10为底时,单位是奈特。
D:以e为底时,单位是比特答案:以2为底时,单位是比特。
3.信息熵的单位是()A:比特 B:比特每符号 C:无法确定答案:比特每符号4.必然事件和不可能事件的自信息量都是0 。
()A:错 B:对答案:错5.概率大的事件自信息量大。
朱雪龙《应⽤信息论基础》习题第四章答案习题答案 B4-1第4章习题答案4.1 设有离散⽆记忆信道,输⼊X :aa a p a p a p a K K 1212 ()()(),输出Y :b b b p b p b p b J J 1212 ()()(),当输⼊/出x 和y 的互信息I x y (;)也为⼀随机变量,试证:当{}Var I x y (;)=0时,平均互信息I X Y (;)达到信道容量C 。
证明:由{}Var I x y (;)=0可知,);(y x I 以概率1取常数) )];([ ( y x I E C =,所以有∑====C b y a x I a b P Y x I j k k j );()();(满⾜定理4.3关于离散⽆记忆信道达到信道容量的充要条件。
且此时平均互信息∑===Kk k k C Y a I a p Y X I 1);()();(所以当{}Var I x y (;)=0时,平均互信息达到信道容量C 。
<证毕>4.2 设某信道的输⼊X 取值{,}+-11,⼜信道有加性噪声n ,其分布密度为p n n n (),||,||=≤>14202,求信道容量。
答:C = 0.5bit, 当输⼊的概率分布为1)1()1(=-===X P X P 时达到信道容量。
4.3 设在图 4.10 的⼀般⾼斯信道中200)(11)(,2)(f f f H N f N +==,试求信道的容量费⽤函数)(s P C解:根据{--=-λλλλλF F dff H f N F H f N )2())()(21()1(0)()(2122 可推得λF 的⼀个⽅程,如下:4052035434N P f F f F s =+λλ (3) 解出(3)式,即可求得λF应⽤信息论基础B4-2 ⽽e f F tg f F df f f N df df f N f H P C F F F F F f s log )]([412log 2121log 21)(2)(log 21)(01022002λλλλλλλλλ---∈-=????+-==??故)(s P C 可求。
信息论基础知到章节测试答案智慧树2023年最新广东工业大学第一章测试1.信息论由哪位科学家创立()。
参考答案:香农2.点对点通信模型包含以下哪些部分()。
参考答案:译码器;信源;信宿3.信息就是消息。
()参考答案:错4.连续信源分为,___,___。
参考答案:null5.研究信息论的目的是:提高信息传输的___,___,___、___,达到信息传输的最优化。
参考答案:null第二章测试1.某一单符号离散信源的数学模型为,则其信息熵为()。
参考答案:1比特/符号2.单符号信源具有以下哪些特点()。
参考答案:无记忆;平稳3.熵函数具有以下哪些基本性质()。
参考答案:对称性;连续性;确定性4.信源要含有一定的信息,必须具有随机性。
()参考答案:对5.信息熵表示信源X每发一个符号所提供的平均信息量。
()参考答案:对第三章测试1.以下等式或不等式关系成立的是()。
参考答案:2.单符号离散无记忆的N次扩展信道,有以下哪两种特点()。
参考答案:无预感性;无记忆性3.后向信道矩阵中任·一行之和为1。
()参考答案:对4.信道容量指信道的最大信息传输率。
()参考答案:对5.互信息量等于___与___比值的对数。
参考答案:null1.某信源输出信号的平均功率和均值均被限定,则其输出信号幅值的概率密度函数是以下哪种分布时,信源达到最大差熵值()。
参考答案:高斯分布2.某信源的峰值功率受限,则概率密度满足以下哪个个条件时,差熵达到最大值()。
参考答案:均匀分布3.连续信道的平均互信息不具有以下哪些性质()。
参考答案:连续性4.差熵具有以下哪两个性质()。
参考答案:条件差熵值小于无条件差熵;差熵可为负值5.一维高斯分布连续信源是瞬时功率受限的一类连续平稳信源。
()参考答案:错1.分组码分为()。
参考答案:非奇异码;奇异码2.在输入符号先验等概时,采用以下哪些准则的译码方法可以使平均译码错误概率最小()。
参考答案:最大后验概率准则;最大似然准则3.平均码长可作为衡量信源编码效率的标准。
= pQhb) = = pWLh)124各章参考答案2. 1. (1) 4.17 比特;(2) 5.17 比特;(3) 1.17 比特; (4) 3.17 比特 2. 2. 1.42比特2. 3.(1) 225.6 比特;(2) 13.2 比特2. 4. (1) 24.07 比特;(2) 31.02 比特2. 5. (1)根据炳的可加性,一个复合事件的平均不确定性可以通过多次实验逐步解除。
如果我们使每次实验所获得的信息量最大。
那么所需要的总实验次数就最少。
用无秩码天平 的一次称重实验结果所得到的信息量为log3,k 次称重所得的信息量为klog3o 从12个硬币 中鉴别其中的一个重量不同(不知是否轻或重)所需信息量为log24。
冽31og3=log27>log24o 所以在理论上用3次称重能够鉴别硬币并判断其轻或重。
每次实验应使结果具有最大的炳。
其中的一个方法如下:第一次称重:将天平左右两盘各放4枚硬币,观察其结果:①平衡 ② 左倾③右倾。
i )若结果为①,则假币在未放入的4枚币,第二次称重:将未放入的4枚 中的3枚和已称过的3枚分别放到左右两盘,根据结果可判断出肃中没有假币;若有,还能 判断出轻和重,第三次称重:将判断出含有假币的三枚硬币中的两枚放到左右两盘中,便可 判断出假币。
订)若结果为②或③即将左盘中的3枚取下,将右盘中的3枚放到左盘中,未 称的3枚放到右盘中,观察称重缺码,若平衡,说明取下的3枚中含假币,只能判出轻重, 若倾斜方的不变,说明在左、右盘中未动的两枚中其中有一枚为假币,若倾斜方向变反,说 明从右盘取过的3枚中有假币,便可判出轻重。
(2)第三次称重类似i )的情况,但当两个硬币知其中一个为假,不知为哪个时, 第三步用一个真币与其中一个称重比较即可。
对13个外形相同的硬币情况.第一次按4,4,5分别称重,如果假币在一五个硬币的组里,则鉴 别所需信息量为Iogl0>log9=21og3,所以剩下的2次称重不能获得所需的信息.2. 6. (1) log2“=15 比特;(2)1比特;(3) 15个问题2. 7. 证明: (略)2. 8.证明: (略)/ 、 111 、 12.9. P (dibi) = - p(ci\bi )= 12P (cM — — P (sb) < , 12 ,6,2. 10.证明: (略) 2. 11.证明: (略)2.12.证明: (略)2 [3.(1) H(X) = H(Y) = 1, H(Z) = 0.544, H(XZ) = 1.406, H(YZ) = 1.406,H(XKZ) = 1.812(2)H(X/Y) = H(Y/X) = 0.810f H(X/Z) = 0.862, H(Z/X) = H(Z/Y) =0.405 , H(Y/Z) = 0.862, H(X/YZ) = H(Y/XZ) = 0.405, H(Z/XY) =(3)1(X;K) = 0.188 Z(X;Z) = 0.138 Z(K;Z) = 0.138 7(X;Y/Z) =0.457 , I(Y;Z/X) = I(X;Z/Y) = 0.406(单位均为比特/符号)p 游(000) = 1)= Pg(l°l)=服z(l 1°)= 714. X 1 Z ■,(2)P加(°°°)=P宓(111)= !(3)P加(°°°)= 〃加(°。