信息论与纠错编码(电子工业出版社)第四章率失真编码 参考答案
- 格式:doc
- 大小:346.00 KB
- 文档页数:9
4.1某离散无记忆信源概率空间为分别使用长度为10和100的序列进行等长无失真编码,分别计算最短平均码长和编码效率。
解:信源的熵为881.03.03.07.07.0)(H =--=lb lb X 比特/符号当N=10时,序列码长应当满足 81.81881.0102)(L 1=⨯=>lb X NH 比特/序列考虑到序列码长应该为整数,取L1=9比特/符号,平均每个符号的码长为9.0NL L 11==比特/符号 所以编码效率为%9.97L )(H 11==X η 当N=100时,序列码长为1.881881.01002)(L 1=⨯=>lb X NH 比特/100符号取L1=89比特/符号,平均每个符号的码长为89.0NL L 22==比特/符号 编码效率为%99L )(H 22==X η 4.2设离散无记忆信源为如果要求编码效率为,允许错误概率为,求编码序列的长度。
解:信源的熵为722.02.02.08.08.0)(H =--=lb lb X 比特/符号自信息量方差为64.0722.0-)2.0(2.0)8.0(8.0D 222=+=lb lb采用二进制码进行等长编码,序列长度应当满足72221062.1)1)((D N ⨯=-≥δηηX H4.3设离散无记忆信源的概率空间为要求编码效率为(1) 如果采用序列等长编码,而允许译码错误概率为,求编码序列的长度。
(2) 如果采用序列变长编码,求编码序列的长度,并且与(1)比较,说明为什么会有这样的结果。
解1)信源的熵为811.025.025.075.075.0)(H =--=lb lb X 比特/符号自信息量方差为471.0811.0-)25.0(25.0)75.0(75.0D 222=+=lb lb采用二进制编码,序列长度为62221029.1)1)((D N ⨯=-≥δηηX H2)对信源进行二次扩展,并采用下列编码方式构成唯一可译码平均码长为6875.13161316321631169L =⨯+⨯+⨯+⨯=比特/2符号 每个符号码长为84375.026875.12L L ===比特/符号 编码效率为%95%1.9684375.0811.0L H(X)=>===δη 由于变长编码能够更好利用不同序列的概率分布进行编码,概率越大,序列的码长越短,概率越小,序列的码长越长,所以相对等长编码而言,变长编码的平均码长很短。
第4章无失真信源编码习题及其参考答案4-1 有一信源,它有六个可能的输出,其概率分布如下表所示,表中给出了对应的码A、B、C、D、E和F(1)求这些码中哪些是唯一可译码;(2)求哪些码是及时码;(3)对所有唯一可译码求出其平均码长l。
4-2 设信源61261126()1()()()()iis s sXp sp s p s p sP X=⎡⎤⎡⎤==⎢⎥⎢⎥⎣⎦⎣⎦∑。
对此次能源进行m元唯一可译编码,其对应的码长为(l1,l2,…,l6)=(1,1,2,3,2,3),求m值的最好下限。
(提示:用kraft不等式)4-3设信源为1234567811111111()248163264128128s s s s s s s sXp X⎡⎤⎡⎤⎢⎥=⎢⎥⎢⎥⎣⎦⎢⎥⎣⎦,编成这样的码:(000,001,010,011,100,101,110,111)。
求(1)信源的符号熵;(2)这种码的编码效率;(3)相应的仙农码和费诺码。
4-4求概率分布为11122(,,,,)3551515信源的二元霍夫曼编码。
讨论此码对于概率分布为11111(,,,,)55555的信源也是最佳二元码。
4-5有两个信源X和Y如下:121234567()0.200.190.180.170.150.100.01X s s s s s s s p X ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦123456789()0.490.140.140.070.070.040.020.020.01Y s s s s s s s s s p Y ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦(1)用二元霍夫曼编码、仙农编码以及费诺编码对信源X 和Y 进行编码,并计算其平均码长和编码效率;(2)从X ,Y 两种不同信源来比较三种编码方法的优缺点。
4-6设二元霍夫曼码为(00,01,10,11)和(0,10,110,111),求出可以编得这样 霍夫曼码的信源的所有概率分布。
4-7设信源为12345678()0.40.20.10.10.050.050.050.05X s s s s s s s s p X ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦,求其三元霍夫曼编码。
信息论与纠错编码课后练习题含答案前言信息论与纠错编码是计算机科学与通信工程中非常重要的领域。
本文档将介绍该领域中一些常见的练习题,并且配有答案供参考。
第一部分:信息论题目一假设在信道中有两个符号a和b,其发生概率分别为P(a)和P(b)。
则符号a和b在信道中的平均传输信息量为多少?答案一符号a和b分别传输的信息量为 $I(a)=-\\log_2P(a)$ 和 $I(b)=-\\log_2P(b)$。
因此,符号a和b在信道中的平均传输信息量为:$$I_{avg}=\\frac{1}{2}(I(a)+I(b))=\\frac{1}{2}(-\\log_2P(a)-\\log_2P(b))=-\\frac{1}{2}\\log_2(P(a)P(b))$$题目二以上一题中的符号为例,若P(a)=0.2,P(b)=0.8,则符号b传输的信息量是符号a的多少倍?答案二符号a和b的信息量为:$$I(a)=-\\log_2P(a)=-\\log_2(0.2)=2.322$$$$I(b)=-\\log_2P(b)=-\\log_2(0.8)=0.321$$因此,符号b传输的信息量为符号a的 $\\frac{0.321}{2.322}=0.138$ 倍。
第二部分:纠错编码题目三对于一个二元码,其生成矩阵为$G=\\begin{bmatrix}1&0&1\\\\0&1&1\\end{bmatrix}$。
请问该码的最小汉明距离是多少?答案三对于二元码,最小汉明距离等于最小权值。
该码的所有码字是:$$\\begin{bmatrix}1&0&0\\end{bmatrix},\\begin{bmatrix}0&1&0\\end{bmatrix},\\begin{bmatrix}1&1&0\\end{bmatrix},\\begin{bmatrix}0&0&1\\end{bmatrix},\\begin{bmatrix}1&0&1\\end{bmatrix},\\begin{bmatrix}0&1&1\\end{bmatrix},\\begin{bmatrix}1&1&1\\end{bmatrix},\\begin{bmatrix}0&0&0\\end{bmatrix}$$因此,该码的最小汉明距离是d min=1。
《信息论与编码》习题解答第四章 信息率失真函数-习题答案4.1解:依题意可知:失真矩阵:⎥⎦⎤⎢⎣⎡=0110d ,转移概率⎥⎦⎤⎢⎣⎡--=εεεε11)|(i j a b p 平均失真:εεεεε=⨯-⨯+⨯⨯+⨯⨯+⨯-⨯==∑∑==0)1(2/112/112/10)1(2/1),()|()(2121j i i j i j i b a d a b p a p D4.2解:依题意可知:失真矩阵:⎥⎦⎤⎢⎣⎡=0210d , 0min =D ,∑=⨯+⨯=⨯+⨯===ij i i j j y x d x p D D )102/122/1(2/112/102/1),()(min min max 舍去当0min =D ,bit X H R D R 12log )()0()(min ====因为没有失真,此时的转移概率为⎥⎦⎤⎢⎣⎡=1001P当2/1max =D ,0)(max =D R因为取的是第二列的max D 值,所以输出符号概率:,1)(,0)(21==b p b p ,,2221b a b a →→因此编码器的转移概率为⎥⎦⎤⎢⎣⎡=1010P 4.3解:0min =D0041041041041),(min )(43041141141141),()(min min min max =⨯+⨯+⨯+⨯===⨯+⨯+⨯+⨯===∑∑i j i j i i j i i j j y x d x p D y x d x p D D 当0min =D ,bit X H R D R 24log )()0()(min ==== 因为没有失真,此时的转移概率为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=1000010000100001P 当4/3max =D ,0)(max =D R因为任何一列的max D 值均为3/4,所以取输出符号概率:0)(,0)(,0)(,1)(4321====b p b p b p b p ,即14131211,,,b a b a b a b a →→→→因此编码器的转移概率为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=0001000100010001P 4.4解: 依题意可知:失真矩阵:⎥⎦⎤⎢⎣⎡=4/1014/110d , 0min =D∑=⨯+⨯===ij i i j j y x d x p D D )2/12(4/1)4/12/14/12/1min(),()(min min max 个均为其它当0min =D ,bit X H R D R 12log )()0()(min ====因为没有失真,此时的转移概率为⎥⎦⎤⎢⎣⎡=010001P 当4/1max =D ,0)(max =D R因为取的是第三列的max D 值为1/4,所以取输出符号概率:1)(,0)(,0)(321===b p b p b p ,即3231,b a b a →→因此编码器的转移概率为⎥⎦⎤⎢⎣⎡=100100P 4.5解:(1)依题意可知:失真矩阵:⎥⎦⎤⎢⎣⎡=0110d ,转移概率为:⎥⎦⎤⎢⎣⎡-=q q P 101 )1(0)1()1(1)1(1001),()|()(11p q q p q p p p y x d x y p x p D n i mj j i i j i -⨯=⨯-⨯-+⨯⨯-+⨯⨯+⨯⨯==∑∑==(2) 0min =D因为)(D R 是D 的递减函数,所以)1log()1(log )()()())(m ax (min min p p p p D H p H D R D R ----=-==当0=q 时可达到))(max(D R ,此时0=D(3) ∑-=⨯+⨯===iji i j j ,p p p p y x d x p D D )1(10),()(min min max 舍去更大另一个 因为)(D R 是D 的递减函数,所以0)()()())(m in(max max =-==D H p H D R D R当1=q 时可达到))(min(D R ,此时p D -=1(图略,见课堂展示)4.6解:依题意可知:失真矩阵:⎥⎦⎤⎢⎣⎡∞∞=1010d ,信源⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡2/12/110)(u p u 0min =D ,∑⨯+⨯⨯+∞⨯∞⨯+⨯===iji i j j y x d x p D D )12/112/1,02/12/1,2/102/1min(),()(min min max )(1]1,,m in[舍去另二个,∞=∞∞=10≤≤D因为二元等概信源率失真函数:⎪⎭⎫ ⎝⎛-=a D H n D R ln )( 其中1,2==a n ,所以率失真函数为:D D R -=1)(4.7解:失真矩阵为⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=011101110d ,按照P81页方法求解。
信息论与编码习题参考答案 第一章 单符号离散信源1.1同时掷一对均匀的子,试求:(1)“2和6同时出现”这一事件的自信息量; (2)“两个5同时出现”这一事件的自信息量; (3)两个点数的各种组合的熵; (4)两个点数之和的熵;(5)“两个点数中至少有一个是1”的自信息量。
解:bitP a I N n P bit P a I N n P c c N 17.536log log )(361)2(17.418log log )(362)1(36662221111616==-=∴====-=∴===⨯==样本空间:(3)信源空间:bit x H 32.436log 3662log 3615)(=⨯⨯+⨯⨯=∴ bitx H 71.3636log 366536log 3610 436log 368336log 366236log 36436log 362)(=⨯⨯+⨯+⨯+⨯⨯=∴++ (5) bit P a I N n P 17.11136log log )(3611333==-=∴==1.2如有6行、8列的棋型方格,若有两个质点A 和B ,分别以等概落入任一方格,且它们的坐标分别为(Xa ,Ya ), (Xb ,Yb ),但A ,B 不能同时落入同一方格。
(1) 若仅有质点A ,求A 落入任一方格的平均信息量; (2) 若已知A 已落入,求B 落入的平均信息量; (3) 若A ,B 是可辨认的,求A ,B 落入的平均信息量。
解:bita P a P a a P a I a P A i 58.548log )(log )()(H 48log )(log )(481)(:)1(481i i i i i ==-=∴=-=∴=∑=落入任一格的概率Θbitb P b P b b P b I b P A i 55.547log )(log )()(H 47log )(log )(471)(:B ,)2(481i i i i i ==-=∴=-=∴=∑=落入任一格的概率是落入任一格的情况下在已知ΘbitAB P AB P AB H AB P AB I AB P AB i i i i i i i 14.11)4748log()(log )()()(log )(471481)()3(47481=⨯=-=-=∴⨯=∑⨯=是同时落入某两格的概率1.3从大量统计资料知道,男性中红绿色盲的发病率为7%,女性发病率为0.5%.如果你问一位男士:“你是否是红绿色盲?”他的回答可能是:“是”,也可能“不是”。
信息论与编码课后习题答案信息论与编码课后习题答案[信息论与编码]课后习题答案1、在认识论层次上研究信息的时候,必须同时考虑到形式、含义和效用三个方面的因素。
2、1948年,美国数学家香农发表了题为“通信的数学理论”的长篇论文,从而创立了信息论。
3、按照信息的性质,可以把信息分为语法信息、语义信息和语用信息。
4、按照信息的地位,可以把信息分成客观信息和主观信息。
5、人们研究信息论的目的就是为了高效率、可信、安全地互换和利用各种各样的信息。
6、信息的是建立信息论的基础。
8、就是香农信息论最基本最重要的概念。
9、事物的不确定度是用时间统计发生概率的对数来描述的。
10、单符号线性信源通常用随机变量叙述,而多符号线性信源通常用随机矢量叙述。
11、一个随机事件发生某一结果后所带来的信息量称为自信息量,定义为其发生概率对数的负值。
12、自信息量的单位通常存有比特、奈特和哈特。
13、必然事件的自信息是。
14、不可能将事件的自信息量就是15、两个相互独立的随机变量的联合自信息量等于两个自信息量之和。
16、数据处理定理:当消息经过多级处置后,随着处理器数目的激增,输出消息与输入消息之间的平均值互信息量趋向变大。
17、离散平稳无记忆信源x的n次扩展信源的熵等于离散信源x的熵的。
limh(xn/x1x2xn1)h n18、线性稳定存有记忆信源的音速熵,。
19、对于n元m阶马尔可夫信源,其状态空间共有m个不同的状态。
20、一维已连续随即变量x在[a,b]。
1log22ep21、平均功率为p的高斯分布的已连续信源,其信源熵,hc(x)=2。
22、对于限峰值功率的n维连续信源,当概率密度均匀分布时连续信源熵具有最大值。
23、对于减半平均功率的一维已连续信源,当概率密度24、对于均值为0,平均功率受限的连续信源,信源的冗余度决定于平均功率的限定值p和信源的熵功率p25、若一线性并无记忆信源的信源熵h(x)等同于2.5,对信源展开相切的并无杂讯二进制编码,则编码长度至少为。
信息论与编码习题参考答案 第一章 单符号离散信源1.1同时掷一对均匀的子,试求:(1)“2和6同时出现”这一事件的自信息量; (2)“两个5同时出现”这一事件的自信息量; (3)两个点数的各种组合的熵; (4)两个点数之和的熵;(5)“两个点数中至少有一个是1”的自信息量。
解:bitP a I N n P bit P a I N n P c c N 17.536log log )(361)2(17.418log log )(362)1(36662221111616==-=∴====-=∴===⨯==样本空间:(3)信源空间:bit x H 32.436log 3662log 3615)(=⨯⨯+⨯⨯=∴ bitx H 71.3636log 366536log 3610 436log 368336log 366236log 36436log 362)(=⨯⨯+⨯+⨯+⨯⨯=∴++ (5) bit P a I N n P 17.11136log log )(3611333==-=∴==1.2如有6行、8列的棋型方格,若有两个质点A 和B ,分别以等概落入任一方格内,且它们的坐标分别为(Xa ,Ya ), (Xb ,Yb ),但A ,B 不能同时落入同一方格内。
(1) 若仅有质点A ,求A 落入任一方格的平均信息量; (2) 若已知A 已落入,求B 落入的平均信息量; (3) 若A ,B 是可辨认的,求A ,B 落入的平均信息量。
解:bita P a P a a P a I a P A i 58.548log )(log )()(H 48log )(log )(481)(:)1(481i i i i i ==-=∴=-=∴=∑=落入任一格的概率Θbitb P b P b b P b I b P A i 55.547log )(log )()(H 47log )(log )(471)(:B ,)2(481i i i i i ==-=∴=-=∴=∑=落入任一格的概率是落入任一格的情况下在已知ΘbitAB P AB P AB H AB P AB I AB P AB i i i i i i i 14.11)4748log()(log )()()(log )(471481)()3(47481=⨯=-=-=∴⨯=∑⨯=是同时落入某两格的概率1.3从大量统计资料知道,男性中红绿色盲的发病率为7%,女性发病率为0.5%.如果你问一位男士:“你是否是红绿色盲?”他的回答可能是:“是”,也可能“不是”。
4.1 一个四元对称信源⎭⎬⎫⎩⎨⎧=⎥⎦⎤⎢⎣⎡4/14/1324/14/110)(X P X ,接收符号Y = {0, 1, 2, 3},其失真矩阵为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡0111101111011110,求D max 和D min 及信源的R(D)函数,并画出其曲线(取4至5个点)。
解:041041041041),(min )(430411********),()(min min min max =⨯+⨯+⨯+⨯===⨯+⨯+⨯+⨯===∑∑ij i j i ij i i j j y x d x p D y x d x p D D因为n 元等概信源率失真函数:⎪⎭⎫⎝⎛-⎪⎭⎫ ⎝⎛-+-+=a D a D n a D a D n D R 1ln 11ln ln )(其中a = 1, n = 4, 所以率失真函数为:()()D D DD D R --++=1ln 13ln4ln )( 函数曲线:D其中:sym bolnat D R D sym bolnat D R D sym bolnat D R D sym bolnat R D /0)(,43/12ln 214ln )(,21/316ln 214ln )(,41/4ln )0(,0==-==-==== 4.2 若某无记忆信源⎭⎬⎫⎩⎨⎧-=⎥⎦⎤⎢⎣⎡3/113/13/101)(X P X ,接收符号⎭⎬⎫⎩⎨⎧-=21,21Y ,其失真矩阵⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=112211D 求信源的最大失真度和最小失真度,并求选择何种信道可达到该D max 和D min 的失真度。
4.3 某二元信源⎭⎬⎫⎩⎨⎧=⎥⎦⎤⎢⎣⎡2/12/110)(X P X 其失真矩阵为⎥⎦⎤⎢⎣⎡=a a D 00求这信源的D max 和D min 和R(D)函数。
解:021021),(min )(202121),()(min min min max =⨯+⨯===⨯+⨯===∑∑ij i j i ij i i j j y x d x p D aa y x d x p D D因为二元等概信源率失真函数:⎪⎭⎫⎝⎛-=a D H n D R ln )(其中n = 2, 所以率失真函数为:⎥⎦⎤⎢⎣⎡⎪⎭⎫ ⎝⎛-⎪⎭⎫ ⎝⎛-+-=a D a D a D a D D R 1ln 1ln 2ln )(4.4 已知信源X = {0, 1},信宿Y = {0, 1, 2}。
第1章 信息论基础1.7 ⎥⎥⎦⎤⎢⎢⎣⎡=⎥⎦⎤⎢⎣⎡36136236336436536636536436336236112111098765432)(X q X 1.8 p (s 0 ) = 0.8p (s 0 ) + 0.5p (s 2 )p (s 1 ) = 0.2p (s 0 ) + 0.5p (s 2 ) p (s 2 ) = 0.5p (s 1 ) + 0.3p (s 3 ) p (s 3 ) = 0.5p (s 1 ) + 0.7p (s 3 ) p (s 0 ) + p (s 1 ) + p (s 2 ) + p (s 3 ) = 1 p (s 0 ) =3715, p (s 1 ) = p (s 2 ) = 376,p (s 3 ) = 37101.9 P e = q (0)p + q (1)p = 0.06(1-0.06)﹡1000﹡10 = 9400 < 9500 不能1.10 ⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡------------=22222222)1(0)1()1(00)1(0)1()1(000000)1()1(0)1(00000)1()1(0)1(p p p pp p p p p p p p p p p p p p p p p p p p P 第2章 信息的度量2.4 logk2.5 I (X ; Y Z )= I (X ; Y )+ I (X ; Z ∣Y ) 2.7 010434()()()111111p s p s p s === H = 0.25(Bit/符号)2.8 H = 0.82(Bit/符号) 2.10 (1)1()log225.6()52!i I x Bit =-= (2)1352!()log ()log 413!39!i i I x q x =-=(3))/(4.713log 234log 52log 521log )(符号-Bit U H ==⨯===(4))/(7.313log 131log )(符号Bit X H ==- 2.11(1)H (X ) = log6 = 2.58 (Bit/符号) (2)H (X ) =2.36 (Bit/符号)(3)I (A+B=7) = - log1/6 = log6 = 2.585 (Bit) 2.12 (1)I (x i ) = -log1/100 = log100(2)H(X)=log100.2.13 039.0log )(-=Y X I2.14 R t =1000/4 (码字/秒) × H (U ) =250×9=2250(Bit/秒) 2.15 ―log p = log 55/44。
4.1 当率失真函数R (D )取什么值的时候,表示不允许有任何失真。
解:当D=0时,表示不允许有任何失真,此时R (D )= H (X ), 即R max ((D )= H (X )4.2 说明信源在不允许失真时,其信息率所能压缩到的极限值是什么?当允许信源存在一定的失真时,其信息率所能压缩到的极限值又是什么?解:不允许失真时,信息率压缩极限值R (D )= H (X );不允许失真时,信息率压缩极限值 R (D )= 04.3 在例4.8中,当允许D= 0.5δ时,请问每个信源符号至少需要几个二进制符号来对其编码?解:因为二元信源率失真函数:⎪⎭⎫⎝⎛-=a D H p H D R )()(其中a = 1(汉明失真), 所以二元信源率失真函数为:)()()(D H p H D R -=当D= 2P 时[]symbol nat p p p p p p p p p H p H p R /21ln 212ln 2)1ln()1(ln 2)(2⎥⎦⎤⎢⎣⎡⎪⎭⎫ ⎝⎛-⎪⎭⎫ ⎝⎛-++--+-=⎪⎭⎫⎝⎛-=⎪⎭⎫ ⎝⎛4.4 给定信源分布⎥⎦⎤⎢⎣⎡)(q X X = ⎥⎦⎤⎢⎣⎡25.025.05.0x 321x x ,失真测度矩阵[d]=⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡011302120,求率失真函数R (D )。
解:定义域:D min =0×0.5+0×0.25+0×0.25=0D max =min{2×0.25+1×0.25,2×0.5+1×0.25,1×0.5+3×0.25}=0.75值域:R (D min )= -0.5log0.5-0.25log0.25-0.25log0.25=0.45 R (D max )= 04.5 给定二元信源⎥⎦⎤⎢⎣⎡)(q X X = ⎥⎦⎤⎢⎣⎡5.05.0x x 21, 失真测度矩阵为[d]=⎥⎦⎤⎢⎣⎡00αα,求率失真函数R(D)。
4.1 当率失真函数R (D )取什么值的时候,表示不允许有任何失真。
解:当D=0时,表示不允许有任何失真,此时R (D )= H (X ), 即R max ((D )= H (X )4.2 说明信源在不允许失真时,其信息率所能压缩到的极限值是什么?当允许信源存在一定的失真时,其信息率所能压缩到的极限值又是什么?解:不允许失真时,信息率压缩极限值R (D )= H (X );不允许失真时,信息率压缩极限值 R (D )= 04.3 在例4.8中,当允许D= 0.5δ时,请问每个信源符号至少需要几个二进制符号来对其编码?解:因为二元信源率失真函数:⎪⎭⎫⎝⎛-=a D H p H D R )()(其中a = 1(汉明失真), 所以二元信源率失真函数为:)()()(D H p H D R -=当D= 2P 时[]symbol nat p p p p p p p p p H p H p R /21ln 212ln 2)1ln()1(ln 2)(2⎥⎦⎤⎢⎣⎡⎪⎭⎫ ⎝⎛-⎪⎭⎫ ⎝⎛-++--+-=⎪⎭⎫⎝⎛-=⎪⎭⎫ ⎝⎛4.4 给定信源分布⎥⎦⎤⎢⎣⎡)(q X X = ⎥⎦⎤⎢⎣⎡25.025.05.0x 321x x ,失真测度矩阵[d]=⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡011302120,求率失真函数R (D )。
解:定义域:D min =0×0.5+0×0.25+0×0.25=0D max =min{2×0.25+1×0.25,2×0.5+1×0.25,1×0.5+3×0.25}=0.75值域:R (D min )= -0.5log0.5-0.25log0.25-0.25log0.25=0.45 R (D max )= 04.5 给定二元信源⎥⎦⎤⎢⎣⎡)(q X X = ⎥⎦⎤⎢⎣⎡5.05.0x x 21, 失真测度矩阵为[d]=⎥⎦⎤⎢⎣⎡00αα,求率失真函数R(D)。
解:0021021),(m in )(202121),()(m in m in min max =⨯+⨯===⨯+⨯===∑∑ij i ji ij i i jj y x d x p D aa y x d x p D D因为二元等概信源率失真函数:⎪⎭⎫ ⎝⎛-=a D H n D R ln )(其中n = 2, 所以率失真函数为:⎥⎦⎤⎢⎣⎡⎪⎭⎫ ⎝⎛-⎪⎭⎫ ⎝⎛-+-=a D a D a D a D D R 1ln 1ln 2ln )(4.6 给定二元信源⎥⎦⎤⎢⎣⎡)(q X X =⎥⎦⎤⎢⎣⎡αα-1x x 21, α<0.5,失真测度矩阵为[d]=⎥⎦⎤⎢⎣⎡00αα, 求率失真函数R(D)。
解:因为二元等概信源率失真函数: R(D)= H(α)-H(αD)= -[αlog α+(1-α)]+[αDlogαD+(1-αD)log(1-αD)]4.7 给定二元信源⎥⎦⎤⎢⎣⎡)(q X X = ⎥⎦⎤⎢⎣⎡5.05.0x x 21, 失真测度矩阵为[d]=⎥⎦⎤⎢⎣⎡00βα,求率失真函数R(D)。
解:D min = 0.5×0+0.5×0=0 D max =min{0.5α,0.5β}因为二元等概信源率失真函数:其中n = 2, 所以率失真函数为:⎥⎦⎤⎢⎣⎡⎪⎭⎫ ⎝⎛-⎪⎭⎫ ⎝⎛-+-=a D a D a D a D D R 1ln 1ln 2ln )(4.8 等概信源错误!未找到引用源。
,接收符号集错误!未找到引用源。
,失真测度矩阵为[d]=123101221013210错误!未找到引用源。
,求R(D)的定义域和值域; 解: D min = 0D max = 1/4×1+1/4×1+1/4×2+0=1 定义域:0<D<1因为n 元等概信源率失真函数:⎪⎭⎫⎝⎛-⎪⎭⎫ ⎝⎛-+-+=a D a D n a D a D n D R 1ln 11ln ln )(其中a = 1, n = 4, 所以率失真函数为:⎪⎭⎫ ⎝⎛-=a D H n D R ln )(()()D D DD D R --++=1ln 13ln4ln )(值域:0<R(D)<ln44.9 二元信源错误!未找到引用源。
,其中p<0.5,信道输出符号集Y={y 0,y 1},失真测度矩阵为[d]=⎥⎦⎤⎢⎣⎡00αα,求率失真函数R(D)。
解: D min = 0D max = min{(1-p)×α,p ×α}=(1-p)×α 因为二元等概信源率失真函数: R(D)= H(α)-H(αD)= -[αlog α+(1-α)]+[αDlogαD+(1-αD)log(1-αD)]4.10 信源符号集X={0,1},信道符号集Y={0,e,1},信源等概分布q(0)=q(1)=0.5,失真测度矩阵[d]=⎥⎦⎤⎢⎣⎡00αββα,式中α<0.5。
(1)求率失真函数R(D);(2)当α≥0.5,β=1时,证明R(D)=log2-H 2(D)。
解:(1) D min =0D max =min{β/2,α , β/2}因为二元等概信源率失真函数:其中n = 2, 所以率失真函数为:R(D)= log2- H 2[1-(D/β)] (2)当α≥1/2,β=1时,D min =0,D max =min{β/2,α , β/2}= 1/2,⎩⎨⎧>≤≤-=2/102/10)(2log )(2D D D H D R4.11 二进制信道,信源分布错误!未找到引用源。
,p<0.5,失真测度矩阵错误!未找到引用源。
,式中错误!未找到引用源。
,求率失真函数R(D)。
解:(1)由错误!未找到引用源。
=1得 错误!未找到引用源。
(2)由错误!未找到引用源。
得 错误!未找到引用源。
(3)由错误!未找到引用源。
得⎪⎭⎫ ⎝⎛-=a D H n D R ln )((4)由错误!未找到引用源。
得(5)由错误!未找到引用源。
得4.12 二进制信道,信源分布错误!未找到引用源。
,p<0.5,失真测度为汉明失真测度,问当允许平均失真测度D=0.5p 时,每个信源符号至少需要几个二进制符号表示。
解:因为二元信源率失真函数:4.13 二元等概率离散信源,失真测度函数定义为错误!未找到引用源。
,求率失真函数。
解:因为二元等概信源率失真函数:⎪⎭⎫⎝⎛-=a D H n D R ln )(其中n = 2, 所以率失真函数为:⎥⎦⎤⎢⎣⎡⎪⎭⎫ ⎝⎛-⎪⎭⎫ ⎝⎛-+-=a D a D a D a D D R 1ln 1ln 2ln )(4.14 信元等概分布错误!未找到引用源。
,接收符号集错误!未找到引用源。
,失真测度矩阵为错误!未找到引用源。
(1)求R(D)的定义域和值域;(2)求R(D)函数,并画出求R(D)~D 曲线(取4~5个点)。
解:定义域:041041041041),(min )(430411********),()(min min min max =⨯+⨯+⨯+⨯===⨯+⨯+⨯+⨯===∑∑i j i j i ij i i j j y x d x p D y x d x p D D因为n 元等概信源率失真函数:⎪⎭⎫⎝⎛-⎪⎭⎫ ⎝⎛-+-+=a D a D n a Da D n D R 1ln 11ln ln )(其中a = 1, n = 4, 所以率失真函数为:()()D D DD D R --++=1ln 13ln4ln )(值域:0<R(D)<ln4函数曲线:D其中symbolnat D R D symbolnat D R D symbolnat D R D symbolnat R D /0)(,43/12ln 214ln )(,21/316ln 214ln )(,41/4ln )0(,0==-==-====4.15信源等概分布⎥⎥⎦⎤⎢⎢⎣⎡≡⎥⎦⎤⎢⎣⎡r xr rx r x x q X 1...1 (211))(,接收符号集Y=}{,...2,1yr y y 失真测度为汉明失真测度。
(1)用参数法计算失真函数R(D);(2)求出达到R(D)的正向信道的信道转移概率p(y|x); (3)求出达到R(D)的反向信道的转移概率ø(x|y).解:根据1=)(i sd ii x q e ij∑λ得出:1)(11)(11)(1021102201=++⎢⎣⎡=++⎢⎣⎡=++⎢⎣⎡e e e re e e r e e e r r s s sr s sr s λλλλλλλλλ由上面的方程组可得:121====r λλλ由∑==Jj isdj ij e y w 11)(λ可得:1)()()(1)()()(1)()()(21021201=+++=+++=+++s r s s s r s s r s e y w e y w e y w e y w e y w e y w e y w e y w e y w由上面可得:)()()(21r y w y w y w === ,又因为∑=jjy w 1)(,所以ry w y w y w r 1)()()(21====由ijsd i j i j e y w x y p λ)()|(=可得:p= re ij sd ,所以[p]= ⎥⎥⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎢⎢⎣⎡r r e r e r e rre re r e r s s ss s s 111D=re r ed x q y w sI i Jj sd ij i i j ij)1()()(11-=∑∑==λ,s=1ln -r Dr R(D)=sD+1lnlog )(1-=∑=r DrD x q Ii i i λ 由)|()()()|()()()|(i j j i i j j j i j i x y p y w x q x y p y w y x p y x ===φ得反向信道转移概率为:[ø]=⎥⎥⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎢⎢⎣⎡r r e r e r e r r e re r e r s s ss s s 1114.16二元信源⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡5.005.00)(x q X ,信源输出速率v=2.5b/s,通过信息传输率R1=2b/s 的无噪无损信道传输,试问:(1)信源能否在此信道中进行无失真传输;(2)若此信道的失真测度定义为汉明失真测度,则平均失真多大时,可在该信道中传输。
解:(1) 根据无损无噪信道容量C=maxH(x),当信源等概率分布时H(x)最大,所以max[H(x)]=∑==-=-2112*)5.0log 5.0()(log )(i iix q x q ,即C=1b/s,因为R>C ,所以不可能实现无差错传输,即不可能在此信道中进行无失真传输(2) 由题意得d=⎥⎦⎤⎢⎣⎡0110,5.0,0max min ==D D由表达式1=)(i sdii x q e ij ∑λ可得下列方程组:1)(2121=+s e λλ 1)(2121=+λλs e 解得:se +==1221λλ 由∑==Jj isd jijeyw 11)(λ可得:21)()(21)()(2121ss ssey w e y w e e y w y w +=++=+21)()(21==⇒y w y w由ij sdi j i j e y w x y p λ)()|(=得:ss ssss e x y p e e x y p e e x y p e x y p +=+=+=+=11)|(,1)|(1)|(,11)|(11122111∑∑==+==21211)|()(i j ssij i j i e e d x y p x q D 由5.0,0,max min ==≥D D D D ,所以有max min D D D ≤≤4.17信源X={x1,x2,x3,x4},信宿Y={y1,y2,y3,y4,y5,y6,y7},信源等概率分布,失真测度矩阵为[d]=⎥⎥⎥⎥⎦⎤∞∞∞∞∞∞∞∞∞∞∞∞∞⎢⎢⎢⎢⎣⎡∞∞∞333310101010,证明率失真函数R(D)如题图4-1所示。