当前位置：文档之家 › 信息论基础-练习与思考5

信息论基础-练习与思考5

  • 格式：doc
  • 大小：148.50 KB
  • 文档页数：5

 题目

1． 一个（7，1）重复码，求其生成矩阵和监督矩阵以及码的最小距离mind。

2． 一个线性分组码的监督矩阵为101011101011100001101010010100100110H，求其生成矩阵以及码的最小距离mind。

3． 设一个（15，4）循环码的生成多项式1110651)(xxxxxxg。

（1） 求此码的监督多项式h(x)；

（2） 求此码的生成矩阵（非系统码和系统码形式）；

（3） 求此码的监督矩阵。

4． 一个（7，3）线性分组码的生成矩阵为100111001001110011101G

（1） 构造一个等价的系统码生成矩阵；

（2） 求其监督矩阵；

（3） 构造所有可能的伴随式S的表，并求其所对应的最大可能错误图样E

（4） 求mind，并说明它能可靠地纠几个错？

（5） 若信息位)101(U,求对应的码字；

（6） 它与（7，4）汉明码的关系如何？

5． 已知一个（6，3）线性分组码的全部码字为001011，110011，010110，101110，100101，111000，011101，000000。求该码的输出矩阵与监督矩阵，并讨论其纠错能力。

6． 设一个（7，4）循环码的生成多项式1)(3xxxg，当接收矢量为)1100100(r时，试问接收是否有错？如果有错，至少有几个错？该码能否纠这些错？并求译码器的码字C。

 答案

 一个（7，1）重复码，求其生成矩阵和监督矩阵以及码的最小距离mind。

1． 对于（7，1）重复码有)0000000(，)1111111(两种形式，可以看出它的生成矩阵是)1111111(G，又由于C1=C0;C2=C0;C3=C0;C4=C0;C5=C0;C6=C0,可知其监督矩阵为(求解方法：先对生成矩

阵转置，然后在其后面加上一单位矩阵即可)

100000101000010010001000100100001010000011H，7)0000000()1111111(mind

2． 一个线性分组码的监督矩阵为101011101011100001101010010100100110H，求其生成矩阵以及码的最小距离mind。

2. 解：

101110101100001110010010101011001001H；

经过基本矩阵变化为100011001010011100001000111000101011，所以01001111000011101011P；010011010110001110110TPQ；010010000110101000011000100001100010101100001G。由生成矩阵可知，最小距离3d。

3.设一个（15，4）循环码的生成多项式1110651)(xxxxxxg。

（1） 求此码的监督多项式h(x)；

（2） 求此码的生成矩阵（非系统码和系统码形式）；

（3） 求此码的监督矩阵。

3．解：

（1） 循环码（15，4）用1110651xxxxx去除151x得

4321)(xxxxxh

（2） a非系统码的生成矩阵；11106512117621312873214139843231)()()()(xxxxxxxxxxxxxxxxxxxxxxxxgxgxxgxxgxG

inr是)(xg除inx所得余式

b系统码生成矩阵：

1065111075212108531310954141)(1)(1)(1)(xxxxxrxxxxxrxxxxxrxxxxxr

（3） 监督矩阵：1111)()()()(5610112571012358101345910141111121213131414xxxxxxxxxxxxxxxxxxxxxrxxrxxrxxrxG

432543265432765438765498765109876111098712111098131211109141312111023456789101)()()()()()()()()()()(xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxhxhxxhxxhxxhxxhxxhxxhxxhxxhxxhxH

4.一个（7，3）线性分组码的生成矩阵为100111001001110011101G

（1） 构造一个等价的系统码生成矩阵；

（2） 求其监督矩阵；

（3） 构造所有可能的伴随式S的表，并求其所对应的最大可能错误图样E

（4） 求mind，并说明它能可靠地纠几个错？

（5） 若信息位)101(U,求对应的码字；

（6） 它与（7，4）汉明码的关系如何？

4．解：

（1） 等价的系统生成矩阵为001110101001111001110G

（2） 监督矩阵0110001110001011101001011000H

假设发送的信号是210aaa，则经编码后输出为6543210ccccccc，其中1062152104203021120aacaacaaacaacacacac

所以：2161052104203ccccccccccccc，也就是00001260152104203ccccccccccccc

（3） 错误图样)(6543210eeeeeeeE

THES对应关系如下：SE

)1110()1000000()0111()0100000()1101()0010000()1000()0001000()0100()0000100()0010()0000010()0001()0000001()0000()0000000(

（4）437minknd

1)2/)1int((mindr

 可靠的纠正1个误码。

（5）)101(V对应码字为(1010011)UG

(6) 该码是（7，4）汉明码的对偶码

5.已知一个（6，3）线性分组码的全部码字为001011，110011，010110，101110，100101，111000，011101，000000。求该码的输出矩阵与监督矩阵，并讨论其纠错能力。

5．解：

任意选取3个线性关系的码字作为生成矩阵，其生成矩阵为：

100101010110001011G

其监督矩阵为：

110100011010101001H

因为633211nkrr，即能纠一位错误。

6.设一个（7，4）循环码的生成多项式1)(3xxxg，当接收矢量为)1100100(r时，试问接收是否有错？如果有错，至少有几个错？该码能否纠这些错？并求译码器的码字C。

6．解：

接收是由错误的。

24311mod(1)xxxxx

错误至少有一位。该码能纠正这个错误。

因为6231mod(1)xxxx，所以译码器的输出为1100101。

合集下载

信息论编码与基础课后题(第二章)

信息论编码与基础课后题(第二章)

第二章习题解答

2-1、试问四进制、八进制脉冲所含信息量是二进制脉冲的多少倍？

解：四进制脉冲可以表示4个不同的消息，例如：{0, 1, 2, 3}

八进制脉冲可以表示8个不同的消息，例如：{0, 1, 2, 3, 4, 5, 6, 7}

二进制脉冲可以表示2个不同的消息，例如：{0, 1}

假设每个消息的发出都是等概率的，则：

四进制脉冲的平均信息量symbolbitnXH/ 24loglog)(1

八进制脉冲的平均信息量symbolbitnXH/ 38loglog)(2

二进制脉冲的平均信息量symbolbitnXH/ 12loglog)(0

所以：四进制、八进制脉冲所含信息量分别是二进制脉冲信息量的2倍和3倍。

2、 设某班学生在一次考试中获优（A）、良（B）、中（C）、及格（D）和不及格（E）的人数相等。当教师通知某甲：“你没有不及格”，甲获得了多少比特信息？为确定自己的成绩，甲还需要多少信息？

解：根据题意，“没有不及格”或“pass”的概率为

54511passP

因此当教师通知某甲“没有不及格”后，甲获得信息

在已知“pass”后，成绩为“优”（A），“良”（B），“中”（C）和“及格”（D）

的概率相同：

41score)pass|()pass|()pass|()pass|(DPCPBPAPP

为确定自己的成绩，甲还需信息

bits 241loglogscorescorePI

3、中国国家标准局所规定的二级汉字共6763个。设每字使用的频度相等，求一个汉字所含的信息量。设每个汉字用一个1616的二元点阵显示，试计算显示方阵所能表示的最大信息。显示方阵的利用率是多少？

解：由于每个汉字的使用频度相同，它们有相同的出现概率，即

67631P

因此每个汉字所含的信息量为

bits 7.1267631loglogPI字

信息论基础

信息论基础

未知驱动探索，专注成就专业

1

信息论基础

信息论是一门研究信息传输和处理的科学。它的基础理论主要有以下几个方面：

1. 信息的定义：在信息论中，信息被定义为能够消除不确定性的东西。当我们获得一条消息时，我们之前关于该消息的不确定性会被消除或减少。信息的量可以通过其发生的概率来表示，概率越小，信息量越大。

2. 熵：熵是一个表示不确定性的量。在信息论中，熵被用来衡量一个随机变量的不确定性，即随机变量的平均信息量。熵越大，表示随机变量的不确定性越高。

3. 信息的传输和编码：信息在传输过程中需要进行编码和解码。编码是将消息转换为一种合适的信号形式，使其能够通过传输渠道传输。解码则是将接收到的信号转换回原始消息。 未知驱动探索，专注成就专业

2

4. 信道容量：信道容量是指一个信道能够传输的最大信息量。它与信道的带宽、噪声水平等因素相关。信道容量的计算可以通过香浓定理来进行。

5. 信息压缩：信息压缩是指将信息表示为更为紧凑的形式，以减少存储或传输空间的使用。信息压缩的目标是在保持信息内容的同时，尽可能减少其表示所需的比特数。

信息论还有其他一些重要的概念和理论，如互信息、信道编码定理等，这些都是信息论的基础。信息论的研究不仅在信息科学领域具有重要应用，还在通信、计算机科学、统计学等领域发挥着重要作用。

信息论编码与基础课后题

信息论编码与基础课后题

信息论编

章） 码与基础课后题（第二 作者: 日期: 第二章习题解答

2-1、试问四进制「八进制脉冲所含信息疑是二进制脉冲的多少倍? 解：四进制脉冲可以表示4个不同的消息，例如：{0 1,2,3} 八进制脉冲可以表示8个不同的消息，例如:{0, 1,2, 3,4, 5.6.7) 二进制脉冲可以表示2个不同的消息，例如：{0.1}

假设每个消息的发出都是等概率的，贝q： 四进制脉冲的平均信息量H(XJ = logn = log4 = 2

bi"symbol

八进制脉冲的平均信息量H(X2) = log H = log8 = 3 bit/symbol

二进制脉冲的平均信息量H(Xo)= log n = log 2 = 1 bi" symbol

所以：四进制、八进制脉冲所含信息量分别是二进制脉冲信息量的2倍和3倍。

2、设某班学生在一次考试中获优(A)、良(B)、中(C).及格(D)和不及格(E)的人 数相等。当教师通知某甲：“你没有不及格”，甲获得了多少比特信息？为确左自己的成 绩，甲还需要多少信息？

解：根据题意「没有不及格”或“pass''的概率为

因此当教师通知某甲“没有不及格”后，甲获得信息

'pass =-叱 ^ass

4 在已知Sass"后，成绩为“优"(A),"良“中”

=_log- = 0.322 bits (c)和“及格”(£>)

、 的概率相同：

Pswrc = P(A I pass) = P(B I pass) = P(C I pass) = P{D I pass)=占

为确定自己的成绩，甲还需信息

Acow = _ log 代cow = _ log ； = 2 bits

4

3、中国国家标准局所规定的二级汉字共6763个。设每字使用的频度相等，求一个汉字所含 的信息量。设每个汉字用一个16x16的二元点阵显示，试il•算显示方阵所能表示的最大信 息。显示方阵的利用率是多少？

信息论基础与编码(第五章)

信息论基础与编码(第五章)

. .

1 / 13 5-1 有一信源，它有六种可能的输出，其概率分布如下表所示，表中给出了对应的六种编码12345CCCCC、、、、和6C。

（1） 求这些码中哪些是唯一可译码；

（2） 求哪些是非延长码（即时码）；

（3） 对所有唯一可译码求出其平均码长。

消息 概率

1C 2C 3C 4C 5C 6C

1a 1/2 000 0 0 0 1 01

2a 1/4 001 01 10 10 000 001

3a 1/16 010 011 110 1101 001 100

4a 1/16 011 0111 1110 1100 010 101

5a 1/16 100 01111 11110 1001 110 110

6a 1/16 101 011111 111110 1111 110 111

解：（1）1,2,3,6是唯一可译码；

(2)1,3,6是即时码。

5-2证明若存在一个码长为12,,,qlll的唯一可译码，则一定存在具有相同码长的即时码。

证明：由定理可知若存在一个码长为LqLL,,2,1的唯一可译码，则必定满足kraft不等式qilir11。由定理44可知若码长满足kraft不等式，则一定存在这样码长的即时码。所以若存在码长LqLL,,2,1的唯一可译码，则一定存在具有相同码长P（y=0）的即时码。

5-3设信源126126()sssSpppPs，611iip。将此信源编码成为r元唯一可译变长码（即码符号集12{,,,}rXxxx），其对应的码长为（126,,,lll）=（1，1，2，3，2，3），求r值的最小下限。

解：要将此信源编码成为 r元唯一可译变长码，其码字对应的码长

（l1 ,l2 ,l3, l4,l5, l6）=(1,1,2,3,2,3) 必须满足克拉夫特不等式，即