当前位置：文档之家 › 第6章信道编码技术

第6章信道编码技术

  • 格式：pptx
  • 大小：497.83 KB
  • 文档页数：23

下载文档原格式

  / 23

合集下载

信息论与编码(第三版) 第6章 信道编码理论

信息论与编码(第三版) 第6章 信道编码理论
信号无失真传 输条件：通频 带内系统增益 为常数；相位 为线性(群延时
相等)
❖ 信号差错的指标通常用概率大小表征，符号差错概率 也称为误码元率，是指信号差错的概率；
❖ 误比特率则是表示信息差错概率的一种方法 ；
❖ 对于M进制码元，差图样E为
E (C R)(mod M )
❖ 二进制码而言 E CR
2需要反馈信道， 占用额外频率资源
二、前向纠错方式（FEC）
检测 结果
发送端
信道
接收端
发送
纠错码
接收码字
根据编译 码规则
Y 错误
N
译码 规则 纠错
纠错能力足够好，能够纠 正信道引入的数据错误
输出信息
优点 不足
1.不需要反馈信道，能够实现一对多的同 步广播通信 2.译码实时性好，控制电路比ARQ也简 单 由于假设纠错码的纠错能力足够纠正信息序 列传输中的错误，也就是纠错码与信道的干 扰是相匹配的，所以对信道的适应性较差
❖ 差错图样中的1就是符号差错，同时也是比特差错，而差错 的个数就是汉明距离。
C (1010)
R (0011)
E C R (1001)
一、功能
纠错码的分类
检测码
纠错码
只检测信息传输是否出现错 误，本身没有纠错的能力
不仅能够检测信 息传输中的错误，
并且能够自动纠
循环冗余校验码、 奇偶校验码等
信号传输过程中出现大的 信号波形畸变，导致信号 检错时发生错误，进而出 现 码元错误
叠加强的干扰 或者噪声
信号传输过程 中出现线性或 者非线性失真
线性失真
信号传输过程中不同的频率 分量增益不同，或者由于非
线性相位引起的延时不同

信息论与编码第6

信息论与编码第6

第6章 线性分组码
6.1.2 码的重量和码的距离 在信道编码中，定义码字中非零码元的数目为码字的汉
明（Hamming)重量，简称码重。例如“010”码字的码重为 1，“011”码字的码重为2。把两个码字之间对应码位上具 有不同二元码元的位数定义为两码字的汉明距离，简称码距。 在一种编码中，任意两个许用码字间距离的最小值，即码字 集合中任意两码字间的最小距离，称为这一编码的最小汉明 距离，以dmin表示；在非零码字中，重量最小者称为该码的 最小汉明重量。
已知(n，k，d)线性分组码的最小距离dmin≤n－k＋1。若 系统码的最小距离dmin＝n－k＋1，则称此码为极大最小距离 可分码，简称MDS码。
第6章 线性分组码
6.1.3 码的检错及纠错能力
下面讨论码的检错、纠错能力与最小码距的数量关系。
在一般情况下，对于分组码有以下结论：
(1)若一个码组内能检测e
第6章 线性分组码
【例6－2】 已知GF(2)中码组C= ｛0000,1010,0101,1111｝是一个分组长度n=4的线性分组码。 观察码字之间所有十种可能的和：
0000+0000=0000,0000+1010=1010,0000+0101=0101, 0000+1111=1111,1010+1010=0000,1010+0101=1111, 1010+1111=0101,0101+0101=0000,0101+1111=1010, 1111+1111=0000 它们都在C中，全零码字也在C中。该码组的最小距离为 dmin=2。为了验证这个线性码的最小距离，可计算所有码字 对（共6对）之间的距离:
第6章 线性分组码

信息论与编码第6章

信息论与编码第6章

当校验位数增长时， 能够检测到差错图案 种类数也增长，同步 码率减小。
s 1
t 1
ps,t mi,t ms, j
i0
j0
mod 2
27
(3) 反复消息位措施
• n反复码：码率为 1/n，仅有两个码字 C0和 C1，传送1比特(k=1)
消息；
• C0=(00…0)，C1=(11…1)
• n反复码能够检测出任意不大于 n/2 个差错旳错误图案 – BSC信道：pb≤1/2，n比特传播中发生差错数目越少，概率越 大 (1－pb)n> pb(1－pb)n －1>… > pbt(1－pb)n －t>… > pbn – 总以为发生差错旳图案是差错数目较少旳图案，当接受到反
– 是指信号差错概率 • 比特差错率 /比特误码率：
– 在传播旳比特总数中发生差错旳比特数所占百分 比
– 是指信息差错概率
• 对二进制传播系统,符号差错等效于比特差错;对多进 制系统,一种符号差错相应多少比特差错却难以拟定 5
差错率
• 根据不同旳应用场合对差错率有不同旳要求: – 在电报传送时,允许旳比特差错率约为: 10－4～10－5； – 计算机数据传播,一般要求比特差错率不大于: 10－8～10－9； – 在遥控指令和武器系统旳指令系统中,要求有 更小旳误比特率或码组差错率
信 源
信 源 编 码
m
信 道
编
码
C调 制 器
传 输 媒 介
解 调 器
R
信 道
译
码
m'
信 源
译
码
信 宿
图6.1.2 有信道编码的数字通信系统框图
31
• 最大后验概率译码准则

信道编码_第6章

信道编码_第6章

奇偶校验比特更新方案1： 按照与奇偶校验比特节点连线数目从小到大的顺序， 依次处理各个约束节点。 当检测到约束关系满足时，称与当前约束节点相连 的其中任意一个校验比特节点值为“临时正确”。 当检测到约束关系不满足时，按照“临时正确”校 验比特节点值不反转的原则，反转与当前约束节点 相连的其中任意一个校验比特节点的值，并将该校 验比特节点的值记为“临时正确”。 若一个约束关系不满足，且与当前约束节点相连的 校验比特节点值都是“临时正确”值，则必须任选 一个校验比特节点并反转该节点值。
这是复杂性和通信可靠性两者之间的一个权衡，即 在保证可靠性的基础上适当增加复杂性。 与Turbo相比，LDPC的简化译码算法和并行解码并 不会让系统过于复杂；
同时，单纯就时延来看，LDPC虽然迭代解码时延略 大，但是本身分集特性减少了交织的过程，整体和 Turbo相当。
4、LDPC码的分类
根据校验矩阵中各行各列的“1”的个数是否相等分为规 则（Regular）码和不规则（Irregular）码。根据LDPC码 的值域划分为二进制LDPC码和多进制LDPC码。 这样LDPC码分为规则二进制LDPC码、不规则二进制 LDPC码、规则多进制LDPC码、不规则多进制LDPC码 四种。 通常情况多进制码的性能优于二进制码；同一域的 LDPC码，不规则码性能优于规则码。但复杂度正好相 反，规则二进制码最简单，多进制不规则码最为复杂。 实际应用时根据需要，在系统性能和实现复杂度两者之 间权衡。
2 排序 c1(p1, p5 2) , c5(p1, p2, p3 3), c6(p3, p4, p5 3), c4(p2, p3, p4, p6 4), c3(p1, p2, p4, p5, p6 5) 3 按已有的初值和排序赋其他初值，可以有多种情 况，如一种为： p1=c1, p2=c5, p3=c6, p4=c4, p5=c3 还可以为： p5=c1, p1=c5, p3=c6, p2=c4, p4=c3 等。

信息论-第6章无失真信源编码

信息论-第6章无失真信源编码

16
6.1 单义可译码
码奇异性： ⒋ 码奇异性：
非奇异码：代码组C中所有码字都不相同。 非奇异码：代码组 中所有码字都不相同。 中所有码字都不相同 奇异码： 代码组 中有相同的码字。 奇异码： 代码组C中有相同的码字 中有相同的码字。
17
6.1 单义可译码
5. 单义可译性： 单义可译性： 任意有限长的码元序列， 任意有限长的码元序列，只能被唯一地分割 成一个个的码字，便称为唯一 单义 单义)可译码 成一个个的码字，便称为唯一(单义 可译码
5
信源编码
信源
编码器
信道
Байду номын сангаас
码表
图6-1 信源编码器示意图
6
信源编码
信源编码是指信源输出符号经信源编码器 信源编码是指信源输出符号经信源编码器 编码后转换成另外的压缩符号 无失真信源编码：可精确无失真地复制信 无失真信源编码： 源输出地消息
7
信源编码
将信源消息分成若干组，即符号序列 将信源消息分成若干组，即符号序列xi， xi＝(xi1xi2…xil…xiL)， ， xil∈A={a1，a2，…，ai，…，an} ， ， 每个符号序列x 依照固定码表映射成一个码字y 每个符号序列 i依照固定码表映射成一个码字 i， yi＝(yi1yi2…yil…yiL)， )， yil∈B={b1，b2，…，bi，…，bm} ， ， 这样的码称为分组码 有时也叫块码。只有分组码才有对 分组码， 这样的码称为分组码，有时也叫块码。只有分组码才有对 应的码表，而非分组码中则不存在码表。 应的码表，而非分组码中则不存在码表。
i
X=(x1,x2…xr)，由r个符号组成 ， 个符号组成
的集合称为代码组 码字W 码字 i =(xi1xi2…xil )的集合称为代码组 的集合称为代码组C

信息论与编码第6章(2)

信息论与编码第6章(2)

17
第6章 信道编码
已知(7,3)线性分组码的生成矩阵为 1 0 0 1 1 1 0 G 0 1 0 0 1 1 1 0 0 1 1 1 0 1 如果信息位为m [m0 , m1 , m2 ]，则有 1 0 0 1 1 1 0 C [c6 , c5 , c4 , c3 , c2 , c1 , c0 ] [m0 , m1 , m2 ] 0 1 0 0 1 1 1 0 0 1 1 1 0 1 c6 m0，c5 m1，c4 m2，c3 m0 m2， c2 m0 m1 m2 , c1 m0 m1，c0 m1 m2
2010/12/19
g ( k 1)0 ....... g10 g 00
9
第6章 信道编码
生成矩阵
码空间中任何一个码字都可以写成基底的线性组合，即：
C [cn 1 , cn 2 ,....., c1 , c0 ] mk 1g k 1 mk 2 g k 2 ...... m1g1 m0 g 0 mG
• 当信息元确定后，码字仅由G矩阵决定，因此我们称这 k×n 矩阵G为该(n,k)线性分组码的生成矩阵。 • 如果已知线性分组码的生成矩阵，则任何一个k位信息 组对应的码字都可以由mG运算得到。
2010/12/19
10
第6章 信道编码
生成矩阵G(k×n)的特点
• 想要保证 (n,k)线性分组码能够构成k维n重子空间，G 的k个行 矢量gk-1,…, g1, g0必须是线性无关的，只有这样才符合作为基底 的条件。
c1c0可与n维矢量空间中的一个点对应全体码字所对应的点构成矢量空间里的一个子集发码一定在这个子集里传输无误时的收码也一定位于该子集对应到该子集却对应到该子集的另一点上633mdc36dmin3c1c2c3c4c5码集各码字间的距离是不同的码距最小者决定码的特性称之为最小距离dmin这里dmin3纠错能力是1检错能力是237dmincicic及ci定理61任何最小距离dmin的线性分组码其检错能力为dmin1纠错能力t为最小距离dmin表明码集中各码字差异的程度差异越大越容易区分抗干扰能力就越强是衡量分组码性能的最重要的指标之一

语音编码和信道编码

语音编码和信道编码

动
度为 P(W/Hz)，其信道容量可由下面的
通 信
香农公式给出：
原
理
C = B l o g 2 1 N P 0 B B l o g 2 1 N S （ 5 - 1 ）
动 通
对有些应用带来困难（例如对实时语
信 音），但它是目前已知的可实现的最好
原 的编码技术之一。
理
7
第6章 语音编码和信道编码技术
• 6.1 语 音 编 码
移 动
• 6.2 信 道 编 码
通
信
原
理
8
1、 概述
• 语音编码技术通常分为三类
移
– 波形编码（如PCM）
动
– 声源编码（或参量编码）
通 信
编码器类型
比特率/（kbit/s）
复杂度MIPS
时延/ms
质量
脉冲调制
64
自适应差分脉码调制
32
自适应子频段编码
16
多脉冲线性预测编码
8
随机激励线性预测编码
4
线性预测编码的声码
2
0.01 0.1 1 10 100 1
0
高级
0
高级
25
高级
35
通信级
35
通信级
35
合成级
16
5、数字基带信号常用码型
• 矩形脉冲信号所占频带通常从直流和低频
理
对语音进行编码
– 发声时全速率9.6kbit/s编码
– 不发声时为全速率的1/8速率（1.2kbit/s）编码
– 其余就是发声和不发声的过度速率，即全速率的1/2 和1/4速率
33
IS-95系统语音编码器
• QCELP方案即码激励线性预测的可变速

第6章 信道编码与交织技术

第6章 信道编码与交织技术
两个等长码组之间相应位取值不同的数目称为这两个码 组的汉明(Hamming)距离， 简称码距。例如 11000 与 10011 之间的距离d=3。码组集中任意两个码字之间距离的最小值 称为码的最小距离，用d０表示。最小码距是码的一个重要 参数， 它是衡量码检错、纠错能力的依据。
第6章 信道编码与交织技术
第6章 信道编码与交织技术
通过将模拟信号转换成数字信号的编码过程, 通信系统能够获得 如下的益处, 这也是数字通信替代模拟通信的主要原因:
(1) 抗干扰能力增强。 (2) 传输距离可以无限延长。 (3) 可以实现各种通信业务的综合传送。 (4) 便于通信和计算机的融合。 (5) 便于实现保密通信。 (6) 便于实现计算机管理;
(5) 按照码字中每个码元的取值可分为二进制码和多进制码。 二进制码的码元有0和1两个取值, M进制码的码元有M个取值。 二进制码是应用最广泛的编码制式。
第6章 信道编码与交织技术
根据发送端信道编码的特性, 接收端在解码后采取的差错控 制方式有:
·前向纠错(FEC)。发送端的信道编码器将信息码组编成具 有一定纠错能力的码。接收端信道译码器对接收码字进行译码, 若传输中产生的差错数目在码的纠错能力之内时, 译码器对差错 进行定位并加以纠正。
·自动请求重发(ARQ)。用于检测的纠错码在译码器输出端 只给出当前码字传输是否可能出错的指示, 当有错时按某种协议 通过一个反向信道请求发送端重传已发送码字的全部或部分。
第6章 信道编码与交织技术
· 混合纠错(HEC)是FEC与ARQ方式的结合。发端发送同 时具有自动纠错和检测能力的码组, 收端收到码组后, 检查差错 情况, 如果差错在码的纠错能力以内, 则自动进行纠正。如果信 道干扰很严重, 错误很多, 超过了码的纠错能力, 但能检测出来, 则经反馈信道请求发端重发这组数据。

信息论与编码第六章课后习题答案(曹雪虹)(word文档良心出品)

信息论与编码第六章课后习题答案(曹雪虹)(word文档良心出品)

第六章：信道编码(本章复习大纲我重新修改了一下，尤其要关注红色内容)1、基本概念：差错符号、差错比特；差错图样：随机差错、突发差错；纠错码分类：检错和纠错码、分组码和卷积码、线性码与非线性码、纠随机差错码和纠突发差错码；矢量空间、码空间及其对偶空间； 有扰离散信道的编码定理：-()NE R e P e （掌握信道编码定理的内容及减小差错概率的方法）；线形分组码的扩展与缩短（掌握奇偶校验码及缩短码的校验矩阵、生成矩阵与原线形分组码的关系）。

2、线性分组码(封闭性)：生成矩阵及校验矩阵、系统形式的G 和H 、伴随式与标准阵列译码表、码距与纠错能力、完备码(汉明码)、循环码的生成多项式及校验多项式、系统形式的循环码。

作业：6-1、6-3、6-4、6-5和6-6选一、6-7 6-8和6-9选一 6-1 二元域上4维4重失量空间的元素个数总共有24=16个，它们分别是(0,0,0,0),(0,0,0,1)…(1,1,1,1)，它的一个自然基底是(0,0,0,1),(0,0,1,0),(0,1,0,0)和(1,0,0,0)；其中一个二维子空间含有的元素个数为22个，选取其中一个自然基底为(0,0,0,1)和(0,0,1,0)，则其二维子空间中所包含的全部矢量为(0,0,0,0,),(0,0,0,1),(0,0,1,0)和(0,0,1,1)(注选择不唯一)；上述子空间对应的对偶子空间可以有三种不同的选择：(0,0,0,0) ,(0,1,0,0),(1,0,0,0)，(1,1,0,0)或(0,0,0,0) ,(0,1,0,0)或(0,0,0,0) (1,0,0,0)。

(注意本题中所包含的关于矢量空间的一些基本概念)6-3 由题设可以写出该系统(8,4)码的线形方程组如下：736251403320231012100321v u v u v u v u v u u u v u u u v u u u v u u u=⎧⎪=⎪⎪=⎪=⎪⎨=++⎪⎪=++⎪=++⎪⎪=++⎩(注：系统码高四位与信息位保持一致，u i 为信息位) 把上述方程组写成矩阵形式，可以表示为 V =U G ，其中V 为码字构成的矢量，即V =(v 7,v 6,v 5,v 4,v 3,v 2,v 1,v 0)，U 为信息位构成的矢量，即U =( u 3,u 2,u 1,u 0)，观察方程组可得系统生成矩阵为：[]44*41000110101001011G I |P 0010011100011110⎡⎤⎢⎥⎢⎥==⎢⎥⎢⎥⎣⎦由系统生成矩阵和校验矩阵的关系可得：4*441101100010110100H P |I 0111001011100001T ⎡⎤⎢⎥⎢⎥⎡⎤==⎣⎦⎢⎥⎢⎥⎣⎦由校验矩阵可以看出，矩阵H 的任意三列都是线性无关的(任意三列之和不为0)，但存在四列线性相关的情况(如第1、5、6、8列，这四列之和为0)，即校验矩阵H 中最小的线性相关的列数为4，从而得该线性分组码的最小码距为4。

信息论与编码理论基础(第六章)

信息论与编码理论基础(第六章)
进 行编码再送入信道传送，以降低平均差 错率而进行的编码称为信道编码。

信道编码主要分为：检验码、纠错码。

检验码只检查信息在传输过程中是否有差错， 而纠错码不但检查是否有差错，而且还可以 将错误的信息纠正。
3
2013-7-15
为什么要引入线性码

信道编码研究的主要问题是：发现或构造实际 上可实现的好码（纠错能力和传信率都比较理 想的码）。
注3：有限域GF(D)与实数域的区别是：传统的“逼 近”、“极限”的概念消失了。
2013-7-15 13
预备知识 -- Galois域
例：GF(2)上的方阵 1 0 1 是否可逆？
1 0 1 1 0 0
回答是肯定的。两种不同的判别方法都能够证明它是可逆的 ： （1）它经过可逆行变换能够变成单位阵； （2）它的行列式不等于0。（等于1！）
信道编码的引入

信息传输系统的基本功能是：在系统输 出端及时、准确地再现系统输入端发送 的信息。
我们希望信息传输多快好省，但现实与 我们的良好愿望之间总是存在差距。



首先，信息传输的速度受信道容量的限制， 不可能无限大； 其次，由于信道噪声的干扰，传输错误不可 避免。
1
2013-7-15
信道编码的引入
编码方案太多，以至全局搜索好码是不可能的，现 实的做法是对编码方案加以一定的约束，在一个子集中 寻找局部最优，这种约束既要能包含尽可能好的码，又 要便于分析，便于译码，目前对线性系统的研究远比非 线性系统充分
2013-7-15 4
线性分组码定义
n长向量 k长信息分组 。。。。。 n长码字 。。。。。

香农的信道编码定理指出：只要信息传输速 率低于信道容量，通过对信息进行适当的编 码，可以在不牺牲信息传输或存储速率的情 况下，将有噪信道或存储媒质引入的差错降 到任意低的程度。 这就是说，可以通过编码使通信过程实际上 不发生错误，或者使错误控制在允许的数值 之下。

第六章信道编码

第六章信道编码

2 0010 1
10 1 0 1 0 0
3 0011 0
11 1 0 1 1 1
4 0100 1
12 1 1 0 0 0
5 0101 0
13 1 1 0 1 1
6 0110 0
14 1 1 1 0 1
7 0111 1
15 1 1 1 1 0
本次您浏览到是第十四页，共一百零八页。
a4 a3 a2 a1
本书讨论的信道编码主要指纠错编码，而衡量纠错编 码性能的指标主要是误比特率的改善程度。
本次您浏览到是第三页，共一百零八页。
二、检错和纠错（差错控制）的基本原理：
举例说明： A、B两消息，可用一位二进制数表示，A=1、B=0
出错时无法判定 。
增加一个监督位，取11→A、00→B,若收到01或10时，
最小距离与检错和纠错能力之间满足如下关系：
1) 设码组能检错个数为e，则有
d0e1
2) 设码组能纠错个数为t，则有
d02t 1
3) 若码组能检错个数为e，又能纠错t个，则有 d0et1(et)
对任何纠错编码都适用。
本次您浏览到是第十一页，共一百零八页。
三、编码效率
对于分组码（n,k），编码效率定义为信息位在码字中所
（1）
线性码，非线性码
（2） 根据监督码元是否仅与本组信息元有关 分组码，卷积码
（3）
根据纠错码组中信息元是否隐蔽分：
系统码，非系统码
（4）
根据码的用途分：
检错码 ，纠错码
（5） 根据码元的取值：
二进制码，多进制码
（6） 根据构造编码的数学方法：
代数，几何码，算术码
本次您浏览到是第七页，共一百零八页。

6.1 信道编码的概念

6.1 信道编码的概念

•
若接译收到码符规号则y为j时，F (一y 定j ) 译= 成xi ,
i = 1,2,
பைடு நூலகம்xi。
, r; j = 1,2,
, s ，则信道输出端
• 如果发送端发的就是xi，这就是正确译码，因此条件正确概率为
p(F ( y j ) | y j ) = p(xi | y j )
• 反之，如果发送端发的是 xk , k ≠ i ，则是错误译码，因此条件错误概
解：由
P(xi
y
j
)
=
P(xi
)P( y
j
/
xi
)
得联合概率矩阵
⎢ ⎢ ⎢
6 2
15 4
30
⎥ ⎥
4⎥
⎢⎣15 15 15⎥⎦
∑ 由 P( y j )
=
n i =1
P(xi y j ) 得 P( y1)
=
9 30
,
P(
y2
)
=
6 15
,
P
(
y3
)
=
9 30
17
最大后验概率准则-例题（续）
由
P(xi
• 由于信源编码在构造上并未考虑抗干扰，如果把信源编码器的输出直 接接入信道，由于信道中存在噪声干扰，将引起误码，降低通信可靠 性。
• 因此提出了以提高通信可靠性为主要目的的信道编码，它是对信源编 码器输出的最佳码再进行一次编码，以提高其抗干扰能力的一种编码 形式。
• 信道编码研究消息通过信道传输时如何选择编码方案以减少差错。
1/ 2
1/
3
⎥ ⎥
，设计如下两种
⎢⎣1/ 3 1/ 6 1/ 2 ⎥⎦
译码规则：

信息论基础理论和应用第三版傅祖芸-讲义

信息论基础理论和应用第三版傅祖芸-讲义
001 010 011 100 101 110
用作消息旳码字（ 许用码字） 000 （表达0）
二元对称信 道旳三次扩
展信道
111 （表达1）
输出端 接受序列
000 001 010 011 100 101 110 111
则信道矩阵为：
根据最大似然译码准则，当p=0.01，可得译码函数为：
F(000)=000 F(100)=000
一般信道传播时都会产生错误，而选择译码准 则并不会消除错误，那么怎样降低错误概率呢？下边讨 论经过编码措施来降低错误概率。
例：对于如下二元对称信道
0
0.99
0
0.01
0.01
1
1
0.99
按照最大似然准则译码，
怎样提升信道传播旳正确率呢？可用反复消息旳措施，即尝试 扩展信道旳措施。
未用旳码字 （禁用码字）
第二种措施旳错误率为
比较可知，第一种措施好。仔细观察发觉： 在第一种措施中，假如 000 有一位犯错，就能够鉴定犯错 了； 而在第二种措施中，假如000中任何一位犯错，就变成了其 他旳正当旳码字，我们无法判断是否犯错。 再仔细观察，发觉第二种措施中，码字之间太相同。
码字距离： 长度为n旳两个码字相应位置上不同码元旳个数。一
详细计算如下：
即：
假如先验概率相等，则：
某个输入符号ai传播引起旳 错误概率
例：某信道
1）若根据最大似然准则选择译码函数为B： 若输入等概率，则平均错误概率为
若输入不等概分布 ，则错误概率为：
2）采用最小错误概率译码准则，则联合矩阵为：
所得译码函数为：C： 平均错误概率：
6.2 错误概率与编码措施
0
1/3
2/3

信息论与编码第6章信道编码

信息论与编码第6章信道编码

素(既约)多项式
若 p( x) f ( x), deg( p( x)) 1且p( x)在F[ x] 中只有因式 c和cp( x) 则称 p( x) 为域F上的不可约多项式。
的集合
余类环
多项式剩余类环 n n1 f ( x) an x an1x ... a1x a ai Fq 用 Fq [ x] 或者 GF (q)[ x] 表示所有这样多项式
纠错码的分类
根据监督码元与信息组之间的关系 系统码 信息码元是否发生变化 非系统码 代数码 几何码 算术码 线性码 非线性码 分组码 卷积码
构造编码的数学方法
根据监督码元和信息码元的关系
根据码的功能
按纠误的类型
检错码 纠错码 纠删码 纠随机差错码 纠突发差错码 纠混合差错码 二元码 多元码 等保护纠错码 不等保护纠错码
3 3 2 2 3 2 3 2
x x , x x, x x 1, x 1, x ,
3 3 3 3
x x 1, x x, x 1, x , x 1, x,1, 0
2 2 2 2
4．有限域的性质和代数结构
1）有限域 Fq 的结构 对 a Fq , a 0, 满足 na 0, 的最小正整 数 n ，称为元素 a 的周期。 定理6-6：在有限域 Fq中 (1) ( Fq , ) 是循环加群，它的非零元素的周期等于其 域的特征； (2) ( Fq* , ) 是循环乘群，共有 (q 1) 个乘群的生成 元。 a 乘群 ( Fq* , ) 的生成元 a 称有限域 Fq 的本原元， 的阶为 q 1 ，即 a q 1 e ，且 F * a
q
本原元性质定理6-7
* F (1) q
的元素的阶都是 q 1 的因子， Fq* 的所 q 1 x e 0 的根。 有元恰是 (2) 若 a 是 Fq 的本原元，则当且仅当(k , q 1) 1 k k a 时， 也是本原元。非本原元 a 的阶是

第6章 信道编码(3)

第6章 信道编码(3)

所有非零码字重量都是2m－１ ，称为最大长度码、
等距码或单型码。
例１. (7,4)汉明码，其系统码
1 0 0 0 1 0 1 G 0 1 0 0 1 1 1
0 0 1 0 1 1 0 0 0 0 1 0 1 1
1 1 1 0 1 0 0 H 0 1 1 1 0 1 0
1 1 0 1 0 0 1
的倍式。 若 h(x) ≠f (x)g(x) , 则有如下欧几里德除法原理成立，
存在商式q (x) 和余式r(x)使 0 or(x) o f (x) h(x) ＝ q(x) f (x)+r(x) ,
称h(x)与r(x)模f (x)相等，r(x)称为h(x)模f (x)的余式。 h(x) ＝ r(x) mod f (x)
g1 g2
G2
g1
g3
,
g2 g3
G3 g1 g2 g3
本次课内容： ➢设计和构造编码方法：修正法。 ➢循环码
✓循环码的多项式描述 ✓循环码的生成矩阵
设计和构造编码方法：修正法。 ① 扩展。 ② 打孔（删余）。 ③ 增广。 ④ 删信。 ⑤ 延长。 ⑥ 缩短。 ⑦ 乘积。 ⑧ 级联。 ⑨ 交织。
定理2： g(x) 是(n , k)循环码的生成多项式，当且仅
当g(x) 是 xn 1的r = n － k 次因式。
证明：必要性证明。 g(x) 是(n , k)循环码的生成多项式，
则由欧几里德除法原理有
xk g(x) 1(xn 1) r(x) or(x) n
(5)
则 r(x) xk g(x) mod xn 1
, ,
an2 ) an1, a0
,
a1
,aaL1980
aa1910

2015秋.信息论.第6章有噪信道编码

2015秋.信息论.第6章有噪信道编码

一般信道总会存在噪声和干扰, 那么在有噪信道中进行无错传输可以达到的最大信息传输率是多少呢？这就是本章所要讨论的问题.第六章有噪信道编码第6.1节错误概率与译码规则有噪信道传输消息是会发生错误的. 为了减少错误, 提高通信可靠性, 就必须1) 分析错误概率与哪些因素有关？2) 有没有办法控制, 如何控制？3) 能控制到什么程度？错误概率与信道的统计特性有关, 但并不是唯一相关的因素, 译码方法的选择也会影响错误率。

➢信道统计特性信道统计特性用信道传递矩阵来描述, 该矩阵确定了哪些是正确传递概率, 哪些是错误传递概率.➢译码规则通信过程并非到信道输出端就结束, 还要经过译码过程(或判决过程)才到达消息的终端(收信者).例: 有一个BSC 信道, 如图01011/31/32/32/3若收到“0”译作“0”, 收到“1”译作“1”, 则平均错误概率为:2(0)(1|0)(1)(0|1)3E P p p p p =+=若收到“0”译作“1”, 收到“1”译作“0”, 则错误概率与译码准则有关.1(0)(0|0)(1)(1|1)3E P p p p p =+=译码规则输入符号集: A={a i}, i=1,2,…,r;输出符号集: B={b j}, j=1,2,…,s;设计函数F(b j), 它对每个输出符号b j确定一个唯一的输入符号a i与其对应(单值函数)。

这样的函数称为译码规则，即F(b j)=a i由于任何输出符号b j 都可以译成任何输入符号a i , 所以有r s 种译码规则。

译码规则的选择依据: 使平均错误概率最小。

译码准则可以为: A: 和B:112233()()()F b a F b a F b a ===112332()()()F b a F b a F b a ===0.50.30.20.20.30.5?()0.30.30.4j iP F b a ⎡⎤⎢⎥==⎢⎥⎢⎥⎣⎦例:有了译码规则F(b j )=a i 以后,条件正确概率:p[F(b j )|b j ]=p(a i |b j )条件错误概率:p(e|b j )=1-p(a i |b j )=1-p[F(b j )|b j ]平均错误译码概率:11()(|)()[1(|)]s sE j j j i j j j P p b P e b p b P a b ====-∑∑最小错误概率准则问题: 如何选择p(a i|b j)而使p(e|b j)最小？应选择p[F(b j)|b j]为最大。

信道编码10-15上课

信道编码10-15上课

信 信 信
信信
信 源 道调 信 解道 源 信
源 编 编制 道 调译 译 宿
码码
发送端
干扰
码码
接收端
在实际信道上传输信号时，由于信道传输特性不
理想及噪声的影响，接收端收到的信号不可避免
地会发生错误
2019/9/14
6
6.1 用于可靠传输和存储数据的编码 ——信道编码的引入
随着差错控制编码理论的完善和数字电路技术的 发展，信道编码不仅应用于各种通信系统中，在 计算机存储、运算系统以及超大规模集成电路的 设计中也得到日益广泛的应用。
系统码、非系统码
按纠正错误的类型：
纠正随机错误的码、纠正突发错误的码
按每个码元取值：
二进制码、多进制码
2019/9/14
29
6.5 信道编码定理
香农信道编码定理 性能指标 分组码及相关基本概念
2019/9/14
31
6.5 信道编码定理
香农信道编码定理
对于一个给定的有扰信道，若信道的容量
卷积码(Convolutional Code)：编码器给每k0 位信息加上r0位监督元得到长度为n0的码字。 该码字的运算，不仅与本组k0位信息有关，还 与其前面m组k0位信息有关。称这种码为（n0， k0，m）卷积码。
2019/9/14
28
6.4 信道编码的分类
按信息码元在编码后是否保持原来的形式：
3
6.1 用于可靠传输和存储数据的编码
信道编码的引入 信道编码的基本思想 编码系统模型
2019/9/14
4
6.1 用于可靠传输和存储数据的编码 ——信道编码的引入
移动通信
通信网
小张
2019/9/14
  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第6章 信道编码技术
6.3.3 几种典型的线性分组码
6.4 循环码
6.4.1 循环码的定义与性质 6.4.2 循环码的生成多项式 6.4.3 循环码的编码原理 6.4.4 循环码的译码
本章小结
第6章 信道编码技术
本章要点
• 信道编码的基本概念 • 线ห้องสมุดไป่ตู้分组码的基本概念 • 线性分组码生成矩阵和监督矩阵的求解 • 循环码的生成多项式
6.2.6 群计数码
监督码元
表6-2 水平垂直奇偶监督码
信息码元
监督码元
100100
0
100110
1
010011
1
001010
0
101010
1
111001
0
011011
0
010011
1
群计数码是将信息码元经分组之后，计算出每个信息码组中“1”的数目，然后 将这个数目用二进制表示，并作为监督码元附加在信息码元的后面一起传输。例 如：1101011共有5个“1”，用二进制101表示十进制的5，故传输码组变为1101011 101。
表6-1 水平奇偶监督码
信息码元
100100 100110 010011 001010 101010 111001 011011
监督码元
0 1 1 0 1 0 0
第6章 信道编码技术
6.2.5 水平垂直奇偶监督码
水平垂直奇偶监督码又是在水平奇 偶监督码的基础上的一种改进形式， 它不仅对每一行进行奇偶校验，同 时对每一列也进行奇偶校验。如表62所示例子，采用的是偶校验。
1. 为检测e个错码，最小距离应满足 dmin e 1 ，其纠错能力如图6-2所示；
2. 为纠正t个错误，最小距离应满足 dmin 2t 1，其纠错能力如图6-3所示； 3. 为纠正t个错误，同时又能够检测e个错误，最小码距应满足 dmin t e 1,(e t)
4. 为纠正t个错误和 个删除，则要求最小码距应满足 dmin 2t 1
对于线性分组码还存在以下一些性质： 1) 码字集中码元之间的任意线性组合仍是合法码字，即码字集对线性组合运算 具有封闭性。 2) 对于（n,k）线性分组码其最小码距dmin与其纠错能力有关，若能纠错位数为t 即 dmin 2t 1 。
第6章 信道编码技术
6.3.2 生成矩阵G和监督矩阵H
由线性分组码的定义可知，不同的线性分组码对应着不同的线性方程组，也就是 说对于每一线性分组码将有唯一的生成矩阵和监督矩阵。
第6章 信道编码技术
6.2 几种简单的差错控制编码
6.2.1 码长、码重与码距
在分组码中，我们把一个码字的位数称为码长，其中的“1”的个数称为码字的重 量（简称码重），一般用W表示，如码字100101，码长为6，码重W=3。
两个等长码字之间对应码位上具有不同的二进制码元的个数，称为这两个码字的
汉明(Hamming)距离，简称码距，用d表示。例如：码字10010101和码字10111101，
2. 按照对信息源输出的信号序列处理方式不同，可分为： 分组码、卷积码。
3. 按照检验码元与信息码元之间的关系，可分为： 线性码、非线性码。
4. 按照纠正错误的类型不同，可以分为： 纠正随机错误的码、纠正突发错误的码。
5. 按照构成差错控制编码的数学方法，可以分为： 代数码、几何码、算术码。
6. 按照每个码元的取值不同，可以分为： 二进制码、多进制码。
6.2.4 水平奇偶监督码
水平奇偶监督码是奇偶监督码的一种改进形 式，该编码方式是将信息按奇(偶)监督规则进行 编码，然后将信息以每个码组一行排成一个阵 列，在发送端按列的顺序进行。在接收端也以 列的顺序排成方阵，然后进行奇(偶)校验，所以 称之为水平奇偶校验。如表6-1所示例子，采用 的是偶校验。
本章难点
• 循环码的编译码原理
第6章 信道编码技术
6.1 信道编码
6.1.1 差错控制编码的基本概念
为提高整个系统的抗干扰能力，一般需要在载波调制之前对数字基带信号进行信 道编码，信道编码也称为差错控制编码或纠错编码。
所谓差错控制编码就是指用编码和译码的方法去控制数字通信系统的信息比特差 错概率的大小，以便达到设计指标。它是提高数字信息传输可靠性的有效方法之一。
6.1.2 差错控制方式
对于不同类型的信道，应采用不同的差错控制技术。常用的差错控制技术主要有以 下三种：
1. 前向纠错法(FEC) 2. 自动反馈重发纠错ARQ(Automatic Repeat Qequest) 3. 反馈校验法(IF)
第6章 信道编码技术
6.1.3 差错控制编码的分类
1. 按照差错控制编码的不同功能，可以将其分为： 检错码、纠错码、纠删码。
第6章 信道编码技术
6.3 线性分组码
6.3.1 线性分组码的定义与性质
通过预定的线性运算将长为k位的信息码组变换成n(n>k)重的码字，这样形成的码 为分组码。
编码效率或编码速率也简称码率。它说明了信道利用效率，所以也叫做传信率。R 越大，码的效率越高或传信率越高，R是衡量码性能的一个重要参数。
其码距为d=2。
y
6.2.2 纠/检错能力与最小码距的关系
010
110
在编码的码组集合中，任何两个可用码组之间距
离的最小值称为最小码距，用dmin表示。为说明最 小码距见图6-1。
011 000
111 100
x
001
101
z
图6-1 码距的几何解释
第6章 信道编码技术
最小码距是信道编码的一个重要参数，它直接与编码的检错和纠错能力相关。一般 情况下，对于分组码存在以下结论：
例6-1 设n=7，k=4，码字按下面线性关系进行编码：
c1 m1 c2 m2 c3 m3 c4 m4 c5 m1 m3 m4 c6 m1 m2 m3 c7 m2 m3 m4
第6章 信道编码技术
解：将其写成矩阵形式为：
1 0 0 0 1 1 0
c1, c2 , c3 , c4 , c5 , c6 , c7 m1
c1
c1'
c2
e 1
图6-2 纠错码纠错能力的图示
c1'
c1 t
c2'
c2 t
2t 1
图6-3 纠错码纠错能力的图示
第6章 信道编码技术
6.2.3 奇偶监督码
奇偶监督码(奇偶校验码)是只有一个监督元的(n，n-1)分组码。它可分为偶数监督 码和奇数监督码。两者编码原理相同，编码方法都十分简单，无论信息位有多少， 监督位只有一位。