信息论与编码复习重点整理(1页版)

信息论与编码知识点总结信息论与编码随着计算机技术的发展，人类对信息的传输、存储、处理、交换和检索等的研究已经形成一门独立的学科，这门学科叫做信息论与编码。

我们来看一下信息论与编码知识点总结。

二、决定编码方式的三个主要因素1。

信源—信息的源头。

对于任何信息而言，它所包含的信息都是由原始信号的某些特征决定的。

2。

信道—信息的载体。

不同的信息必须有不同的载体。

3。

编码—信息的传递。

为了便于信息在信道中的传输和解码，就需要对信息进行编码。

三、信源编码（上） 1。

模拟信号编码这种编码方式是将信息序列变换为电信号序列的过程，它能以较小的代价完成信息传送的功能。

如录音机，就是一种典型的模拟信号编码。

2。

数字信号编码由0和1表示的数字信号叫做数字信号。

在现实生活中，数字信号处处可见，像电话号码、门牌号码、邮政编码等都是数字信号。

例如电话号码，如果它用“ 11111”作为开头，那么这串数字就叫做“ 11”位的二进制数字信号。

数字信号的基本元素是0和1，它们组成二进制数，其中每一个数码都是由两个或更多的比特构成的。

例如电话号码就是十一位的二进制数。

我们平常使用的编码方法有： A、首部-----表明发送者的一些特征，如发送者的单位、地址、性别、职务等等B、信源-----表明信息要发送的内容C、信道-----信息要通过的媒介D、信宿-----最后表明接受者的一些特征E、加密码----对信息进行加密保护F、均匀量化----对信息进行量化G、单边带----信号只在一边带宽被传输H、调制----将信息调制到信号载波的某一特定频率上I、检错----信息流中若发生差错，则输出重发请求消息，比如表达公式时，可写成“ H=k+m-p+x”其中H=“ X+m-P-k”+“ y+z-p-x”+“ 0-w-k-x”，这样通过不断积累，就会发现：用无限长字符可以表达任意长度的字符串；用不可再分割的字符串表达字符串，且各字符之间没有空格等等，这些都表明用无限长字符串表达字符串具有很大的优越性，它的许多优点是有限长字符串不能取代的。

信息论与编码1.根据信息论的各种编码定理和通信系统指标，编码问题可分解为几类，分别是什么？答：3类，分别是：信源编码，信道编码，和加密编码。

2.对于一个一般的通信系统，试给出其系统模型框图，并结合此图，解释数据处理定理。

答：通信系统模型如下：数据处理定理为：串联信道的输入输出X 、Y 、Z 组成一个马尔可夫链，且有，。

说明经数据处理后，一般只会增加信息的损失。

3.什么是平均自信息量与平均互信息，比较一下这两个概念的异同？答：平均自信息为:表示信源的平均不确定度，也表示平均每个信源消息所提供的信息量。

平均互信息:表示从Y 获得的关于每个X 的平均信息量，也表示发X 前后Y 的平均不确定性减少的量，还表示通信前后整个系统不确定性减少的量。

4.简述最大离散熵定理。

对于一个有m 个符号的离散信源，其最大熵是多少？答：最大离散熵定理为：离散无记忆信源，等概率分布时熵最大。

最大熵值为。

5.熵的性质什么？答：非负性，对称性，确定性，香农辅助定理，最大熵定理。

6.解释信息传输率、信道容量、最佳输入分布的概念，说明平均互信息与信源的概率分布、信道的传递概率间分别是什么关系？答：信息传输率R 指信道中平均每个符号所能传送的信息量。

信道容量是一个信道所能达到的最大信息传输率。

信息传输率达到信道容量时所对应的输入概率分布称为最佳输入概率分布。

平均互信息是信源概率分布的∩型凸函数，是信道传递概率的U 型凸函数。

7.信道疑义度的概念和物理含义？答：概念：)|(log )()|(j i j i jib a p b a p Y XH ∑∑-=物理含义：输出端收到全部输出符号Y 以后，对输入X 尚存在的平均不确定程度。

8.写出香农公式，并说明其物理意义。

当信道带宽为5000Hz ，信噪比为30dB 时求信道容量。

答：香农公式为 ，它是高斯加性白噪声信道在单位时 间内的信道容量，其值取决于信噪比和带宽。

由得，则9.解释无失真变长信源编码定理?答：只要，当N 足够长时，一定存在一种无失真编码。

1、通信系统模型的组成，及各部分的功能。

答：信源，产生消息的源，消息可以是文字，语言，图像。

可以离散，可以连续。

随机发生。

编码器，信源编码器：对信源输出进行变换（消去冗余，压缩），提高信息传输的有效性。

信道编码器：对信源编码输出变换（加入冗余），提高抗干扰能力，提高信息传输的可靠性。

调制器：将信道编码输出变成适合信道传输的方式信道，信号从发端传到收端的介质干扰源，系统各部分引入的干扰，包括衰落，多径，码间干扰，非线性失真，加性噪声译码器，编码器的逆变换信宿，信息的接收者2、消息，信号，信息三者之间的关系答：关系：信息---可以认为是具体的物理信号、数学描述的消息的内涵，即信号具体载荷的内容、消息描述的含义。

信号---则是抽象信息在物理层表达的外延；消息---则是抽象信息在数学层表达的外延。

3、信源的分类答：分类：单消息（符号）信源：离散信源；连续变量信源。

平稳信源。

无/有记忆信源。

马尔可夫信源。

随机波形信源。

离散信源：信源可能输出的消息数是有限的或可数的，而且每次只输出其中一个消息。

可以用一维离散型随机变量X来描述这个信源输出的消息。

这个随机变量X的样本空间就是符号集A；而X的概率分布就是各消息出现的先验概率，信源的概率空间必定是一个完备集。

连续变量信源：数据取值是连续的，但又是随机的。

可用一维的连续型随机变量X来描述这些消息。

这种信源称为连续信源，其数学模型是连续型的概率空间：4、自信息的含义：当事件ai发生以前，表示事件ai发生的不确定性，当事件ai发生以后表示事件ai所含有（所提供）的信息量。

5、互信息含义：信源发送消息ai,而由于干扰，在接收端收到的为消息bj ，此时获得的信息量——互信息，即最初的不确定性减去尚存在的不确定性。

6、离散单符号信源熵的物理含义：熵是随机变量的随机性的描述。

熵是信源输出消息前随机变量平均不确定性的描述。

信源熵H(X)是表示信源输出后每个消息/符号所提供的平均信息量。

信息论是在信息可以度量的基础上，对如何有效、可靠地传递信息进行讲究的科学，它设计信息度量、信息特性、信息传输率、信道容量、干扰对信息传输的影响等方面的知识。

信息是各种事物运动的状态状态变化方式。

信息是抽象的意识，它是看不见摸不到的。

消息是具体的，它载荷信息，但他不是物理性的。

信号是消息的物理体现。

信号是信息的载体在通信系统中，传送的本质内容是信息，发送端需将信息表示称具体的消息，再将消息载至信号上，才能在实际的信号系统中传输。

一般来说，通信系统的性能指标主要是有效性、可靠性、安全性、经济性。

符号的不确定度在数量上等于它的自信息量，两者的单位相同，但含义却不相同。

不确定度是信号源符号固有的，不管符号是否发出，而自信息量是信源符号发出后给予收信者的。

为了消除该符号的不确定度，接受者需要获得信息量。

冗余度来自两个方面：一是信源符号的相关性，相关程度越大，则信源的实际熵越小，越趋于极限熵H∞（X）；反之，相关程度越小，信源实际熵就增大。

二是信源符号分布的不均匀性，当等概率分布时，信源熵最大。

根据信道中所受噪声种类的不同，可分为随机差错信道和突发差信道。

在随机差错信道中，噪声随机独立地影响每个传输码元，如以高斯白噪声为主体的信道；另一类噪声干扰的影响则是前后相关的，错误成串出现，这样的信道称为突发差错信道。

信道中平均每个符号所能传送的信息量定义为信道的信息传输率R ，即R=I（X；Y)=H(X)—H（X/Y)bit/符号。

信道容量C=max I （X；Y) ，max下面有p( ai )信源发出的消息一般要通过信道来传输，因此要求信源的传输与信道的输入匹配。

（1）符号匹配：信源输入的符号必须是信道能够传送的符号，即要求信源符号集就是信号的入口符号集或入口符号集的子集，这是实现信息传输的必要条件，可在信源与信道之间加入编码器予以实现，也可以在信源压缩编码时一步完成。

（2）信息匹配：对于某一信道，只有当输入符号的概率分布p(x)满足以定条件时才能达到其信道容量C，也就是说只有特定的信源才能使某一信道的信息传输率到达最大。

1第1章 概论1. 信号(适合信道传输的物理量）、信息（抽象的意识/知识，是系统传输、转换、处理的对象）和消息(信息的载体)定义；相互关系：(1信号携带消息，是消息的运载工具(2信号携带信息但不是信息本身(3同一信息可用不同的信号来表示(4同一信号也可表示不同的信息。

2. 通信的系统模型及目的:提高信息系统可靠性、有效性和安全性，以达到系统最优化.第2章 信源及信息量1. 单符号离散信源数学模型2. 自信息量定义：一随机事件发生某一结果时带来的信息量I(xi)=-log2P(xi)、单位：bit 、物理意义：确定事件信息量为0；0概率事件发生信息量巨大、性质：I(xi)非负；P(xi)=1时I(xi)=0；P(xi)=0时I(xi)无穷；I(xi)单调递减；I(xi)是随机变量。

3. 联合自信息量：I(xiyi)=- log2P(xiyj) 物理意义：两独立事件同时发生的信息量=各自发生的信息量的和、条件自信息量：I(xi/yi)=- log2P(xi/yj)；物理意义：特定条件下(yj 已定)随机事件xi 所带来的信息量。

三者关系：I(xi/yi)= I(xi)+ I(yi/xi)= I(yi)+ I(xi/yi)4. 熵：定义(信源中离散消息自信息量的数学期望)、单位(比特/符号)、物理意义(输出消息后每个离散消息提供的平均信息量；输出消息前信源的平均不确定度；变量的随机性)、计算:(H(X)=-∑P(xi)log2 P(xi)) 1)连续熵和离散的区别：离散熵是非负的2)离散信源当且仅当各消息P相等时信息熵最大H (X )=log 2 n 。

3)连续信源的最大熵:定义域内的极值. 5.条件熵H(Y/X) = -∑∑P(xiyj) log2P(yj/xi)，H (X /Y )= -∑∑P(xiyj) log2P(xi/yj) 、物理意义：信道疑义度H(X/Y)：信宿收到Y 后，信源X 仍存在的不确定度，有噪信道传输引起信息量的损失，也称损失熵。

信息论与编码复习总结题型：填空、解答、计算1、编码：无失真与限失真信源编码定理编码分为信源编码和信道编码，其中信源编码又分为无失真和限失真三大定理:无失真信源编码定理（第一极限定理）（可逆）信道编码定理（第二极限定理）限失真信源编码定理（第三极限定理）（不可逆）Shannon(香农)信息论：在噪声环境下，可靠地、安全地、有效地传送信息理论。

通信系统模型方框图:信道的种类很多，如电信中常用的架空明线、同轴电缆、波导、光纤、传输电磁波的空间等都是信道。

也可以从信道的性质或其传送的信号情况来分类，例如：无干扰信道和有干扰信道、恒参信道和变参信道、离散信道（Discrete Channel）和连续信道（Continuous Channel）、单用户信道和多用户信道等。

信源的描述：通过概率空间描述平稳包含齐次，而齐次不包含平稳（重要，第二章计算题）定义：若齐次马尔可夫链对一切i,j存在不依赖于i的极限，则称其具有遍历性，p j称为平稳分布（如下）设有一齐次马尔可夫链，其状态转移矩阵为P，其稳态分布为w j=p(s j)自信息量的特性：p(x i)=1,I(x i)=0; p(x i)=0,I(x i)=∞;非负性；单调递减性；可加性；定义：联合概率空间中任一联合事件的联合（自）信息量为：定义：对于给定离散概率空间表示的信源，在出现y事件后所提供有关事件x的信息量定义互信息，单位为比特信道模型：二进制离散信道BSC；离散无记忆信道DMC；波形信道信源编码器的目的：是使编码后所需的信息传输率R尽量小。

信源编码：主要任务就是减少冗余，提高编码效率。

唯一可译码：（任意有限长的码元序列，只能被唯一地分割成一个个的码字，便称为唯一可译码）{0,10,11}为唯一可译码，任意有限长码序列：100111000。

（分类）即时码和非即时码变长编码定理：（解答，重要）???1、平均码长：2、根据信源各个符号的统计特性，如概率大的符号用短码，概率小的用较长的码，使得编码后平均码长降低，从而提高编码效率。

By 疯狂阿德第一章绪论考点：●信息、消息、信号的区别●通信系统模型●香农1.信息、消息、信号的区别信息：指事物运动的状态或存在方式的不确定性的描述。

消息：包含信息的语言、文字、图像等。

信号：信息的物理体现。

在通信系统中，实际传输的是信号，但实质内容是信息，信息包含在信号中，信号是信息的载体，通信的结果是消除或部分消除不确定性，从而获得信息。

2.通信系统模型通信系统模型信源：信息输出的源。

分离散信源和模拟信源。

信宿：信息归宿之意，意即收信者或用户，是信息传送的终点或目的地。

信道：传送信息的物理媒介。

密钥源：产生密钥k的源。

信号x经过k的加密运算后，就把明文x变换为密文y。

一般地说，通信系统的性能指标主要是有效性、可靠性、安全性和经济性。

除了经济性外，这些指标正是信息论的研究对象。

信源编码：信源编码器的作用：一、将信源发出的信息变换成基带信号；二、压缩冗余度，提高效率（有效性）。

信道编码：在信源编码器输出的代码组上有目的地增加一些监督码元，使之具有检错和纠错能力。

信道译码器具有检错和纠错能力，它能将在其检错或纠错能力范围内的错传码元检测出来并加以纠正，以提高传输信息的可靠性。

信道编码包括调制解调和纠错检错编译码。

信道中的干扰通常使通信质量下降，对于模拟信号，表现在受到的信号的信噪比下降；对于数字信号就是误码率增大。

信道编码的主要方法是增大码率或频带，即增大所需的信道容量。

这恰与信源编码相反。

3.香农他在1941年至1944年对通信和密码进行深入研究，并用概率论的方法研究通信系统，揭示了通信系统传递的对象就是信息，并对信息给以科学的定量描述，提出了信息熵的概念。

还指出通信系统的中心问题是在噪声下如何有效而可靠地传送信息，而实现这一目标的主要方法是编码等。

这一成果于1948年在《贝尔系统技术杂志》以《通信的数学理论》香农因此成为信息论的奠基人。

简答题：一、信源编码与信道编码的区别答：信源编码是压缩信源发出的信息的冗余度，是为了提高信息传输的有效性；而信道编码是在信源编码器输出的代码组上有目的地增加了一些监督码元，增大了信息的冗余度，以提高传输信息的可靠性。