信息论基础第一章-绪论PPT课件

2021
43
信息传输和传播手段经历了五次重大 变革：
1 语言的产生。
2 文字的产生。
3 印刷术的发明。
4 电报、电话的发明。
5 计算机技术与通信技术相结 合，促进了网络通信的发展。
2021
44
1.3 信息传输系统
通信的基本问题是在彼时彼地精确地或近似地再现此时此 地发出的消息。
各种通信系统，一般可概括的统计模型： 信息传输系统模型
2021
17
语法信息
仅仅考虑其中形式因素的部分。
语义信息
考虑其中含义因素的部分。
语用信息
考虑其中效用因素的部分。
2021
18
1.1 信息的概念
物质、能量和信息是构成客观世界的 三大要素。 信息是物质和能量在空间和时间上分 布的不均匀程度，或者说信息是关于 事物运动的状态和规律。
2021
19
信息存在于自然界，也存在于人类社会，
2021
15
认识论比本体论的层次要低，因为
认识主体具有感觉能力、理解能力和 目的性，所以从认识论层次上研究信 息“事物的运动状态及其变化方式”就 不再像本体论层次上那样简单，他必 须考虑到形式、含义和效用。
2021
16
全信息
同时考虑事物运动状态及其变化方式的 外在形式、内在含义和效用价值的认识 论层次信息。
信源
信源译码器 信道编码器
等效干扰 信道
等效信源 等效信宿
信
干
道
扰
源
信宿
信源译码器 信20道21 译码器
45
这个模型包括以下五个部分： 1.信源 信源是产生消息的源。
2. 编码器 编码器是将消息变成适合于 信道传送的信号的设备。

1.2 通信系统的模型
信源符号
信 源 编码 信 源
（序列）
编码器 信 道 译码器
x y yˆ
重建符号 （序列）
x
❖ 无失真编码： x xˆ
重建符号与信源发送符号一致， 即编码器输出码字序列与信源 发送序列一一映射；
限失真编码： x xˆ
总是成立的
y yˆ
分别是编码输出码字和接收到的码字
重建符号与信源发送符号不 完全一致；编码器输出码字 序列与信源输出符号序列之 间不是一一映射关系，出现 符号合并，使得重建符号的 熵减少了。
限失真、无失真是由于编译 码器形成的
信道编码
增加冗余
提高
对信道干 扰的抵抗 力
信息传输 的可靠性
❖ 由于信道中存在干扰， 数据传递过程中会出现 错误，信道编码可以检 测或者纠正数据传输的 错误，从而提高数据传 输的可靠性。
1.2 通信系统的模型
调制器
作用：
➢ 将信道编码的输出变换为适合信道传输的 要求的信号 ；
消息
信息的表现形 式；
文字，图像， 声音等；
信号
信号的变化描 述消息；
信息的基本特点
1.不确定性
受信者在接收到信息之前，不知道信源发送 的内容是什么，是未知的、不确定性事件；
2.受信者接收到信息后，可以减少或者消除不确定性；
3. 可以产生、消失、存储，还可以进行加工、处理；
4. 可以度量
1.2 通信系统的模型
冗 信源符号 余 变 相关性强 化 统计冗余强
信源编码器
码序列 相关性减弱 统计冗余弱
相关冗余 统计冗余 生理冗余
模型简化
信源输出前后符号之间存在一定相关性
信源输出符号不服从等概率分布

具有检错或纠错的功能，它能将落在其检错或纠错 范围内的错传码元检出或纠正，以提高传输消息的 可靠性。
信道编码的主要作用是提高信息传送的可靠性
01.11.2019
22
三码合一
密码学研究的内容
如何隐蔽消息中的信息内容，使它在传输过 程中不被窃听，提高通信系统的安全性。
从理论方面来说，若能把三种码合并成一种码 来编译，即同时考虑有效、可靠和安全，可使 编译码器更理想化，在经济上可能也更优越。
信息是消息的内涵，是信号的价值，信息 是能使信宿得以获知解惑的东西。
它应当是从千千万万不同形式不同内容的 消息中抽象出来的、具有共性的、可定量 测度的一个量，应该有它的单位和数学表 达。
01.11.2019
11
消息、信号和信息
例一：扔硬币
正反面不确定
例二：天气预报
晴、多云、雨、雪、风：不确定
15
信息的特征
8. 信息的可加工性 9. 信息的可再现性 10. 信息的可存储性 11. 信息的积累性 12. 信息的延续性和继承性 13. 信息的可开发性 14. 信息的可再生性和可增值性
01.11.2019
16
信息的性质
性质一：普遍性
信息是普遍存在的。
性质二：无限性
在整个宇宙时空中，信息是无限的。
01.11.2019
5
1.2 信息论的研究内容
√ 狭义信息论（经典信息论）
主要研究信息的测度、信道容量及信源和信道编码理论等问 题，又称香农基本理论
一般信息论（工程信息论）
主要研究信息传输和处理问题。除香农理论以外，还包括编 码理论、噪声理论、信号滤波和预测、统计检测和估计、调 制理论、信息处理理论以及保密理论等

第1章 绪论
信息论的发展历史
• • • • • 1924年，Nyquist提出信息传输理论； 1928年，Hartly提出信息量关系； 1932年，Morse发明电报编码； 1946年，柯切尼柯夫提出信号检测理论； 1948年，Shannon提出信息论，“通信中的 数学理论
第1章 绪论
1.3 信息论发展简史与信息科学
第1章 绪论
信息论 -基础理论与应用
肇庆学院数学与统计学院
第1章 绪论
课程计划
1、计划学时54，全部为讲课学时
2、每周结束交一次作业。
3、总成绩由两部分组成，平时成绩占30％，考试成 绩占70％ 4、计划讲授教材的一至七章(除第四章)
第1章 绪论
课程考核标准
总成绩=平时考核+期末考试 • 平时考核：占总成绩的30% 100分=考勤50分+作业50分 期末考试：占总成绩的70%
什么是信息论？
• 信息论是运用概率论与数理统计的方法研究
信息、信息熵、通信系统、数据传输、密码
学、数据压缩等问题的应用数学学科。
• 光学信息论、量子信息论、生物信息论、生 物信息学等重要分支。
第1章 绪论
什么是信息科学？
• 信息科学是研究信息运动规律和应用方法的
科学，是由信息论、控制论、计算机理论、
第1章 绪论
例题（1）--解答
• 而在天平上称一次能判断出三钟情况：重、轻 和相等。这三种情况是等概率的
1 p (c ) 3
• 所以，天平测一次能获得的信息量(即消除的不 确定性)为
I 2 I (c) log3 1.585bit
I2 log 3
• 则至少必须称的次数为 I1 log 24 2.9次

33
§1.2.1 通信系统模型
例如，奇偶纠错 将信源编码输出的每个码组的尾补一个1或0 当传输发生奇数差错，打乱了“1”数目的奇偶性，就 可以检测出错误。
34
§1.2.1 通信系统模型
(a) 无检错
(b) 可检错 (奇校验) (c) 可纠错(纠一个错)
图1.4 增加冗余符号增加可靠性示意图
35
§1.2.1 通信系统模型
信源的消息中所包含的信息量 以及信息如何量度
核心 问题
29
§1.2.1 通信系统模型
编码器(Encoder)
编码器的功能是将消息变成适合于信道传输的信号 编码器包括：
信源编码器(source encoder) 信道编码器(channel encoder) 调制器(modulator)
信源编码器
信道编码器
调制器
功能：将编码器的输出符号变成适合信道传输的信号 目的：提高传输效率 信道编码符号不能直接通过信道输出，要将编码器的输 出符号变成适合信道传输的信号，例如，0、1符号变成 两个电平，为远距离传输，还需载波调制，例如，ASK， FSK，PSK等。
36
§1.2.1 通信系统模型
信道(channel)
13
§1.1.2 信息的基本概念
1949年，Weaver在《通信的数学》中解释香农的工 作时，把通信问题分成三个层次： 第一层：通信符号如何精确传输？（技术问题） 第二层：传输的符号如何精确携带所需要的含义？（语义问题） 第三层：所接收的含义如何以所需要的方式有效地影响行为？ （效用问题）
14
§1.1.2 信息的基本概念
§1.1.2 信息的基本概念
信息的三个基本层次：
语法(Syntactic)信息 语义(Semantic) 信息 语用(Pragmatic)信息

1928年，哈特莱(Hartley)首先提出了用对数度量信
息的概念。一个消息所含有的信息量用它的可能值
香农
的个数的对数来表示。
(香农)信息： 信息是事物运动状态或存在方式的不确定性的描述。 可运用研究随机事件的数学工具——概率来测度不确定性大小。 在信息论中，我们把消息用随机事件表示，而发出这些消息的信 源则用随机变量来表示。
2.1 自信息和互信息
2.1.1 自信息
随机事件的自信息量 I (xi ) 是该事件发生概率 p(xi ) 的函数，并且应该满 足以下公理化条件：
1. I (xi )是 p(xi )的严格递减函数。当 p(x1)p(x2) 时，I(x1)I(x2)，概率 越小，事件发生的不确定性越大，事件发生后所包含的自信息量越大
事件 x i 的概率为p(xi ) ，则它的自信息定义为：
I(xi)d eflogp(xi)logp(1xi)
从图2.1种可以看到上述信息量的定义正 是满足上述公理性条件的函数形式。I (xi ) 代表两种含义：当事件发生以前，等于 事件发生的不确定性的大小；当事件发 生以后，表示事件所含有或所能提供的 信息量。
2．极限情况下当 p(xi )=0时，I(xi)；当 p(xi ) =1时，I (xi ) =0。
3．另外，从直观概念上讲，由两个相对独立的不同的消息所提供的 信息量应等于它们分别提供的信息量之和。 可以证明，满足以上公理化条件的函数形式是对数形式。
定义2.1 随机事件的自信息量定义为该事件发生概率的对数的负值。
我们把某个消息 x i 出现的不确定性的大小，定义为自信息，用这
个消息出现的概率的对数的负值来表示：I(xi)lop(g xi)
自信息同时表示这个消息所包含的信息量，也就是最大能够给予 收信者的信息量。如果消息能够正确传送，收信者就能够获得这 么大小的信息量。

– 先验概率：选择符号 ai 作为消息的概率----P(ai)
– 自信息：ai 本身携带的信息量
I(ai
)
log 1 P(ai
)
– 后验概率：接收端收到消息(符号) bj 后而发送端
发的是 ai 的概率 P(ai/bj)
– 互信息：收信者获得的信息量-----先验的不确定 性减去尚存在的不确定性
I(ai;bj)loP g(1 ai)loP g(ai1/bj)
第一章 绪论
信息论
通信技术 概率论 随机过程 数理统计
相结合逐步发展而形 成的一门新兴科学
奠基人：美国数学家香农（C.E.Shannon） 1948年“通信的数学理论”
本章内容：
信息的概念 数字通信系统模型 信息论与编码理论研究的主要内容及意义
1.1 信息的概念
信息是信息论中最基本、最重要的概念，既抽象又复杂
– 信息具有以下特征： （1）信息是可以识别的 （2）信息的载体是可以转换的 （3）信息是可以存贮的 （4）信息是可以传递的 （5）信息是可以加工的 （6）信息是可以共享的
1.2 信息论研究的对象,目的,内容
一、 研究对象 – 前面介绍的统一的通信系统模型。人们通过系统 中消息的传输和处理来研究信息传输和处理的共 同规律。
消息：用文字等能够被人们感觉器官所感知的形式， 把客观物质运动和主观思维活动的状态表达出来。 知识：一种具有普遍和概括性质的高层次的信息 ， 以实践为基础，通过抽象思维，对客观事物规律性的 概括。 情报：是人们对于某个特定对象所见、所闻、所理解 而产生的知识 。
它们之间有着密切联系但不等同 ，信息的含义更深刻、广泛
– 它的主要目的是提高信息系统的可靠性、有效性、 保密性和认证性，以便达到系统最优化；

p(
y1)

2
p(xi y1) p(x1y1) p(x2 y1)

i1
p(yj)
p(xiyj)
p(y2)
2
p(xi y2) p(x1y2) p(x2 y2)
i

i1

2
p(y3) p(xi y3) p(x1y3) p(x2y3)

i1
2019/12/29
2019/12/29
状态转移概率和已知状态下发符号的概率为 p(er＋1=sj｜er=si)和p(xr=al｜er=si)。
当状态转移概率和已知状态下发符号的概率与时刻无 关，即p(er＋1=sj｜er=si)=p(sj｜si)和p(xr=al｜er=si)＝p(al ｜si )时，称为时齐的/齐次的。
3. 信道 信道是信息传输和存储的媒介。
4. 译码器 译码是编码的逆变换，分为 信道译码和信源译码。
5. 信宿 信宿是消息的接收者。
2019/12/29
1.3.2 离散无记忆的扩展信源
实际情况下，信源输出的消息往往不是单个符号，而是由
许多不同时刻发出的符号所组成的符号序列。设序列由N个 符号组成，若这N个符号取自同一符号集{ a1 , a2 , … , ak}， 并且先后发出的符号彼此间统计独立，我们将这样的信源称 作离散无记忆的N维扩展信源。其数学模型为N维概率空间：
p(xi | yj)1

i1 2

p(xi
|
y2)
p(x1
|
y2)
p(x2
|
y2)
1
i
i1
2
i1
p(xi

信息论研究的内容
信息论研究的内容一般有以下三种理解： 1、狭义信息论：也称经典信息论。它主要研究信息 的测度、信道容量以及信源和信道编码理论等问题。 这部分内容是信息论的基础理论，又称香农基本理论。 2、一般信息论：主要也是研究信息传输和处理问题。 除了香农理论以外，还包括噪声理论、信号滤波和预 测、统计检测与估计理论、调制理论、信息处理理论 以及保密理论等。 后一部分内容是以美国科学家维纳(N.Wiener)为代表， 其中最有贡献的是维纳和苏联科学家柯尔莫哥洛夫 (A.KOnMOropoB)。
信息论研究的对象、目的和内容
信源
编码器
消息
信号
信道
译码器
信号+干扰
消息
信宿
噪声源
通信系统模型图
信息论研究的对象、目的和内容
信息论研究的对象:正是这种统一的通信系统模型,人们通过系统 中消息的传输和处理来研究信息传输和处理的共同规律. 这个模型主要分成下列五个部分: 1、信息源（简称信源）
顾名思义，信源是产生消息和消息序列的源。它可以是人， 生物，机器或其他事物。它是事物各种运动状态或存在状态的集 合。 如前所述，“母亲的身体状况”，“各种气象状态”等客观存在 是信源。人的大脑思维活动也是一种信源。信源的输出是消息， 消息是具体的，但它不是信息本身。消息携带着信息，消息是信 息的表达者。
信息论基础
刘昌红
第一章 绪论
1、信息的概念 2、信息论研究的对象、目的和内容 3、信息论发展简史与信息科学
信息的概念
1、信息论的定义：信息论是人们在长期通信工程的实践中， 由通信技术与概率论、随机过程和数理统计相结合而逐步发 展起来的一门科学。 2、信息论的奠基人：是美国科学家香农 (C.E.Shannon)，他 在1948年发表了著名的论文《通信的数学理论》，为信息论 奠定了理论基础。 3、香农信息的定义：信息是事物运动状态或存在方式的不 确定性的描述,这就是香农信息的定义。 4、信息、情报、知识、消息及信号间的区别与联系。