信息论与编码讲义第十八讲
- 格式:ppt
- 大小:169.00 KB
- 文档页数:11


1. 在无失真的信源中,信源输出由 H(X) 来度量;在有失真的信源中,信源输出由
R(D) 来度量。
2. 要使通信系统做到传输信息有效、可靠和保密,必须首先 信源 编码,
然后_____加密____编码,再______信道_____编码,最后送入信道。
3. 带限AWGN波形信道在平均功率受限条件下信道容量的基本公式,也就是有名的香农公式是log(1)CWSNR;当归一化信道容量C/W趋近于零时,也即信道完全丧失了通信能力,此时Eb/N0为 -1.6 dB,我们将它称作香农限,是一切编码方式所能达到的理论极限。
4. 保密系统的密钥量越小,密钥熵H(K)就越 小 ,其密文中含有的关于明文的信息量I(M;C)就越 大 。
5. 已知n=7的循环码42()1gxxxx,则信息位长度k为 3 ,校验多项式
h(x)= 31xx 。
6. 设输入符号表为X={0,1},输出符号表为Y={0,1}。输入信号的概率分布为p=(1/2,1/2),失真函数为d(0,0) = d(1,1) = 0,d(0,1) =2,d(1,0) = 1,则Dmin= 0 ,R(Dmin)= 1bit/symbol ,相应的编码器转移概率矩阵[p(y/x)]=1001;Dmax= 0.5 ,R(Dmax)=
0 ,相应的编码器转移概率矩阵[p(y/x)]=1010。
7. 已知用户A的RSA公开密钥(e,n)=(3,55),5,11pq,则()n 40 ,他的秘密密钥(d,n)=(27,55) 。若用户B向用户A发送m=2的加密消息,则该加密后的消息为 8 。
二、判断题
1. 可以用克劳夫特不等式作为唯一可译码存在的判据。 ( )
2. 线性码一定包含全零码。 ( )
安徽大学本科教学课程教案
课程代码: ZJ36049
课程名称: 信息论与编码
授课专业: 信息安全
授课教师: ***
职称/学位: 高级工程师/博士
开课时间:二○一六至二○一七学年第 2 学期
第 1 次课程教学方案
周次 1 课时数 2
教学章节
第一章 概述
目标要求
要求学生明确本课程的学习目的及要求,初步了解本课程的特点及学习方法,掌握信息的基本概念和特点,了解信息论研究的对象、目的和内容,了解信息论的形成和发展趋势,以及目前信息论与编码的主要研究成果,激发学习信息论与编码的兴趣与热情
重点难点
重点:本课程的特点及学习方法、信息的基本概念与特点,信息论的主要研究对象、目的和内容
难点:如何理解信息的概念、信息论及编码技术
教学方式 ■ 课堂讲授 □ 小组活动 □ 实验演示 □ 难点答疑 ■ 提问
□ 作业讲评 □ 实践教学 □ 考试测验 □ 其他活动
媒体资源 ■ 文字教材 ■ 电子教案 □ 录像材料 □ 录音材料 □ 直播课堂
□ CAI课件 □ IP课件 □ 其他资源:
课后作业
1、 信息、信号、消息的定义是什么?三者的关系如何?
板
书
设
计 (或PPT,空白不够可添加附页)
第一章 绪论
1.1信息论的形成和发展
1948年以“通信的数学理论”(A mathematical theory of communication)为题公开发表,标志着信息论的正式诞生。
1.2通信系统的模型
第 1 次教学活动设计 教学
环节 内容设计与手段
导
入
新
课 本课程的学习目的、课程特点、教学要求及学习方法介绍
讲
授
内
容 信息论与编码课程内容:
消息是指担负着传送信息任务的单个符号或符号序列。包括文本、数据、语言、图形和图像等。是具体的。
信息论与编码习题参考答案
第一章 单符号离散信源
1.1同时掷一对均匀的子,试求:
(1)“2和6同时出现”这一事件的自信息量;
(2)“两个5同时出现”这一事件的自信息量;
(3)两个点数的各种组合的熵;
(4)两个点数之和的熵;
(5)“两个点数中至少有一个是1”的自信息量。
解:
bitPaINnPbitPaINnPccN17.536loglog)(361)2(17.418loglog)(362)1(3666样本空间:2221111616
(3)信源空间:
X
(1,1) (1,2) (1,3) (1,4) (1,5) (1,6)
P(X) 1/36 2/36 2/36 2/36 2/36 2/36
X (2,2) (2,3) (2,4) (2,5) (2,6)
P(x) 1/36 2/36 2/36 2/36 2/36
X (3,3) (3,4) (3,5) (3,6)
P(x) 1/36 2/36 2/36 2/36
X (4,4) (4,5) (4,6)
P(x) 1/36 2/36 2/36
X (5,5) (5,6) (6,6)
P(x) 1/36 2/36 1/36
bitxH32.436log3616236log36215)(
(4)信源空间:
X 2 3 4 5 6 7 8 9 10 11 12
P(x) 1/36 2/36 3/36 4/36 5/36 6/36 5/36 4/36 3/36 2/36 1/36
bitxH71.3636log366536log3610 436log368336log366236log36436log362)(++
(5) bitPaINnP17.11136loglog)(3611333
《信 息 论》
讲 义
204教研室
2005年11月
1 主要内容:
第一章 绪论
第二章 离散信源及其信息测度
第三章 离散信道及其信道容量
第四章 无失真信源编码
第五章 有噪信道编码
2 第一章 绪论
信息论——人们在长期通信工程的实践中,由通信技术与概率论、随机过程和数理统计相结合而逐步发展起来的一门学科。
奠基人——香农
1948年发表了著名的论文——《通信的数学理论》,为信息论奠定了理论基础。
1.1 信息的概念
人类离不开信息,信息的接收、传递、处理和利用时时刻刻都在发生。
如:“结绳记事”、“烽火告警”,信息的重要性是不言而喻的。
什么是信息?——信息论中最基本、最重要的概念。
信息与“消息”、“情报”、“知识”、“情况”等的区别:
“情报”——人们对于某个特定对象所见、所闻、所理解而产生的知识。是一类特定的信息。
“知识”——人们根据某种目的,从自然界收集得来的数据中,整理、概括、提取得到的有价值的、人们所需的信息。是一种具有普遍和概括性质的高层次的信息。
“消息”——以文字、符号、数据、语言、音符、图片、图像等能够被人们感觉器官所感知的形式,表达客观物质运动和主观思维活动的状态。
消息包含信息,是信息的载体。二者既有区别又有联系。
“信号”——消息的运载工具。
香农从研究通信系统传输的实质出发,对信息作了科学的定义,并进行了定性和定量的描述。
收信者:
收到消息前,发送者发送的消息——1、描述的是何种事物运动状态的具体消息;2、描述的是这种消息还是那种消息;3、若存在干扰,所得消息是否正确与可靠。
存在“不知”、“不确定”或“疑问”
收到消息后,知道消息的具体内容,原先的“不知”、“不确定”或“疑问”消除或部分消除了。
消息传递过程——从不知到知的过程;从知之甚少到知之甚多的过程;从不确定到部分确定或全部确定的过程。
通信过程——消除不确定性的过程。
不确定性的消除,就获得了信息。