信息论与编码

1. 在无失真的信源中，信源输出由 H(X) 来度量；在有失真的信源中，信源输出由

R(D) 来度量。

2. 要使通信系统做到传输信息有效、可靠和保密，必须首先 信源 编码，

然后_____加密____编码，再______信道_____编码，最后送入信道。

3. 带限AWGN波形信道在平均功率受限条件下信道容量的基本公式，也就是有名的香农公式是log(1)CWSNR；当归一化信道容量C/W趋近于零时，也即信道完全丧失了通信能力，此时Eb/N0为 -1.6 dB，我们将它称作香农限，是一切编码方式所能达到的理论极限。

4. 保密系统的密钥量越小，密钥熵H(K)就越 小 ，其密文中含有的关于明文的信息量I(M；C)就越 大 。

5. 已知n＝7的循环码42()1gxxxx，则信息位长度k为 3 ，校验多项式

h(x)= 31xx 。

6. 设输入符号表为X＝{0，1}，输出符号表为Y＝{0，1}。输入信号的概率分布为p＝(1/2，1/2)，失真函数为d(0，0) = d(1，1) = 0，d(0，1) =2，d(1，0) = 1，则Dmin＝ 0 ，R(Dmin)＝ 1bit/symbol ，相应的编码器转移概率矩阵[p(y/x)]＝1001；Dmax＝ 0.5 ，R(Dmax)＝

0 ，相应的编码器转移概率矩阵[p(y/x)]＝1010。

7. 已知用户A的RSA公开密钥(e,n)=(3,55)，5,11pq,则()n 40 ，他的秘密密钥(d,n)＝(27,55) 。若用户B向用户A发送m=2的加密消息，则该加密后的消息为 8 。

二、判断题

1. 可以用克劳夫特不等式作为唯一可译码存在的判据。 （ ）

2. 线性码一定包含全零码。 （ ）

信息论与编码

题 目 信息论与编码之数据压缩

姓 名 xxx 学 号 2009xxxxxxx

院 系 滨江学院 成 绩

二Ｏ一一 年 十二 月 二十八 日

信息论与编码之数据压缩

xxx

南京信息工程大学滨江学院通信工程专业（x）班

摘要: 在计算机科学和信息论中，数据压缩或者源编码是按照特定的编码机制用比未经编码少的数据位元（或者其它信息相关的单位）表示信息的过程。例如，如果我们将“compression”编码为“comp”那么这篇文章可以用较少的数据位表示。一种流行的压缩实例是许多计算机都在使用的ZIP 文件格式，它不仅仅提供了压缩的功能，而且还作为归档工具（Archiver）使用，能够将许多文件存储到同一个文件中。

关键词：概述 原理 应用 理论 类型 流行算法 算法编码

1.概述

对于任何形式的通信来说，只有当信息的发送方和接受方都能够理解编码机制的时候压缩数据通信才能够工作。例如，只有当接受方知道这篇文章需要用英语字符解释的时候这篇文章才有意义。同样，只有当接受方知道编码方法的时候他才能够理解压缩数据。一些压缩算法利用了这个特性，在压缩过程中对数据进行加密，例如利用密码加密，以保证只有得到授权的一方才能正确地得到数据。

数据压缩能够实现是因为多数现实世界的数据都有统计冗余。例如，字母“e”在英语中比字母“z”更加常用，字母“q”后面是“z”的可能性非常小。无损压缩算法通常利用了统计冗余，这样就能更加简练地、但仍然是完整地表示发送方的数据。

单项选择题

1.下面表达式中正确的是（A ）。

A.jijxyp1)/( B.iijxyp1)/(

C.jjjiyyxp)(),( D.iijixqyxp)(),(

2.彩色电视显像管的屏幕上有5×105 个像元，设每个像元有64种彩色度，每种彩度又有16种不同的亮度层次，如果所有的彩色品种和亮度层次的组合均以等概率出现，并且各个组合之间相互独立。每秒传送25帧图像所需要的信道容量（C ）。

A. 50106 B. 75106 C. 125106 D. 250106

3.已知某无记忆三符号信源a,b,c等概分布，接收端为二符号集，其失真矩阵为d=1 21 12 1,则信源的最大平均失真度maxD为（ D ）。

A. 1/3 B. 2/3 C. 3/3 D. 4/3

4.线性分组码不具有的性质是（ C ）。

A.任意多个码字的线性组合仍是码字

B.最小汉明距离等于最小非0重量

C.最小汉明距离为3

D.任一码字和其校验矩阵的乘积cmHT=0

5.率失真函数的下限为（ B）。

A .H(U) B.0 C.I(U; V) D.没有下限

6.纠错编码中，下列哪种措施不能减小差错概率（ D ）。

A. 增大信道容量 B. 增大码长 C. 减小码率 D. 减小带宽

7.一珍珠养殖场收获240颗外观及重量完全相同的特大珍珠，但不幸被人用外观相同但重量仅有微小差异的假珠换掉1颗。一人随手取出3颗，经测量恰好找出了假珠，不巧假珠又滑落进去，那人找了许久却未找到，但另一人说他用天平最多6次能找出，结果确是如此，这一事件给出的信息量（ A ）。

教 案

2009 ～2010 学年第一学期

学院(系、部) 信电学院

系

(教研室或实验室) 通信与信息技术系

课 程 名

称 信息论与编码

授 课 班

级 060421-2

主 讲

教 师 毛淑华

职 称

助教

使 用 教 材 《信息论与编码》

东华理工大学教务处制

课 程 概 况

课程

名称 信息论与编码 课程编号 01471611 总计：

46 学时

讲课：

36 学时

实验：

10 学时

上机：

学时 学 分 3

类别 必修课（ √） 选修课（） 理论课（ ） 实验课（ ）

任课

教师 毛淑华 职称 助教

授课

对象 专业班级： 060421-2 共 2 个班

基本

教材

和主

要参

考资

料 1、基本教材：

曹雪虹．信息论与编码（第二版）．北京：清华大学出版社，2009．

该教材被认定为 “十五”国家级规划教材。高等学校信息与通信工程系列教材。

2、主要参考资料：

[1] 信息论与编码.中国科技大学出版社.姜丹编 ,2002

[2]编码理论.西安电子科技大学出版社.田丽华著,2003

[3]信息处理与编码.人民邮电大学出版社. 吴伟陵著 ,2001

教学

目的

要求 通过信息论与编码课程的学习，应使学生系统掌握信息论中的一些基本术语，着重掌握几种重要的编译码原理与实现方法，理解信源编码、信道编码与密码在通信系统中的目的和作用，学会在不同要求条件下，能合理选择编码类型和设计编译码器，并为学习其他通信理论课程打下基础。

教学

重点

难点 1、教学重点：

信道编码中分组码、循环码、卷积码的基本原理、编码方法及译码方法。

2、教学难点：

各种信源熵和互信息的计算、信源编码基本原理、信息率失真函数的定义、卷积码的基本概念和描述方法、卷积码的最大似然译码、ＤＥＳ密码算法、ＲＳＡ密码体制。