3-1 设有一离散无记忆信源，其概率空间为12()0.60.4X x x P x ????
=?
???
????
，信源发出符号通过一干扰信道，接收符号为12{,}Y y y =，信道传递矩阵为516
61344P ????
=?
??????
?
，求： （1）信源X 中事件1x 和2x 分别含有的自信息量；
（2）收到消息j y （j ＝1，2）后，获得的关于i x （i ＝1，2）的信息量； （3）信源X 和信宿Y 的信息熵；
（4）信道疑义度(/)H X Y 和噪声熵(/)H Y X ； （5）接收到消息Y 后获得的平均互信息量(;)I X Y 。 解：（1）12()0.737,() 1.322I x bit I x bit ==
（2）11(;)0.474I x y bit =，12(;) 1.263I x y bit =-，21(;) 1.263I x y bit =-，
22(;)0.907I x y bit =
（3）()(0.6,0.4)0.971/H X H bit symbol ==
()(0.6,0.4)0.971/H Y H bit symbol ==
（4）()(0.5,0.1,0.1,0.3) 1.685/H XY H bit symbol ==
(/) 1.6850.9710.714/H X Y bit symbol =-= (/)0.714/H Y X bit symbol =
（5）(;)0.9710.7140.257/I X Y bit symbol =-=
3-2 设有扰离散信道的输入端是以等概率出现的A 、B 、C 、D 四个字母。该信道的正
确传输概率为0.5，错误传输概率平均分布在其他三个字母上。验证在该信道上每个字母传输的平均信息量为0.21比特。
证明：信道传输矩阵为：
11112666111162661111662611116662P ????????
??=?
?
??
????????
，信源信宿概率分布为：
1111()(){,,,}4444P X P Y ==， H(Y/X)=1.79（bit/符号），I(X;Y)=H(Y)- H(Y/X)=2-1.79=0.21（bit/符号）
3-3 已知信源X 包含两种消息：12,x x ，且12()() 1/2P x P x ==，信道是有扰的，
信宿收到的消息集合Y 包含12,y y 。给定信道矩阵为：0.980.020.2
0.8P ??
=?
???
，求平均互信息(;)I X Y 。
解：I(X;Y)=H(X)+H(Y)-H(XY)
H(X)=1 bit/符号,H(Y)=0.93 bit/符号,H(XY)=1.34 bit/符号, I(X;Y)=0.59 bit/符号。
3-4设二元对称信道的传递矩阵为：213
3123
3??
???
???????
， （1）若P(0)=
34，P(1)=1
4
，求()H X ，(/)H X Y ，(/)H Y X 和(;)I X Y ； （2）求该信道的信道容量及其达到信道容量时的输入概率分布。
解：（1）H(X)=0.811（bit/符号），H(XY)=1.73（bit/符号），H(Y)=0.98（bit/符号），H(X/Y)=0.75（bit/符号），H(Y/X)=0.92（bit/符号），I(X ；Y)=0.06（bit/符号）；
（2）C ＝0.082（bit/符号），最佳输入分布为：11{}22
X P = 3-5 求下列两个信道的信道容量，并加以比较：
（1）22p p p p εεεε
ε
ε??
--?
?--????（2）200
2p p p p εεεε
ε
ε??
--??--????
其中1p p +=。 解：（1）
1log 2(,,2)(12)log(12)2log 41()log()()log()2log 2(12)log(12)2log 412()log()()log()(12)log(12)
C H p p p p p p p p p p εεεεεεε
εεεεεεεεεεεεεεεεε=-------=+--+--+----=-+--+-----（2）
2log 2(,,2)(12)log(12)2log 21()log()()log()2log 2(12)log(12)2log 21()log()()log()(12)log(12)
C H p p p p p p p p p p εεεεεεε
εεεεεεεεεεεεεεεε=-------=+--+--+----=+--+-----两者的信道容量比较：212C C ε=+
3-6 求题图3-6中信道的信道容量及最佳的输入概率分布。并求当0ε=和1
2
时的信道容量C 。
00
1
2
1
2
1ε
-X Y
题图 3-6
解：由图知信道转移矩阵为：
1
000101P εεεε????=-??
??-??
，此信道非对称信道，也非准对称信道，不能利用其公式计算。
此信道也不能采用先假设一种输入分布，利用信道容量解的充要性来计算。但此信道矩阵是
非奇异矩阵，又r ＝s ，则可利用方程组求解：
3
3
1
1
(/)(/)log (/),1,2,3j
i j j i j i j j P b
a P
b a P b a i β====∑∑，所以
1232
30(1)(1)log(1)log (1)(1)log(1)log βεβεβεεεεεβεβεεεε
=?
?
-+=--+??+-=--+? 解得：10β=，23(1)log(1)log ββεεεε==--+，所以
1()log 2log[12]j H j
C β
ε-==+∑，
11()22C C p b β--==，2()2()22C H C p b βε---==，3()3()22C H C p b βε---==，
根据3
1
()()(/),1,2,3j i
j
i i P b P a P b
a j ==
=∑，得最佳输入分布为：
11()()2C p a p b -==，()2323()()()()2H C p a p a p b p b ε--====，
当ε＝0时，此信道为一一对应信道，
1、有一个二元对称信道，其信道矩阵如下图所示。设该信道以1500个二元符号/秒的速度传输输入符号。现有一消息序列共有14000个二元符号，并设在这消息中P(0)=P(1)=1/2。问从信息传输的角度来考虑，10秒钟内能否将这消息序列无失真地传送完？ 解答：消息是一个二元序列，且为等概率分布，即P(0)=P(1)=1/2，故信源的熵为H(X)=1(bit/symbol)。则该消息序列含有的信息量＝14000(bit/symbol)。 下面计算该二元对称信道能传输的最大的信息传输速率： 信道传递矩阵为： 信道容量（最大信息传输率）为： C=1-H(P)=1-H(0.98)≈0.8586bit/symbol 得最大信息传输速率为： Rt ≈1500符号/秒× 0.8586比特/符号 ≈1287.9比特/秒 ≈1.288×103比特/秒 此信道10秒钟内能无失真传输得最大信息量＝10× Rt ≈ 1.288×104比特 可见，此信道10秒内能无失真传输得最大信息量小于这消息序列所含有的信息量，故从信息传输的角度来考虑，不可能在10秒钟内将这消息无失真的传送完。 2、若已知信道输入分布为等概率分布，且有如下两个信道，其转移概率矩阵分别为： 试求这两个信道的信道容量，并问这两个信道是否有噪声？ 3 、已知随即变量X 和Y 的联合分布如下所示： 01 100.980.020.020.98P ?? =?? ??11112222 1111222212111122221111222200000000000000000000000000000000P P ????????????==????????????11 222 2111 2222 2 log 4(00)1/()log 42/log 8(000000)2/(),H bit symbol H X bit symbol C C H bit symbol H X C =-===>=-==1解答：(1)由信道1的信道矩阵可知为对称信道故C 有熵损失，有噪声。(2)为对称信道，输入为等概率分布时达到信道容量无噪声
一、选择 1.多媒体计算机中的媒体信息是指( ) 。 ⑴数字、文字⑵声音、图形⑶动画、视频⑷图像 A ⑴ B ⑵ C ⑶ D 全部 2.多媒体技术的主要特性有( )。 （1）多样性（2）集成性（3）交互性（4）可扩充性 A （1） B （1）、（2） C （1）、（2）、（3） D 全部 3.目前音频卡具备以下哪些功能（）。 ⑴录制和回放数字音频文件⑵混音⑶语音特征识别⑷实时解／压缩数字音频文件 A ⑴⑶⑷ B ⑴⑵⑷ C ⑵⑶⑷ D 全部 4.在多媒体计算机中常用的图像输入设备是（）。 （1）数码照相机（2）彩色扫描仪（3）视频信号数字化仪（4）彩色摄像机 A （1） B （1）（2） C （1）（2）（3） D 全部 5.国际标准MPEG-Ⅱ采用了分层的编码体系，提供了四种技术,它们是（）。 A 空间可扩展性；信噪比可扩充性；框架技术；等级技术。
B 时间可扩充性；空间可扩展性；硬件扩展技术；软件扩展技术。 C 数据分块技术；空间可扩展性；信噪比可扩充性；框架技术。 D 空间可扩展性；时间可扩充性；信噪比可扩充性；数据分块技术。 6.视频卡的种类很多，主要包括（）。（1）视频捕获卡（2）电影卡（3）电视卡（4）视频转换卡 A （1） B （1）（2） C （1）（2）（3） D 全部 7.以PAL制25帧/秒为例，已知一帧彩色静态图像(RGB)的分辨率为256′256，每一种颜色用16bit表示，则该视频每秒钟的数据量为（）。 A 256′256 ′3 ′16′25 bps B 512′512 ′3′8′25 bps C 256′256 ′3′8′25 bps D 512 ′512′3′16′25 bps 8.全电视信号主要由（）组成。 A 图像信号、同步信号、消隐信号。 B 图像信号、亮度信号、色度信号。 C 图像信号、复合同步信号、复合消隐信号。 D 图像信号、复合同步信号、复合色度信号。 9.在视频信号实时处理技术中，如果电视扫描的正程时间为52.2ms，分辨率为512′512 ，实时意味着处理每个像素的时间近似为（）。 A 0.1ms B 0.2ms C 0.8ms D 0.4ms 10.下列哪种说法是正确的（）。 A 信息量等于数据量与冗余量之和。
一、（11’）填空题 （1）1948年，美国数学家香农发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。 （2）必然事件的自信息是 0 。 （3）离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的 N倍。 （4）对于离散无记忆信源，当信源熵有最大值时，满足条件为__信源符号等概分布_。 （5）若一离散无记忆信源的信源熵H（X）等于2.5，对信源进行等长的无失真二进制编码，则编码长度至少为 3 。 （6）对于香农编码、费诺编码和霍夫曼编码，编码方法惟一的是香农编码。（7）已知某线性分组码的最小汉明距离为3，那么这组码最多能检测出_2_______个码元错误，最多能纠正___1__个码元错误。 （8）设有一离散无记忆平稳信道，其信道容量为C，只要待传送的信息传输率R__小于___C（大于、小于或者等于），则存在一种编码，当输入序列长度n足够大，使译码错误概率任意小。（9）平均错误概率不仅与信道本身的统计特性有关，还与___译码规则____________和___编码方法___有关 三、（5'）居住在某地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数的一半。 假如我们得知“身高1.6米以上的某女孩是大学生”的消息，问获得多少信息量？ 解：设A表示“大学生”这一事件，B表示“身高1.60以上”这一事件，则 P(A)=0.25 p(B)=0.5 p(B|A)=0.75 （2分） 故 p(A|B)=p(AB)/p(B)=p(A)p(B|A)/p(B)=0.75*0.25/0.5=0.375 （2分） I(A|B)=-log0.375=1.42bit （1分） 四、（5'）证明：平均互信息量同信息熵之间满足 I(X;Y)=H(X)+H(Y)-H(XY) 证明：
1． 有一个马尔可夫信源，已知p(x 1|x 1)=2/3，p(x 2|x 1)=1/3，p(x 1|x 2)=1，p(x 2|x 2)=0，试画出该信源的香农线图，并求出信源熵。 解：该信源的香农线图为： 1/3 ○ ○ 2/3 (x 1) 1 (x 2) 在计算信源熵之前，先用转移概率求稳定状态下二个状态x 1和 x 2 的概率)(1x p 和)(2x p 立方程：)()()(1111x p x x p x p =+)()(221x p x x p =)()(2132x p x p + )()()(1122x p x x p x p =+)()(222x p x x p =)(0)(2131x p x p + )()(21x p x p +=1 得4 3 1)(=x p 4 12)(=x p 马尔可夫信源熵H = ∑∑- I J i j i j i x x p x x p x p )(log )()( 得 H=0.689bit/符号 2．设有一个无记忆信源发出符号A 和B ，已知4 341)(.)(= =B p A p 。求： ①计算该信源熵； ②设该信源改为发出二重符号序列消息的信源，采用费诺编码方法，求其平均信息传输速率； ③又设该信源改为发三重序列消息的信源，采用霍夫曼编码方法，求其平均信息传输速率。 解：①∑- =X i i x p x p X H )(log )()( =0.812 bit/符号 ②发出二重符号序列消息的信源,发出四种消息的概率分别为 用费诺编码方法 代码组 b i BB 0 1 BA 10 2 AB 110 3 AA 111 3 无记忆信源 624.1)(2)(2 ==X H X H bit/双符号 平均代码组长度 2B =1.687 bit/双符号 B X H R )(22==0.963 bit/码元时间 ③三重符号序列消息有8个,它们的概率分别为 用霍夫曼编码方法 代码组 b i BBB 64 27 0 0 1 BBA 64 9 0 )(6419 1 110 3
一填空题 1、平均自信息为 表示信源的平均不确定度，也表示平均每个信源消息所提供的信息量。 平均互信息 表示从Y 获得的关于每个X 的平均信息量，也表示发X 前后Y 的平均不确定性减少的量，还表示通信前 后整个系统不确定性减少的量。 2、最大离散熵定理为：离散无记忆信源，等概率分布时熵最大,最大熵值为。 3、香农公式为 为保证足够大的信道容量，可采用（1）用频带换信噪比； （2）用信噪比换频带。 4、只要，当N 足够长时，一定存在一种无失真编码。 5、当R ＜C 时，只要码长足够长，一定能找到一种编码方法和译码规则，使译码错误概率无穷小。 6、1948年，美国数学家 香农 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。 7.人们研究信息论的目的是为了 高效、可靠、安全 地交换和利用各种各样的信息。 8.信息的 可度量性 是建立信息论的基础。 9.统计度量 是信息度量最常用的方法。 10、单符号离散信源一般用随机变量描述，而多符号离散信源一般用 随机矢量 描述。 11、一个随机事件发生某一结果后所带来的信息量称为自信息量，定义为 其发生概率对数的负值 。 12、自信息量的单位一般有 比特、奈特和哈特 。 13、必然事件的自信息是 0 。 14、不可能事件的自信息量是 ∞ 。 15、两个相互独立的随机变量的联合自信息量等于 两个自信息量之和 。 16、数据处理定理：当消息经过多级处理后，随着处理器数目的增多，输入消息与输出消息之间的平均互信息量 趋于变小 。 17、离散平稳无记忆信源X 的N 次扩展信源的熵等于离散信源X 的熵的 N 倍 。 18、离散平稳有记忆信源的极限熵，=∞H )/(lim 121-∞→N N N X X X X H 。 19、对于n 元m 阶马尔可夫信源，其状态空间共有 n m 个不同的状态。 20、一维连续随即变量X 在[a ，b]区间内均匀分布时，其信源熵为 log2（b-a ） 。
第1章 多媒体技术概要 1.1多媒体是什么？ 多媒体是融合两种或者两种以上媒体的一种人 -机交互式信息交流和传播媒体。使用的 媒体包括文字、图形、图像、声音、动画和视像 （video ）。 1.4无损压缩是什么？ 无损压缩是用压缩后的数据进行重构（也称还原或解压缩），重构后的数据与原来的数据 完全相同的数据压缩技术。 无损压缩用于要求重构的数据与原始数据完全一致的应用， 如磁盘文件压缩就是一个应 用实例。根据当前的技术水平，无损压缩算法可把普通文件的数据压缩到原来的 1/2?1/4。 常用的无损压缩算法包括哈夫曼编码和 LZW 等算法。 1.5有损压缩是什么？ 有损压缩是用压缩后的数据进行重构， 重构后的数据与原来的数据有所不同， 但不影响 人对原始资料表达的信息造成误解的数据压缩技术。 有损压缩适用于重构数据不一定非要和原始数据完全相同的应用。 例如，图像、视像和 声音数据就可采用有损压缩，因为它们包含的数据往往多于我们的视觉系统和听觉系统所能 感受的信 息，丢掉一些数据而不至于对图像、视像或声音所表达的意思产生误解。 1.9 H.261~H.264和G.711~G.731是哪个组织制定的标准? 国际电信联盟（ITU ）。 1.10 MPEG-1 , MPEG-2和MPEG-4是哪个组织制定的标准？ ISO/IEC ，即国际标准化组织（ISO ）/国际电工技术委员会（IEC ）。 第2章 无损数据压缩 2.1假设｛a,b,c ｝是由3个事件组成的集合，计算该集合的决策量。 作 单位)。 H o = (log 23) Sh = 1.580 Sh =(log e 3) Nat = 1.098 Nat = (log 103) Hart = 0.477Hart 2.2现有一幅用256级灰度表示的图像，如果每级灰度出现的概率均为 P （X i ） i 0,L ,255，计算这幅图像数据的熵。 也就是每级灰度的代码就要用 8比特，不能再少了。 (分别用Sh , Nat 和Hart 1/256 H(X) P(X i )log 2 p(X i ) i 1 256 (丄 256 1 log2 莎)=8 (位)，
一、概念简答题（每题5分，共40分） 1.什么是平均自信息量与平均互信息，比较一下这两个概念的异同？ 答：平均自信息为 表示信源的平均不确定度，也表示平均每个信源消息所提供的信息量。 平均互信息 表示从Y获得的关于每个X的平均信息量，也表示发X前后Y的平均不确定性减少的量，还表示通信前后整个系统不确定性减少的量。 2.简述最大离散熵定理。对于一个有m个符号的离散信源，其最大熵是多少？ 答：最大离散熵定理为：离散无记忆信源，等概率分布时熵最大。 最大熵值为。 3.解释信息传输率、信道容量、最佳输入分布的概念，说明平均互信息与信源的概率分布、信道的传递概率间分别是什么关系？ 答：信息传输率R指信道中平均每个符号所能传送的信息量。信道容量是一个信道所能达到的最大信息传输率。信息传输率达到信道容量时所对应的输入概率分布称为最佳输入概率分布。 平均互信息是信源概率分布的∩型凸函数，是信道传递概率的U型凸函数。 4.对于一个一般的通信系统，试给出其系统模型框图，并结合此图，解释数据处理定理。 答：通信系统模型如下：
数据处理定理为：串联信道的输入输出X、Y、Z组成一个马尔可夫链，且有， 。说明经数据处理后，一般只会增加信息的损失。 5.写出香农公式，并说明其物理意义。当信道带宽为5000Hz，信噪比为30dB时求信道容量。 .答：香农公式为，它是高斯加性白噪声信道在单位时间内的信道容量，其值取决于信噪比和带宽。 由得，则 6.解释无失真变长信源编码定理。 .答：只要，当N足够长时，一定存在一种无失真编码。 7.解释有噪信道编码定理。 答：当R＜C时，只要码长足够长，一定能找到一种编码方法和译码规则，使译码错误概率无穷小。 8.什么是保真度准则？对二元信源，其失真矩阵，求a>0时率失真函数的和？ 答：1）保真度准则为：平均失真度不大于允许的失真度。 2）因为失真矩阵中每行都有一个0，所以有，而。 二、综合题（每题10分，共60分） 1.黑白气象传真图的消息只有黑色和白色两种，求：
第一章：多媒体计算机技术概述 1、什么是多媒体？答：多媒体是指信息表示媒体的多样化，常见的多媒体有文本、图形、图像、声音、音乐、视频、动画等多种形式。 2、多媒体的关键特性包刮哪些方面？答：多维化、集成性、交互性、实时性。第二章多媒体计算机系统的组成 1、触摸屏分为几类？简述常见的触摸屏的工作原理。答：触摸屏根据所用的介质以及工作原理可分为4种：电阻式、电容式、红外线式、声表面波式。 触摸屏的工作原理是：当用户手指或其他设备触摸安装在计算机显示器前面的触摸屏时，所摸到的位置（以坐标形式）被触摸屏控制器检测到，并通过串行口或其它接口送到CPU，从而确定用户所输入的信息。 2、什么是视频捕捉卡？它的主要作用是什么？答：视频捕捉卡是把输入的模拟视频信号，通过内置芯片提供的捕捉功能转换成数字信号的设备。 3、简述USB设备的的软件、硬件结构。答：硬件：USB结构简单，采用四条电缆，信号定义由2条电源线和2条信号线组成。 软件：USB软件由USB总线接口和USB系统组成。USB总线接口由主控制器事实现。 USB系统有3个组件：（1）住控制器驱动程序；（2）USB驱动程序；（3）USB客户软件。 4、简述CCD和CMOS影像感应器的主要特点。答：CCD（charge coupled device,电荷耦合元件）传感器包含像点，通常以横竖线短阵型式排列，各像点包含一个光电二极管和控制相邻电荷的单元。这种结构可产生低噪音、高性能的成像。 CMOS传感器是用标准硅处理方法加工而成的。与CCD相比有以下优点：地电源消耗、芯片上符合有额外的电路、地系统成本。第三章数字图像处理技术 1、简述数据压缩的必要性和可能性。答：必要性：对多媒体信息进行实时压缩和解压缩是十分必要的。如果没有数据压缩技术的进步，多媒体计算机就难以得到实际的应用；可能性：能够对多媒体数据进行压缩的前提是因为数据存在大量的冗余，尤其是声音和图像。数据压缩的目的就是尽可能的消除这些冗余。 2、常用的数据压缩算法有哪些？答：常用的数据压缩算法有信息熵编码（主要有行程长度编码、哈弗曼编码和算术编码）、词典编码、通用编码、预测编码、模型编码、变换编码、矢量量化编码、子带编码和混合编码。 3、矢量图和位图有哪些不同？ 答：矢量图，文件内容图形指令，文件大小与图的复杂度有关，显示速度图越复杂，需执行的指令越多，显示越慢，应用特点易于编辑，适于绘制和创建，便
信息论与编码理论习题解 第二章-信息量和熵 解: 平均每个符号长为:154 4.0312.032= ?+?秒 每个符号的熵为9183.03log 3 1 23log 32=?+?比特/符号 所以信息速率为444.34 15 9183.0=?比特/秒 解: 同步信号均相同不含信息,其余认为等概, 每个码字的信息量为 3*2=6 比特； 所以信息速率为600010006=?比特/秒 解:(a)一对骰子总点数为7的概率是 36 6 所以得到的信息量为 585.2)366(log 2= 比特 (b) 一对骰子总点数为12的概率是36 1 所以得到的信息量为 17.536 1 log 2= 比特 解: (a)任一特定排列的概率为 ! 521 ,所以给出的信息量为 58.225! 521 log 2 =- 比特 (b) 从中任取13张牌,所给出的点数都不相同的概率为 1352 13 13 521344!13C A =? 所以得到的信息量为 21.134 log 1313 52 2=C 比特. 解:易证每次出现i 点的概率为 21 i ,所以
比特比特比特比特比特比特比特398.221 log 21)(807.1)6(070.2)5(392.2)4(807.2)3(392.3)2(392.4)1(6,5,4,3,2,1,21 log )(26 12=-==============-==∑ =i i X H x I x I x I x I x I x I i i i x I i 解: 可能有的排列总数为 27720! 5!4!3! 12= 没有两棵梧桐树相邻的排列数可如下图求得， Y X Y X Y X Y X Y X Y X Y X Y 图中X 表示白杨或白桦，它有???? ??37种排法，Y 表示梧桐树可以栽 种的位置，它有???? ??58种排法，所以共有???? ??58*???? ??37=1960种排法保证没有 两棵梧桐树相邻，因此若告诉你没有两棵梧桐树相邻时，得到关于树排列的信息为1960log 27720log 22-= 比特 解: X=0表示未录取，X=1表示录取； Y=0表示本市，Y=1表示外地； Z=0表示学过英语，Z=1表示未学过英语，由此得
多媒体技术练习题 一、填空题： 1、多媒体技术得主要特性有信息载体多样性、交互性与集成性 . 6、目前常用得压缩编码方法分为两类：失真编码与无失真编码。 9、根据奈奎斯特采样定理:一段频率为１０KHＺ得声音，如果要求采样后不失真重放,那么它得有采样频率必须大于就是＿２０KHZ_。 １1、在计算机中，根据图像记录方式得不同，图像文件可分为＿_位图__ 与 _＿矢量图__两大类。 ３3。国际常用得广播视频标准与记录格式有:_＿PＡL_＿、_NTＳC_与ＳEＣAM. 35、超文本与超媒体得主要特征就是多媒体化、网络结构形式与交互性。 40．一帧画面由若干个像素组成,在每一帧内得相邻像素之间相关性很大,有很大得信息冗余,称为_＿空域相关＿__. ４3．超文本系统得特性可以概括为：__多媒体化＿_、＿_网络结构形式__与__交互性＿_。 54.量化方法分为标量量化与矢量量化。 55。多媒体数据库基于内容得检索得体系结构为数据库生成子系统与数据库查询子系统。 57.声音得三要素就是：音调、响度与音色。 5８.HSI彩色空间表示中得Ｈ、S、Ｉ分别代表色调、颜色得饱与度、光得强度。 74、数据压缩得三个重要指标就是压缩比、图像质量、压缩与解压速度。 ７5、QoS服务得类型可分为：确定型ＱoS、统计型QoＳ、尽力型QoS。 二、单项选择题 1、使得多媒体信息可以一边接收,一边处理,很好地解决了多媒体信息在网络上得传输问题。（） Ａ、多媒体技术Ｂ、流媒体技术 C、ＡDSＬ技术 D、智能化技术 ３、多媒体视频会议系统得结构包括（)。 (１)多点控制器（2)控制管理软件（３）数字通信接口 (4）专用得计算机设备 A、(1），(２），(３）Ｂ、（1),（2），(4）C、(2），(3) D、全部、 ４、声音就是一种波,它得两个基本参数就是（ )？ A。采样率、采样位数B。振幅、频率 C．噪声、音质Ｄ。音色、音高 5、媒体在计算机领域得含义就是（）。 A.存储信息得实体?? B.传递信息得载体 C．A或B ??? D.A与B 6、在目前音频卡中，下述两个音频文件组合中（）能同时播放。 （1) 一个MIDI文件与一个波形文件（2） CD—ＤＡ数字音频光盘与一个MIＤI文件 （3) CD—DA数字音频光盘与一个波形文(４) 两个MＩDI文件 Ａ、仅（1） B、（1）,（２) C、（1)，(2)，(3）Ｄ、全部 7、在数据压缩方法中，有损压缩具有 (）得特点 A、压缩比大，不可逆 B、压缩比小,不可逆Ｃ、压缩比大，可逆 D、压缩比小，可逆 8、波形文件得主要缺点就是( ). A、质量较差???Ｂ、产生文件太大 Ｃ、声音缺乏真实感???D、压缩方法复杂 １5、基于内容检索要解决得关键技术就是( ）。 Ａ.多媒体特征提取与匹配?B．动态设计 C.多媒体数据管理技术Ｄ.多媒体数据查询技术 16、衡量数据压缩技术性能好坏得重要指标就是( ）。
信息论与编码期中试题答案 一、（10’）填空题 （1）1948年，美国数学家香农发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。 （2）必然事件的自信息是0 。 （3）离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的N倍。 （4）对于离散无记忆信源，当信源熵有最大值时，满足条件为__信源符号等概分布_。 （5）若一离散无记忆信源的信源熵H（X）等于2.5，对信源进行等长的无失真二进制编码，则编码长度至少为 3 。 二、（10?）判断题 （1）信息就是一种消息。（? ） （2）信息论研究的主要问题是在通信系统设计中如何实现信息传输、存储和处理的有效性和可靠性。（? ） （3）概率大的事件自信息量大。（? ） （4）互信息量可正、可负亦可为零。（? ） （5）信源剩余度用来衡量信源的相关性程度，信源剩余度大说明信源符号间的依赖关系较小。 （? ） （6）对于固定的信源分布，平均互信息量是信道传递概率的下凸函数。（? ） （7）非奇异码一定是唯一可译码，唯一可译码不一定是非奇异码。（? ） （8）信源变长编码的核心问题是寻找紧致码（或最佳码）。 （? ） （9）信息率失真函数R(D)是关于平均失真度D的上凸函数. ( ? ) 三、（10?）居住在某地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数的一半。 假如我们得知“身高1.6米以上的某女孩是大学生”的消息，问获得多少信息量？ 解：设A表示“大学生”这一事件，B表示“身高1.60以上”这一事件，则 P(A)=0.25 p(B)=0.5 p(B|A)=0.75 （5分） 故p(A|B)=p(AB)/p(B)=p(A)p(B|A)/p(B)=0.75*0.25/0.5=0.375 （4分） I(A|B)=-log0.375=1.42bit （1分）
一个马尔可夫信源有3个符号{}1,23,u u u ，转移概率为：()11|1/2p u u =，()21|1/2p u u =， ()31|0p u u =，()12|1/3p u u =，()22|0p u u =，()32|2/3p u u =，()13|1/3p u u =，()23|2/3p u u =，()33|0p u u =，画出状态图并求出各符号稳态概率。 解：状态图如下 状态转移矩阵为： 1/21/2 01/302/31/32/30p ?? ?= ? ??? 设状态u 1，u 2，u 3稳定后的概率分别为W 1，W 2、W 3 由1231WP W W W W =??++=?得1231132231231 112331223 231W W W W W W W W W W W W ?++=???+=???=???++=? 计算可得1231025925625W W W ?=??? =?? ?=?? 由符号集{0，1}组成的二阶马尔可夫链，其转移概率为：(0|00)p =，(0|11)p =，(1|00)p =， (1|11)p =，(0|01)p =，(0|10)p =，(1|01)p =，(1|10)p =。画出状态图，并计算各状态 的稳态概率。 解：(0|00)(00|00)0.8p p == (0|01)(10|01)0.5p p == (0|11)(10|11)0.2p p == (0|10)(00|10)0.5p p == (1|00)(01|00)0.2p p == (1|01)(11|01)0.5p p == (1|11)(11|11)0.8p p == (1|10)(01|10)0.5p p ==
第二章 信息量和熵 2.2 八元编码系统，码长为3，第一个符号用于同步，每秒1000个码字，求它的 信息速率。 解：同步信息均相同，不含信息，因此 每个码字的信息量为 2?8log =2?3=6 bit 因此，信息速率为 6?1000=6000 bit/s 2.3 掷一对无偏骰子，告诉你得到的总的点数为：(a) 7; (b) 12。问各得到多少信 息量。 解：(1) 可能的组合为 {1，6},{2，5},{3，4},{4，3},{5，2},{6，1} )(a p =366=6 1 得到的信息量 =) (1 log a p =6log =2.585 bit (2) 可能的唯一，为 {6，6} )(b p =361 得到的信息量=) (1 log b p =36log =5.17 bit 2.4 经过充分洗牌后的一副扑克（52张），问： (a) 任何一种特定的排列所给出的信息量是多少？ (b) 若从中抽取13张牌，所给出的点数都不相同时得到多少信息量？ 解：(a) )(a p =! 521 信息量=) (1 log a p =!52log =225.58 bit (b) ???????花色任选 种点数任意排列 13413!13 )(b p =13 52134!13A ?=1352 13 4C 信息量=1313 52 4log log -C =13.208 bit
2.9 随机掷3颗骰子，X 表示第一颗骰子的结果，Y 表示第一和第二颗骰子的 点数之和，Z 表示3颗骰子的点数之和，试求)|(Y Z H 、)|(Y X H 、 ),|(Y X Z H 、)|,(Y Z X H 、)|(X Z H 。 解：令第一第二第三颗骰子的结果分别为321,,x x x ，1x ，2x ，3x 相互独立， 则1x X =，21x x Y +=，321x x x Z ++= )|(Y Z H =)(3x H =log 6=2.585 bit )|(X Z H =)(32x x H +=)(Y H =2?( 361log 36+362log 18+363log 12+364log 9+365log 536)+36 6 log 6 =3.2744 bit )|(Y X H =)(X H -);(Y X I =)(X H -[)(Y H -)|(X Y H ] 而)|(X Y H =)(X H ，所以)|(Y X H = 2)(X H -)(Y H =1.8955 bit 或)|(Y X H =)(XY H -)(Y H =)(X H +)|(X Y H -)(Y H 而)|(X Y H =)(X H ，所以)|(Y X H =2)(X H -)(Y H =1.8955 bit ),|(Y X Z H =)|(Y Z H =)(X H =2.585 bit )|,(Y Z X H =)|(Y X H +)|(XY Z H =1.8955+2.585=4.4805 bit 2.10 设一个系统传送10个数字，0，1，…，9。奇数在传送过程中以0.5的概 率错成另外一个奇数，其余正确接收，求收到一个数字平均得到的信息量。 解： 8,6,4,2,0=i √ );(Y X I =)(Y H -)|(X Y H 因为输入等概，由信道条件可知，
一填空题（本题20分，每小题2分） 1、平均自信息为 表示信源的平均不确定度，也表示平均每个信源消息所提供的信息量。 平均互信息 表示从Y获得的关于每个X的平均信息量，也表示发X前后Y的平均不确定性减少的量，还表示通信前后整个系统不确定性减少的量。 2、最大离散熵定理为：离散无记忆信源，等概率分布时熵最大。 3、最大熵值为。 4、通信系统模型如下： 5、香农公式为为保证足够大的信道容量，可采用（1）用频带换信噪比；（2）用信噪比换频带。 6、只要，当N足够长时，一定存在一种无失真编码。 7、当R＜C时，只要码长足够长，一定能找到一种编码方法和译码规则，使译码错误概率无穷小。 8、在认识论层次上研究信息的时候，必须同时考虑到形式、含义和效用三个方面的因素。 9、1948年，美国数学家香农发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。 按照信息的性质，可以把信息分成语法信息、语义信息和语用信息。 按照信息的地位，可以把信息分成客观信息和主观信息。 人们研究信息论的目的是为了高效、可靠、安全地交换和利用各种各样的信息。 信息的可度量性是建立信息论的基础。 统计度量是信息度量最常用的方法。 熵是香农信息论最基本最重要的概念。 事物的不确定度是用时间统计发生概率的对数来描述的。 10、单符号离散信源一般用随机变量描述，而多符号离散信源一般用随机矢量描述。 11、一个随机事件发生某一结果后所带来的信息量称为自信息量，定义为其发生概率对数的负值。 12、自信息量的单位一般有比特、奈特和哈特。 13、必然事件的自信息是 0 。 14、不可能事件的自信息量是∞。 15、两个相互独立的随机变量的联合自信息量等于两个自信息量之和。 16、数据处理定理：当消息经过多级处理后，随着处理器数目的增多，输入消息与输出消息之间的平均互信息量趋于变小。 17、离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的 N倍。 18、离散平稳有记忆信源的极限熵，。 19、对于n元m阶马尔可夫信源，其状态空间共有 nm 个不同的状态。 20、一维连续随即变量X在[a，b]区间内均匀分布时，其信源熵为 log2（b-a）。
第一章 2.什么是多媒体?多媒体的关键特性包括那些方面? 答：（1）多媒体，从表面上讲，就是“多种媒体的综合”，相关的技术也就是“怎么样进行多种媒体综合技术”。多媒体技术概括的讲，就是能够对多种媒体信息进行综合的处理技术。所以多媒体技术可以定义为：以数字化为基础，能够对多种媒体信息进行采集、编码、存储、传输、处理和表现，综合处理多种媒体信息并使之建立起来有机的逻辑联系，集成为一个系统并具有良好交互性的技术。 （2）多媒体的关键特性主要包括信息载体的多样性、交互性和集成性这3个方面。 5.多媒体计算机组成的硬件环境包含那些设备? 答：多媒体计算机基本的硬件结构，主要包括功能强大的CPU，大容量的存储空间，高分辨率的显示接口和设备，音频接口和相应的设备，视频接口和相应的设备等。 一种典型的多媒体计算机配置的多媒体设备有：①光盘驱动器；②音频卡；③视频卡；④扫描卡； ⑤交互式控制接口；⑥网络接口；⑦打印机接口；⑧图形加速卡。 第二章 1.简述多媒体通信基本概念。 答：多媒体通信是指在一次呼叫过程中能同时提供多种媒体信息（如声音、图形、图象、数据、文本等）新型通信方式 3.简述媒体同步技术。 答：在多媒体系统中，通常利用多媒体从不同角度从不同侧面表现一个主题，此时不同媒体之间就存在同步问题，例如，视频播放时，伴音应和口型相吻合等。同步是多媒体系统中的一个关键问题，它与系统中许多因素有关，如通信系统、操作系统、数据库、文件及其应用形式等。因此，多媒体系统中同步应在不同的层面上考虑。 1.链路层同步，链路层同步处理的是媒体流内部以及多个媒体流之间的同步问题。 2.表示层同步，在将不同表示媒体的对象复合一个复合对象的过程中将引入同步机制，构成多媒体复合对象；或用超级链接将不同表示媒体的对象链接过程中引入同步机构，构成超媒体。 3.应用层同步，应用层同步采用的技术为脚本（Script）同步技术。 6.简述多媒体通信的终端技术。 答：多媒体终端作为人机交互的界面，具有两种功能：一是面向用户，提供一种自然、友好的交互环境，屏蔽掉各种复杂的网络功能；二是面向网络，下达其所需实施的各种功能，屏蔽掉应用环境的复杂性和不确定性。从多媒体系统具有交互性这一重要性来看，多媒体终端技术是离不开计算机技术的。而从PC派生出来的功能简化的终端则统称为“信息家电”。 多媒体通信的终端技术中，面向对象的软件开发技术成为主流技术；网络计算和分布式技术成为软件的核心技术；嵌入式软件技术成为智能化设备的基础；软件构件和复合技术成为提高软件开发生产率，形成规模生产的重要手段。 第三章 4.常用的变换编码由哪些？变换编码是如何压缩数据得？ 答：常用的变换编码有KLT变换和离散余弦DCT变换两种： 变化编码是有失真编码的一种重要的编码类型。在变化编码中，原始数据从初始空间或者时间域进行数学变换，使得信号中最重要的部分（例如包含最大能量的最重要的系数）在变换域中易于识别，并且集中出现，可以重点处理；相反使能量较少的部分较分散，可以进行粗处理。例如将时域信号变换到频域，因为声音、图象大部分信息都是低频信号，在频域中比较集中，再进行采样编码可以压缩数
《信息论与编码（第二版）》曹雪虹答案 第二章 2.1一个马尔可夫信源有3个符号{}1,23,u u u ，转移概率为：()11|1/2p u u =，()21|1/2p u u =， ()31|0p u u =，()12|1/3p u u =，()22|0p u u =，()32|2/3p u u =，()13|1/3p u u =，()23|2/3p u u =，()33|0p u u =，画出状态图并求出各符号稳态概率。 解：状态图如下 状态转移矩阵为： 1/21/2 01/302/31/32/30p ?? ?= ? ??? 设状态u 1，u 2，u 3稳定后的概率分别为W 1，W 2、W 3 由1231WP W W W W =??++=?得1231132231231 112331223231W W W W W W W W W W W W ?++=???+=???=???++=? 计算可得1231025925625W W W ?=??? =? ? ?=?? 2.2 由符号集{0，1}组成的二阶马尔可夫链，其转移概率为：(0|00)p =0.8，(0|11)p =0.2， (1|00)p =0.2，(1|11)p =0.8，(0|01)p =0.5，(0|10)p =0.5，(1|01)p =0.5，(1|10)p =0.5。画出 状态图，并计算各状态的稳态概率。 解：(0|00)(00|00)0.8p p == (0|01)(10|01)0.5p p == (0|11)(10|11)0.2p p == (0|10)(00|10)0.5p p == (1|00)(01|00)0.2p p == (1|01)(11|01)0.5p p == (1|11)(11|11)0.8p p == (1|10)(01|10)0.5p p ==
信息论与编码理论习题答案全解
第二章 信息量和熵 2.2 八元编码系统，码长为3，第一个符号用于同步，每秒1000个码字，求它的 信息速率。 解：同步信息均相同，不含信息，因此 每个码字的信息量为 2?8log =2?3=6 bit 因此，信息速率为 6?1000=6000 bit/s 2.3 掷一对无偏骰子，告诉你得到的总的点数为：(a) 7; (b) 12。问各得到多少 信息量。 解：(1) 可能的组合为 {1，6},{2，5},{3，4},{4，3},{5，2},{6，1} )(a p =366=6 1 得到的信息量 =) (1 log a p =6log =2.585 bit (2) 可能的唯一，为 {6，6} )(b p =361 得到的信息量=) (1 log b p =36log =5.17 bit 2.4 经过充分洗牌后的一副扑克（52张），问： (a) 任何一种特定的排列所给出的信息量是多少？ (b) 若从中抽取13张牌，所给出的点数都不相同时得到多少信息量？ 解：(a) )(a p =! 521 信息量=) (1 log a p =!52log =225.58 bit (b) ???????花色任选 种点数任意排列 13413!13 )(b p =13 52134!13A ?=1352 13 4C 信息量=1313 52 4log log -C =13.208 bit
2.9 随机掷3颗骰子，X 表示第一颗骰子的结果，Y 表示第一和第二颗骰子的 点数之和，Z 表示3颗骰子的点数之和，试求)|(Y Z H 、)|(Y X H 、 ),|(Y X Z H 、)|,(Y Z X H 、)|(X Z H 。 解：令第一第二第三颗骰子的结果分别为321,,x x x ，1x ，2x ，3x 相互独立， 则1x X =，21x x Y +=，321x x x Z ++= )|(Y Z H =)(3x H =log 6=2.585 bit )|(X Z H =)(32x x H +=)(Y H =2?( 361log 36+362log 18+363log 12+364log 9+365log 536)+36 6 log 6 =3.2744 bit )|(Y X H =)(X H -);(Y X I =)(X H -[)(Y H -)|(X Y H ] 而)|(X Y H =)(X H ，所以)|(Y X H = 2)(X H -)(Y H =1.8955 bit 或)|(Y X H =)(XY H -)(Y H =)(X H +)|(X Y H -)(Y H 而)|(X Y H =)(X H ，所以)|(Y X H =2)(X H -)(Y H =1.8955 bit ),|(Y X Z H =)|(Y Z H =)(X H =2.585 bit )|,(Y Z X H =)|(Y X H +)|(XY Z H =1.8955+2.585=4.4805 bit 2.10 设一个系统传送10个数字，0，1，…，9。奇数在传送过程中以0.5的概 率错成另外一个奇数，其余正确接收，求收到一个数字平均得到的信息量。 解： 信道 X Y 9,7,5,3,1=i 8,6,4,2,0=i √Χ );(Y X I =)(Y H -)|(X Y H 因为输入等概，由信道条件可知，
1.什么是多媒体 2.多媒体的关键特性包含哪些方面 3.触摸屏分为几类简述常见的触摸屏的工作原因 4 什么是视频捕捉卡他的主要作用是什么 ⒌简述USB设备的软件、硬件结构 ⒍简述CCD和CMOS影像感应器的主要特征 7.简述数据压缩的必要性和可能性 8.常用的数据压缩算法有哪些 9 .矢量图和位图有哪些不同 10、常用的几种图像文件格式BMP、GIF和PNG各有什么特点 … 11、简单描述JPEG压缩算法的基本流程。 12、与JPEG相比，JPEG2000有哪些优点在压缩算法上主要的不同是什么 13、MPEG-1标准中主要采用了什么技术来减少视频图像的时间和空间上的冗余 14、简述标准中QCIF（174*144）图像的帧结构。 15、什么叫做均匀量化什么叫做非均匀量化 16、在增量调制中为什么会产生粒状噪音 17、自适应脉冲编码调制（APCM）的基本思想是什么 18、差分脉冲编码调制（APCM）的基本思想是什么 19、自适应差分脉冲编码调制（ADPCM）两个基本思想是什么 20、简单说明声卡的工作原理。 ^ 21、简述光盘的发展史。 22、简要介绍CD光盘的结构，并比较它与硬盘的异同。 23、简述DVD播放机的结构。 24、与CD光盘相比、DVD是如何提高其存储容量的 25、对几种新型的光盘存储标准进行比较，说明各自的特点。 26、为了解决高速度光盘驱动的稳定性和数据的可靠性，通常采用了哪些技术 27、多媒体软件分为几类 28.什么是驱动程序，它的主要作用是什么 29.简述不同版本WINDOWS操作系统对多媒体的支持。 30.简述Windows环境下声音和视频数据的采用过程. " 31.评测一个多媒体创作工作的标准应包括哪些不部分 32.什么是超文本超文本系统有哪些要素组成 33.什么是超文本系统一个典型的超文本系统具有哪些主要的特征 语言与JAVA语言的主要区别是什么简述Javascript在网页设计中的作用。 语言是HTML预言的替代语言吗其主要优点有哪些 36.什么是SMIL语言其主要目的是什么 37.传统的数据库在进行多媒体数据存取时，采用了哪些数据类型 38.在SQL server 数据库中如何存取一个Microsoft Word 文档 39.多媒体数据具有哪些主要的特点，这些特点对多媒体数据库提出了哪些要求 40.什么是数据模型他有哪些要素组成多媒体数据的复杂性、分散性、时序性对数据模型提 出了哪些要求 `
一、填空题（每空1分，共35分） 1、1948年，美国数学家 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。信息论的基础理论是 ，它属于狭义信息论。 2、信号是 的载体，消息是 的载体。 3、某信源有五种符号}{,,,,a b c d e ，先验概率分别为5.0=a P ，25.0=b P ，125.0=c P ，0625.0==e d P P ，则符号“a ”的自信息量为 bit ，此信源的熵为 bit/符号。 4、某离散无记忆信源X ，其概率空间和重量空间分别为1 234 0.50.250.1250.125X x x x x P ????=??? ?????和1234 0.5122X x x x x w ???? =??????? ? ，则其信源熵和加权熵分别为 和 。 5、信源的剩余度主要来自两个方面，一是 ，二是 。 6、平均互信息量与信息熵、联合熵的关系是 。 7、信道的输出仅与信道当前输入有关，而与过去输入无关的信道称为 信道。 8、马尔可夫信源需要满足两个条件：一、 ； 二、 。 9、若某信道矩阵为????? ????? ??01000 1 000001 100，则该信道的信道容量C=__________。 10、根据是否允许失真，信源编码可分为 和 。 11、信源编码的概率匹配原则是：概率大的信源符号用 ，概率小的信源符号用 。（填 短码或长码） 12、在现代通信系统中，信源编码主要用于解决信息传输中的 性，信道编码主要用于解决信息传输中的 性，保密密编码主要用于解决信息传输中的安全性。 13、差错控制的基本方式大致可以分为 、 和混合纠错。 14、某线性分组码的最小汉明距dmin=4，则该码最多能检测出 个随机错，最多能纠正 个随机错。 15、码字101111101、011111101、100111001之间的最小汉明距离为 。 16、对于密码系统安全性的评价，通常分为 和 两种标准。 17、单密钥体制是指 。 18、现代数据加密体制主要分为 和 两种体制。 19、评价密码体制安全性有不同的途径，包括无条件安全性、 和 。 20、时间戳根据产生方式的不同分为两类：即 和 。 二、选择题（每小题1分，共10分） 1、下列不属于消息的是（ ）。 A. 文字 B. 信号 C. 图像 D. 语言 2、设有一个无记忆信源发出符号A 和B ，已知4341)(,)(==B p A p ，发出二重符号序列消息的信源， 无记忆信源熵)(2X H 为（ ）。 A. 0.81bit/二重符号 B. 1.62bit/二重符号 C. 0.93 bit/二重符号 D . 1.86 bit/二重符号 3、 同时扔两个正常的骰子，即各面呈现的概率都是1/6，若点数之和为12，则得到的自信息为（ ）。 A. －log36bit B. log36bit C. －log (11/36)bit D. log (11/36)bit 4、 二进制通信系统使用符号0和1，由于存在失真，传输时会产生误码，用符号表示下列事件，x0: 发出一个0 、 x1: 发出一个1、 y0 : 收到一个0、 y1: 收到一个1 ，则已知收到的符号，被告知发出的符号能得到的信息量是（ ）。 A. H(X/Y) B. H(Y/X) C. H( X, Y) D. H(XY) 5、一个随即变量x 的概率密度函数P(x)= x /2，V 20≤≤x ，则信源的相对熵为（ ）。 A . 0.5bit B. 0.72bit C. 1bit D. 1.44bit 6、 下面哪一项不属于熵的性质： （ ） A ．非负性 B ．完备性 C ．对称性 D ．确定性 信息论与编码 信息论与编码