当前位置:文档之家› 信息论与编码[第一章绪论]山东大学期末考试知识点复习

信息论与编码[第一章绪论]山东大学期末考试知识点复习

信息论与编码[第一章绪论]山东大学期末考试知识点复习
信息论与编码[第一章绪论]山东大学期末考试知识点复习

第一章绪论

1.1.1 信息的概念及常用术语

1.情报

情报是人们对于某个特定对象所见、所闻、所理解而产生的知识。

2.知识

知识是一种具有普遍和概括性质的高层次的信息。

3.消息

用文字、符号、数据、语言、音符、图片、图像等能够被人们的感觉器官所能感知的形式,把客观物质运动和主观思维活动的状态表达出来就成为消息。消息中包含信息,它是信息的载体,一则消息可以载荷不同的信息,可以通过得到消息从而获得信息。

4.信号

把消息变换成适合信道传输的物理量,这种物理量就称为信号。信号携带着消息,它是消息的运载工具。同一消息可用不同的信号来表示,同一信号也可表示不同的消息。

5.香农信息

香农信息定义为事物运动状态或存在方式的不确定性的描述。

6.可靠性

信息传输的可靠性就是要使信源发出的消息经过信道传输后,尽可能准确地、不失真地在接收端复现。

7.有效性

信息传输的有效性就是用尽可能短的时间和尽可能少的设备来传送一定数

量的信息。

8.保密性

在信息传输过程中要隐蔽和保护所传送的消息,使它只能被授权接收者获取,而不能被未授权者接收和理解。

9.认证性

指接收者能够判断所接收的消息的正确性,验证消息的完整性,而没有被伪造和篡改。可靠性、有效性、保密性和认证性体现了现代通信系统对信息传输的全面要求。

1.1.2 通信系统的统一模型

各种通信系统的基本任务是相同的,即“在通信的一端准确或近似地复现从另一端选择出来的消息”。香农将各种通信系统中具有共同特性的部分抽取出来,概括成一个统一的理论模型,如图1.1所示。

通信系统模型主要有5个部分组成。

1.信源

信源是产生消息和消息序列的源。信源输出的消息是随机的、不确定的,但又有一定的规律性。

2.编码器

编码器的作用是把消息变换成信号,并将信源和信道进行匹配。编码器可分为信源编码器和信道编码器。信源编码器对信源输出的消息进行适当的变换和处理,以提高信息传输的效率;信道编码器对消息进行适当的变换和处理,以提高信息传输的可靠性。编码器还应包括换能、调制、发射等各种变换处理。

3.信道

信道是传输信号的通道。在通信系统中,实际信道可以是有线的,也可以是无线的,并有多种传输媒介。信道同时对信号产生各种干扰和噪声。

4.译码器

译码器把信道输出的编码信号(已叠加了干扰和噪声)进行反变换。也分为信源译码器和信道译码器。

5.信宿

信宿是消息传送的对象,即接收消息的人或机器。

1.1.3 信息传输系统的模型

信息传输系统的基本模型全面概括了现代通信系统对信息传输的要求。如图1.2所示。

研究这个信息传输系统的目的就是要找到信息传输过程的共同规律,以提高信息传输的可靠性、有效性、保密性和认证性,使信息传输系统达到最优化。

计算机网络答案-山东大学期末考题目答案

计算机网络答案-山东大学期末考题目答案

第一章概述 1-3试从多个方面比较电路交换、报文交换和分组交换的主要优缺点。 答:1、电路交换电路交换是一种必须经过“建立连接-通话-释放链接”三个步骤的一条专用物理通路。从建立连接开始,通讯就一直占用信道资源,直到释放。它具有实施性强,时延小,交换设备成本低的优点。同时,其线路利用效率低,通信效率低,不同类型终端之间不可通讯。电路交换适用于信息量大,较长的报文。 2、报文交换报文交换本质上也是存储转发方式,但是它将整个报文从一个结点传到下一个。它的优点是中继电路利用率高,可以多个用户同时在一条线路上传送。缺点在于报文信息量大,时延长,且占用交换机内存较大,不具有实时性。它适用于报文较短,实时性较低的通讯。 3、分组交换分组交换是将报文分组,在每个分组之前加上地址信息,通过路由器经接收,存储,再转发到下一个接口,直到将分组传到目标地址,再去掉地址信息将其重组为完整报文。在分组传输的过程中动态分配传输宽带,逐

段占用通信链路,多个分组数可同时传送。它传输效率高,且保证数据传输有很高可靠性。同时分组排队会造成时延,但比报文交换小,且成本较高。 1-12 因特网的两大组成部分(边缘部分与核心部分)的特点是什么?他们的工作方式各有什么特点? 答:边缘部分由所有连接在因特网上的主机组成,由用户直接使用,进行通信和资源共享。核心部分,是由大量网络和连接这些网络的路由器组成,主要为边缘部分服务提供连通性和交换。边缘部分不同终端上的程序通信方式有客户-服务器方式和对等方式。客户-服务器方式指进行通讯的双方中一方为服务请求方,一方为服务提供方。客户向服务器发送远程服务请求,因此客户程序必须知道服务器程序地址,而服务器只需要被动接受请求,不需要知道客户程序地址,但需要强大硬件和高级操作系统支持。对等方式是双方均可既为服务提供者,也可以为服务请求

信息论与编码试卷与答案

一、(11’)填空题 (1)1948年,美国数学家香农发表了题为“通信的数学理论”的长篇论文,从而创立了信息论。 (2)必然事件的自信息是 0 。 (3)离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的 N倍。 (4)对于离散无记忆信源,当信源熵有最大值时,满足条件为__信源符号等概分布_。 (5)若一离散无记忆信源的信源熵H(X)等于2.5,对信源进行等长的无失真二进制编码,则编码长度至少为 3 。 (6)对于香农编码、费诺编码和霍夫曼编码,编码方法惟一的是香农编码。(7)已知某线性分组码的最小汉明距离为3,那么这组码最多能检测出_2_______个码元错误,最多能纠正___1__个码元错误。 (8)设有一离散无记忆平稳信道,其信道容量为C,只要待传送的信息传输率R__小于___C(大于、小于或者等于),则存在一种编码,当输入序列长度n足够大,使译码错误概率任意小。(9)平均错误概率不仅与信道本身的统计特性有关,还与___译码规则____________和___编码方法___有关 三、(5')居住在某地区的女孩中有25%是大学生,在女大学生中有75%是身高1.6米以上的,而女孩中身高1.6米以上的占总数的一半。 假如我们得知“身高1.6米以上的某女孩是大学生”的消息,问获得多少信息量? 解:设A表示“大学生”这一事件,B表示“身高1.60以上”这一事件,则 P(A)=0.25 p(B)=0.5 p(B|A)=0.75 (2分) 故 p(A|B)=p(AB)/p(B)=p(A)p(B|A)/p(B)=0.75*0.25/0.5=0.375 (2分) I(A|B)=-log0.375=1.42bit (1分) 四、(5')证明:平均互信息量同信息熵之间满足 I(X;Y)=H(X)+H(Y)-H(XY) 证明:

信息论与编码复习题

一、填空题 1.设信源X 包含4个不同离散消息,当且仅当X 中各个消息出现的概率为___Pi=1/4___时,信源熵达到最大值,为__2bit_,此时各个消息的自信息量为____2bit_______。 2.如某线性分组码的最小汉明距dmin=4,则该码最多能检测出___3_____个随机错,最多能 纠正___INT__个随机错。 3.克劳夫特不等式是唯一可译码___存在___的充要条件。 4.平均互信息量I(X;Y)与信源熵和条件熵之间的关系是_I (X :Y )=H (X )-H (X/Y ) 5.__信源__编码的目的是提高通信的有效性,_信道_编码的目的是提高通信的可靠性,__ 加密__编码的目的是保证通信的安全性。 6.信源编码的目的是提高通信的 有效性 ,信道编码的目的是提高通信的 可靠性 ,加密 编码的目的是保证通信的 安全性 。 7.设信源X 包含8个不同离散消息,当且仅当X 中各个消息出现的概率为__1/8_____时,信 源熵达到最大值,为___3bit/符号_________。 8.自信息量表征信源中各个符号的不确定度,信源符号的概率越大,其自信息量越__小____。 9.信源的冗余度来自两个方面,一是信源符号之间的_相关性__,二是信源符号分布的 __不均匀性___。 10.最大后验概率译码指的是 译码器要在已知r 的条件下找到可能性最大的发码Ci 作为移 码估值 。 11.常用的检纠错方法有__前向纠错__、反馈重发和混合纠错三种。 二、单项选择题 1.下面表达式中正确的是( A )。 A. ∑=j i j x y p 1)/( B.∑=i i j x y p 1)/( C.∑=j j j i y y x p )(),(ω D.∑=i i j i x q y x p )(),( 2.彩色电视显像管的屏幕上有5×105 个像元,设每个像元有64种彩色度,每种彩度又有 16种不同的亮度层次,如果所有的彩色品种和亮度层次的组合均以等概率出现,并且各个 组合之间相互独立。每秒传送25帧图像所需要的信道容量( C )。 A. 50106 B. 75106 C. 125106 D. 250106

信息论与编码试题-精选.

模拟试题一 一、概念简答题(共10题,每题5分) 1.简述离散信源和连续信源的最大熵定理。 2.什么是平均自信息(信息熵)?什么是平均互信息?比较一下两个概念的异同之处。 3.解释等长信源编码定理和无失真变长信源编码定理,说明对于等长码和变长码,最佳码的每符号平均码长最小为多少?编码效率最高可达多少? 4.解释最小错误概率译码准则,最大似然译码准则和最小距离译码准则,说明三者的关系。 5.设某二元码字C={111000,001011,010110,101110}, ①假设码字等概率分布,计算此码的编码效率? ②采用最小距离译码准则,当接收序列为110110时,应译成什么码字? 6.一平稳二元信源,它在任意时间,不论以前发出过什么符号,都按 发出符号,求

和平均符号熵 7.分别说明信源的概率分布和信道转移概率对平均互信息的影响,说明平均互信息与信道容量的关系。

8.二元无记忆信源,有求:(1)某一信源序列由100个二元符号组成,其中有m个“1”,求其自信息量?(2)求100个符号构成的信源序列的熵。 9.求以下三个信道的信道容量:

,,

10.已知一(3,1,3)卷积码编码器,输入输出关系为:

试给出其编码原理框图。 二、综合题(共5题,每题10分) 1.二元平稳马氏链,已知P(0/0)=0.9,P(1/1)=0.8,求: (1)求该马氏信源的符号熵。 (2)每三个符号合成一个来编二进制Huffman码,试建立新信源的模型,给出编码结果。 (3)求每符号对应的平均码长和编码效率。 2.设有一离散信道,其信道矩阵为,求:(1)最佳概率分布?

信息论与编码复习题,德州学院

一、填空 1. 信息论基础主要研究信息的测度、 信道容量 、 信源和信道编码理论 等问题。 2. 必然事件的自信息量是0,不可能事件的自信息量是无穷大。 3. 若把掷骰子的结果作为一离散信源,则信源熵为 2log 。 4. 当事件i x 和j y 彼此之间相互独立时,平均互信息量为 0 。 5. 若二维平稳信源的信源熵为3bit/sign ,则其平均符号熵为1.5bit/sign 。 6. 信源熵H(X)表示信源输出后每个消息所提供的 平均信息量 。 7. 布袋中有红白球各50只,若从中随意取出一只球,则判断其颜色所需的信息量为 1bit 。 8. 单符号离散信源是用随机变量来描述的,则多符号离散信源用随机矢量来描述。 9. 平均互信息量与信息熵、联合熵的关系是I(X;Y)=H(X)+H(Y)-H(XY) 。 10. 条件熵H (x|y )和无条件熵H (X )的关系是小于等于。 11. 对于理想信道,H (x|y )等于0 ;I (x ;y )= H (X )。 12. 若YZ 统计独立,则H (YZ )和H (Y )、H (Z )之间的关系是H (YZ )=H (Y )+H (Z ) 。 13. 对某含有7个消息的信源,其熵的最大值为2log 7,对应为等概分布分布。 14. 对某含有8个消息的信源,其熵的最大值为2log 8,对应为等概分布。 15. 对某含有6个消息的信源,其熵的最大值为2log 6,对应为等概分布。 16. 对某含有9个消息的信源,其熵的最大值为2log 9,对应为等概分布。 17. 十六进制脉冲所含的信息量是四进制脉冲的2 倍。 18. 八进制脉冲所含的信息量是二进制脉冲的3倍。 19. 十六进制脉冲所含的信息量是二进制脉冲的 4倍。 20. 离散平稳无记忆信源的N 次扩展信源的熵等于离散信源熵的N 倍。 21. 离散信源的熵越小,则该信源消息之间的平均不确定性越弱。 22. 对于r 进制树图,n 级节点的个数一般为n r 。 23. 信道中任一时刻输出符号仅统计依赖于对应时刻的输入符号,而与非对应时刻的输入符号及其它任何 时刻的输出符号无关,这种信道称之为 有干扰无记忆信道 。 24. 对于某一信源和某一符号集来说,若有一个唯一可译码,其平均码长小于所有其它唯一可译码的平均 码长,则称该码为紧致码或最佳码 。 25. 分组码是前向纠错码 ,它可以在无需重新发射的情况下检测出有限个错码,并加以纠正。 26. 信源编码的目的是提高通信的有效性。 27. 对于香农编码和哈夫曼编码,编码方法唯一的是香农编码 。 28. 若纠错码的最小距离为dmin,则可以纠错任意小于等于(dmin-1)/2个差错。 29. 线性分组码是同时具有线性特性和分组特性的纠错码。 30. 道的输出仅与当前输入有关,而与过去无关的信道称无记忆信道。 31. 唯一可译码存在的充要条件是 1 1i n k i m -=≤∑ 。 32. 编码分为信源编码和信道编码两种。 33. 信道无失真传输信息的条件是信息传输速率小于信道容量。 34. 对称信道中,信源的最佳分布为等概分布。 35. 信源编码和信道编码的最大区别在于信源编码需减少信源的冗余度,而信道编码需增加信源的冗余。 36. 信道编码的目的是提高通信的可靠性。 37. 离散信源分为离散无记忆信源 和 离散有记忆信源。

信息论与编码期末考试题(全套)..

于信源爛H(X). () 2.由于构成同一空间的基底不是唯一的,所以不同的基底或生成矩阵有可能生成同一码集. () 3.—般情况下,用变长编码得到的平均码长比定长编码 大得多. () 4.只要信息传输率大于信道容量,总存在一种信道编译 码,可以以所要求的任意小的误差概率实现可靠的通信 . () 5.务码字的长度符合克拉夫特不等式,是唯一可译码存在的充分和必要条件.() &连续信源和离散信源的爛都具有非负性. () 7.信源的消息通过信道传输后的误差或失真越大,信宿收到消息后对信源存在的不确 定性就越小,获得的信息戢就越小. 8.汉明码是一种线性分组码. () 9.率失真函数的最小值是0 . () 10.必然事件和不可能事件的自信息量都是0 . () 二、填空题共6小题,满分20分. 1 、码的检、纠错能力取决 于______________________________ . 2、___________________________________ 信源编码的目的是:信道编码 的目的是____________________ . 3、把信息组原封不动地搬到码字前k位的(仏灯码就叫 做___________________ ? 4、香农信息论中的三大极限建理 是____________________ 、 ____________________ 、■ 5、耳信道的输入与输出随机序列分别为X和Y ,则 KX\Y N)=NI(X,Y)成立的 条件______________________________ ? 6、对于香农-费诺编码、原始香农-费诺编码和哈夫曼编码, 编码方法惟一的是 O ",则该信源的Dmax= ________ a 0 三、本题共4小题,满分50分. K某信源发送端有2种符号x,i = 1,2), /心)=a:接收端 有3种符号y r. () = 123),转移概率矩阵为 1/2 1/2 0 P = ? 1/2 1/4 1/4. (1)计算接收端的平均不确定 度 (2)计算由于噪声产生的不确 定度H(rix): (3)计算信道容量以及最佳入 口分布. 2、一阶马尔可夫信源的状态转移 (1) 求信源平稳后的概率分布: (2) 求此信源的燔: (3) 近似地认为此信源为无记忆时,符号的概率分布为 稳分布?求近似信源的爛H(X)并与Hs进行比较. 4、设二元(7,4)线性分组码的生成矩阵为0 0 0 10 0 0 1 0 0 0 1 (1)给岀该码的一致校验矩阵,写出 所有的陪集首和与之相对应的伴随式: (2)若接收矢gv = (0001011),试讣 算出其对应的伴 随式S并按照最小距离译码准则试着对其译码. (二) 一、填空题(共15分,每空1分) 一、判断题共10小J满分20分. 1.当随机变量X和丫相互独立时,条件爛H(XI Y)等 7、某二元信源[爲冷打加其失真矩阵 图如右图所示, 信源X的符号集为{0丄2}? 1 1 0 1 G = 1 1 0 1 1 0 1 0 1 0

山东大学期末考试知识点复习

第七章新闻图片编辑 【知识框架】 【重点难点归纳】 一、新闻图片的种类及其地位 1.报纸上常见的图片种类 (1)照片 新闻照片就是以新闻事件、新闻人物为拍摄对象,再现新闻现场情景的照片,它可以作为独立的新闻报道出现在版面上,也可以配合文字报道一同编发。 (2)漫画 漫画在现代报纸上的使用非常广泛,有根据新闻事实进行艺术加工的新闻漫画,时效性较强,经常刊登在新闻版上;也有反映社会生活现象的社会性漫画,通常刊登在专刊副刊上;还有用来配合文字报道的图解式漫画以及连环漫画、幽默画等。 (3)图示 图示包括统计图表、示意图和新闻地图三类。 统计图表就是将统计数字制成表格图,便于读者集中阅读,一目了然。

示意图不但将统计数字集中绘制成图,而且用形象化的手法表示这些数据所说明的意义。 新闻地图则是根据标准地图,将新闻发生地的地理位置绘制成更加简洁明确的地图。 (4)图饰 图饰一般是用美术图案点缀和烘托报纸的报头、报眉、标题、栏题、版头或版面的其他部位,使整个版面更加美观生动,恰当地运用图饰还能使版面编排思想得到更加充分的体现。 2.图片的地位与作用 (1)纪实性作用 作为独立报道体裁的新闻照片具有再现新闻现场、记载真实瞬间的作用,这类照片成为报纸上不可或缺的重要组成部分。 (2)证实性作用 非独立使用的新闻照片与非新闻照片具有证实文字报道的作用,这类照片对新闻资源的充分发掘,对提高新闻报道的可信度具有重要意义。 (3)解说性作用 图表、示意图、新闻地图、漫画等能够以形象性的符号统计和描绘新闻报道中的某些内容,从而对相对比较枯燥的文字表述进行生动易懂的解释。 (4)装饰性作用 图片的形象性特征使其可以作为文字稿件的美化装饰手段。 (5)视觉冲击性作用 图片的形象性和直观性能够产生强烈的视觉冲击效果,产生巨大的吸引力与震撼力,这是文字报道所难以达到的。

信息论与编码试卷及答案

一、概念简答题(每题5分,共40分) 1.什么是平均自信息量与平均互信息,比较一下这两个概念的异同? 平均自信息为:表示信源的平均不确定度,表示平均每个信源消息所提供的信息量。 平均互信息:表示从Y获得的关于每个X的平均信息量;表示发X前后Y的平均不确定性减少的量;表示通信前后整个系统不确定性减少的量。 2.简述最大离散熵定理。对于一个有m个符号的离散信源,其最大熵是多少? 最大离散熵定理为:离散无记忆信源,等概率分布时熵最大。 最大熵值为 3.解释信息传输率、信道容量、最佳输入分布的概念,说明平均互信息与信源的概率分布、信道的传递概率间分别是什么关系? 信息传输率R指信道中平均每个符号所能传送的信息量。信道容量是一个信道所能达到的最大信息传输率。信息传输率达到信道容量时所对应的输入概率分布称为最佳输入概率分布。 平均互信息是信源概率分布的∩型凸函数,是信道传递概率的U型凸函数。 4.对于一个一般的通信系统,试给出其系统模型框图,并结合此图,解释数据处理定理。 数据处理定理为:串联信道的输入输出X、Y、Z组成一个马尔可夫链,且有, 。说明经数据处理后,一般只会增加信息的损失。

5.写出香农公式,并说明其物理意义。当信道带宽为5000Hz,信噪比为30dB时求信道容量。香农公式为 ,它是高斯加性白噪声信道在单位时间内的信道容量,其值取决于信噪比和带宽。 由得,则 6.解释无失真变长信源编码定理。只要,当N足够长时,一定存在一种无失真编码。 7.解释有噪信道编码定理。答:当R<C时,只要码长足够长,一定能找到一种编码方法和译码规则,使译码错误概率无穷小。 8.什么是保真度准则?对二元信源,其失真矩阵,求a>0时率失真函数的和?答:1)保真度准则为:平均失真度不大于允许的失真度。 2)因为失真矩阵中每行都有一个0,所以有,而。 二、综合题(每题10分,共60分) 1.黑白气象传真图的消息只有黑色和白色两种,求: 1)黑色出现的概率为0.3,白色出现的概率为0.7。给出这个只有两个符号的信源X的数学模型。假设图上黑白消息出现前后没有关联,求熵;

计算机网络答案 山东大学期末考题目答案

第一章概述 1-3试从多个方面比较电路交换、报文交换和分组交换的主要优缺点。 答:1、电路交换电路交换是一种必须经过“建立连接-通话-释放链接”三个步骤的一条专用物理通路。从建立连接开始,通讯就一直占用信道资源,直到释放。它具有实施性强,时延小,交换设备成本低的优点。同时,其线路利用效率低,通信效率低,不同类型终端之间不可通讯。电路交换适用于信息量大,较长的报文。 2、报文交换报文交换本质上也是存储转发方式,但是它将整个报文从一个结点传到下一个。它的优点是中继电路利用率高,可以多个用户同时在一条线路上传送。缺点在于报文信息量大,时延长,且占用交换机内存较大,不具有实时性。它适用于报文较短,实时性较低的通讯。 3、分组交换分组交换是将报文分组,在每个分组之前加上地址信息,通过路由器经接收,存储,再转发到下一个接口,直到将分组传到目标地址,再去掉地址信息将其重组为完整报文。在分组传输的过程中动态分配传输宽带,逐段占用通信链路,多个分组数可同时传送。它传输效率高,且保证数据传输有很高可靠性。同时分组排队会造成时延,但比报文交换小,且成本较高。 1-12 因特网的两大组成部分(边缘部分与核心部分)的特点是什么?他们的工作方式各有什么特点? 答:边缘部分由所有连接在因特网上的主机组成,由用户直接使用,进行通信和资源共享。核心部分,是由大量网络和连接这些网络的路由器组成,主要为边缘部分服务提供连通性和交换。边缘部分不同终端上的程序通信方式有客户-服务器方式和对等方式。客户-服务器方式指进行通讯的双方中一方为服务请求方,一方为服务提供方。客户向服务器发送远程服务请求,因此客户程序必须知道服务器程序地址,而服务器只需要被动接受请求,不需要知道客户程序地址,但需要强大硬件和高级操作系统支持。对等方式是双方均可既为服务提供者,也可以为服务请求者。 网络核心部分要想网络边缘部分提供连通性和交换,起关键作用的是路由器,其任务是转发收到的分组,使得边缘部分的每一个终端都能够向其他主机通信。 1-14 计算机网络有哪些常用的性能指标? 答:1、速率:连结在计算机网络上的主机在数字信道上传送数据的速率,单位为b/s(其中 b 为bit,表示一个二进制数字,比特是计算机中数据量的单位) 2、带宽:带宽本来指的是某个信号具有的频带宽度,单位为赫;由于通信的主干线传送的是模拟信号,所以,带宽表示通信线路允许通过的信号频带范围,表示在单位时间内,从网络中的某一点到另一点所能通过的“最高数据率”,单位是比特每秒。 3、吞吐量:表示单位时间内通过某个网络口的数据量,经常用于对现实世界中的网络的一种测量,以便知道实际上到底有多少数据量能通过网络 4、时延:时延指数据从网络的一段传送到另一端所需要的时间。有以下几个部分组成:(1)发送时延从主机发送数据帧的第一个比特算起,到该帧的最后一个比特发送完毕所需要的

信息论与编码试题集与答案

一填空题(本题20分,每小题2分) 1、平均自信息为 表示信源的平均不确定度,也表示平均每个信源消息所提供的信息量。 平均互信息 表示从Y获得的关于每个X的平均信息量,也表示发X前后Y的平均不确定性减少的量,还表示通信前后整个系统不确定性减少的量。 2、最大离散熵定理为:离散无记忆信源,等概率分布时熵最大。 3、最大熵值为。 4、通信系统模型如下: 5、香农公式为为保证足够大的信道容量,可采用(1)用频带换信噪比;(2)用信噪比换频带。 6、只要,当N足够长时,一定存在一种无失真编码。 7、当R<C时,只要码长足够长,一定能找到一种编码方法和译码规则,使译码错误概率无穷小。 8、在认识论层次上研究信息的时候,必须同时考虑到形式、含义和效用三个方面的因素。 9、1948年,美国数学家香农发表了题为“通信的数学理论”的长篇论文,从而创立了信息论。 按照信息的性质,可以把信息分成语法信息、语义信息和语用信息。 按照信息的地位,可以把信息分成客观信息和主观信息。 人们研究信息论的目的是为了高效、可靠、安全地交换和利用各种各样的信息。 信息的可度量性是建立信息论的基础。 统计度量是信息度量最常用的方法。 熵是香农信息论最基本最重要的概念。 事物的不确定度是用时间统计发生概率的对数来描述的。 10、单符号离散信源一般用随机变量描述,而多符号离散信源一般用随机矢量描述。 11、一个随机事件发生某一结果后所带来的信息量称为自信息量,定义为其发生概率对数的负值。 12、自信息量的单位一般有比特、奈特和哈特。 13、必然事件的自信息是 0 。 14、不可能事件的自信息量是∞。 15、两个相互独立的随机变量的联合自信息量等于两个自信息量之和。 16、数据处理定理:当消息经过多级处理后,随着处理器数目的增多,输入消息与输出消息之间的平均互信息量趋于变小。 17、离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的 N倍。 18、离散平稳有记忆信源的极限熵,。 19、对于n元m阶马尔可夫信源,其状态空间共有 nm 个不同的状态。 20、一维连续随即变量X在[a,b]区间内均匀分布时,其信源熵为 log2(b-a)。

山东大学威海分校实验室管理办法

大学生科技创新实验室管理办法(暂行) 为进一步提高我校学生综合素质,培养学生的科技实践能力、创新和团队合作的精神,激励学生崇尚科学、追求真知、锐意进取、开拓创新,根据《国家中长期科学和技术发展规划纲要》精神和教育部高等教育司《关于鼓励教师积极参与指导大学生科技竞赛活动的通知》精神,空间科学与物理学院结合自身实际情况开展了“挑战杯”、大学生科技立项等活动,为了将这一系列活动进一步落到实处,充分利用实验室资源,促进大学生科研能力以及综合素质的提高,实验室将为获得科技立项以及“挑战杯”重点作品等项目提供开放性实验室。为使开放性实验室的使用更加规范化、制度化,并结合设备和实验室管理处有关规定,特制定本管理办法。 一、开放性实验室的服务对象: 1、获得学校科技立项并需要利用实验室的项目; 2、学校“挑战杯”扶持项目; 3、特批的其他需利用实验室的科研项目。 二、管理制度 1、符合要求的申请对象须登陆〈开放实验室预约管理系统〉进行

预约,需等实验室管理员同意批准后,填写《创新实验登记表》,方可在指定的实验室进行相关操作。 2、实验室为每个团队指派若干名指导教师,学生也可以自行先与指导教师联系后再把名单告知本实验室,但指导教师中应至少有1名为本实验室的任课教师或实验技术人员。 3、实验室为每个团队提供一定的实验空间,并在实验期间固定由该团队使用,直至实验完成。 4、实验室为每个立项的团队提供必要的实验设备,但以不影响正常的实验课教学为前提。团队成员可在实验期间自由使用这些设备,每次都需填写《仪器使用纪录本》,并负有保管、维护、修理这些设备的责任。 5、在不影响实验室正常教学秩序的前提下,学生实验项目的实施时间调配由各实验室管理员进行安排。实验过程中若出现异常情况应尽快与管理员联系解决,不得自行处理。 6、本实验室由学生自行管理,学生可自行制定若干管理规定,并负责实施。若本功能室中同时有多于1个的团队在开展工作,则要求团队间协调好管理的工作。 7、学生在上班的任何时间内均可进入本功能室工作,离开前须关好门窗、水电、总电源开关等,并注意保持实验室的卫生整洁。

信息论与编码期末考试题----学生复习用

《信息论基础》参考答案 一、填空题 1、信源编码的主要目的是提高有效性,信道编码的主要目的是提高可靠性。 2、信源的剩余度主要来自两个方面,一是信源符号间的相关性,二是信源符号的统计不均匀性。 3、三进制信源的最小熵为0,最大熵为32log bit/符号。 4、无失真信源编码的平均码长最小理论极限制为信源熵(或H(S)/logr= H r (S))。 5、当R=C 或(信道剩余度为0)时,信源与信道达到匹配。 6、根据信道特性是否随时间变化,信道可以分为恒参信道和随参信道。 7、根据是否允许失真,信源编码可分为无失真信源编码和限失真信源编码。 8、若连续信源输出信号的平均功率为2σ,则输出信号幅度的概率密度是高斯分布或正态分布或()22 212x f x e σπσ -= 时,信源 具有最大熵,其值为值21 log 22 e πσ。 9、在下面空格中选择填入数学符号“,,,=≥≤?”或“?” (1)当X 和Y 相互独立时,H (XY )=H(X)+H(X/Y)=H(Y)+H(X)。 (2)()() 1222H X X H X =≥()()12333 H X X X H X = (3)假设信道输入用X 表示,信道输出用Y 表示。在无噪有损信道中,H(X/Y)> 0, H(Y/X)=0,I(X;Y)

山东大学网络教育期末考试试题及答案-生理学B

生理学 B 一、单项选择题 1.引起组织发生反应的环境变化称为 A.刺激 B.反射 C.反馈 D.兴奋 2.寒冷引起甲状腺激素分泌增多,是属于 A.神经调节 B.体液调节 C.局部调节 D. 自身调节 3.心室肌收缩期及舒张早期相当于兴奋性的 A.低常期 B.相对不应期 C.有效不应期 D. 超常期 4.肾上腺素对受体的结合力是 A.都很强 B.对α强,弱 C.对β强,α弱 D.只对α 5.使细胞去极化达阈电位的刺激是 A.阈刺激 B.刺激阈 C.阈下刺激 D.阈强度 6.细胞膜主动转运的特点是 A.转运脂溶性物质 B.耗能 C.靠通道协同 D.顺电-化学梯度7.细胞膜内外存在的电位差通称为 A.动作电位 B.静息电位 C.跨膜电位 D. 局部电位 8.房室瓣关闭与动脉瓣开放间的时间相当 A.快速射血期 B.射血期 C.室缩期 D. 心室等容收缩期 9.下列哪种情况可使心输出量增加 A.刺激迷走神经 B.由卧位转为站立位 C.心率>180次 D. 颈动脉窦内压降低 10.静脉回心血量增多时,可引起 A.心室后负荷减少 B.心室舒张期延长 C. 心室前负荷增加 D.充盈期缩短 11.血浆pH值主要通过下列哪条途径维持的? A.血液B.消化道C.肾D.皮肤 12.呼吸频率从12次/分增加到24次/分,潮气量从500ml减少到250ml,则: A.肺通气量增加B.肺泡通气量增加 C.肺泡通气量不变D.肺泡通气量减少 13.在下列哪一时相中,肺内压等于大气压? A.吸气和呼气初B.吸气末和呼气初 C.呼气初和呼气末D.呼气末和吸气末 14.使胰蛋白酶原活化的最主要的物质是: A.盐酸B.组织液C.肠致活D.糜蛋白酶 15.促胰液素能促进胰腺分泌的特点是: A.大量的水分和碳酸氢盐,而胰酶含量很少 B.少量的水分和碳酸氢盐,而胰酶含量也很少 C.少量的水分和碳酸氢盐,而胰酶含量很丰富 D.大量的水分,而碳酸氢盐和胰酶含量很少 16.滤过分数是指: A.肾血流量/ 心输出量B.肾血浆流量/ 肾血流量 C.肾血流量/ 肾血浆流量D.肾小球滤过率/ 肾血浆流量

山东大学威海分校简介

山东大学威海分校简介 山东大学威海分校简介 山东大学威海分校简介 山东大学(威海)创建于1984年,是教育部直属重点综合性大学、国家“211工程”和“985工程”重点建设的高水平大学——山东大 学在威海设立的一个校区。学校在“统分结合、优势互补、各具特色、一体发展”的“大山东大学”发展架构下,山东大学决定将山 东大学威海分校更名为山东大学(威海),为构建一校三地(济南、青岛、威海)办学的山东大学系统奠定了基础。 学校坚持以教学为中心,以科研为支撑,按照“加强基础、发展内涵、提高质量、建设特色”的工作思路,坚持全方位开放式发展 战略、教育创新战略和人才强校战略,实现学校学术竞争力、社会 影响力和国际化水平的三大提升,切实抓好学科建设、科学研究、 人才队伍建设三项重点,着力打造“空间科学”、“海洋科学”和“韩国教育与研究”三大特色,全面提高学校的教育教学质量,提 升整体办学水平和综合实力,致力于培养中国最优秀的本科生。 学校秉承并弘扬山东大学的优良传统和校风,不断深化教育教学改革,人才培养质量稳步提高。学校大力加强质量工程建设,已有 国家级和省级精品课程12门,朝鲜语专业为国家级特色专业,另有 省级品牌专业及特色专业8个,省级优秀教学团队3个,国家级规 划教材5部,省级优秀教材5部,省级实验教学示范中心2个,省 级双语教学示范课程3门,拥有光学天文与日地空间环境、应用海 洋生物学2个省级重点实验室和法律方法省级重点研究基地;学校鼓 励学生积极开展科技创新活动,每年划拨大量专项经费用于资助国 家大学生科技创新项目、数学建模竞赛、电子设计竞赛、智能汽车 竞赛、机电产品创新设计竞赛、“挑战杯”等学术科技竞赛及科研 立项,近三年获得国家奖40余项,省级一等奖、二等奖180多项。

山东大学管理信息系统期末考试题及答案

简答题 1、简答关键成功因素法(CSF)P263 答:1970年哈佛大学教授关在MIS模型中用了关键成功变量,这些变量是确定MIS成败的因素。它包含以下几个步骤:(1)了解企业目标;(2)识别关键成功因素;(3)识别性能指标和标准;(4)识别测量性能的数据。可见关键成功因素法源自企业目标,通过目标分解和识别、关键成功因素识别、性能指标识别,一直到产生数据字典。 2系统开发可行性分析 答: (1)目标和方案的可行性 (2)技术方面的可行性 (3)经济方面的可行性 (4)社会方面的可行性 一个有效的战略规划可以使信息系统和用户有较好的关系,可以做到信息资源的合理分配和使用,从而可以节省信息系统的投资。 3、管理信息系统为什么要进行战略规划 答:管理信息系统的战略规划是关于管理信息系统的长远发展的计划,是企业战略规划的一个重要部分。这不仅由于管理信息系统的建设是一项耗资巨大、历时很长、技术复杂且又内外交叉的工程,更因为信息已成为企业的生命线,信息系统和企业的运营方式、文化习惯息息相关。一个有效的战略规划可以使信息系统和用户有较好的关系,可以做到信息资源的合理分配和使用,从而可以节省信息系统的投资。 4、叙述管理信息系统代码设计中编码的目的 在系统开发过程中设计代码的目的是: 唯一化(2)规范化(3)系统化 5、简答BPR的三个关键词(根本的、彻底的和巨大的)的实质。 简答关键成功因素法(CSF)P263 答:1970年哈佛大学教授关在MIS模型中用了关键成功变量,这些变量是确定MIS成败的因素。它包含以下几个步骤:(1)了解企业目标;(2)识别关键成功因素;(3)识别性能指标和标准;(4)识别测量性能的数据。可见关键成功因素法源自企业目标,通过目标分解和识别、关键成功因素识别、性能指标识别,一直到产生数据字典。 分析题 1、比较分析MRP、MRPII和ERP的异同,谈谈你自己的一些认识

信息论与编码试题集概要

1. 在无失真的信源中,信源输出由 H (X ) 来度量;在有失真的信源中,信源输出由 R (D ) 来度量。 2. 要使通信系统做到传输信息有效、可靠和保密,必须首先 信源 编码, 然后_____加密____编码,再______信道_____编码,最后送入信道。 3. 带限AWGN 波形信道在平均功率受限条件下信道容量的基本公式,也就是有名的香农公式是log(1)C W SNR =+;当归一化信道容量C/W 趋近于零时,也即信道完全丧失了通信能力,此时E b /N 0为 -1.6 dB ,我们将它称作香农限,是一切编码方式所能达到的理论极限。 4. 保密系统的密钥量越小,密钥熵H (K )就越 小 ,其密文中含有的关于明文的信息量I (M ;C )就越 大 。 5. 设输入符号表为X ={0,1},输出符号表为Y ={0,1}。输入信号的概率分布为p =(1/2,1/2),失真函数为d (0,0) = d (1,1) = 0,d (0,1) =2,d (1,0) = 1,则D min = 0 ,R (D min )= 1bit/symbol ,相应的编码器转移概率矩阵[p(y/x )]=1001?? ???? ;D max = 0.5 ,R (D max )= 0 ,相应的编码器转移概率矩阵[p(y/x )]=1010?? ???? 。 二、判断题 1. 可以用克劳夫特不等式作为唯一可译码存在的判据。 (√ ) 2. 线性码一定包含全零码。 (√ ) 3. 算术编码是一种无失真的分组信源编码,其基本思想是将一定精度数值作为序列的 编码,是以另外一种形式实现的最佳统计匹配编码。 (×) 4. 某一信源,不管它是否输出符号,只要这些符号具有某些概率特性,就有信息量。 (×) 5. 离散平稳有记忆信源符号序列的平均符号熵随着序列长度L 的增大而增大。 (×) 6. 限平均功率最大熵定理指出对于相关矩阵一定的随机矢量X ,当它是正态分布时具 有最大熵。 (√ ) 7. 循环码的码集中的任何一个码字的循环移位仍是码字。 (√ ) 8. 信道容量是信道中能够传输的最小信息量。 (×) 9. 香农信源编码方法在进行编码时不需要预先计算每个码字的长度。 (×) 10. 在已知收码R 的条件下找出可能性最大的发码i C 作为译码估计值,这种译码方 法叫做最佳译码。 (√ ) 三、计算题 某系统(7,4)码 )()(01201230123456c c c m m m m c c c c c c c ==c 其三位校验 位与信息位的关系为:

最新山东大学离散数学期末试题答案

数学建模作业 姓名:王士彬 学院:计算机科学与技术 班级:2014级计科2班 学号:201400130070

1.在区域x∈[-2,2],y∈[-2,3]内绘制函数z=exp^(-x2-y2)曲面图及等值线图。解: 曲面图如下: >> x=-2:0.5:2; >> y=-2:0.5:3; >> [X,Y]=meshgrid(x,y); >> Z=exp(-X.^2-``Y.^2); >> mesh(X,Y,Z) >> 等值线图如下: >> x=-2:0.5:2; >> y=-2:0.5:3; >> [X,Y]=meshgrid(x,y); >> Z=exp(-X.^2-Y.^2); >> mesh(X,Y,Z) >> surf(X,Y,Z)

>> surf(X,Y,Z) >> contour(X,Y,Z) >> 2.已知一组观测数据,如表1所示. (1)试用差值方法绘制出x ∈[-2,4.9]区间内的光滑曲线,并比较各种差值算法的优劣. (2)试用最小二乘多项式拟合的方法拟合表中的数据,选择一个能较好拟合数据点的多项式的阶次,给出相应多项式的系数和偏差平方和. (3)若表中数据满足正态分布函数222/)(21)(σμπσ --=x e x y .试用最小二乘非线性拟合的方法求出分布参数σμ,值,并利用锁求参数值绘制拟合曲线,观察拟合效果. 解:(1)分别用最领近插值,分段线性插值(缺省值),分段三次样条插值,保形分段三次插值方法绘制在x ∈[-2,4.9]的光滑曲线,图形如下: 样条插值效果最好,其次线性插值,最近点插值效果最差,在这里效果好像不太明显。 最近点插值优点就是速度快,线性插值速度稍微慢一点,但效果好不少。所以线性插值是个不错的折中方法。样条插值,它的目的是试图让插值的曲线显得更平滑,为了这个目的,它们不得不利用到周围若干范围内的点,不过计算显然要比前两种大许多。 MATLAB 文件如下:

信息论与编码习题参考答案(全)

信息论与编码习题参考答案 第一章 单符号离散信源 1.1同时掷一对均匀的子,试求: (1)“2和6同时出现”这一事件的自信息量; (2)“两个5同时出现”这一事件的自信息量; (3)两个点数的各种组合的熵; (4)两个点数之和的熵; (5)“两个点数中至少有一个是1”的自信息量。 解: bit P a I N n P bit P a I N n P c c N 17.536log log )(361 )2(17.418log log )(362)1(36 662221111 616==-=∴====-=∴== =?==样本空间: (3)信源空间: bit x H 32.436log 36 62log 3615)(=??+?? =∴ (4)信源空间: bit x H 71.3636 log 366536log 3610 436log 368336log 366236log 36436log 362)(=??+?+?+??= ∴++ (5) bit P a I N n P 17.11136 log log )(3611333==-=∴==

1.2如有6行、8列的棋型方格,若有两个质点A 和B ,分别以等概落入任一方格,且它们的坐标分别为(Xa ,Ya ), (Xb ,Yb ),但A ,B 不能同时落入同一方格。 (1) 若仅有质点A ,求A 落入任一方格的平均信息量; (2) 若已知A 已落入,求B 落入的平均信息量; (3) 若A ,B 是可辨认的,求A ,B 落入的平均信息量。 解: bit a P a P a a P a I a P A i 58.548log )(log )()(H 48log )(log )(481 )(:)1(48 1 i i i i i ==-=∴=-=∴= ∑=落入任一格的概率 bit b P b P b b P b I b P A i 55.547log )(log )()(H 47 log )(log )(47 1 )(:B ,)2(48 1i i i i i ==-=∴=-=∴=∑=落入任一格的概率是落入任一格的情况下在已知 bit AB P AB P AB H AB P AB I AB P AB i i i i i i i 14.11)4748log()(log )()() (log )(47 1 481)()3(47481 =?=-=-=∴?=∑?=是同时落入某两格的概率 1.3从大量统计资料知道,男性中红绿色盲的发病率为7%,女性发病率为0.5%.如果你问一位男士:“你是否是红绿色盲?”他的回答可能是:“是”,也可能“不是”。问这两个回答中各含有多少信息量?平均每个回答中各含有多少信息量?如果你问一位女士,则她的答案中含有多少平均信息量? 解: bit w P w P w P w P m m P m I w P w I bit m P m P m P m P m bit m P m I bit m P m I n n y y n n y y n n y y n n y y 0454.0log99.5%99.5%-log0.5%-0.5% )(log )()(log )()(H % 5.99log )(log )(%5.0log )(log )(36 6.0log93%93%-log7%-7% )(log )()(log )()(H 105.0%93log )(log )(84.3%7log )(log )(: =??=?-?-=-=-=-=-==??=?-?-==-=-==-=-=平均每个回答信息量::回答“不是”的信息量回答“是”的信息量:对于女: 平均每个回答信息量::回答“不是”的信息量回答“是”的信息量:对于男士

信息论与编码理论习题答案全解

信息论与编码理论习题答案全解

第二章 信息量和熵 2.2 八元编码系统,码长为3,第一个符号用于同步,每秒1000个码字,求它的 信息速率。 解:同步信息均相同,不含信息,因此 每个码字的信息量为 2?8log =2?3=6 bit 因此,信息速率为 6?1000=6000 bit/s 2.3 掷一对无偏骰子,告诉你得到的总的点数为:(a) 7; (b) 12。问各得到多少 信息量。 解:(1) 可能的组合为 {1,6},{2,5},{3,4},{4,3},{5,2},{6,1} )(a p =366=6 1 得到的信息量 =) (1 log a p =6log =2.585 bit (2) 可能的唯一,为 {6,6} )(b p =361 得到的信息量=) (1 log b p =36log =5.17 bit 2.4 经过充分洗牌后的一副扑克(52张),问: (a) 任何一种特定的排列所给出的信息量是多少? (b) 若从中抽取13张牌,所给出的点数都不相同时得到多少信息量? 解:(a) )(a p =! 521 信息量=) (1 log a p =!52log =225.58 bit (b) ???????花色任选 种点数任意排列 13413!13 )(b p =13 52134!13A ?=1352 13 4C 信息量=1313 52 4log log -C =13.208 bit

2.9 随机掷3颗骰子,X 表示第一颗骰子的结果,Y 表示第一和第二颗骰子的 点数之和,Z 表示3颗骰子的点数之和,试求)|(Y Z H 、)|(Y X H 、 ),|(Y X Z H 、)|,(Y Z X H 、)|(X Z H 。 解:令第一第二第三颗骰子的结果分别为321,,x x x ,1x ,2x ,3x 相互独立, 则1x X =,21x x Y +=,321x x x Z ++= )|(Y Z H =)(3x H =log 6=2.585 bit )|(X Z H =)(32x x H +=)(Y H =2?( 361log 36+362log 18+363log 12+364log 9+365log 536)+36 6 log 6 =3.2744 bit )|(Y X H =)(X H -);(Y X I =)(X H -[)(Y H -)|(X Y H ] 而)|(X Y H =)(X H ,所以)|(Y X H = 2)(X H -)(Y H =1.8955 bit 或)|(Y X H =)(XY H -)(Y H =)(X H +)|(X Y H -)(Y H 而)|(X Y H =)(X H ,所以)|(Y X H =2)(X H -)(Y H =1.8955 bit ),|(Y X Z H =)|(Y Z H =)(X H =2.585 bit )|,(Y Z X H =)|(Y X H +)|(XY Z H =1.8955+2.585=4.4805 bit 2.10 设一个系统传送10个数字,0,1,…,9。奇数在传送过程中以0.5的概 率错成另外一个奇数,其余正确接收,求收到一个数字平均得到的信息量。 解: 信道 X Y 9,7,5,3,1=i 8,6,4,2,0=i √Χ );(Y X I =)(Y H -)|(X Y H 因为输入等概,由信道条件可知,

相关主题
文本预览
相关文档 最新文档