北邮信息论200806级期中考试试题及答案
- 格式:doc
- 大小:174.50 KB
- 文档页数:6
《信息论基础》参考答案一、填空题(共15分,每空1分)1、信源编码的主要目的是提高有效性,信道编码的主要目的是提高可靠性。
2、信源的剩余度主要来自两个方面,一是信源符号间的相关性,二是信源符号的统计不均匀性。
3、三进制信源的最小熵为0,最大熵为32log bit/符号。
4、无失真信源编码的平均码长最小理论极限制为信源熵(或H(S)/logr= H r (S))。
5、当R=C 或(信道剩余度为0)时,信源与信道达到匹配。
6、根据信道特性是否随时间变化,信道可以分为恒参信道和随参信道。
7、根据是否允许失真,信源编码可分为无失真信源编码和限失真信源编码。
8、若连续信源输出信号的平均功率为2σ,则输出信号幅度的概率密度是高斯分布或正态分布或()222x f x σ-=时,信源具有最大熵,其值为值21log 22e πσ。
9、在下面空格中选择填入数学符号“,,,=≥≤〉”或“〈”(1)当X 和Y 相互独立时,H (XY )=H(X)+H(X/Y)=H(Y)+H(X)。
(2)()()1222H X X H X =≥()()12333H X X X H X = (3)假设信道输入用X 表示,信道输出用Y 表示。
在无噪有损信道中,H(X/Y)> 0, H(Y/X)=0,I(X;Y)<H(X)。
二、(6分)若连续信源输出的幅度被限定在【2,6】区域内,当输出信号的概率密度是均匀分布时,计算该信源的相对熵,并说明该信源的绝对熵为多少。
()1,2640,x f x ⎧≤≤⎪=⎨⎪⎩Q 其它()()()62log f x f x dx ∴=-⎰相对熵h x=2bit/自由度该信源的绝对熵为无穷大。
三、(16分)已知信源1234560.20.20.20.20.10.1S s s s s s s P ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦(1)用霍夫曼编码法编成二进制变长码;(6分) (2)计算平均码长L ;(4分)(3)计算编码信息率R ';(2分)(4)计算编码后信息传输率R ;(2分) (5)计算编码效率η。
信息论基础理论与应用考试题一﹑填空题(每题2分,共20分)1.信息论研究的目的就是要找到信息传输过程的共同规律,以提高信息传输的 (可靠性)﹑(有效性)﹑XX 性和认证性,使信息传输系统达到最优化。
(考点:信息论的研究目的)2.电视屏上约有500×600=3×510个格点,按每点有10个不同的灰度等级考虑,则可组成531010⨯个不同的画面。
按等概计算,平均每个画面可提供的信息量约为(610bit /画面)。
(考点:信息量的概念与计算)3.按噪声对信号的作用功能来分类信道可分为 (加性信道)和 (乘性信道)。
(考点:信道按噪声统计特性的分类)4.英文电报有32个符号(26个英文字母加上6个字符),即q=32。
若r=2,N=1,即对信源S 的逐个符号进行二元编码,则每个英文电报符号至少要用 (5)位二元符号编码才行。
(考点:等长码编码位数的计算)5.如果采用这样一种译码函数,它对于每一个输出符号均译成具有最大后验概率的那个输入符号,则信道的错误概率最小,这种译码规则称为(最大后验概率准则)或(最小错误概率准则)。
(考点:错误概率和译码准则的概念)6.按码的结构中对信息序列处理方式不同,可将纠错码分为(分组码)和(卷积码)。
(考点:纠错码的分类)7.码C={(0,0,0,0),(0,1,0,1),(0,1,1,0),(0,0,1,1)}是((4,2))线性分组码。
(考点:线性分组码的基本概念)8.定义自信息的数学期望为信源的平均自信息量,即(11()log ()log ()()q i i i i H X E P a P a P a =⎡⎤==-⎢⎥⎣⎦∑)。
(考点:平均信息量的定义)9.对于一个(n,k)分组码,其最小距离为d,那么,若能纠正t个随机错误,同时能检测e(e≥t)个随机错误,则要求(d≥t+e+1)。
(考点:线性分组码的纠检错能力概念)10.和离散信道一样,对于固定的连续信道和波形信道都有一个最大的信息传输速率,称之为(信道容量)。
北京邮电大学06级《信息论》期中考试试题答案(2008.1)姓名班级学号分数注意:要求将试卷和答题纸一起上交一、(25分)已知基于字符表{“blank”, B, I, M, O, P, S, T}的一段文本如下:OTTOS MOPS TOBT MIT OTTOS MOP BIS OTTO MOPPOT(其中的blank表示空格)(1) 统计文本中出现各字符的频度,并近似看作各字符的概率进行二元Huffman编码,给出每个字符对应的码字(要求:码长方差最小);(9分)(2) 求平均码长及码长方差;(4+4=8分)(3) 求编码速率和编码效率。
(4+4=8分)解:111084442 2014181168182745码字111100100101100110011111101111OT “blank”MPSBIOTMPSBI “blank”(3+4=7分)(2) 平均码长及码长方差为:8.245/)2244(445/)48(345/)1011(2=+++⨯++⨯++⨯=-l 码元/信源符号(4分)693.08.245/42245/44245/3445/3845/21045/2112222222222=-⨯⨯+⨯⨯+⨯+⨯+⨯+⨯=-=∑ii i l l p σ (4分) 3)编码速率8.22log '==l R 比特/信源符号 (4分) 编码效率()2.753298.32%2.8log 2H X L η-=== (4分)二、(25分)一马氏源具有状态集合{}1,2,...,N ,状态转移图如下图所示… …p其中0,0,1p q p q >>+=。
(1)当N=3时,写出状态转移概率矩阵,并求平稳分布。
(3+6=9分) (2)对任意N 值,写出状态转移概率矩阵,并求平稳分布。
(3+6=9分) (3)对任意N 值,求马氏源的符号熵。
(7分) 答:(1) N=3,状态转移概率矩阵为:000q p q p qp ⎛⎫ ⎪⎪ ⎪⎝⎭(3分) 由 ()()1231231230001qp q p qp πππππππππ⎛⎫ ⎪= ⎪ ⎪⎝⎭++= (3分)得平稳分布为:2212222222223222(1)1(1)11q p p pq q p p pq p p p pq q p pp p p pq q p p πππ-==++-+-==++-+==++-+ (各1分共3分)(2) 对任意N ,状态转移概率概率矩阵如下:00...0000...0000...00000...00.........0000 (000)0...q p q p q p q p qp ⎛⎫ ⎪ ⎪ ⎪ ⎪⎪ ⎪ ⎪ ⎪ ⎪⎝⎭(3分) 该马氏源处于平稳分布时,有:()()1231123100...0000...0000...00 000...00.........0000 (000)0...N N N N qpq p q p q p qp ππππππππππ--⎛⎫ ⎪ ⎪ ⎪ ⎪= ⎪ ⎪ ⎪ ⎪ ⎪⎝⎭以及Nii 11π==∑ (2+1=3分)得:i i-1i-1N1i i 11p q i 2N 111i Np q p q πππππγγπγ===⎛⎫== ⎪⎝⎭-=-∑(,),从而有:, 令=,得:因此,平稳分布为:1i (1)i 1N 1i Nγγπγ--==-,(,)(3分) (3)由于马氏源状态转移概率矩阵的每行都相等,所以有:12...()N h h h H p ====, (4分)从而对任意N ,有()H H p ∞= (3分)三、(25分)x 和z 为独立同分布的连续随机变量,且都在区间[-1/2, 1/2]上服从均匀分布,随机变量y=x+z 。
1/5北京邮电大学2008——2009学年第I 学期《通信原理》期中考试试题(B卷)包括选择填空在内的所有答题都应写在答题纸上,否则不计成绩! 试卷最后一页有公式提示一.选择填空(每空1分,共26分)答案必须来自下列..答案,必须是最合理...的答案。
按“空格编号 答案编号”的格式答题,例如:26 f ;27甲(a )3 (b )2 (c )频带传输 (d )cos32t π(e )单极性NRZ 码 ( f )高斯(g ) HDB 3码 (h )5 (i )4 (j )10 (k )平方 (l )12(m )6 (n )16 (o )24 (p )0()f f δ− (q )8 (r )瑞利 (s )AMI 码 (t )64 (u )单极性RZ 码 (v )莱斯 (w )均匀 (x )指数 (y )sin 32t π (z ) 0()f f δ+ (甲)32 (乙)120 (丙)高、大 (丁)低、小 (戊)200 (己)160 (庚)1/16(辛)立方(壬)1/2 (癸)()1H f = (亥)预加重和去加重技术(子)1 (丑)CMI 码1.某系统的256进制数字信号的符号速率是2×106波特,则理论上系统需要的最小传输带宽为 ①MHz ,符号间隔是 ② 微秒;比特间隔是 ③ 微秒。
2.某相位调制信号[]()cos 24sin 2c c m s t A f t f t ππ=+,其中20c A =、100c f MHz =、1m f kHz =。
则该已调信号的平均功率是 ④ ,该已调信号的调制指数是 ⑤ ,近似带宽是 ⑥ kHz 。
3.若某实信号f (t )傅立叶变换为F (ω),则复信号()()()Z t f t j f t ∧=+的傅立叶变换为 ⑦ ()()F u ωω;复信号02j f t e π的傅立叶变换为 ⑧ 。
4.设平稳高斯白噪声通过窄带滤波器,得到()()cos ()sin c c s c n t n t t n t t ωω=−()cos[()]c a t t t ωϕ=+,则n c (t )、n s (t )服从 ⑨ 分布,a (t )服从 ⑩ 分布,ϕ(t )5.HDB 3码(三阶高密度双极性码)、单极性NRZ 码和单极性RZ 码中,有3/myheartyBUPT EXAM2/5无论何种信源统计特性,对位定时同步最有利6.若某基带传输系统的带宽为12kHz ,则根据奈奎斯特准则,无码间干扰最0.5,17.在角度调制系统中,在高解调输入信噪比时,解调输出信噪比与调制指数βββ的增大,解调门8.调频信号鉴频解调器输出噪声功率谱的形状是抛物线,改善调频系统信噪9.在二进制基带传输系统中,信息0、1对应的信号幅度分别为0伏和1伏,接收信号受零均值加性高斯噪声的干扰,当信息0、1等概时,最佳门限若发送0的概率低于发送1的概率,限可降低误码率。
o ( ) 11 北京邮电大学 2007-2008学 年第一学期期末试卷附答案一.选择填空(每空 1 分,共 18 分)从下面所列答案中选择出恰当的答案。
在答题纸上写上空格编号以及所选答案的英文字母编号。
每空格编号只能对应一个答案。
(a )1/t (b )离散的载频分量 (c )COSTAS 环提取载波 (d )大 (e )会引起码间干扰 (f )相干解调器 (g )5k(h )BCH (i )同步码分多址系统的地址码 (j )连续谱 (k )是 (l )平坦性衰落 (m )大于零(n )Z 变换 (o )不是 Mp 的移位序列 (p )频率选择性衰落 (q )恒为零 (r )20k(s )希尔伯特变换 (t )时分多址系统的地址码 (u )拉氏变换(v )40k(w )小 (x )卷积码 (y )不会引起码间干扰 (z )窄带滤波提取载波 (A )1 (π t ) (B )包络检波器 (D )10k(E )交织 (F )不是(G )瑞利衰落 (H )维特比 (J )仍是 Mp 的移位序列 (M )3k(N )80k (Q )阴影衰落(R )离散余弦变换(T )哈夫曼1. 在时间域,若复信号的虚部是其实部的 1 ,则它是解析信号;在频率域,若复信号的傅立叶变换在ω < 0 处,则它是解析信号。
♣- je - af2. 一个 -90 相移网络的 H f = lim ♦ f > 0 ,其冲激响应为 3 。
a →0+♥ jeaff < 03. 在模拟广播电视中,一个离散的大载波随同视频信号的残留边带调幅信号一起传输,其广播接收机用4解调视频信号。
4. 对一模拟基带信号进行 A 律 13 折线 PCM 编码,QPSK 调制,经带通信道传输,带通信道带宽为 120kHz ,整个系统的等效低通传输函数的升余弦滚降因子α = 0.5 。
若 系统不存在码间干扰,则该模拟基带信号的最高频率为符号速率为 6 波特。
北京邮电大学
06级《信息论》期中考试试题答案
(2008.11.15)
姓名班级学号分数
注意:要求将试卷和答题纸一起上交
一、(25分)已知基于字符表{“blank”, B, I, M, O, P, S, T}的一段文本如下:
OTTOS MOPS TOBT MIT OTTOS MOP BIS OTTO MOPPOT
(其中的blank表示空格)
(1) 统计文本中出现各字符的频度,并近似看作各字符的概率进行二元Huffman
编码,给出每个字符对应的码字(要求:码长方差最小);(9分)
(2) 求平均码长及码长方差;(4+4=8分)
(3) 求编码速率和编码效率。
(4+4=8分)
解:
11
10
8
4
4
4
2 20
14
18
1
16
8
18
27
45
码字
1
1
1
1
00
10
010
110
0110
0111
1110
1111
O
T “blank”
M
P
S
B
I
O
T
M
P
S
B
I “blank”
(3+4=7分,每错一个码字扣0.5分)(2) 平均码长及码长方差为:
8.245/)2244(445/)48(345/)1011(2=+++⨯++⨯++⨯=-
l 码元/信源符号(4分)
693
.08.245/42245/44245/3445/3845/21045/21122222222
22=-⨯⨯+⨯⨯+⨯+⨯+⨯+⨯=-=∑i
i i l l p σ(4分)
3)编码速率8.22log '==l R 比特/信源符号(4分) 编码效率()
2.753298.32%2.8
log 2
H X L η-
=
==(4分)
二、(25分)一马氏源具有状态集合{}1,2,...,N ,状态转移图如下图所示
… …
p
其中0,0,1p q p q >>+=。
(1)当N=3时,写出状态转移概率矩阵,并求平稳分布。
(3+6=9分) (2)对任意N 值,写出状态转移概率矩阵,并求平稳分布。
(3+6=9分) (3)对任意N 值,求马氏源的符号熵。
(7分) 答:
(1) N=3,状态转移概率矩阵为:
000q p q p q
p ⎛⎫ ⎪
⎪ ⎪⎝
⎭
(3分) 由()()
1231231230001
q
p q p q
p πππππππππ⎛⎫ ⎪
= ⎪ ⎪⎝
⎭
++= (3分)
得平稳分布为:22
122
2
2222
22
3222
(1)1(1)
11q p p pq q p p pq p p p pq q p p
p p p pq q p p πππ-==++-+-==++-+==
++-+(各1分共3分)
(2) 对任意N ,状态转移概率概率矩阵如下:
00...0000...0000...00000...00........
.0000 (000)
0...q p q p q p q p q
p ⎛⎫ ⎪ ⎪ ⎪ ⎪
⎪ ⎪ ⎪ ⎪ ⎪⎝
⎭
(3分) 该马氏源处于平稳分布时,有:
()()123
1
123100...0000...0000...00 0
00...00.........0000 (000)
0...N N N N q
p
q p q p q p q
p ππππππππππ--⎛⎫ ⎪ ⎪ ⎪ ⎪= ⎪ ⎪ ⎪ ⎪ ⎪⎝
⎭
以及
N
i
i 1
1π
==∑(2+1=3分)
得:
i i-1i-1
N
1i i 11p q i 2N 1
11i N
p q p q πππππγγπγ===⎛⎫
== ⎪⎝⎭
-=
-∑(,),从而有:
, 令=,得:
因此,平稳分布为:
1i (1)
i 1N 1i N
γγπγ--==-,(,)
(3分) (3)由于马氏源状态转移概率矩阵的每行都相等,所以有:
12...()N h h h H p ====,
(4分) 从而对任意N ,有()H H p ∞=(3分)
三、(25分)x 和z 为独立同分布的连续随机变量,且都在区间[-1/2, 1/2]上服从
均匀分布,随机变量y=x+z 。
(1) 求连续随机变量集合Z 的差熵h(Z);(5分)
(2) 证明:h(Y|X) = h(Z);(提示:1011x x y z ⎡⎤⎡⎤⎡⎤
=⎢⎥⎢⎥⎢⎥
⎣⎦⎣⎦⎣⎦
)(7分) (3) 求连续随机变量Y 的概率密度函数;(提示:两个独立随机变量之和的概
率密度为这两个随机变量概率密度的卷积)(3分) (4) 求连续随机变量集合Y 的差熵h(Y); (5分) (5) 求I(X;Y)。
(5分) 解:
(1) h(Z) = 0bit; (5分) (2) 由提示:
1011x x y z ⎡⎤⎡⎤⎡⎤=⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦⎣⎦ 有:
10h(XY)=h(XZ)+log det h(XZ)11⎛⎫= ⎪⎝⎭(3分)
又由Z 与X 独立,
从而:h(XY)=h(X)+h(Y|X)=h(XZ)= h(X)+h(Z|X)= h(X)+h(Z) (3分) 可得:h(Y|X)= h(Z) (1分)
(3)
110()101y y f y y y +-≤≤⎧=⎨
-+<≤⎩(3分) (用图形卷积或分区域积分的方法均给分)
(4)
1
-1
1
1
122000h(Y)=-(+1)ln(+1)d -(-+1)ln(-+1)d
1112ln d 2ln d 22t 1nat 2
y y y y y y t t t t t t t ⎡⎤
=-=--⎢⎥
⎢⎥⎣⎦=⎰⎰⎰⎰(5分)
或1/2loge=0.722bit
(5) I(X;Y) = h(Y) - h(Y|X) = h(Y) - h(Z) = 1/2nat 或1/2loge=0.722bit (5分)
四、(25分)在某地区篮球联赛的每个赛季,最终只有A 、B 两球队进入决赛争夺冠军。
决赛采用7场4胜制,首先赢得4场胜利的球队获得冠军,并结束比赛。
把产生冠军的事件x 用A 、B 两队各场次的比赛结果表示,作为信源X 产生的随机事件,例如:AAAA 表示事件“A 队胜前4场获得冠军”;ABBAAA ,表示事件“A 队在第1、4、5、6场取胜获得冠军(而B 队在第2、3场取胜)”,…。
假设两球队在每场比赛中的取胜机会均等,每场比赛只有“A 胜”或“B 胜”两种结果,并且各场比赛的结果是彼此独立的。
(1)写出信源X 的所有事件及其相应的概率;(5分) (2)求信源的熵H (X );(5分)
(3)求事件“两队打满7场”所提供的信息量;(5分)
(4)列出A 队前三场都失利的所有情况,求“A 队前三场都失利”所提供的信
息量;(5分)
(5)求事件“A 队在前三场都失利的条件下又取得冠军”所提供的信息量?
(5分)
解
(1)A 队获冠军的事件数和相应的概率如下表:(4分)
事件 数目 单事件的概率 概率的和
赛4场获冠军(AAAA )
1 1/16 1/16 赛5场获冠军(前4场B 胜1场)
4 1/32 1/8 赛6场获冠军(前5场B 胜2场)
10 1/64 5/32 赛7场获冠军(前6场B 胜3场)
20 1/128 5/32 总概率 1/2 同理得到相同的B 队获冠军的事件数和相应的概率分布。
(1分) (2)信源X 的熵:
2221111
()2[()log 164()log 3210()log 6420()log(128)]
163264128
H X =⨯+⨯+⨯+⨯(3分)
186/32 5.8125==比特(1+1=2分) (3) “两队打满7场”事件数为40,(1分)
所求概率为40(1/128)5/16⨯=,(1分) 事件“两队打满7场”所提供的信息量:
12log (5/16) 1.6781I =-=比特(3分)
(4)A 队在前三场都失利情况下的所有事件与概率:(每概率0.5分共2分)
22log 83I ==比特(3分)
(5)A 队在前三场都失利的条件下又取得冠军的条件概率:
1/128
1/16(1/16)(1/32)(1/64)2(1/128)
=+++⨯(2分)
“A 队在前三场都失利的条件下又取得冠军的”的信息量:
32log 164I ==比特(3分)。