信息论基础2015-第四章

第四章

4.7解：

（1）由题，信道是对称信道，当输入为均匀输入时，即：31)()()(321xpxpxp，达到信道容量：

)1,(3logppHC

)(3log2pHC

最佳分布：31)()()(321xpxpxp

（2）由题，信道是对称信道，当输入为均匀输入时，即：21)()(21xpxp，达到信道容量：)21,2(2logPPHC

)(2log2pHC

最佳分布：21)()(21xpxp

（5）由题，信道是对称信道，当输入为均匀输入时，即：21)()(21xpxp，达到信道容量：)32,31(1)(1HpHC

)/(082.0符号BitC

最佳分布：21)()(21xpxp

4.10解：本信道是二个相同的二元对称信道的和信道，每个分量信道的容量为 )(121PHCC

在输入为均匀分布时达到容量。于是和信道容量为)(222log21pHCCC bit/次

4.11解：由题，这是一个准对称信道，根据定理4.3，当X等概分布，即21)()(21xqxq时，信道容量 21)()(21|);(xqxqYXIC

)|(log)|()()(log)(212121ijijijijjjxypxypxqyyC

)7.0log7.05.0log5.023.0log3.0(216.0log6.04.0log4.0C

符号）（/0312.0BitC

4.20解：由题得，98.002.002.098.0P

信道容量859.0)02.0,98.0(2logHCbit/符号

传输速率1500tRb/s

《信息论基础》试卷第1页 试题编号：

重庆邮电大学2008/2009学年2学期

《信息论基础》试卷（期末）（B卷）（开卷）

题 号 一 二 三 四 五 六 七 总 分

得 分

评卷人

一、填空题（共25分，每空1分）

1、连续信源的绝对熵为 。

2、离散无记忆信源在进行无失真变长信源编码时，编码效率最大可以达到 。

3、无记忆信源是指 。

4、离散无记忆信源在进行无失真变长信源编码时，码字长度是变化的。根据信源符号的统计特性，对概率大的符号用 码，对概率小的符号用 码，这样平均码长就可以降低，从而提高 。

5、为了提高系统的有效性可以采用 ，为了提高系统的可靠性可以采用 。

6、八进制信源的最小熵为 ，最大熵为 。 《信息论基础》试卷第2页 7、若连续信源输出信号的平均功率为1瓦特，则输出信号幅度的概率密度函数为

时，信源具有最大熵，其值为 。

8、即时码是指 。

9、无失真信源编码定理指出平均码长的理论极限值为 ，此时编码效率为 ，编码后的信息传输率为 。

第2章离散信源与信息熵

1

信号

信号+干扰 消息

干扰 消息 信源 编码器 信道 译码器 信宿

噪声源

通信系统模型信息

2.1 信源的分类和描述

信源是信息的发源地，可以是人、生物、机器或其他事

物。信源的输出是包含信息的消息。消息的形式可以是

离散的或连续的。

2信源输出为连续信号形式（如语音），可用连续随机变

量描述。

连续信源模拟通信系统

离散信源数字通信系统信源输出是离散的消息符号（如书信），可用离散随机

变量描述。离散信源…Xi…Xj…

离散无记忆信源：输出符号XiXj之间相互无影响；

离散有记忆信源：输出符号XiXj 之间彼此依存。

3离散信源无记忆

有记忆发出单个符号

发出符号序列

马尔可夫信源

非马尔可夫信源

xiyj

将一粒棋子随意地放

在棋盘中的某列；

棋子放置的位置是一

个随机事件；

可看做一个发出单个

符号的离散信源。

512

12,,...,

(),(),...,()m

mxxxX

Ppxpxpx就数学意义来讲，信源就是一个概率场，可用概率空间

来描述信源。由离散随机变量X表示棋子位置：

10()1,()1m

ii

ipxpx



ix其中，

代表随机事件的某一结果。

62.2离散信源的信息熵

信息的可度量性是信息论建立的基础；

香农的信息论用事件发生概率的对数来描述事件的不确

定性，得到消息的信息量，建立熵的概念。

2.2.1自信息量

–定义2.1 任意随机事件xi的自信息量定义为：

ii

i1(x)loglog(x)

(x)IP

P

7小概率事件所包含的不确定性大，自信息量大。

大概率事件所包含的不确定性小，自信息量小。

概率为1

的确定性事件，自信息量为零。ii

i1(x)loglog(x)

(x)IP

P

信息量的单位与公式中的对数取底有关。

以2为底，单位比特（bit）；

以e为底，单位奈特（nat）；



22loglog,loglogln

logca

cbbxex

a

8–例：棋盘共8列，甲随手一放，将一枚

棋子放在了第3列。

第四章

会计记账方法

考情分析

第一节 会计记账方法的种类

第二节 借贷记账法

会计记账方法的种类

一、单式记账法

二、复式记账法

记账方法的种类：

目前在我国乃至世界各国的营利组织和非营利组织都普遍采用复式记账法来记录经济业务。（但记账方法并非唯一）

一、单式记账法

单式记账法：指对发生的每一项经济业务，只在一个账户中加以登记的记账方法。

二、复式记账法

1.概念：复式记账法是指对于每一笔经济业务，都必须用相等的金额在两个或两个以上相互联系的账户中进行登记，全面系统地反映会计要素增减变化的一种记账方法。现代会计运用复式记账法。

例如：用银行存款1 000元购买原材料。

例如：采购商品2 000元已入库，银行存款支付1 500元，余款未付。

2.复式记账法的特点

（1）能够全面反映经济业务内容和资金运动的来龙去脉；

（2）能够进行试算平衡，便于查账和对账。

3.复式记账法的种类

复式记账法可分为借贷记账法、增减记账法和收付记账法等。

借贷记账法是目前国际上通用的记账方法，我国《企业会计准则》规定企业应当采用借贷记账法记账。

借贷记账法

一、借贷记账法的概念

二、借贷记账法下账户的结构

三、借贷记账法的记账规则

四、账户对应关系与会计分录

五、借贷记账法下的试算平衡

一、借贷记账法的概念

借贷记账法是指以“借”和“贷”为记账符号的一种复式记账方法。

这里的“借”、“贷”已失去其原有的含义，变成纯粹的记账符号。所有账户的借方和贷方按相反方向记录增加数和减少数，即一方登记增加额，另一方就登记减少额。

至于“借”表示增加，还是“贷”表示增加，则取决于账户的性质与所记录经济内容的性质。

二、借贷记账法下账户的结构

（一）基本结构

借贷记账法是以“借”、“贷”两字作为记账符号，分别作为账户的左方和右方。账户左方为借方，账户右方为贷方。

（二）具体结构

费用、资产

=借方增加、贷方减少