第3章 离散信道及其信道容量

P ( y ) log P ( y )
Y
H ( p p )
H (Y X ) H (p)
P(y0)pp
P(y1)1P(y0)
3.3 平均互信息的特性 —— 凸状性
给定信道传递概率 P( y x)
信源的概率分布不同，平均互信息量不同 一定存在一种信源，使平均互信息量最大
1 b2
(X/Y) 0 1
传递矩阵： 0
1
1 p

p
p 1 p
3.1.3 单符号离散信道的数学模型 —— 二元删除信道，BEC
X
Y
p
0
0
1 p
2
1 q
1
q
1
02 1
传递矩阵： 0
1
p

0
1 p 1 q
0 q
3.1.3 单符号离散信道的数学模型 —— 一般模型
H(X) H(X Y)
H(X) H(Y) H(XY)
H(Y) H(Y X)
H(XY)
H(X Y) I(X;Y) H(Y X)
H(X)
H (Y )
3.2.2 平均互信息 —— 平均互信息
I(X;Y)H(X)H(XY) H(X)H(Y)H(XY) H(Y)H(YX)
ቤተ መጻሕፍቲ ባይዱ
H(X)
H(X Y)：损失熵
信道
I ( X ;Y )
H (Y )
H(Y X ) ：噪声熵
H (XY )H (YX )0
I(X ;Y ) H (X ) H ( Y )
C m { I ( X a ;Y )x } m { H ( X a ) x } lo r g
P ( x )

(2) 离散无记忆信道(DMC-Discrete Memoryless Channel)
仍是单符号离散信道，符号集中的符号数目大于2 。
GO ON
2020/11/12
13
(3) 离散输入连续输出信道 仍是单符号信道，属于半连续半离散信道。
举例：加性高斯白噪声(AWGN)信道 (Addable White Goss Noise)
6、2.21（3）信号放大问题。课上已经强调过，仍出错。
7、向孔祥品学习
2020/11/12
9
复习：第四节 连续信源的熵和互信息
一、单符号连续信源的熵 相对熵（差熵）
Hc(X) pX (x)log pX (x)dx
Hc
(XY)
p(xy)
log
p(xy)dxdy
Hc
(Y/X)
p(
xy)
log
p(
Y X N , N的概率密度函数是， pN (n)
1
- n2
e 2 2
2
当给定 X ai时，Y是均值为 m ai方差仍为 2的高斯随机变量，
pY ( y | ai )
1
- (y-a i )2
e 2 2
2
2020/11/12
14
(4) 波形信道 输入信号和输出信号用随机过程表示，所以信道模型为:
Hc
(X)
三、 连续信源最大熵定理
1、峰值功率受限的最大熵定理
对于定义域为有限的随机变量X，当它是均匀分布时，其熵
最大。
Hc(X ) pX (x)log2 pX (x)dx log(b a)
2、限平均功率最大熵定理 服从正态分布时具有最大相熵。
p(x)
1

矿产资源开发利用方案编写内容要求及审查大纲
矿产资源开发利用方案编写内容要求及《矿产资源开发利用方案》审查大纲一、概述
㈠矿区位置、隶属关系和企业性质。

如为改扩建矿山, 应说明矿山现状、
特点及存在的主要问题。

㈡编制依据
(1简述项目前期工作进展情况及与有关方面对项目的意向性协议情况。

(2 列出开发利用方案编制所依据的主要基础性资料的名称。

如经储量管理部门认定的矿区地质勘探报告、选矿试验报告、加工利用试验报告、工程地质初评资料、矿区水文资料和供水资料等。

对改、扩建矿山应有生产实际资料, 如矿山总平面现状图、矿床开拓系统图、采场现状图和主要采选设备清单等。

二、矿产品需求现状和预测
㈠该矿产在国内需求情况和市场供应情况
1、矿产品现状及加工利用趋向。

2、国内近、远期的需求量及主要销向预测。

㈡产品价格分析
1、国内矿产品价格现状。

2、矿产品价格稳定性及变化趋势。

三、矿产资源概况
㈠矿区总体概况
1、矿区总体规划情况。

2、矿区矿产资源概况。

3、该设计与矿区总体开发的关系。

㈡该设计项目的资源概况
1、矿床地质及构造特征。

2、矿床开采技术条件及水文地质条件。

信息论基础 武汉科技大学
信道的基本概念
例：信源输出二元符号(0,1)调制时如采用正负 方波的传输，正负方波分别表示0和1
输入/输出统计关系 输入 X
0
信道
输出 Y
1
噪声干扰 Z
信息论基础 武汉科技大学
信道的基本概念
１. 无噪声干扰
0
0
1
1
P(0|0)=P(1|1)=1
信息论基础 武汉科技大学
P(1|0)=P(0|1)=0
b 1 b 2 b 3 b s
0.7
有干扰无记忆信道
不仅仅是有干扰信道，而且是无记忆的。 无记忆的信道指的是在任一时刻的输出符 号只统计依赖于对应时刻的输入符号，而 与其它时刻的输入符号和其它时刻的输出 符号无关。
p( y n | x1 x2 xn y1 y 2 y n1 ) p( y n | xn )
p p
p p
信道线图
X 0 p
1
Y 0 1
p
信息论基础 武汉科技大学
离散单符号信道举例
二元删除信道（BEC） 输入的取值有2个为0、1，输出的取值有3 个为0、1、2(或者?)，定义正确概率p

p(0 | 0) p p(1 | 0) 0 p(2 | 0) p p(0 | 1) 0
b1
a1 a2 ar p (b1 | a1 ) p (b1 | a 2 ) p(b | a ) 1 r
b2

bs
p (bs | a1 ) p (bs | a 2 ) p(bs | a r )
p (b2 | a1 ) p (b2 | a 2 ) p (b2 | a r )