下载文档原格式
自信息、互信息、信息熵、平均互信息，定义、公式（1）自信息：一个事件（消息）本身所包含的信息量，它是由事件的不确定性决定的。
比如抛掷一枚硬币的结果是正面这个消息所包含的信息量。
随机事件的自信息量定义为该事件发生概率的对数的负值。
设事件 的概率为 ，则它的自信息定义为 （2）互信息：一个事件所给出关于另一个事件的信息量，比如今天下雨所给出关于明天下雨的信息量。
一个事件 所给出关于另一个事件 的信息定义为互信息，用 表示。
（3）平均自信息（信息熵）：事件集（用随机变量表示）所包含的平均信息量，它表示信源的平均不确定性。
比如抛掷一枚硬币的试验所包含的信息量。
随机变量X 的每一个可能取值的自信息 的统计平均值定义为随机变量X 的平均自信息量: （4）平均互信息：一个事件集所给出关于另一个事件集的平均信息量，比如今天的天气所给出关于明天的天气的信息量。
为了从整体上表示从一个随机变量Y 所给出关于另一个随机变量 X 的信息量，我们定义互信息 在的XY 联合概率空间中的统计平均值为随机变量X 和Y 间的平均互信息画出各种熵关系图。
并作简要说明I(X;Y)=H(X)-H(X|Y)=H(Y)-H(Y|X)=H(X)+H(Y)-H(XY)当X,Y 统计独立时，I(X;Y)=0实际信源往往是有记忆信源。
对于相互间有依赖关系的N 维随机变量的联合熵存在以下关系（熵函数的链规则） ：定理3.1 对于离散平稳信源，有以下几个结论： （1）条件熵 随N 的增加是递减的；（2）N 给定时平均符号熵大于等于条件熵 （3）平均符号熵 随N 的增加是递减的；（4）如果 ，则 存在，并且分组与非分组码，奇异与非奇异码，唯一可译码与非唯一可译码。
即时码与非即时码1. 分组码和非分组码将信源符号集中的每个信源符号固定地映射成一个码字 Si ，这样的码称为分组码W i 。
用分组码对信源符号进行编码时，为了使接收端能够迅速准确地将码译出，分组码必须具有一些直观属性。
第一章绪论第二章信源与信息熵离散信源的信息量自信息量条件自信息量联合自信息量单符号离散信源熵熵的性质1.非负性2.对称性3.确定性4.扩展性5.连续性二元联合信源的共熵与条件熵二元联合信源的共熵二元联合信源的条件熵独立熵、联合熵与条件熵的关系独立熵、联合熵与条件熵的物理意义离散无记忆信源N次扩展信源离散信道的平均交互信息量离散信道三种描述方法1.概率空间描述2.转移矩阵描述3.图示法描述离散信道的互信息量互信息量性质1.互易性-对称性2.3.互信息量可正可负4.任何两个事件之间的互信息不可能大于其中任何一个事件的自信息量5.离散信道的平均互信息量平均互信息量与联合熵、独立熵的关系一般关系X 和Y 相互独立时X 和Y 一一对应时数据处理定理信息不增性连续信源的熵连续信源均匀分布：高斯分布：指数分布：连续信源的最大熵定理输出峰值受限时的最大熵（瞬时功率受限/幅度受限）：当概率密度分布为均匀分布时，信源具有最大熵输出平均功率受限时的最大熵：当其概率密度函数为高斯分布时，具有最大熵均值受限时的最大熵：其输出信号幅度呈指数分布时连续信源X 具有最大熵值信源的剩余度/多余度/冗余度离散信源的剩余度/多余度/冗余度：连续信源的剩余度/多余度/：第三章信道容量离散无噪声信道的熵速率和信道容量熵速率：信道容量：几种离散无噪声信道举例：1、具有一一对应关系的无噪信道2、具有扩展性能的无噪信道3、具有归并性能的无噪信道离散有噪声信道的熵速率和信道容量接收熵速率：信道容量：连续信道中的熵速率与信道容量连续无噪声信道的熵速率和信道容量熵速率信道容量连续有噪声信道熵速率信道容量第四章信源编码编码的定义1、二元码/多元码2、同价码3、等长码4、变长码5、非奇异码/非奇异码6、单义码(单义码)7、非续长码(瞬时可译码/即时码)/续长码(非瞬时可译码/非即时码)单义码存在定理（克劳夫特Kraft 不等式）码树图平均码字长度编码定理定长编码定理：变长编码定理：离散无记忆平稳信道的编码定理(香农第二定理)：最佳变长编码一、香农编码二、范诺（费诺）编码(1) 把原始信源的符号按概率从大到小重新排列。
