实验二 离散信道及其容量
一、[实验目的]
1、理解离散信道容量的内涵；
2、掌握求二元对称信道（BSC）互信息量和容量的设计方法；
3、掌握二元扩展信道的设计方法并会求其平均互信息量。
二、[实验环境]
windows XP,MATLAB 7
三、[实验原理]
若某信道输入的是N维序列x，其概率分布为q(x),输出是N维序列y,则平均互信息量记为I(X;Y)，该信道的信道容量C定义为()max(X;Y)qxCI。
四、[实验内容]
1、给定BSC信道，信源概率空间为
信道矩阵 0.990.010.010.99P
求该信道的I(X;Y)和容量，画出I(X;Y)和、C和p的关系曲线。
2 、编写一M脚本文件t03.m，实现如下功能：
在任意输入一信道矩阵P后，能够判断是否离散对称信道，若是，求出信道容量C。
3、已知X=(0,1,2);Y=(0,1,2,3),信源概率空间和信道矩阵分别为
求： 平均互信息量；
4、 对题(1)求其二次扩展信道的平均互信息I(X;Y)。
五、[实验过程] X P ０ １
0.6 0.4
=
X Px ０ １ ２
0.3 0.5 0.2
=
0.1 0.3 0 0.6
0.3 0.5 0.2 0
0.1 0.7 0.1 0.1 P= 每个实验项目包括：1)设计思路2)实验中出现的问题及解决方法；
1)设计思路
1、信道容量( )
max (X; Y)
q x
C = I
，因此要求给定信道的信道容量，只要知道该信道
的最大互信息量，即求信道容量就是求信道互信息量的过程。
程序代码：
clear all,clc;
w=0.6;
w1=1-w;
p=0.01;
X
P
０ １
= 0.6 0.4
p1=1-p;
1 郑州轻工业学院本科生实验报告
实验名称 离散信道容量
课程名称 信息论与编码
姓 名 ** 指导教师 *** 专业、班级 ****
学 号 54****** 实验时间 ******* 实验地点 121
实
验
目
的 1. 掌握离散信道容量的计算。
2. 理解离散信道容量的物理意义。
3. 练习应用matlab软件进行二元对称离散信道容量的函数曲线的绘制，并从曲线上理解其物理意义。
实
验
条
件 信道是传送信息的载体—信号所通过的通道。
信息是抽象的，而信道则是具体的。比如二人对话，二人间的空气就是信道；打电话，电话线就是信道；看电视，听收音机，收、发间的空间就是信道。
研究信道的目的：在通信系统中研究信道，主要是为了描述、度量、分析不同类型信道，计算其容量，即极限传输能力，并分析其特性。
二元对称信道BSC（Binary Symmetric Channel）
二进制离散信道模型有一个允许输入值的集合X={0，1}和可能输出值的集合Y={0，1}，以及一组表示输入和输出关系的条件概率（转移概率）组成。如果信道噪声和其他干扰导致传输的二进序列发生统计独立的差错，且条件概率对称，即
(0/1)(1/0)(1/1)(0/0)1pYXpYXppYXpYXp
2 这种对称的二进制输入、二进制输出信道称做二元对称信道（或二进制对称信道，简称BSC信道），如下图所示：
信道容量公式：
{()}maxpxCI(X,Y)
3 实
验
内
容
与
步
骤 BSC信道是DMC信道对称信道的特例，对于转移概率为P(0/1)=P(1/0)=p，P(0/0)=P(1/01)=1-p，求出其信道容量公式，并在matlab上绘制信道容量C与p的曲线。
根据曲线说明其物理意义。
4 实
验
结
果
及
分
析 Maltab代码：
p=0:0.001:1;
C=log2(2)+p.*log2(p)+(1-p).*log2(1-p);
当一个信道受到加性高斯噪声的干扰时，如果信道传输信号的功率和信道的带宽受限，则这种信道传输数据的能力将会如何？这一问题，在信息论中有一个非常肯定的结论――高斯白噪声下关于信道容量的山农（Shannon）公式。本节介绍信道容量的概念及山农定理。
1、信道容量的定义
在信息论中，称信道无差错传输信息的最大信息速率为信道容量，记为。
从信息论的观点来看，各种信道可概括为两大类：离散信道和连续信道。所谓离散信道就是输入与输出信号都是取值离散的时间函数；而连续信道是指输入和输出信号都是取值连续的。可以看出，前者就是广义信道中的编码信道，后者则是调制信道。
仅从说明概念的角度考虑，我们只讨论连续信道的信道容量。
2. 山农公式
假设连续信道的加性高斯白噪声功率为（W），信道的带宽为（Hz），信号功率为（W），则该信道的信道容量为
这就是信息论中具有重要意义的山农公式，它表明了当信号与作用在信道上的起伏噪声的平均功率给定时，具有一定频带宽度的信道上，理论上单位时间内可能传输的信息量的极限数值。
由于噪声功率 与信道带宽有关，故若噪声单边功率谱密度为（W/Hz），则噪声功率。因此，山农公式的另一种形式为
由上式可见，一个连续信道的信道容量受、、三个要素限制，只要这三个要素确定，则信道容量也就随之确定。
3. 关于山农公式的几点讨论
山农公式告诉我们如下重要结论：
（1）在给定、的情况下，信道的极限传输能力为，而且此时能够做到无差错传输（即差错率为零）。这就是说，如果信道的实际传输速率大于值，则无差错传输在理论上就已不可能。因此，实际传输速率一般不能大于信道容量，除非允许存在一定的差错率。
（2）提高信噪比 （通过减小或增大），可提高信道容量。特别是，若，则，这意味着无干扰信道容量为无穷大； （3）增加信道带宽，也可增加信道容量，但做不到无限制地增加。这是因为，如果、一定，有
- 1 - 中文摘要
信道是信息传递的通道，承担信息的传输和储存的任务，是构成通信系统的重要组成部分。信道容量是指信道能够传输信息量的大小。信道容量的研究在现实中有着非常重要的理论意义。而信道容量的计算是一个比较复杂的问题，所以我们要借助于数学软件Matlab来解决这个难题。
本文的第一部分从信道容量的基本概念、基本原理、信道模型及分类等方面系统的介绍了信道容量。并在此基础上，介绍了一般信道容量的计算步骤。
本文的第二部分开始介绍信道容量的迭代算法及迭代算法在Matlab中的实现，举例检验迭代算法在Matlab中实现的程序的可行性
关键词 信道容量 Matlab 迭代算法
离散信道容量的迭代算法实现
- 2 -
Abstract
Channel is a channel of information transmission. And it take on the task of
information transmission and storage. Channel is an important part of communication
system. Channel capacity is the size of the amount of information can be transmitted.
It has important significances in reality. However, calculating the channel capacity
is a complex issue. So we must use the mathematical software Matlab to solve this
problem.
The first part of the article, it introduces channel capacity by the basic concepts,
