当前位置:文档之家› 离散消息信道容量的迭代计算

离散消息信道容量的迭代计算

离散消息信道容量的迭代计算
离散消息信道容量的迭代计算

离散消息信道容量的迭代算法

摘要

对于离散信源,在限度失真条件下直接计算信源的最小速率是比较复杂的。本文分析了Blahut 迭代算法求解R(D)的原理和过程,并通过仿真研究了各种离散信道率失真函数R(D)与失真限定值D 的关系。本文主要对离散信道及其信道容量进行相关阐述,重点描述用迭代算法实现离散信道容量,并对其进行仿真分析。

关键词:离散信源 率失真函数 Blahut 迭代算法

一.离散消息信道容量

1.1 离散信道

Y 也为随机变条件概率P(Y|X

X

Y

1.2的∩型凸函数。,使传输每个符号平均获得的信息量最大。也就是每个固定信道都有一个最大的信息传输率。定义这个最大的信息传输率为信道容量C,即C=max{I(X; Y)}。其中

I(X,Y)=[H(X)-H(X/Y)]=[H(Y)-H(Y/X)] 比特/符号

信道容量与与信源无关,它是信道的特征参数,反应的是信道的最大的信息传输能力。

对于一般信道的求解方法,就是求解方程组

令 则

若r=s ,此方程有解,可以解出s 各未知数βj ,再根据

从而

信道容量求出后,计算并没有结束,必须解出相应的

)

(i x p ,并确认所有的

)

(i x p 都大于或等于0时,所求的C 才存在,因为在我们对I(X;Y)求偏导时只限

1)(1

=∑=n

i

i x p ,并没有限制

)(≥i x p ,所以求出的)

(i x p 可能为负值,此时的C

就不存在,必须对)

(i x p 进行调整再求解C 一般由迭代算法求出。

二.离散消息信道容量迭代算法

2.1 信道容量迭代算法的迭代流程

一般离散信道的信道容量可以通过以下迭代算法实现:

(1) 对于一个给定信道的信道转移概率ij i j p x y p =)|(,并且给定初始化信源

分布)......,(21)0(r i p p p p p =,置迭代计数器k=0,设信道容量相对误差门限为δ,δ>0;

(2) 由迭代公式计算∑=

i

k i ij k i ij k ji p p p p )

()

()(?;

log ()j j C P b β=+1

1

(/)(/)log (/)s

s

j i j j i j i j j P b a P b a P b a β===∑∑()2

j C

j P b β-=1

21j s

C

j β-==∑1

log 2j

s

j C β==∑1

1

(/)log (/)(/)log ()s

s

j

i j i j i j j j P b

a P

b a P b a P b C

==-=∑∑

(3) 由上一步结果代入公式计算∑∑∑=

+i

j

k ji ij j

k ji ij k i

p p p ]}

ln {exp[]ln exp[)()()

1(??

(4) }]ln exp[ln{)()1(∑∑=+i

j

k ji ij k p C ?得到信道容量

(5) 判断若δ≤-=?+++)

1()()1(1k k k k C

C C C

(,则转到(7) (6) 迭代序号加一,即k=k+1,转向(2) (7) 输出)1()(+k i x p

否,k=k+1

三.仿真结果

对不同的离散无记忆信道进行仿真,利用迭代算法计算出其信道容量及达到信道容量时信源的输入概率分布。

此仿真中不同的信道转移概率表示不同的离散信道,信道容量对比仿真分析如下表所示:

入概率分布,且迭代所需次数也不同。

然后我们对于同一信道,对应不同精度要求的迭代算法进行仿真比较,如下表所示:

可见,对于同一信道,迭代算法对于精度的不用要求其迭代次数不同,精度越高迭代次数越多,计算越复杂。

四.结论

本文对离散消息信道容量展开研究,首先介绍了离散信道以及信道容量的相关概念。然后介绍了离散信道信道容量的迭代求法。接下来通过对迭代算法的仿真结果分析得出,对于不同的离散信道对应不同信道容量且达到信道容量对应不同的输入概率分布,迭代算法对于精度的不用要求其迭代次数不同,精度越高迭代次数越多,计算越复杂。

参考文献

[1].田宝玉,杨洁,贺志强,王晓湘. 信息论基础. 人民邮电出版社. 2008

[2].吴伟陵. 信息处理与编码. 人民邮电出版社. 1991

信道容量的计算

§4.2信道容量的计算 这里,我们介绍一般离散信道的信道容量计算方法,根据信道容量的定义,就是在固定信道的条件下,对所有可能的输入概率分布)(x P 求平均互信息的极大值。前面已知()Y X I ;是输入概率分布的上凸函数,所以极大值一定存在。而);(Y X I 是r 个变量 )}(),(),({21r x p x p x p 的多元函数。并且满足1)(1 =∑=r i i x p 。所以可用拉格朗日乘子法来 计算这个条件极值。引入一个函数:∑-=i i x p Y X I )();(λ φ解方程组 0) (] )();([) (=∑?-???i i i i x p x p Y X I x p λ φ 1)(=∑i i x p (4.2.1) 可以先解出达到极值的概率分布和拉格朗日乘子λ的值,然后在解出信道容量C 。因为 ) () (log )()();(11 i i i i i r i s j i y p x y Q x y Q x p Y X I ∑∑=== 而)()()(1 i i r i i i x y Q x p y p ∑== ,所以 e e y p y p i i i i i y p x y Q i x p i x p l o g l o g ))(ln ()(log ) ()()() (==????。 解(4.2.1)式有 0log )()()()()()(log )(111=--∑∑∑===λe y p x y Q x y Q x p y p x y Q x y Q i i i i i r i s j i i i i s j i i (对r i ,,2,1 =都成立) 又因为 )()()(1j k k r k k y p x y Q x p =∑= r i x y Q s j i j ,,2,1,1)(1 ==∑= 所以(4.2.1)式方程组可以转化为 ),,2,1(log ) ()(log )(1r i e y p x y Q x y Q j i j s j i j =+=∑=λ 1)(1 =∑=r i i x p

实验二 离散信道及其容量

实验二离散信道及其容量 一、[实验目的] 1、理解离散信道容量的内涵; 2、掌握求二元对称信道(BSC)互信息量和容量的设计方法; 3、掌握二元扩展信道的设计方法并会求其平均互信息量。 二、[实验环境] windows XP,MATLAB 7 三、[实验原理] 若某信道输入的是N 维序列x ,其概率分布为q(x ),输出是N 维序列y ,则平均互信息量记为I(X ;Y ),该信道的信道容量C 定义为() max (X;Y)q x C I =。四、[实验内容] 1、给定BSC 信道,信源概率空间为 信道矩阵0.990.010.010.99P ??=???? 求该信道的I(X;Y)和容量,画出I(X;Y)和ω、C 和p 的关系曲线。 2、编写一M 脚本文件t03.m,实现如下功能: 在任意输入一信道矩阵P 后,能够判断是否离散输出对称信道。 3、对题1求其二次扩展信道的平均互信息I(X;Y)。 五、[实验过程] 每个实验项目包括: 1)设计思路 1、信道容量 ()max (X;Y)q x C I =,因此要求给定信道的信道容量,只要知道该信道的最大互信息量,即求信道容量就是求信道互信息量的过程。 程序代码: clear all,clc; w=0.6; w1=1-w; p=0.01;X P 0 10.60.4 =

p1=1-p; save data1p p1; I_XY=(w*p1+w1*p)*log2(1/(w*p1+w1*p))+(w*p+w1*p1)*log2(1/(w*p+w1*p1))-... (p*log2(1/p)+p1*log2(1/p1)); C=1-(p*log2(1/p)+p1*log2(1/p1)); fprintf('互信息量:%6.3f\n信道容量:%6.3f',I_XY,C); p=eps:0.001:1-eps; p1=1-p; C=1-(p.*log2(1./p)+p1.*log2(1./p1)); subplot(1,2,1),plot(p,C),xlabel('p'),ylabel('C'); load data1; w=eps:0.001:1-eps; w1=1-w; I_XY=(w.*p1+w1.*p).*log2(1./(w.*p1+w1.*p))+(w.*p+w1.*p1).*log2(1./(w.*p+w1.*p1))-.. .(p.*log2(1./p)+p1.*log2(1./p1)); subplot(1,2,2),plot(w,I_XY) xlabel('w'),ylabel('I_XY'); 实验结果: 互信息量:0.891 信道容量:0.919 I(X;Y)和ω、C和p的关系曲线图: C X 2、离散对称信道:当离散准对称信道划分的子集只有一个时,信道关于输入和输出对称。 离散准对称信道:若一个离散无记忆信道的信道矩阵中,按照信道的输出集Y 可以将信道划分成n个子集,每个子矩阵中的每一行都是其他行同一组元素的不同排列。

DMC信道容量迭代计算的matlab实现

DMC 信道容量迭代计算的matlab 实现--通信与信息系统 一、用了matlab 实现DMC 容量迭代的算法如下: 1. 初始化信源分布:.0det a 10,1,0,1)(>>=?==,选置,,k r i r P k i 一般我选deta=0.000001。 2. }{,)()()()(k ij i ji k i ji k i k ij t p p p p t 得反向转移概率矩阵由式∑=。 3. ()()()()(){}111]log exp[] log exp[+++==∑∑∑k i k i j ij k ji j ij k ji k i p P t p t p p 计算由式。 4. ()()()()()()。C t p t P I C k r i s j k ij ji k k k 10011log exp log ,+==++????????????????==∑∑计算由式 5. 若a C C C k k k det )1() ()1(>-++,则k=k+1,转第2步 6.输出迭代次数k 和()1+k C 和1+k P ,终止。 二、了解了信道容量的定义和DMC 信道容量迭代计算方法,我用了matlab 来进行编程进行迭代计算得出信道容量。不足之处在于每迭代一次就输出一次迭代次数直到最后一次迭代。 1)输入:输入信源个数、信宿个数和信道容量的精度,程序能任意生成随机的 信道转移概率矩阵,也可以自己输入信道转移矩阵。 2)输出:输出最佳信源分布和信道容量。将附件里的dmc.m 文件直接run 运行 可以自主输入信道转移概率矩阵,按照程序中提示将那两句代替判 断输入矩阵是否正确的那部分,dmc1.m 运行可以随机生成信道转移 概率矩阵。 三、检验程序 之一: 输入信源个数:2 输入信宿个数:3 输入信道容量的精度: 0.000001 输入信道转移矩阵P :[0.5000 0.3000 0.2000;0.3000 0.5000 0.2000] 之二:P :[0.4000 0.3000 0.2000;0.3000 0.5000 0.2000] 之三:P :[1.1000 -0.3000 0.2000;0.3000 0.5000 0.2000] 之四:P:[0.6 0.4;0.01 0.99] 之五:自动生成信道转移矩阵

实验三 信道容量计算

实验三信道容量计算 一、实验目的: 了解对称信道与非对称信道容量的计算方法。 二、实验原理: 信道容量是信息传输率的极限,当信息传输率小于信道容量时,通过信道编码,能够实现几乎无失真的数据传输;当数据分布满足最佳分布时,实现信源与信道的匹配,使得信息传输率能够达到信道容量。本实验利用信道容量的算法,使用计算机完成信道容量的计算。 实验采用迭代算法计算信道容量,即:设DMC的转移概率pyx(i,j),p(i)是任意给定的一组初始给定输入分布,开始为等概率分布,以后逐次迭代更新p(i)的取值。其所有分量P (i)均不为0。按照如下方法进行操作: 具体方法: 1、计算q(j)=∑ i j i pyx i p) ,( *)(,pyx(i,j)为信道转移概率 2、计算a(i) 先算中间变量d(i)=∑ j j q j i pyx j i pyx) ( /) ,( log( *) ,( 然后,a(i)=exp(d(i)) 3、计算中间变量U=∑ i i p i a)( *)( 4、计算IL=log2(u) 5、计算IU=log2(max(a(i)) 6、当IU-IL>ε(ε为设定的迭代精度)时,进入以下循环,否则输出迭代次数n,信道容量C=IU计算结果,最佳分布p(i)。 ①重新计算p(i)=p(i)*a(i)/U ②计算q(j),方法同1 ③计算a(i),方法同2 ④计算中间变量U=∑ i i p i a)( *)( ⑤计算IL=log2(u) ⑥计算IU=log2(max(a(i)) ⑦计次变量n=n+1

返回6判断循环条件是否满足。 四、实验内容: 假设离散无记忆二元信道如图所示,编程,完成下列信道容量的计算 2e 1. 令120.1e e p p ==和120.01e e p p ==,先计算出信道转移矩阵,分别计算该对称信道的信道容量和最佳分布,将用程序计算的结果与用对称信道容量计算公式的结果进行比较,并贴到实验报告上。 2. 令10.15e p =,20.1e p =和10.075e p =20.01e p =,分别计算该信道的信道容量和最佳分布; 四、实验要求: 在实验报告中给出源代码,写出信道对应的条件转移矩阵,计算出相应结果。并定性讨论信道容量与信道参数之间的关系。

实验二 离散信道及其容量

实验二 离散信道及其容量 一、[实验目的] 1、理解离散信道容量的内涵; 2、掌握求二元对称信道(BSC )互信息量和容量的设计方法; 3、掌握二元扩展信道的设计方法并会求其平均互信息量。 二、[实验环境] windows XP,MATLAB 7 三、[实验原理] 若某信道输入的是N 维序列x ,其概率分布为q(x ),输出是N 维序列y ,则平均互信息量记为I(X ;Y ),该信道的信道容量C 定义为() max (X;Y)q x C I =。 四、[实验内容] 1、给定BSC 信道,信源概率空间为 信道矩阵 0.990.010.010.99P ??=???? 求该信道的I(X;Y)和容量,画出I(X;Y)和ω、C 和p 的关系曲线。 2 、编写一M 脚本文件t03.m ,实现如下功能: 在任意输入一信道矩阵P 后,能够判断是否离散对称信道,若是,求出信道容量C 。 3、已知X=(0,1,2);Y=(0,1,2,3),信源概率空间和信道矩阵分别为 求: 平均互信息量; 4、 对题(1)求其二次扩展信道的平均互信息I(X;Y)。 五、[实验过程 ] X P 0 1 0.6 0.4 = X Px 0 1 2 0.3 0.5 0.2 = 0.1 0.3 0 0.6 0.3 0.5 0.2 0 0.1 0.7 0.1 0.1 P=

每个实验项目包括:1)设计思路2)实验中出现的问题及解决方法; 1)设计思路 1、信道容量( ) max (X; Y) q x C = I ,因此要求给定信道的信道容量,只要知道该信道 的最大互信息量,即求信道容量就是求信道互信息量的过程。 程序代码: clear all,clc; w=0.6; w1=1-w; p=0.01; X P 01 = 0.6 0.4 p1=1-p; save data1 p p1; I_XY=(w*p1+w1*p)*log2(1/(w*p1+w1*p))+(w*p+w1*p1)*log2(1/(w*p+w1*p1))- ... (p*log2(1/p)+p1*log2(1/p1)); C=1-(p*log2(1/p)+p1*log2(1/p1)); fprintf('互信息量:%6.3f\n信道容量:%6.3f',I_XY,C); p=eps:0.001:1-eps; p1=1-p; C=1-(p.*log2(1./p)+p1.*log2(1./p1)); subplot(1,2,1),plot(p,C),xlabel('p'),ylabel('C'); load data1; w=eps:0.001:1-eps; w1=1-w; I_XY=(w.*p1+w1.*p).*log2(1./(w.*p1+w1.*p))+(w.*p+w1.*p1).*log2(1./(w.*p+w1.*p1))- . . .(p.*log2(1./p)+p1.*log2(1./p1)); subplot(1,2,2),plot(w,I_XY) xlabel('w'),ylabel('I_XY'); 实验结果:

寻呼空口信道容量及信道容量计算

寻呼空口信道容量及FACH 信道 容量计算方法

目录 1寻呼容量计算方法 (2) 1.1现网理论容量计算 (2) 1.2实际网络环境下的容量计算 (3) 2寻呼容量扩容方案 (3) 2.1寻呼拥塞产生的原因 (3) 2.2寻呼容量预警机制 (4) 2.3现网容量评估 (4) 2.4空口寻呼扩容方案 (5) 2.4.1方案原理 (5) 2.4.2目标容量 (6) 3FACH信道容量评估 (7)

1寻呼容量计算方法 首先需要明确寻呼容量的单位是个/时间/小区,也就是说衡量一个RNC支持多大的寻呼量是以小区为标准的,比如某RNC支持的寻呼容量应为XX个/小时/小区或者XX个/秒/小区。 RNC设备支持的理论寻呼量为45万TMSI/小时/小区,实际每小区支持的寻呼容量则取决于空口的寻呼容量配置。 空口寻呼容量配置计算方法如下(以小区为参考单位): PCH寻呼能力计算公式为:Ntfs×RoundDown[(TBSize-7)/Lue]×Npch/(Nr×Tpbp) IMSI寻呼时, Ntfs×RoundDown[(TBSize-7)/72]×Npch/(Nr×Tpbp) TMSI/PTMSI寻呼时,Ntfs×RoundDown[(TBSize-7)/40]×Npch/(Nr×T pbp) 注:RoundDown为向下取整。 如果空口环境不好,存在大量重传的时候,则上面的公式需要再除以(1+Nr),寻呼容量减半,通常情况下不考虑重传。 1.1现网理论容量计算 除西安网络进行寻呼信道扩容外,现网目前各项空口寻呼信道参数配置如下表: 协议参数说明备注现网配置 Ntfs PCH传输格式中 240bit块的个数(一 个寻呼子信道承载) 传输块个数 一般配置为0、1。Ntf与PCH所在 的SCCPCH的码道数目相关。 1 Tbsize PCH传输块大小240 Npch 每个寻呼块配置的寻 呼子信道数目 协议规定Npch<=8 8 Nr 重复因子相同寻呼的重发次数 1 Tpbp PICH的寻呼周期重复周期/ Tpbp 640ms/320ms 640

信道容量实验报告

湖南大学 信息科学与工程学院 实验报告 实验名称信道容量的迭代算法课程名称信息论与编码 第1页共9页

1.实验目的 (1)进一步熟悉信道容量的迭代算法; (2)学习如何将复杂的公式转化为程序; (3)掌握C 语言数值计算程序的设计和调试技术。 2、实验方法 硬件:pc 机 开发平台:visual c++软件 编程语言:c 语言 3、实验要求 (1)已知:信源符号个数r 、信宿符号个数s 、信道转移概率矩阵P 。 (2)输入:任意的一个信道转移概率矩阵。信源符号个数、信宿符号个数和每 个具体的转移概率在运行时从键盘输入。 (3)输出:最佳信源分布P*,信道容量C 。 4.算法分析 1:procedure CHANNEL CAPACITY(r,s,(ji p )) 2:initialize:信源分布i p =1/r ,相对误差门限σ,C=—∞ 3:repeat 4: 5: 6: C 221 1 log [exp(log )] r s ji ij r j p φ==∑∑ 7:until C C σ ?≤ 8:output P*= ()i r p ,C 9:end procedure 21 21 1 exp(log ) exp(log ) s ji ij j r s ji ij r j p p φφ===∑∑∑i p 1 i ji r i ji i p p p p =∑ij φ

5.程序调试 1、头文件引入出错 f:\visualc++\channel\cpp1.cpp(4) : fatal error C1083: Cannot open include file: 'unistd.h': No such file or directory ————#include 纠错://#include f:\visualc++\channel\cpp1.cpp(5) : fatal error C1083: Cannot open include file: 'values.h': No such file or directory ————#include 纠错://#include 2、变量赋值错误 f:\visualc++\channel\cpp1.cpp(17) : error C2065: 'ij' : undeclared identifier f:\visualc++\channel\cpp1.cpp(17) : error C2440: 'initializing' : cannot convert from 'int' to 'float ** ' Conversion from integral type to pointer type requires reinterpret_cast, C-style cast or function-style cast ————float **phi_ij=ij=NULL; 纠错:float **phi_ij=NULL; 3、常量定义错误 f:\visualc++\channel\cpp1.cpp(40) : error C2143: syntax error : missing ';' before 'for' ————for(i=0;iDELTA) f:\visualc++\channel\Cpp1.cpp(84) : error C2021: expected exponent value, not ' ' ————if(fabs(p_j)>=DELTA) f:\visualc++\channel\Cpp1.cpp(100) : error C2021: expected exponent value, not ' ' ————if(fabs(phi_ij[i][j])>=DELTA) f:\visualc++\channel\Cpp1.cpp(116) : error C2021: expected exponent value, not ' ' ————while(fabs(C-C_pre)/C>DELTA); 纠错:#define DELTA 0.000001; F:\visualc++\channel\Cpp1.cpp(68) : error C2065: 'MAXFLOAT' : undeclared identifier F:\visualc++\channel\Cpp1.cpp(68) : warning C4244: '=' : conversion from 'int' to 'float', possible loss of data ————C=-MAXFLOAT; 纠错:#define MAXFLOAT 1000000; 3、引用中文逗号 f:\visualc++\channel\cpp1.cpp(60) : error C2018: unknown character '0xa1' f:\visualc++\channel\cpp1.cpp(60) : error C2018: unknown character '0xb1' f:\visualc++\channel\cpp1.cpp(60) : error C2065: 'Starting' : undeclared identifier f:\visualc++\channel\cpp1.cpp(60) : error C2059: syntax error : '.'

正式实验报告二—信道容量的计算

一、实验目的 1.掌握离散信道的信道容量的计算方法; 2.理解不同类型信道的不同特点与不同的计算方法; 二、实验内容 1.进一步熟悉一般离散信道的信道容量计算方法; 2.进一步复习巩信道性质与实际应用; 3.学习如何将复杂的公式转化为程序。 三、实验仪器、设备 1、计算机-系统最低配置256M内存、P4 CPU; 2、MATLAB编程软件。 四、实现原理 信道容量是信息传输率的极限,当信息传输率小于信道容量时,通过信道编码,能够实现几乎无失真的数据传输;当数据分布满足最佳分布时,实现信源与信道的匹配,使得信息传输率能够达到信道容量。本实验利用信道容量的算法,使用计算机完成信道容量的计算。 实验采用迭代算法计算信道容量,即:设DMC的转移概率pyx(i,j),p(i)是任意给定的一组初始给定输入分布,开始为等概率分布,以后逐次迭代更新p(i)的取值。其所有分量P (i)均不为0。按照如下方法进行操作: 具体方法: 1、计算q(j)= i j i pyx i p) ,( *)(,pyx(i,j)为信道转移概率 2、计算a(i)

先算中间变量d(i)=∑ j j q j i pyx j i pyx) ( /) ,( log( *) ,( 然后,a(i)=exp(d(i)) 3、计算中间变量U=∑ i i p i a)( *)( 4、计算IL=log2(u) 5、计算IU=log2(max(a(i)) 6、当IU-IL>ε(ε为设定的迭代精度)时,进入以下循环,否则输出迭代次数n,信道容量C=IU计算结果,最佳分布p(i)。 ①重新计算p(i)=p(i)*a(i)/U ②计算q(j),方法同1 ③计算a(i),方法同2 ④计算中间变量U=∑ i i p i a)( *)( ⑤计算IL=log2(u) ⑥计算IU=log2(max(a(i)) ⑦计次变量n=n+1 返回6判断循环条件是否满足。 五、实验步骤 1、计算非对称信道的信道容量 运行程序

信道容量及其一般计算方法

实验一信道容量及其一般计算方法 1.实验目的 一般离散信道容量的迭代运算 2.实验要求 (1)理解和掌握信道容量的概念和物理意义 (2)理解一般离散信道容量的迭代算法 (3)采用Matlab编程实现迭代算法 (4)认真填写实验报告。 3.源代码 clc;clear all; //清屏 N = input('输入信源符号X的个数N='); //输入行数 M = input('输出信源符号Y的个数M='); //输入列数 p_yx=zeros(N,M); //程序设计需要信道矩阵初始化为零 fprintf('输入信道矩阵概率\n') for i=1:N //从第一行第一列开始输入 for j=1:M p_yx(i,j)=input('p_yx='); //输入信道矩阵概率 if p_yx(i)<0 //若输出概率小于0则不符合概率分布 error('不符合概率分布') end end end for i=1:N //各行概率累加求和 s(i)=0; for j=1:M s(i)=s(i)+p_yx(i,j); end end for i=1:N //判断是否符合概率分布 if (s(i)<=0.999999||s(i)>=1.000001) //若行相加小于等于0.9999999或者大于等于1.000001 Error //('不符合概率分布') end end b=input('输入迭代精度:'); //输入迭代精度 for i=1:N p(i)=1.0/N; //取初始概率为均匀分布(每行值分别为1/N,)end for j=1:M //计算q(j) q(j)=0; for i=1:N q(j)=q(j)+p(i)*p_yx(i,j); //均匀分布的值乘上矩阵值后+q(j),然后赋值给q(j)实现求和

迭代求信道容量

迭代法求(非对称)信道容量 前言:对于给定的信道,除了对称信道之外,信道容量的计算是比较复杂的,但可以用迭代算法实现近似的信道容量。 具体细节:1..设输入变量为A (ai ),输出为B(bi),对于给定的信道,信道转移矩阵一般都为定值,设为已知,用矩阵Pa2b 表示。 2.为了提高计算效率,将累加求和等运算尽量用矩阵运算而不是循环运算。 实验数据分析:实验发现,当输入的信道转移矩阵为对称信道时,输入分布很快收敛于等概分布,然后很快的退出迭代运算而输出结果,当然这时候的结果是经检验不正确的。具体分析原因如下: 当迭代至输入分布赋值为等概(或接近等概)时,事实上我们一开始就初始化输入分布P (ai )为等概分布,由 ])|()()|(ln )|(exp[∑∑=j i i j i i j i j i a b P a P a b P a b P α 其中)(j b P =)|()(i j i i a b P a P ∑,当)(i a P 等概分布且信道为准对称时易得)(j b P 等概记为P (b0)。所以])()|(log )|(exp[0b P a b P a b P i j i j j i ∑=α,由对称矩阵性质易得每行求和后数值相等。故得到i α是相等的(记为0α)。所以: C(n ,n)=)ln())(ln())(ln())(ln( 000αααα===∑∑∑i i i i i i i a P a P a P 而另一变量: C '(n+1,n)=)ln()max ln(0αα=i i 可见C=C ',则C-C '<ε恒成立,故退出整个迭代过程,而得不到正确的结果。 具体实现代码(matlab )如下: %通过迭代算法求某信道的信道容量% %设输入变量为A (ai ),输出为B(bi),对于给定的信道,信道转移矩阵一般都为定值,设为已知,用矩阵Pa2b 表示% %为了提高计算效率,讲累加求和等运算尽量用矩阵运算而不是循环运算% %最后为了方便调用,将其封装成一个函数。 %输入参数:信道转移矩阵:Pa2b (r*s 矩阵);误差容限:Error_Tor ,误差容限缺省值为1*10^(-2)% %输出参数:为信道误差容限下的信道容量:Channel_Cap_Extreme ; %和对应的最佳输入分布:Pa_opti% %BY :独孤败% %AT:NUPT 2010-11-18% function [Channel_Cap_Extreme,Pa_opti]=CapChannel_DieDai(Pa2b,Error_Tor)

离散信道容量迭代实现

中文摘要 信道是信息传递的通道,承担信息的传输和储存的任务,是构成通信系统的重要组成部分。信道容量是指信道能够传输信息量的大小。信道容量的研究在现实中有着非常重要的理论意义。而信道容量的计算是一个比较复杂的问题,所以我们要借助于数学软件Matlab来解决这个难题。 本文的第一部分从信道容量的基本概念、基本原理、信道模型及分类等方面系统的介绍了信道容量。并在此基础上,介绍了一般信道容量的计算步骤。 本文的第二部分开始介绍信道容量的迭代算法及迭代算法在Matlab中的实现,举例检验迭代算法在Matlab中实现的程序的可行性 关键词信道容量 Matlab 迭代算法

Abstract Channel is a channel of information transmission. And it take on the task of information transmission and storage. Channel is an important part of communication system. Channel capacity is the size of the amount of information can be transmitted. It has important significances in reality. However, calculating the channel capacity is a complex issue. So we must use the mathematical software Matlab to solve this problem. The first part of the article, it introduces channel capacity by the basic concepts, principles and the classification of channel models. On this basis, introduce and discuss the calculation steps of the general channel capacity. The second part of the article, it introduces the Iterative algorithm of the channel capacity and implementes the iterative algorithm in Matlab. After that, by realizing the feasibility of the procedure, we make some examples. And also analyze the procedure. Key word :channel capacity、matlab

信道容量实验报告

w .. . .. 湖南大学 信息科学与工程学院 实验报告 实验名称信道容量的迭代算法 课程名称信息论与编码

1.实验目的 (1)进一步熟悉信道容量的迭代算法; (2)学习如何将复杂的公式转化为程序; (3)掌握C 语言数值计算程序的设计和调试技术。 2、实验方法 硬件:pc 机 开发平台:visual c++软件 编程语言:c 语言 3、实验要求 (1)已知:信源符号个数r 、信宿符号个数s 、信道转移概率矩阵P 。 (2)输入:任意的一个信道转移概率矩阵。信源符号个数、信宿符号个数和每 个具体的转移概率在运行时从键盘输入。 (3)输出:最佳信源分布P*,信道容量C 。 4.算法分析 1:procedure CHANNEL CAPACITY(r,s,( ji p )) 2:initialize:信源分布 i p =1/r ,相对误差门限σ,C=—∞ 3:repeat 4: 5: 1i ji r i ji i p p p p =∑ij φ

6: C 2211log [exp(log )] r s ji ij r j p φ==∑∑ 7:until C C σ ?≤ 8:output P*= ()i r p ,C 9:end procedure 5.程序调试 1、头文件引入出错 f:\visualc++\channel\cpp1.cpp(4) : fatal error C1083: Cannot open include file: 'unistd.h': No such file or directory ————#include 纠错://#include f:\visualc++\channel\cpp1.cpp(5) : fatal error C1083: Cannot open include file: 'values.h': No such file or directory ————#include 纠错://#include 2、变量赋值错误 f:\visualc++\channel\cpp1.cpp(17) : error C2065: 'ij' : undeclared identifier f:\visualc++\channel\cpp1.cpp(17) : error C2440: 'initializing' : cannot convert from 'int' to 'float ** ' Conversion from integral type to pointer type requires reinterpret_cast, C-style cast or function-style cast ————float **phi_ij=ij=NULL; 纠错:float **phi_ij=NULL; 3、常量定义错误 f:\visualc++\channel\cpp1.cpp(40) : error C2143: syntax error : missing ';' before 'for' ————for(i=0;iDELTA) f:\visualc++\channel\Cpp1.cpp(84) : error C2021: expected exponent value, not ' ' 21 211exp(log )exp(log )s ji ij j r s ji ij r j p p φφ===∑∑∑i p

信息论与编码[第三章离散信道及其信道容量]山东大学期末考试知识点复习

第三章离散信道及其信道容量 3.1.1 信道的分类 在信息论中,信道是传输信息的通道,是信息传输系统的重要组成部分之一。信道的分类有: 按照信道输入端或输出端的个数可分为单用户信道和多用户信道。 按照信道输出端有无信号反馈到输入端可分为有反馈信道和无反馈信道。 按照信道的统计参数是否随时间变化可分为时变参数信道和固定参数信道。 按照信道输入/输出信号取值幅度集合以及取值时间集合的离散性和连续性可分为离散信道(数字信道)和波形信道(模拟信道)。 按照信道输入/输出信号取值幅度集合的离散性和连续性(取值时间是离散的)可分为离散信道和连续信道。 按照信道输入/输出信号在取值时刻上是否有依赖关系可分为有记忆信道和无记忆信道。 按照信道输入信号与输出信号之间是否统计依赖关系可分为有噪信道和无噪(无干扰)信道。 3.1.2 离散信道的数字模型 1.一般离散信道(多维离散信道) 一般离散信道输入/输出信号取值幅度和取值时刻都是离散的平稳随机矢量。其数学模型可用离散型概率空间[X,P(y|x),Y]来描述。其中X=(X1X2…X N)为输入信号,Y= (Y1Y2…Y N)为输出信号。X中X i∈A={a1,a2,…,a r},Y中Y i∈B={b1,b2,…,b s}。又P(y|x)(x∈X,y∈Y)是信道的传递概率(转移概率),反映输入和输出信号之间统计依赖关系,并满足

概率空间[X,P(y|x),Y]也可用图来描述。 2.基本离散信道(单符号离散信道) 单符号离散信道是离散信道中最基本的信道,其信道输入/输出信号都是取值离散的单个随机变量。数学模型是概率空间[X,P(y|x),Y],(或[X,P(b j|a i),Y]),其中X∈A={a1,a2,…,a r},Y∈B={b1,b2,…,b s),P(y|x)=P(b j|a i)(i=1,2,…,r;j=1,2,…,s)并满足 概率空间[X,P(y|x),Y]也可用图来描述,如图3.1所示。 若将传递概率排列成矩阵形式,则称其为传递矩阵(或称信道矩阵)P,即 3.无噪(无干扰信道) 若离散信道[X,P(y|x),Y]满足

信息量及信道容量的计算

#include #include #include using namespace std; int main() { int i,j,k,m,n; char r; char A='Y',B='N'; double x[20],p[12][12],q[12][12],y[20]; cout<<"输入信源x的个数N="; cin>>n; cout<<"输入所需信源概率:"<>m; if(m==1) { double H=0,h; for(int j=1;j<=n;j++) { h=-x[j-1]*log10(x[j-1])/log10(2); H=H+h; } cout<<"信源熵为:"<

double H1=0,h1=0 ,H2=0,h2=0; for(i=1;i<=n;i++) { for(j=1;j<=n;j++) { q[i-1][j-1]=p[i-1][j-1]*x[i-1]; //cout<<"联合概率"<<"y"<

大学信息论_信道容量的迭代算法

陕西科技大学实验报告 班级: XXXX 学号:XXXXXXXXX 姓名:XXX 实验组别: 实验日期: 报告日期: 成绩: 报告内容:(目的和要求、原理、步骤、数据、计算、小结等) 实验名称:信道容量的迭代算法 一、实验目的 (1) 进一步熟悉信道容量的迭代算法。 (2) 学习如何将复杂的公式转化为程序。 (3) 掌握高级语言数值计算程序的设计和调试技术。 二、实验要求 (1)已知:信源符号个数r 、信宿符号个数s 、信道转移概率矩阵P 。 (2)输入:任意的一个信道转移概率矩阵。信源符号个数、信宿符号个数和每 个具体的转移概率在运行时从键盘输入。 (3)输出:信道容量C 。 三、实验原理(流程图): 1: procedure ChannelCapacity(r, s, (ji p )) 2: initialize: 信源分布1i p r = ,相对误差门限δ,C =-∞ 3: repeat 4: 1i ji ij r i ji i p p p p φ=←∑ 5: 111exp log exp log s ji ij j i r s ji ij i j p p p φφ===?? ???←?? ??? ∑∑∑ 6: 11log exp log r s ji ij i j C p φ==????←?? ?????? ?∑∑ 7: until C C δ?≤ 8: output C 9: end procedure

四、实验数据(源代码): #include #include #define MAX 100 double Calculate_a(int k,double pa[]); double Calculate_C1(double pa[],double a[]); double Calculate_C2(double a[]); int r,s; double pba[3][3]; void main() { int i,j; double C1,C2,E; double a[MAX],pa[3];

MIMO信道容量计算.docx

实验一: MIMO 信道容量计算 实验学时:3 实验类型:(演示、验证、综合、设计、√研究) 实验要求:(√必修、选修) 一、实验目的 通过本实验的学习,理解和掌握信道容量的概念和物理意义;了解多天线系统信道容量的计算方法;采用计算机编程实现经典的注水算法。 二、实验内容 MIMO 信道容量; 注水算法原理; 采用计算机编程实现注水算法。 三、实验组织运行要求 以学生自主训练为主的开放模式组织教学 四、实验条件 (1)微机 (2)MATLAB 编程工具 五、实验原理、方法和手段 MIMO (MIMO,Multiple Input Multiple Output )技术利用多根天线实现多发多收,充分利用了空间资源,在有限的频谱资源上可以实现高速率和大容量,已成为4G 通信系统以及未来无线通信系统的关键技术之一。 图1平坦衰弱MIMO 信道模型 1.MIMO 信道模型 MIMO 指多输入多输出系统,当发送信号所占用的带宽足够小的时候,信道可以被认为是平坦的,即不考虑频率选择性衰落。平坦衰弱的MIMO 信道可以用一个 R T n n ?的复数矩阵H 描述: 111212122212T T R T R R n n n n n n h h h h h h h h h ?? ? ??? =? ? ??????H (1) 其中T n 为发送端天线数, R n 为接收端天线数,H 的元素 ,j i h 表示从第i 根发射天线到第j 根接收天线之间的空间信道衰落系数。 窄带MIMO 信道模型(如图1所示)可以描述为: =+y Hx n (2) 其中,x 为发送信号;y 为接收信号;n 为加性高斯白噪声。 2.MIMO 信道容量 假设n 服从均值为0,协方差为单位阵的复高斯分布。根据信道容量() max{(;)} p X C I X Y =的定义,可以证明当 () p x 服从高斯分布时,达到MIMO 信道 容量。令x 的协方差矩阵为 x R ,则MIMO 信道容量可表示为: ()() logdet H C +x x R I HR H (3)

相关主题
文本预览
相关文档 最新文档