随机过程知识点

第一章：预备知识

§1.1 概率空间

随机试验;样本空间记为Ω..

定义1.1 设Ω是一个集合;F是Ω的某些子集组成的集合族..如果

1F；

2A若F ;AA\则F；

3若nAF ;，，21n;则1nnAF；

则称F为代数Borel域..;F称为可测空间;F中的元素称为事件..

由定义易知：

定义1.2 设;F是可测空间;P·是定义在F上的实值函数..如果

则称P是F,上的概率;PF，，称为概率空间;PA为事件A的概率..

定义1.3 设PF，，是概率空间;FG;如果对任意GAAAn,,,21;,2,1n有： ,11niiniiAPAP

则称G为独立事件族..

§1.2 随机变量及其分布

随机变量X;分布函数)(xF;n维随机变量或n维随机向量;联合分布函数;TtXt,是独立的..

§1.3随机变量的数字特征

定义1.7 设随机变量X的分布函数为)(xF;若)(||xdFx;则称

)(XE＝)(xxdF

为X的数学期望或均值..上式右边的积分称为Lebesgue-Stieltjes积分..

方差;EYYEXXEBXY为X、Y的协方差;而

为X、Y的相关系数..若,0XY则称X、Y不相关..

Schwarz不等式若,,22EYEX则

§ 1.4 特征函数、母函数和拉氏变换

定义1. 10 设随机变量的分布函数为Fx;称

为X的特征函数

随机变量的特征函数具有下列性质：

1(0)1,()1,()()ggtgtgt1

2 g t在, 上一致连续..3()(0)()kkkgiEX

4若12,,,nXXX是相互独立的随机变量;则12nXXXX的特征函数12()()()()ngtgtgtgt;其中()igt是随机变量Xi的特征函数;1,2,,in.

定义1 . 11 设 12(,,,)nXXXX是n维随机变量;t = 12,,,nttt ,R 则称

121()(,,,)()[exp()]nitXnkkkgtgtttEeEitX;

为X的特征函数..

定义1.12 设X是非负整数值随机变量;分布列

则称

)()(XdefsEsP＝kkksP0

为X的母函数.. § 1.5 n维正态分布

定义1.13 若n维随机变量),,,(21nXXXX的联合概率密度为

式中;),,,(21naaaa是常向量;nnijbB)(是正定矩阵;则称X为n维正态随机变量或服从n维正态分布;记作),(~BaNX..

可以证明;若),(~BaNX;则X的特征函数为

为了应用的方便;下面;我们不加证明地给出常用的几个结论..

性质1 若),(~BaNX则nlbBaXEklXXkklk,,2,1,,)(..

性质2 设),(~BaNX;XAY;若BAA正定;则),(~BAAaANY..即正态随机变量的线性变换仍为正态随机变量..

性质3 设),,,(4321XXXXX是四维正态随机变量;4,3,2,1,0)(kXEk;则

§ 1.6 条件期望

给定Y=y时;X的条件期望定义为

由此可见除了概率是关于事件｛Y=y｝的条件概率以外;现在的定义与无条件的情况完全一样..

EX|Y=y是y的函数;y是Y的一个可能值..若在已知Y的条件下;全面地考虑X的均值;需要以Y代替y;EX|Y是随机变量Y的函数;也是随机变量;称为 X在 Y下的条件期望..

条件期望在概率论、数理统计和随机过程中是一个十分重要的概念;下面我们介绍一个极其有用的性质..

性质 若随机变量X与Y的期望存在;则

)()|()]|([)(ydFyYXEYXEEXEY --------1

如果Y是离散型随机变量;则上式为

如果Y是连续型;具有概率密度fx;则1式为

第二章 随机过程的概念与基本类型

§2.1 随机过程的基本概念

定义2.1 设PF，，是概率空间;T是给定的参数集;若对每个t∈T;有一个随机变量Xt;e与之对应;则称随机变量族}),,({TtetX是PF，，的随机过程;简记为随机过程}),({TttX..T称为参数集;通常表示时间..

通常将随机过程}),,({TtetX解释为一个物理系统..Xt表示在时刻t所处的状态..Xt的所有可能状态所构成的集合称为状态空间或相空间;记为I..

从数学的观点来说;随机过程}),,({TtetX是定义在T×Ω上的二元函数..对固定的t;Xt;e是定义在T上的普通函数;称为随机过程}),,({TtetX的一个样本函数或轨道;样本函数的全体称为样本函数的空间..

§ 2.2 随机过程的函数特征

tX={Xt;t∈T }的有限维分布函数族..

有限维特征函数族：

其中：

定义2.3 设tX={Xt;t∈T }的均值函数deftmX)()]([tXE;Tt..

二阶矩过程;协方差函数：T ,)]()([),()(2ttmtXEdefttBtDXXX

相关函数： ),(tsRX)]()([tXsXE

定义2.4 设{Xt;t∈T };{Yt;t∈T }是两个二阶矩过程;

互协方差函数;互相关函数.. § 2.3 复随机过程

定义 2.5 设},{TtXt;},{TtYt是取实数值的两个随机过程;若对任意Tt

tttiYXZ;

其中 1i;则称},{TtZt为复随机过程．

定理 2.2 复随机过程},{TtXt的协方差函数 ),(tsB具有性质

1对称性：),(),(stBtsB；

2非负定性

§2.4 几种重要的随机过程

一、正交增量过程

定义2.6 设tt,是零均值的二阶矩过程;若对任意的,4321tttt有公式

03412tttt;

则称t正交增量过程..

二、独立增量过程

定义2.7 设tt,是随机过程;若对任意的正整数n和,21nttt随机变量12312,,,nntttttt是互相独立的;则称tt,是独立增量过程;又称可加过程..

定义 2.8 设tt,是平稳独立增量过程;若对任意,ts随机变量st的分布仅依赖于st;则称tt,是平稳独立增量过程..

三、马尔可夫过程

定义2.9设TttX,为随机过程;若对任意正整数n及nttt,21;0,,)(1111nnxtXxtXP;且其条件分布

1111,,|)(nnnnxtXxtXxtXP=11|)(nnnnxtXxtXP;2.6

则称TttX,为马尔可夫过程..

四、正态过程和维纳过程

定义 2.10 设TttX,是随机过程;若对任意正整数n和Tttt,,21;,,21tXtX;ntX是n维正态随机变量;则称TttX,是正态过程或高斯过程..

定义 2.11 设ttW),(为随机过程;如果

10)0(W；

2它是独立、平稳增量过程；

3对ts,;增量0,||,0~)()(22stNsWtW;则称ttW),(为维纳过程;也称布朗运动过程..

定理 2.3 设ttW),(是参数为2的维纳过程;则

（1） 任意t),(;||,0~)(2tNtW；

（2） 对任意tsa,;

),min())()())(()((2atasaWtWaWsWE;

特别： tstsRw,min,2.. 五、平稳过程

定义 2.12 设TttX,是随机过程;如果对任意常数和正整数,n当nntttt,,,,,11时;nttt,,21

与nttt,,,21有相同的联合分布;则称TttX,为严平稳过程;也称狭义平稳过程..

定义 2.13 设TttX,是随机过程;如果

1TttX,是二阶矩过程；

2对于任意ttmt,常数；

3对任意的stRtsRts,,,;则称TttX,为广义平稳过程;简称为平稳过程..

若T为离散集;则称平稳过程TttX,为平稳序列..

第三章 泊松过程

§３.1 泊松过程的定义和例子

定义3.1 计数过程

定义3.2 称计数过程}0),({ttX为具有参数＞0的泊松过程;若它满足下列条件

1 X0= 0；

2 Xt是独立增量过程；

3 在任一长度为t的区间中;事件A发生的次数服从参数t＞0的泊松分布;即对任意s;t＞0;有

注意;从条件3知泊松过程是平稳增量过程且ttXE)]([..由于;ttXE)]([表示单位时间内事件A发生的平均个数;故称为此过程的速率或强度..

定义3.3 称计数过程}0),({ttX为具有参数＞0的泊松过程;若它满足下列条件

1 X0= 0；

2 Xt是独立、平稳增量过程；

3 Xt 满足下列两式：

)(}2)()({),(}1)()({hotXhtXPhohtXhtXP 3.2

定理3.1 定义3.2与定义3.3是等价的..

3.2 泊松过程的基本性质

一、数字特征

设}0),({ttX是泊松过程;

一般泊松过程的有),min(),(tstsBX..

有特征函数定义;可得泊松过程的特征函数为

二、时间间隔与等待时间的分布

nW为第n次事件A出现的时刻或第n次事件A的等待时间;nT是第n个时间间隔;它们都是随机变量..

定理3.2 设}0),({ttX是具有参数的泊松分布;)1(nTn是对应的时间间隔序列;则随机变量),2,1(nTn是独立同分布的均值为/1的指数分布..

定理3.3 设}1,{nWn是与泊松过程}0),({ttX对应的一个等待时间序列;则nW服从参数为n与的分布;其概率密度为

三、到达时间的条件分布

定理3.4 设}0),({ttX是泊松过程;已知在0;t内事件A发生n次;则这n次到达时间nWWW21与相应于n个0;t上均匀分布的独立随机变量的顺序统计量有相同的分