随机过程知识点总结

1

知识点总结

第1章 概率论基础

1.1概论空间

随机试验，它是指其结果不能事先确定且在相同条件下可以重复进行的试验。

其中，一个试验所有可能出现的结果的全体称为随机试验的样本空间，记为，试验的一个结果称为样本点，记为，即}{. 样本空间的某个子集称为随机事件，简称事件.

定义1.1.1 设样本空间，是的某些子集构成的集合，如果：

（1）

（2）若A，则A

（3）若nA，，，,21n则1nnA

那么称为一事件域，也称为域.

显然，如果是一事件域，那么

（1）

（2）若BA,，则BA

（3）若nA，1nn2,1nA，则，，

定义1.1.2 设是样本空间，是一事件域，定义在上的实值函数)(P如果满足：

（1）A0)(,AP ，

（2）1)(P，

（3）若nA,,2,1,n且,,2,1,,,jijiAAji则 2

11)()(nnnnAPAP

那么称P是二元组（,)上的概率，称P(A)为事件A的概率，称三元组,(),P为概率空间。

关于事件的概率具有如下性质：

（1）;0)(P

（2）若nA,,,2,1,,,,,,2,1,njijiAAniji 则

niniiiAPAP11)()(

（3）若BA,,,BA则）APBPABP()()(

（4）若BA,)()(,,BPAPBA则；

（5）若A;1)(,AP则

（6）若A);(1)(,APAP则

（7）若nA,,2,1,n则

11)()(nnniAPAP

（8）若iA,,,2,1,ni则

niniiiAPAP11)()(njinkjinnkjijiAAAPAAAPAAP11211)()1()()(

一列事件nA,2,1,n称为单调递增的事件列，如果;,2,1,1nAAnn一列事件nA,2,1,n称为单调递减的事件列，如果,2,1,1nAAnn.

定理1.1.1 设 nA,2,1,n

（1）若,2,1,nAn是单调递增的事件列，则 3

1)(limnnnnAPAP

（2）若,2,1,nAn是单调递减的事件列，则

1)(limnnnnAPAP

定义1.1.3.设,(),P为一概率空间，BA,.且,0)(AP 则称

)()()(APABPABP

为在事件A发生的条件下事件B发生的条件概率.

不难验证，条件概率)|(AP符合定义1.1.2中的三个条件，即

（1）B, 0)|(ABP；

（2）;1)|(AP

（3）设nB,,2,1,,,,2,1,jjiBBnji则

11)|()|(nnnnABPABP

定理 1.1.2. 设，(),P是一概率空间，有：

（1）（乘法公式）若iA，,,,2,1ni且0)(121nAAAP，则

)|()()(12121AAPAPAAAPn

(2)（全概率公式）设A,iB,,2,1,0)(,iBPi且1,,,2,1,,,,iijiABjijiBB则

1)|()()(iiiBAPBPAP

（3）（贝叶斯(Bayes)公式）且AiBAP,0)(,，,,2,1,0)(iBPi4

且1,,,2,1,,iijiABjiBB则

,2,1,)|()()|()()|(1iBAPBPBAPBPABPjjjiii

定义1.1.4设,(),P为一概率空间，,,,2,1,niFAi如果对于任意的)1(nkk及任意的,12niiiki 有

)()()()(2121kkiiiiiiAPAPAPAAAP

则称n21,,,AAA相互独立。

定理1.1.3 设BA,相互独立，则A与B，A与B，A与B也是相互独立的，从而A所生成的域},,,{AAA中的任意一个事件和B所生成的域},,,{BBB中的任意一个事件都相互独立（这时我们称这两个 域 A和B是相互独立的）.

定理1.1.4 设CBA,,相互独立，则

（1）A与BC相互独立；

（2）A与CB相互独立；

（3）A与CB相互独立；

（4）A所生成的域中的任一事件B和C所生成的域

),(),(,,,,,,,,{,CBBCCBBCCBBCCBBCCCBBCB

},,,,,CBCBCBCB中的任意一个事件都相互独立.

推论1.1.1 设CBA,,相互独立，将CBA,,任意分为两组，则它们各自生成的域仍然相互独立.

定理1.1.5 设iAni,,2,1,相互独立，将,1,iAin,,2任意分成)(nmm组，并对各组中的事件施以积，和、逆运算以后，所得到的事件mBBB,,,215

也相互独立.从而这 m组事件各自所生成的 域也是相互独立的.

定理1.1.5推论：（1）若nAAA,,,21相互独立，则nAAA,,,21也相互独立，从而有

niiniiAPAP111

niiAP11

)()()(12niAPAPAP

（2）一列独立事件中的任何一部分事件也相互独立.

（3）若一列事件相互独立，则将其中任一部分改写为对立事件，所得到的事件列也相互独立.

1.2 随机变量及其分布

定义1.2.1 设,(),P为一概率空间，定义在 上的实函数 )(X，如果Rx，})(|{xX，则称X是的随机变量.称

)()(xXPxF，x

为随机变量X的分布函数.

在实际应用中，常见的随机变量有两种类型：离散型随机变量和连续型随机变量.

若随机变量X的可能取值为有限个或可列无限个，则称X为离散型随机变量. 离散型随机变量X的分布可用分布律来描述，即

,2,1,)(ipxXPii

这时X的分布函数为

RxpxFxxii,)(

设随机变量X的分布函数为)(xF，如果存在非负可积函数Rxxf),(，使得

xxdttfxFR,)()(

则称X为连续型随机变量，)(xf称为连续型随机变量X的概率密度函数.

定义1.2.2 设,(),P为一概率空间，定义在上的n元实函数6

))(,),(),(()(21nXXXX，如果),,,(21nxxxxnR，

})(,,)(,)(|{2211nnxXxXxX，则称 X

),,,(21nXXX为n维随机变量或n维随机向量.称

,,(),,,()(221121xXxXPxxxFxFn),nnxX nnRxxXx),,,(21

为X的联合分布函数.

设X是n维随机变量，则不难证明X的联合分布函数具有下列性质：

（1）),,,(21nxxxF对任一),,2,1(nixi是单调不减函数；

（2）),,,(21nxxxF对任一),,2,1(nixi是右连续函数；

（3）0),,,,,,(111niixxxxF，ni,,2,1，1),,,(F；

（4）设niyxii,,2,1,，则

),,,,,,(),,,(1121121niiininyyxyyyFyyyF

),,,,,,,,,,,(1111211njjjiiinjiyyxyyxyyyF

0),,,()1(21nnxxxF

类似于一维随机变量，可以证明，对于给定的n元函数),,,(21nxxxF若满足上面的性质（1）、（2）、（3）、（4），则必存在概率空间,(),P及其上的n维随机变量X，使得X以),,,(21nxxxF为其联合分布函数.

定义1.2.3 设),,,(21nXXXX是一n维随机变量，其联合分布函数和边缘分布函数分别为),,,(21nxxxF，)(,),(),(2121nXXXxFxFxFn，如果对于任意的Rnxxx,,,21，有

)()()(),,,(212121nXXXnxFxFxFxxxFn

则称随机变量nXXX,,,21相互独立. 7

定理1.2.1 设连续型n维随机变量),,,(21nXXXX的联合概率密度函数为),,,(21nXxxxf，n元函数,(1xyyii),,2nxx，ni,,2,1，满足：

（1）存在唯一的反函数),,,(21niiyyyxx，即方程组

nnnnnyxxxyyxxxyyxxxy),,,(),,,(),,,(2122121211

存在唯一的实数解),,,(21niiyyyxx，ni,,2,1；

（2）),,,(21niixxxyy及),,,(21niiyyyxx，ni,,2,1都是连续的；

（3）jijixyyx,，nji,,2,1,存在且连续，令

),,,(),,,(2121nnyyyxxxJ

则n维随机变量),,,(21nYYYY，),,,(21niiXXXyY，ni,,2,1的联合概率密度函数为

),,,(),,,((),,(2,122,1121nnXYyyyxyyyxfyyf||)),,,(,21Jyyyxnn

1.3 随机变量的数字特征

定义1.3.1 设)(),(xgxf是定义在],[ba上的两个有界函数，bxxxan10是区间],[ba上的任一划分，kx1kkxx，knkx1max，在每一个子区间],[1kkxx上任意取一点 k作和式

)]()()[(11kkknkxgxgfS

如果极限

)]()()[(limlim1100kkknkxgxgfS