随机过程学习知识重点汇总

  • 格式:docx
  • 大小:74.61 KB
  • 文档页数:20

第一章 随机过程的基本概念与基本类型 一.随机变量及其分布

1.随机变量 X , 分布函数 F(x) P(X x)

离散型随机变量 X 的概率分布用分布列 pk P(X xk) 分布函数 F(x) pk

方差: DX E(X EX)2 EX 2 (EX)2 反映随机变量取值的离散程度

5.常见随机变量的分布列或概率密度、期望、方差

0-1分布 P(X 1) p,P(X 0) q EX p DX pq

二项分布 P(X k k n k) Cn p q k EX np DX npq

泊松分布 P(X k

k) e

k! EX

DX

均匀分布略

正态分布 N(a, 2 ) f (x) 1 e (x a)2

22 EX a DX 相关系数(两个随机变量

X,Y) : BXY

若 0 , 则称 X,Y 不相关。

XY DX DY

独立 不相关 0

4.特征函数 g(t) E ( eitX ) 离散 g(t) eitxk pk 连续 g(t) eitx f (x)dx

重要性质: g(0) 1 , g(t) 1 , g( t) g(t) , gk

(0) ikEXk 协方差(两个随机变量 X,Y): BXY E[(X EX)(Y EY)] E(XY) EX EY 2.n 维随机变量 X (X1,X2, ,Xn)

其联合分布函数 F(x) F(x1,x2 , ,xn ) P(X1

离散型 联合分布列 连续型 联合概率密度

3.随机变量的数字特征

数学期望:离散型随机变量 X EX xk pk x

分布函数 F(x) f (t)dt

x1,X 2 x2 , ,X n xn,)

连续型随机变量 X EX xf

(x)dx 连续型随机变量 X 的概率分布用概率密度 f

(x)

a (a1,a2, ,an), x (x1,x2, ,xn),B (bij)n n正定协方差阵 二.随机过程的基本概念

1.随机过程的一般定义

设 ( , P) 是概率空间, T 是给定的参数集, 若对每个 t T ,都有一个随机变量 X 与之对应, 则称随机变量族 X(t,e),t T 是( , P) 上的随机过程。简记为 X(t),t T 。

含义: 随机过程是随机现象的变化过程, 用一族随机变量才能刻画出这种随机现象的全部统计规 律性。另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的。

当 t固定时, X(t,e)是随机变量。当 e固定时, X(t,e) 时普通函数,称为随机过程的一个样本 函数或轨道。

分类:根据参数集 T 和状态空间 I 是否可列,分四类。 也可以根据 X(t) 之间的概率关系分类,

如独立增量过程,马尔可夫过程,平稳过程等。

2.随机过程的分布律和数字特征

用有限维分布函数族来刻划随机过程的统计规律性。随机过程 X(t),t T 的一维分布,二维分 布,⋯, n 维分布的全体称为有限维分布函数族。随机过程的有限维分布函数族是随机过程概率特征 的完整描述。在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些统计特征 来取代。

(1)均值函数 mX (t) EX(t) 表示随机过程 X(t),t T 在时刻 t 的平均值。

(2)方差函数 DX(t) E[X(t) mX (t)] 2表示随机过程在时刻 t对均值的偏离程度。

BX (s,t) E[(X(s) mX(s))(X(t) mX (t))]

(3)协方差函数 且有 BX(t,t) DX (t) E[X(s)X(t)] mX (s)mX(t)

(4)相关函数 RX (s,t) E[X(s)X(t)] (3)和(4)表示随机过程在时刻 s , t时的线性相关程度。

5)互相关函数: X(t),t T , Y(t),t T 是两个二阶距过程,则下式称为它们的互协方差函 数。

BXY(s,t) E[(X(s) mX (s))(Y(t) mY (t))]

,那么 RXY(s,t) E[X(s)Y(t)] ,称为互相关函数。

E[X(s)Y(t)] mX (s)mY(t) 指数分布 f(x) e x,x 0

0, x 0 EX DX

6.N维正态随机变量 X (X1,X2, , X n )的联合概率密度 X ~ N(a,B)

f (x1,x2 , ,xn) 1 exp{

(2 )2 |B |2 1 T 1

12(x a)TB 1(x a)} 若E[X(s)Y(t)] mX (s)mY (t) ,则称两个随机过程不相关。

3.复随机过程 Zt X t jYt

均值函数 mZ (t) EX t jEYt 方差函数

2

DZ(t) E[| Zt mZ(t)|]2 E[(Zt mZ(t))(Zt mZ (t ))]

BZ(s,t) E[(Zs mZ (s))(Zt mZ (t))]

协方差函数 相关函数 RZ (s,t) E[ZsZt]

E[ZsZt ] mZ(s)mZ(t)

4.常用的随机过程

2

(1)二阶距过程:实(或复)随机过程 X(t),t T ,若对每一个 t T ,都有 E X(t)2 (二 阶距存在),则称该随机过程为二阶距过程。

(2)正交增量过程:设 X(t),t T 是零均值的二阶距过程,对任意的 t1 t2 t3 t4 T ,有

E[( X (t2 ) X(t1))(X(t4) X(t3))] 0 ,则称该随机过程为正交增量过程。

2

其协方差函数 BX(s,t) RX(s,t) X2 (min( s,t))

(3)独立增量过程:随机过程 X(t),t T ,若对任意正整数 n 2,以及任意的 t1 t2 tn T , 随机变量 X(t2) X(t1),X(t4) X(t3), ,X(tn) X (tn 1)是相互独立的, 则称 X(t),t T 是独立 增量过程。 进一步,如 X(t),t T 是独立增量过程,对任意 s t ,随机变量 X(t) X(s)的分 布仅依赖于

t s,则称 X(t),t T 是平稳独立增量过程。

(4)马尔可夫过程:如果随机过程 X(t),t T 具有马尔可夫性,即对任意正整数n 及 t1 t2 tn T,

P(X(t1) x1, ,X(tn 1) xn 1) 0,都有

PX(tn) xn X(t1) x1, ,X(tn1) xn1 P X(tn) xn X(tn1) xn1 ,则则称 X(t),t T

是马尔可夫过程。

( 5) 正 态 过 程 : 随 机 过 程 X(t),t T , 若 对 任 意 正 整 数 n 及 t1,t2, ,tn T , ( X(t1),X(t2) X(tn) )是 n 维正态随机变量,其联合分布函数是 n 维正态分布函数,则称

X(t),t T 是正态过程或高斯过程。

(6)维纳过程:是正态过程的一种特殊情形。

设 W(t), t 为实随机过程,如果,① W(0) 0;②是平稳独立增量过程;③对任意 s,t 增 量 W(t)

W(s) 服 从 正 态 分 布 , 即 W(t) W(s)~ N(0, 2t s) 2 0 。 则 称 W(t), t 为维纳过程,或布朗运动过程。

另外:①它是一个 Markov 过程。因此该过程的当前值就是做出其未来预测中所需的全部信息。

②维纳过程具有独立增量。 该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间 上变化的概率。③它在任何有限时间上的变化服从正态分布,其方差随时间区间的长度呈线性增加。

(7)平稳过程:

严(狭义)平稳过程: X(t),t T ,如果对任意常数 和正整数 n 及t1,t2, ,tn T , t1 ,t2 , ,tn T,(X(t1),X(t2) X(tn))与( X(t1 ),X(t2 ) X(tn ))有相

同的联合分布,则称 X(t),t T 是严(狭义)平稳过程。

广义平稳过程:随机过程 X(t),t T ,如果① X(t),t T 是二阶距过程;②对任意的 t T , mX(t)

EX(t) 常数 ;③对任意 s,t T, RX(s,t) E[X(s)X(t)] RX(t s) ,或仅与时间 差 t s 有关。则满足这三个条件的随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程。

第二章 泊松过程

一.泊松过程的定义(两种定义方法)

1,设随机计数过程 X(t),t 0 ,其状态仅取非负整数值, 若满足以下三个条件, 则称: X(t),t T

是 具有 参数 的 泊松 过程。 ① X(0) 0 ; ②独立 增量 过程, 对任 意正整 数 n , 以及任 意的

t1 t2 tn T X(t2) X(t1),X(t3) X(t2), ,X(tn) X(tn 1)相互独立,即不同时间间隔 的计数相互独立;③在任一长度为 t 的区间中,事件A发生的次数服从参数 t 0 的的泊松分布,即 对任意 t,s

0,有 P X(t s) X(s) n e t ( t) n 0,1,L

n! E[X(t)] ,表示单位时间内时间A发生的平均个数,也称速率或强度。

2,设随机计数过程 X(t),t 0 ,其状态仅取非负整数值, 若满足以下三个条件, 则称: X(t),t 0

是 具 有 参 数 的 泊 松 过 程 。 ① X(0) 0 ; ② 独 立 、 平 稳 增 量 过 程 ; ③

P X (t h) X(t) 1 h o(h)

P X (t h) X(t) 2 o(h) 第三个条件说明,在充分小的时间间隔内,最多有一个事件发生,而不可能有两个或两个以上事件同 时发生,也称为单跳性。

二.基本性质

四.复合泊松过程 设 N(t),t 0 是强度为 的泊松过程, Yk,k 1,2,L 是一列独立同分布的随机变量,且与 E[X(t)] t,

1,数字特征 mX (t) E[X(t)] t D[X(t)] RX (s,t) s( t 1) s t

t( s 1) s t

BX(s,t) RX (s,t) mX(s)mX(t) min(s,t) 推导过程要非常熟悉

Tn,n 1 是时间序列,随机变量 Tn

服从参数为 的指数分布。 e ,t 0

概率密度为 f (t) ,分布函数 FT 0, t 0 Tn

为 ETn 1

证明过程也要很熟悉 到达时间的分布 略

三.非齐次泊松过程 到达强度是 t 的函数

1 e t ,t

0, t 0均值

0

P X(t h) X(t) 1 (t)h ① X

(0) 0 ;②独立增量过程;③ P X(t h) X(t) 2 o(h)

性。

均值函数 t

mX(t) E[X (t)] 0 (s)ds

不具有平稳增量

X(t),t 0 是具有均值为 mX (t)

P X(t s) X(t) n [mX (t s) mX (t)]n

n! exp [mX(t s) mX (t)] 2, Tn 表示第 n 1 事件A发生到第 n 次事件发生的时间间定t

0 (s)ds 的非齐次泊松过程,则有