随机过程知识点汇总

  • 格式:docx
  • 大小:34.45 KB
  • 文档页数:10

第一章随机过程得基本概念与基本类型

一. 随机变量及其分布

1. 随机变量,分布函数

离散型随机变量得概率分布用分布列 连续型随机变量得概率分布用概率密度

2. n维随机变量

离散型 联合分布列 连续型联合概率密度

3 .随机变量得数字特征

数学期望:离散型随机变量 连续型随机变量

方差: 反映随机变量取值得离散程度

协方差(两个随机变量): 相关系数(两个随机变量):

独立不相关

4 .特征函数 离散 连续

重要性质:,,,

5 .常见随机变量得分布列或概率密度、期望、 0 — 1分布

二项分布 泊松分布 正态分布 指数分布

6 .N维正态随机变量得联合概率密度

”正定协方差阵

二. 随机过程得基本概念

1 .随机过程得一般定义

设就是概率空间,就是给定得参数集

上得随机过程。简记为。

含义:随机过程就是随机现象得变化过程,用一族随机变量才能刻画出这种随机现象得全部统计规 律性。另一方面,它就是某种随机实验得结果,而实验出现得样本函数就是随机得。

当固定时,就是随机变量。当固定时,时普通函数,称为随机过程得一个样本函数或轨道。

分类:根据参数集与状态空间就是否可列,分四类。也可以根据之间得概率关系分类,如独立增量 过程,马尔可夫过程,平稳过程等。

2 .随机过程得分布律与数字特征

用有限维分布函数族来刻划随机过程得统计规律性。随机过程得一维分布 ,二维分布,…,维分布得

全体称为有限维分布函数族。随机过程得有限维分布函数族就是随机过程概率特征得完整描述。 在实

际中,要知道随机过程得全部有限维分布函数族就是不可能得 ,因此用某些统计特征来取代。

(1 )均值函数表示随机过程在时刻得平均值。 其联合分布函数F(x) F(x1,x2, ,Xn) P(Xi x1,X2 x2, ,Xn Xn,) 分布函数

分布函数

若,则称不相关。

均匀分布略

1

f(X1,X2, ,Xn)

-------------------- n一 exp{

|B|2 2(x a)TB 1(x a)}

,若对每个,都有一个随机变量与之对应,则称随机变量族就是 (2 )方差函数表示随机过程在时刻对均值得偏离程度。

(3 )协方差函数 且有

(4 )相关函数 ⑶与⑷表示随机过程在时刻,时得线性相关程度。

(5 )互相关函数:,就是两个二阶距过程,则下式称为它们得互协方差函数。

,那么,称为互相关函数。

若,则称两个随机过程不相关。

3 •复随机过程

均值函数 方差函数

协方差函数相关函数

4 •常用得随机过程

(1 )二阶距过程:实(或复)随机过程,若对每一个,都有(二阶距存在),则称该随机过程为二阶距过程。

(2) 正交增量过程:设就是零均值得二阶距过程,对任意得,有

,则称该随机过程为正交增量过程。

其协方差函数

(3) 独立增量过程:随机过程,若对任意正整数,以及任意得,随机变量就是相互独立得,则称就是独立增量

过程。 进一步,如就是独立增量过程,对任意,随机变量得分布仅依赖于,则称就是平稳独立增量过 程。

(4) 马尔可夫过程:如果随机过程具有马尔可夫性,即对任意正整数及”都有

过程。

(5) 正态过程:随机过程,若对任意正整数及,就是n维正态随机变量,其联合分布函数就是 n维正态分布函

数,则称就是正态过程或高斯过程。

(6) 维纳过程:就是正态过程得一种特殊情形。

设为实随机过程,如果,①;②就是平稳独立增量过程;③对任意增量服从正态分布,即。则称为维纳过程,

或布朗运动过程。

另外:①它就是一个 Markov过程。因此该过程得当前值就就是做出其未来预测中所需得全部信息。

②维纳过程具有独立增量。 该过程在任一时间区间上变化得概率分布独立于其在任一得其她时间区间

上变化得概率。③它在任何有限时间上得变化服从正态分布 ,其方差随时间区间得长度呈线性增加。

(7) 平稳过程:

严(狭义)平稳过程:,如果对任意常数与正整数及 ”与有相同得联合分布,则称就是严(狭义)平稳过程。 广义平稳过程:随机过程,如果①就是二阶距过程;②对任意得,:③对任意”或仅与时间差有关。则满足这 三个条件得随机过程就称为广义平稳过程 ,或宽平稳过程,简称平稳过程。

第二章泊松过程

一. 泊松过程得定义(两种定义方法)

1, 设随机计数过程,其状态仅取非负整数值,若满足以下三个条件,则称:就是具有参数得泊松过程。①

②独立增量过程,对任意正整数,以及任意得相互独立,即不同时间间隔得计数相互独立 ;③在任一长度

为得区间中,事件A发生得次数服从参数得得泊松分布 ,即对任意,有

”表示单位时间内时间A发生得平均个数 ,也称速率或强度。

2,设随机计数过程,其状态仅取非负整数值,若满足以下三个条件,则称:就是具有参数得泊松过程。① ②独立、平稳增量过程;③。

第三个条件说明,在充分小得时间间隔内,最多有一个事件发生,而不可能有两个或两个以上事件同时 P X(tn) Xn X(ti) Xi, ,X(tni) Xn 1 P X(tn) Xn X(tn 1) Xn 1 ,则则称就是马尔可夫 发生,也称为单跳性。

二. 基本性质

1 ,数字特征 推导过程要非常熟悉

2,表示第事件A发生到第次事件发生得时间间隔 ,就是时间序列,随机变量服从参数为得指数分布。概

率密度为,分布函数均值为

证明过程也要很熟悉

三. 非齐次泊松过程

①;②独立增量过程;③。

均值函数

定理:就是具有均值为得非齐次泊松过程,则有

马尔可夫链得统计特性完全由条件概率所决定。

2. 转移概率相当于随机游动得质点在时刻处于状态得条件下

尔可夫链在时刻得一步转移概率。若齐次马尔可夫链 ,则与无关,记为。

称为系统得一步转移矩阵。性质 :每个元素,每行得与为1。

3. 步转移概率=;称为步转移矩阵。

重要性质:① 称为方程,证明中用到条件概率得乘法公式、马尔可夫性、齐次性。 到达时间得分布 略 到达强度就是得函数

不具有平稳增量性。

P X(t s) X(t) n [mx(t s) mx(t)] exp 叽(t s) mx(t)]

n!

四.复合泊松过程 设就是强度为得泊松过程 重要结论:就是独立增量过程;若,则, 第五章

泊松过程就是时间连续状态离散得马氏过程 状态都离散得马尔可夫过程称为 马尔可夫链。

马尔可夫过程得特性:马尔可夫性或无后效性。 ,就是一列独立同分布得随机变量,且与独立,令则称为复合泊松过程。

马尔可夫链

,维纳过程 就是时间状态都连续得马氏过程。时间时刻所处状态得条件分布与过程在时刻之前所处得状态无关。也就就是说 即:在过程时刻所处得状态为已知得条件下

,将来只与现在有关 ,过程在

去无关。表示为 P X(tn) Xn X (t1 ) Xi, ,X(tnl) Xn 1 P X(tn) Xn X (tn 1) Xn

一. 马尔可夫链得概念及转移概率

1. 定义:设随机过程,对 意得整 任意得,条件概率满足

P Xn1 in 1 Xo i0,X1 i1, ,Xn in P Xn1 in 1 Xn in ,则称为马尔可夫链。

,下一步转移到得概率。记为。则称为马

②说明步转移概率矩阵就是一步转移概率矩阵得次乘方。

4•就是马尔可夫链,称为初始概率,即0时刻状态为得概率

概率向量,为绝对概率向量。

定理:①矩阵形式:②

定理:说明马氏链得有限维分布完全由它得初始概率与一步转移概率所决定。

二. 马尔可夫链得状态分类

1. 周期:自某状态出发,再返回某状态得所有可能步数最大公约数 ,即。若,则称该状态就是周期得;若,则 称该状态就是非周期得。

2. 首中概率:表示由出发经步首次到达得概率。

3. 表示由出发经终于(迟早要)到达得概率。

4. 如果,则状态就是常返态;如果,状态就是非常返(滑过)态。

5. 表示由出发再返回到得平均返回时间。若 ,则称就是正常返态;若,则称就是零常返态。非周期得正常 返态就是遍历状态。

6. 状态就是常返充要条件就是;状态就是非常返充要条件就是。

7. 称状态与互通,。如果,则她们同为常返态或非常返态 ,;若侗为常返态,则她们同为正常返态或零常返

态,且,有相同得周期。

8. 状态就是遍历状态得充要条件就是。 一个不可约得、非周期得、有限状态得马尔可夫链就是遍历得。

9. 要求:熟悉定义定理,能由一步转移概率矩阵画出状态转移图 ,从而识别各状态。

三. 状态空间得分解

1. 设就是状态空间得一个闭集 ,如果对任意得状态,状态,都有(即从出发经一步转移不能到达 ),则称为闭

集。如果得状态互通,则称就是不可约得。如果状态空间不可约 ,则马尔可夫链不可约。或者说除了之

外没有其她闭集,则称马尔可夫链不可约。

2. 为闭集得充要条件就是:对任意得状态,状态,都有。所以闭集得意思就是自得内部不能到达得外部。 意味着一旦质点进入闭集中,它将永远留在中运动。

如果,则状态为吸收得。等价于单点为闭集。

3. 马尔可夫链得分解定理:任一马尔可夫链得状态空间,必可唯一地分解成有限个互不相交得子集得与 , ①每一个都就是常返态组成得不可约闭集 ;②中得状态同类,或全就是正常返态,或全就是零常返态,有 相同得周期,且。③就是由全体非常返态组成。 分解定理说明:状态空间得状态可按常返与非常返

分为两类,非常返态组成集合,常返态组成一个闭集。闭集又可按互通关系分为若干个互不相交得基本 常返闭掌握证明方法: c (n)

Pij P Xmn i PXm i'Xmn j P Xm

i

P X m i,Xm l k,Xm n j

P Xm i

P X m i , Xm l k , Xm n j P Xm i,Xml k P Xm i,Xml k —_P

Xm i

pkjn l)(m l) Pikl)(m)

I Pikl)

k I pkjn l)

;称为绝对概率,即时刻状态为得概率。为初始