下载文档原格式
1第四章 马尔可夫过程内容提要1. 马尔可夫过程的概念 （1）马尔可夫过程给定随机过程{}(),X t t T ∈，如果对122,∀≥∀<<<∈n n t t t T ，有11221111{()|(),(),,()}{()|()}n n n n n n n n P X t x X t x X t x X t x P X t x X t x ----<====<=则称{}(),X t t T ∈为马尔可夫过程。
称(){}:,==∈E x X t x t T 为状态空间。
参数集和状态空间都是离散的马尔可夫过程称为离散参数马氏链. 参数连续、状态空间离散的马尔可夫过程称为连续参数马氏链. （2）k 步转移概率设{}(),0,1,2,=X n n 为离散参数马氏链，称()(),(,){|},0,1=+==≥≥i j p n k P X n k j X n i n k为{}(),0,1,2,=X n n 在时刻n 的k 步转移概率，称(),(,)((,)),P =∈i j n k p n k i j E为{}(),0,1,2,=X n n 在时刻n 的k 步转移概率矩阵. 特别地，当1k =时，在时刻n 的一步转移概率和一步转移概率矩阵分别简记为()ij p n 和()n P . （3）初始分布、绝对分布称((0)),,==∈i p P X i i E 为离散参数马氏链{}(),0,1,2,=X n n 的初始分布，记为0P ，称()(){},,==∈j p n P X n j j E 为马尔可夫链{}0n X n ≥的绝对分布，记为P n . （4）离散参数齐次马氏链设{}(),0,1,2,=X n n 是一离散参数马氏链，如果其一步转移概率()ij p n 恒与起始时刻n 无关，记为ij p ，则称{}(),0,1,2,=X n n 为离散参数齐次马氏链。
若{}(),0,1,2,=X n n2是离散参数齐次马氏链，则其k 步转移概率记为(),i j p k ，一步转移概率矩阵和k 转移概率矩阵分别记为P 和().P k(5) 离散参数齐次马氏链的遍历性离散参数齐次马氏链{X (n ) ,n=0,1,2… }，若对一切状态i ，j ，存在与i 无关的极限()()lim 0,ij j n p n i j E →+∞=π>∈则称此马氏链具有遍历性.0,1j j j Ej E ππ∈>∈=∑若且则称{},j j E π∈为离散参数齐次马氏链{X (n ) ,n=0,1,2… }的极限分布，或称为最终分布，记为{},j j E ∏=∈π（6）离散参数齐次马氏链的平稳分布离散参数齐次马氏链{X (n ) ,n=0,1,2… }，若存在{v j , j ∈E } 满足条件：1)0,2)13)j jj Ej i iji Ev j E vv v p ∈∈≥∈==∑∑则称此马氏链是平稳的，称 { v j , j ∈E } 为此马氏链的平稳分布。
第四章 二阶矩过程、平稳过程和随机分析 习题解答1、 设∑=-=Nk k k kn U n X 1)cos(2ασ，其中k σ和k α为正常数，)2,0(~πU U k ，且相互独立，N k ,,2,1 =，试计算},1,0,{ ±=n X n 的均值函数和相关函数，并说明其是否是平稳过程。
解：计算均值函数和相关函数如下0)}{cos(2)cos(2}{)(11=-=⎭⎬⎫⎩⎨⎧-==∑∑==Nk k k k N k k k k n X U n E U n E X E n ασασμ∑∑∑∑∑∑======-=--=--=⎪⎭⎪⎬⎫⎪⎩⎪⎨⎧⎥⎦⎤⎢⎣⎡-⋅⎥⎦⎤⎢⎣⎡-=Ni i i N i i i i i i Ni Nj j j i i j i N j j j j N i i i i X m n U m U n E U m U n E U m U n E m n R 12121111)](cos[)}cos(){cos(2)}cos(){cos(2)cos(2)cos(2),(ασαασαασσασασ因此可知，},1,0,{ ±=n X n 是平稳随机过程。
2、 设有随机过程))(cos()(t t A t X πηω+=，其中0>ω为常数，}0),({≥t t η是泊松过程，A 是与)(t η独立的随机变量，且2/1}1{}1{===-=A P A P 。
（1） 试画出此过程的样本函数，并问样本函数是否连续？ （2） 试求此过程的相关函数，并问该过程是否均方连续？ 解：（1）样本函数不连续。
（2）令：012≥>t t ，下面求相关函数：)(221)(212210)(1212211212121211212212122112221122121121212cos cos )]}(cos[)]({cos[21!)]([)]}(cos[)]({cos[)1(21))]}()(()(cos[))]()(()(2)({cos[21))]}()(()(cos[))]()(()({cos[21))}(cos())({cos(}{))}(cos())(cos({)}()({),(t t t t k t t k kX e t t e t t t t e k t t t t t t t t t t t t t t t E t t t t t t t t E t t t t E A E t t t t A E t X t X E t t R ----∞=--⋅=⋅-++=⋅-⋅-++-=-+-+-+++=-+-++++=++⋅=++==∑λλλωωωωλωωηηπωηηππηωηηπωηηπωπηωπηωπηωπηω因为：t t t R ωξ2cos ),(=因此该过程是均方连续的随机过程。
第四章 习题41、对泊松过程{},0t N t ≥（1）证明：当s t <时，{}1,0,1,,kn ks t n s s P N k N n k n k t t -⎛⎫⎛⎫⎛⎫===-= ⎪⎪⎪⎝⎭⎝⎭⎝⎭（2）当2λ=时，试求：()()()112112;1,3;21P N P N N P N N ≤==≥≥（3）设顾客到达某商店是泊松事件，平均每小时以30人的速度到达。
求下列事件的概率：相继到达的两顾客的时间间隔为大于2分钟、小于2分钟、在1分钟到3分钟之间。
答：（1）证明：{}()()()()()()()()()()()()()()()()()()(),,!!!!!!!1!!s t s t s s t s s t t t t n kkt s sk n kn k nk n ktn kk n kk nP N k N n P N k N n k P N k P N n k P N k N n P N n P N n P N n t s s e ek n k s t s n k n k t t t e n n s t s n s s k t k n k t t λλλλλλλλλλ------------====-==-========-⎡⎤⎣⎦--==--⎛⎫⎛⎫⎛⎫==- ⎪⎪ ⎪-⎝⎭⎝⎭⎝⎭（2）()()()()()()()()11110121112222201211120!1!2!225P N P N N N e e e e e e e λλλλλλλ-------≤==+=+==++-=++=()()()()12121224111,31,3112224P N N P N N P N P N ee e----=====-=====()()()()()()()()()()111111121112112,122111121011311101P N N P N P N N P N P N P N P N P N e P N P N e --≥≥≥≥≥==≥≥-<-=-=-===-<-=-（3） 解法一：顾客到达事件间隔服从参数为λ的指数分布：()()()30,03030,0x x Z Z f t e x f t e x λλλ--=≥=⇒=≥①()30301111303023030106030x x P Z e dx e e e ∞∞----⎧⎫>===--=⎨⎬-⎩⎭⎰②()11303011303000230301116030x x P Z e dx e e e ----⎧⎫<===--=-⎨⎬-⎩⎭⎰ ③1131133030202022221160601330301606030x x P Z e dx e e e e e ------⎛⎫⎧⎫<<===--=-⎨⎬ ⎪-⎩⎭⎝⎭⎰解法二：()3030==0.560λ∴平均每小时有人到达人/分钟根据齐次Poisson 过程的到达时间间隔{},1,2,n X n =是独立同分布于均值为1λ的指数分布的，故可有： 相继到达的顾客的时间间隔大于2分钟的概率为：()12t n P X e e λ-->== 相继到达的顾客的时间间隔小于2分钟的概率为：()1211t n P X e e λ--<=-=-相继到达的顾客的时间间隔在1分钟到3分钟之间的概率为：()()()()1.50.50.5 1.5133111n n n P X P X P X e e e e ----<<=<-<=---=-2、{},0t N t ≥是强度为λ的泊松过程。
