随机过程讲义(中科院-孙应飞)

（1） 设}0),({≥t t X 是一个实的零均值二阶矩过程，其相关函数为t s s t B t X s X E ≤-=),()}()({，且是一个周期为T 的函数，即0),()(≥=+τττB T B ，求方差函数)]()([T t X t X D +-。

解：由定义，有：)(2)0()0()}()({2)0()0()]}()()][()({[2)]([)]([)]()([=-+=+-+=+-+--++=+-T B B B T t X t X E B B T t EX T t X t EX t X E T t X D t X D T t X t X D（2） 试证明：如果}0),({≥t t X 是一独立增量过程，且0)0(=X ，那么它必是一个马尔可夫过程。

证明：我们要证明：n t t t <<<≤∀Λ210，有})()({})(,,)(,)()({11112211----=≤=====≤n n n n n n n x t X x t X P x t X x t X x t X x t X P Λ形式上我们有：})()(,,)(,)({})()(,,)(,)(,)({})(,,)(,)({})(,,)(,)(,)({})(,,)(,)()({1122221111222211112211112211112211--------------========≤=======≤=====≤n n n n n n n n n n n n n n n n n n n n x t X x t X x t X x t X P x t X x t X x t X x t X x t X P x t X x t X x t X P x t X x t X x t X x t X P x t X x t X x t X x t X P ΛΛΛΛΛ因此，我们只要能证明在已知11)(--=n n x t X 条件下，)(n t X 与2,,2,1,)(-=n j t X j Λ相互独立即可。

第二章 Markov 过程 习题解答1、 设}1,{≥n n ξ为相互独立同分布的随机变量序列，其分布为：01}0{,0}1{>-===>==p q P p P n n ξξ定义随机序列}2,{≥n X n 和}2,{≥n Y n 如下：⎪⎪⎩⎪⎪⎨⎧=========----;1,1,3;0,1,2;1,0,1;0,0,01111n nn n n n n nn X ξξξξξξξξ ⎩⎨⎧===-;,1;0,0,01其它n n n Y ξξ试问随机序列}2,{≥n X n 和}2,{≥n Y n 是否为马氏链？如果是的话，请写出其一步转移概率矩阵并研究各个状态的性质。

不是的话，请说明理由。

解：（1）显然，随机序列}2,{≥n X n 的状态空间为}3,2,1,0{=S 。

任意取S i i i j i n ∈-132,,,,, ，由于当i X n =给定时，即1,-n n ξξ的值给定时，就可以确定1+n X 的概率特性，即我们有：}{},,,,{12233111i X j X P i X i X i X i X j X P n n n n n n ========+--+因此}2,{≥n X n 是齐次马氏链，其一步转移概率矩阵为：⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=p qp q p q p qP 0000000 由于01,0>-=>p q p ，画出状态转移图，可知各个状态都相通，且都是非周期的，因此此链是不可约的遍历链。

（也可以利用02>P 判定此链是不可约的遍历链）（2）显然，}2,{≥n Y n 的状态空间为}1,0{=S ，由于：}1,1{}1,1,0{}1,10{23234234=========Y Y P Y Y Y P Y Y Y P}0,1{}0,1,0{}0,10{23234234=========Y Y P Y Y Y P Y Y Y P由}2,{≥n Y n 的定义，可知}1,1,1{}1,1,0{}0,1,1{}0,1,0{}1,0,1{}1,1{12312312312312323===⋃===⋃===⋃⋃===⋃======ξξξξξξξξξξξξξξξY Y}1,1,0,0{}0,1,0,0{}1,1,0{12341234234====⋃========ξξξξξξξξY Y Y}0,0,1{}0,1{12323======ξξξY Y ， ∅====}0,1,0{234Y Y Y利用}1,{≥n n ξ是相互独立同分布的随机变量序列及其分布，我们有：322233}1,1{q q p pq Y Y P ++=== 223234}1,1,0{q p pq Y Y Y P +==== 223}0,1{pq Y Y P ===0}0,1,0{234====Y Y Y P即有：22222343}1,10{q p pq qp pq Y Y Y P +++==== 0}0,10{234====Y Y Y P由于01,0>-=>p q p ，因此有}0,10{}1,10{234234===≠===Y Y Y P Y Y Y P根据马氏链的定义可知}2,{≥n Y n 不是马氏链。

第11讲随机过程孙应飞第三章 Poisson 过程（Poisson 信号流）九、更新过程（1）概念及基本性质定义：设}1,{≥k X k 是独立同分布，取值非负的随机变量，分布函数为)(x F ，且1)0(k k n X S X S S 1110,,0，对0≥?t ，记：}:sup{)(t S n t N n ≤=则称}0),({≥t t N 为更新过程。

更新过程是一计数过程，并有：}{})({t S n t N n ≤=≥}{}{}{})({11t S t S S t S n t N n n n n ≤-≤=<≤==++记：)(s F n 为n S 的分布函数，由∑==nk k n X S 1，易知：)()(1x F x F =)2()()()(01≥-=?-n u F d u x F x F xn n证明：由全概率公式有：))(())(()()()(}{)(}{)(}{}{}{)(1101010111x F f x f F u F d u x F u F d u x S P u F d u x S P ud u f u X u x S P x X S P x S P x F n n x n xn n X n n n n n n n----∞-∞∞---*=*=-=-≤=-≤==-≤=≤+=≤=即)(x F n 是)(x F 的n 重卷积，记作：F F F n n *=-1。

另外，记：)}({)(t N E t m =称)(t m 为更新函数。

关于更新函数，有以下重要的定理。

定理：对于0≥?t ，有：∑∞==1)()(n n t F t m证明：根据以上的关系式，计算得：∑∑∑∑∑∑∑∑∑∞=∞=∞=∞=∞=∞==∞=∞=≤=≥=≥=========11111110}{})({})({})({})({})({})({)(n n n k k kn n n k n n t S P n t N P k t N P n t N P n t N P n t N P n n t N P n t m即有：∑∞==1)()(n n t F t m推论：若对0≥?t ，1)(<="">1))(1)(()(--≤t F t F t m下面是重要的更新方程。

第四章 二阶矩过程、平稳过程和随机分析 习题解答1、 设∑=-=Nk k k kn U n X 1)cos(2ασ，其中k σ和k α为正常数，)2,0(~πU U k ，且相互独立，N k ,,2,1 =，试计算},1,0,{ ±=n X n 的均值函数和相关函数，并说明其是否是平稳过程。

解：计算均值函数和相关函数如下0)}{cos(2)cos(2}{)(11=-=⎭⎬⎫⎩⎨⎧-==∑∑==Nk k k k N k k k k n X U n E U n E X E n ασασμ∑∑∑∑∑∑======-=--=--=⎪⎭⎪⎬⎫⎪⎩⎪⎨⎧⎥⎦⎤⎢⎣⎡-⋅⎥⎦⎤⎢⎣⎡-=Ni i i N i i i i i i Ni Nj j j i i j i N j j j j N i i i i X m n U m U n E U m U n E U m U n E m n R 12121111)](cos[)}cos(){cos(2)}cos(){cos(2)cos(2)cos(2),(ασαασαασσασασ因此可知，},1,0,{ ±=n X n 是平稳随机过程。

2、 设有随机过程))(cos()(t t A t X πηω+=，其中0>ω为常数，}0),({≥t t η是泊松过程，A 是与)(t η独立的随机变量，且2/1}1{}1{===-=A P A P 。

（1） 试画出此过程的样本函数，并问样本函数是否连续？ （2） 试求此过程的相关函数，并问该过程是否均方连续？ 解：（1）样本函数不连续。

（2）令：012≥>t t ，下面求相关函数：)(221)(212210)(1212211212121211212212122112221122121121212cos cos )]}(cos[)]({cos[21!)]([)]}(cos[)]({cos[)1(21))]}()(()(cos[))]()(()(2)({cos[21))]}()(()(cos[))]()(()({cos[21))}(cos())({cos(}{))}(cos())(cos({)}()({),(t t t t k t t k kX e t t e t t t t e k t t t t t t t t t t t t t t t E t t t t t t t t E t t t t E A E t t t t A E t X t X E t t R ----∞=--⋅=⋅-++=⋅-⋅-++-=-+-+-+++=-+-++++=++⋅=++==∑λλλωωωωλωωηηπωηηππηωηηπωηηπωπηωπηωπηωπηω因为：t t t R ωξ2cos ),(=因此该过程是均方连续的随机过程。

第三章 Poisson 过程（Poisson 信号流）一、 基本概念及Poisson 过程的一维分布（1） 独立增量过程定义：设}),({T t t X ∈是一随机过程，如果对于任意的 n t t t <<< 21，N n ∈∀，n i T t i ≤≤∈1,，有随机过程)(t X 的增量：)()(,),()(),()(12312----n n t X t X t X t X t X t X相互独立，则称随机过程}),({T t t X ∈是独立增量过程。

注意：若独立增量过程的参数集-∞>=a b a T ),,[，一般假定0)(=a X ，则独立增量过程是一马氏过程。

特别地，当0)0(=X 时，独立增量过程}0),({≥t t X 是一马氏过程。

证明如下：形式上我们有：})()(,,)(,)({})()(,,)(,)(,)({})(,,)(,)({})(,,)(,)(,)({})(,,)(,)()({1122221111222211112211112211112211--------------========≤=======≤=====≤n n n n n n n n n n n n n n n n n n n n x t X x t X x t X x t X P x t X x t X x t X x t X x t X P x t X x t X x t X P x t X x t X x t X x t X P x t X x t X x t X x t X P因此，我们只要能证明在已知11)(--=n n x t X 条件下，)(n t X 与2,,2,1,)(-=n j t X j 相互独立即可。

由独立增量过程的定义可知，当2,,2,1,1-=<<<-n j t t t a n n j 时，增量)()(a X t X j -与)()(1--n n t X t X 相互独立，由于在条件11)(--=n n x t X 和0)(=a X 下，即有)(j t X 与1)(--n n x t X 相互独立。

第一章 概率论基础知识1. 事件、概率和概率空间1.1 随机事件的运算和概率1.2 σ代数(域)和Borel 集设全集为， 为一些的子集构成的集类，若满足 ΩF ΩF 1)F ∈Ω2) 对任意F ∈A ，F ∈A3)对任意有限或至多可数的{}F ⊂n A ，F ∈n nA U则称为一个F σ代数(域)给定一个集合Ω，就可以构造一个包含它的一个σ代数。

推广：给定一个集类，可以构造一个的一个C F C ⊂σ代数。

包含C 的最小的F σ代数，称为由C 生成的σ代数，记作()C σ。

例如设R =Ω，{}R b a a b b a R A A ∈∞−∞==,),,(),(),[:任意或或或C为R 上的一个集类，()C σ中的集合称为Borel 集，()C σ称为直线上的Borel 域，记为。

)(R B1.3 Kolmogorov 概率公理化定义给定全集和其子集构成的一个Ωσ代数，若定义在上的函数满足F F )(⋅P 1) 任意，F ∈A 1)(0≤≤A P ；2) ； 1)(=ΩP 3)对任意两两不交的至多可数集{}F ⊂n A ，∑=⎟⎠⎞⎜⎝⎛nn n n A P A P )(U 称为上的概率测度，)(⋅P F ),,(P F Ω称为概率空间。

1.4 随机变量的概念定义：设为一概率空间，(P ,,F Ω))(w X X =为Ω上的一个实值函数，若对任意实数x ，，则称()F ∈−∞−),(1x X X 为()P ,,F Ω上的一个（实）随机变量。

称()()()),()),(()(1x X P x X P x X P x F −∞=−∞∈=<=−为随机变量X 的分布函数。

随机变量实质上是到()F ,Ω())(,R R B 上的一个可测映射(函数)。

记{}F B ⊂∈=−)()()(1R B B X X σ，称)(X σ为随机变量X 所生成的σ域。

推广到多维情形，随机向量是T n X X X X ),,(21L =()F ,Ω到())(,n n R R B 上的一个可测映射。

第二章 Markov 过程7．参数连续状态离散的马氏过程（一）参数连续状态离散的马氏过程的转移概率定义：设}0,)({≥t t X 是取值于状态空间S 的随机过程，S 是有限或无限可列的，如果对于任意的正整数n ，任意的1210+<<<<≤n n t t t t ，及任意的状态S i i i i n n ∈+121,,,, ，均有：})()({})(,,)(,)()({11221111n n n n n n n n i t X i t X P i t X i t X i t X i t X P =======++++则称此随机过程为参数连续状态离散的马氏过程（纯不连续马氏过程）。

对于纯不连续马氏过程，有：S j i t t i t X j t X P t t t X j t X P ∈≤===≤'≤'=,,})()({}0,)()({211212记：})()({ˆ),(1221i t X j t X P t t p j i ===称此条件概率为纯不连续马氏过程的转移概率。

显然有：⎪⎩⎪⎨⎧∈=≥∑∈S i t t p t t p S j j i j i 1),(0),(2121如果),(21t t p j i 仅为时间差12t t t -=的函数，而与1t 和2t 的值无关，则称此纯不连续马氏过程为齐次的。

此时121221})()({ˆ),()(t t t i t X j t X P t t p t p j i j i -=====⎪⎩⎪⎨⎧≥∈=≥∈≥∑∈0,1)(0,,0)(t S i t p t S j i t p S j ji j i以下我们主要讨论齐次纯不连续马氏过程。

纯不连续马氏过程的C －K 方程： 一般情形：),,(})()({})()({})()({321122313S j i t t t i t X k t X P k t X j t X P i t X j t X P Sk ∈<<========∑∈齐次情形：)0,0,,(,)()()(>>∈=+∑∈τττt S j i p t p t p Sk j k k i j i连续性条件：⎩⎨⎧≠===→ji ji t p j i j i t ,0,1)(lim 0δ 满足连续性条件的马氏过程称为随机连续的马氏过程。

孙应飞随机过程答案【篇一：随机过程第18-19讲】lass=txt>（四）随机分析（续）5．随机微分方程初步设{y(t);t?t}是一均方连续的二阶矩过程，x0是一存在一、二阶矩的随机变量，假设{y(t);t?t}和x0是独立的，考虑以下随机微分方程： ?dx(t)?y(t)??dt??x(t0)?x0试研究{x(t);t?t}的统计特性。

解：方程两边在均方意义下积分，有：x(t)?x(t0)??ty(u)dut并且该解是唯一的。

由于：e{x(t)}?e{x(t0)}??te{y(u)}dut所以，当e{y(t)}?0时，e{x(t)}?e{x0}又相关函数为：rx(t1,t2)?e{x(t1)x(t2)}?e{x0}?e{x0}?te{y(u)}du?e{x0}?te{y(u)}du2t2t1??tt2?t1t0ry(u,v)dudv所以，当e{y(t)}?0时，有：rx(t1,t2)?e{x0}??t设有一阶线性微分方程：2t2?t1t0ry(u,v)dudv?dx(t)?a(t)x(t)?y(t)??dt??x(t0)?x0其中a(t),t?t是一确定性函数，{y(t);t?t}是一均方连续的实二阶矩过程，x0是存在一、二阶矩的随机变量，则此线性方程有唯一的解：x(t)?x0exp{?ta(u)du}??ty(v)exp{?va(u)du}dvttt下面研究其均值函数和相关函数?x(t)?e{x(t)}?e{x0}exp{?ta(u)du}??te{y(v)}exp{?va(u)du}dvtttrx(t1,t2)?e{x(t1)x(t2)}?e{x}exp{?ta(u)du}exp{?ta(v)dv}20t1t2?exp{?ta(u)du}?te{x0y(v)}exp{?va(u)du}dvt1t2t2?exp{?ta(u)du}?te{x0y(v)}exp{?va(u)du}dvt2t1t1??tt1?t2t0ry(v1,v2)exp{?va(u)du}exp{?va(u)du}dv1dv2121t1t2（五）各态历经性1．各态历经性本节主要讨论根据试验记录（样本函数）确定平稳过程的均值和相关函数的理论依据和方法。

中国科学大学随机过程（孙应飞）复习题及答案中国科学大学随机过程(孙应飞)复习题及答案（1）设是一个实的零均值二阶矩过程，其相关函数为，且是一个周期为的函数，即，求方差函数。

解：由定义，有：（2）试证明：如果是一独立增量过程，且，那么它必是一个马尔可夫过程。

证明：我们要证明：，有形式上我们有：因此，我们只要能证明在已知条件下，与相互独立即可。

由独立增量过程的定义可知，当时，增量与相互独立，由于在条件和下，即有与相互独立。

由此可知，在条件下，与相互独立，结果成立。

（3）设随机过程为零初值（）的、有平稳增量和独立增量的过程，且对每个，，问过程是否为正态过程，为什么？解：任取，则有：由平稳增量和独立增量性，可知并且独立因此是联合正态分布的，由可知是正态过程。

（4）设为为零初值的标准布朗运动过程，问次过程的均方导数过程是否存在？并说明理由。

解：标准布朗运动的相关函数为：如果标准布朗运动是均方可微的，则存在，但是：故不存在，因此标准布朗运动不是均方可微的。

（5）设，是零初值、强度的泊松过程。

写出过程的转移函数，并问在均方意义下，是否存在，为什么？解：泊松过程的转移率矩阵为：其相关函数为：，由于在，连续，故均方积分存在。

（6）在一计算系统中，每一循环具有误差的概率与先前一个循环是否有误差有关，以0表示误差状态，1表示无误差状态，设状态的一步转移矩阵为：试说明相应齐次马氏链是遍历的，并求其极限分布（平稳分布）。

解：由遍历性定理可知此链是遍历的，极限分布为。

（7）设齐次马氏链一步转移概率矩阵如下：（a）写出切普曼－柯尔莫哥洛夫方程（C－K方程）；（b）求步转移概率矩阵；（c）试问此马氏链是平稳序列吗？为什么？解：（a）略（b）（c）此链不具遍历性（8）设，其中为强度为的Poission过程，随机变量与此Poission过程独立，且有如下分布：问：随机过程是否为平稳过程？请说明理由。

由于：故是平稳过程。

（9）设，其中与独立，都服从（a）此过程是否是正态过程？说明理由。

（1） 设}0),({≥t t X 是一个实的零均值二阶矩过程，其相关函数为t s s t B t X s X E ≤-=),()}()({，且是一个周期为T 的函数，即0),()(≥=+τττB T B ，求方差函数)]()([T t X t X D +-。

解：由定义，有：)(2)0()0()}()({2)0()0()]}()()][()({[2)]([)]([)]()([=-+=+-+=+-+--++=+-T B B B T t X t X E B B T t EX T t X t EX t X E T t X D t X D T t X t X D（2） 试证明：如果}0),({≥t t X 是一独立增量过程，且0)0(=X ，那么它必是一个马尔可夫过程。

证明：我们要证明：n t t t <<<≤∀ 210，有})()({})(,,)(,)()({11112211----=≤=====≤n n n n n n n x t X x t X P x t X x t X x t X x t X P形式上我们有：})()(,,)(,)({})()(,,)(,)(,)({})(,,)(,)({})(,,)(,)(,)({})(,,)(,)()({1122221111222211112211112211112211--------------========≤=======≤=====≤n n n n n n n n n n n n n n n n n n n n x t X x t X x t X x t X P x t X x t X x t X x t X x t X P x t X x t X x t X P x t X x t X x t X x t X P x t X x t X x t X x t X P因此，我们只要能证明在已知11)(--=n n x t X 条件下，)(n t X 与2,,2,1,)(-=n j t X j 相互独立即可。