随机过程的基础知识

知识点总结第1章 概率论基础1.1概论空间随机试验，它是指其结果不能事先确定且在相同条件下可以重复进行的试验。

其中，一个试验所有可能出现的结果的全体称为随机试验的样本空间，记为Ω，试验的一个结果称为样本点，记为ω，即}{ω=Ω. 样本空间的某个子集称为随机事件，简称事件.定义1.1.1 设Ω样本空间，是Ω的某些子集构成的集合，如果：（1）∈Ω （2）若∈A ，则∈A（3）若∈n A ，，， ,21n =则∈∞= 1n nA那么称为一事件域，也称为σ域.显然，如果是一事件域，那么（1）∈φ（2）若∈B A ,，则∈-B A（3）若∈n A ， ∞==1n n 2,1n A ，则，，定义 1.1.2 设Ω是样本空间，是一事件域，定义在上的实值函数)(⋅P 如果满足：（1）∈∀A 0)(,≥A P ，（2）1)(=ΩP ， （3）若∈n A ,,2,1, =n 且,,2,1,,, =≠=j i j i A A j i φ则∞=∞=∑=11)()(n n n n A P A P那么称P 是二元组（,Ω)上的概率，称P (A )为事件A 的概率，称三元组,(Ω),P 为概率空间。

关于事件的概率具有如下性质：（1）;0)(=φP（2）若∈nA ,,,2,1,,,,,,2,1,n j i j i A A n i j i =≠==φ 则ni ni i i A P A P 11)()(==∑=（3）若∈B A ,,,B A ⊂则）A P B P A B P ()()(-=-（4）若∈B A ,)()(,,B P A P B A ≤⊂则； （5）若∈A ;1)(,≤A P 则（6）若∈A );(1)(,A P A P -=则（7）若∈n A ,,2,1, =n 则∞=∞=∑≤11)()(n n n i A P A P（8）若∈i A ,,,2,1,n i =则-===∑ ni ni i i A P A P 11)()(∑∑≤<≤≤<<≤--+-+nj i nk j i n n kj ij i A A A P A A A P A A P 11211)()1()()(一列事件∈n A ,2,1,=n 称为单调递增的事件列，如果;,2,1,1 =⊂+n A A n n 一列事件∈n A ,2,1,=n 称为单调递减的事件列，如果,2,1,1=⊃+n A A n n .定理1.1.1 设 ∈n A ,2,1,=n（1）若 ,2,1,=n A n 是单调递增的事件列，则⎪⎪⎭⎫⎝⎛=∞=∞→ 1)(lim n n n n A P A P （2）若 ,2,1,=n A n 是单调递减的事件列，则⎪⎪⎭⎫⎝⎛=∞=∞→ 1)(lim n n n n A P A P 定义1.1.3.设,(Ω),P 为一概率空间，∈B A ,.且,0)(>A P 则称)()()(A P AB P A B P =为在事件A 发生的条件下事件B 发生的条件概率.不难验证，条件概率)|(A P ⋅符合定义1.1.2中的三个条件，即 （1）∈∀B , 0)|(≥A B P ；（2）;1)|(=ΩA P （3）设∈n B ,,2,1,,,,2,1, =≠==j j i B B n j i φ则∞=∞=∑=11)|()|(n n n n A B P A B P定理 1.1.2. 设，Ω( ),P 是一概率空间，有： （1）（乘法公式）若∈i A ，,,,2,1n i =且0)(121>-n A A A P ，则)|()()(12121A A P A P A A A P n =(2)（全概率公式）设∈A ,∈iB ,,2,1,0)(, =>i B P i 且∞=⊃=≠=1,,,2,1,,,,i i j i A B j i j i B B φ则∑∞==1)|()()(i i i B A P B P A P（3）（贝叶斯(Bayes)公式）且∈A ∈>i B A P ,0)(,，,,2,1,0)( =>i B P i且 ∞=⊃==1,,,2,1,,i i j i A B j i B B φ则,2,1,)|()()|()()|(1==∑∞=i B A P B P B A P B P A B P j jji i i定义 1.1.4设,(Ω ),P 为一概率空间，,,,2,1,n i F A i =∈如果对于任意的)1(n k k ≤<及任意的,12n i i i k i ≤<<<≤ 有)()()()(2121k k i i i i i i A P A P A P A A A P =则称n 21,,,A A A 相互独立。

随机过程知识点汇总随机过程是指一组随机变量{X(t)}，其中t属于某个集合T，每个随机变量X(t)都与一个时刻t相关联。

２．随机过程的分类随机过程可以分为离散时间随机过程和连续时间随机过程。

离散时间随机过程是指在离散的时间点上取值的随机过程，例如随机游走。

连续时间随机过程是指在连续的时间区间上取值的随机过程，例如XXX运动。

３．随机过程的数字特征随机过程的数字特征包括均值函数和自相关函数。

均值函数E[X(t)]描述了随机过程在不同时刻的平均取值。

自相关函数R(t1,t2)描述了随机过程在不同时刻的相关程度。

４．平稳随机过程平稳随机过程是指其均值函数和自相关函数都不随时间变化而变化的随机过程。

弱平稳随机过程的自相关函数只与时间差有关，而不依赖于具体的时间点。

强平稳随机过程的概率分布在时间上是不变的。

５．高斯随机过程高斯随机过程是指其任意有限个随机变量的线性组合都服从正态分布的随机过程。

高斯随机过程的均值函数和自相关函数可以唯一确定该过程。

６．马尔可夫随机过程马尔可夫随机过程是指其在给定当前状态下，未来状态的条件概率分布只依赖于当前状态，而与过去状态无关的随机过程。

马尔可夫性质可以用转移概率矩阵描述，并且可以用马尔可夫链来建模。

７．泊松过程泊松过程是指在一个时间段内随机事件发生的次数服从泊松分布的随机过程。

泊松过程的重要性质是独立增量和平稳增量。

８．随机过程的应用随机过程在金融学、信号处理、通信工程、控制理论等领域有广泛的应用。

例如，布朗运动被广泛应用于金融学中的期权定价，马尔可夫链被应用于自然语言处理中的语言模型。

t)|^2]协方差函数BZs,t)E[(ZsmZs))(ZtmZt))]，其中Zs和Zt是Z在时刻s和t的取值。

复随机过程是由实部和虚部构成的随机过程，其均值和方差函数分别由实部和虚部的均值和方差函数计算得到。

协方差函数和相关函数也可以类似地计算得到。

复随机过程在通信系统中有广泛的应用，例如调制解调、信道编解码等。

第一章：预备知识§1.1 概率空间随机试验;样本空间记为Ω..定义1.1 设Ω是一个集合;F 是Ω的某些子集组成的集合族..如果 1∈ΩF ；2∈A 若F ;∈Ω=A A \则F ； 3若∈n A F ; ，，21=n ;则∞=∈1n nAF ；则称F 为-σ代数Borel 域..Ω;F 称为可测空间;F 中的元素称为事件.. 由定义易知：定义1.2 设Ω;F 是可测空间;P ·是定义在F 上的实值函数..如果 则称P 是()F ,Ω上的概率;P F ，，Ω称为概率空间;PA 为事件A 的概率..定义1.3 设P F ，，Ω是概率空间;F G ⊂;如果对任意G A A A n ∈,,,21 ; ,2,1=n 有： (),11∏===⎪⎪⎭⎫⎝⎛ni i n i i A P A P则称G 为独立事件族..§1.2 随机变量及其分布随机变量X ;分布函数)(x F ;n 维随机变量或n 维随机向量;联合分布函数;{}T t X t ∈,是独立的..§1.3随机变量的数字特征定义1.7 设随机变量X 的分布函数为)(x F ;若⎰∞∞-∞<)(||x dF x ;则称)(X E ＝⎰∞∞-)(x xdF为X 的数学期望或均值..上式右边的积分称为Lebesgue-Stieltjes 积分..方差;()()[]EY Y EX X E B XY --=为X 、Y 的协方差;而 为X 、Y 的相关系数..若,0=XY ρ则称X 、Y 不相关..Schwarz 不等式若,,22∞<∞<EY EX则§ 1.4 特征函数、母函数和拉氏变换定义1. 10 设随机变量的分布函数为Fx;称为X 的特征函数随机变量的特征函数具有下列性质： 1(0)1,()1,()()g g t g t g t =≤-= 1 2 g t 在()∞∞-, 上一致连续..3()(0)()k k k g i E X =4若12,,,n X X X 是相互独立的随机变量;则12n X X X X =+++的特征函数12()()()()n g t g t g t g t =;其中()i g t 是随机变量X i 的特征函数;1,2,,i n =.定义1 . 11 设 12(,,,)n X X X X =是n 维随机变量;t = 12,,,n t t t ,R ∈ 则称121()(,,,)()[exp()]nitX n k k k g t g t t t E eE i t X '====∑;为X 的特征函数..定义1.12 设X 是非负整数值随机变量;分布列 则称)()(Xdef s E s P =＝k k k s P ∑∞=0为X 的母函数..§ 1.5 n 维正态分布定义1.13 若n 维随机变量),,,(21n X X X X =的联合概率密度为 式中;),,,(21n a a a a =是常向量;n n ij b B ⨯=)(是正定矩阵;则称X 为n 维正态随机变量或服从n 维正态分布;记作),(~B a N X ..可以证明;若),(~B a N X ;则X 的特征函数为为了应用的方便;下面;我们不加证明地给出常用的几个结论..性质1 若),(~B a N X 则n l b B a X E kl X X k k l k ,,2,1,,)( ===..性质2 设),(~B a N X ;XA Y =;若BA A '正定;则),(~BA A aA N Y '..即正态随机变量的线性变换仍为正态随机变量..性质3 设),,,(4321X X X X X =是四维正态随机变量;4,3,2,1,0)(==k X E k ;则§ 1.6 条件期望给定Y=y 时;X 的条件期望定义为由此可见除了概率是关于事件｛Y=y ｝的条件概率以外;现在的定义与无条件的情况完全一样..EX|Y=y 是y 的函数;y 是Y 的一个可能值..若在已知Y 的条件下;全面地考虑X 的均值;需要以Y 代替y;EX|Y 是随机变量Y 的函数;也是随机变量;称为 X 在 Y 下的条件期望.. 条件期望在概率论、数理统计和随机过程中是一个十分重要的概念;下面我们介绍一个极其有用的性质..性质 若随机变量X 与Y 的期望存在;则⎰===)()|()]|([)(y dF y Y X E Y X E E X E Y --------1如果Y 是离散型随机变量;则上式为如果Y 是连续型;具有概率密度fx;则1式为第二章 随机过程的概念与基本类型§2.1 随机过程的基本概念定义2.1 设P F ，，Ω是概率空间;T 是给定的参数集;若对每个t ∈T ;有一个随机变量Xt ;e 与之对应;则称随机变量族}),,({T t e t X ∈是P F ，，Ω的随机过程;简记为随机过程}),({T t t X ∈..T 称为参数集;通常表示时间..通常将随机过程}),,({T t e t X ∈解释为一个物理系统..Xt 表示在时刻t 所处的状态..Xt 的所有可能状态所构成的集合称为状态空间或相空间;记为I ..从数学的观点来说;随机过程}),,({T t e t X ∈是定义在T ×Ω上的二元函数..对固定的t;Xt ;e 是定义在T 上的普通函数;称为随机过程}),,({T t e t X ∈的一个样本函数或轨道;样本函数的全体称为样本函数的空间..§ 2.2 随机过程的函数特征t X ={Xt ;t ∈T }的有限维分布函数族..有限维特征函数族： 其中：定义2.3 设t X ={Xt ;t ∈T }的均值函数def t m X )()]([t X E ;T t ∈.. 二阶矩过程;协方差函数：T ,)]()([),()(2∈-=t t m t X E def t t B t D X X X相关函数： =),(t s R X )]()([t X s X E定义2.4 设{Xt ;t ∈T };{Yt ;t ∈T }是两个二阶矩过程;互协方差函数;互相关函数..§ 2.3 复随机过程定义 2.5 设},{T t X t ∈;},{T t Y t ∈是取实数值的两个随机过程;若对任意T t ∈ t t t iY X Z +=; 其中 1-=i ;则称},{T t Z t ∈为复随机过程．定理 2.2 复随机过程},{T t X t ∈的协方差函数 ),(t s B 具有性质 1对称性：),(),(s t B t s B =；2非负定性§2.4 几种重要的随机过程一、正交增量过程定义2.6 设(){}T ∈X t t ,是零均值的二阶矩过程;若对任意的,4321T ∈<≤<t t t t 有公式()()[]()()[]03412=X -X X -X E t t t t ;则称()t X 正交增量过程..二、独立增量过程定义2.7 设(){}T ∈X t t ,是随机过程;若对任意的正整数n 和,21T ∈<<<n t t t 随机变量()()()()()()12312,,,-X -X X -X X -X n n t t t t t t 是互相独立的;则称(){}T ∈X t t ,是独立增量过程;又称可加过程..定义 2.8 设(){}T ∈X t t ,是平稳独立增量过程;若对任意,t s <随机变量()()s t X -X 的分布仅依赖于s t -;则称(){}T ∈X t t ,是平稳独立增量过程..三、马尔可夫过程定义2.9设(){}T t t X ∈,为随机过程;若对任意正整数n 及n t t t << ,21;()()0,,)(1111>==--n n x t X x t X P ;且其条件分布()(){}1111,,|)(--===n n n n x t X x t X x t X P =(){}11|)(--==n n n n x t X x t X P ;2.6则称(){}T t t X ∈,为马尔可夫过程..四、正态过程和维纳过程定义 2.10设(){}T t t X ∈,是随机过程;若对任意正整数n 和T t t t ∈∈ ,,21;()() ,,21t X t X ;()n t X 是n 维正态随机变量;则称(){}T t t X ∈,是正态过程或高斯过程..定义 2.11设{}∞<<-∞t t W ),(为随机过程;如果 10)0(=W ；2它是独立、平稳增量过程； 3对t s ,∀;增量()0,||,0~)()(22>--σσs t N s W t W ;则称{}∞<<-∞t t W ),(为维纳过程;也称布朗运动过程..定理 2.3 设{}∞<<-∞t t W ),(是参数为2σ的维纳过程;则 （1） 任意t ),(∞-∞∈;()||,0~)(2t N t W σ； （2） 对任意∞<<<∞-t s a ,;[]),m in())()())(()((2a t a s a W t W a W s W E --=--σ;特别： ()()t s t s Rw ,m in ,2σ=..五、平稳过程定义 2.12 设(){}T t t X ∈,是随机过程;如果对任意常数τ和正整数,n 当T ∈++T ∈ττn n t t t t ,,,,,11 时;()()()()n t t t X X X ,,21与()()()()τττ+X +X +X n t t t ,,,21 有相同的联合分布;则称(){}T t t X ∈,为严平稳过程;也称狭义平稳过程..定义 2.13 设(){}T t t X ∈,是随机过程;如果 1(){}T t t X ∈,是二阶矩过程；2对于任意()()[]=X E =T ∈X t t m t ,常数；3对任意的()()s t R t s R t s -=T ∈X X ,,,;则称(){}T t t X ∈,为广义平稳过程;简称为平稳过程..若T 为离散集;则称平稳过程(){}T t t X ∈,为平稳序列..第三章 泊松过程§３.1 泊松过程的定义和例子定义3.1 计数过程定义3.2 称计数过程}0),({≥t t X 为具有参数λ＞0的泊松过程;若它满足下列条件 1 X0= 0；2 Xt 是独立增量过程；3 在任一长度为t 的区间中;事件A 发生的次数服从参数λt ＞0的泊松分布;即对任意s;t ＞0;有注意;从条件3知泊松过程是平稳增量过程且t t X E λ=)]([..由于;tt X E )]([=λ表示单位时间内事件A 发生的平均个数;故称λ为此过程的速率或强度..定义3.3 称计数过程}0),({≥t t X 为具有参数λ＞0的泊松过程;若它满足下列条件 1 X0= 0；2 Xt 是独立、平稳增量过程；3 Xt 满足下列两式：)(}2)()({),(}1)()({h o t X h t X P h o h t X h t X P =≥-++==-+λ 3.2定理3.1 定义3.2与定义3.3是等价的..3.2 泊松过程的基本性质一、数字特征设}0),({≥t t X 是泊松过程;一般泊松过程的有),m in(),(t s t s B X λ=..有特征函数定义;可得泊松过程的特征函数为二、时间间隔与等待时间的分布n W 为第n 次事件A 出现的时刻或第n 次事件A 的等待时间;n T 是第n 个时间间隔;它们都是随机变量..定理3.2 设}0),({≥t t X 是具有参数λ的泊松分布;)1(≥n T n 是对应的时间间隔序列;则随机变量),2,1( =n T n 是独立同分布的均值为λ/1的指数分布..定理3.3 设}1,{≥n W n 是与泊松过程}0),({≥t t X 对应的一个等待时间序列;则n W 服从参数为n 与λ的Γ分布;其概率密度为三、到达时间的条件分布定理3.4 设}0),({≥t t X 是泊松过程;已知在0;t 内事件A 发生n 次;则这n 次到达时间n W W W <<< 21与相应于n 个0;t 上均匀分布的独立随机变量的顺序统计量有相同的分布..§3.3 非齐次泊松过程定义 3.4 称计数过程{(),0}X t t ≥为具有跳跃强度函数()t λ的非齐次泊松过程;若它满足下列条件：1 (0)0X =；2 ()X t 是独立增量过程；3{()()1}()(){()()2}()P X t h X t t h o h P X t h X t o h λ+-==++-≥=非齐次泊松过程的均值函数为：定理 3.5 设{(),0}X t t ≥是具有均值函数0()()tX m t s ds λ=⎰的非齐次泊松过程;则有 或上式表明{()()}P X t s X t n +-=不仅是t 的函数;也是s 的函数..3.4 复合泊松过程定义3.5 设}0),({≥t t N 是强度为λ的泊松过程;,...}2,1{,=k Y k 是一列独立同分布随机变量;且与}0),({≥t t N 独立;令 则称}0),({≥t t X 为复合泊松过程..定理3.6 设,0)()(1≥∑==t k t x Y t N k 是复合泊松过程;则1..}0),({≥t t X 是独立增量过程；2Xt 的特征函数]}1)([ex p{)()(-=u g t u g Y t X λ;其中)(u g Y 是随机变量1Y 的特征函数；λ是事件的到达率..3若,)(21∞<Y E 则].[)]([],[)]([211Y tE t X D Y tE t X E λλ==第4章 马尔可夫链§4.1 马尔可夫链的概念及转移概率一、马尔可夫键的定义定义1 设有随机过程},{T n X n ∈;若对于任意的整数T n ∈和任意的I i i i n ∈+110,,, ;条件概率满足则称},{T n X n ∈为马尔可夫链;简称马氏链..二、转移概率定义2 称条件概率为马尔可夫链},{T n X n ∈在时刻n 的一步转移概率;其中I j i ∈,;简称为转移概率..定义 3 若对任意的I j i ∈,;马尔可夫链},{T n X n ∈的转移概率)(n p ij 与n 无关;则称马尔可夫链是齐次的;并记)(n p ij 为ij p ..定义4 称条件概率为马尔可夫链},{T n X n ∈的n 步转移概率;定理 1 设},{T n X n ∈为马尔可夫链;则对任意整数n l n <≤≥0,0和I j i ∈,;n 步转移概率)(n ij p 具有下列性质：定义5 设},{T n X n ∈为马尔可夫链;称为},{T n X n ∈的初始概率和绝对概率;并分别称},{I j p j ∈和}),({I j n p j ∈为},{T n X n ∈的初始分布和绝对分布;简记为}{j p 和)}({n p j ..定理2 设},{T n X n ∈为马尔可夫链;则对任意I j ∈和1≥n ;绝对概率)(n p j 具有下列性质：定理3 设},{T n X n ∈为马尔可夫链;则对任意I i i i n ∈,,,21 和1≥n ;有§4.2 马尔可夫链的状态分类一、状态分类假设{,0}n X n ≥是齐次马尔可夫链;其状态空间{0,1,2,}I =;转移概率是,,ij p i j I ∈; 初始分布为{,,}j p i j I ∈ ..定义 4.6 如集合(){:1,0}n ii n n p ≥>非空;则称该集合的最大公约数()()..{:0}n ii d d i G C D n p ==>为状态i 的周期..如1>d 就称i 为周期的;如1=d 就称i 为非周期的..若对每一个不可被d 整除的n ;有()n ii p =0;且d 是具有此性质的最大正整数;则称d为状态i 的周期..引理4.1 如i 的周期为d;则存在正整数M;对一切M n ≥;有()0nd ii p >..定义 对,,S j i ∈记()0{,,1,2,,1|},2n ij n k f P X j X j k n X i n ==≠=-=≥ 4.15称()n ij f 是系统在0时从i 出发经过n 步转移后首次到达状态j 的概率;而()ij f ∞则是在0时从i出发;系统在有限步转移内不可能到达状态j 的概率..我们将()n ij f 和ij f 统称为首达概率又称首中概率..引理1 ()0n ij ij f f ≤≤ n j i ,,∀（2） 首达概率可以用一步转移概率来表示：定义4.7 若ii f =1;则称状态i 为常返的；若ii f <1;则称状态i 为非常返的.. 定义4.8 如∞<i μ;则称常返态i 为正常返的；如∞=i μ;则称常返态i 为零常返的;非周期的正常返态称为遍历状态..从状态是否常返;如常返的话是否正常返;如正常返的话是否非周期等三层次上将状态区分为以下的类型：)(n ij f 与)(n ijp 有如下关系： 定理4.4 对任意状态,i j ;及∞<≤n 1;有()()()()()1.nnn k n k n k k ijijjjij jj k k pfpf p --====∑∑ 4.16引理4.2 }.0,1:{..}0,1:{..)()(>≥=>≥n ii n iif n n D C G p n n D C G二、常返态的性质及其性质定理4.5 状态i 常返的充要条件为∞=∑∞=0n iip4.18如i 非常返;则定理4.7 设i 常返且有周期d;则ind iin d p μ=∞→)(lim . 4.26其中i μ为i 的平均返回时间..当∞=i μ时;0=idμ.推论 设i 常返;则(1) i 零常返0lim )(=⇔∞→n iin p ；2i 遍历()1lim 0n ii n ip μ←∞⇔=>..定理4.8 可达关系与互通关系都具有传递性;即如果j i →;k j →;则k i →； 如果i k ↔;k j ↔;则k i ↔..定理4.9 如i j ↔;则（1） i 与j 同为常返或非常返;若为常返;则它们同为正常返或零常返； （2） i 与j 有相同的周期..§4.3 状态空间的分解定义4.9 状态空间I 的子集C 称为随机闭集;如对任意i C ∈及k C ∉都有0ik p =..闭集C 称为不可约的;如C 的状态互通..马氏链{}n X 称为不可约的;如其状态空间不可约..引理4.4 C 是闭集的充要条件为对任意i C ∈及k ∉C 都有()n ik p =0;n ≥1.. 称状态i 为吸收的;如ii p =1..显然状态i 吸收等价于单点集{}i 为闭集.. 定理4.10 任一马氏链的状态空间I;可唯一地分解成有限个或可列个互不相交的子集12,,,D C C 之和;使得① 每一n C 是常返态组成的不可约闭集..② n C 中的状态同类;或全是正常返;或全是零常返..它们有相同的周期且1jk f =; ,n i k C ∈..③ D 由全体非常返状态组成..自n C 中的状态不能到达D 中的状态.. 定义4.10 称矩阵ij a 为随机矩阵;如其元素非负且每i 有∑jij a ＝1..显然k 步转移矩阵)(k P ＝)(k ij p 为随机矩阵..引理4.5 设C 为闭集;又G ＝)(k ij p ; i ;j ∈C;是C 上所得的即与C 相应的k 步转移子矩阵;则G 仍是随机矩阵..定理4.11 周期为d 的不可约马氏链;其状态空间C 可唯一地分解为d 个互不相交地子集之和;即1,,,d r r S r C G G G r s φ-===≠ 4.31且使得自r G 中任一状态出发;经一步转移必进入1+r G 中其中0G G d =..定理4.12 设{,0}n X n ≥是周期为d 的不可约马氏链;则在定理4.11的结论下有1如只在时刻0,,2,d d 上考虑{}n X ;即得一新马氏链;其转移阵()()()d d ij P p =;对此新链;每一r G 是不可约闭集;且r G 中的状态是非周期的..2如原马氏链 {}n X 常返;{}nd X 也常返..§4.4 )(n ij p 的渐近性质与平稳分布一、)(n ij p 的渐近性质定理4.13 如j 非常返或零常返;则)(lim n ij n p ∞→＝0;I i ∈∀ 4.33推论1 有限状态的马氏链;不可能全是非常返状态;也不可能含有零常返状态;从而不可约的有限马氏链必为正常返的..推论2 如马氏链有一个零常返状态;则必有无限多个零常返状态..定理4.14 如j 正常返;周期为d;则对任意i 及10-≤≤d r 有()lim ()nd r ijij n jd p f r μ+→∞= 4.37 推论 设不可约、正常返、周期d 的马氏链;其状态空间为C;则对一切C j i ∈,;有,(),lim 0,s nd j ijn di j G p μ→∞⎧⎪=⎨⎪⎩如与同属于子集否则， 4.38 其中s d s G C 1－==U 为定理4.11中所给出..特别;如d=1;则对一切,i j 有.1lim )(jn ijn p μ=→∞4.39定理 4.15 对任意状态,,j i 有推论 如{}n X 不可约;常返;则对任意,i j ;有()111lim n k ij n k j p n μ→∞==∑ j μ＝∞时;理解j1μ＝0 定义4.11 称概率分布{,}j j I π∈为马尔可夫链的平稳分布;若它满足⎪⎪⎩⎪⎪⎨⎧≥==∑∑∈∈.0,1,j I j i ij I i i j p ππππ 4.41值得注意的是;对平稳分布{,}j j I π∈;有()n j i ij i Ip ππ∈=∑ 4.42定理 4.16 不可约非周期马尔可夫链是正常返的充要条件是存在平稳分布;且此平稳分布就是极限分布1{,}j j I u ∈..推论1 有限状态的不可约非周期马尔可夫链必存在平稳分布..推论 2 若不可约马尔可夫链的所有状态是非常返或零常返的;则不存在平稳分布.推论3 若{,}j j I π∈是马尔可夫链的平稳分布;则第五章 连续时间的马尔可夫链§5.1连续时间的马尔可夫链定义 5.1 设随机过程{X t;t ≥0};状态空间{,0}n I i n =≥;若对于任意1210n t t t +≤<<<及121,,,n i i i I +∈有= 11{()|()}n n n n P X t i X t i ++== 5.1 则称{X t;t ≥0}为连续时间的马尔可夫链..记5.1式条件概率的一般形式为(,){()|()}ij p s t P X s t j X s i =+== 5.2定义 5.2 若5.2式的转移概率与s 无关;则称连续时间马尔可夫链具有平稳的或齐次的转移概率;此时转移概率简记为(,)()ij ij p s t p t = 5.3其转移概率矩阵简记为()(()),(,,0)ij P t p t i j I t =∈≥..以下的讨论均假定我们所考虑的连续时间马尔柯夫链都具有齐次转移概率..为方便起见;简称为齐次马尔可夫过程..定理5.1.1 齐次马尔可夫过程的转移概率具有以下性质：其中3式为马尔可夫过程的Chapman-Kolmogorov 简称C-K 方程..1;2由概率定义及()ij p t 的定义易知;下面只证明3..定义5.1.3对于任一t ≥0;记分别称{(),}j p t j I ∈和{,}j p j I ∈为齐次马尔可夫过程的绝对概率分布和初始概率分布..性质5.1.1 齐次马尔可夫过程的绝对概率及有限维概率分布具有以下性质：§5.2 柯尔莫哥洛夫微分方程引理 5.2.1 设齐次马尔可夫过程满足正则性条件;则对于任意固定的)(,,t p I j i ij ∈是t 的一致连续函数..定理5.3 设)(t p ij 是齐次马尔可夫过程的转移概率;则下列极限存在我们称ij q 为齐次马尔可夫过程从状态i 到状态j 的转移速率或跳跃强度.. 推论 对有限齐次马尔可夫过程;有定理5.4 柯尔莫哥洛夫向后方程假设ik ii k iq q ≠=∑;则对一切,i j 及t 0;有()()()ijik kj ii ij k ip t q p t q p t ≠'=-∑ 5.2.4 定理5.2.3 柯尔莫哥洛夫向前方程在适当的正则条件下定理5.2.4 齐次马尔可夫链过程在t 时刻处于状态j ∈I 的绝对概率()j p t 满足如下方程：定理5.2.5 设马尔可夫过程是不可约的;则有下列性质：1若它是正常返的;则极限lim ()ij t p t →∞存在且等于0,j j I π>∈;这里j π是方程组的唯一非负解;此时称{,j j I π∈}是该过程的平稳分布;并且有2若它是零常返的或非常返的;则§5.3 生灭过程定义 设齐次马尔可夫过程{(),0}X t t ≥的状态空间为{0,1,2,}I =;转移概率为()ij p t ;如果则称{(),0}X t t ≥为生灭过程..其中;i λ称为出生率;i μ称为死亡率..1若,i i i i λλμμ==λ;μ为正常数;则称{(),0}X t t ≥为线性生灭过程；2若0i μ≡;则称{(),0}X t t ≥为纯生过程； 3若0i λ≡;则称{(),0}X t t ≥为纯灭过程..第六章 平稳随机过程§6.1 平稳过程的概念与例子一、平稳过程的定义1.平稳过程定义§6.2 联合平稳过程及相关函数的性质一、联合平稳过程定义 设{(),}X t t T ∈和{(),}Y t t T ∈是两个平稳过程;若它们的互相关函数[()()]E X t Y t τ-及[()()]E Y t X t τ-仅与τ有关;而与t 无关;则称()X t 和()Y t 是联合平稳随机过程..定理6.1 设{(),}X t t T ∈为平稳过程;则其相关函数具下列性质:1 ;0)0(≥X R2 );()(ττ-=X X R R3 );0()(X X R R ≤τ4 )(τX R 是非负定的;即对任意实数12,,,n t t t 及复数12,,,n a a a ;有5 若()X t 是周期为T 的周期函数;即()()X t X t T =+;则)()(t R R X X +=ττ；6 若()X t 是不含周期分量的非周期过程;当∞→τ时;()X t 与()X t τ+相互独立;则 1 );0()0()(),0()0()(22Y X XY Y X XY R R R R R R ≤≤ττ 2 ()()XY YX R R ττ-=§ 6.3 随机分析一、收敛性概念1、处处收敛对于概率空间(,,)P Ω℘上的随机序列{}n X ;每个试验结果e 都对应一序列..12(),(),,(),n X e X e X e 6.2故随机序列{}n X 实际上代表一族6.2式的序列;故不能用普通极限形式来定义随机序列的收敛性..若6.2式对每个e 都收敛;则称随机序列{}n X 处处收敛;即满足 其中X 为随机变量..2、以概率1收敛若使随机序列{()}n X e 满足的e 的集合的概率为1;即我们称二阶矩随机序列{()}n X e 以概率1收敛于二阶矩随机变量Xe;或称{()}n X e 几乎处处收敛于Xe;记作XX ea n −→−...3、依概率收敛若对于任给的ε>0; 若有0}|)()({|lim =≥-∞→εe X e X P n n ;则称二阶矩随机序列{()}n X e 依概率收敛于二阶矩随机变量Xe;记作X X Pn −→−.. 4、均方收敛设有二阶矩随机序列{}n X 和二阶矩随机变量X;若有0]|[|lim 2=-∞→X X E n n 6.3成立;则称{}n X 均方收敛;记作X X sm n −−→−... 注：6.3式一般记为l.i.m n x X X →∞=或..n l i mX X =.. 5、依分布收敛设有二阶矩随机序列{}n X 和二阶矩随机变量X;若{}n X 相应的分布函数列{()}n F x ;在X 的分布函数Fx 的每一个连续点处;有则称二阶矩随机序列{}n X 依分布收敛于二阶矩随机变量X;记作X X dn −→−对于以上四种收敛定义进行比较;有下列关系：1 若X X s m n −−→−.;则X X Pn −→− 2 若XX ea n −→−.;则X X Pn −→−3 若X X Pn −→−;则X X dn −→− 定理2 二阶矩随机序列{}n X 收敛于二阶矩随机变量X 的充要条件为定理3 设{},{},{}n n n X Y Z 都是二阶矩随机序列;U 为二阶矩随机变量;{n c }为常数序列;a;b;c 为常数..令X mX i l n =..;Y mY i l n =..;Z mZ i l n =..;c mc i l n =....则1 c c mc i l n n n ==∞→lim ..；2 U mU i l =..；3 cU U c m i l n =)(..；4 bY aX bY aX m i l n n +=+)(..；5 ]..[][][lim n n n mX i l E X E X E ==∞→；6 )]..)(..[(][][lim ,m n m n m n Y m i l mX i l E Y X E Y X E ==∞→；特别有]|..[|]|[|]|[|lim 222n n n mX i l E X E X E ==∞→..定理4 设{}n X 为二阶矩随机序列;则{}n X 均方收敛的充要条件为下列极限存在][lim ,m n m n X X E ∞→..二、均方连续定义 设有二阶矩过程}),({T t t X ∈;若对0t T ∈;有2000lim [|()()|]0h E X t h X t →+-=;则称()X t 在0t 点均方连续;记作000..()()h l i m X t h X t →+=..若对T 中一切点都均方连续;则称()X t 在T 上均方连续..定理均方连续准则二阶矩过程}),({T t t X ∈在t 点均方连续的充要条件为相关函数处连续在点),(),(21t t t t R X ..推论 若相关函数),(21t t R X 在}),,{(T t t t ∈上连续;则它在T ×T 上连续三、均方导数定义7 设}),({T t t X ∈是二阶矩过程;若存在一个随机过程)(t X ';满足类似的有22)(dtXd t X 或'' 称为),(21t t R X 在12(,)t t 的广义二阶导数;记为定理6 均方可微准则 二阶矩过程}),({T t t X ∈在t 点均方可微的充要条件为相关函数),(),(21t t t t R X 在点的广义二阶导数存在..推论1 二阶矩过程}),({T t t X ∈在T 上均方可微的充要条件为相关函数),(21t t R X 在}),,{(T t t t ∈上每一点广义二阶可微..推论2 若),(21t t R X 在}),,{(T t t t ∈上每一点广义二阶可微;则()X dm t dt在T 上以及在T T ⨯上存在;且有四、均方积分定义8 如果0n ∆→时;n S 均方收敛于S ;即2lim ||0n n E S S ∆→-=;则称()()f t X t 在[,]a b 上均方可积;并记为定理7 均方可积准则()()f t X t 在区间[,]a b 上均方可积的充要条件为存在..特别的;二阶矩过程()X t 在[,]a b 上均方可积的充要条件为12(,)X R t t 在[,][,]a b a b ⨯上可积..定理8 设()()f t X t 在区间[,]a b 上均方可积;则有 1 [()()]()[()]bbaaE f t X t dt f t E X t dt =⎰⎰特别有 [()][()]bbaaE X t dt E X t dt =⎰⎰2 111222121212[()()()()]()()(,)bb bbX aaaaE f t X t dt f t X t dt f t f t R t t dt dt =⎰⎰⎰⎰特别的有 21212|()|(,)bbbX aaaE X t dt R t t dt dt =⎰⎰⎰..定理9 设二阶矩过程}),({T t t X ∈在[,]a b 上均方连续;则在均方意义下存在;且随机过程}),({T t t X ∈在[,]a b 上均方可微;且有()()Y t X t '=.. 推论 设()X t 均方可微;且()X t '均方连续;则 特别有§4 平稳过程的各态历经性定义9 设{(),}X t t -∞<<∞为均方连续的平稳过程;则分别称为该过程的时间均值和时间相关函数..定义10 设{(),}X t t -∞<<∞是均方连续的平稳过程;若()Pr.1(())X t E X t <>;即 以概率1成立;则称该平稳过程的均值具有各态历经性..若()()Pr.1(()())X t X t E X t X t ττ<->-;即以概率1成立;则称该平稳过程的相关函数具有各态历经性..定义11 如果均方连续的平稳过程{(),}X t t T ∈的均值和相关函数都具有各态历经性;则称该平稳过程为具有各态历经性或遍历性..定理 10 设{(),}X t t -∞<<∞是均方连续的平稳过程;则它的均值具有各态历经性的充要条件为2221lim 1[()]022T X X T T R m d T T τττ-→∞⎛⎫--= ⎪⎝⎭⎰ 6.9 定理6.11 设{(),}X t t -∞<<∞为均方连续的平稳过程;则其相关函数具有各态历经性的充要条件为2211121lim1()()022TX T T B R d T T ττττ-→∞⎛⎫⎡⎤--= ⎪⎣⎦⎝⎭⎰ 6.15 其中111()()()()()B E X t X t X t X t τττττ⎡⎤=----⎢⎥⎣⎦6.16 定理6.12 对于均方连续平稳过程{(),0}X t t ≤<∞;等式以概率1成立的充要条件为若()X t 为实平稳过程;则上式变为定理 6.13 对于均方连续平稳过程{(),0}X t t ≤<∞;等式 以概率1成立的充要条件为 其中1()B τ与6.16式相同..若()X t 为实平稳过程;则上式变为第七章 平稳过程的谱分析§7.1 平稳过程的谱密度设)(t X 是均方连续随机过程;作截尾随机过程因为()t X T 均方可积;故存在傅式变换(,)()()i ti t x T T T F T X t e dt X t e dt Tωωω--∞==-∞-⎰⎰…………..7.4利用帕塞伐公式及傅式反变换;可得定义7.1 设 {}∞<<-∞t t X ),( 为均方连续随机过程;称 为 )(t X 的平均功率;称为 )(t X 的功率谱密度;简称谱密度..当 )(t X 是平稳均方连续函数时;由于[])(2t X E 是与t 无关的常数;利用均方积分的性质可以将7.5式简化得()221()()02limx T T E X t dt E X t R T T →∞⎡⎤⎡⎤===⎣⎦⎣⎦-⎰ ……….. 7.8 由7.8式和7.5式看出;平稳过程的平均功率等于该过程的均方值;或等于它的谱密度在频域上的积分;即()212X S d ψωωπ∞=-∞⎰ ………………. 7.9定义7.2 设{,0,1,2,}n X n =±±是平稳随机序列;若相关函数满足()X n R n ∞=-∞<∞∑则称为{,0,1,2,}n X n =±±的谱密度..§7.2谱密度的分析设 {}∞<<-∞t t X ),( 为均方连续平稳过程;)(τX R 为它的相关函数;()ωX S 为它的频率谱密度;()ωX S 具有下列性质： （1） 若()∞<∞-∞⎰ττd R X ;则()ωX S 是)(τX R 的傅式变换;即()()i t X X S R e d ωωττ-∞=-∞⎰ ………. 7.122 ()ωX S 是ω的实的;非负的偶函数..3 当 ()ωX S 是ω有理函数时;其形式必为其中22,(0,2,,2;2,4,,2)n i m j a b i n j m --==为常数;且20n a >;m n >;分母无实根..§7.3 窄带过程及白噪声过程的功率谱密度定义 1 设 (){},X t t -∞<<∞为实值平稳过程;若它的均值为零;且谱密度在所有频率范围内为非零的常数;即()()0X s N ωω=-∞<<∞则称()X t 为白噪声过程..具有下列性质的函数称为δ函数：δ函数有一个非常重要的运算性质;即抽样性质..对任何连续函数()f x ;有()()()0,f x x dx f δ∞-∞=⎰7.15或()()().f x x T dx f T δ∞-∞-=⎰§7.4 联合平稳过程的互谱密度定义7.4 设()X t 和()Y t 是两个平稳过程;且它们是联合平稳的平稳相关的;若它们的互相关函数()XY R τ满足()XY R d ττ∞-∞<∞⎰;则称()XY R τ的傅氏变换 ()()i XY XY s R ed ωτωττ∞--∞=⎰ ………………….7.21 是()X t 与()Y t 的互功率谱密度;简称互谱密度.. 因此互谱密度()YX s ω与互相关函数()YX R τ的关系如下：()()i YXYXs R e d ωτωττ∞--∞=⎰; 互谱密度具有下列性质：⑴ ()()XY YX s s ωω=;即()XY s ω与()YX s ω互为共轭；⑵ ()Re XY s ω⎡⎤⎣⎦和()Re YX s ω⎡⎤⎣⎦是ω的偶函数;而()Im XY s ω⎡⎤⎣⎦和()Im YX s ω⎡⎤⎣⎦是ω的奇函数；⑶ ()XY s ω与()X s ω和()Y s ω满足下列关系式： ⑷若()X t 和()Y t 相互正交;则()()0XY YX s s ωω==。

高等数学中的随机过程相关知识点详解近年来，随机过程被越来越多的人所关注和使用。

作为高等数学的一个分支，随机过程具有广泛的应用领域，包括金融、医学、生物学等等。

在本文中，将详细解析高等数学中的随机过程相关知识点，帮助读者更好地理解和应用这一领域的知识。

一、概率论基础在进行随机过程的学习之前，我们需要了解一些概率论的基础知识。

概率论是确定不确定性的一种科学方法，它研究的是随机事件的发生规律和概率计算方法。

在概率论中，有一些基本概念和公式，包括概率、条件概率、概率分布、随机变量等等。

1.1 概率概率是指一个事件发生的可能性大小。

通常用P来表示，它的取值范围是0到1。

当P=0时，表示这个事件不可能发生；当P=1时，表示这个事件一定会发生。

例如，掷一枚硬币正面朝上的概率为1/2，或者说P=0.5。

1.2 条件概率条件概率是指在已知某些条件下，某个事件发生的概率。

通常用P(A|B)来表示，表示在B发生的情况下，A发生的概率。

例如，从一副牌中摸两张牌，第一张是红桃，第二张是黑桃的概率为P(第二张是黑桃|第一张是红桃)=26/51。

1.3 概率分布概率分布是指所有可能事件发生的概率分布，它是概率论的基础。

在不同的情况下，概率分布也是不同的。

例如，在离散型随机变量中，概率分布通常以概率质量函数的形式给出；而在连续性随机变量中，概率分布通常以概率密度函数的形式给出。

1.4 随机变量随机变量是一种随机事件的数学描述。

它通常用大写字母表示，如X、Y、Z等等。

根据其取值的类型，随机变量可以分为离散型和连续型。

离散型随机变量只能取到有限或可数个值，如掷硬币、扔骰子等等；而连续型随机变量可以取到任意实数值，如身高、体重等等。

二、随机过程的基本概念2.1 随机过程的定义随机过程是一种描述随机事件随时间变化的方法。

它可以看作是有限维随机变量序列的无限集合，其中每个随机变量代表系统在某个时刻的状态。

随机过程的定义包括两个方面：空间（状态集合）和时间（时刻集合）。

数学中的随机过程一、引言在数学领域中，随机过程是研究随机事件随时间的演变规律的数学模型。

它既具有随机性，又具有确定性，广泛应用于概率论、统计学和其他相关领域。

本文将介绍随机过程的基本概念、分类及其在现实生活中的应用。

二、随机过程的定义随机过程是一类随机变量的集合，表示随机事件随时间变化的模型。

随机过程通常用X(t)表示，其中t是时间参数，X(t)是在某一时刻t的取值。

随机过程可以分为离散和连续两种类型。

三、离散时间随机过程离散时间随机过程是指在一系列离散时间点上定义的随机变量序列。

常见的离散时间随机过程有伯努利过程、泊松过程等。

1. 伯努利过程伯努利过程是最简单的离散时间随机过程，它是一种只有两个取值的随机过程。

以掷硬币为例，假设正面出现的概率为p，反面出现的概率为1-p，掷硬币的结果序列就是伯努利过程。

2. 泊松过程泊松过程描述了随机事件在时间上的独立出现，并且满足平稳性和无记忆性。

在实际应用中，泊松过程可以用来模拟各种随机事件的发生，如电话呼叫到达、交通事故发生等。

四、连续时间随机过程连续时间随机过程是指在连续时间区间上定义的随机变量。

其中最常见的连续时间随机过程是布朗运动和随机行走。

1. 布朗运动布朗运动是一种连续的、无界变差的随机过程，其特点是随机变量在任意时间间隔上的累积值符合正态分布。

布朗运动经常用来模拟金融市场的波动、温度变化等。

2. 随机行走随机行走是一种描述随机变量在空间上随机移动的随机过程。

它的最简单形式是一维随机行走，即随机变量只能在一维空间上左右移动。

随机行走在金融市场中的应用较广，可以用来模拟股票价格的变化。

五、随机过程的应用随机过程在现实生活中有着广泛的应用，以下两个领域是典型的例子。

1. 通信网络随机过程在通信网络中扮演着重要的角色。

例如，通过对网络中的数据流量建模，可以使用随机过程来优化网络的传输效率和资源分配。

2. 金融领域在金融领域中，随机过程被广泛应用于期权定价、风险管理和投资组合优化等方面。

什么是随机过程（一）引言概述:随机过程是概率论和数学统计学中的重要概念，用于描述随机事件在时间和空间上的演化规律。

它在实际问题建模和分析中具有广泛的应用，涵盖了大量的领域，如通信系统、金融市场、生物学等。

本文将介绍随机过程的基本概念和特征，并探讨其在实际中的应用。

正文:1. 随机过程的定义1.1 随机过程的基本概念1.2 随机变量与随机过程的关系1.3 不同类型的随机过程（如离散随机过程、连续随机过程等）2. 随机过程的特征2.1 随机过程的时间域特征2.2 随机过程的统计特征2.3 随机过程的独立性和相关性2.4 随机过程的平稳性2.5 随机过程的马尔可夫性质3. 随机过程的应用3.1 通信系统中的随机过程3.2 金融市场中的随机过程3.3 生物学中的随机过程3.4 物理学中的随机过程3.5 工程控制中的随机过程4. 随机过程的建模和分析方法4.1 马尔可夫链模型4.2 随机演化方程模型4.3 随机微分方程模型4.4 随机过程的仿真方法4.5 随机过程的参数估计方法5. 随机过程的未来发展5.1 随机过程在人工智能中的应用5.2 随机过程在时空数据分析中的应用5.3 随机过程在大数据分析中的应用5.4 新兴领域中的随机过程研究5.5 随机过程理论与实际应用的结合总结:本文介绍了随机过程的定义、特征和应用，并讨论了随机过程的建模和分析方法。

随机过程作为概率论和数学统计学的重要分支，具有广泛的应用前景。

随着人工智能和大数据分析的发展，随机过程在各个领域中的应用将进一步扩展。

值得期待的是，未来随机过程理论和实际应用的结合将推动该领域的进一步发展。

窄带随机过程知识点总结一、基本概念1. 随机过程随机过程是指一组随机变量的集合，这些随机变量依赖于一个或多个自变量。

在时间变量上，我们称之为时间随机过程。

时间随机过程又可以分为宽带随机过程和窄带随机过程，前者指随机过程在整个频谱上都有一定的随机分布，后者指随机过程在频谱上只占有有限的频带。

2. 窄带随机过程窄带随机过程在频谱中仅占有有限频带，其特性是信号的频率成分远小于信号的中心频率。

在实际应用中，窄带随机过程通常指的是在主载波频率附近的一小段频带范围内的随机过程。

3. 时域和频域描述窄带随机过程可以通过时域和频域来进行描述。

在时域上，窄带随机过程可以用随机函数的均值、自相关函数和功率谱密度来描述；在频域上，窄带随机过程可以用频谱函数和功率谱密度来描述。

二、数学描述1. 自相关函数窄带随机过程的自相关函数是该随机过程的期望值，它表示了信号在不同时刻的取值之间的相关性。

自相关函数通常用时间差来表示，可以通过对随机过程的样本进行计算来得到近似值。

2. 功率谱密度窄带随机过程的功率谱密度是其频谱的表示，它表示了信号在不同频率上的功率分布。

功率谱密度可以通过对随机过程的频率分量进行计算来得到。

3. 高斯窄带随机过程如果一个窄带随机过程在任意时刻的取值都服从高斯分布，则称之为高斯窄带随机过程。

高斯窄带随机过程具有许多重要的性质，包括线性性、平稳性和正态性等。

三、性质1. 平稳性平稳窄带随机过程是指在不同时间段上统计性质相同的随机过程，在实际应用中往往对平稳性的要求比较高。

2. 正态性正态窄带随机过程是指在不同时间点上的取值服从正态分布的随机过程，这种类型的随机过程在许多实际问题中都有重要应用。

3. 独立性在许多实际问题中，我们通常要求随机过程的不同时刻的取值是相互独立的，这样便于进行概率分析和数学建模。

四、应用1. 通信系统在通信系统中，窄带随机过程的功率谱密度是研究通信链路性能的重要工具，通过对其进行频谱分析可以得到信号的频谱特性和频谱利用率等信息。