第二章随机过程的基本概念
- 格式:pdf
- 大小:431.93 KB
- 文档页数:63
2随机过程的基本概念§2.1 基本概念随机过程是指一族随机变量.对随机过程的统计分析称为随机过程论,它是随机数学中的一个重要分支,产生于本世纪的初期.其研究对象是随机现象,而它特别研究的是随“时间”变化的“动态”的随机现象.一随机过程的定义1 定义设E为随机试验,S为其样本空间,如果(1)对于每个参数t∈T, X(e,t)为建立在S上的随机变量,(2)对每一个e∈S, X(e,t)为t的函数,那么称随机变量族{X(e,t), t∈T, e∈S}为一个随机过程,简记为{X(e,t), t∈T}或X(t)。
()()()()(){}{}[]()为随机序列。
时,通常称,取可列集合当可以为无穷。
通常有三种形式:参数一般表示时间或空间,或有时也简写为一个轨道。
随机过程的一个实现或过程的样本函数,或称随机的一般函数,通常称为为对于:上的二元单值函数。
为即若用映射来表示注意:t X T T T b a b a T T T T t X t X t e X T t e X S e S T t e X RS T t e X t21321,,,,3,2,1,0,1,2,3,,3,2,1,0T ,.4,.3,,2,:,.1=---==ÎÎ×δ®´L L L为一个随机过程。
则令掷一均匀硬币,例),()(cos )(},{1t e X t X Rt T e t H e t t X T H S =Îîíì====p 2 随机过程举例îíì=====为随机变量的函数均为和解释:T e t He t t e X t t t T X t t H X 000cos ),(),(cos ),((p p 2121cos ),(000p t t t e X p 并且:例2:用X(t)表示电话交换台在(0,t)时间内接到的呼唤的次数,则(1)对于固定的时刻t, X(t)为随机变量,其样本空间为{0,1,2,…..},且对于不同的t,是不同的随机变量.(2)对于固定的样本点n, X(t)=n是一个t的函数.(即:在多长时间内来n个人?)所以{X(t),t>0}为一个随机过程.相位正弦波。
第二章 随机过程的概念和基本类型2.1 随机过程的基本概念随机过程是随机数学一个十分广泛的分支,它研究的是客观世界中随机现象演变过程的统计规律性.随机过程理论不仅广泛应用于自然科学的各个领域(例如物理学、生物学、电子技术等),而且在社会科学的许多领域也日益受到重视.我们都知道,初等概率论的主要研究对象是随机现象,可以用一个或有限个随机变量来描述随机试验所产生的随机现象.但是,随着科学技术的不断发展,我们必须对一些随机现象的过程进行研究,也就是要考虑无穷多个随机变量,而且解决问题的出发点不是随机变量的独立样本,而是无穷个随机变量的一次具体观测.这时,必须用一簇随机变量才能刻画这种随机现象的全部统计规律,这种随机变量簇就是随机过程.下面先考察几个例子.例 2.1 某人不断地掷一颗骰子,设()X n 表示第n 次掷骰子时出现的点数,1,2,n =⋅⋅⋅,对于任意一个n ,在第n 次掷骰子前不知道试验的结果会出现几点,因此,()X n 是一个随机变量.这样,随机现象可以用一簇随机变量{(),1}X n n ≥来描述.例2.2 设()X t 表示某流水线从开工(0t =)到时刻t 为止的累计次品数,在开工前不知道时刻t 的累计次品数将有多少,因此,()X t 是一个随机变量,假设流水线不断工作,随机现象可以用一簇随机变量{(),0}X t t ≥来描述.例2.3 在天气预报中,若以()X t 表示某地区第t 次统计所得到的该天最高气温,则()X t 是一个随机变量,为了预报未来该地区的气温,我们必须用一簇随机变量{(),0}X t t ≥来描述它的统计规律性.例2.4 在海浪分析中,需要观测某固定点海平面的垂直振动,设()X t 表示在时刻t 该点海平面相对于平均海平面的高度,则()X t 是一个随机变量,我们可以用一簇随机变量{(),0}X t t ≥来描述它的统计规律性.上述例子的共同点是,不是静止地研究某种随机现象,从而研究个别随机变量,而是动态地关心某种随机现象如何随时间变化而发展的,也就是说,需要研究许多随机变量组成的一簇随机变量.一般地,这簇随机变量包含无限多个随机变量,如果这簇随机变量包含有限多个随机变量(例如例 2.1),那么,这类问题用初等概率论中多维随机变量来解决.一簇随机变量描述了随机现象的变化发展过程.为了更深入地研究随机过程的相关性质,我们先给出随机过程的一般定义.定义2.1 设(,ΩF ,)P 是一概率空间,T 是给定的参数,若对于任意t T ∈,有一个随机变量(,)X t ω与之对应,则称随机变量簇{(,),}X t t T ω∈是(,ΩF ,)P 上的随机过程(stochastic process ),简记为随机过程{(),}X t t T ∈,在不致引起混淆的情况下,也可记为()X t .T 为参数集(或指标集),通常表示时间,t 为参数(或指标).需要说明的是:上述定义中的参数集T 可以是时间集,也可以是长度、重量、速度等物理量的集合,随机过程本来通称随机函数,当参数集T 是时间集时称为随机过程,但现在将参数集不是时间集的随机函数也称随机过程,对参数集T 不再有时间限制.在例2.1中,{1,2,}T =⋅⋅⋅,在例2.2, 例2.3和例2.4中[0,)T =+∞,一般地,如果T 由有限多个或可列无限个元素组成的集合,则称{(),}X t t T ∈为离散时间(或离散参数)的随机过程,例2.1是离散时间的随机过程,当T 为有限集时,{(),}X t t T ∈就是概率论中多维随机变量;如果T 是一区间,则称{(),}X t t T ∈为连续时间(或连续参数)的随机过程,例2.2, 例2.3 和例2.4都是连续时间的随机过程.从数学的角度看,随机过程{(),}X t t T ∈是定义在T R ⨯上的二元函数,对固定的t ,(,)X t ω是(,ΩF ,P )上的随机变量,随机变量()X t 所取的值称为随机过程在时刻t 所处的状态(state ),随机过程{(),}X t t T ∈所有随机变量的全体称为随机过程的状态空间(state space ),记为I ;对固定ω,(,)X t ω是定义在T 上的函数,称为随机过程{(),}X t t T ∈的一个样本函数(sample function )或轨道(orbit ),样本函数的全体称为样本函数空间.在例2.1中,{1,2,3,4,5,6}I =;在例2.2中,{0,1,2,}I = ;在例2.3中,(,)I =-∞+∞,在例2.4中[0,)I =+∞.不难看出,在上述例子中,把状态空间作适当扩大,仅仅是为了数学上处理的方便,如果I 是由有限个或可列无限个元素组成的集合,则称{(),}X t t T ∈为离散状态的随机过程,例2.1和例2.2都是离散状态的随机过程;如果I 是一个区间,则称{(),}X t t T ∈为连续状态的随机过程,例2.3和例2.4都是连续状态的随机过程.现将这一分类列表如下:表2-1随机过程的分类随机过程的分类,除了按照参数集和状态集是否可列外,还可以进一步根据过程之间的概率关系进行分类,如独立增量过程、Poisson 过程、Markov 过程、平稳过程、鞅过程等.2.2 随机过程的分布概率论基本内容之一是研究随机变量的分布,随机变量的分布刻画了随机变量的统计规律,分布的表现形式是分布函数(或离散型随机变量的概率函数,或连续型随机变量的概率密度).我们知道,随机过程{(),}X t t T ∈由一簇随机变量组成,当参数集T 为有限集时,随机过程{(),}X t t T ∈由有限个随机变量组成,它本质上与概率论中的多维随机变量相同,可以用多维随机变量的分布函数(或概率函数,或密度函数)来表示随机过程{(),}X t t T ∈的分布;当T 为无限集时,也可以借助有限个随机变量的联合分布来刻画随机过程{(),}X t t T ∈的分布.对于任意一个t T ∈, ()X t 是一维随机变量,其分布函数为(;){()},F x t P X t x x R =≤∈称(;)F x t 为随机过程{(),}X t t T ∈的一维分布函数,显然,对于不同的t ,()X t 是不同的随机变量,因此,(;)F x t 一般也不同,全体一维分布函数组成的集合{(;),:}F x t x R t T ∈∈ F 1称为随机过程{(),}X t t T ∈的一维分布函数簇.对于任意两个12,t t T ∈, ()12(),()X t X t 是二维随机变量,其分布函数为{}21212112212(,;,)(),(),(,)F x x t t P X t x X t x x x R ≤≤∈称1212(,;,)F x x t t 为随机过程{(),}X t t T ∈的二维分布函数,显然,对于不同的12,t t ,()12(),()X t X t 是不同的随机变量,因此,1212(,;,)F x x t t 一般也不同,全体二维分布函数组成的集合212121212{(,;,),(,):,}F x x t t x x R t t T ∈∈ F 2称为随机过程{(),}X t t T ∈的二维分布函数簇.一般地,对于任意n 个12,,,n t t t T ∈ , ()12(),(),,()n X t X t X t ⋅⋅⋅是n 维随机变量,其分布函数为{}121211(,...;,,,)(),,(),n n n n F x x x t t t P X t x X t x ≤⋅⋅⋅≤ 1(,,)n n x x R ⋅⋅⋅∈称11(,,;,,)n n F x x t t 为随机过程{(),}X t t T ∈的n 维分布函数,显然,对于不同的12,,,n t t t ,()1(),,()n X t X t ⋅⋅⋅是不同的随机变量,因此,11(,,;,,)n n F x x t t 一般也不同,全体n 维分布函数组成的集合1111{(,,;,,),(,,):,,}n n n n n F x x t t x x R t t T ⋅⋅⋅⋅⋅⋅⋅⋅⋅∈⋅⋅⋅∈ F n 称为随机过程{(),}X t t T ∈的n 维分布函数簇.定义2.2 {(),}X t t T ∈全体一维分布函数簇F 1、二维分布函数簇F 2⋅⋅⋅的并集F 1n n F ∞== 11111{(,,;,,),(,,):,,,1}n n n n n n F x x t t x x R t t T n ∞=∈⋅⋅⋅∈≥称为随机过程{(),}X t t T ∈的有限维分布函数簇.如果随机过程{(),}X t t T ∈是一个连续状态的随机过程,对于任意,()t T X t ∈通常是连续型随机变量,其密度函数为(;)f x t .称(;)f x t 为随机过程{(),}X t t T ∈的一维密度函数,全体一维密度函数组成的集合称为随机过程{(),}X t t T ∈的一维密度函数簇;一般地,称()1(),,()n X t X t 的密度函数11(,,;,,)n n f x x t t 为随机过程{(),}X t t T ∈的n 维密度函数,全体n 维密度函数组成的集合称为随机过程{(),}X t t T ∈的n 维密度函数簇. 随机过程{(),}X t t T ∈一维密度函数簇、二维密度函数簇 的并集111{(,,;,,:,,,1)}n n n f x x t t t t T n ∈≥ 称为随机过程{(),}X t t T ∈的有限维密度函数簇.类似可以得到离散状态随机过程{(),}X t t T ∈的有限维概率函数簇.随机过程{(),}X t t T ∈有限维分布函数簇、有限维密度函数簇、有限维概率函数簇统称为随机过程{(),}X t t T ∈的有限维分布簇.随机过程{(),}X t t T ∈有限维分布函数簇满足如下两条性质:(1)(对称性) 设12,,,n i i i 为1,2,,n 的任意排列,12,,,n t t t T ∀∈ ,则1111(,,;,,)(,,;,,)n n n n i i i i F x x t t F x x t t =(2)(相容性 consistent )设121,,,,,,,m m n m n t t t t t T +<∀∈ ,则1111(,,,,;,,)(,,;,,)m n m m F x x t t F x x t t ∞∞=反之,对于给定的满足对称性和相容性的分布函数簇,是否存在一个以它作为其有限维分布函数簇随机过程?Kolmogorov 在1931年证明了下述定理肯定地回答了.定理2.1 (Kolmogorov 存在定理)设已知参数集T 满足对称性和相容性的分布函数簇F ,则必存在一概率空间(,ΩF ,P )及定义在上的随机过程{(),}X t t T ∈,它的有限维分布函数簇是F .下面举例说明求随机过程的一维、二维分布.例2.4 设随机过程(),0X t tV t =≥,V 为随机变量,概率函数为{1}0.4,P V =-= {1}0.6P V == 求随机过程()X t 的一维分布函数();12F x 与(;2)F x 及二维分布函数()12,;12,2F x x解 当12t =时,(12)2X V =是离散型随机变量;当2t =时,(2)2X V =是离散型随机变量,它们的概率函数分别为分布函数分别为 0,121;0.4,121221,12x F x x x <-⎧⎪⎛⎫=-≤<⎨ ⎪⎝⎭⎪≥⎩ 和 0,2(;2)0.4,221,2x F x x x <-⎧⎪=-≤<⎨⎪≥⎩当1212,2t t ==时,()()(12),(2)2,2X X V V =是二维离散型随机变量,它的概率函数为因此,()(12),(2)X X 分布函数为 (){}1212,;12,2(12),(2)F x x P X x X x =≤≤=121212121220,0.4,12122,12221,122x x x x x x x x <-<-⎧⎪-≤<≥-≥--≤<⎨⎪≥≥⎩或且且且2.3 随机过程的数字特征定义2.3 随机过程{(),}X t t T ∈,如果对于任意,()t T EX t ∈存在,称()(),X m t EX t t T =∈ (2.1)为随机过程{(),}X t t T ∈的均值函数(expectation function ),简记()m t .定义 2.4 随机过程{(),X t t T ∈,如果对于任意,,s t T ∈ [()()][()()]E X s m s X t m t --存在,称(,)[()()][()()],X C s t E X s m s X t m t -- ,s t T ∈ (2.2)为{(),}X t t T ∈的自协方差函数(self covariance - function ),简称协方差函数,简记(,)C s t ;称 (,)[()()],X R s t E X s X t ,s t T ∈ (2.3) 为随机过程{(),}X t t T ∈的自相关函数(self correlation - function ),简称相关函数,简记为(,)R s t .自协方差函数(,)C s t 是随机过程{(),}X t t T ∈本身在不同时刻状态之间线性关系程度的一种描述,特别地,当s t =时,称为随机过程{(),}X t t T ∈的方差函数(variance function ).2()(,)[()()],X X D t C t t E X t m t t T =-∈ (2.4)由Schwarz 不等式知,随机过程{(),}X t t T ∈的协方差函数和相关函数一定存在,且有下面的关系式(,)(,)()()X X X X C s t R s t m s m t =-.特别地,当均值函数()0X m t ≡时,(,)(,)X X C s t R s t =.从定义可以知道,均值函数()m t 是反映随机过程{(),}X t t T ∈在时刻t 的平均值; 方差函数()X D t 是反映随机过程{(),}X t t T ∈在时刻t 对均值函数()m t 的偏离程度,而协方差函数(,)C s t 和相关函数(,)R s t 反映的是随机过程{(),}X t t T ∈在时刻s 和t 的线性相关程度.例2.5 设随机过程()cos()sin(),0X t Y t Z t t θθ=+>,其中,Y Z 是相互独立的随机变量,且20,EY EZ DY DZ σ====,求{(),0}X t t >的均值函数()m t 和协方差函数(,)C s t .解 由数学期望的性质()[cos()sin()]cos()sin()0EX t E Y t Z t t EY t EZ θθθθ=+=+=又由,Y Z 的相互独立,因此(,)(,)[()()]X X C s t R s t E X s X t ==[cos()sin()][cos()sin()]E Y s Z s Y t Z t θθθθ=++222cos()cos()sin()sin()cos[()]s t EY s t EZ t s θθθθσθ=+=-类似可以定义两个随机过程的互协方差函数和互相关函数.定义2.5 设随机过程{(),}X t t T ∈,{(),}Y t t T ∈,称(,)[()()][()()],,XY X Y C s t E X s m s Y t m t s t T --∈ (2.5)为{(),}X t t T ∈与{(),}Y t t T ∈的互协方差函数(mutual covariance function ),称(,)[()()],,XY R s t E X s Y t s t T ∈ (2.6)为{(),}X t t T ∈与{(),}Y t t T ∈的互相关函数(mutual correlation function ).如果对任意,s t T ∈,有(,)0XY C s t =,则称{(),}X t t T ∈与{(),}Y t t T ∈互不相关.显然有(,)(,)()()XY XY X Y C s t R s t m s m t =- (2.7)例 2.6 设(),Z t X Yt t R =+∈,若已知二维随机变量(,)X Y 的协方差矩阵为2122σρρσ⎛⎫ ⎪⎝⎭,求()Z t 的协方差函数. 解 由数学期望的性质121122(,){[()()][()()]}Z X Y X Y C t t E X Yt m m t X Yt m m t =+-++-+1122{[()()][(()]}X Y X Y E X m Yt m t X m Yt m t =-+--+-2[()()][()()]X X X Y E X m X m E X m t Y m =--+--112[()()][()()]Y X Y Y E t Y m X m E t t Y m Y m +--+--222112112122()XY XY XX YY C t C t C t t C t t t t σρσ=+++=+++例 2.7 设两个随机过程()sin()X t A t ωθ=+与()sin()Y t A t ωθϕ=+-,其中,,,A B ωϕ为常量ϕ为[0,2]π上的均匀分布的随机变量,求12(,)XY R t t .解 设12t t <,则212121201(,)[()()]sin()sin()2XY R t t E X t Y t A t B t d πωθωθϕθπ==++-⎰ 211211210sin(){sin()cos[()]cos()sin[()]}2AB t t t t t t t d πωθωθωϕωθωϕθπ=++--++--⎰222110{cos[()]()2AB t t sin t d πωϕωθθπ=--+⎰ 221110sin[()]sin()cos()}t t t t d πωϕωθωθθ+--++⎰ 21cos[()]2AB t t ωϕ=-- 例 2.8 设()X t 为信号过程,()Y t 为噪音过程,令()()()W t X t Y t =+,则()W t 的均值函数为()()()w X Y m t m t m t =+其相关函数为(,)[()()][()()]w R s t E X s Y s X t Y t =++[()()][()()]E X s X t E X s Y t =+[()()][()()]E Y s X t E Y s Y t ++(,)(,)(,)(,)X XY YX Y R s t R s t R s t R s t =+++上式表明两个随机过程之和的相关函数可以表示为各个随机过程的相关函数之和.特别地,若两个随机过程的均值函数恒为0且互不相关时,有(,)(,)(,)W X Y R s t R s t R s t =+2.4 复值随机过程在工程技术上,常把随机过程表示成复数的形式进行研究更为方便.例如,在许多有关谱函数的运算要用到Fourier 变换,就需要复数形式.定义2.6 设{(),}X t t T ∈,{(),}Y t t T ∈是取值实数的两个随机过程,若对于任意t T ∈, ()()()Z t X t iY t =+其中i =,则称{(),}Z t t T ∈为复随机过程.类似可以定义复随机过程的均值函数、协方差函数、相关函数、方差函数如下: 均值函数: ()[()]()(),Z X Y m t E Z t m t im t t T ==+∈相关函数: 121212(,)()(),,Z R t t E Z t Z t t t T ⎡⎤=∈⎣⎦协方差函数:{}121122(,)[()()][()()]Z Z Z C t t E Z t m t Z t m t =--=121212(,)()(),,Z Z Z R t t m t m t t t T +∈ 方差函数:2()[|()()|](()())(()())(,)Z Z Z Z Z D t E Z t m t E Z t m t Z t m t C t t ⎡⎤=-=--=⎣⎦对于两个随机过程可以定义互相关函数和互协相关函数.互相关函数:12121122(,)[()()]Z Z R t t E Z t Z t =互协相关函数:(){}1212121122111222(,)(),()[()()][()()]Z Z Z Z C t t Cov Z t Z t E Z t m t Z t m t ==--2.5 随机过程的主要类型随机过程可以根据状态空间和参数集离散或连续进行分类,现在我们将根据随机过程的统计特征进一步将随机过程分类,这些常见的随机过程在以后的章节中将作进一步说明,这里只作简单介绍如下:2.5.1 二阶矩过程(two order - moment process )定义2.7 设{(),}X t t T ∈是(取值实数或复值)的随机过程,若对于任意t T ∈,都有2[|()|]E X t <∞(二阶矩存在),则称{(),}X t t T ∈是二阶矩过程二阶矩过程{(),}X t t T ∈的均值函数()()X m t EX t =一定存在,一般假定()0X m t =,这时,协方差函数化为(,)[()()],,X C s t E X s X t s t T =∈.二阶矩过程的协方差函数具有以下性质:(1)(Hermite 性)(,)(,),X X C s t C t s = ,s t T ∈(2)(非负定性)对任意i t T ∈及复数,1,2,,,1i i n n α=≥ 有11(,)0n n X i j i j i j Ct t αα==≥∑∑2.5.2正交增量过程(orthogonal incremental process )定义2.8 设{(),}X t t T ∈是零均值的二阶矩过程,若对于任意1234t t t t T <≤<∈,有 2143[()()][()()]0E X t X t X t X t ⎡⎤--=⎣⎦(2.8) 则称{(),}X t t T ∈为正交增量过程.从定义可以看出,正交增量过程的协方差函数可由其方差确定,且()2(,)(,)min(,)X X X C s t R s t s t σ== (2.9)事实上,不妨设[,]T a b =为有限区间,且规定()0X a =,取12340,,t t t s t b ====,则当a s t b <<<时,有()(()()E X s X t X s ⎡⎤-⎣⎦()()()()(()()E X s X a X t X s ⎡⎤=--⎣⎦0= 因此,(,)(,)()()(,)X X X X X C s t R s t m s m t R s t =-= =()()()()()()()E X s X t E X s X t X s X s ⎡⎤⎡⎤=-+⎣⎦⎣⎦ ()2()(()()()()()X E X s X t X s E X s X s s σ⎡⎤⎡⎤=-+=⎣⎦⎣⎦ 同理,当b s t a >>>时,2(,)(,)()X X X C s t R s t t σ==于是 ()2(,)(,)min(,)X X X C s t R s t s t σ== 2.5.3 独立平稳增量过程(independent stationary incremental process ) 定义2.9 给定随机序列{,1}n X n ≥,如果随机变量12,,X X 相互独立,那么随机序列{,1}n X n ≥为独立过程(或独立随机序列).在例2.1中,如果骰子每次出现的点数是相互独立的,那么得到一个独立随机过程.值得注意的是,就物理意义来说,连续参数独立过程是不存在的,因为,当1t 和2t 很接近时,我们完全有理由说1()X t 和2()X t 有一定的依赖关系,因此,连续参数独立过程只是理想化的随机过程.定义2.10 设随机过程{(),}X t t T ∈,若对任意正整数n 和12n t t t T <<<∈ ,随机变量21321()(),()(),,()()n n X t X t X t X t X t X t ----相互独立,则称随机过程{(),}X t t T ∈为独立增量过程.同独立过程一样,独立增量过程中的参数集T 可以是离散的,也可以是连续的.独立增量过程的直观含义是:随机过程{(),}X t t T ∈在各个不相重叠的时间间隔上状态的增量是相互独立的.在实际应用中,某服务系统在某时间间隔的“顾客”数,电话传呼站的“电话”次数等都可用这种过程来描述.正交增量过程与独立增量过程都是根据不相重叠的时间间隔上增量的统计相依性来定义的,前者增量是不相关,后者增量是独立的.显然,正交增量过程不一定是独立增量过程;而独立增量过程只有在二阶矩存在,且均值为零的条件下才是正交增量过程.定理2.2 设二阶矩过程{(),}X t t T ∈是独立增量过程,若[,),()0T a X a =+∞=,则{(),}X t t T ∈的协方差函数为()2(,)min{,},,X X C s t s t s t a σ=≥. 证明 假设s t <,由()()(),()()()X s X s X a X t X t X a =-=-相互独立性, ()()(,)(),()(),[()()()]X C s t Cov X s X t Cov X s X t X s X s ==-+()()(),()()(),()Cov X s X t X s Cov X s X s =-+2()()X DX s s σ==定义2.11 设随机过程{(),}X t t T ∈,对于任意,,,s t T s t T ττ∈++∈,增量()()X s X s τ+-与()()X t X t τ+-服从相同的分布,则称{(),}X t t T ∈为平稳增量过程.平稳增量过程的直观含义是:随机过程{(),}X t t T ∈在时间间隔(,]t t τ+上状态的增量()()X t X t τ+-仅仅依赖终点和起点的时间差τ,与时间起点无关.如果一个独立增量过程同时又是平稳增量过程,则称它为平稳独立增量过程.平稳独立增量过程是一种很重要的随机过程,后面将反复提到.定理2.3 设随机序列{,0}n X n ≥,且00X =(1){,0}n X n ≥是独立增量过程的充要条件是n X 可以表示为独立随机变量序列的部分和(1)n ≥;(2){,0}n X n ≥是平稳独立增量过程的充要条件是n X 可以表示为独立同分布随机变量序列的部分和(1)n ≥.证明 充分性由定义直接得到,下面证明必要性.令随机变量 1,1n n n U X X n -=-≥,则1,1nn ii X U n ==≥ (1){,0}n X n ≥是独立增量随机过程,对任意n ,增量12,,,n U U U 相互独立,因此,12,,U U 是独立随机变量序列;(2){,0}n X n ≥是平稳独立增量过程时,对任意,m n ,增量,m n U U 同分布,因此,12,,U U 是独立同分布随机变量序列.2.5.4 维纳过程(W i e n e r process )在概率论中我们都知道,正态分布是一种十分重要的分布,正态过程在随机过程中的地位类似于正态随机变量在概率论中的地位,尤其在电讯技术中,正态过程有着十分广泛的应用.定义2.12 设随机过程{(),}X t t T ∈,对任意正整数n 和12,,,,n t t t T ∈()12(),(),,()n X t X t X t 是n 维正态分布,即有密度函数2121211()exp ()()(2)||2n f x x B x B μμπ-⎧⎫=---⎨⎬⎩⎭其中()1212(,,,),(),(),,()T T n n x x x x EX t EX t EX t μ== ,()ij n n B b ⨯=为正定矩阵,{[()()][()()]}ij i i j j b E X t EX t X t EX t =--.则称{(),}X t t T ∈为正态过程或Gauss 过程.19世纪英国植物学家布朗(Brown )发现,浸在水中的微小花粉粒子,受到作不规则运动的水分子的随机碰撞在水面上做不规则的运动,后来,人们把这种运动称为布朗运动.爱因斯坦(Einstein )于1905年第一次给出它的物理解释.1918年,控制论创始人维纳(Wiener )首先对这个随机过程进行了严格的数学论证,奠定了研究这类随机过程的基础.定义2.13 设随机过程{(),}X t t T ∈满足下列条件:(1)(0)0X =;(2)()X t 是独立增量过程;(3)对任意0s t ≤<,增量()2()()0,()X t X s N t s σ-⋅- ,其中,常数20σ>,则称随机过程{(),}X t t T ∈为参数为2σ的Wiener 过程.从定义可以看出,Wiener 过程的参数集[0,)T =∞,状态空间(,)I =-∞+∞,而且Wiener 过程也是平稳增量过程,因此,Wiener 过程是平稳独立增量过程,另外,当s t ≥时,2()()(0,||)X t X s N t s σ-- 依然成立,特别地,当21σ=时,随机过程{(),}X t t T ∈为标准Wiener 过程.定理2.4设随机过程{(),}X t t T ∈为参数为2σ的Wiener 过程.则(1) Wiener 过程是一个正态过程;(2) 22()0,()X X m t t t σσ==; 0t > 且 2121212(,)(,)min(,),X X R t t C t t t t σ==⋅ 12,0t t ≥ (2.10)证明:(2)()()[()(0)]0X m t EX t E X t X ==-=当12t t <时,1212(,)[()()]X R t t E X t X t =1211[()(0)][()()()(0)]E X t X X t X t X t X =--+-21211[()(0)][()()][()(0)]E X t X X t X t E X t X =--+-21t σ=当12t t >时,同样可以得到2122(,)X R t t t σ=因此 21212(,)min(,)X R t t t t σ=例 2.9 设随机过程{(),}X t t T ∈为参数为4的Wiener 过程,定义随机过程()2(3),0Y t X t t =>,则有()Y t 的均值函数为: ()()2(3)0Y m t EY t EX t ===;()Y t 的相关函数为:121212(,)()()4(3)(Y R t t EY t Y t EX t X t ==12121644min(3,min(,)3t t t t =⨯= 2.5.5 泊松过程(Poisson process )在现实世界中有很多例子,例如:盖格记数器上的粒子数,二次大战时,伦敦空袭的弹着点,电话总机所接听的呼唤次数,交通流中事故数,某地区地震发生次数等.这类过程有如下两个性质:一是时间和空间上的均匀性,二是未来的变化与过去的变化没有关系,为了描述这类过程的特性,我们来建立Poisson 过程的模型.定义2.14 给定随机过程{(),0}N t t ≥,如果()N t 表示时间段[0,]t 出现的质点数,状态空间{0,1,2,}I = ,且满足(1)(0)0N =;(2)当s t <时,()()N s N t ≤, 则称{(),0}N t t ≥为记数过程(counting process ).记数过程的样本函数是单调不减的右连续函数(阶梯函数),当跳跃度为1时,称为简单记数过程.简单记数过程表示同一时刻至多出现一个的记数过程.记数的对象不仅仅是电话呼叫次数、来到商店的顾客数,也可表示质点流. 记数过程是时间连续状态离散的随机过程.定义2.15 设随机过程{(),0}N t t ≥是记数过程,如果()N t 满足条件:(1)(0)0N =;(2)()N t 是独立增量过程;(3)对任意0a ≥,0t >,区间(,]a a t +(0a =是应理解为[0,]t )上的增量()()N a t N a +-服从参数为t λ的Poisson 分布,即(){()()},0,1,2,!kt t P N a t N a k e k k λλ-+-=== (2.11) 则,称{(),0}N t t ≥为参数为λ的泊松过程(Poisson process ).0λ>条件(3)表明,()()N a t N a +-的分布只依赖时间t 而与时间起点a 无关,因此,Poisson 过程具有平稳增量性,当0a =时,(){()},0,1,2,,0!kt t P N t k e k k λλλ-===> 因此,Poisson 过程的均值函数为()()N m t EN t t λ==,它表明在时间段[0,]t 出现的平均次数为t λ,λ称为Poisson 过程的强度. 因此,Poisson 过程表明前后时间的独立性和时间上的均匀性,强度λ描述了随机时间发生的频率.有关Poisson 过程的更多结果,后面将进一步论述.2.5.6 马尔可夫过程(Markov process )定义 2.16 设随机过程{(),}X t t T ∈,对于任意正整数n 及12,n t t t <<< 1111{(),,()}0n n P X t x X t x --==> ,且条件分布1111{()|(),,()}n n n n P X t x X t x X t x --≤== 11{()|()}0n n n n P X t x X t x --=≤=> 则称{(),}X t t T ∈为马尔可夫过程(Markov process ).定义中给出的性质称为马尔可夫性,或称无后效性,它表明若已知系统“现在”的状态,则系统“未来”所处状态的概率规律性就已确定,而不管系统“过去”的状态如何.也就是说,系统在现在所处状态的条件下,它将来的状态与过去的状态无关.Markov 过程{(),}X t t T ∈的状态空间和参数集可以是连续的,也可以是离散的.有关Markov 过程的进一步讨论,我们将在第四章进行.2. 5.7 鞅过程(martingale process )最近几十年才迅速发展起来的现代鞅(过程)论是概率论的一个重要分支,它给随机过程论、随机微分方程等提供了基本工具.定义2.17 设参数集{0,1,2,}T = ,如果随机序列{(),0}X n n ≥对任意0,n ≥,且|()|E X n <∞,若[](1)|(1),(2),,()()E X n X X X n X n += (2.12)则称{(),0}X n n ≥为离散参数鞅(discrete parameter martingale ).定义 2.15 设参数集[0,)T =∞,如果随机过程{(),}X t t T ∈对任意|()|,E X t t T <∞∈,若[()|(),](),,..E X s X u u t X t s t a s ≤=> (2.13)则称{(),}X t t T ∈为连续参数鞅(continuous parameter martingale ).上式中,如果将“=”换成“≤”或“≥”,则分别称为离散参数(连续参数)上(或下)鞅.鞅是用条件期望来定义的,关于离散时间鞅,我们可以作下面的直观解释:设()X n 表示赌徒在第n 次赌博时的资本,(1)X 表示最初赌本(这是一常数)而()X n (2)n ≥由于赌博的输和赢是一个随机变量,如果赌博是公平的,那么每次他的资本增益的期望为零,在以后的赌博中,他资本的期望值还是他最近一次赌完的资本数()X n ,用数学模型表示,就是定义中的等式,因此,鞅表示一种“公平”的赌博,上鞅和下鞅表示一方赢利的赌博.例 2.8 设{(),0}Y n n ≥相互独立的随机变量序列,(0)0,Y = 且|()|,E Y n <∞ ()0,0EY n n =≥,令1(0)0,()(),1ni X X n Y i n ===≥∑,则{(),0}X n n ≥是鞅.证明 因为11|()||()||()|n ni i E X n E Y i Y i ===≤<∞∑∑,且[(1)|(0),(1),,()][()(1)|(0),(1),,()]E X n X X X n E X n Y n X X X n +=++[()|(0),(1),,()][(1)|(0),(1),,()]E X n X X X n E Y n X X X n =++()[(1)]()X n E Y n X n =++=定理2.5 设{(),0}X t t ≥是Wiener 过程,则它是鞅.证明:对于任意0s t <<,由独立增量性得 [()()|()][()()]0E X t X s X s E X t X s -=-=因此,对于任意参数01,,,,n t t t t ,01(0)n t t t t =<<<< 有[()|(),0][()()()|(),0]i n n i E X t X t i n E X t X t X t X t i n ≤≤=-+≤≤[()()]()()n n n E X t X t X t X t =-+=习 题 二2.1 设随机变量Y 具有概率密度()f y ,令(),(0,0)Yt X t e t Y -=>>,求随机过程()X t 的一维概率密度及12(),(,)X EX t R t t .2.2 设随机过程()cos()sin()X t A t B t ωω=+,其中ω为常数,,A B 是相互独立且服从正态2(0,)N σ的随机变量,求随机过程的均值和相关函数.2.3 随机过程()X t 的均值函数()X m t 和协方差函数12(,),()X C t t t ϕ为普通函数,令()()()Y t X t t ϕ=+,求随机过程()Y t 的均值和相关函数.2.4 设随机过程2()X t X Yt Zt =++,其中,,X Y Z 是相互独立的随机变量,且均值为0,方差为1,求随机过程()X t 的协方差函数.2.5 设()f t 是一个周期为T 的周期函数,随机变量Y 在(0,)T 上均匀分布,令()()X t f t Y =-,证明:随机过程()X t 满足 01[()()]()()T E X t X t f t f t dt T ττ+=+⎰ 2.6 设随机过程()X t 和()Y t 的互协方差函数为12(,)XY C t t ,证明1212|(,)|()()XY X Y C t t t t σσ≤2.7 设{(),0}X t t ≥是实正交增量过程,(0)0,X V =是标准正态随机变量,对任意的0t ≥,()X t 与V 相互独立,令()()Y t X t V =+,求随机过程{(),0}Y t t ≥的协方差函数.2.8 设,Y Z 是独立同分布随机变量,12{1}{1}P Y P Y ===-=, ()cos()sin(),X t Y t Z t θθ=+t -∞<<∞,其中θ为常数,证明:随机过程()X t 是广义平稳过程,但不是严平稳过程.。
第二章随机过程的基本概念§1随机过程及其概率分布、随机过程概念:一、随机过程概念:初等概率论所研究的随机现象,基本上可以用随机变量或随机向量来描述.但在实际中有些随机现象要涉及(可列或非可列)无穷多个随机变量.例1.某人扔一枚硬币,无限制的重复地扔下去,要表示无限多次扔的结果,我们不妨记正面为1,反面为0.第次扔的结果是一个,其分布,无限多次扔n n r vX ⋅{}{}1012n nP X P X ====,无限制的重复地扔,要表示无限多次扔的结果,我们不妨反面为其分布无限多次扔的结果是一个随机过程,可用一族相互独立,,或表示.r v ⋅1X ,2X {},1nX n ≥nnX 0nn0 1 2 3 4 5 6 7 8 910……例2.当固定时,电话交换站在时间内来到的呼叫次数是,记,,其中是单位时间内平均来到的呼叫次数,而,若从变到,时刻来到的呼叫次数需用一族随机变量表它为非降的阶,在有呼唤来到的时刻阶跃地增加,假定在任一呼唤来到的时刻不可能来到多)(0)t t ≥[0,]t r v ⋅()X t ()()X t P t λ λ0λ>t 0∞t {}(),[0,)X t t ∈∞()X t ,电话交换站在记,若时刻示,是一个随机过程. 对电话交换站作一次观察可得到一条表示以前来到的呼唤曲线,它为非降的阶梯曲线,在有呼唤来到的时刻阶跃地增加,(假定在任一呼唤来到的时刻不可能来到多于一次呼唤).E t 1()x t同理,第二次观察,得到另一条阶梯形曲线;同理,第n 次观察,得到另一条阶梯形曲线.2()x t ()n x t ,第二次观察,得到另一条阶梯形曲,第,得到另一条阶梯形曲 总之,一次试验得到阶梯形曲线形状具有随机性1()X t ()X t图……0 02()X t()nX tt 0t2图2在例1中每一张点图和例2中每一条阶梯形曲线,称作一个样本函数或一条样本曲线.样本函数表示一次结果的函数.对随机过程进(无限多个)随机变量;另,它是某种,而试验出现的E E ,称作一个样本函数或一条样本曲线行一次观察,出现样本函数是随机的.即随机过程是一族(无限多个)随机变量;另一方面,它是某种的结果,而试验出现的样本函数是随机的.E例3.热噪声电压.电子元件或器件由于内部微观粒子(如电子)的随机热运动所引起的端电压,称为热噪声电压.以电阻之热噪声电压为例.以表示热噪声电压.引进第次长时间测量得一条电压-时间曲线:固定考察,第而因此,{}(),[0,)X t t ∈∞i (如电子)的随机热运动所引起的,称为热噪声电压,一次得到的样本曲线是随机的. 理解:固定,考察在数值,第次值为.显然为一个.于是固定时热噪声电压是一个,而变化时是一族,因此,是一个随机过程.() (1,2,,,)i x t i n = E 0t t =()X t ()X t ()X t 0t i 0() (1,2,,,)i x t i n = 0()X t r v ⋅r v ⋅t t {}(),(0,)X t t ∈+∞r v ⋅()X t 1()X t 0……2()X t ()n X t 0t 图3例4.英国植物学家Brown 发现液体表面的花粉微粒做无规则的运动,后来就称为Brown 运动.这种运动的起因是花粉受到液体分子的碰撞,这种碰撞每秒钟多达次,这些微小2110,后来就称为,这种碰撞每秒钟多达,这些微小碰撞力的总和使花粉微粒做随机运动.我们用表示时刻花粉微粒的位置,这是二维随机向量.我们得到.()(),X t Y t ()()()(){},,0,X t Y t t ∈∞t设是一个概率空间,是一个实数集.是对应于和的函数,即为定义在和上的二元函数,若此函数对任意固定的,是上,则称是随机过程.,在,它是一个称之为过,它,称为随机过程的样本函数或样,亦称之为现实(曲线)(,,)F P Ω(,,)F P ΩTT Ωt T ∈(t,)X ω{}(,),,X t t T ωω∈∈Ω{}(,),,X t t T ωω∈∈Ωt ωr v ⋅定义:,是一个实数,若此函数对任意随机过程在时刻状态或截口:为一随机过程,在固定时,它是一个,称之为过程在时刻的状态或截口.若固定,它是的函数,称为随机过程的样本函数或样本曲线,亦称之为现实(曲线).(,)X t ω(,)X t ωt t t ωr v ⋅tRemark :①上述定义中样本空间通常可理解为样本函数的全体,而每一条样本曲线作为一个基本事件;例3:样本曲线作为改写为;全体样本函数ΩΩΩ()i x t ω(1,2,,,)i i n ω= (,)i X t ω{}()x t {}(,)X t ω①上述定义中样本空间,而每一条样本曲线作例样本曲线全体样本函数构成样本空间,即全体构成样本空间当时,即为i ωω=X(,)i t ω(),i 1,2i x t =②随机过程可简记为,通常并不指出概率空间.此时样本函数用表示,第次得到的样本函数为.定,且,记为{}(),X t t T ∈Ω()x t i () (1,2,,,)ix t i n = ()X t t 通常并不指, 随机过程状态空间或值域:随机变量(固)的所有可能取的值构成一个实数集,称之为过程的状态空间或值域,记为;而每一个可能值称为一个状态().()X t t T ∈r v ⋅E随机过程的各个状态:(可能取的各个数值).例1状态空间由与二数构成;例3噪声电压的状态空间.随机过程的分类(根据及为可列集或非可列集) (1)离散参数,离散状态的随机过程:离散参数,连续状态的随机过程:连续参数,离散状态的随机过程连续参数,连续状态的随机过程() ()X t t T ∈01(,)-∞+∞T E :可能取的各个数);例离散参数,离散状态的随机过程:(2)离散参数,连续状态的随机过程:(3)连续参数,离散状态的随机过程. (4)连续参数,连续状态的随机过程二、有限维分布族: 对于任意的,称为随机过程的维分布函数.,二维分布函,,等等的全体12,,,n t t t T ∈ {}121211(,,,;,,,)(),,()n n n n F x x x t t t P X t x X t x =≤≤ ()X t n n ()X t 、有限维分布族:定义: 定义随机过程的维分布密度随机过程一维分布函数,二维分布函数,,维分布函数,等等的全体称为过程的有限维分布族.n ()X t 12121112(,,,;,,,)(,,;,,)nn n n n nf x x x t t t F x x t t x x x ∂=∂∂∂ ()X t 1121{(,,;,,,):,,,1}n n n F x x t t t t t T n ∈≥有限维分布函数族性质: (1).对称性:对的任意一种排列有1,2,,n 12,,n j j j 111212(,,,;,,,)(,,;,,)n n n n j j j j F x x x t t t F x x t t = :(2).相容性:对,有:m n <112(,,;,,,)m m F x x t t t 112(,,,,,;,,,)m n F x x t t t =+∞+∞利用随机过程的统计特性(有限维分布族和数字特征)进行分类,主要有两类随机过程:平稳过程与马尔可夫过程.下面我们介绍随机过程中的一个重要定理:,则必存在概率空间使T :平:Theorem (Kolmogorov )若给定参数集及分布函数族满足相容性条件,则必存在概率空间及定义于其上的随机过程,使的有限维分布函数族与上述给定的分布函数族是重合的.11{(,,;,,):n n F x x t t 11,,,}n n t t T ∀≥∈ (,,)P ΩF {(),}X t t T ∈()X t§2.随机过程的数字特征一、数学期望和方差 在每一时刻是一个,其期望和方差都是依赖于参数的函数.{(),}Xtt T ∈t T ∈r v ⋅t ()()(,),X m t E X t xdF x t t T +∞-∞==∈⎰、数学期望和方差均值(函数):其中是过程的一维分布函数. 表示随机过程的样本函数在时的状态的统计平均值,是一条固定曲线.(;)F x t ()X m t t ()X m t(a )(b )()Xt ()X t t t()x m t ()x m t 图5方差(函数)标准差它们描绘它的样本曲线在各个时刻2()(())[()()],X X D t D X t E X t m t t T==-∈()()()X X t D t DX t ==对的分散程度均方值(函数) 易知t ()X m t 2()()X t EX t ψ=22()()()X D X t EX t m t =-2()()X X t m t =ψ-二、随机过程的协方差函数和相关函数 随机过程的(自)协方差函数(的协方差)()X t 12()()X t X t 与1212(,)cov((),())X C t t X t X t =1122[()()][()()]X X E X t m t X t m t =--、随机过程的协方差函数和相关函数 协方差函数还可表示为:随机过程的(自)相关函数121212(,)[()()]()()X C t t E X t X t EX t EX t =-1212(,)[()()]X R t t E X t X t =例1.随机相位正弦波其中是正常数,而,求期望、方差和相关函数.例2.设随机过程,其中0()cos()X t a t t ω=+Φ-∞<<+∞0,x ω.[0,2]r v U π⋅Φ ()X t 2(),X t X Y t Zt t =++-∞<<+∞,,X Y Z 求、相互独立,各自期望为0,方差为1,求协方差函数.例3.给定一个随机过程和常数,用的相关函数表示随机过程的相关函数.()X t a ()X t ()()()Y t X t a X t =+-三.正态随机过程(高斯过程) 定义设或,称随机过程为正态随机过程,如果对任意正整数及,是维正态向量.维密度函数:[0,)T =+∞(),t T X t ∈n 1,n t t T ∈ ()()1(),X nX t t n 11(n⎧'⎬n (,)T =-∞+∞(高斯过程)称随机过程,如果对任意正整数:其中()111221e ,xp )()2(2)|C |;,X n n X fx x t x m C t x m -⎫⋅---⎭=⎨⎩ ()()1212,,,,(),(),()n X X X X n x x x x m m t m t m t == ()111212122212(,)(,)(,)(,)(,)(,),0(,)(,),X X X n X X X n X n X n X n n C t t C t t C t t C t t C t t C t t C C C t t C t t C t t ⎛⎫ ⎪ ⎪=≠ ⎪ ⎪ ⎪⎝⎭性质:正态随机过程的有限维分布密度完全的由其期望和协方差函数所确定.定理是高斯过程的充要条件是它的任意有限个元的任意线性组合都是一个一维正态随机变量或常数.(),t T i i X t ∈()1(),X nX t t四、二阶矩过程(second moments processes ) 若随机过程的一、二阶矩存在,即则称{(),}X t t T ∈()()2()E X t E x t <+∞<+∞、二阶矩过程、二阶矩存在,即是二阶矩过程.二阶矩过程的协方差函数,相关函数总是存在的.高斯过程是二阶矩过程.()X t ()12,X C t t 12(,t )X R t随机过程的相关理论:从二阶矩过程数学期望和相关函数出发讨论随机过程的性质,而允许不涉及它的有限维分布.这种理论称之为随机过程的相关理论.五、相关函数的性质:,即:协方差函数、相关函数的性质 两条性质:(1)是对称的,即 (2)相关函数是非负定的,即对任意和任意实数及任意复数有: 注:协方差函数也满足上述性质.12(,)X R t t 1221(,)(,)X X R t t R t t =12(,)X R t t 1n ≥12,,,nT τττ∈ 1,,n z z 11(,)0n n j X k j k k j R z z ττ==≥∑∑()12,X C t t§3复(值)随机过程从实值随机过程到复值随机过程,是数学上的推广,在工程上亦有必要.复随机过程:若是实随机过程,则(),()()X t Y t t T ∈()()(),Z t X t iY t t T =+∈称为复随机过程.复随机过程概率分布:可用二维随机过程的所有维分布函数或分布密度给出.期望: (自)协方差函数:()Z t ((),())T X t Y t m n +()()()(),Z m t EZ t EX t iEY t t T==+∈12112212(,)[(()())(()())], ,Z Z Z C t t E Z t m t Z t m t t t T =--∈(自)相关函数定义:注意与实随机过程协方差和相关函数定义不同(取共轭)121212(,)[()()],,Z R t t E Z t Z t t t T=∈ 方差:非负的实函数.均方值:非负实函数.2()()()(,)Z Z Z D t E Z t m t C t t =-=2()()(,)Z Z t E Z t R t t ψ==易知:121212(,)(,)()()Z Z Z Z C t t R t t m t m t =-Proof:121122(,)[(()())(()())]Z Z Z C t t E Z t m t Z t m t =--1212[()()]()()Z Z E Z t Z t m t m t =-1211(,)()()Z Z Z R t t m t m t =-复二阶矩过程:一阶和二阶矩存在(期望、方差、协方差和相关函数有限)的复随机过程.且期望和相关函数是复二阶矩过程的基本数字特征,协方差与方差均可由它们确定. 两个复随机过程,可定义12(),()()Z t Z t t T ∈、方、协方差和相关函数有限互协方差函数: 互相关函数:12121122(,)c o v ((),())Z Z C t t Z t Z t =1211122212[()()][()()] ,Z Z E Z t m t Z t m t t t T=--∈12121122(,)[()()]Z Z R t t E Z t Z t =Remark: (1)通常仅考虑实随机过程(2).随机过程的微积分和第三章平稳过程亦适用复随机过程. 例.复随机过程其中是正常数,是固定正整数,是实,相互独立,求的期望与相关函数.此例表示个复谐波信号叠加而成的信号,它是复随机过程.0()1(),k Ni t k k Z t A e t ω+Φ==-∞<<+∞∑0ωN k A ,[0,2]kr v U π⋅Φ (1,2,,)kkA k N Φ= 和()Z t ()Z t N§4随机微积分在实际问题中,常涉及到随机过程的导数和积分,这些运算都是极限运算.就我们的目的而言,假定,存在有效的研究,常涉及到随机过程的导数和积分,,假定极限为均方意义下的极限就够了.这是因为一般应有领域所涉及的过程大部分是二阶矩过程,并且均方收敛在数学上比其它收敛简单,存在有效的研究方法.一、均方极限(limit in mean square):定义1.设随机序列,若有:则称22{,1,2,},,n n X n r v X E X E X =⋅<∞<∞和且2l i m 0nn EXX →∞-=均方收敛于,而均方极限记(“ ” limit in mean square)Remark:针对一般数列而言针对随机序列而言n X X n X X 是n n l i m X X →∞⋅⋅=l i m ⋅⋅l i m ⋅⋅lim定理.若,则.即均方极限在概率为1相等的意义下唯一.均方极限性质:,若则,n n n n l i m X X l i m X Y →∞→∞⋅⋅=⋅⋅=且{}1P X Y ==,lim ,lim []n n n n n n n n l i m X X EX EX EX E l i m X →∞→∞→∞→∞⋅⋅===⋅⋅则即则:(1)若即极限与数学期望可交换次序.(2)若则.特别的,若,则.(3)若则对常数有,,m n n n l i m X X l i m Y Y →∞→∞⋅⋅=⋅⋅=EXY Y EX nm n m =∞→∞→lim n n l i m X X →∞⋅⋅=2lim ()m nn n E X X EX →∞→∞=,,n n n n l i m X X l i m Y Y →∞→∞⋅⋅=⋅⋅=,a b ()n n n l i m aX bY aX bY→∞⋅⋅+=+(4)若数列有极限,又是,则(5) .{,1,2,}n a n = lim 0n n a →∞=X r v ⋅()0n n l i m a X →∞⋅⋅=()0nmnn m n l i m X l i m X X →∞→∞→∞⋅⋅⇔⋅⋅-=存在2又Remark:在性质(2)条件下不能得到2,()mn n m n l i m X X l i m X Y XY→∞→∞⋅⋅=⋅⋅=例1:设有二阶矩随机序列和二阶矩变量,且,是普通函数,且满足李普希茨条件:,其中是一正常数,证明:设,令证明{}n X X ()f n ()()f u f v M u v -≤-M ((n n l i m X X →∞⋅⋅=设有二阶矩随机序列,且满足其中,证明 例2:设是独立同分布随机变量序列,,令,证明:))n n l i m fX fX →∞⋅⋅=12,,Y Y211,E Y D Y μσ==11nnii X Y n ==∑n n l i m X μ→∞⋅⋅=二、均方连续性与均方导数本节以后之内容参数集取为连续的,如取. 定义若随机过程,对固定的,有,则称T [)[,],(,),0,a b -∞+∞+∞{(),}X t t T ∈0t T ∈00()()t t l i m X t X t →⋅⋅=、均方连续性与均方导数即则称在处均方连续.若在中每一个处都连续,则称在上均方连续.20lim ()()t t E X t X t →-=()X t 0t ()X t T t ()X t T定理随机过程在上均方连续其相关函数在的所有点上是连续的. 证:事实上需证:在上任一固定点上连续连续.定义在处,下列均方极限,则称此极限为,记为此时,称,则称{(),}X t t T ∈T ⇔12(,)XR t t {(,):}t t t T ∈()X t T 0t 1200(,)(,)X R t t t t ⇔在“{(),}X t t T ∈0t :,下列均方极限存在,则称此极限为在处的均方导数,记为,或,此时,称在处均方可导.若在中的每一点上均方可导,则称在上均方可导.000()()h X t h X t l i m h→+-⋅⋅()X t 0t '0()X t 0()t t dX t dt =()X t 0t ()X t T t ()X t T定理随机过程在处均方可导极限存在,因而在上均方可导上式对所有:,只需证{(),}X t t T ∈t ⇔00(,)(,)(,)(,)lim X X X X h h R t h t h R t h t R t t h R t t h h →'→''++-+-++'⨯(Ⅰ)()X t T ⇔t ,因而均成立.证:上式成立,只需证存在.由均方极限性质(5),只要即⇐0()()h X t h X t l i m h→+-⋅⋅00()()()()[]0h h X t h X t X t h X t l i m h h →'→'+-+-⋅⋅-='()200()()()lim 0h h X t h X t X t h X t E h h →'→'+-+--='亦即,而此极限在,,所以200(,)(,)(;)(,)lim [X X X X h h R t h t h R t h t R t t h R t t h →'→++-+-++2(,)(,)(,)(,)X X X X R t h t h R t h t R t t h R t t h ''''++-+-+++'因为(Ⅰ)极限存在,而此极限在时亦存在,且极限数值不变,所以存在.(,)(,)(,)(,)2]0X X X X R t ht h R t ht R t t h R t t h h ''++-+-++-⨯='h h '=0()()h X t h X t l i m h→+-⋅⋅设在处可导,利用均方极限性质(2),且存在,可得,亦即极限⇒()X t t 0()()h X t h X t l i m h→+-⋅⋅,利用均方极限性质,可得存在,亦即极限存在.00()()()()lim []h h X t h X t X t h X t E h h →'→'+-+-⋅'00(,)(,)(,)(,)lim X X X X h h R t h t h R t h t R t t h R t t h h →'→''++-+-++'性质(其证明只须用均方导数定义和均方极限性质)(1)若过程在处可导,则它在处连续.()X t t tt 均方导数()X t ()X t '(2)的期望是()[()]()()X X dm t E X t EX t m t dt'''===求导记号与数学期望可交换次序.(3)若随机过程的均方导数存在,则,,则()X t ()X t '∂()()()()''()X ,()X ,E X s t R s t s E X s t R s t t ∂⎡⎤=⎣⎦∂∂⎡⎤=⎣⎦∂,则(4)若 (5)若是随机过程,是常数,则22121212121221(,)[()()](,)(,)X X X R t t E X t X t R t t R t t t t t t '∂''===∂∂∂∂,X r v X '⋅=为则(),()X t Y t ,a b [()()]()()aX t bY t aX t bY t '''+=+证:2()()()()()()a X t hb Y t h a X t b Y t E a X t b Y t h+++--''--2()()()()(())(())X t h X t Y t h Y t E a X t b Y t h h+-+-''=-+-2222()()()()()()X t h X t Y t h Y t a E X t b E Y t h h+-+-''≤-+-121222()()()()2()()X t h X t Y t h Y t a b E X tE Y t h h ⎛⎫⎛⎫+-+-''+-⋅- ⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭h →−−−→(6)若是可微函数,是随机过程,则证:()f t ()X t [()()]()()()()f t X t f t X t f t X t '''=+2()()()()()()()()f t h X t h f t X t E f t X t f t X t h++-''--2()()()()()()()()()()()()f t h Xt h f t Xt h f t Xt h f t Xt E f t Xt f t X th++-+++-''=--2()()()()()()()()()f t h f t X t h X t E X t h f t X t f t X t h h +-+-⎡⎤''=+-+-⎢⎥⎣⎦2()()(()0())()()()()()X t h X t E f t h X t h f t X t f t X t h +-⎡⎤'''=++-+-⎢⎥⎣⎦[]2()()()()()0()()()()X t h X t E f t X t h X t h X t h f t X t h +-⎡⎤''=+-+++-⎢⎥⎣⎦22222()()(())()()0()()()()X t h X t E f t X t h X t h E X t h f t E X t h +-⎡⎤''≤+-+++-⎢⎥⎣⎦()1/2221220()()(()())()h f t E X t h X t E X t h '++-⋅+122212()()20()()()(())X t h X t h f t E X t E X t h h ⎛⎫+-'+-+ ⎪ ⎪⎝⎭1222122()()2()()(()())()X t h X t f t f t E X t h X t E X t h ⎛⎫+-'++-- ⎪ ⎪⎝⎭h →−−−→三、均方积分(integration in mean square): 定义设是随机过程,是函数.将区间分成个子区间,分点为,作和式,若均方极限,,则称此极限,记{(),[,]}X t t a b ∈()([,])f t t a b ∈[,]a b n 01n a t t t b =<<<= ∑、均方积分,,分点为作和式其中是子区间中任意一点,.令,若均方极限存在,且与子区间的分法和的取法无关,则称此极限为在上的均方积分,记为.此时也称在区间上是均方可积的.11()()()nkk k k k f uX u t t -=-k u 1[,]k k t t -1,2,,k n = 11max()k k k nt t -≤≤∆=-101()()()n k k k k k l i m f u X u t t -∆→=⋅⋅-∑k u ()()f t X t [,]a b ()()ba f t X t dt ⎰()()f t X t [,]a b定理在区间上均方可积的充分条件是二重积分存在,且有证:利用均方极限性质,亦即()()f t X t ()()(,)b bX a a f s f t R s t dsdt ⎰⎰2()()()()(,).bb bX aa aE f t X t dt f s f t R s t dsdt =⎰⎰⎰[,]a b ()()ba f t X t dt⎰,且有(5),要积分存在,只需证明其中是区间的另一组分点,而,,亦即110110()()()()()()0n mk k k k l l l l k l l i m f u X u t t f v X v s s --∆→=='∆→⎡⎤⋅⋅---=⎢⎥⎣⎦∑∑01m a s s s b =<<<= [,]a b 1l l l s v s -≤≤11max()l l l ms s -≤≤'∆=-211011lim ()()()()()()0n mk k k k l l l l k l E f u X u t t f v X v s s --∆→=='∆→---=∑∑即,左边极限等于110110lim ()()(,)()()n nk j X k j k k j j k j f u f u R u u t t t t --∆→=='∆→⎡--⎢⎣∑∑1111()()(,)()()m ml n X l n l l n n l n f v f v R v v s s s s --==+--∑∑⎤由二重积分定义,左边极限等于充分性获证.11112()()(,)()()0nmk l X k l k k l l k l f u f v R u v t t s s --==---=⎥⎦∑∑()()(,)()()(,)b bb bX X a a a af s f t R s t dsdt f s f t R s t dsdt+⎰⎰⎰⎰2()()(,)0b bX a af s f t R s t dsdt -=⎰⎰因均方积分存在,由均方极限性质(2)有存在,且等于,即110110lim ()()()()()()nmk k k k l l l l k l E f u X u t t f v X v s s --∆→=='∆→⎡⎤--⎢⎥⎣⎦∑∑2()()baE f t X t dt⎰()()baf t X t dt⎰2()()(,)()()b bbX aaaf s f t R s t dsdt Ef t X t dt=⎰⎰⎰。