第三章 随机过程
一. 随机过程的基本概念 1.1 随机过程的定义
设（Ω，F ，P ）为给定的概率空间，T 为一指标集，对于任意t T ∈，都存在定义在(),,P ΩF 上，取值于E 的随机变量()(),X t ωω∈Ω与它相对应，则称依赖于t 的一族随机变量(){},:X t t T ω∈为随机过程，简记(){}t X ω，{}t X 或(){}X t
注：随机过程(){}:,t X t T ωω∈Ω∈是时间参数t 和样本点
ω的二元函数，对于给定的时间0t ，是0(,)X t ω是概率空
间(),,P ΩF 上的随机变量；对于给定样本点0ω∈Ω，
0(,)X t ω是定义在T 上的实函数，此时称它为随机过程
对应于0ω的一个样本函数，也成为样本轨道或实现。
E 称为随机过程的相空间，也成为状态空间，通常用
“t X x =”表示t X 处于状态x
1.2随机过程t X 按照时间和状态是连续还是离散可以
分为四类：连续型随机过程、离散型随机过程、连续型随机序列、离散型随机序列
1.3 有穷维分布函数
设随机过程{}t X ，在任意n 个时刻1,,n t t 的取值
1,,n t t X X 构成n 维随机向量()1,,n
t t X X ，其n 维联合分布
函数为：
()()1
1
,,11,,,,n
n
t t n t t n F x x P X x X x =≤≤
其n 维联合密度函数记为()1
,,1,,n
t t n f x x 。
我们称(){}1
,,11,,:1,,,n
t t n n F x x n t t T ≥∈ 为随机过程
{}t X 的有穷维分布函数。
二.随机过程的数字特征 2.1 数学期望
对于任何一个时间t T ∈，随机过程{}t X 的数学期望定义为
()()t
X t t E X xdF x μ
+∞
-∞
==?
()t E X 是时间t 的函数
2.2 方差与矩
随机过程{}t X 的二阶中心矩
22()[(())],t
X t t t Var X E X E X t T σ==-∈
称为随机过程{}t X 的方差
随机过程{}t X 的二阶原点矩定义为
2
2()()t
t E X x dF x +∞-∞
=?
注：2
()X t σ是时间t 的函数，它描述了随机过程()X t 的诸
样本对于其数学期望t μ的偏移程度
2.3 协方差函数和自相关函数
随机过程{}t X 对于任意12,t t T ∈，其协方差函数定义为
12112212(,)(,)[(())(())]X t t t t t t c t t Cov X X E X E X X E X ==--
当12t t t ==时，协方差函数就是方差
随机过程{}t X 的自相关函数（相关函数）定义为
121212(,)()
,t t R t t E X X t t T =∈
当12t t t ==时，自相关函数就是二阶原点矩。
2.4 实二阶矩过程
设{},t X t T ∈为实随机过程，若对于任意的t T ∈，其均方函数2()t E X <+∞，则称{},t X t T ∈为实二阶矩过程。
注：由柯西-施瓦兹（Cauchy-Schwarz ）不等式：
1212222()t t t t EX X E X E X ≤，可知，二阶矩过程12
12(,)t t R t t EX X =自相关函数一定存在。 例题1
判断随机过程{}cos ,t X X t t T ω=∈在下列两种情况下是否为二阶矩过程。
（1）2~(,)X N μσ，ω为常数； （2）X 具有概率密度2
1
().(1)
f x x x =+
解：（1）因为
222222
2
2
()(cos )()cos ()cos t t E X E X t E X t
t ωωσμω===+<+∞
所以{},t X t T ∈是二阶矩过程。 （2）因为
2222
cos ()(1)
t x t
E X dx x x ω+∞-∞
==+∞+?
所以{},t X t T ∈不是二阶矩过程。
三. 离散时间和离散型随机过程
当时间参数t T ∈取离散值1,,n t t 时，t X 是一串随机变量1
,n
t t X X 所构成的序列，即随机序列。由于随机序
列的指标表示时间，所以常称随机序列为时间序列。
例题2
设一维随机游动过程n Y ，其中
01210,,,,n
n i i Y Y X X X ===∑ ...i i d (即独立同分布随机序列，且
(1),(1)1i i P X p P X p ===-=-，求(),()n n E Y Var Y
解：根据期望、方差的定义和性质，有
1
1
()()()n n
n i i i i E Y E X E X ====∑∑
1
1
()()()n n
n i i i i Var Y Var X Var X ====∑∑
而且
()1(1)(1)21i E X p p p =?+--=-
2()11(1)1i E X p p =?+?-= 222()()(())1(21)i i i Var X E X E X p =-=--
则
2()(21),()[1(21)]n n E Y n p Var Y n p =-=--
例题3
考察随机点在时间区间(]0,t 内发生的次数. 设在
(]00,t t t +内有k 个随机点发生的概率与0t 无关，且服从
参数为t λ的Poisson 分布，即0
~()t t t t Y Y Y P t λ+-=（Y
=0
0）
具体分布为()()()!
k t
k t t p t P Y k e k λλ-===,其中0,1,2,.k λ>= 若随机点在(]0,t 内发生的次数是偶数（视0为偶数），则令1t X =；若为奇数，且令1t X =-。求t
X μ及12(,)X R t t
解：
(]02424
(0)()()()()()[1]2!4!2
t
t t t P p t p t p t t t e e e e
λλλλλλ---=+++=++++=
在，t 内有偶数次随机点发生
(]13535
(0)()()()()()[]3!5!2
t
t t t P p t p t p t t t e t e e e
λλλλλλλ---=+++=+++-=
在，t 内有奇数次随机点发生
于是有
(1),(1)22
t t t t
t
t t t e e e e P X e
P X e
λλλλλλ----+-===-=
故得
t
2X ()t t E X e λμ-==
通过类似的计算，可以得到对于120t t <<
21122()
1(1)2t t t t e P X X λ--+==
21122()
1(1)2
t t t t e P X X λ---=-=
所以相关函数为
21122()12(,)()t t t t R t t E X X e λ--==
同理可以计算当210t t <≤时的情况。
综合上面的结论有
21
21212(,),,0t t R t t e
t o t λ--=>>
因此{,0}t X t ≥的方差为
22412()(,)1t
t
t X t X Var X R t t e λσμ-==-=-
四. 正态随机过程
4.1如果随机过程{}t X 的任意n 维概率分布都是正态分布，则称它为正态随机过程或高斯随机过程，简称正态过程或高斯过程。
正态随机过程{}t X 的n 维概率密度为
11/,,1/21/2
11(,,)exp ()()(2)(det )2n t t n n f x x x x μμπ-??=---????
∑∑ 其中，μ是n 维向量，∑是n n ?阶的矩阵，∑∑-1是的逆矩阵，它的第i 行j 列的元素为
(,)[(())(())]i i j j t t t t i
j
i
j
ij X i j t t t t X X X X c c t t E X E X X E X ρσσ==--=
其中，t t i j
X X ρ为相关系数。
注：由上式可见，正态随机过程的n 维概率分布仅取决于它的一、二阶矩函数，即只取决于它的数学期望、方差和相关系数
4.2如果对正态过程{}t X 在n 个不同时刻1,,n t t 采样，所得到的一组随机变量1
,n
t t X X 两两互不相关，即
(,)[(())(())]0,i i j j ij X i j t t t t c c t t E X E X X E X i j ==--=≠
则这些随机变量也是相互独立的
在0()ij c i j =≠的条件下，n 维正态概率密度等于n 个一维正态概率密度的连乘积。所以对于一个正态过程来说，不相关与独立是等价的
五. Poisson 过程 5.1 独立增量过程
设{}t X 是一随机过程，若对任意正整数n 及
1,,,n t t T ∈ 12t t << 1n n t t -<<
随机变量的增量2
1
3
2
1
,,,n
n t t t t t t X X X X X X ----
是相互独立的，则称{}t X 是独立增量过程。 注：设{}t
X 是独立增量过程，若对任意的,t t T τ+∈，增
量t t X X τ+-的概率分布只依赖于τ而与t 无关，则称随机过程{}t X 为齐次的或时齐的。
若只要时间间隔τ相同，那么增量服从的分布也相同，也称此过程具有平稳性。
具有独立增量和平稳增量的过程{}t X 称为独立平稳增量过程。
常见的独立平稳增量过程有Poisson 过程和Wiener 过程
5.2 计数过程
如果用{}t N 表示(]0,t 内随机事件发生的总数，则随机过程{}t N 称为一个计数过程。因此，计数过程满足 1）0t N ≥；
2）t N 是非负整数值；
3）对于任意两个时刻120t t ≤<，有1
2
t t N N ≤；
4）对于任意两个时刻120t t ≤<，2
1
2
1
t t t t N N N -=-等于时间
区间(]12,t t 中发生的事件个数。
如果计数过程{}t N 在不相交时间区间中发生的事件个数是独立的，则称计数过程有独立增量
5.3 Poisson 过程的等价定义 定义3-6
设随机过程{}t N 是一个计数过程，如果满足 1）00N =；
2）{}t N 是独立增量过程；
3）对于任意0s t ≤<，增量,s t t s N N N =-具有参数()t s λ-
(0)λ>的Poisson 分布，即
{}()
[()],0,1,2,!
k t s t s t s P N N k e k k λλ----===
则称{}t N 为具有参数λ的齐次Poisson 过程。
注：Poisson 过程有平稳增量且t EN t λ=，并称λ为此过程的速率或强度，即单位时间内发生的事件的平均个数。 定义3-7
设随机过程{}t N 是一个计数过程，参数为(0)λλ>，如果满足 1）00N =；
2）过程有平稳的独立增量；
3）{1}(),0h P N h o h h λ==+>； 4）{2}(),0h P N o h h ≥=>
则称{}t N 为具有参数λ的齐次Poisson 过程。其中()o h 表示当0h →时，对h 的高阶无穷小。
定理 上述定义3-6与定义3-7是等价的 证明：3-6?3-7
(1)3-7 的1）00N =成立；
（2）3-7的2）独立增量性成立；平稳性由3-6的3)保证；
（3）{1}h P N ==1()1!
h
h e λλ-=[1()]h h o h λλ-+=()h o h λ+ （4）{2}h P N ≥=1{1}h P N -≤
=0()()10!1!
h h
h h e e λλλλ----=1(1())h o h λ--+()h o h λ-+=()o h
3-7?3-6
（1）3-6的1）、2)易证； （2）记{}t P N n ==()n p t
00()()p t t p t +?-=,{0,0}{0}t t t t t P N N P N +?==-=
=,{0}{0}{0}t t t t t P N P N P N +?==-==00()[()1]p t p t ?- =0()[1()1]p t t o t λ-?+?-=0()[()]p t t o t λ-?+?
因此0
0()()0p t p t λ'+= 类似可得()()()n
n
n p t p t p
t λλ-'+=1
有{}(),0,1,2,!
n t
t t P N n e n n λλ-=== 由平稳性得
{}()
[()],0,1,2,!
n t s t s t s P N N n e n n λλ----=== ，证完
例题4
顾客依Poisson 过程{},0t N t ≥到达某汽车站，其速率4λ=人/小时。试求：（1）t N 的均值、方差、自相关函数和协方差函数；（2）在第三分钟到第五分钟之间到达汽车站的顾客人数的概率分布。
解：（1）根据题意，强调4λ=，故t N 的均值、方差、自相关函数和协方差函数分别为
()()4t t E N Var N t ==
12121212(,)(,)4min{,}16t t R t t E N N t t t t ==+
121212(,)(,)4min{,}N t t c t t Cov N N t t ==
第三分钟到第五分钟之间到达的人数为3,553N N N =-，所以其分布率为
428
3,5
2(42)8()(),1,2,!!
k k P N k P N k e e k k k -?-?======
例题5
顾客依Poisson 过程到达到达某商店，速率4λ=人/小时，已知商店上午9：00开门，求到9：30时仅到一位顾客，而到11：30时总计已达到5五位顾客的概率。 解：
0.5 2.50.5 2.50.50.521410.542(1,5)(1,4)
(1)(4)4(0.5)(42)1!4!0.0155
P N N P N N N P N P N e e
-?-?====-====??=≈
六. 平稳随机过程
6.1 严格平稳过程
实随机过程{,}t X t T ∈,若对任意正整数n 及任意
1,,n t t T ∈ 与任意τ，有
1111(,,;,,)(,,;,,)n n n n F x x t t F x x t t ττ=++
或
1111(,,;,,)(,,;,,)n n n n f x x t t f x x t t ττ=++
即随机过程{}t X 的有限分布在时间的平移下保持不变，则称{}t X 为严格平稳随机过程。
6.2 严格平稳随机过程的特点
如果{,}t X t T ∈是严平稳随机过程，则它的一维概率密度与时间无关，令1t τ=-，则有
111111(;)(;)(;0)()f x t f x t f x f x τ=+==
由此可求得随机过程{}t X 的均值、矩和方差皆与时间无关的常数。
严平稳随机过程{,}t X t T ∈的二维概率密度只与12,t t 的时间间隔21t t -有关，而与时间起点无关，令1t τ=-，则有
121212121221(,;,)(,;,)(,;0,)f x x t t f x x t t f x x t t ττ=++=-
这表明二维概率密度仅依赖于时间差21t t -，而与时刻
12,t t 无关。由此可得，随机变量{}t X 的自相关函数、协
方差函数只是单变量τ的函数
6.3 宽平稳随机过程
若实随机过程{,}t X t T ∈满足：对于任意t T ∈有 1）()t E X μ=；
2）(,)()()t t R t t E X X r τττ++==； 3）2()t E X <+∞
则称{}t X 为宽平稳随机过程
注：由于宽平稳随机过程的定义只涉及与一、二维
概率密度有关的数字特征，所以 一个严平稳随机过程只要二阶原点矩有界，则它必定是宽平稳的。但是反之不一定成立，但正态随机过程。因为正态随机过程的概率密度是由均值和自相关函数完全确定的，所以如果均值和自相关函数不随时间平移而变化，则概率密度也不随时间的平移而变化，于是一个宽平稳的正态过程必定也是严平稳的
6.4 平稳过程自相关函数的性质 设()r τ为平稳过程{}t X 的自相关函数，则
（1）平稳过程的自相关函数在0τ=上是非负值，即
(0)0r ≥；
（2）自相关函数是变量τ的偶函数，()()r r ττ=-； （3）自相关函数在0τ=时取到最大值，(0)()r r τ≥； （4）如果平稳过程{}t X 满足条件t t T X X +=，则称它为周期平稳过程，其中T 为过程的周期；周期平稳过程的自相关函数必为周期函数，并且它的周期与过程的 周期相同；
（5）如果平稳过程{}t X 含有一个周期分量，则()r τ也
含有一个同周期的周期分量；
（6）（非负定性）对于任意有限个1,,n t t T ∈ 和任意的
实数1,,n a a ，有
11
(,)0n n
i
j
i
j
i j R t t a a
==≥∑∑
（7）()r τ在R 上连续的充分必要条件为其自相关函数
()r τ于0τ=处连续
6.5 平稳过程的相关系数
令2
2
()()()(0)C r C ττμρτσ-==
()ρτ称为随机过程的自相关系数。相关系数表现了随
机过程在两个不同时可随机变量之间的线性相关程度。
第三章随机过程 本节首先介绍利用matlab现有的库函数根据实际需要直接产生均分分布和高斯分布随机变量的方法，然后重点讲解蒙特卡罗算法。 一、均匀分布的随机数 利用MATLAB库函数rand产生。rand函数产生（0，1）内均匀分布的随机数，使用方法如下： 1）x=rand(m)；产生一个m×m的矩阵，所含元素取值均为在（0，1）内均匀分布的随机数。 2）x=rand(m，n)；产生一个m×n的矩阵，所含元素取值均为在（0，1）内均匀分布的随机数。 3）x=rand；产生一个随机数。 举例：1、产生一个5×5服从均匀分布的随机矩阵，所含元素取值均为在（0，1）内均匀分布的随机数。 x=rand(5) 2、产生一个5×3服从均匀分布的随机矩阵，所含元素取值均为在（0，1）内均匀分布的随机数。 x=rand(5,3) 二、高斯分布的随机数 randn函数产生均值为0，方差为1的高斯分布的随机数，使用方法如下： 1）x=randn(m)；产生一个m×m的矩阵，所含元素都是均值
为0，方差为1的高斯分布的随机数。 2）x=randn(m，n)；产生一个m×n的矩阵，所含元素都是均值为0，方差为1的高斯分布的随机数。 3）x=randn；产生一个均值为0，方差为1的高斯分布的随机数。 举例：1、产生一个5×5的矩阵，所含元素都是均值为0，方差为1的高斯分布的随机数。 x=randn(5) 2、产生一个5×3的矩阵，所含元素都是均值为0，方差为1的高斯分布的随机数。 x=randn(5,3) 3、产生一个5×3的矩阵，所含元素都是均值为0，方差为4的高斯分布的随机数。 x=2×randn(5,3) 三、蒙特卡罗仿真 1、蒙特卡罗算法 蒙特卡罗估计是指通过随机实验估计系统参数值的过程。蒙特卡罗算法的基本思想：由概率论可知，随机实验中实验的结果是无法预测的，只能用统计的方法来描述。故需进行大量的随机实验，如果实验次数为N，以 N表示事件A发 A 生的次数。若将A发生的概率近似为相对频率，定义为 N N。 A 这样，在相对频率的意义下，事件A发生的概率可以通过重
第三章 随机过程 A 简答题： 3-1 写出一维随机变量函数的均值、二维随机变量函数的联合概率密度（雅克比行列式）的定义式。 3-2 写出广义平稳（即宽平稳）随机过程的判断条件，写出各态历经随机过程的判断条件。 3-3 平稳随机过程的自相关函数有哪些性质功率谱密度有哪些性质自相关函数与功率谱密度之间有什么关系 3-4 高斯过程主要有哪些性质 3-5 随机过程通过线性系统时，输出与输入功率谱密度之间的关系如何 3-6 写出窄带随机过程的两种表达式。 3-7 窄带高斯过程的同相分量和正交分量的统计特性如何 3-8 窄带高斯过程的包络、正弦波加窄带高斯噪声的合成包络分别服从什么分布 3-9 写出高斯白噪声的功率谱密度和自相关函数的表达式，并分别解释“高斯”及“白”的含义。 3-10 写出带限高斯白噪声功率的计算式。 B 计算题： 一、补充习题 3-1 设()()cos(2)c y t x t f t πθ=?+，其中()x t 与θ统计独立，()x t 为0均值的平稳随机过程，自相关函数与功率谱密度分别为：(),()x x R P τω。 ①若θ在（0，2π）均匀分布，求y()t 的均值，自相关函数和功率谱密度。 ②若θ为常数，求y()t 的均值，自相关函数和功率谱密度。 3-2 已知()n t 是均值为0的白噪声，其双边功率谱密度为：0 ()2 N P ω= 双，通过下图()a 所示的相干解调器。图中窄带滤波器（中心频率为c ω）和低通滤波器的传递函数1()H ω及2()H ω示于图()b ，图()c 。
试求：①图中()i n t （窄带噪声）、()p n t 及0()n t 的噪声功率谱。 ②给出0()n t 的噪声自相关函数及其噪声功率值。 3-3 设()i n t 为窄带高斯平稳随机过程，其均值为0，方差为2 n σ，信号[cos ()]c i A t n t ω+经过下图所示电路后输出为()y t ，()()()y t u t v t =+，其中()u t 是与cos c A t ω对应的函数，()v t 是与()i n t 对应的输出。假设()c n t 及()s n t 的带宽等于低通滤波器的通频带。 求()u t 和()v t 的平均功率之比。
第三章随机过程作业 1.设A、B是独立同分布的随机变量，求随机过程的 均值函数、自相关函数和协方差函数。 2.设是独立增量过程，且，方差函数为。记随机过程 ，、为常数，。 （1）证明是独立增量随机过程； （2）求的方差函数和协方差函数。 3.设随机过程，其中是相互独立的随机变量且均值为 0、方差为1，求的协方差函数。 4.设U是随机变量，随机过程. (1) 是严平稳过程吗为什么 (2) 如果，证明：的自相关函数是常数。 5.设随机过程,其中U与V独立同分布 。 (1) 是平稳过程吗为什么 (2) 是严平稳过程吗为什么 6.设随机变量的分布密度为, 令, 试求的一维概率分布密度及。
7.若从t = 0开始每隔1/2分钟查阅某手机所接收的短信息 , 令 试求：的一维分布函数 8.设随机过程, 其中是相互独立的随 机变量 , 且, 试求的均值与协方差函数 . 9.设其中为常数 , 随机变量 , 令 , 试求 :和 。 10.设有随机过程，并设x是一实数，定义另一个随机过程 试证的均值和自相关函数分别为随机过程的一维和二维分布函数。11.设有随机过程,，其中为均匀分布 于间的随机变量，即试证： （1）自相关函数 （2）协相关函数 12.质点在直线上作随机游动，即在时质点可以在轴上往右或往左作 一个单位距离的随机游动。若往右移动一个单位距离的概率为，往左移动一个单位距离的概率为，即
，且各次游动是相互统计独立的。经过n 次游动，质点所处的位置为。 （1）的均值； （2）求的相关函数和自协方差函数和。 13.设，其中服从上的均匀分布。试证 : 是宽平稳序列。 14.设其中服从上的均匀分布. 试 证 :既不是宽平稳也不是严平稳过程 . 15.设随机过程和都不是平稳的，且 其中和是均值为零的相互独立的平稳过程，它们有相同的相关函数，求证 是平稳过程。 16.设是均值为零的平稳随机过程。试 证 : 仍是一平稳随机过程 , 其中为复常数，为整数。 17.若平稳过程满足条件，则称是周 期为的平稳过程。试证是周期为的平稳过程的充分必要条件是其自相关函数必为周期等于的周期函数。
应用随机过程试题及答案 一．概念简答题（每题5 分，共40 分） 1. 写出卡尔曼滤波的算法公式 2. 写出ARMA（p,q）模型的定义 3. 简述Poisson 过程的随机分流定理 4. 简述Markov 链与Markov 性质的概念 5. 简述Markov 状态分解定理 6．简述HMM 要解决的三个主要问题得分B 卷（共9 页）第2 页7. 什么是随机过程，随机序列？8．什么是时齐的独立增量过程？二．综合题（每题10 分，共60 分） 1 ．一维对称流动随机过程n Y , 0 1 0, , n n k k Y Y X ? ? ? ? 1 ( 1) ( 1) , 2 k k k X p x p x ? ? ? ? ? 具有的概率分布为且1 2 , , ... X X 是相互独立的。试求1 Y 与2 Y 的概率分布及其联合概率分布。 2. 已知随机变量Y 的密度函数为其他而且，在给定Y=y 条件下，随机变量X 的条件密度函数为? ? 其他试求随机变量X 和Y 的联合分布密度函数( , ) f x y . 得分B 卷（共9 页）第3 页 3. 设二维随机变量( , ) X Y 的概率密度为( ,其他试求p{x<3y} 4．设随机过程( ) c o s 2 , ( , ) , X t X t t ? ? ? ? ? ? X 是标准正态分布的随机变量。试求数学期望( ) t E X ，方差( ) t D X ，相关函数1 2 ( , ) X R t t ，协方差1 2 ( , ) X C t t 。B 卷（共9 页）第4 页5 ．设马尔科夫链的状态空间为I={0,1}, 一步转移概率矩阵为
第三章 随机过程 一. 随机过程的基本概念 1.1 随机过程的定义 设（Ω，F ，P ）为给定的概率空间，T 为一指标集，对于任意t T ∈，都存在定义在(),,P ΩF 上，取值于E 的随机变量()(),X t ωω∈Ω与它相对应，则称依赖于t 的一族随机变量(){},:X t t T ω∈为随机过程，简记(){}t X ω，{}t X 或(){}X t 注：随机过程(){}:,t X t T ωω∈Ω∈是时间参数t 和样本点 ω的二元函数，对于给定的时间0t ，是0(,)X t ω是概率空 间(),,P ΩF 上的随机变量；对于给定样本点0ω∈Ω， 0(,)X t ω是定义在T 上的实函数，此时称它为随机过程 对应于0ω的一个样本函数，也成为样本轨道或实现。 E 称为随机过程的相空间，也成为状态空间，通常用 “t X x =”表示t X 处于状态x 1.2随机过程t X 按照时间和状态是连续还是离散可以 分为四类：连续型随机过程、离散型随机过程、连续型随机序列、离散型随机序列
1.3 有穷维分布函数 设随机过程{}t X ，在任意n 个时刻1,,n t t 的取值 1,,n t t X X 构成n 维随机向量()1,,n t t X X ，其n 维联合分布 函数为： ()()1 1 ,,11,,,,n n t t n t t n F x x P X x X x =≤≤ 其n 维联合密度函数记为()1 ,,1,,n t t n f x x 。 我们称(){}1 ,,11,,:1,,,n t t n n F x x n t t T ≥∈ 为随机过程 {}t X 的有穷维分布函数。 二.随机过程的数字特征 2.1 数学期望 对于任何一个时间t T ∈，随机过程{}t X 的数学期望定义为 ()()t X t t E X xdF x μ +∞ -∞ ==? ()t E X 是时间t 的函数 2.2 方差与矩 随机过程{}t X 的二阶中心矩
第一章 随机过程的基本概念 一、随机过程的定义 例1：医院登记新生儿性别，0表示男，1表示女，X n 表示第n 次登记的数字，得到一个序列X 1 ， X 2 ， ···，记为{X n ，n=1,2, ···}，则X n 是随机变量，而{X n ，n=1,2, ···}是随机过程。 例2：在地震预报中，若每半年统计一次发生在某区域的地震的最大震级。令X n 表示第n 次统计所得的值，则X n 是随机变量。为了预测该区域未来地震的强度，我们就要研究随机过程{X n ，n=1,2, ···}的统计规律性。 例3：一个醉汉在路上行走，以概率p 前进一步，以概率1-p 后退一步（假设步长相同）。以X(t)记他t 时刻在路上的位置，则{X(t), t ≥0}就是（直线上的）随机游动。 例4：乘客到火车站买票，当所有售票窗口都在忙碌时，来到的乘客就要排队等候。乘客的到来和每个乘客所需的服务时间都是随机的，所以如果用X(t)表示t 时刻的队长，用Y(t)表示t 时刻到来的顾客所需等待的时间，则{X(t), t ∈T}和{Y(t), t ∈T}都是随机过程。 定义：设给定参数集合T ，若对每个t ∈T, X(t)是概率空间),,(P ?Ω上的随机变量，则称{X(t), t ∈T}为随机过程，其中T 为指标集或参数集。 E X t →Ω:)(ω，E 称为状态空间，即X(t)的所有可能状态构成的集合。 例1：E 为{0,1} 例2：E 为[0, 10] 例3：E 为},2,2,1,1,0{Λ-- 例4：E 都为), 0[∞+ 注：（1）根据状态空间E 的不同，过程可分为连续状态和离散状态，例1，例3为离散状态，其他为连续状态。 （2）参数集T 通常代表时间，当T 取R, R +, [a,b]时，称{X(t), t ∈T}为连续参数的随机过程；当T 取Z, Z +时，称{X(t), t ∈T}为离散参数的随机过程。 （3）例1为离散状态离散参数的随机过程，例2为连续状态离散参数的随机过程，例3为离散状态连续参数的随机过程，例4为连续状态连续参数的随机过程。 二、有限维分布与Kolmogorov 定理 随机过程的一维分布：})({),(x t X P x t F ≤= 随 机 过 程 的 二 维 分 布 ：
第三章 Poisson 过程（Poisson 信号流）习题 1、 设}0),({≥t t N 是一强度为λ的齐次泊松过程，而12/)()(-=t N t X ，0≥t 。 对0>s ，试求： （1） 计算)}()({s t N t N E +及})()({s N t s N E +的分布律； （2） 证明过程)(t X ，0≥t 是马氏过程并写出转移概率),;,(j t i s p ，其中t s ≤。 2、 设}0);({≥t t X 与}0);({≥t t Y 是相互独立，参数分别为1λ与2λ的Poisson 过程。定 义随机过程0),()()(≥-=t t Y t X t Z ，且令：})({)(n t Z P t p n ==。 （1） 试求随机过程}0);({≥t t Z 的均值函数)}({t Z E 和二阶矩)}({2 t Z E ； （2） 试证明：}exp{})(exp{)(12121t u t u t u t p n n n -+∞-∞=+?+-=∑λλλλ。 3、 设}0;)({1≥t t N 和}0;)({2≥t t N 是相互独立的Poisson 过程,其参数分别为1λ和2λ．若 )()()(210t N t N t N -=，问: （1） }0;)({0≥t t N 是否为Poisson 过程，请说明理由； （2） }0;)({0≥t t N 是否为平稳过程，请说明理由。 4、 设0,)1()()(≥-=t X t Y t N ，其中}0);({≥t t N 为强度为0>λ的Poisson 过程，随机变 量X 与此Poisson 过程独立，且有如下分布： 0,2/1}0{,4/1}{}{>=====-=a X P a X P a X P 试求随机过程0),(≥t t Y 的均值函数和相关函数。 5、 设}0),({≥t t N 是一强度为λ的泊松过程，00=S ，n S 为第n 个事件发生的时刻，求： （1） ),(52S S 的联合概率密度函数； （2） }1)({1≥t N S E ； （3） ),(21S S 在1)(=t N 条件下的条件概率密度函数。 6、 设}0),({≥t t N 是一强度为λ的泊松过程，设T 为第一个事件出现的时间，)(a T N 为第一个事件后，在a T 时间间隔内出现的事件数，其中a 为正常数。试计算： （1） )}({a T TN E ； （2） {}2)]([a T TN E 。 7、 某商场为调查客源情况，考察男女顾客到达商场的人数。假设),0[t 时间内男女顾客到 达商场的人数分别独立地服从参数为λ和μ的泊松过程。问：
第一章 随机过程的基本概念 一、随机过程的定义 例1：医院登记新生儿性别，0表示男，1表示女，X n 表示第n 次登记的数字，得到一个序列X 1 ， X 2 ， ···，记为{X n ，n=1,2, ···}，则X n 是随机变量，而{X n ，n=1,2, ···}是随机过程。 例2：在地震预报中，若每半年统计一次发生在某区域的地震的最大震级。令X n 表示第n 次统计所得的值，则X n 是随机变量。为了预测该区域未来地震的强度，我们就要研究随机过程{X n ，n=1,2, ···}的统计规律性。 例3：一个醉汉在路上行走，以概率p 前进一步，以概率1-p 后退一步（假设步长相同）。以X(t)记他t 时刻在路上的位置，则{X(t), t ≥0}就是（直线上的）随机游动。 例4：乘客到火车站买票，当所有售票窗口都在忙碌时，来到的乘客就要排队等候。乘客的到来和每个乘客所需的服务时间都是随机的，所以如果用X(t)表示t 时刻的队长，用Y(t)表示t 时刻到来的顾客所需等待的时间，则{X(t), t ∈T}和{Y(t), t ∈T}都是随机过程。 定义：设给定参数集合T ，若对每个t ∈T, X(t)是概率空间),,(P ?Ω上的随机变量，则称{X(t), t ∈T}为随机过程，其中T 为指标集或参数集。 E X t →Ω:)(ω，E 称为状态空间，即X(t)的所有可能状态构成的集合。 例1：E 为{0,1} 例2：E 为[0, 10] 例3：E 为},2,2,1,1,0{Λ-- 例4：E 都为),0[∞+ 注：（1）根据状态空间E 的不同，过程可分为连续状态和离散状态，例1，例3为离散状态，其他为连续状态。 （2）参数集T 通常代表时间，当T 取R, R +, [a,b]时，称{X(t), t ∈T}为连续参数的随机过程；当T 取Z, Z +时，称{X(t), t ∈T}为离散参数的随机过程。 （3）例1为离散状态离散参数的随机过程，例2为连续状态离散参数的随机过程，例3为离散状态连续参数的随机过程，例4为连续状态连续参数的随机过程。 二、有限维分布与Kolmogorov 定理 随机过程的一维分布：})({),(x t X P x t F ≤= 随机过程的二维分布：T t t x t X x t X P x x F t t ∈≤≤=21221121,,},)(,)({),(21 随机过程的n 维分布：
第三章随机过程 1.什么是宽平稳随机过程？什么是严平稳随机过程？它们之间有什么关系？ 答：宽平稳随机过程：若一个随机过程的数学期望与时间无关，而其相关函数仅与时间间隔相关称之为宽平稳随机过程。 严平稳随机过程：若一个随即过程任何的n维分布函数或概率密度函数与时间起点无关，则之为严平稳随机过程。 一个严平稳随机过程，只要他的均值有界则必然是宽平稳的；反之不然。 2.平稳随机过程的自然相关函数具有什么特点？ 答：平稳随机过程的自然相关函数与时间起点无关，只与时间间隔有关，而且是偶函数。3.什么是高斯噪声？什么是白噪声？它们各有什么特点？ 答：高斯噪声：概率密度函数符合正态分布的噪声。 高斯噪声的特点：它的n维分布仅由各随机变量的数学期望、方差和两两之间的归一化协方差函数决定。若高斯噪声是宽平稳，则也是严平稳的。若随机变量之间互不相关，则也是统计独立的。 白噪声：功率谱密度在整个频域内均匀分布的噪声，属于一种理想宽带过程。 白噪声的特点：白噪声只在tao=0时才是相关的，而在其他任意时刻上的随机变量都不相关。 4.什么是窄带随机过程？它的频谱和时间波形有什么特点？ 答：如果随机过程的频谱密度分布在一个远离零频的很窄的频率范围内，则称其为窄带随即过程。其频谱分布特点是带宽远小于中心频率，时间波形上的特点是呈现出包络和相位随机缓慢变化的正弦波。 5.什么是窄高斯噪声？他在波形上有什么特点？它的包络和相位各服从什么概率分布？ 答：窄带高斯噪声：若一个高斯噪声满足窄带条件，即其带宽远远小于中心频率，而且中心平率偏离零频很远，则称之为窄带高斯噪声。 其波形上的特点是包络和相位都像一个缓慢变化的正弦波。 其包络的一维分布服从瑞利分布，其相位的一维分布服从均匀分布。 6.何为高斯白噪声？它的概率密度函数、功率频谱密度如何表示？ 答：如果白噪声取值的概率密度分布服从高斯分布，则称之为高斯白噪声，其概率密度函数为高斯函数，其功率谱密度为常数。 7.不相关、统计独立、正交的含义各是什么？他们之间的关系如何？ 答：如果两个随机变量的协方差函数为零，则称他们不相关；如果两个随机变量的联合概率密度等于它们各自概率密度的乘积，则称他们统计独立。如果两个随机变量的互相关函数为零，则称他们正交。两个均值为零的随机变量如果统计独立，则一定是正交及不相关；两个均值为零的随机变量正交与不相关等价。
山东财政学院 2009—2010学年第 1 学期期末考试《应用随机过程》试卷(A ) （考试时间为120分钟） 参考答案及评分标准 考试方式： 闭卷 开课学院 统计与数理学院 使用年级 07级 出题教师 张辉 一． 判断题（每小题2分，共10分，正确划√，错误划ⅹ） 1. 严平稳过程一定是宽平稳过程。（ⅹ ） 2. 非周期的正常返态是遍历态。（√ ） 3. 若马氏链的一步转移概率阵有零元，则可断定该马氏链不是遍历的。（ⅹ ） 4. 有限马尔科夫链没有零常返态。（√ ） 5．若状态i 有周期d, 则对任意1≥n , 一定有：0)(?nd ii p 。（ⅹ ） 二． 填空题（每小题5分，共10分） 1. 在保险公司的索赔模型中，设索赔要求以平均每月两次的速率的泊松过程到达保险公司，若每次赔付金额是均值为10000元的正态分布，一年中保险公司的平均赔付金额是＿＿240000元＿＿＿。 2．若一个矩阵是随机阵，则其元素满足的条件是：（1）任意元素非负（2）每行元素之和为1。 三． 简答题（每小题5分，共10分） 1． 简述马氏链的遍历性。 答：设)(n ij p 是齐次马氏链{}1,≥n X n 的n 步转移概率，，如果对任意 I j i ∈,存在不 依赖于i 的极限0) (?=j n ij p p ，则称齐次马氏链{}1,≥n X n 具有遍历性。 2． 非齐次泊松过程与齐次泊松过程有何不同？
答：非齐次泊松过程与齐次泊松过程的不同在于：强度λ不再是常数，而是与t 有关，也就是说，不再具有平稳增量性。它反映了其变化与时间相关的过程。如设备的故障率与使用年限有关，放射物质的衰变速度与衰败时间有关，等等。 四． 计算、证明题（共70分） 1. 请写出C —K 方程，并证明之. （10分） 解： 2. 写出复合泊松过程的定义并推算其均值公式. （15分） 解：若{}0),(≥t t N 是一个泊松过程，是 ,2,1,=i Y i 一族独立同分布的随机变量，并且与{}0),(≥t t X 也是独立的， )(t X =∑=t N i i Y 1，那么{}0),(≥t t X 复合泊松过程