第一章随机过程的一般理论

第一章随机过程本章主要内容：随机过程的基本概念●随机过程的数字特征●随机过程的微分和积分计算●随机过程的平稳性和遍历性●随机过程的相关函数及其性质●复随机过程●正态分布的随机过程第一章我们介绍了随机变量，随机变量是一个与时间无关的量，随机变量的某个结果，是一个确定的数值。

例如，骰子的6面，点数总是1～6，假设A面点数为1，那么无论你何时投掷成A面，它的点数都是1，不会出现其它的结果，即结果具有同一性。

但生活中，许多参量是随时间变化的，如测量接收机的电压，它是一个随时间变化的曲线；又如频率源的输出频率，它随温度变化，所以有个频率稳定度的范围的概念（即偏离标称频率的最大范围）。

这些随时间变化的随机变量就称为随机过程。

显然，随机过程是由随机变量构成，又与时间相关。

1.1 随机过程的基本概念及统计特性1.1.1 随机过程的定义现在我们进一步论述随机过程的概念。

当对接收机的噪声电压作“单次”观察时，可以得到波形)(1t x ，也可能得到波形)(2t x ，)(3t x 等等，每次观测的波形的具体形状，虽然事先不知道，但肯定为所有可能的波形中的一个。

而这些所有可能的波形集合)(1t x ，)(2t x ，)(3t x ，…，)(t x n ，…..，就构成了随机过程)(t X 。

图1.1 噪声电压的起伏波形1． 样本函数：)(1t x ，)(2t x ，)(3t x ，…，)(t x n ，都是时间的函数，称为样本函数。

2． 随机性：一次试验，随机过程必取一个样本函数，但所取的样本函数带有随机性。

因此，随机过程不仅是时间t 的函数，还是可能结果ζ的函数，记为),(ζt X ，简写成)(t X 。

3．随机过程的定义：定义1把随机过程看成一族样本函数。

4．定义的理解上面两种随机过程的定义，从两个角度描述了随机过程。

具体的说，作观测时，常用定义1，这样通过观测的试验样本来得到随机过程的统计特性；对随机过程作理论分析时，常用定义2，这样可以把随机过程看成为n 维随机变量，n越大，采样时间越小，所得到的统计特性越准确。

3、 基本事件与样本空间 在随机试验 S E中最简单的随机事件称为基本事件，所 有基本事件的集合称为基本事件空间。例如对一个六面 体骰子，出现1,2,…, 6 点是基本事件，而所有的基本事件 1,2,…, 6 的集合称为基本事件空间，而“出现奇数点”是随机 事件，但不是基本事件。可见基本事件只是事件的一种。 例如A:掷骰子试验中，事件：“出现点数不大于3”是由 三个基本事件“出现点数1”、“出现点数2”、“出现点数3 共同组成的，是事件空间 A 的一个事件，即 A 1,2,3 ， SE。
1.1 概率论中的几个概念与公式
2、 随机试验、复合随机试验与样本空间 通常把对自然现象进行的一次观察或进行的一次试验， 统称为一个试验，而若这个试验满足下列条件： （1）在相同条件下可重复进行； （2）每次试验结果有多种可能，且所有可能的结果能 事先明确； （3）每次试验之前不能确定会出现哪一个结果。 就称其为随机试验。显然，随机试验表示的是在一组 可以重复实现的条件下观察某种现象能否出现的行动。 如投硬币，掷骰子等等。当然，随机试验可以 根据上述条件进行设计。
P A B P AB P B
（1-7）
式中 解释为
P AB
为事件A与B的联合概率。式（1-7）的频率的
nAB nAB n nB nB n
P A B
,
nAB P AB n
且
nAB nB n n
，故有
P AB P B
。
式（1-7）的含义是事件A与事件B有关，若 A B ，即 事件A与事件B互不相交，则 P A B 0 ；而条件一词的含 P 义是 P B 0，否则若 B ， B 0，则式（1-7）没有意义。 2、乘法公式 设有n个事件 A1 ,…, An ，则 A A …A 同时发生也是一个 事件，其概率记为 P A A …A ，称为事件 A1 , A2 ,…, An 的联合 概率。则 P A1 A2 …An P A1 P A2 A1 P A3 A1 A2 …P An A1…An 1 （1-8）

了20世纪人们开始研究随机过程，1905年爱因斯 到了20世纪人们开始研究随机过程，1905年 20世纪人们开始研究随机过程 和斯莫卢霍夫斯基各自独立地研究了布朗运动 布朗运动。 坦和斯莫卢霍夫斯基各自独立地研究了布朗运动。 1907年马尔可夫在研究随机变量序列时 在研究随机变量序列时， ⊕1907年马尔可夫在研究随机变量序列时，提出了现 今称之为马尔可夫链（马尔可夫过程）的概念； 今称之为马尔可夫链（马尔可夫过程）的概念； 1934辛钦研究了平稳过程的相关理论。 辛钦研究了平稳过程的相关理论 ⊕1934辛钦研究了平稳过程的相关理论。 年开始， ⊕从1938年开始，莱维系统深入地研究了布朗运动， 年开始 莱维系统深入地研究了布朗运动， 建立了独立增量过程的一般理论。他的著作《 建立了独立增量过程的一般理论。他的著作《随机过 程与布朗运动》 程与布朗运动》(1948)至今仍是随机过程理论的一本 至今仍是随机过程理论的一本 经典著作。 经典著作。 ⊕由于科学技术中许多实际问题的推动以及概率论逻 辑基础的建立，概率论从20世纪 世纪30年代以来得到了迅 辑基础的建立，概率论从 世纪 年代以来得到了迅 速的发展。目前其主要研究内容大致可分为极限理论， 速的发展。目前其主要研究内容大致可分为极限理论， 独立增量过程，马尔可夫过程，平稳过程和时间序列， 独立增量过程，马尔可夫过程，平稳过程和时间序列， 鞅和随机微分方程，点过程等。 鞅和随机微分方程，点过程等。
绪 论
《随机过程》基础 随机过程》
高等数学 线性代数 概率论
绪 论
学习《随机过程》 学习《随机过程》意义
在科学研究中， 在科学研究中，只有借助于数学才能精确地描述一个 现象的不同量之间的关系； 现象的不同量之间的关系； 随机过程理论在自然科学和工程技术研究的许多领域 都得到广泛的应用例如物理、化学、生物、通信、 都得到广泛的应用例如物理、化学、生物、通信、机 自动化、地震、海洋、医学、气象、 电、自动化、地震、海洋、医学、气象、航空航天等 学科中均有着广泛的应用。 学科中均有着广泛的应用。 随机过程理论在社会科学中例如在社会统计，保险学、 随机过程理论在社会科学中例如在社会统计，保险学、 经济、金融工程、管理中也得到极其广泛的应用。 经济、金融工程、管理中也得到极其广泛的应用。 为从事科学研究打下坚实的基础； 为从事科学研究打下坚实的基础；

若 FX ( x, t ) 的偏导数存在，则有随机 过程 X(t)一维概率密度函数
FX ( x1 , t1 ) f X ( x1 , t1 ) x1
2 、二维概率分布 为了描述S.P在任意两个时刻t1和t2的状态间的 内在联系,可以引入二维随机变量[X(t1),X(t2)]的分 布函数FX(x1,x2;t1,t2)，它是二随机事件{X(t1)≤x1} 和{X(t2)≤x2}同时出现的概率，即
FX(x1,x2;t1,t2)=P{ X(t1)≤x1,X(t2)≤x2}
称为随机过程X(t)的二维分布函数。 若FX(x1,x2;t1,t2)对x1，x2的二阶混合偏导存在， 则 2 F ( x , x ;t ,t )
f X ( x1 , x2 ; t1 , t 2 )
X 1 2 1 2
x1x2
E[cos ] cos f ( )d cos
0 0
2
2
同理
1 d 0 2
E[sin ] 0
mx (t ) 0
2 2 x (t ) 2 (t ) mx (t ) 2 (t ) E[ x2 (t )] x x （2）
2 ＝ E[sin (0t )] E [1 cos(20t 2 )]
t 离散型随机过程：对随机过程任一时刻1 的取值X (t1 ) 都是离散型随机变量。
连续随机序列：随机过程的时间t只能取 t 某些时刻，如 t ， 2 ，…..，n t，且这 时得到的随机变量 X ( nt ) 是连续型随机变 量，即时间是离散的。相当于对连续型随 机过程的采样。 离散随机序列：随机过程的时间t只能取 t 某些时刻，如 t ， 2 ，…..，n t，且这 时得到的随机变量 X ( nt ) 是离散型随机变 量，即时间和状态是离散的。相当于采样 后再量化 。

均方值 Ψ X (t) EX 2 (t) DX (t) EX 2 (t) [EX (t)]2 Ψ X (t) mx2 (t)
二、随机过程的协方差函数和相关函数 对于任意固定的 t1,t2 T , X1(t), X 2 (t) 为随机变量。 相关系数：
(t1, t2 )
cov[X (t1), X (t2 )] , DX (t1) DX (t2 )
2a / 2
§2 随机过程数字特征
一、随机过程的数学期望和方差
{X (t),t T} 在任意固定时刻均是一个随机变量，因此 随机过程的期望和方差是t的函数。
数学期望（函数）

mX (t) EX (t)
xdF(x,t), t T

方差（函数）
DX (t) DX (t) E[ X (t) mX (t)]2 , t T
X(t)的（自）相关函数
RX (t1, t2 ) EX (t1) X (t2 ), t1, t2 T
二者之间的关系 CX (t1, t2 ) RX (t1, t2 ) mX (t1)mX (t2 ), t1, t2 T
若 t1 t2 t CX (t,t) E[ X (t) mX (t)]2 DX (t) DX (t)
X (t,0 ) —— 随机过程的样本函数或样本曲线，也称为现
实曲线。
样本空间——样本函数的全体。
例5中，若 P{Φ 0} P{Φ }
条曲线构成。
1 ，则 2
Ω
由
x1(t), x2 (t)
两
X (t0 ,0 ) —— 样本函数在t0处的数值。
随机过程可简记为：
{X (t),t T}

第一章 随机过程及其分类在概率论中，我们研究了随机变量，n 维随机向量。

在极限定理中我们研究了无穷多个随机变量，但只局限在它们之间相互独立的情形。

将上述情形加以推广，即研究一族无穷多个、相互有关的随机变量，这就是随机过程。

1． 随机过程的概念定义：设),,(P ∑Ω是一概率空间，对每一个参数T t ∈，),(ωt X 是一定义在概率空间),,(P ∑Ω上的随机变量，则称随机变量族});,({T t t X X T ∈=ω为该概率空间上的一随机过程。

其中R T ⊂是一实数集，称为指标集或参数集。

随机过程的两种描述方法： 用映射表示T X ，R T t X →Ω⨯:),(ω即),(⋅⋅X 是一定义在Ω⨯T 上的二元单值函数，固定T t ∈，),(⋅t X 是一定义在样本空间Ω上的函数，即为一随机变量；对于固定的Ω∈ω，),(ω⋅X 是一个关于参数T t ∈的函数，通常称为样本函数，或称随机过程的一次实现，所有样本函数的集合确定一随机过程。

记号),(ωt X 有时记为)(ωt X 或简记为)(t X 。

参数T 一般表示时间或空间。

常用的参数一般有：（1）},2,1,0{0 ==N T ；（2）},2,1,0{ ±±=T ；（3）],[b a T =，其中a 可以取0或∞-，b 可以取∞+。

当参数取可列集时，一般称随机过程为随机序列。

随机过程});({T t t X ∈可能取值的全体所构成的集合称为此随机过程的状态空间，记作S 。

S 中的元素称为状态。

状态空间可以由复数、实数或更一般的抽象空间构成。

实际应用中，随机过程的状态一般都具有特定的物理意义。

例1：抛掷一枚硬币，样本空间为},{T H =Ω，借此定义：⎩⎨⎧=时当出现，时当出现T 2H ,cos )(t t t X π ),(∞+-∞∈t 其中2/1}{}{==T P H P ，则)},(,)({∞+-∞∈t t X 是一随机过程。

随机过程初步理论引言随机过程是描述随机现象随时间变化的数学模型，是概率论的重要分支之一。

在现代科学与工程领域，随机过程的理论与应用具有广泛的意义，不仅能够描述许多自然和社会现象，也在金融、通信、生物医学等领域有着重要应用。

本文将从随机过程的基本理论入手，介绍随机过程的概念、分类、性质以及常见的随机过程模型。

随机过程的概念随机过程是一种描述随机演化规律的数学模型，通常用随机变量序列来表示。

在给定数学空间Ω、F、P上，随机过程可以理解为从时刻t到时刻t+n的一组随机变量序列{X(t),t∈T}。

其中，T表示时间的索引集合，一般来说是实数集合R或非负整数集合N，X(t)表示在时刻t发生的随机变量。

随机过程的分类根据随机变量的取值范围和索引集合的性质，随机过程可分为离散时间随机过程和连续时间随机过程。

离散时间随机过程是在离散时间点上定义的随机变量序列，常用来描述间隔的随机事件；而连续时间随机过程则在连续时间段上定义，用于描述持续变化的随机现象。

随机过程的性质随机过程具有许多重要的性质，其中最基本的是随机过程的独立增量性质。

即对于不重叠的时间间隔(t,t+n)，随机变量之间是相互独立的。

此外，随机过程还具有平稳性、马尔可夫性等重要性质，这些性质为随机过程的建模和分析提供了重要的依据。

常见的随机过程模型在实际应用中，常见的随机过程模型包括白噪声过程、布朗运动、泊松过程等。

其中，白噪声过程是一种具有均值为零、方差为常数的随机过程；布朗运动则是一种连续时间、无界增量、独立增量的随机过程，常用于金融领域的模拟和预测；泊松过程则用于描述一类随机事件的到达过程，如通信系统中的信号传输。

结论随机过程作为一种重要的概率模型，对于理解与描述随机现象的规律具有重要意义。

本文从随机过程的基本理论入手，简要介绍了随机过程的概念、分类、性质及常见模型，希望能为读者对随机过程的理解提供一些帮助。

在实际应用中，随机过程的研究和应用仍具有广阔的发展空间，需要进一步深入研究和探索。

1
m X (t1 )][ x2 m X (t 2 )] f ( x1 x2 ; t1 , t 2 )dx1dx 2 f ( x1, x2 ; t1 , t 2 )dx1dx 2
x x


1 2
X(t) 协方差与相关函数的关系为 当 mx (t ) 0 时 C X (t 1 , t 2 ) R X (t 1 , t 2 ) 在协方差定义中取t1=t2=t,就有
为XT 的均值函数或数学期望。其中F(x,t)是过程 的一维分布函数。 若是连续型随机变量，有 mX (t) xf(x,t)dx 其中f(x,t)是一维分布密度。 12

2．随机过程的方差 若 DX (t) 2 (t) E[X(t) mX (t)]2 存在，t∈T， X 称为X（t）的方差。 x (t) Dx (t) 称为X（t）的标准差。 它们描绘过程的样本曲线在各个t时刻对均 值 m X ( t ) 的离散程度， 对每个t1∈T， EX (t1 ) 反映t1状态取值的概率平均。 DX (t1 ) 反映t1状态取值与 EX (t1 ) 离散程度。 在工程中随机过程的均方值具有物理意义，比 较有用。均方值定义为： E[ X 2 (t )] X (t ) DX (t ) E( X 2 (t )) E 2 ( X (t )) 有关系式： 13 Dx (t ) x (t ) [mx (t )]2 即
第一章. 随机过程的基本概念
§1.1 随机过程及其概率分布
在实际问题中，有时需要对随机现象的变化进 行研究，这时就必须考虑无穷个随机变量或一族 随机变量, 我们就称这种随机变量族为随机过程。 例1: 生物群体的增长问题。在描述群体的发展 或演变过程中, 以 Xt 表示在时刻 t 群体的个数, 则 对每一个 t ，Xt 是随机变量。假设我们从 t ＝0 开 始每隔24小时对群体的个数观测一次, 则{Xt , t ＝0, 1, 2, ...}是一个随机过程。 例2: 电话呼唤问题。某电话总机在[0，t]时间 内收到的呼唤次数用 Xt 来表示, 则对于固定的 t ， 1 Xt 是随机变量。于是{Xt , t ∈[0, ∞)}是随机过程。

第一章 随机过程1.1 引言对随机微分方程的研究所需要的随机过程的知识很多，因篇幅关系，只在本章中列出重要的、必备的相关知识和重要结论，这些知识主要包括：随机变量的概念及相关知识及条件期望；随机过程，特别是Markov 过程和Brown 运动的相关知识；随机微积分；Itô公式；一些重要不等式及随机比较定理。

本章的内容参考或转引自文献（Murry ，1998陈希孺，2003；林无烈2002；Mao ，1997；Mao ，2006胡适耕等，2007；王克，2010等），谨向相应的作者表示感谢。

1.2 随机变量概率用于度量随机事件的可能性，某个随机试验的所有可能的所有可能的基本结果或基本随机事件ω所构成的集合记为Ω，称为样本空间。

Ω的满足下面三个条件的子集族F 称为样本空间Ω的一个σ代数：（1）F ∅∈（2）若D F ∈，则其补集cD D F =Ω-∈； （3）若(i 1,2,)i D F ⊂=，则1i i D F ∞=∈。

F 中的元素称为Ω的F 可测集或随机事件。

若C 是样本空间Ω的一个子集族，则存在一个Ω的包含C 的最小的σ代数，记为(C)σ，称为由C 生成的σ代数。

由n的所有开集所生成的σ代数称为Borel σ代数，记为nB ，其中的元素称为n中的Borel 集。

定义在F 上的函数[]:0,1P F →称为可测空间(,F)Ω上的概率测度，如果它满足： （1）()1P Ω=；（2）若(i 1,2,)i A F ∈=且(i j)i j A A ⋂=∅≠，则()11i i i i P A P A ∞∞==⎛⎫= ⎪⎝⎭∑。

三元组(),F,P Ω称为概率空间。

若一个概率空间的F 包含Ω的所有P 零外测集，也就是说，如果()(){}*:inf ,0P G P F F F G F =∈⊂=，则G F ⊂，此概率空间称为完备的。

任何一个概率空间都可以通过把其所有P 零外测集加入F 中，并重新定义概率测度来完备化。

第十章
随机过程的基本知识
引例：热噪声电压
一、随机过程的定义
定义1 设E是一随机实验,样本空间S={e}，T为参数集
若对每个eS ,X(e,t)都是实值函数, 则称{X(e,t),t T}
为随机过程，简记为X(t),t T 或X(t),也可记为X(t).
称族中每一个函数称为这个随机过程的样本函数。
样本函数： xi (t ) a cos( t i ) , i (0 , 2 )
状态空间:I=（-a，a）
例3: 掷骰子试验
伯努利过程 （伯努利随机序列）
以上都是随机过程，状态空间都是:I={1，2，3，4，5，6}
二、随机过程的分类
离散型随机过程
1. 依状态离散还是连续分为：
s, t 0, C X ( s, t ) DX [min{s, t }].
④ C X ( s, t ) Cov( X ( s), X (t ))
E[ X ( s) X ( s)][X (t ) X (t )]
为{X(t),tT}的协方差函数.
⑤ Rx(s,t)=E[X(s)X(t)]为{X(t),tT}的自相关函数, 简称相关函数
诸数字特征的关系：
X (t ) f ( x, t )
称 f ( x, t ) 为随机过程的一维密度函数 称{ f ( x, t ), t T } 为一维密度函数族.
X t 0 ，其中 X Y ( t ) te 例4 设随机过程
e( ) ，求
{Y (t ),t 0}的一维密度函数
y P( X ln ) , t 解： F ( y; t ) P[Y (t ) y ] P(te y ) 0 ,

f1(x1, t1)
F1(x1, t1) x1
4
● 随机过程 (t) 的二维分布函数：
F2 (x1, x2 ;t1,t2 , ) P (t1) x1, (t2 ) x2
● 随机过程 (t)的二维概率密度函数：
f2
(x1,
x2 ; t1, t2
)
2F2 (x1, x2;t1,t2 ) x1 x2
Dξ t Eξ 2 t 2atξ t a2 t
E[ξ 2 (t)] 2at Eξ t a2 (t)
E[ξ 2 (t)] a2 (t)
于
均
值
所以 a(t
，) 的方偏差离等程于x度2均f。1方(
x值,
t与)d均x值平[a方(t之)]差2
，
它
表
示
随
机
过
程
在
时
刻
t
对
均方值
均值平方
8
● 相关函数
在通信系统中所遇到的信号及噪声，大多数可视为平稳的随机过程。 因此，研究平稳随机过程有着很大的实际意义。
13
● 2.2 各态历经性 ● 问题的提出：我们知道，随机过程的数字特征（均值、相关函数）是对随 机过程的所有样本函数的统计平均，但在实际中常常很难测得大量的样本， 这样，我们自然会提出这样一个问题：能否从一次试验而得到的一个样本 函数x(t)来决定平稳过程的数字特征呢? ● 回答是肯定的。平稳过程在满足一定的条件下具有一个有趣而又非常有用 的特性，称为“各态历经性”（又称“遍历性”）。具有各态历经性的过 程，其数字特征（均为统计平均）完全可由随机过程中的任一实现的时间 平均值来代替。 ● 下面，我们来讨论各态历经性的条件。
R(t1,t2 ) E[ (t1) (t2 )]

随机过程的理论研究及其应用随机过程是指随机现象的演变过程，通常有时间上的变化，因此也称为随机过程。

它是概率论与数理统计的基本内容之一，应用广泛，包括通信、金融、物理、生物医学等领域。

在本文中，将探讨随机过程的定义和基本特征，介绍几种常见的随机过程，以及它们在不同领域的应用。

一、随机过程的定义和基本特征随机过程的定义是：一组随机变量 {Xt, t∈T}，其中 T 表示时间的集合，称为随机过程。

随机过程可以表示为X(t, ω)，其中t∈T，ω∈Ω，Ω 表示样本空间。

随机过程X(t, ω) 是定义在Ω 上的函数，称为样本函数。

当某个时刻 t0 固定时，随机变量 Xt0 的分布称为时刻 t0 的分布；当某个时刻 t0 和某些时刻组成的集合固定时，随机变量{Xt0, Xt1, …, Xtn} 的分布称为时刻 t0 到 tn 的联合分布。

随机过程具有三个基本特征：状态空间、时间集合和概率分布。

状态空间是随机过程取值的集合，通常用 S 表示；时间集合是随机过程取值时的时间变量，是变量 t 取值的集合；概率分布是随机过程取值的概率分布，描述了随机过程在不同时刻取值的概率。

这三个特征能够描述随机过程的基本性质。

二、几种常见的随机过程1. 马尔可夫过程马尔可夫过程是指满足马尔可夫性质的随机过程。

马尔可夫性质是指在某个时刻 t 的时候，随机变量 Xt 的分布仅依赖于时刻 t 之前的状态，与 t 之前的历史状态无关。

因此，马尔可夫过程可以表示为 P(Xt=x|Xt-1=x(t-1), Xt-2=x(t-2), …)=P(Xt=x|Xt-1=x(t-1))。

马尔可夫过程在物理、生物、金融等领域都有广泛的应用，如布朗运动、电话交换机、天气预报等。

2. 广义随机过程广义随机过程是指随机过程的样本函数不一定是数值函数，可以是其他类型的函数，如泛函、曲线等。

广义随机过程常用于随机振动、随机噪声等领域。

3. 非齐次马尔可夫过程非齐次马尔可夫过程是指马尔可夫过程在不同的时间间隔内，其参数不一定相同，即状态转移概率矩阵随时间变化。

第一章 随机过程的基本概念与基本类型 一．随机变量及其分布1．随机变量X ， 分布函数)()(x X P x F ≤=离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=kpx F )(连续型随机变量X 的概率分布用概率密度)(x f 分布函数⎰∞-=xdt t f x F )()(2．n 维随机变量),,,(21n X X X X =其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 ３．随机变量的数字特征数学期望：离散型随机变量X ∑=k k p x EX 连续型随机变量X ⎰∞∞-=dx x xf EX )(方差：222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差（两个随机变量Y X ,）：EY EX XY E EY Y EX X E B XY ⋅-=--=)()])([( 相关系数（两个随机变量Y X ,）：DYDX B XY XY ⋅=ρ 若0=ρ，则称Y X ,不相关。

独立⇒不相关⇔0=ρ４．特征函数)()(itXeE t g = 离散 ∑=k itx p et g k)( 连续 ⎰∞∞-=dx x f e t g itx )()(重要性质：1)0(=g ，1)(≤t g ，)()(t g t g =-，kk k EX i g =)0( ５．常见随机变量的分布列或概率密度、期望、方差０－１分布 q X P p X P ====)0(,)1( p EX = pq DX = 二项分布 kn k k n q p C k X P -==)( np EX = n p qDX = 泊松分布 !)(k ek X P kλλ-== λ=EX λ=DX 均匀分布略正态分布),(2σa N 22)(21)(σσπa x ex f --=a EX = 2σ=DX指数分布 ⎩⎨⎧<≥=-0,00,)(x x e x f x λλ λ1=EX 21λ=DX６．Ｎ维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N X)}()(21exp{||)2(1),,,(121221a x B a x B x x x f T nn ---=-π),,,(21n a a a a =，),,,(21n x x x x =，n n ij b B ⨯=)(正定协方差阵二．随机过程的基本概念 １．随机过程的一般定义设),(P Ω是概率空间，T 是给定的参数集，若对每个T t ∈，都有一个随机变量X 与之对应，则称随机变量族{}T t e t X ∈),,(是),(P Ω上的随机过程。

(4) 对任意的
x1 x2 , y1 y2
有
F ( x2 , y2 ) F ( x1 , y2 ) F ( x2 , y1 ) F ( x1 , y1 ) 0
39
40
思考题：P13 验证。。。
41
42
写出在条件Y y下 r .v. X的条件分布函数。
(3)式说明 f ( x, y ) f X ( x) fY |X ( y | x) fY (Y ) f X |Y ( x | y )
随机过程及其应用
周伟平 安庆师范学院
2014年秋季
1
课程介绍
教材：
1)随机过程及应用；徐全智，高等教育出版社，2013 2）随机过程及应用；陈良均，朱庆棠；高等教育出版社，2006 3）随机过程教程, 王梓坤编著，高等教育出版社.
2
参考书籍：
1. S. M. Ross著，龚光鲁译，《应用随机过程 概率模型导论》， 第9版，人民邮电出版社，2007 林元烈，《应用随机过程》，清华大学出版社，2002/11 方兆本，缪柏其，《随机过程》，科学出版社，2011/7 A. 帕普里斯等著，保铮等译，《概率、随机变量与随机过程》， 第四版，西安交通大学出版社，2004 Davenport, Jr., Willian B., Probability and Random processes, McGraw-Hill, 1970
43
若二维r .v.( X , Y )，对任意的 x, y , 有 P{ X x, Y y } P{ X x}P{Y y } 等价地有 F ( x, y ) FX ( x ) FY ( y ) 称X与Y相互独立。显然有 X与Y相互独立 f ( x, y ) f X ( x ) f Y ( y ) f X |Y ( x | y ) f X ( x ) f Y | X ( y | x ) f Y ( y )

概率论中的随机过程理论概率论中的随机过程理论是一门研究随机现象变化规律的数学理论。

它以随机变量为主要研究对象，探究了随机变量在时间上的演化和随机演化规律，涉及了概率论、数理统计、微分方程等多个数学领域。

本文将介绍随机过程的基本概念、分类以及常用的数学工具，旨在为读者提供一个初步了解随机过程的入门指南。

一、随机过程的基本概念随机过程可以看作是一系列随机变量的集合，这些随机变量依赖于一个时间参数。

随机过程的基本概念包括状态空间、样本空间、随机变量和随机过程的实现等。

1.1 状态空间状态空间是随机过程中每个随机变量可能取值的集合。

它可以是有限个或者无限个元素的集合，表示了系统所处的不同状态。

1.2 样本空间样本空间是指随机过程的所有可能结果的集合，用Ω表示。

每个结果称为一个样本点，用ω表示。

样本空间包含了所有可能的随机实验的结果。

1.3 随机变量在随机过程中，随机变量是从样本空间到状态空间的映射关系。

它描述了随机过程在每个时间点上可能处于的状态。

随机变量的取值可能是离散的或连续的。

1.4 随机过程的实现随机过程的实现是指给定一个具体的样本空间和状态空间，在随机过程中求解随机变量的具体取值。

它可以看作是实际观测到的一个具体的随机过程。

二、随机过程的分类根据状态空间是否是有限集和时间参数的取值范围是否是离散集合，可以将随机过程分为四类：离散时间离散状态、连续时间离散状态、离散时间连续状态和连续时间连续状态。

2.1 离散时间离散状态离散时间离散状态的随机过程在一系列离散时间点上取离散状态。

比如抛掷骰子的结果可以看作是离散时间离散状态的随机过程。

2.2 连续时间离散状态连续时间离散状态的随机过程在连续时间上取离散状态。

比如某商店每天的销售额可以看作是连续时间离散状态的随机过程。

2.3 离散时间连续状态离散时间连续状态的随机过程在一系列离散时间点上取连续状态。

比如每个月的降水量可以看作是离散时间连续状态的随机过程。

第一章随机变量基础1 历史上哪些学者对随机过程学科的基础理论做出了突出贡献？答: 随机过程整个学科的理论基础是由柯尔莫哥洛夫和杜布奠定的。

这一学科最早源于对物理学的研究，如吉布斯、玻尔兹曼、庞加莱等人对统计力学的研究，及后来爱因斯坦、维纳、莱维等人对布朗运动的开创性工作。

1907 年前后，马尔可夫研究了一系列有特定相依性的随机变量，后人称之为马尔可夫链。

1923 年维纳给出布朗运动的数学定义，直到今日这一过程仍是重要的研究课题。

随机过程一般理论的研究通常认为开始于20 世纪30 年代。

1931 年，柯尔莫哥洛夫发表了《概率论的解析方法》，1934 年A·辛饮发表了《平稳过程的相关理论》，这两篇著作奠定了马尔可夫过程与平稳过程的理论基础。

1953 年，杜布出版了名著《随机过程论》，系统且严格地叙述了随机过程基本理论。

2 全概率公式的含义？答：全概率公式的含义就是各种可能发生的情况的概率之和为1。

3 概率空间有哪几个要素，其概念体现了对随机信号什么样的建模思想？答：样本空间、事件集合、概率函数称为概率空间的三要素。

概率函数建立了随机事件与可描述随机事件可能性大小的实数间的对应关系，因此，概率空间是在观测者观测前对随机事件发生的可能性大小进行了量化，其有效性是通过多次观测体现出来的，也即在多次观测中，某个随机事件发生的频率可直接认为与其发生的概率相等，所以，概率空间的建模思想实际是对大量观测中某随机事件发生频率的稳定性的描述。

4 可用哪些概率函数完全描述一个随机变量？答：概率分布函数（cdf）、概率密度函数（pdf ）、特征函数（cf）、概率生成函数（gf）。

5 可用哪些数字特征部分描述一个随机变量？答：均值、方差、协方差、相关系数和高阶矩。

6 随机变量与通常意义上的变量有何区别与联系？答：随机变量具有通常意义上的变量的所有性质和特征（即变量特性），还增加了变量取每个值的可能性大小的描述（即概率特性）。

随机过程理论与应用随机过程是研究随机变量随时间变化规律的数学工具，广泛应用于各个领域。

随机过程理论不仅是概率论和统计学的一个重要分支，也是现代工程学、自然科学和社会科学的基础理论之一、本文将介绍随机过程的定义、基本理论以及其在不同领域中的应用。

一、随机过程的定义和基本概念随机过程可以理解为一个随机变量的集合，这些随机变量表示其中一随机现象在不同时刻的取值。

随机过程的数学定义是一个由随机变量组成的函数族，其中每个函数是时间的函数。

随机过程可以用X(t)表示，其中t代表时间。

随机过程可以分为离散和连续两类。

离散随机过程是指在一些离散时间点上变化的随机过程，而连续随机过程是指在时间范围内连续变化的随机过程。

随机过程的基本概念包括状态空间、样本路径、独立性和马尔可夫性。

状态空间是指随机过程可能取值的所有状态的集合，样本路径是指具体的一条轨迹，即随机过程在不同时刻的取值序列。

独立性是指在不同时刻上的取值之间没有关联性，马尔可夫性是指给定过去的取值，未来的取值与过去和未来时刻之间的取值无关。

二、随机过程的基本性质和理论随机过程的基本性质包括均值函数、自协方差函数和功率谱密度函数。

均值函数描述了随机过程在不同时刻的取值的平均水平，自协方差函数描述了随机过程在不同时刻的取值之间的相关性，功率谱密度函数描述了随机过程在不同频率上的能量分布。

随机过程的基本理论包括概率密度函数和累积分布函数的计算、马尔可夫性的判定和转移概率的求解。

概率密度函数和累积分布函数的计算用于描述随机过程取值的概率分布，马尔可夫性的判定用于分析随机过程的性质，转移概率的求解用于描述随机过程在不同时刻的状态转移规律。

三、随机过程在不同领域中的应用1.通信工程：随机过程在通信系统中的应用是构建信道模型和分析通信系统的性能。

通信信道往往是一个随机过程，随机过程理论可以用来建立信道模型，并通过计算信道容量、误码率等指标来评估通信系统的性能。

2.金融学：随机过程在金融学中的应用是对资产价格和利率等金融变量进行建模和预测。