概率论与随机过程第2章(10)

北邮概率论与随机过程笔记北邮概率论与随机过程笔记第一章绪论1.1 概率论的起源与发展1.2 概率的基本概念1.3 概率论的应用领域1.4 随机过程的起源与发展1.5 随机过程的基本概念1.6 随机过程的应用领域第二章概率论的基本概念2.1 随机试验与随机事件2.2 频率与概率2.3 古典概型2.4 贝叶斯概型2.5 随机变量2.6 随机变量的函数及其分布2.7 条件概率与条件分布2.8 独立性第三章随机变量及其分布3.1 离散型随机变量及其分布3.2 连续型随机变量及其分布3.3 随机变量的数学期望3.4 随机变量的方差与标准差3.5 随机变量的矩与生成函数3.6 概率母函数与特征函数3.7 大数定律与中心极限定理第四章多维随机变量及其分布4.1 多维随机变量及其分布函数4.2 联合分布函数与边缘分布函数4.3 多维离散型随机变量的分布4.4 多维连续型随机变量的密度4.5 条件分布与独立性4.6 随机变量的矩与协方差矩阵4.7 多维随机变量的生成函数与特征函数第五章数理统计基本概念5.1 数理统计的概念与作用5.2 参数估计与假设检验5.3 点估计与区间估计5.4 最大似然估计5.5 矩估计5.6 假设检验5.7 重要的假设检验第六章随机过程基本概念6.1 随机过程的概念与分类6.2 随机过程的样本函数与轨道6.3 随机过程的数学描述6.4 平稳性与各态平衡性6.5 随机过程的独立增量性与平稳增量性第七章随机过程的数学描述7.1 随机过程的数学描述7.2 随机过程的分布函数、密度函数与生成函数7.3 平稳随机过程的均值序列与相关函数7.4 广义平稳随机过程7.5 随机过程的协方差函数与自相关函数7.6 平稳随机过程的功率谱第八章马尔可夫链8.1 马尔可夫链的概念8.2 马尔可夫链的数学描述8.3 长期行为与不可约性8.4 平稳分布与转移概率矩阵8.5 极限分布与转移概率8.6 马尔可夫链的细致平衡方程第九章扩散过程9.1 扩散过程的概念与分类9.2 布朗运动与维纳过程9.3 平稳扩散过程与布朗桥9.4 非平稳扩散过程9.5 随机微分方程及其应用第十章随机过程的数值计算10.1 随机过程的模拟方法10.2 马尔可夫链模拟10.3 扩散过程的数值模拟第十一章随机过程的应用11.1 队列论与排队模型11.2 信道容量与信息论11.3 金融工程与随机过程11.4 生物与生态系统中的随机过程11.5 电力系统中的随机过程第十二章最优控制问题12.1 动态规划问题与最优控制12.2 马尔可夫控制问题12.3 黑塞矩阵与二次型控制问题第十三章随机过程的其他扩展13.1 小波分析与随机过程13.2 分数阶随机过程13.3 非高斯与非马尔可夫随机过程总结：北邮的概率论与随机过程课程涵盖了概率论和随机过程的基础知识和应用，对于理解随机现象和建立数学模型具有重要的意义。

复随机过程的性质
复随机过程{XT,,t∈T}的协方差函数B(s,t)具有性质： （1）对称性（埃米特性）， B(s, t ) = B(t, s) （2）非负定性，对任意ti ∈T及复数ai，i=1,2, …,n，n≥1，有
n i , j =1
∑ B (t Βιβλιοθήκη tij)ai a j ≥ 0
说明： 1. 如果函数f(s,t)具有非负定性，那么它必具有埃米特性。 2. 若f(s,t)为一非负定函数，则必存在一个二阶矩过程（并可要 求它为正态过程）以给定的f(s,t)为协方差函数。
两个复随机过程{Xt}，{Yt}的互相关函数定义为
R XY ( s , t ) = E ( X s Yt )
互协方差函数定义为
B XY ( s , t ) = E [ X s m X ( s )] [Yt m Y ( t )]
例题2.9 2.9 设随机过程 Zt =
n
∑
k =1
X k ei kt , t ≥ 0 ，其中X1,X2, …,Xn是相互独立的，且
两个随机过程{X(t),t∈T}与{Y(t), t∈T}的互不相关定义
B XY ( s , t ) = 0
互协方差函数与互相关函数之间的关系
B XY ( s , t ) = R XY ( s , t ) m X ( s ) m Y ( t )
例题2.7 设有两个随机过程X(t)=g1(t+ε)和Y(t)=g2(t+ε)，其中g1(t)和g2(t)都是周期 为L的周期方波，ε是在(0,L)上服从均匀分布的随机变量，求互相关函 数RXY(t,t+τ)的表达式。 例题2.8： 设X(t)为信号过程，Y(t)为噪声过程，令W(t)=X(t)+Y(t)，求W(t)的均值 函数和相关函数。

第一节集合代数和σ-代数集合代数和σ-代数1.1.1 Ω是任一非空集合，AΩ的一些子集组定义设是任非集合是由的子集成的非空集合类，若A 满足：1.Ω∈A；3.若A，B∈A，有A∪B∈A（有限并运算封闭）；2.若A∈A，有A∈A（余运算封闭）；则称A是Ω上的一个集合代数，简称集代数。

定的些子集组成的非空集合类则定理1.1.1设A是由Ω的一些子集组成的非空集合类，则：1.若A是由Ω的集代数⇔A是包含Ω且对余运算和有限交运算封闭；2.AΩ⇔A是包含Ω且对差运算封闭。

2011-9-26北京邮电大学电子工程学院1若是由的集代数是含对算封闭第一节集合代数和σ-代数定义1.1.2设Ω是任一非空集合，A 是由Ω的一些子集组成的非空集合类，若A 满足：1.Ω∈A2.若A ∈A ，有A ∈A （余运算封闭）；若∈A =∈∞∪A 则称A 是Ω上的一个σ-代数。

3.A ，有A （可列并运算封闭）k ()1,2,k =1k k 2011-9-26北京邮电大学电子工程学院2第一节集合代数和σ-代数单调类定义1.1.4设A 由Ω的一些子集组成的非空集合类，且满足：()A A ∈↑⊂⊂=∈∞=∪ 12121,n n n n A A A A ,,n A ，则以后表为，　1.若∞()A A ∈↓⊃⊃=∈=∩ 12121,n n n n A A A A ,,n A ，则以后表为，　2.若称A 是Ω上的一个单调类。

2011-9-26北京邮电大学电子工程学院3定理1.1.5σ-代数是单调类；若一集代数是单调类，则它是σ-代数。

定理1.1.6若A是集代数，则：σ(A)μ(A))=2011-9-26北京邮电大学电子工程学院4第节集合代数和σ代数第一节-代数有时验证某集合类是否为包含某集代数的单调类也比较困难，因此再引入λ-系、π-系的概念，借助于λ-系、π-系来判断某一集代数是否为单调类，从而进一步判断这个系来判断某集代数是否为单调类从而进步判断这个集合类是否为σ-代数，以保证该σ-代数中的每一个集合都是随机事件，那么该σ-代数即为概率函数的定义域。

第二章 随机过程的一般概念2.1 随机过程的基本概念和例子定义2.1.1：设(P ,,F )Ω为概率空间，T 是某参数集，若对每一个，是该概率空间上的随机变量，则称为随机过程(Stochastic Process)。

T t ∈),(w t X ),w t (X 随机过程就是定义在同一概率空间上的一族随机变量。

随机过程可以看成定义在),(w t X Ω×T 上的二元函数，固定Ω∈0w ，即对于一个特定的随机试验，称为样本路径(Sample Path)，或实现(realization)，这是通常所观测到的过程；另一方面，固定，是一个随机变量，按某个概率分布随机取值。

),(0w t X T t ∈0),(0w t X抽象一点：令，即∏∈=Tt T R R T R 中的元素为),(T t x X t t ∈=,为其Borel域(插乘)(T R B σ域)，随机过程实质上是()F ,Ω到())(,T T R R B 上的一个可测映射，在())(,T TR RB 上诱导出一个概率测度：T P ()B X P B P R B T T T ∈=∈∀)(),(B 。

一般代表的是时间。

根据参数集T 的性质，随机过程可以分为两大类： t 1)为可数集，如T {}L ,2,1,0=T 或{}L L ,1,0,1,−=T ，称为离散参数随机过程，也称为随机序列；2)为不可数集，如T {}0≥=t t T 或{}∞<<∞−=t t T ，称为连续参数随机过程。

随机过程的取值称为过程所处的状态(State)，所有状态的全体称为状态空间(State Space)。

通常以表示随机过程的状态空间。

根据状态空间的特征，一般把随机过程分为两大类：T t t X ∈),(S 1) 离散状态，即取一些离散的值； )(t X 2)连续状态，即的取值范围是连续的。

)(t X离散参数离散状态随机过程： Markov 链 连续参数离散状态随机过程： Poisson 过程 离散参数连续状态随机过程： *Markov 序列连续参数连续状态随机过程： Gauss 过程，Brown 运动例2.1.1：一醉汉在路上行走，以的概率向前迈一步，以q 的概率向后迈一步，以p r 的概率在原地不动，1=++r q p ，选定某个初始时刻，若以记它在时刻的位置，则就是直线上的随机游动(Random Walk)。