下载文档原格式
第一章随机过程 的基本概念与基本类型 一．随机变量及其分布X ，分布函数 F (x) P(X x) 1．随机变量 离散型随机变量 X 的概率分布用分布列 p P(X x k ) F(x)p kf (t)dt分布函数kxX 的概率分布用概率密度 f (x)F(x)分布函数连续型随机变量 2．n 维随机变量 X (X ,X , , X ) 1 2 n F(x) F(x ,x , ,x ) P(X x , X 2 x , , X n x n ,)其联合分布函数 1 2 n 1 1 2 离散型联合分布列连续型联合概率密度３．随机变量 的数字特征 数学期望：离散型随机变量 XEX x p kkXEX xf (x)dx连续型随机变量2DX E(X EX) 2 EX (EX) 2方差：反映随机变量取值 的离散程度协方差（两个随机变量 X ,Y ）：B E[( X EX)(Y EY)] E(XY) EX EYXYB XY相关系数（两个随机变量X,Y ）：0，则称 X ,Y 不相关。
若XYDX DY独立不相关itXg(t) E(e )itxe p k 连续 g(t)ke itxf (x)dx４．特征函数离散 g(t) 重要性质： g(0) 1，g(t) 1 g( t) g(t)，， g (0) i EX kk k５．常见随机变量 的分布列或概率密度、期望、方差 ０－１分布 二项分布P( X 1) p,P( X 0) qEX pDX pqP(X k) C p q n kk kEX npDX n p qnk泊松分布P( X k) ek!EXDX均匀分布略( x a)21 2N(a, ) f (x)222EX a正态分布eDX2xe ,x 0 0, x 011指数分布f (x)EXDX2X (X ,X , ,X ) 的联合概率密度 X ~ N(a, B) ６．Ｎ维正态随机变量1 2 n11 2T 1(x a) B (x a)}f (x , x , , x n ) exp{ 11 2n 2(2 ) | B |2a (a ,a , ,a )， x (x , x , ,x )， B (b ) 正定协方差阵 1 2 n 1 2 n ij n n二．随机过程 的基本概念 １．随机过程 的一般定义设 ( , P)是概率空间， T 是给定 的参数集，若对每个 t T ，都有一个随机变量 X 与之对应， X(t,e),t T ( , 是P)上 的随机过程。
第一章随机过程本章主要内容：随机过程的基本概念●随机过程的数字特征●随机过程的微分和积分计算●随机过程的平稳性和遍历性●随机过程的相关函数及其性质●复随机过程●正态分布的随机过程第一章我们介绍了随机变量，随机变量是一个与时间无关的量，随机变量的某个结果，是一个确定的数值。
例如，骰子的6面，点数总是1～6，假设A面点数为1，那么无论你何时投掷成A面，它的点数都是1，不会出现其它的结果，即结果具有同一性。
但生活中，许多参量是随时间变化的，如测量接收机的电压，它是一个随时间变化的曲线；又如频率源的输出频率，它随温度变化，所以有个频率稳定度的范围的概念（即偏离标称频率的最大范围）。
这些随时间变化的随机变量就称为随机过程。
显然，随机过程是由随机变量构成，又与时间相关。
1.1 随机过程的基本概念及统计特性1.1.1 随机过程的定义现在我们进一步论述随机过程的概念。
当对接收机的噪声电压作“单次”观察时，可以得到波形)(1t x ，也可能得到波形)(2t x ，)(3t x 等等，每次观测的波形的具体形状，虽然事先不知道，但肯定为所有可能的波形中的一个。
而这些所有可能的波形集合)(1t x ，)(2t x ，)(3t x ，…，)(t x n ，…..，就构成了随机过程)(t X 。
图1.1 噪声电压的起伏波形1． 样本函数：)(1t x ，)(2t x ，)(3t x ，…，)(t x n ，都是时间的函数，称为样本函数。
2． 随机性：一次试验，随机过程必取一个样本函数，但所取的样本函数带有随机性。
因此，随机过程不仅是时间t 的函数，还是可能结果ζ的函数，记为),(ζt X ，简写成)(t X 。
3．随机过程的定义：定义1把随机过程看成一族样本函数。
4．定义的理解上面两种随机过程的定义，从两个角度描述了随机过程。
具体的说，作观测时，常用定义1，这样通过观测的试验样本来得到随机过程的统计特性；对随机过程作理论分析时，常用定义2，这样可以把随机过程看成为n 维随机变量，n越大，采样时间越小，所得到的统计特性越准确。
概率论与随机过程（工程硕士生60学时）教材及主要参考书：1．《随机过程》刘次华著，华中理工大学出版社出版。
2．《概率论与数理统计》浙江大学编，高等教育出版社出版。
3．《概率论与数理统计》同济大学编，高等教育出版社出版。
第一章 概率论第一节 预备知识一、排列与组合问题（一） 排列问题的提法：从n 个不同元素n a a a ...,21中任取r 个)(n r ≤，按先后顺序把它们排列，共有多少种不同的排列？分析：第一个位置有n 种取法，第二个位置有1-n 种取法，…第r 个位置有1+-r n 种取法，则共有：rn A r n n r n n n =-=+--)!(!)1()1(（二） 组合问题的提法：从n 个不同元素n a a a ...,21中任取r 个（n r ≤），不按先后顺序得到一种组合，共有多少中不同的组合？分析：由于不按先后顺序，因此r r a a a a 121- 与121a a a a r r -是同一组合，因此一种组合对应!r 种排列，共有：!)1()1(r r n n n +-- =)!(!!r n r n -=rn C 二、集合论（不妨假设所有集合全为Ω的子集）（一）A B ⊂，A 是B 的子集，即集合A 的元素全部属于集合B 。
例：{}全体实数=R {}全体自然数=N 则：R N ⊂（二）B A =B A ⊂⇔且A B ⊂分析：定义蕴涵了证明两个集合相等的方法。
（三）B A C =或B A C +=，即集合C 包含集合A 和集合B 的全部元素，但不包含其它元素。
例：{}全体有理数=A {}全体无理数=B 则：{}R B A C ==+=全体实数 1．运算规律（1）交换律 A B B A =（2）结合律 )()(C B A C B A =特别地：若B A ⊂，则：B B A =A A =Φ Ω=Ω A A A A =2．推广情形集合的并运算可以推广到有限个、可数多个甚至到不可数情形，为了阐述清楚，下面补充可数集合的定义。
第一章预备知识
解释与说明
◆随机过程以概率论、线性代数、微积分为学科基础
1.1 特征函数
◆复数z=a+ib,其中a,b为实数，z̅=a−ib称为z的共轭复数
zz̅=a2−b2, 复数z的模|z|=√a+b
欧拉公式e z=e a(cosb+isinb)
◆随机变量的特征函数ϕ(t)=E(e itX)
例设有随机事件X的分布律为
X的特征函数为
ϕ(t)=E(e itX)=e it×0.2+e i2t×0.5+e i3t×0.3
=e it(0.2+e it×0.5+e i2t×0.3)
◆多为随机向量的均值向量和协方差矩阵，以二维情形为例
设X=(X1,X2)T，则
数学期望向量E(X)=(EX1,EX2)T
协方差矩阵Var(X)=E[(X−E(X))(X−E(X))T]
=E{(X1−EX1
X2−EX2)((X1−EX1),(X2−EX2))}
=E((X1−EX1)2(X1−EX1)(X2−EX2)
(X2−EX2)(X1−EX1)(X2−EX2)2
)
=(σ11σ12
σ21σ22)≜Σ
其中，σ11,σ22分别是X1和X2的方差，σ12=σ21是X1和X2的协方差cov(X1,X2)
例如有X=(X1,X2)T，联合分布律为
可见E(X1)=0×0.6+1×0.4=0.4
E(X2)=0×0.3+1×0.3+2×0.4=1.1
数学期望向量E(X)=(EX1,EX2)T=(0.4,1.1)T
又σ11=D(X1)=E(X12)−(E(X1))2=0.4−0.42=0.24
σ22=D(X2)=E(X22)−(E(X2))2=1.9−1.12=0.69
σ12=σ21=cov(X1,X2)=E(X1X2)−E(X1)E(X2)
=0×0.8+1×0.1+2×0.1−0.4×1.1=−0.14
协方差矩阵Σ=Var(X)=(0.24−0.14
−0.140.69)
Σ被称为协方差矩阵，它既是对称矩阵，也是正定矩阵，根据线性代数有关知识，存在正交矩阵B，使得Σ=BB T
◆多维随机向量之间的相互独立，以二维情形为例
设有二维随机变量X=(X1,X2),Y=(Y1,Y2)，若对任意x1,x2,y1,y2，有
F XY(x1,x2,y1,y2)=F X(x1,x2)F Y(y1,y2)
称(X1,X2)与(Y1,Y2)相互独立
1.2 多元正态分布
掌握定理1.2.1和定理1.2.2的结论
◆若n维随机向量(X1,X2,⋯,X n)T服从正态分布N(μ,Σ)，则n为密度函数为
f(x)=
1
√2π
n√|Σ|
{−
1
2
(x−μ)TΣ−1(x−μ)}
◆若n维随机向量X=(X1,X2,⋯,X n)T服从正态分布N(μ,Σ)，则X的任意线性
组合l T X服从一维正态分布，其中l T是常数n维向量
1.3 条件分布与条件期望
条件分布律
求{Y=3}的条件下X的条件分布律
P (X =0Y =3⁄)=P(X=0,Y=3)P(Y=3)=0.30.4=3
4 P (X =1Y =3⁄)=
P(X=1,Y=3)P(Y=3)
=0.1
0.4=1
4
求P(Y =2)的条件下，X 的条件分布律？
习题一
1.1 设随机变量变量X 服从参数为λ的指数分布，求X 的特征函数。
解 已知X 的密度函数为
{λe −λx , x >0
0, 其它
X 的特征函数为
ϕ(t )=E(e
itX
)=∫λe
−λx e
itx
dx =λ∫e −(λ−it )x dx ∞
∞
=−λ
λ−it ∫e −(λ−it )x d((it −λ)x)∞
0 =−λ
λ−it e −(λ−it )x |0∞
=λ
λ−it
1.6 设X 1,X 2,⋯,X n 相互独立且服从相同的正态分布N(μ,σ2)，求1
n ∑X i n i=1的密度函数。
解 首先X =(X 1,X 2,⋯,X n )服从独元正态分布N(μ⃗,Σ)，其中数学期望向量为 μ⃗=(μ,μ,⋯,μ )T
因为X 1,X 2,⋯,X n 相互独立，所以协方差矩阵为 Σ=(σ2⋯0⋮
⋱⋮0⋯
σ2
) 记X
̅=1
n ∑X i
, l
⃗=((1
n ,
1n
,⋯,1
n ))T
n i=1，则根据定理1.2.2，知X
̅服从正态分布，记为N(μ0,σ02
)，且
X ̅的数学期望 μ0=l ⃗T ∙μ⃗=(1
n ,⋯,1
n )(μ
⋮μ
)=μ
X̅的方差σ02=l⃗TΣl⃗=(1
n ⋯1
n
)(
σ2⋯0
⋮⋱⋮
0⋯σ2
)(
1
n
⋮
1
n
)=σ2
n
因此，X̅的密度函数为
f(x)=
√2πσ{−(x−μ0)2
2σ02
}=√n
√2πσ
{−n(x−μ)2
2σ
}。
