随机过程第一章(下)汇总
- 格式:ppt
- 大小:2.84 MB
- 文档页数:61
第一章概论第1题某公共汽车站停放两辆公共汽车A 和B ,从t=1秒开始,每隔1秒有一乘客到达车站。
如果每一乘客以概率21登上A 车,以概率21登上B 车,各乘客登哪一辆车是相互统计独立的,并用j ξ代表t=j 时乘客登上A 车的状态,即乘客登上A 车则j ξ=1,乘客登上B 车则jξ=0,则,21}0{,21}1{====j j P P ξξ当t =n 时在A 车上的乘客数为n n j j n ηξη,1∑==是一个二项式分布的计算过程。
(1)求n η的概率,即;,...,2,1,0?}{n k k P n ===η(2)当公共汽车A 上到达10个乘客时,A 即开车(例如t =21时921=η,且t =22时又有一个乘客乘A 车,则t =22时A 车出发),求A 车的出发时间n 的概率分布。
解(1):nn k n k P ⎟⎠⎞⎜⎝⎛⎟⎟⎠⎞⎜⎜⎝⎛==21}{η 解(2):nn n n P P ⎟⎠⎞⎜⎝⎛⎟⎟⎠⎞⎜⎜⎝⎛−=⎟⎠⎞⎜⎝⎛⎟⎠⎞⎜⎝⎛⎟⎟⎠⎞⎜⎜⎝⎛−==−2191212191A)10n 9A 1-n (}n A {1名乘客登上车时刻第名乘客;在有时刻,车在开车在时刻车第2题设有一采用脉宽调制以传递信息的简单通信系统。
脉冲的重复周期为T ,每一个周期传递一个值;脉冲宽度受到随机信息的调制,使每个脉冲的宽度均匀分布于(0,T )内,而且不同周期的脉宽是相互统计独立的随机变量;脉冲的幅度为常数A 。
也就是说,这个通信系统传送的信号为随机脉宽等幅度的周期信号,它是以随机过程)(t ξ。
图题1-2画出了它的样本函数。
试求)(t ξ的一维概率密度)(x f t ξ。
解:00(1)()()(){()}{()0}[(1),],(0,){()}{[(1),]}{[(1)]}1(1)(1)1({()0}1{()}t A A n n n Tt n T f x P x A P x P t A P P t P t n T nT n T P t A P t n T nT P t n T d TT t n T T nT t T t n Tt n T T t n P t P t A ξδδξξηξηηηξξ−−=−+====∈−∈==∈−+=>−−=−+−=−==−−−=−−−==−==∫是任意的脉冲宽度01)(1)()()()()(1)()t A T tn T Tf x P x A P x t t n x A n x T T ξδδδδ=−−∴=−+⎛⎞⎛⎞=−−+−−⎜⎟⎜⎟⎝⎠⎝⎠第3题设有一随机过程)(t ξ,它的样本函数为周期性的锯齿波。
第一章随机过程 的基本概念与基本类型 一.随机变量及其分布X ,分布函数 F (x) P(X x) 1.随机变量 离散型随机变量 X 的概率分布用分布列 p P(X x k ) F(x)p kf (t)dt分布函数kxX 的概率分布用概率密度 f (x)F(x)分布函数连续型随机变量 2.n 维随机变量 X (X ,X , , X ) 1 2 n F(x) F(x ,x , ,x ) P(X x , X 2 x , , X n x n ,)其联合分布函数 1 2 n 1 1 2 离散型联合分布列连续型联合概率密度3.随机变量 的数字特征 数学期望:离散型随机变量 XEX x p kkXEX xf (x)dx连续型随机变量2DX E(X EX) 2 EX (EX) 2方差:反映随机变量取值 的离散程度协方差(两个随机变量 X ,Y ):B E[( X EX)(Y EY)] E(XY) EX EYXYB XY相关系数(两个随机变量X,Y ):0,则称 X ,Y 不相关。
若XYDX DY独立不相关itXg(t) E(e )itxe p k 连续 g(t)ke itxf (x)dx4.特征函数离散 g(t) 重要性质: g(0) 1,g(t) 1 g( t) g(t),, g (0) i EX kk k5.常见随机变量 的分布列或概率密度、期望、方差 0-1分布 二项分布P( X 1) p,P( X 0) qEX pDX pqP(X k) C p q n kk kEX npDX n p qnk泊松分布P( X k) ek!EXDX均匀分布略( x a)21 2N(a, ) f (x)222EX a正态分布eDX2xe ,x 0 0, x 011指数分布f (x)EXDX2X (X ,X , ,X ) 的联合概率密度 X ~ N(a, B) 6.N维正态随机变量1 2 n11 2T 1(x a) B (x a)}f (x , x , , x n ) exp{ 11 2n 2(2 ) | B |2a (a ,a , ,a ), x (x , x , ,x ), B (b ) 正定协方差阵 1 2 n 1 2 n ij n n二.随机过程 的基本概念 1.随机过程 的一般定义设 ( , P)是概率空间, T 是给定 的参数集,若对每个 t T ,都有一个随机变量 X 与之对应, X(t,e),t T ( , 是P)上 的随机过程。
第一章 随机过程及其分类在概率论中,我们研究了随机变量,n 维随机向量。
在极限定理中我们研究了无穷多个随机变量,但只局限在它们之间相互独立的情形。
将上述情形加以推广,即研究一族无穷多个、相互有关的随机变量,这就是随机过程。
1. 随机过程的概念定义:设),,(P ∑Ω是一概率空间,对每一个参数T t ∈,),(ωt X 是一定义在概率空间),,(P ∑Ω上的随机变量,则称随机变量族});,({T t t X X T ∈=ω为该概率空间上的一随机过程。
其中R T ⊂是一实数集,称为指标集或参数集。
随机过程的两种描述方法: 用映射表示T X ,R T t X →Ω⨯:),(ω即),(⋅⋅X 是一定义在Ω⨯T 上的二元单值函数,固定T t ∈,),(⋅t X 是一定义在样本空间Ω上的函数,即为一随机变量;对于固定的Ω∈ω,),(ω⋅X 是一个关于参数T t ∈的函数,通常称为样本函数,或称随机过程的一次实现,所有样本函数的集合确定一随机过程。
记号),(ωt X 有时记为)(ωt X 或简记为)(t X 。
参数T 一般表示时间或空间。
常用的参数一般有:(1)},2,1,0{0 ==N T ;(2)},2,1,0{ ±±=T ;(3)],[b a T =,其中a 可以取0或∞-,b 可以取∞+。
当参数取可列集时,一般称随机过程为随机序列。
随机过程});({T t t X ∈可能取值的全体所构成的集合称为此随机过程的状态空间,记作S 。
S 中的元素称为状态。
状态空间可以由复数、实数或更一般的抽象空间构成。
实际应用中,随机过程的状态一般都具有特定的物理意义。
例1:抛掷一枚硬币,样本空间为},{T H =Ω,借此定义:⎩⎨⎧=时当出现,时当出现T 2H ,cos )(t t t X π ),(∞+-∞∈t 其中2/1}{}{==T P H P ,则)},(,)({∞+-∞∈t t X 是一随机过程。
连续型随机变量
n维随机变量及其概率分布:
定义:
n维联合分布函数F(x1, x2, , xn)的性质:
随机变量的独立性
若{Xt , t T}是一族离散型随机变量,则独立性等价于
若{Xt , t T}是一族连续型随机变量,则独立性等价于
随机变量的数字特征
数学期望与方差
离散型随机变量的数学期望、方差
连续型随机变量的数学期望、方差
定理
定义
数学期望和方差的性质(6个)
特征函数定义:
离散情形与连续情形下的特征函数常见分布的特征函数(4个)
性质(7个)例题1,2
母函数定义
性质(4个)
拉普拉斯变换定义:
逆转公式与唯一性定理(3个)
四个例性
n 维正态分布定义:
n维正态分布具有如下重要性质:(4个)条件数学期望
条件数学期望性质(5个)
全数学期望公式
常用全数学期望公式
若Y是离散型随机变量:
设某段时间内到达商场的顾客人数N服从参数为λ的泊松分布.每位顾客在该商场的消费额X 服从[a, b]上的均匀分布.各位顾客之间消费是相互独立的且与N 独立.求顾客在该商场总的平均消费额.
已知随机变量X服从[0, a]上的均匀分布,随机变量Y 服从[X, a] 上的均匀分布, 试求。
随机过程课后习题答案第一章第二题:已知一列一维分布{();1}n F x n ≥,试构造一个概率空间及其上的一个相互独立的随机变量序列{(,);1}n n ξ⋅≥使得(,)n ξ⋅的分布函数为()n F x 。
解:有引理:设ξ为[0, 1]上均匀分布的随机变量,F(x)为某一随机变量的分布函数,且F(x)连续,那么1()F x η-=是以F(x)为分布的随机变量。
所以可以假设有相互独立的随机变量12,,...,n θθθ服从u[0, 1]分布,另有分布{()}n F x , 如果令1(,)()n n n F ξθ-⋅=,则有(,)n ξ⋅为服从分布()n F x 的随机变量。
又由假设条件可知,随机变量{(,),1}n n ξ⋅≥之间相互独立,则其中任意有限个随机变量12(,),(,),...,(,)n i i i ξξξ⋅⋅⋅的联合分布为:11221122{(,),(,),...,(,)}()()()i i n in i i i i in in P i x i x i x F x F x F x ξξξ⋅≤⋅≤⋅≤=⋅⋅⋅⋅再令112{,,...,,...},,{|()[0,1],1,2,...}n i i i i w w w w A A x F x i -Ω=∈=∈=,令F 为Ω所有柱集的σ代数,则由Kolmogorov 定理可知,存在F 上唯一的概率测度P 使得:11221122{(,),(,),...,(,)}()()()i i n in i i i i in in P i w i w i w F w F w F w ξξξ⋅≤⋅≤⋅≤=⋅⋅⋅⋅则所构造的概率空间为(Ω,F , P)。
第八题:令{};1n X n ≥是一列相互独立且服从(0,1)N (正态分布)的随机变量。
又令1n n S X X =++22(1)n S n n ξ+=1(,,)n n F X X σ=试证明:,;1n n F n ξ≥()是下鞅(参见23题)。
第一章随机变量基础1 历史上哪些学者对随机过程学科的基础理论做出了突出贡献?答: 随机过程整个学科的理论基础是由柯尔莫哥洛夫和杜布奠定的。
这一学科最早源于对物理学的研究,如吉布斯、玻尔兹曼、庞加莱等人对统计力学的研究,及后来爱因斯坦、维纳、莱维等人对布朗运动的开创性工作。
1907 年前后,马尔可夫研究了一系列有特定相依性的随机变量,后人称之为马尔可夫链。
1923 年维纳给出布朗运动的数学定义,直到今日这一过程仍是重要的研究课题。
随机过程一般理论的研究通常认为开始于20 世纪30 年代。
1931 年,柯尔莫哥洛夫发表了《概率论的解析方法》,1934 年A·辛饮发表了《平稳过程的相关理论》,这两篇著作奠定了马尔可夫过程与平稳过程的理论基础。
1953 年,杜布出版了名著《随机过程论》,系统且严格地叙述了随机过程基本理论。
2 全概率公式的含义?答:全概率公式的含义就是各种可能发生的情况的概率之和为1。
3 概率空间有哪几个要素,其概念体现了对随机信号什么样的建模思想?答:样本空间、事件集合、概率函数称为概率空间的三要素。
概率函数建立了随机事件与可描述随机事件可能性大小的实数间的对应关系,因此,概率空间是在观测者观测前对随机事件发生的可能性大小进行了量化,其有效性是通过多次观测体现出来的,也即在多次观测中,某个随机事件发生的频率可直接认为与其发生的概率相等,所以,概率空间的建模思想实际是对大量观测中某随机事件发生频率的稳定性的描述。
4 可用哪些概率函数完全描述一个随机变量?答:概率分布函数(cdf)、概率密度函数(pdf )、特征函数(cf)、概率生成函数(gf)。
5 可用哪些数字特征部分描述一个随机变量?答:均值、方差、协方差、相关系数和高阶矩。
6 随机变量与通常意义上的变量有何区别与联系?答:随机变量具有通常意义上的变量的所有性质和特征(即变量特性),还增加了变量取每个值的可能性大小的描述(即概率特性)。
第一章:预备知识§1.1 概率空间随机试验,样本空间记为Ω。
定义1.1 设Ω是一个集合,F 是Ω的某些子集组成的集合族。
如果 (1)∈ΩF ;(2)∈A 若F ,∈Ω=A A \则F ; (3)若∈n A F , ,,21=n ,则∞=∈1n nAF ;则称F 为-σ代数(Borel 域)。
(Ω,F )称为可测空间,F 中的元素称为事件。
由定义易知: .216\,,)5)4(111F A A A i F A F B A F B A F i i n i i n i i i ∈=∈∈∈∈∅∞=== ,,则,,,)若(;则若(;定义1.2 设(Ω,F )是可测空间,P(·)是定义在F 上的实值函数。
如果()()()()∑∞=∞==⎪⎪⎭⎫ ⎝⎛∅=⋂≠=Ω≤≤∈1121,,,31210,)1(i i i i j i A P A P A A j i A A P A P F A 有时,当)对两两互不相容事件(;)(;任意则称P 是()F ,Ω上的概率,(P F ,,Ω)称为概率空间,P(A)为事件A 的概率。
定义1.3 设(P F ,,Ω)是概率空间,F G ⊂,如果对任意G A A A n ∈,,,21 ,,2,1=n 有: (),11∏===⎪⎪⎭⎫⎝⎛ni i n i i A P A P则称G 为独立事件族。
§1.2 随机变量及其分布随机变量X ,分布函数)(x F ,n 维随机变量或n 维随机向量,联合分布函数,{}T t X t ∈,是独立的。
§1.3随机变量的数字特征定义1.7 设随机变量X 的分布函数为)(x F ,若⎰∞∞-∞<)(||x dF x ,则称)(X E =⎰∞∞-)(x xdF为X 的数学期望或均值。
上式右边的积分称为Lebesgue-Stieltjes 积分。
方差,()()[]EY Y EX X E B XY --=为X 、Y 的协方差,而 DYDX B XYXY =ρ为X 、Y 的相关系数。
第一章随机过程的基本概念与基本类型一.随机变量及其分布1.随机变量,分布函数离散型随机变量的概率分布用分布列分布函数连续型随机变量的概率分布用概率密度分布函数2.n 维随机变量其联合分布函数离散型联合分布列连续型联合概率密度3 .随机变量的数字特征数学期望:离散型随机变量连续型随机变量方差:反映随机变量取值的离散程度协方差(两个随机变量):相关系数(两个随机变量):若,则称不相关。
独立不相关4•特征函数离散连续重要性质:,,,5 •常见随机变量的分布列或概率密度、期望、方差0 — 1分布二项分布泊松分布均匀分布略正态分布指数分布6.N维正态随机变量的联合概率密度,,正定协方差阵二.随机过程的基本概念1.随机过程的一般定义设是概率空间,是给定的参数集,若对每个,都有一个随机变量与之对应,则称随机变量族是上的随机过程。
简记为。
含义:随机过程是随机现象的变化过程,用一族随机变量才能刻画出这种随机现象的全部统计规律性。
另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的。
当固定时,是随机变量。
当固定时,时普通函数,称为随机过程的一个样本函数或轨道。
分类:根据参数集和状态空间是否可列,分四类。
也可以根据之间的概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等。
2 .随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性。
随机过程的一维分布,二维分布,…,维分布的全体称为有限维分布函数族。
随机过程的有限维分布函数族是随机过程概率特征的完整描述。
在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些统计特征来取代。
(1)均值函数表示随机过程在时刻的平均值。
(2)方差函数表示随机过程在时刻对均值的偏离程度。
(3)协方差函数且有(4)相关函数(3)和(4)表示随机过程在时刻,时的线性相关程度。
(5)互相关函数:,是两个二阶距过程,则下式称为它们的互协方差函数。
,那么,称为互相关函数。
第一章随机过程的基本概念1.设随机过程X(t)=X cosω0t,-∞ <t< +∞,其中ω0是正常数,而X是标准正态变量。
试求X(t)的一维概率分布解:∵当cosω0t=0 即ω0 t =(k + 1)π 即t=1(k+1)π时2 ω0 2p{x(t)=0}=1若 c o ωs0t≠ 0 即t ≠1 (k+ 1 )π时2ω0F (x, t)= P{X (x)≤ x}= P{X cosω0t ≤ x} 当 c o ωs0t> 0 时此时若 c o ωs0t同理有⎧ x ⎫ 1 x - ξ 22F (x, t)= P⎨X ≤ ⎬ = cosω0t e dξ⎩ cosω0t ⎭ 2π⎰0∂F (x, t ) 1 - x2 1f (x, t)= = e 2 c o 2sω 0t⋅∂x c o sω0tπ< 0 时⎧ x ⎫ ⎧ x ⎫F (x, t)= P⎨X ≥ ⎬ = 1 -P⎨x< ⎬⎩ cosω0t⎭ ⎩ cosω0t⎭1 x e- ξ 2= 1 - cosω0t 2 dξ⎰0- x21f (x, t)= - 2 c o 2sω t ⋅c o ωs0t综上当:cosω0t≠0 即t ≠1 (k+ 1 )π时ω0 21 1 - x2f (x, t) e 2 cos2 ω0t| cosω0 t |π2.利用投掷一枚硬币的试验,定义随机过程为⎧cos πt , 出现正面X (t ) = ⎨⎩ 2t , 出现反面1假定“出现正面”和“出现反面”的概率各为 1 2 。
试确定 X (t ) 的一维分布函数 F (x , 2)和 F (x ,1) ,以及二维分布函数 F (x 1 , x 2 ;12 ,1)解:(1)先求 F (x , 1 )2⎧ π 出现正面 ⎧0⎛ 1 ⎫ ⎪cos 2 , 出现正面显然 X⎪ = ⎨= ⎨1出现反面 ⎝ 2 ⎭ ⎪2 - , 出现反面 ⎩12⎩⎛ 1 ⎫随机变量 X ⎪ 的可能取值只有 0,1 两种可能,于是⎝ 2 ⎭⎧ ⎛ 1 ⎫ ⎫ 1⎧ ⎛ 1 ⎫⎫ 1 P ⎨X⎪ = 0⎬ =P ⎨X⎪ = 1⎬ =⎩ ⎝ 2 ⎭⎭ 2 ⎩ ⎝ 2 ⎭⎭ 2所以⎧ 0 x < 0⎛1 ⎫ ⎪ 1F x ,⎪ =⎨ 0 ≤ x < 1⎝2 ⎭ 2⎪1 x ≥ 1⎩再求 F (x ,1)⎧cos π 出现正面 ⎧-1 出现正面显然 X (1) = ⎨= ⎨⎩2出现反面 ⎩2出现反面p {X (1) = -1}= p {X (1) = 2}= 12所以⎧0x < -1⎪ 1F (x ,1) = ⎪-1 ≤ x < 2⎨ 2⎪⎪1x ≥ 2⎩1(2) 计算 F (x 1 , x 2 ; 2 ,1)1 0 出现正面-1 出现正面X () = ⎨出现反面, X (1) = ⎨出现反面2⎩1⎩2于是⎛ 1 ⎫⎧ ⎛ 1 ⎫ ⎫ F x x 1 , x 2 ; ,1⎪ =p ⎨X ⎪ ≤ x 1 ; X (1) ≤ x 2 ⎬⎝2 ⎭⎩⎝ 2 ⎭⎭⎧0 x 1 < 0- ∞ < x 2 < +∞⎪或 x 1 ≥ 0, x 2 < -1⎪⎪ 10 ≤ x 1 < 1, 2 ≤ x 2= ⎨2 ⎪ 或 x 1> 1,⎪ -1 ≤ x 2 < 2⎪⎩1x 1 > 1,x 2 ≥ 23.设随机过程 {X (t ),-∞ < t < +∞}共有三条样本曲线X (t,ϖ1 ) = 1, X (t,ϖ 2 ) = sin t , X (t,ϖ 3 ) = cos t且 p(ϖ1 ) = p(ϖ 2 ) = p(ϖ 3 ) = 1 , 试求随机过程 X (t ) 数学期望 EX(t) 和相关函数3 R x (t 1,t 2)。