概率论与随机过程讲义_图文

上
海 大
解: 设A：第一次取到次品；
AB
学
B：第二次取到次品。
通 第一次取走一只次品后，
信 盒中还剩下9只产品，其中
A
___
AB
学 院
只有2个次品，故
PB/ A 2.
B S
9
又 BAB AB，且 (AB)(AB)故
P (B ) P (A ) B P (_ A _ B )_ 32 733 19 019 010
P B /A P (B )
上 海 大 学
❖ 从样本空间分析： 第一次抽取时的样本空间
S e 1,次 e2品 , e3,e 4,正 ... e品 10,
通
信
学 院 当A发生后，S缩减为
SA e i次 1 ,e 品 i2, ,e 4,正 ... e品 10,
信 概率是多少?
学
院
类型 W(白)
R(红) 共计
N(新)
40
30
70
O(旧)
20
共计
60
10
30
40
100
解: 按题意,即求P(W/N)=? 1) 在缩减样本空间N中考虑计算:P(W/N)=40/70=4/7。
2) 用公式求解:P(W/N)= P(WN)/ P(N)= 40/100 4 70/100 7
上
海 有关条件概率的三定理
大
学 1. 概率的乘法定理:
通 信
设A、B∈S，P（A）>0,则
学 院
P(AB)＝P(A)P(B|A)。
可推广到三个事件的情形：
A、B、C∈S，P（AB）>0，则有
P(ABC)＝P(A)P(B|A)P(C|AB).

P (Ω ) = 1 ；
对任意两两不交的至多可数集 {An } ⊂ F ， P⎛ ⎜ U An ⎞ ⎟ = P ( An ) ⎝n ⎠ ∑ n
称 P(⋅) 为 F 上的概率测度， (Ω, F , P) 称为概率空间。
1
1.4 随机变量的概念 定义：设 (Ω, F , P ) 为一概率空间， X = X ( w) 为 Ω 上的一个实值函数，若对 任意实数 x ，X −1 ((−∞, x) ) ∈ F ， 则称 X 为 (Ω, F , P ) 上的一个 （实） 随机变量。 称 F ( x) = P( X < x ) = P( X ∈ (−∞, x)) = P X −1 ((−∞, x) ) 为随机变量 X 的 分布 函数。 随 机 变 量 实 质 上 是 (Ω, F ) 到 (R, B ( R ) ) 上 的 一 个 可 测 映 射 ( 函 数 ) 。 记
_______
2
α 1 , α 2 Lα m ， ∑∑ ϕ (t l − t k )α l α k ≥ 0 ；
l =1 k =1
m
m
5) ϕ ( w) 为 R n 上的连续函数。 6) 有限多个独立随机变量和的特征函数等于各自特征函数的乘积； 7) 设 X = (ξ1 , Lξ n ) 为 n 维 随 机 向 量 ， 特 征 函 数 为 ϕ ( w1 ,L wn ) , 则
n→∞
敛到随机变量 X ；
2)
若 E X n 存在， 且 lim E X n − X
n→∞
p
p
则称 X 1 , X 2 , L X n ,L p 阶收敛到 = 0，
随机变量 X ，特别当 p = 2 ，称为均方收敛。
3) 4)
若 P lim X n = X = 1 ，称 X 1 , X 2 , L X n ,L 几乎必然收敛到随机变量 X 。

3
一维、二维或一般的多维随机变量的研究是概率论的研究内容，而 随机序列、随机过程则是随机过程学科的研究内容。从前面的描述中看 到，它的每一样本点所对应的，是一个数列或是一个关于t的函数。
定义：设T是一无限实数集，X (e,t), e S,t T是对应于e和t的实数，
即为定义在S 和T 上的二元函数。
DX
(t)
E
[ X (t) X (t)]2
---方差函数
X (t)
2 X
(t
)
---标准差函数
又设任意t1,t2 T RXX (t1,t2 ) E[ X (t1) X (t2 )] (自)相关函数
CXX (t1,t2 ) Cov[ X (t1), X (t2 )]
E [ X (t1) X (t1)][ X (t2 ) X (t2 )] (自)协方差函数
定义： X (t),t T是一随机过程，若它的每一个有限维分布
都是正态分布，即对任意整数n 1及任意t1,t2,
X (t1), X (t2 ), X (tn )服从n维正态分布， 则称X (t),t T是正态过程
tn T ,
正态过程的全部统计特性完全由它的均值函数和自协方差函数所确定。
16
例3：设A, B是两个随机变量，试求随机过程:
当A
N 1,4, B
U 0, 2时，E(A) 1, E( A2 ) 5, E(B) 1, E(B2)
4 3
又因为A, B独立， 故E(AB) E(A)E(B) 1
X (t) t 3, RX (t1, t2 ) 5t1t2 3(t1 t2 ) 12 t1, t2 T
17
例4：求随机相位正弦波X (t) acos(t ) t ,

2.
3.
随 机 试 验
1、可以在相同的条件下重复地进行；
2、每次试验的可能结果不止一个，并且能事 先明确试验的所有可能结果； 3、进行一次试验之前不能确定那一个结果会现。 在概率论中，我们将具有上述三个特点的验 称为随机试验。 本书中以后提到的试验都是指随机试验。
样 本 空 间
对于随机试验，尽管在每次试验之前不能预 知试验的结果，但试验的所有可能结果组成的 集合是已知的，我们将随机试验E的所有可能 结果组成的集合称为E的样本空间，记为S。样 本空间的元素，即E的每个结果，称为样本点。
古典概型的计算公式
设试验的样本空间为
包含 k 个基本事件，即
S = {e1 , e 2 , L , e n }, 事件 A
A=
∑ A ，且有
j =1
j
k
1 ≤ i1 < i 2 < L i k ≤ n ，则有
P(A = ∑P( ej )
j= 1 k
{ }
k A包 的 本 件 含 基 事 数 )= = n S中 本 件 总 基 事 的 数
例1·2·3 设A、B、C是S中的随机事件
事件“A与B发生，C不发生”可以表示成 “A、B、C中至少有二个发生”可以表示成 A、B、C中恰好发生二个”可以表示成 “A、B、C中有不多于一个事件发生”可以表示成
事件的运算
A 1、交换律： U B = B U A, AB = BA 、交换律：
2、结合律：A( BC ) 、结合律：
A= A
A U A = S, AA = Φ A ⊂ B ⇔ A − B = AB
8、子集的等价表示 A U B = B ⇔ AB = A 、 9、反演律（德·摩根律） 、反演律（ 摩根律 摩根律）

检验水平:(给定的小量)
双边检验
第一步 提出假设 H0: =0(原假设); H1: 0(备选假设).
第二步 构建检验统计量
U X 0 ~ N 0,1
/ n
第三步 确定拒绝域
P{| U
|
z1
2
}



u
(, z12
)
(z12
, )
第四步 由样本提供的信息计算出 u x 0 的值,
n 1 2
25
所以，该体院男生脉搏的95%的置信区间为 [66.1 , 71.1]
例1 某糖厂有一台自动打包机打包, 额定 标准每包质量为100kg. 设包质量服从正态 分布,且根据以往经验, 其方差2＝(0.4)2. 某天开工后, 为检查打包机工作情况, 随机 地抽取9包,称得质量(单位：kg)如下：
从性能上看, 估计折断力的方差不会发生变化, 问这批铜丝的折断力是否比以往生产的铜丝的 折断力较大？(取=0.05)
解：(1)假设 H0 : 570 H1 : 570
(2)计算统计量 x 570 的值，
/ n
x 先算出 ＝575.2
x 570 575.2 570 2.055
由第七章定理四得 T x ~ tn 1 s/ n
所以在H0为真时,

T

x 0
~
tn 1
s/ n
类似于前面的讨论，采用双边检验，对于给
定的检验水平，查t(n-1)表得
t
n 1

1
2
使得
P{T t (n 1)} 1
1 2
2
P{| T | t1 (n 1)} 1

知识到哪里去?
如何运用概率论与随机过程的理论知识解决通信 中的实际问题？

举例说明
..\2005\应用举例.ppt
2017/11/2 北京邮电大学电子工程学院 3
第一章 概率空间
首先，回顾初等概率论的一些基本概念：

随机试验 E ，满足如下条件： 在相同条件下可重复进行； 一次试验结果的随机性——不可预知性； 全体可能结果的可知性。 样本空间Ω——随机试验所有可能的结果组成的集合。 样本点 ——Ω中的元素。 随机事件——样本空间Ω的子集合，称为事件。 基本事件——Ω中每个样本点所构成的单点集。 必然事件——Ω本身。 不可能事件——不包含任何元素的空集合Φ。
2017/11/2 北京邮电大学电子工程学院 10
第一节 集合代数和σ -代数
二、包含某一集合类的最小σ -代数
C是由Ω的一些子集组成的非空集合类，那么至 少存在一个σ -代数包含C。为什么？
。 由于 F 是一个σ -代数，且C F
是否存在最小的σ -代数？若存在，是否唯一？
2017/11/2
F的结构？在F上的概率如何构造？这是本章将要讨论的主 要问题，为此我们必须引入测度论的概念。
2017/11/2 6
北京邮电大学电子工程学院
第一节 集合代数和σ -代数
一、集合代数和σ -代数
定义1.1.1 设Ω是任一非空集合， A是由Ω的一些子集组成 的非空集合类，若A满足：
1. Ω A ；
2. 若AA ，有 A A （余运算封闭）； 3. 若 A, B ∈ A ，有 A B A （有限并运算封闭）； 则称A是Ω上的一个集合代数，简称集代数。 容易证明集代数对有限交运算也封闭，即：

P(X u,Y u) P(X u)P(Y u)
FX (u)FY (u)
FN (v) P(min{X ,Y} v) 1 P(min{X ,Y} v) 1 P(X v,Y v) 1 P(X v)P(Y v)
1 (1 FX (v))(1 FY (v))
例2 已知 ( X ,Y ) 的联合密度函数为
3x, 0 x 1, 0 y x
f
(x,
y)


0,
其他
Z = X + Y ,求 f Z (z) 解：（图形定限法）
由公式（1）

fZ (z) f (x, z x)dx
f
(x,
z

x)

3x,

0,
0 x 1,0 z x x 其他
f (x, y)dxdy
1
x yz
x
当z < 0 时，
FZ (z) 0
当0 z < 1 时，
fZ (z) BA f (x, y)dy

2
0
1dy
z
y 1
•z •z
1 x
当1 z < 2 时，
fZ
(z)

1
z 1
1dy
fZ (z) 2 z
y 1 •z
1 ex
n j1
jk
n Cnjjejx 1 ex n j
jk
n Cnj jejx 1 ex n j
jk 1
Cnk kekx (1 ex )nk
f
X
(
x)

Cnk

2
主要内容
随机过程的定义
随机过程的分类
按统计特性是否变化分为平稳随机过程和非平稳随机过程 按照是否具有记忆性分为纯粹随机过程、Markov过程、独 立增量过程 按照一阶变差是否有限分类：若随机过程{t}t≥0的一阶 变差有限，称为有界变差过程。 按照二阶矩是否有限分类：若随机过程的均值和方差都有 限，称为二阶矩过程，例如前面提到的宽平稳过程。 3 按照概率分布特征分类：如Weiner过程，Poission过程等。
随机过程的分类——平稳随机过程
按统计特性是否变化分为平稳随机过程和
非平稳随机过程
统计特性不随时间变化而变化的随机过程，
称为平稳过程，否则，统计特性随时间变化而变化
的随机过程，称为非平稳过程。
平稳过程的严格定义为：对于时间t 的n个
任意的时刻t1,t2,…,tn 和任意实数C，若随机过程
{t }t≥0的分布函数满足
例如：如果有两列时间序列数据表现出一致的 变化趋势（非平稳的），即使它们没有任何有意义 的关系，但进行回归也可表现出较高的可决系数。
在现实经济生活中：
情况往往是实际的时间序列数据是非平稳的， 而且主要的经济变量如消费、收入、价格往往表现 为一致的上升或下降。这样，仍然通过经典的因果 关系模型进行分析，一般不会得到有意义的结果。12
宽平稳的不变性表现在统计平均的一、二阶
矩上，而平稳过程的不变性表现在统计平均的概率
分布上，所以二者不同，并且不能由平稳随机过程
得到宽平稳随机过程。二阶矩存在的平稳随机过程
一定是宽平稳随机过程。
6
§3.1 时间序列的平稳性及其检验
一、问题的引出：非平稳变量与经典回归模型 二、时间序列数据的平稳性 三、平稳性的单位根检验 四、单整、趋势平稳与差分平稳随机过程

06
随机过程的未来发展与挑战
随机过程理论的发展趋势
随机过程与大数据的结合
随着大数据技术的快速发展，如何将随机过程与大数据分 析相结合，挖掘出更多有价值的信息和模式，是未来的一 个重要研究方向。
复杂系统中的随机过程
研究复杂系统中的随机过程，如金融市场、生态系统、社 交网络等，以揭示其内在的运行规律和动态特性。
02
随机过程的基本ቤተ መጻሕፍቲ ባይዱ型
独立增量过程
总结词
描述随机过程中事件发生次数随时间变化的过程，其中每次事件的发生都是独立 的。
详细描述
独立增量过程是指随机过程中事件发生次数在不相重叠的时间区间内相互独立， 即每次事件的发生与其他时间点的事件无关。这种过程在保险、金融等领域有广 泛应用。
马尔科夫过程
总结词
描述一个随机系统在给定当前状态的情况下，未来状态只依 赖于当前状态的过程。
详细描述
马尔科夫过程是一种特殊的随机过程，其中下一个状态只与 当前状态有关，而与过去状态无关。这种过程在自然现象、 社会现象和工程领域中都有广泛的应用，如天气预报、股票 价格波动等。
泊松过程
总结词
描述随机事件在单位时间内按照恒定速率独立发生的随机过程。
该方法通过大量随机抽样，得到概率分布的近似结果，具有简单、灵活和通用性强 的特点。
蒙特卡洛方法在金融、物理、工程等领域有广泛应用，如期权定价、核反应堆模拟 等。
离散事件模拟方法
离散事件模拟方法是一种基于 事件驱动的模拟方法，适用于 描述离散状态变化的过程。
该方法通过跟踪系统中的事件 发生和状态变化，来模拟系统 的动态行为。
离散事件模拟方法在交通运输 、生产制造、通信网络等领域 有广泛应用。

随机过程的概率分布函数
定义
概率分布函数是描述随机过程取值范 围的函数，它给出了随机过程在任意 时刻取值小于或等于某个值的概率。
性质
计算方法
通过积分计算随机过程取某个区间的 概率，即概率分布函数的积分。
概率分布函数具有非负性、规范性和 单调不减性。
随机过程的数字特征
01
02
03
04
均值
描述随机过程的平均水平或中 心趋势的量。
独立性
如果两个随机过程在时间上互不相关，即它们的统计特性相互独立，则称这两个随机过程 为独立的。独立性是描述两个随机过程之间关系的重要性质。
遍历性
如果一个随机过程的统计特性在时间上趋于稳定，即随着时间的推移，该随机过程的概率 分布或均值等统计量趋于某个常数，则称该随机过程具有遍历性。遍历性是描述一个随机 过程长时间行为的重要性质。
04
随机过程的高频性质
随机过程的频谱分析
频谱分析
频谱分析是研究随机过程频率域特性的方法，通过将时间 域的随机过程转换为频率域进行分析，可以揭示随机过程 的频率结构和特征。
离散频谱与连续频谱
根据随机过程的时间离散程度，频谱可以分为离散频谱和 连续频谱。离散频谱对应于离散时间随机过程，连续频谱 对应于连续时间随机过程。
概率统计和随机过程课件 第十一章：随机过程引论
• 随机过程引论 • 随机过程的概率分布 • 随机过程的变换与运算 • 随机过程的高频性质 • 随机过程的应用
01
随机过程引论
随机过程的定义与分类
定义
随机过程是随机变量在时间或空间中的变化。它描述了一个随机现象在连续时间或离散时间下的变化规律。
分类
随机过程在信号处理中的应用