第3章 随机过程重点

第三章 随机过程学习目标通过对本章的学习，应该掌握以下要点： 随机过程的基本概念随机过程的数字特征（均值、方差、相关函数）；平稳过程的定义、各态历经性、相关函数和功率谱密度；高斯过程的定义和性质、一维概率密度函数；随机过程通过线性系统、输出和输入的关系；窄带随机过程的表达式和统计特性；正弦波加窄带高斯过程的统计特性；高斯白噪声及其通过理想低通信道和理想带通滤波器。

3.1 内容概要3.1.1 随机过程的基本概念随机过程是一类随时间作随机变化的过程，具有不可预知性，不能用确切的时间函数来描述。

1.定义角度一：随机过程ξ(t )是随机试验的全体样本函数{ξ1 (t ), ξ2 (t ), …, ξn (t )}的集合。

角度二：随机过程ξ(t )是在时间进程中处于不同时刻的随机变量的集合。

这说明，在任一观察时刻t 1，ξ(t 1)是一个不含t 变化的随机变量。

可见，随机过程具有随机变量和时间函数的特点。

研究随机过程正是利用了它的这两个特点。

2.分布函数和概率密度函数 一维分布函数：ξ(t )在11111(,)[()]F x t P t x ξ=≤含义：随机过程ξ(t )在t 1时刻的取值ξ(t 1)小于或等于某一数值x 1的概率。

如果存在1111111),(),(x t x F t x f ∂∂=则称111(,)f x t 为ξ(t )的一维概率密度函数。

同理，任意给定12n t t t T ∈ ，，，，则ξ(t )的n 维分布函数为{}12121122(,,,;,,)(),(),,()n n n n n F x x x t t t P t x t x t x ξξξ=≤≤≤如果此能在n21n 21n 21n n n 21n 21n x )t x ()t x (∂∂∂∂= x x t t x x F t t x x f ，，，；，，，，，，；，，，则称其为ξ(t )的n 维概率密度函数。

显然，n 越大，对随机过程统计特性的描述就越充分。

随机过程知识点汇总随机过程是指一组随机变量{X(t)}，其中t属于某个集合T，每个随机变量X(t)都与一个时刻t相关联。

２．随机过程的分类随机过程可以分为离散时间随机过程和连续时间随机过程。

离散时间随机过程是指在离散的时间点上取值的随机过程，例如随机游走。

连续时间随机过程是指在连续的时间区间上取值的随机过程，例如XXX运动。

３．随机过程的数字特征随机过程的数字特征包括均值函数和自相关函数。

均值函数E[X(t)]描述了随机过程在不同时刻的平均取值。

自相关函数R(t1,t2)描述了随机过程在不同时刻的相关程度。

４．平稳随机过程平稳随机过程是指其均值函数和自相关函数都不随时间变化而变化的随机过程。

弱平稳随机过程的自相关函数只与时间差有关，而不依赖于具体的时间点。

强平稳随机过程的概率分布在时间上是不变的。

５．高斯随机过程高斯随机过程是指其任意有限个随机变量的线性组合都服从正态分布的随机过程。

高斯随机过程的均值函数和自相关函数可以唯一确定该过程。

６．马尔可夫随机过程马尔可夫随机过程是指其在给定当前状态下，未来状态的条件概率分布只依赖于当前状态，而与过去状态无关的随机过程。

马尔可夫性质可以用转移概率矩阵描述，并且可以用马尔可夫链来建模。

７．泊松过程泊松过程是指在一个时间段内随机事件发生的次数服从泊松分布的随机过程。

泊松过程的重要性质是独立增量和平稳增量。

８．随机过程的应用随机过程在金融学、信号处理、通信工程、控制理论等领域有广泛的应用。

例如，布朗运动被广泛应用于金融学中的期权定价，马尔可夫链被应用于自然语言处理中的语言模型。

t)|^2]协方差函数BZs,t)E[(ZsmZs))(ZtmZt))]，其中Zs和Zt是Z在时刻s和t的取值。

复随机过程是由实部和虚部构成的随机过程，其均值和方差函数分别由实部和虚部的均值和方差函数计算得到。

协方差函数和相关函数也可以类似地计算得到。

复随机过程在通信系统中有广泛的应用，例如调制解调、信道编解码等。

1.平稳过程:随机过程的变化只和时间差（t-s）有关，和时间起点t0没有关系。

2.遍历性:简单的理解就是一个粒子在足够长的时间能够到达所有状态空间上的点。

第三章:最主要的是排队的问题，也就是像例3.1.1/3.1.2/3.1.3/3.2.1这样的都是很基本的计算可能会穿插在题目里面。

第四章:Poisson过程的推广，我觉得大概可能不会考……嗯……是酱紫的……第五章:1.将来只与现在有关，与过去无关2.状态转移，就是那个矩阵的那个，也是比较简单的，至于考不考，怎么考……就不太清楚……还是要掌握的……3.n步转移和C-K方程以及后面的例题啊神马神马的，就是状态转移的推广，，，4.状态的分类及性质:互通、一个类、常返、非常返，零常返……5.后面的应用里人口结构变化模型没有讲6.连续时间马氏链5.5.3/5.5.4也都没有8BB2第六章:1.鞅来源于赌博，表示的是第n次赌博的收获情况（也就是赢钱/输钱的情况）2.随机过程第n-1次赌博完后手上的钱，包含了之前的一切信息。

3.如果每次赌博的输赢的机会是均等的，并且赌博是公平的，经过长时期后，期望收益和最初的相同。

4.上鞅:对参与者有利；下鞅:对赌场老板有利5.例题6.1.3/6.1.4/6.1.5都没怎么讲提了一下6.例题6.2.4/6.2.5/6.2.6/定理6.2.2推论6.2.17.停时定理6.2.2没讲8.鞅的收敛定理:金融市场的投资会使得资产增加，但是不会变得无穷，一直投资下去，资产的期望值等于初始的期望；金融工程:构造一个凸函数形成下鞅；期权是构造价值标的资产凸函数。

随机的例子:排队问题、保险赔付、第五章的例子，鞅的那章跟我们关系比较密切的就是怎样利用下鞅（构造凸函数）进行金融市场里的套机，第七章相关的就是B-S公式，期权定价，不过貌似说七章不考啊……。

随机过程笔记2015-05-10 许铁混沌巡洋第一部分：为什么要研究随机过程？人类认识世界的历史，就是一认识和描绘各种运动的历史，从宏观的天体运动到分子的运动，到人心理的运动-我们通称为变化，就是一个东西随时间的改变。

人们最成功的描绘运动的模型是牛顿的天体运动，确定性是牛顿体系最大的特征。

给定位置和速度，运动轨迹即确定。

但是20实际后的科学却失去了牛顿美丽的确定性光环。

因为当人们试图描绘一些真实世界，充满复杂而未知因素的运动时候，人们发现不确定的因素（通常称之为噪音）对事物的变化至关重要，而牛顿的方法几乎难以应用。

而我们所能够给出的最好的对事物变化的东西，是一套叫概率论的东西。

而与之相应的产生的一个全新的研究运动的方法-随机过程, 对不确定性下的运动进行精细的数学描述。

我们周边充满了各种各样的数据，所谓大数据时代，这些数据最基本的特点就是含有巨量的噪音，而随机过程就是从这些噪音里提取信息的武器。

* 其实我们生活中也处处充满“噪音”。

比如说我们每天发邮件，经常有一些人时回时不回。

那些不回的人到底是忘了还是真的不想回，我们却不知道。

一个书呆子统计学家会告诉你，你无法从一次的行为评判他，而要看他一贯的表现。

第一个随机过程方法的伟大胜利是爱因斯坦的布朗运动。

一些小花粉在水里，受到水分子不停碰撞，而呈现随机的运动（花粉颗粒由于很小比较容易受到水分子热扰动的影响）。

研究这些花粉的微小运动似乎有点天然呆，我们却从中找到了分子世界重要的信息。

而花粉那无序与多变的轨道，也为我们提供了随机运动的范式（随机游走）。

计算机生成的十个粒子的布朗运动轨迹如果给随机过程打个比方，它就像是一个充满交叉小径的花园。

你站在现在的点上，看未来的变化，未来有千万种变化的方式，每一种可能又不断分叉变化出其它可能。

第二部分：描述随机过程的武器随机过程怎么研究？几样神器是不可缺少的。

1. 概率空间：面对不可确定的未来，无非有两件事需要关心，一个是有哪些可以实现的可能，一个是每种可能的大小，前者定义一个事件空间（态空间），后者定义一个数-概率。

§3 随机过程一、 一般随机过程[随机过程的定义] 对于每个t ∈T (T 是某个固定的实数集),ξ(t )是个随机变量，就把这样的随机变量族{ξ(t )，t ∈T }称为随机过程。

随机过程一次实验的结果是定义在T 上的函数，称为随机过程的一次实现。

当参数t 的变化范围T 是个整数集合，则称ξ(t ), t =0,±1,±2, 为随机序列。

当T 只包含一个或有限个元素，{ξ(t )，t ∈T }就是概率论中研究过的随机变量或随机矢量。

[随机过程的有穷维分布函数族] 设{ξ(t )，t ∈T }是随机过程，对任意的正整数n 及任意的t 1, t 2, ，t n ∈T ,随机变量ξ(t 1) ,ξ(t 2) , ，ξ(t n )的联合分布函数为))(,,)(,)((),,,(22121,,21n n n t t t x t x t x t P x x x F n ≤ξ≤ξ≤ξ= 称{}),,,(21,,,21n t t t x x x F n 为随机过程的有穷维分布函数族。

它不仅刻划了对应于每一个t 的随机变量ξ(t )的统计规律性，而且也刻划了各个随机变量ξ(t )之间的关系，从而完整地描述了随机过程的统计规律性。

[随机过程的统计参数] 设{ξ(t )，t ∈T }是个复值随机过程(指它的实部和虚部都是实的随机过程)。

主要的统计参数有：1°均值函数 对每个t ∈T ,随机变量ξ(t )的数学期望（均值）)(d )()(x F x t E t m t ⎰∞∞-==ξ称为随机过程的均值函数，式中F t (x )是ξ(t )的分布函数。

2°协方差函数与方差函数 对任意的s , t ∈T ,)]()()][()([),(t m t s m s E t s R --=ξξ称为随机过程的协方差函数(或相关函数)，式中m (t )是均值函数。

特别地，当s =t ,则称2)]()([),(t m t E t t R -=ξ 为随机过程的方差函数(或自相关函数)。

随机过程知识点随机过程是现代概率论的重要分支之一，它描述的是一个或多个随机变量随时间的变化规律。

在实际应用中，随机过程经常被用来建立模型，进行仿真以及预测未来的变化趋势等。

随机过程知识点众多，本文将从概念、分类、建模等方面进行探讨。

一、概念随机过程指的是一个定义在时间集合T上的随机变量的集合{Xt:t∈T}。

其中，T表示时间的取值范围，Xt是一个随机变量。

每个时刻t对应一个随机变量Xt，称为随机过程在时刻t的取值。

二、分类根据随机变量的值域，随机过程可以分为离散随机过程和连续随机过程两类。

1. 离散随机过程离散随机过程的取值集合为有限或可数集合。

在离散随机过程中，随时间变化的变量通常被称为时间序列。

离散随机过程可以进一步分为如下几类：（1）马尔可夫链马尔可夫链是最简单的离散随机过程模型，假设当前时刻状态只与前一时刻状态有关。

马尔可夫链的基本性质是：状态转移概率只与当前状态有关，而与历史状态无关。

（2）泊松过程泊松过程是一种间断性随机过程，它描述了单位时间或者单位面积内，某事件发生次数的概率分布。

泊松过程的关键特征是时间和事件之间的指数分布关系，即事件之间的时间间隔是独立且指数分布的。

2. 连续随机过程连续随机过程是取值集合为实数（或实数集合的子集）的随机过程。

在连续随机过程中，随时间变化的变量通常被称为随机过程信号。

连续随机过程可以进一步分为如下几类：（1）布朗运动布朗运动是最基本的连续随机过程，描述了物体在连续介质中的随机运动。

其轨迹连续但不光滑，呈现出瞬时变化的特点。

（2）随机游走随机游走是一种简单的随机过程模型，它描述了物体在一组不断变化的环境下进行的随机运动。

其主要特征是不规则的移动和不可预测性。

三、建模在实际应用中，随机过程的建模是非常重要的。

通过从数学模型中提取重要的特征和参数，可以更好地理解随机过程的行为，从而更好地预测未来的变化。

1. 马尔可夫模型马尔可夫模型是一种广泛使用的随机过程模型，其基本假设是状态的未来只与当前状态有关。

随机过程例题和知识点总结随机过程是研究随机现象随时间演变的数学理论，在通信、金融、物理等众多领域都有广泛的应用。

接下来，我们通过一些例题来深入理解随机过程的相关知识点。

一、随机过程的基本概念随机过程可以看作是一族随机变量的集合，其中每个随机变量对应于一个特定的时间点。

例如，考虑一个在时间段0, T内的股票价格变化过程，对于每个时刻 t∈0, T，股票价格就是一个随机变量。

知识点 1：随机过程的分类随机过程可以分为离散时间随机过程和连续时间随机过程。

离散时间随机过程的时间参数是离散的，比如每天的股票收盘价；连续时间随机过程的时间参数是连续的，比如股票价格在任意时刻的取值。

知识点 2：随机过程的概率分布描述随机过程在不同时刻的概率分布是研究随机过程的重要内容。

对于离散随机过程，常用概率质量函数；对于连续随机过程，常用概率密度函数。

例题 1假设一个离散时间随机过程{Xn}，n ＝ 0, 1, 2, ，其中 Xn 取值为 0 或 1，且 P(Xn ＝ 0) ＝ 06，P(Xn ＝ 1) ＝ 04，求 X0 和 X1 的联合概率分布。

解：X0 和 X1 的可能取值组合有(0, 0)、（0, 1)、（1, 0)、（1, 1)。

P(X0 ＝ 0, X1 ＝ 0) ＝ P(X0 ＝ 0) × P(X1 ＝ 0) ＝ 06 × 06 ＝ 036P(X0 ＝ 0, X1 ＝ 1) ＝ P(X0 ＝ 0) × P(X1 ＝ 1) ＝ 06 × 04 ＝ 024P(X0 ＝ 1, X1 ＝ 0) ＝ P(X0 ＝ 1) × P(X1 ＝ 0) ＝ 04 × 06 ＝ 024P(X0 ＝ 1, X1 ＝ 1) ＝ P(X0 ＝ 1) × P(X1 ＝ 1) ＝ 04 × 04 ＝ 016二、随机过程的数字特征数字特征可以帮助我们更简洁地描述随机过程的某些重要性质。

第三章_随机过程教案第三章随机过程本节⾸先介绍利⽤matlab现有的库函数根据实际需要直接产⽣均分分布和⾼斯分布随机变量的⽅法，然后重点讲解蒙特卡罗算法。

⼀、均匀分布的随机数利⽤MATLAB库函数rand产⽣。

rand函数产⽣（0，1）内均匀分布的随机数，使⽤⽅法如下：1）x=rand(m)；产⽣⼀个m×m的矩阵，所含元素取值均为在（0，1）内均匀分布的随机数。

2）x=rand(m，n)；产⽣⼀个m×n的矩阵，所含元素取值均为在（0，1）内均匀分布的随机数。

3）x=rand；产⽣⼀个随机数。

举例：1、产⽣⼀个5×5服从均匀分布的随机矩阵，所含元素取值均为在（0，1）内均匀分布的随机数。

x=rand(5)2、产⽣⼀个5×3服从均匀分布的随机矩阵，所含元素取值均为在（0，1）内均匀分布的随机数。

x=rand(5,3)⼆、⾼斯分布的随机数randn函数产⽣均值为0，⽅差为1的⾼斯分布的随机数，使⽤⽅法如下：1）x=randn(m)；产⽣⼀个m×m的矩阵，所含元素都是均值为0，⽅差为1的⾼斯分布的随机数。

2）x=randn(m，n)；产⽣⼀个m×n的矩阵，所含元素都是均值为0，⽅差为1的⾼斯分布的随机数。

3）x=randn；产⽣⼀个均值为0，⽅差为1的⾼斯分布的随机数。

举例：1、产⽣⼀个5×5的矩阵，所含元素都是均值为0，⽅差为1的⾼斯分布的随机数。

x=randn(5)2、产⽣⼀个5×3的矩阵，所含元素都是均值为0，⽅差为1的⾼斯分布的随机数。

x=randn(5,3)3、产⽣⼀个5×3的矩阵，所含元素都是均值为0，⽅差为4的⾼斯分布的随机数。

x=2×randn(5,3)三、蒙特卡罗仿真1、蒙特卡罗算法蒙特卡罗估计是指通过随机实验估计系统参数值的过程。

蒙特卡罗算法的基本思想：由概率论可知，随机实验中实验的结果是⽆法预测的，只能⽤统计的⽅法来描述。

第一部分 随机过程的基本概念总体思路：分清随机变量和确知变量。

每一条曲线ξi (t )都是一个随机起伏的时间函数——样本函数（确在某一特定时刻t 1观察各台接收机的输出噪声值ξ(t 1) ，发现他们的值是不同的－－ 是一个随机量（随机变量）统平均第二部分 随机过程的数字特征均值：代表随机过程的摆动中心。

均方值：相对于横轴的振动程度。

协方差与相关函数：随机过程不同时刻取值之间的相互关系。

广义平稳随机过程： 数学期望与t无关：()at a =；自相关函数只与τ有关：()()11,Rt t R ττ+=。

平稳随机过程的各态历经性： 各态历经的含义：随机过程的任一实现（样本函数），都经历了随机过程的所有的可能状态。

()()a a RRττ==思路：时间平均验证平稳随机过程统计平均P ξ(ω) R (τ)平稳随机过程的自相关函数 ： （1） ()()20RE t Sξ⎡⎤==⎣⎦---()t ξ的平均功率。

（2） ()()RRττ=- ---()R τ是偶函数。

（3）()()0RRτ≤ --- ()Rτ 的上界。

（4） ()()()R E t t ξξ⎡⎤∞=+∞⎣⎦()()2E t E ta ξξ⎡⎤⎡⎤=+∞=⎣⎦⎣⎦---()t ξ的直流功率。

（5）()()20RRσ-∞=----方差，()t ξ的交流功率。

平稳随机过程的自相关函数与其功率谱密度之间互为傅里叶关系。

第三部分 高斯过程（1）高斯过程若广义平稳，则必狭义平稳 。

（2）高斯过程中的随机变量()()()123t t t ξξξ ，，，之间若不相关，则它们也是统计独立的。

（3）若干个高斯过程之和仍是高斯过程。

－－从信号角度。

（4）高斯过程经线性变换后，仍是高斯过程。

－－从系统（线性系统）角度第四部分 随机过程通过线性系统[][]()()()()02()()0ii E t E t H P P Hξξξξωωω==第五部分 窄带随机过程和正弦波加窄带高斯噪声()()()cos (t),0()cos (t)sin c c c s c t a t t a t t t t ξξξξωϕξωξω⎡⎤=+≥⎣⎦=-2222221()=exp ,0(),(,)21(,)=exp(()()2a a f a a f a a f a f a f ξξξξξξξξξξξξξξξφππσσπφφπσσ-≥=--=；正弦信号加窄带高斯噪声[]()()cos cos sin sin ()cos ()sin co ()cos ()sin c s ()cos [s os in ()]sin c c c c c s c c c c s c c s c z t t z t t A t A t n t t n t tA n t z t t n t t t A t θωθωωωθωωωωϕθω=-+-=+-+=-⎡⎤=+⎣⎦()cos ()()sin ()c c c s z t A n t z t A n t θθ=+=+cos()()()c r t n t t A ωθ=++n (t) 均值为0、方差为 、窄带平稳高斯随机过程; θ给定，，同样是窄带平稳高斯随机过程()c z t ()c z t 2σ[][]()cos ,()sin c s E z t A E z t A θθ==222csz z σσσ==2202221()exp ()02n n n zAz f z z A I z σσσ⎡⎤⎛⎫=-+≥ ⎪⎢⎥⎣⎦⎝⎭莱斯（Rice ）分布瑞利分布结论 若()t ξ：均值为0、方差为2σ、窄带、平稳、高斯随机过程。

第一章：考试范围1.3,1.41、计算指数分布的矩母函数.2、计算标准正态分布)1,0(~N X 的矩母函数.3、计算标准正态分布)1,0(~N X 的特征函数.第二章：1. 随机过程的均值函数、协方差函数与自相关函数2. 宽平稳过程、均值遍历性的定义及定理3. 独立增量过程、平稳增量过程，独立增量是平稳增量的充要条件1、设随机过程()Z t X Yt =+，t -∞<<∞.若已知二维随机变量(,)X Y 的协方差矩阵为2122σρρσ⎡⎤⎢⎥⎣⎦，求()Z t 的协方差函数. 2、设有随机过程{(),}X t t T ∈和常数a ，()()()Y t X t a X t =+-，t T ∈，计算()Y t 的自相关函数（用(,)X R s t 表示）.3、设12()cos sin X t Z t Z t λλ=+，其中212,~(0,)Z Z N σ是独立同分布的随机变量，λ为实数，证明()X t 是宽平稳过程.4、设有随机过程()sin cos Z t X t Y t =+，其中X 和Y 是相互独立的随机变量，它们都分别以0.5和0.5的概率取值-1和1，证明()Z t 是宽平稳过程.第三章：1. 泊松过程的定义（定义3.1.2）及相关概率计算2. 与泊松过程相联系的若干分布及其概率计算3. 复合泊松过程和条件泊松过程的定义1、设{(),0}N t t ≥是参数3λ=的Poisson 过程，计算：(1). {(1)3}P N ≤； (2). {(1)1,(3)3}P N N ==； (3). {(1)2(1)1}P N N ≥≥.2、某商场为调查顾客到来的客源情况，考察了男女顾客来商场的人数. 假设男女顾客来商场的人数分别独立地服从每分钟2人与每分钟3人的泊松过程.(1)．试求到某时刻t 时到达商场的总人数的分布；(2). 在已知t 时刻有50人到达的条件下，试求其中恰有30位女性的概率，平均有多少个女性顾客？3、某商店顾客的到来服从强度为4人/小时的Poisson 过程，已知商店9：00开门，试求：(1). 在开门半小时中，无顾客到来的概率；(2). 若已知开门半小时中无顾客到来，那么在未来半小时中，仍无顾客到来的概率。

通信原理（第七版）-樊昌信-第三章-随机过程-重要知识点⼀.⼀些必须知道的：1.均值（数学期望）（详情：）：2.⽅差：3.协⽅差函数和相关函数：3.1协⽅差函数：3.2相关函数：3.3关系：4.性质：⼆、正题：1.严平稳与⼴义平稳：1.1 严平稳：1.2 ⼴义平稳：1.3 关系：严平稳⼀定是⼴义平稳，反之不⼀定成⽴。

2.各态历经性：平稳⼀定具有各态历经性反之不⼀定成⽴；3.⾃相关函数的性质（重点）4.维纳⾟钦定理（重点）：平稳随机过程的⾃相关函数和功率谱密度是⼀对傅⾥叶变换。

（注意：是 R（时域）<---->P（频域））5.⾼斯随机过程：5.1性质：5.2⼀维概率密度函数：5.2.1图像性质5.3误差函数和互补误差函数：5.3.1误差函数：5.3.2互补误差函数：6.平稳随机过程通过线性系统：7.窄带随机过程：7.1 定义：△f << fc7.2 表达式（包络-相位形式）：（同向-正交形式）：8.两个重要结论：9.⽩噪声：9.1 定义：噪声功率谱密度在所有频率为⼀常数（实际中为噪声功率谱密度范围远⼤于⼯作频带时候）9.2 噪声功率谱密度：单边：Pn（f） = n0; 双边：Pn（f） = n0/2;9.3 带限⽩噪声：9.3.1 低通：9.3.2 带通：9.4 功率： N = n0 * B （BPF的带宽）（或者N = n0/2 * 2*B （BPF的带宽））三、⼀些题⽬和不容易理解以及总结：1.不易理解的：2.离散的怎么算：3.总结：3.1 算平均功率：1） R(0)；2）3）3.2 算⽅差：1）E（X²） - E²（X）2）R(0) - R(∞)3）E[ [X-E(X)]² ]。