第3章 随机过程重点

第三章 随机过程学习目标通过对本章的学习，应该掌握以下要点： 随机过程的基本概念随机过程的数字特征（均值、方差、相关函数）；平稳过程的定义、各态历经性、相关函数和功率谱密度；高斯过程的定义和性质、一维概率密度函数；随机过程通过线性系统、输出和输入的关系；窄带随机过程的表达式和统计特性；正弦波加窄带高斯过程的统计特性；高斯白噪声及其通过理想低通信道和理想带通滤波器。

3.1 内容概要3.1.1 随机过程的基本概念随机过程是一类随时间作随机变化的过程，具有不可预知性，不能用确切的时间函数来描述。

1.定义角度一：随机过程ξ(t )是随机试验的全体样本函数{ξ1 (t ), ξ2 (t ), …, ξn (t )}的集合。

角度二：随机过程ξ(t )是在时间进程中处于不同时刻的随机变量的集合。

这说明，在任一观察时刻t 1，ξ(t 1)是一个不含t 变化的随机变量。

可见，随机过程具有随机变量和时间函数的特点。

研究随机过程正是利用了它的这两个特点。

2.分布函数和概率密度函数 一维分布函数：ξ(t )在11111(,)[()]F x t P t x ξ=≤含义：随机过程ξ(t )在t 1时刻的取值ξ(t 1)小于或等于某一数值x 1的概率。

如果存在1111111),(),(x t x F t x f ∂∂=则称111(,)f x t 为ξ(t )的一维概率密度函数。

同理，任意给定12n t t t T ∈ ，，，，则ξ(t )的n 维分布函数为{}12121122(,,,;,,)(),(),,()n n n n n F x x x t t t P t x t x t x ξξξ=≤≤≤如果此能在n21n 21n 21n n n 21n 21n x )t x ()t x (∂∂∂∂= x x t t x x F t t x x f ，，，；，，，，，，；，，，则称其为ξ(t )的n 维概率密度函数。

显然，n 越大，对随机过程统计特性的描述就越充分。

随机过程知识点汇总随机过程是指一组随机变量{X(t)}，其中t属于某个集合T，每个随机变量X(t)都与一个时刻t相关联。

２．随机过程的分类随机过程可以分为离散时间随机过程和连续时间随机过程。

离散时间随机过程是指在离散的时间点上取值的随机过程，例如随机游走。

连续时间随机过程是指在连续的时间区间上取值的随机过程，例如XXX运动。

３．随机过程的数字特征随机过程的数字特征包括均值函数和自相关函数。

均值函数E[X(t)]描述了随机过程在不同时刻的平均取值。

自相关函数R(t1,t2)描述了随机过程在不同时刻的相关程度。

４．平稳随机过程平稳随机过程是指其均值函数和自相关函数都不随时间变化而变化的随机过程。

弱平稳随机过程的自相关函数只与时间差有关，而不依赖于具体的时间点。

强平稳随机过程的概率分布在时间上是不变的。

５．高斯随机过程高斯随机过程是指其任意有限个随机变量的线性组合都服从正态分布的随机过程。

高斯随机过程的均值函数和自相关函数可以唯一确定该过程。

６．马尔可夫随机过程马尔可夫随机过程是指其在给定当前状态下，未来状态的条件概率分布只依赖于当前状态，而与过去状态无关的随机过程。

马尔可夫性质可以用转移概率矩阵描述，并且可以用马尔可夫链来建模。

７．泊松过程泊松过程是指在一个时间段内随机事件发生的次数服从泊松分布的随机过程。

泊松过程的重要性质是独立增量和平稳增量。

８．随机过程的应用随机过程在金融学、信号处理、通信工程、控制理论等领域有广泛的应用。

例如，布朗运动被广泛应用于金融学中的期权定价，马尔可夫链被应用于自然语言处理中的语言模型。

t)|^2]协方差函数BZs,t)E[(ZsmZs))(ZtmZt))]，其中Zs和Zt是Z在时刻s和t的取值。

复随机过程是由实部和虚部构成的随机过程，其均值和方差函数分别由实部和虚部的均值和方差函数计算得到。

协方差函数和相关函数也可以类似地计算得到。

复随机过程在通信系统中有广泛的应用，例如调制解调、信道编解码等。

1.平稳过程:随机过程的变化只和时间差（t-s）有关，和时间起点t0没有关系。

2.遍历性:简单的理解就是一个粒子在足够长的时间能够到达所有状态空间上的点。

第三章:最主要的是排队的问题，也就是像例3.1.1/3.1.2/3.1.3/3.2.1这样的都是很基本的计算可能会穿插在题目里面。

第四章:Poisson过程的推广，我觉得大概可能不会考……嗯……是酱紫的……第五章:1.将来只与现在有关，与过去无关2.状态转移，就是那个矩阵的那个，也是比较简单的，至于考不考，怎么考……就不太清楚……还是要掌握的……3.n步转移和C-K方程以及后面的例题啊神马神马的，就是状态转移的推广，，，4.状态的分类及性质:互通、一个类、常返、非常返，零常返……5.后面的应用里人口结构变化模型没有讲6.连续时间马氏链5.5.3/5.5.4也都没有8BB2第六章:1.鞅来源于赌博，表示的是第n次赌博的收获情况（也就是赢钱/输钱的情况）2.随机过程第n-1次赌博完后手上的钱，包含了之前的一切信息。

3.如果每次赌博的输赢的机会是均等的，并且赌博是公平的，经过长时期后，期望收益和最初的相同。

4.上鞅:对参与者有利；下鞅:对赌场老板有利5.例题6.1.3/6.1.4/6.1.5都没怎么讲提了一下6.例题6.2.4/6.2.5/6.2.6/定理6.2.2推论6.2.17.停时定理6.2.2没讲8.鞅的收敛定理:金融市场的投资会使得资产增加，但是不会变得无穷，一直投资下去，资产的期望值等于初始的期望；金融工程:构造一个凸函数形成下鞅；期权是构造价值标的资产凸函数。

随机的例子:排队问题、保险赔付、第五章的例子，鞅的那章跟我们关系比较密切的就是怎样利用下鞅（构造凸函数）进行金融市场里的套机，第七章相关的就是B-S公式，期权定价，不过貌似说七章不考啊……。

随机过程笔记2015-05-10 许铁混沌巡洋第一部分：为什么要研究随机过程？人类认识世界的历史，就是一认识和描绘各种运动的历史，从宏观的天体运动到分子的运动，到人心理的运动-我们通称为变化，就是一个东西随时间的改变。

人们最成功的描绘运动的模型是牛顿的天体运动，确定性是牛顿体系最大的特征。

给定位置和速度，运动轨迹即确定。

但是20实际后的科学却失去了牛顿美丽的确定性光环。

因为当人们试图描绘一些真实世界，充满复杂而未知因素的运动时候，人们发现不确定的因素（通常称之为噪音）对事物的变化至关重要，而牛顿的方法几乎难以应用。

而我们所能够给出的最好的对事物变化的东西，是一套叫概率论的东西。

而与之相应的产生的一个全新的研究运动的方法-随机过程, 对不确定性下的运动进行精细的数学描述。

我们周边充满了各种各样的数据，所谓大数据时代，这些数据最基本的特点就是含有巨量的噪音，而随机过程就是从这些噪音里提取信息的武器。

* 其实我们生活中也处处充满“噪音”。

比如说我们每天发邮件，经常有一些人时回时不回。

那些不回的人到底是忘了还是真的不想回，我们却不知道。

一个书呆子统计学家会告诉你，你无法从一次的行为评判他，而要看他一贯的表现。

第一个随机过程方法的伟大胜利是爱因斯坦的布朗运动。

一些小花粉在水里，受到水分子不停碰撞，而呈现随机的运动（花粉颗粒由于很小比较容易受到水分子热扰动的影响）。

研究这些花粉的微小运动似乎有点天然呆，我们却从中找到了分子世界重要的信息。

而花粉那无序与多变的轨道，也为我们提供了随机运动的范式（随机游走）。

计算机生成的十个粒子的布朗运动轨迹如果给随机过程打个比方，它就像是一个充满交叉小径的花园。

你站在现在的点上，看未来的变化，未来有千万种变化的方式，每一种可能又不断分叉变化出其它可能。

第二部分：描述随机过程的武器随机过程怎么研究？几样神器是不可缺少的。

1. 概率空间：面对不可确定的未来，无非有两件事需要关心，一个是有哪些可以实现的可能，一个是每种可能的大小，前者定义一个事件空间（态空间），后者定义一个数-概率。

§3 随机过程一、 一般随机过程[随机过程的定义] 对于每个t ∈T (T 是某个固定的实数集),ξ(t )是个随机变量，就把这样的随机变量族{ξ(t )，t ∈T }称为随机过程。

随机过程一次实验的结果是定义在T 上的函数，称为随机过程的一次实现。

当参数t 的变化范围T 是个整数集合，则称ξ(t ), t =0,±1,±2, 为随机序列。

当T 只包含一个或有限个元素，{ξ(t )，t ∈T }就是概率论中研究过的随机变量或随机矢量。

[随机过程的有穷维分布函数族] 设{ξ(t )，t ∈T }是随机过程，对任意的正整数n 及任意的t 1, t 2, ，t n ∈T ,随机变量ξ(t 1) ,ξ(t 2) , ，ξ(t n )的联合分布函数为))(,,)(,)((),,,(22121,,21n n n t t t x t x t x t P x x x F n ≤ξ≤ξ≤ξ= 称{}),,,(21,,,21n t t t x x x F n 为随机过程的有穷维分布函数族。

它不仅刻划了对应于每一个t 的随机变量ξ(t )的统计规律性，而且也刻划了各个随机变量ξ(t )之间的关系，从而完整地描述了随机过程的统计规律性。

[随机过程的统计参数] 设{ξ(t )，t ∈T }是个复值随机过程(指它的实部和虚部都是实的随机过程)。

主要的统计参数有：1°均值函数 对每个t ∈T ,随机变量ξ(t )的数学期望（均值）)(d )()(x F x t E t m t ⎰∞∞-==ξ称为随机过程的均值函数，式中F t (x )是ξ(t )的分布函数。

2°协方差函数与方差函数 对任意的s , t ∈T ,)]()()][()([),(t m t s m s E t s R --=ξξ称为随机过程的协方差函数(或相关函数)，式中m (t )是均值函数。

特别地，当s =t ,则称2)]()([),(t m t E t t R -=ξ 为随机过程的方差函数(或自相关函数)。

随机过程知识点随机过程是现代概率论的重要分支之一，它描述的是一个或多个随机变量随时间的变化规律。

在实际应用中，随机过程经常被用来建立模型，进行仿真以及预测未来的变化趋势等。

随机过程知识点众多，本文将从概念、分类、建模等方面进行探讨。

一、概念随机过程指的是一个定义在时间集合T上的随机变量的集合{Xt:t∈T}。

其中，T表示时间的取值范围，Xt是一个随机变量。

每个时刻t对应一个随机变量Xt，称为随机过程在时刻t的取值。

二、分类根据随机变量的值域，随机过程可以分为离散随机过程和连续随机过程两类。

1. 离散随机过程离散随机过程的取值集合为有限或可数集合。

在离散随机过程中，随时间变化的变量通常被称为时间序列。

离散随机过程可以进一步分为如下几类：（1）马尔可夫链马尔可夫链是最简单的离散随机过程模型，假设当前时刻状态只与前一时刻状态有关。

马尔可夫链的基本性质是：状态转移概率只与当前状态有关，而与历史状态无关。

（2）泊松过程泊松过程是一种间断性随机过程，它描述了单位时间或者单位面积内，某事件发生次数的概率分布。

泊松过程的关键特征是时间和事件之间的指数分布关系，即事件之间的时间间隔是独立且指数分布的。

2. 连续随机过程连续随机过程是取值集合为实数（或实数集合的子集）的随机过程。

在连续随机过程中，随时间变化的变量通常被称为随机过程信号。

连续随机过程可以进一步分为如下几类：（1）布朗运动布朗运动是最基本的连续随机过程，描述了物体在连续介质中的随机运动。

其轨迹连续但不光滑，呈现出瞬时变化的特点。

（2）随机游走随机游走是一种简单的随机过程模型，它描述了物体在一组不断变化的环境下进行的随机运动。

其主要特征是不规则的移动和不可预测性。

三、建模在实际应用中，随机过程的建模是非常重要的。

通过从数学模型中提取重要的特征和参数，可以更好地理解随机过程的行为，从而更好地预测未来的变化。

1. 马尔可夫模型马尔可夫模型是一种广泛使用的随机过程模型，其基本假设是状态的未来只与当前状态有关。

随机过程例题和知识点总结随机过程是研究随机现象随时间演变的数学理论，在通信、金融、物理等众多领域都有广泛的应用。

接下来，我们通过一些例题来深入理解随机过程的相关知识点。

一、随机过程的基本概念随机过程可以看作是一族随机变量的集合，其中每个随机变量对应于一个特定的时间点。

例如，考虑一个在时间段0, T内的股票价格变化过程，对于每个时刻 t∈0, T，股票价格就是一个随机变量。

知识点 1：随机过程的分类随机过程可以分为离散时间随机过程和连续时间随机过程。

离散时间随机过程的时间参数是离散的，比如每天的股票收盘价；连续时间随机过程的时间参数是连续的，比如股票价格在任意时刻的取值。

知识点 2：随机过程的概率分布描述随机过程在不同时刻的概率分布是研究随机过程的重要内容。

对于离散随机过程，常用概率质量函数；对于连续随机过程，常用概率密度函数。

例题 1假设一个离散时间随机过程{Xn}，n ＝ 0, 1, 2, ，其中 Xn 取值为 0 或 1，且 P(Xn ＝ 0) ＝ 06，P(Xn ＝ 1) ＝ 04，求 X0 和 X1 的联合概率分布。

解：X0 和 X1 的可能取值组合有(0, 0)、（0, 1)、（1, 0)、（1, 1)。

P(X0 ＝ 0, X1 ＝ 0) ＝ P(X0 ＝ 0) × P(X1 ＝ 0) ＝ 06 × 06 ＝ 036P(X0 ＝ 0, X1 ＝ 1) ＝ P(X0 ＝ 0) × P(X1 ＝ 1) ＝ 06 × 04 ＝ 024P(X0 ＝ 1, X1 ＝ 0) ＝ P(X0 ＝ 1) × P(X1 ＝ 0) ＝ 04 × 06 ＝ 024P(X0 ＝ 1, X1 ＝ 1) ＝ P(X0 ＝ 1) × P(X1 ＝ 1) ＝ 04 × 04 ＝ 016二、随机过程的数字特征数字特征可以帮助我们更简洁地描述随机过程的某些重要性质。