随机过程英语讲义-15

《随机过程》课程教学大纲课程编号：02200021课程名称：随机过程英文名称：Stochastic Processes课程类别：选修课总学时：72 讲课学时：68 习题课学时：4 学分: 4适用对象：数学与应用数学、信息与计算科学专业先修课程：数学分析、高等代数、概率论与数理统计一、课程简介随机过程是研究客观世界中随机演变过程规律性的学科，它的基本知识和方法不仅为数学、概率统计专业所必需，也为工程技术、生物信息及经济领域的应用和研究所需要。

本课程介绍随机过程研究领域的一些基础而重要的知识和技能。

二、课程性质、目的和任务随机过程是概率论的后续课程，具有比概率理论更加实用的应用方面，处理问题也更加贴近实际情况。

通过这门课程的学习，使学生了解随机过程的基本概念，掌握最常见而又有重要应用价值的诸如Poisson过程、更新过程、Markov过程、Brown运动的基本性质，能够处理基本的随机算法。

提高学生利用概率理论数学模型解决随机问题的能力。

通过本课程的学习，可以让数学专业的学生很方便地转向在金融管理、电子通讯等应用领域的研究。

三、课程基本要求通过本课程的学习，要求学生掌握随机过程的一般概念，知道常见的几类随机过程的定义、背景和性质；掌握泊松过程的定义与基本性质，了解它的实际背景，熟悉它的若干推广；掌握更新过程的定义与基本性质、更新函数、更新方程，了解更新定理及其应用，知道更新过程的若干推广；掌握离散时间的马尔可夫链的基本概念，熟练掌握转移概率、状态分类与性质，熟悉极限分布、平稳分布与状态空间的分解，了解分枝过程；掌握连续时间的马尔可夫链的定义、柯尔莫哥洛夫方程；掌握布朗运动的定义与基本性质，熟悉随机积分的定义与基本性质，了解扩散过程与伊藤公式，会求解一些简单的随机微分方程。

四、教学内容及要求第一章预备知识§1.概率空间；§2.随机变量和分布函数；§3.数字特征、矩母函数和特征函数；§4.条件概率、条件期望和独立性；§5.收敛性教学要求：本章主要是对概率论课程的复习和巩固，为后续学习做准备。

随机过程
1. 基本概念
1、随机过程0{}()t t X t T ≥∈是一个从T ⨯Ω到R 的映射其中T 是一个时间指标集，如果它是连续的正实数，随机过程0{}()t t X t T ≥∈就是连续时间随机过程，例如布朗运动；如果T
是一个离散时间指标集，随机过程
0{}()t t X t T ≥∈就是一个离散时间随机过程，例如随机游走。

随机过程可表达为：(,)(,)t X t ωω→
固定t ，可得随机过程(,)X t ω在时间t 的分布样本；固定ω，可得随机过程 (,)X t ω的轨迹。

2、研究随机过程的方法多种多样，主要可以分为两大类：一类是概率方法，其中用到轨道性质、停时和随机微分方程等；另一类是分析的方法，其中用到测度论、微分方程、半群理论、函数堆和希尔伯特空间等。

实际研究中常常两种方法并用。

B-S 模型
期权的定价方法
（1）Black —Scholes 公式
（2）二项式定价方法
（3）风险中性定价方法
（4）鞅定价方法等。

第二章 随机过程的一般概念2.1 随机过程的基本概念和例子定义2.1.1：设(P ,,F )Ω为概率空间，T 是某参数集，若对每一个，是该概率空间上的随机变量，则称为随机过程(Stochastic Process)。

T t ∈),(w t X ),w t (X 随机过程就是定义在同一概率空间上的一族随机变量。

随机过程可以看成定义在),(w t X Ω×T 上的二元函数，固定Ω∈0w ，即对于一个特定的随机试验，称为样本路径(Sample Path)，或实现(realization)，这是通常所观测到的过程；另一方面，固定，是一个随机变量，按某个概率分布随机取值。

),(0w t X T t ∈0),(0w t X抽象一点：令，即∏∈=Tt T R R T R 中的元素为),(T t x X t t ∈=,为其Borel域(插乘)(T R B σ域)，随机过程实质上是()F ,Ω到())(,T T R R B 上的一个可测映射，在())(,T TR RB 上诱导出一个概率测度：T P ()B X P B P R B T T T ∈=∈∀)(),(B 。

一般代表的是时间。

根据参数集T 的性质，随机过程可以分为两大类： t 1)为可数集，如T {}L ,2,1,0=T 或{}L L ,1,0,1,−=T ，称为离散参数随机过程，也称为随机序列；2)为不可数集，如T {}0≥=t t T 或{}∞<<∞−=t t T ，称为连续参数随机过程。

随机过程的取值称为过程所处的状态(State)，所有状态的全体称为状态空间(State Space)。

通常以表示随机过程的状态空间。

根据状态空间的特征，一般把随机过程分为两大类：T t t X ∈),(S 1) 离散状态，即取一些离散的值； )(t X 2)连续状态，即的取值范围是连续的。

)(t X离散参数离散状态随机过程： Markov 链 连续参数离散状态随机过程： Poisson 过程 离散参数连续状态随机过程： *Markov 序列连续参数连续状态随机过程： Gauss 过程，Brown 运动例2.1.1：一醉汉在路上行走，以的概率向前迈一步，以q 的概率向后迈一步，以p r 的概率在原地不动，1=++r q p ，选定某个初始时刻，若以记它在时刻的位置，则就是直线上的随机游动(Random Walk)。

随机过程英语讲义2.2 Properties of Poisson processesExample Suppose that people immigrate into a territory at a Poisson rateλ=1 per day. (a) What is the expected time until the tenth immigrant arrives? (b) What is the probability that the elapsed time between the tenth and the eleventh arrival exceeds two days? Solution: (a) E[S10]=10/λ= 10 days (b) P{X112}= e -2λ= e-2≈ 0.13332.2 Properties of Poisson processesArrival time distribution Proposition 2.2.2: The arrival time of the nth event Sn follows aΓ distribution with parameter (n,λ). (λt ) n 1 f (t )=λe λ t Proof: (n 1)!{Sn≤ t} {N(t)≥n} P{Sn≤ t}= P{N(t)≥n}=∑k=n∞e λ t(λ t ) k k!differentiating the two sides of equation with respect to t:2.2 Properties of Poisson processes2.2 Properties of Poisson processesSuppose we are told that exactly one event of a Poisson process has taken place by time t, and we are asked to determine the distribution of the time atwhich the event occurred. Since a Poisson process possesses stationary and independent increments, it seems reasonable that each interval in[0,t] of equal length should have the same probability of containing the event. In other words, the time of the event should be uniformly distributed over[0,t].2.2 Properties of Poisson processesThis result may be generalized, but before doing so we need to introduce the concept of order statistics.52.2 Properties of Poisson processesOrder statistics Order statistics Let Y1, Y2……Yn are n random variables, if we arrange these random variables from small to big, note Y(1)= y1 is the smallest in the sequence, Y(2)= y2 is the second smallest,…. Y(n)= yn is the biggest in the sequence. Y(1) Y(2)…… Y(n), Y(1)……Y(n) or y1……yn are the order statistics of Y1…Yn.2.2 Properties of Poisson processes,Let,f is density of distribution of Yi, if f follows the uniform density over (0,t), the joint density of{Y(i)} is:Y(1) .....Y( n )f( y1,..., yn )= n !Ci=1nn! f ( yi )= n, t0 y1 ... yn t2.2 Properties of Poisson processesPast arrival times givenC Joint density of past arrival times Proposition 2.2.3: Given that N(t)=n, the n arrival times S1… Sn have the same distribution as the order statistics corresponding to the n i.i.d. samples from U(0,t). that is,n! f S1 .....S n N ( t )(t1,..., t n n)= n, tProof:0 t1 ... t n t2.2 Properties of Poisson processesP{ti≤ Si≤ t+hi, i=1,…n|N(t)= n}P{one event in[ti, ti+ hi], 1≤ i≤ n, no events elsewhere in[0,t]}= P{N (t )= n}=λh1eλh1n!= n h1 ...hn t...λhn e e e λt (λ t ) n n!λhn1λ ( t h1 ...hn )P{N (t )= n}= eλt(λ t ) n, n= 0,1, 2,...... n!2.2 Properties of Poisson processesn! P{ti≤ Si≤ t+hi, i=1,…n|N(t)= n}= n h1 ...hn t P{ti≤ S i≤ ti+ hi, i= 1...n N (t )= n} n!= n h1....hn ttaking the limits as hi→ 0 for all i, we obtain n! f S1 ..... S n N ( t )(t1,..., t n n)= n t2.2 Properties of Poisson processesExample: A cable TV company collects$1/unit time from each subscriber. Subscribers sign up in ac cordance with a Poisson process with rateλ. What is the expected total revenue received in (0,t]? Solution: (Depends on the total number of subscribers and their arriving time)2.2 Properties of Poisson processesLet N(t) denote the number of subscribers, and Si denote the收益arrival time of the ith customer. The revenue generated by this customer in (0,t] is t-Si. Adding the revenues generated by all arrivals in (0,t] N (t ) ∑ (t Si ), E ∑ (t S i ) i=1 i=1 find the previous expectation by conditioning on N(t)N (t )N (t ) n n E ∑ (t S i ) N (t )= n = E ∑ (t S i ) N (t )= n = nt E ∑ S i N (t )= n i=1 i=1 i=12.2 Properties of Poisson processesLet U1,…Un be iid random variables which follow U(0,t). sot n n n n E ∑ Si N (t )= n= E ∑ U (i ) = E ∑U i =∑ E[U i]= n 2 i=1 i=1 i=1 i=1soN (t ) t t E ∑ (t Si ) N (t )= n = nt n= n 2 2 i=1Calculate the expectation by conditional expectation: N (t ) E[ N (t )]t 1 2=λt E ∑ (t S i ) = 2 2 i=12.2 Properties of Poisson processesDecomposition of Poisson process (an important application of Proposition 2.2.3) A Poisson process N={N(t),t≥0} with rateλ. We consider the case in which if an arrival occurs at time s, it is a type-1 arrival with probability P(s) and a type-2 arrival with probability 1-P(s). The type of arrival depends on the epoch of arrival. By using Proposition 2.2.3 we can prove the following propositon.2.2 Properties of Poisson processesProposition 2.2.4 Let Ni={Ni(t), t≥0}, i=1 and 2, where Ni(t) denotes the number of type-i arrivals in (0,t]. N1(t) and N2(t) are two independent Poisson random variables with meansλpt andλqt, where1 t p=∫ P ( s )ds and q= 1 p t 0 λ pt (λpt ) n λ qt (λqt ) m P{N1 (t )= n, N 2 (t )= m}= e e n! m!2.2 Properties of Poisson processes2.2 Properties of Poisson processesThe importance of the above proposition is illustrated by thefollowing example.17。

第一章 随机过程及其分类在概率论中，我们研究了随机变量，n 维随机向量。

在极限定理中我们研究了无穷多个随机变量，但只局限在它们之间相互独立的情形。

将上述情形加以推广，即研究一族无穷多个、相互有关的随机变量，这就是随机过程。

1． 随机过程的概念定义：设),,(P ∑Ω是一概率空间，对每一个参数T t ∈，),(ωt X 是一定义在概率空间),,(P ∑Ω上的随机变量，则称随机变量族});,({T t t X X T ∈=ω为该概率空间上的一随机过程。

其中R T ⊂是一实数集，称为指标集或参数集。

随机过程的两种描述方法： 用映射表示T X ，R T t X →Ω⨯:),(ω即),(⋅⋅X 是一定义在Ω⨯T 上的二元单值函数，固定T t ∈，),(⋅t X 是一定义在样本空间Ω上的函数，即为一随机变量；对于固定的Ω∈ω，),(ω⋅X 是一个关于参数T t ∈的函数，通常称为样本函数，或称随机过程的一次实现，所有样本函数的集合确定一随机过程。

记号),(ωt X 有时记为)(ωt X 或简记为)(t X 。

参数T 一般表示时间或空间。

常用的参数一般有：（1）},2,1,0{0 ==N T ；（2）},2,1,0{ ±±=T ；（3）],[b a T =，其中a 可以取0或∞-，b 可以取∞+。

当参数取可列集时，一般称随机过程为随机序列。

随机过程});({T t t X ∈可能取值的全体所构成的集合称为此随机过程的状态空间，记作S 。

S 中的元素称为状态。

状态空间可以由复数、实数或更一般的抽象空间构成。

实际应用中，随机过程的状态一般都具有特定的物理意义。

例1：抛掷一枚硬币，样本空间为},{T H =Ω，借此定义：⎩⎨⎧=时当出现，时当出现T 2H ,cos )(t t t X π ),(∞+-∞∈t 其中2/1}{}{==T P H P ，则)},(,)({∞+-∞∈t t X 是一随机过程。