一、1.1设二维随机变量(,)的联合概率密度函数为： 试求:在时,求。 解： 当时，＝ ＝ 1.2 设离散型随机变量X服从几何分布： 试求的特征函数，并以此求其期望与方差。解：
所以： 2.1 袋中红球，每隔单位时间从袋中有一个白球，两个任取一球后放回，对每 对应随机变量一个确定的t ?????=时取得白球如果对时取得红球 如果对t e t t t X t 3)( .维分布函数族试求这个随机过程的一 2.2 设随机过程 ，其中 是常数，与是 相互独立的随机变量，服从区间上的均匀分布，服从瑞利分布，其概 率密度为 试证明为宽平稳过程。 解：（1） 与无关
（2） ， 所以 （3） 只与时间间隔有关，所以 为宽平稳过程。 2.3是随机变量，且，其中设随机过程U t U t X 2cos )(=求：，.5)(5)(==U D U E .321）方差函数）协方差函数；（）均值函数；（（ 2.4是其中，设有两个随机过程U Ut t Y Ut t X ,)()(32==.5)(=U D 随机变量，且 数。试求它们的互协方差函 2.5， 试求随机过程是两个随机变量设B At t X B A 3)(,,+=的均值),(+∞-∞=∈T t 相互独若函数和自相关函数B A ,.),()(),2,0(~),4,1(~,21t t R t m U B N A X X 及则且立 为多少？
3.1一队学生顺次等候体检。设每人体检所需的时间服从均值为2分 钟的指数分布并且与其他人所需时间相互独立，则1小时内平均有多少学生接受过体检？在这1小时内最多有40名学生接受过体检的概率是多少（设学生非常多，医生不会空闲） 解：令()N t 表示(0,)t 时间内的体检人数，则()N t 为参数为30的 poisson 过程。以小时为单位。 则((1))30E N =。 40 300 (30)((1)40)!k k P N e k -=≤=∑。 3.2在某公共汽车起点站有两路公共汽车。乘客乘坐1,2路公共汽车的强度分别为1λ，2λ，当1路公共汽车有1N 人乘坐后出发；2路公共汽车在有2N 人乘坐后出发。设在0时刻两路公共汽车同时开始等候乘客到来，求（1）1路公共汽车比2路公共汽车早出发的概率表达式；（2）当1N =2N ，1λ=2λ时，计算上述概率。 解： 法一：（1）乘坐1、2路汽车所到来的人数分别为参数为1λ、2λ的poisson 过程，令它们为1()N t 、2()N t 。1 N T 表示1()N t =1N 的发生时 刻，2 N T 表示2()N t =2N 的发生时刻。 1 11 1111111()exp()(1)! N N N T f t t t N λλ-= -- 2 22 1222222()exp()(1)! N N N T f t t t N λλ-= -- 1 2 121 2 1 2 2 1 112,12|1221 1122212(,)(|)()exp() exp() (1)! (1)! N N N N N N N N N T T T T T f t t f t t f t t t t t N N λλλλ--== ----
山东财政学院 2009—2010学年第 1 学期期末考试《应用随机过程》试卷(A ) （考试时间为120分钟） 参考答案及评分标准 考试方式： 闭卷 开课学院 统计与数理学院 使用年级 07级 出题教师 张辉 一． 判断题（每小题2分，共10分，正确划√，错误划ⅹ） 1. 严平稳过程一定是宽平稳过程。（ⅹ ） 2. 非周期的正常返态是遍历态。（√ ） 3. 若马氏链的一步转移概率阵有零元，则可断定该马氏链不是遍历的。（ⅹ ） 4. 有限马尔科夫链没有零常返态。（√ ） 5．若状态i 有周期d, 则对任意1≥n , 一定有：0)(?nd ii p 。（ⅹ ） 二． 填空题（每小题5分，共10分） 1. 在保险公司的索赔模型中，设索赔要求以平均每月两次的速率的泊松过程到达保险公司，若每次赔付金额是均值为10000元的正态分布，一年中保险公司的平均赔付金额是＿＿240000元＿＿＿。 2．若一个矩阵是随机阵，则其元素满足的条件是：（1）任意元素非负（2）每行元素之和为1。 三． 简答题（每小题5分，共10分） 1． 简述马氏链的遍历性。 答：设) (n ij p 是齐次马氏链{}1,≥n X n 的n 步转移概率，，如果对任意 I j i ∈,存在不依赖于i 的极限0)(?=j n ij p p ，则称齐次马氏链{}1,≥n X n 具有遍历性。 2． 非齐次泊松过程与齐次泊松过程有何不同？
答：非齐次泊松过程与齐次泊松过程的不同在于：强度λ不再是常数，而是与t 有关，也就是说，不再具有平稳增量性。它反映了其变化与时间相关的过程。如设备的故障率与使用年限有关，放射物质的衰变速度与衰败时间有关，等等。 四． 计算、证明题（共70分） 1. 请写出C —K 方程，并证明之. （10分） 解： 2. 写出复合泊松过程的定义并推算其均值公式. （15分） 解：若{}0),(≥t t N 是一个泊松过程，是Λ,2,1,=i Y i 一族独立同分布的随机变量，并且与{}0),(≥t t X 也是独立的， )(t X =∑=t N i i Y 1，那么{}0),(≥t t X 复合泊松过程
遵义师范学院课程教学大纲 应用随机过程教学大纲 （试行） 课程编号：280020 适用专业：统计学 学时数：48 学分数：____________ 2.5_______ 执笔人：黄建文审核人：_____________________ 系别：数学教研室：统计学教研室
编印日期：二?一五年七月 课程名称：应用随机过程 课程编码： 学分：2.5 总学时：48 课堂教学学时：32 实践学时：16 适用专业：统计学先修课程：高等数学、线性代数、概率论、测度论或者实变函数（自学） 一、课程的性质与目标： （一）该课程的性质 《应用随机过程》课程是普通高等学校统计学专业必修课程。它是在学生掌握了数学分析、线性代数和概率论等一定的数学专业理论知识的基础上开设的，要求学生掌握随机过程的基本理论和及其研究方法。 （二）该课程的教学目标 （1）从生活中的需要出发，结合研究随机现象客观规律性的特点，并根据随机过程的内容和知识结构，着重从随机过程的基本理论和基本方法出发，就实际应用中的典型随机过程做应用研究，并在理论、观点和方法上予以总结、提高及应用。 （2）对各个章节的教学，随机过程侧重于基本思想和基本方法的探讨，介绍随机过程的基本概念，建立以分布函数等研究相关问题概率的实际应用思路，寻求解决统计和随机过程问题的方法。着重基本思想及方法的培养和应用。 （3）结合学生实际，利用生活中的实例进行分析，培养学生的辩证唯物主义观点。 二、教学进程安排
三、教学内容与要求 第一章预备知识 【教学目标】 通过本章的学习，复习并扩展概率论课程的内容，为学习随机过程打下良好的基础，提供必备的数学工具。 【教学内容和要求】 随机过程以概率论为其主要的基础知识，为此，本章主要对概率空间；随机 变量与分布函数；随机变量的数字特征、矩母函数与特征函数；独立性和条件期望；随机变量序列的收敛性与极限定理等常用到的概率论基本知识作简要的回顾和扩展。其中概率空间，矩母函数和特征函数的定义及性质、条件期望、收敛性、极限定理等既是本章的重点，又是本章的难点。 【课外阅读资料】 《应用随机过程》，林元烈编，清华大学出版社。 【作业】 0, x W0 1. 已知连续型随机变量X的分布函数为F（x） = *Aarcsinx, 0 1 [()()][()()]()E X t X s D X t X s t s λ-=-=- 由于(0)0X =故 ()[()][()(0)]X m t E X t E X t X t λ==-= 2()[()][()(0)]X t D X t D X t X t σλ==-= 2 2 22(,)[()()]{()[()()()]}[()(0)][()()][()][()(0)][()()][()]{[()]}()()(1) X R s t E X s X t E X s X t X s X s E X s X X t X s E X s E X s X E X t X s D X s E X s s t s s s st s s t λλλλλλλλ==-+=--+=--++=-++=+=+ (,)(,)()()X X X X B s t R s t m s m t s λ=-= ()()[]exp{(1)}iuX t iu X g u E e t e λ==- 2 定理3.2 设{(),0}X t t ≥是具有参数λ的泊松分布， {,1}n T n ≥是对应的时间间隔序列，则随机变量n T 是独立同 分布的均值为1λ的指数分布 Proof:注意到1{}T t >发生当且仅当泊松过程在区间[0,]t 内没有事件发生，因而1{}{()0}t P T t P X t e λ->=== 即111(){}1{}1t T F t P T t P T t e λ-=≤=->=- 所以1T 是服从均值为1λ的指数分布.利用泊松过程的独立、 平稳增量性质，有 21{|}{()()0}{()(0)0}t P T t T s P X t s X s P X t X e λ->==+-==-== 即222(){}1{}1t T F t P T t P T t e λ-=≤=->=- 对任意的1n ≥和121,,,...,0n t s s s -≥有 21111{|,...,}{()(0)0}t n n P T t T s T s P X t X e λ--->===-== 即(){}1n t T n F t P T t e λ-=≤=- 所以对任一n T 其分布是均值为1 λ的指数分布. 所以1,0 (){}0,0n t T n e t F t P T t t λ-?-≥=≤=? 第十讲 几种常用的随机过程 10.1 马尔可夫过程 10.1.1马尔可夫序列 马尔可夫序列是指时间参数离散，状态连续的马尔可夫过程。 一个随机变量序列x n （n=1,2,…）,若对于任意的n 有 )|(),...,,|(112 1 x x F x x x x F n n X n n n X ---= （10.1） 或 )|(),...,,|(112 1 x x f x x x x f n n X n n n X ---= （10.2） 则称x n 为马尔可夫序列。x n 的联合概率密度为 ) ()|( ) |()|(),...,,(1 1 2 2 11 2 1 x f x x f x x f x x f x x x f X X n n X n n X n X ??---= （10.3） 马尔可夫序列有如下性质： （1） 一个马尔可夫序列的子序列仍为马尔 可夫序列。 （2） ) |(),...,,|(1 21x x f x x x x f n n X k n n n n X -+++= （10.4） （3） )|(),...,|(111x X x x X n n n n E E --= （10.5） （4） 在一个马尔可夫序列中，若已知现在， 则未来与过去相互独立。即 ) |() |()|,(1 x x f x x f x x x f r s X n n X r s n X -= ，n>r>s （10.6） （5） 若条件概率密度)|(1 x x f n n X -与n 无关， 则称马尔可夫序列是齐次的。 （6） 若一个马尔可夫序列是齐次的，且所 有的随机变量X n 具有同样的概率密度，则称该马尔可夫序列为平稳的。 （7） 马尔可夫序列的转移概率满足切普曼 —柯尔莫哥洛夫方程，即 ) |()| ()|(x x f x x f x x f s r X r n X s n X ? ∞ ∞ -= ， n>r>s (10.7) 10.1.2马尔可夫链 马尔可夫链是指时间参数，状态方程皆 应用随机过程试题及答案 一．概念简答题（每题5 分，共40 分） 1. 写出卡尔曼滤波的算法公式 2. 写出ARMA（p,q）模型的定义 3. 简述Poisson 过程的随机分流定理 4. 简述Markov 链与Markov 性质的概念 5. 简述Markov 状态分解定理 6．简述HMM 要解决的三个主要问题得分B 卷（共9 页）第2 页7. 什么是随机过程，随机序列？8．什么是时齐的独立增量过程？二．综合题（每题10 分，共60 分） 1 ．一维对称流动随机过程n Y , 0 1 0, , n n k k Y Y X ? ? ? ? 1 ( 1) ( 1) , 2 k k k X p x p x ? ? ? ? ? 具有的概率分布为且1 2 , , ... X X 是相互独立的。试求1 Y 与2 Y 的概率分布及其联合概率分布。 2. 已知随机变量Y 的密度函数为其他而且，在给定Y=y 条件下，随机变量X 的条件密度函数为? ? 其他试求随机变量X 和Y 的联合分布密度函数( , ) f x y . 得分B 卷（共9 页）第3 页 3. 设二维随机变量( , ) X Y 的概率密度为( ,其他试求p{x<3y} 4．设随机过程( ) c o s 2 , ( , ) , X t X t t ? ? ? ? ? ? X 是标准正态分布的随机变量。试求数学期望( ) t E X ，方差( ) t D X ，相关函数1 2 ( , ) X R t t ，协方差1 2 ( , ) X C t t 。B 卷（共9 页）第4 页5 ．设马尔科夫链的状态空间为I={0,1}, 一步转移概率矩阵为 上海交通大学致远学院2014年秋季学期 《随机过程》课程教学说明 一.课程基本信息 1．开课学院（系）：致远学院 2．课程名称：《随机过程》(Stochastic Processes) 3．学时/学分：64学时/4学分 4．先修课程：概率论 5．上课时间：周二、四，3-4节课 6．上课地点：中院207 7．任课教师：韩东（donghan@https://www.doczj.com/doc/b46617147.html,） 8．办公室及电话：数学楼1206，54743148-1206 9．助教：张登（zhangdeng@https://www.doczj.com/doc/b46617147.html,） 10.Office hour：周四下午3-5点，数学楼1206 二.课程主要内容（中英文） 随机过程是定量研究随机现象（事件）统计规律的一门数学分支学科。学习《随机过程》的主要目的是：了解、认识随机现象的统计性质；知道如何构造随机模型并且能计算和分析随机事件随时间发生变化的的概率及其相关性质。《随机过程》主要包括：Poisson过程、Markov过程、鞅过程、Bronian 运动、随机分析基础(Ito积分与随机微分方程)、平稳过程等。 Stochastic Processes are ways of quantifying the dynamic relations of sequences of random events. It is a branch of mathematics. The main content of this course includes: General theory of stochastic processes; Poisson process and renewal theorems; Martingales; Discrete-time Markov Chains; Continuous-time Markov Chains; Brownian motion; Introduction to stochastic analysis; Stationary processes and ARMA models. 第一章概率论精要 主要内容：概率公理化，全概率公式和Bayes 公式，随机变量及其数字特征、条件期望、极限定理。重点与难点：条件期望和极限定理。 第二章随机过程的基本概念 主要内容：随机过程的定义、随机过程的存在性、随机过程的数字特征。 重点与难点：随机过程的存在性。 第三章Poisson 过程 主要内容：Poisson过程的定义及性质，首达时间与其间隔的分布，Poisson过程的极限定理。 重点与难点：首达时间间隔与Poisson过程的关系。 第四章Markov过程 第一章 随机过程的基本概念 一、随机过程的定义 例1：医院登记新生儿性别，0表示男，1表示女，X n 表示第n 次登记的数字，得到一个序列X 1 ， X 2 ， ···，记为{X n ，n=1,2, ···}，则X n 是随机变量，而{X n ，n=1,2, ···}是随机过程。 例2：在地震预报中，若每半年统计一次发生在某区域的地震的最大震级。令X n 表示第n 次统计所得的值，则X n 是随机变量。为了预测该区域未来地震的强度，我们就要研究随机过程{X n ，n=1,2, ···}的统计规律性。 例3：一个醉汉在路上行走，以概率p 前进一步，以概率1-p 后退一步（假设步长相同）。以X(t)记他t 时刻在路上的位置，则{X(t), t ≥0}就是（直线上的）随机游动。 例4：乘客到火车站买票，当所有售票窗口都在忙碌时，来到的乘客就要排队等候。乘客的到来和每个乘客所需的服务时间都是随机的，所以如果用X(t)表示t 时刻的队长，用Y(t)表示t 时刻到来的顾客所需等待的时间，则{X(t), t ∈T}和{Y(t), t ∈T}都是随机过程。 定义：设给定参数集合T ，若对每个t ∈T, X(t)是概率空间),,(P ?Ω上的随机变量，则称{X(t), t ∈T}为随机过程，其中T 为指标集或参数集。 E X t →Ω:)(ω，E 称为状态空间，即X(t)的所有可能状态构成的集合。 例1：E 为{0,1} 例2：E 为[0, 10] 例3：E 为},2,2,1,1,0{Λ-- 例4：E 都为), 0[∞+ 注：（1）根据状态空间E 的不同，过程可分为连续状态和离散状态，例1，例3为离散状态，其他为连续状态。 （2）参数集T 通常代表时间，当T 取R, R +, [a,b]时，称{X(t), t ∈T}为连续参数的随机过程；当T 取Z, Z +时，称{X(t), t ∈T}为离散参数的随机过程。 （3）例1为离散状态离散参数的随机过程，例2为连续状态离散参数的随机过程，例3为离散状态连续参数的随机过程，例4为连续状态连续参数的随机过程。 二、有限维分布与Kolmogorov 定理 随机过程的一维分布：})({),(x t X P x t F ≤= 随 机 过 程 的 二 维 分 布 ： T t t x t X x t X P x x F t t ∈≤≤=21221121,,},)(,)({),(21 M 4.1(等待时间的和)设诚恳按照参数λ的Poisson 过程来到公交站，公交车于时刻t 发出，那么在],0[t 时间段内到达的乘客等待时间总和的期望应该如何计算那？ 对于某一个乘客而言，假设其到达时间为k t ，那么他等待时间就是 k t t -所以乘客总的等待时间为∑=-=) (0)()(t N k k t t t S 使用条件期望来处理平均等待))(|)(())((n t N t E E t S E == 对于某已成了而言，其到达时刻k t 随机],0[t 内均匀分布的随机变量。但在车站上，乘客是先后到达次序排队，所以在n t N =)(的条件下， n t t t ,...,,21形成了独立均匀分布的顺序统计量。不过就他们的和n t t ++...1而言，可以那他们看着顺序统计量，也可以把他们看着不排顺序的n 各独立的],0[t 内均匀分布的随机变量，所以 2))((2)2)(())((2 2)())(|)((2 0t t N E t t t N E t E E nt nt nt t E nt n t N t E E n k k λ= ===- =-==∑=从而有 4.2(数值记录)设},{N n X n ∈是一独立同分布的非负期望随机变量序列。定义风险率)(t λ如下) (1) ()(t F t f t -= λ 这里)()(t F t f 和分别是k X 的概率密度分布和分布函数。定义随机过程 )(t N 如下}),,..,max(:{#)(01t X X X X n t N n n n ≤>=- 这里A #表示集合A 中的元素个数。如果把)(t N 中的时间t 看做时间，那么)(t N 是一个非齐次Poisson 过程。事实上，由于k X 彼此独立，所以)(t N 具有独立增量性。很明显0)0(=N ，于是只需要检查一个时间微元内)(t N 的状态。 第四章 假设检验 假设检验是一种重要应用价值的统计推断形式，是数理统计的分支。从发展历史上有重要的节点为 1 ：Pearson 的拟合优度的2χ检验 1900 2：Fisher 的显著性检验 1920 3：Neyman-Pearson 一致最优检验 1928 4：Wald 的判决理论 1950 5：Bayes 方法 （二战之后发展的学派） §4.1 基本术语 关于随机变量的分布、数字特征等，每一种论断都称为统计假设，分为参数假设和非参数假设，例如),(~2σu N X ，假设1,1:==σu H 就称为参数假设；给定一组样本值，假设:H ~X 正态分布，对于分布进行论断，为非参数假设。 无论上面那种假设，都是给出一个对立的假设，比如),(~2σu N X ，那么假设1,1:0==σu H 的对立假设就是1,1:1≠≠σu H ，我们就把0H 称为基本假设，或者原假设，而1H 就称为对立（备选）假设。 为了分别那个假设是对的，需要判断假设真伪，就是对假设做出“否”还是“是”的程序就是检验，这个检验常用否定域形式给出，按照一定规则把样本值集合分成两个部分V V ?，当样本值落入子集V 认为0H 不真，那么V 是0H 的否定域，V 为0H 的接受域。 那么这样就产生了两种错误： 第一类错误α ：本来0H 是真，但是却否定了，弃真； 第二类错误β ：本来0H 不真，但是却接受为真，叫取伪。 选定一种检验方法，我们希望上述两种错误概率都小。但是给定样本容量，使得两种错误任意小是不可能的，我们主要研究两大类检验方法： 1：样本容量给定，控制第一类错误，使得错误概率有一个上界α，叫做检验的显著性水平，根据这种原则建立的检验就是α水平显著性检验； 2：样本容量给定，控制第一类错误α水平固定，还使得第二类错误最小，就是接受不真实假设的概率最小，否定不真实假设的概率就称为检验功效1-β，使得功效最大，，根据这种原则建立的检验就是α水平最大功效检验,或者最佳检验。 §4.2参数假设检验 设X 符合分布),(θx F ，未知参数θΘ∈参数空间，空间分成两部分0Θ和 Θ-0Θ，二者交集为空。 主要对于正态分布参数的统计假设的显著性检验方法。 1）针对不同问题，提出基本假设与备选假设 0H ：θ0Θ∈ 1H ：θ0Θ-Θ∈ 如果参数空间仅仅是由0θθ=和1θθ=两个点组成的，那么我们称简单假设，否则是复合假设。 2）给定检验的显著性水平α，其大小依据不同问题不同，比如火箭、飞机等可靠性问题，α要越小越好，对于一般生产问题，太小了则意味着生产时间和成本的增加； 3）建立对于基本假设的统计量和否定域； 4）取样，计算统计量值，落入否定域则判读0H 为假，否则为真。 例子：某种药片制剂中国家规定成分A 的含量X 必须为10%，现在抽取5个片剂试样，测得A 的含量为 10.9% 9.45% 10.38% 9.61% 9.92% 假设)%,10(~20σ=u N X ，按照显著性水平α=0.05进行检验是否与规定10%相符？ 解：建立基本假设0H ：0u u =，这里显著性水平α=0.05，样本容量为5，样本值如上。 如何确定统计量呢？样本均值X 可以求出，但是这里方差未知，用无偏估 计量* 2n S 来代替2σ，那么统计量 = t )1(~/* 20--n t n S u X n 习题 1. 设随机过程{(,),}X t t ω-∞<<+∞只有两条样本函数 12(,)2cos ,(,)2cos ,X t t X t t x ωω==--∞<<+∞ 且1221 (),()33P P ωω==，分别求： （1）一维分布函数(0,)F x 和(,)4F x π ； （2）二维分布函数(0,;,)4F x y π ； （3）均值函数()X m t ； （4）协方差函数(,)X C s t . 2. 利用抛掷一枚硬币一次的随机试验，定义随机过程 1 2 cos ()2t X t πωω?=??出现正面出现反面 且“出现正面”与“出现反面”的概率相等，各为1 2 ，求 1）画出{()}X t 的样本函数 2）{()}X t 的一维概率分布，1 (;)2F x 和(1;)F x 3）{()}X t 的二维概率分布121 (,1;,)2 F x x 3. 通过连续重复抛掷一枚硬币确定随机过程{()}X t cos ()2 t t X t t π?=? ?在时刻抛掷硬币出现正面 在时刻抛掷硬币出现反面 求：（1）1(,),(1,)2F x F x ； （2）121 (,1;,)2 F x x 4. 考虑正弦波过程{(),0}X t t ≥，()cos X t t ξω=，其中ω为正常数，~(0,1)U ξ. （1）分别求3,,,424t ππππωωωω = 时()X t 的概率密度(,)f t x . （2）求均值函数()m t ，方差函数()D t ，相关函数(,)R s t ，协方差函数(,)C s t . 5. 给定随机过程： ()X t t ξη=+ ()t -∞<<+∞ 其中r. v. (,)ξη的协方差矩阵为1334C ?? = ??? ， 求随机过程{(),}X t t -∞<<+∞的协方差函数. 6. 考虑随机游动{(),0,1,2,}Y n n = 应用随机过程学习汇总 ————————————————————————————————作者：————————————————————————————————日期： 应用随机过程学习总结 一、预备知识：概率论 随机过程属于概率论的动态部分，即随机变量随时间不断发展变化的过程，它以概率论作为主要的基础知识。 1、概率空间方面，主要掌握sigma代数和可测空间，在随机过程中由总体样本空间所构成的集合族。符号解释： sup表示上确界， inf表示下确界。 本帖隐藏的内容 2、数字特征、矩母函数与特征函数：随机变量完全由其概率分布来描述。其中由于概率分布较难确定，因此通常计算随机变量的数字特征来估算分布总体，而矩母函数和特征函数便用于随机变量的N阶矩计算，同时唯一的决定概率分布。 3、独立性和条件期望：独立随机变量和的分布通常由卷积来表示，对于同为分布函数的两个函数，卷积可以交换顺序，同时满足结合律和分配率。条件期望中，最重要的是理解并记忆E(X) = E[E(X|Y)] = intergral(E(X|Y=y))dFY(y)。 二、随机过程基本概念和类型 随机过程是概率空间上的一族随机变量。因为研究随机过程主要是研究其统计规律性，由Kolmogorov定理可知，随机过程的有限维分布族是随机过程概率特征的完整描述。同样，随机过程的有限维分布也通过某些数值特征来描述。 1、平稳过程，通常研究宽平稳过程：如果X(t1)和X(t2)的自协方差函数 r(t1,t2)=r(0,t-s)均成立，即随机过程X(t)的协方差函数r(t,s)只与时间差 t-s有关，r(t) = r(-t)记为宽平稳随机过程。 因为一条随机序列仅仅是随机过程的一次观察，那么遍历性问题便是希望将随即过程的均值和自协方差从这一条样本路径中估计出来，因此宽平稳序列只需满足其均值遍历性原理和协方差遍历性原理即可。 2、独立增量过程：若X[Tn]– X[T(n-1)]对任意n均相互独立，则称X(t)是独立增量过程。若独立增量过程的特征函数具有可乘性，则其必为平稳增量过程。 兼有独立增量和平稳增量的过程称为平稳独立增量过程，其均值函数一定是时间t的线性函数。 第二章 随机过程分析 1.1 学习指导 1.1.1 要点 随机过程分析的要点主要包括随机过程的概念、分布函数、概率密度函数、数字特征、通信系统中常见的几种重要随机过程的统计特性。 1. 随机过程的概念 随机过程是一类随时间作随机变化的过程，它不能用确切的时间函数描述。可从两种不同角度理解：对应不同随机试验结果的时间过程的集合，随机过程是随机变量概念的延伸。 2. 随机过程的分布函数和概率密度函数 如果ξ(t )是一个随机过程，则其在时刻t 1取值ξ(t 1)是一个随机变量。ξ(t 1)小于或等于某一数值x 1的概率为P [ ξ(t 1) ≤ x 1 ]，随机过程ξ(t )的一维分布函数为 F 1(x 1, t 1) = P [ξ(t 1) ≤ x 1] (2-1) 如果F 1(x 1, t 1)的偏导数存在，则ξ(t )的一维概率密度函数为 1111111 (,) (, ) (2 - 2)?=?F x t f x t x 对于任意时刻t 1和t 2，把ξ(t 1) ≤ x 1和ξ(t 2) ≤ x 2同时成立的概率 {}212121122(, ; , )(), () (2 - 3)F x x t t P t x t x ξξ=≤≤ 称为随机过程ξ (t )的二维分布函数。如果 2212122121212 (,;,) (,;,) (2 - 4)F x x t t f x x t t x x ?=??? 存在，则称f 2(x 1, x 2; t 1, t 2)为随机过程ξ (t )的二维概率密度函数。 对于任意时刻t 1，t 2，…，t n ，把 {}n 12n 12n 1122n n ()(),(),,() (2 - 5) =≤≤≤L L L F x x x t t t P t x t x t x ξξξ，，，；，，，称为随机过程ξ (t )的n 维分布函数。如果 n n 12n 12n n 12n 12n 12n (x )() (2 - 6)?=???L L L L L F x x t t t f x x x t t t x x x ，，，；，，，，，，；，，， 存在，则称f n (x 1, x 2, …, x n ; t 1, t 2, …, t n )为随机过程ξ (t )的n 维概率密度函数。 3. 随机过程的数字特征 随机过程的数字特征主要包括均值、方差、自相关函数、协方差函数和互相关函数。 随机过程ξ (t )在任意给定时刻t 的取值ξ (t )是一个随机变量，其均值为 []1()(, )d (2 - 7)E t xf x t x ξ∞ -∞ =? H a r b i n I n s t i t u t e o f T e c h n o l o g y 课程设计（论文） 课程名称：应用随机过程 设计题目：随机过程简史 院系：电气工程学院 班级： 11S0104 设计者：孙延博 学号： 11S001070 指导教师：田波平 设计时间： 2011-10-23 随机过程简史 摘要 本文简要地介绍了随机过程从20世纪初创立至今，100年的发展历程考察了导致随机过程产生的历史契机，以及早期数学家在这方面作出的杰出工作。并简要介绍了随机过程的概念，研究方法 和研究内容，在现代工程技术领域的应用。 关键词：随机过程平稳随机过程平稳随机序列 1.随机过程的概念研究方法及研究内容 随机过程是现代概率论研究的一个重要分支。数学上的随机过程是由实际随机过程概念引起的一种数学结构。人们研究这种过程，是因为它是实际随机过程的数学模型，或者是因为它的内在数学意义以及它在概率论领域之外的应用。数学上的随机过程可以简单的定义为一组随机变量，即指定一参数集，对于其中每一参数点t指定一个随机变量x(t)。如果回忆起随机变量自身就是一个函数，以ω表示随机变量x(t)的定义域中的一点，并以x(t，ω)表示随机变量在ω的值，则随机过程就由刚才定义的点偶(t，ω)的函数以及概率的分配完全确定。如果固定t，这个二元函数就定义一个ω的函数，即以x(t)表示的随机变量。如果固定ω，这个二元函数就定义一个t的函数，这是过程的样本函数。由于物理学生物学，通讯和控制管理科学等学科的需要随机过程逐步发展起来的。马尔柯夫最早研究了随机过程。研究随机过程的方法多种多样，主要可以分为两大类：一类是概率方法，其中用到轨道性质、停时和随机微分方程等；另一类是分析的方法，其中用到测度轮、微分方程、半群理论、函数堆和希尔伯特空间等。实际研究中常常两种方法并用。另外组合方法和代数方法在某些特殊随机过程的研究中也有一定作用。研究的主要内容有：多指标随机过程、无穷质点与马尔可夫过程、概率与位势及各种特殊过程的专题讨论等。中国学者在平稳过程、马尔科夫过程、鞅论、极限定理、随机微分方程等方面做出了较好的工作。 2.随机过程的历史 1900年，Bachelier在分析股票市场波动时．发现了随机过程的一个重过程——独立增量过程的特恻。1905年，物理学家Einstein在研究Brown运动时，也遇到了相同的过程．1923年，Wiener 给出了Brown运动的数学描述- wiener过程。 Lunbderg在1903年研究一个保险公司所承担索赔累计数的变化规律时．导出了另一类型的随机过程——Lundberg过程。而众所周知、应用甚广的Poisson过程是当所有得付出的索赔总数中每一笔数目都相同时的Lundberg过程。 1909年，Erlang在研究电话业务时引入了Poisson过程，并被物理学家Rutherford和Geiger用于分析放射性蜕变。这些早期对随机过程的研究都是同实际问题紧密联系在一起的。虽然在数学上用了不太严密的方法，却表现出了直观处理这些概念和方法的绝妙能力。 应用随机过程学习总结 一、预备知识：概率论 随机过程属于概率论的动态部分，即随机变量随时间不断发展变化的过程，它以概率论作为主要的基础知识。 1、概率空间方面，主要掌握sigma代数和可测空间，在随机过程中由总体样本空间所构成的集合族。符号解释： sup表示上确界， inf表示下确界。 本帖隐藏的内容 2、数字特征、矩母函数与特征函数：随机变量完全由其概率分布来描述。其中由于概率分布较难确定，因此通常计算随机变量的数字特征来估算分布总体，而矩母函数和特征函数便用于随机变量的N阶矩计算，同时唯一的决定概率分布。 3、独立性和条件期望：独立随机变量和的分布通常由卷积来表示，对于同为分布函数的两个函数，卷积可以交换顺序，同时满足结合律和分配率。条件期望中，最重要的是理解并记忆E(X) = E[E(X|Y)] = intergral(E(X|Y=y))dFY(y)。 二、随机过程基本概念和类型 随机过程是概率空间上的一族随机变量。因为研究随机过程主要是研究其统计规律性，由Kolmogorov定理可知，随机过程的有限维分布族是随机过程概率特征的完整描述。同样，随机过程的有限维分布也通过某些数值特征来描述。 1、平稳过程，通常研究宽平稳过程：如果X(t1)和X(t2)的自协方差函数 r(t1,t2)=r(0,t-s)均成立，即随机过程X(t)的协方差函数r(t,s)只与时间差 t-s有关，r(t) = r(-t)记为宽平稳随机过程。 因为一条随机序列仅仅是随机过程的一次观察，那么遍历性问题便是希望将随即过程的均值和自协方差从这一条样本路径中估计出来，因此宽平稳序列只需满足其均值遍历性原理和协方差遍历性原理即可。 2、独立增量过程：若X[Tn]– X[T(n-1)]对任意n均相互独立，则称X(t)是独立增量过程。若独立增量过程的特征函数具有可乘性，则其必为平稳增量过程。 兼有独立增量和平稳增量的过程称为平稳独立增量过程，其均值函数一定是时间t的线性函数。 随机过程习题解答（一） 第一讲作业： 1、设随机向量的两个分量相互独立，且均服从标准正态分布。 （a）分别写出随机变量和的分布密度 （b）试问：与是否独立？说明理由。 解：（a） （b）由于： 因此是服从正态分布的二维随机向量，其协方差矩阵为： 因此与独立。 2、设和为独立的随机变量，期望和方差分别为和。 （a）试求和的相关系数； （b）与能否不相关？能否有严格线性函数关系？若能，试分别写出条件。 解：（a）利用的独立性，由计算有： （b）当的时候，和线性相关，即 3、设是一个实的均值为零，二阶矩存在的随机过程，其相关函数为 ，且是一个周期为T的函数，即，试求方差 函数。 解：由定义，有： 4、考察两个谐波随机信号和，其中： 式中和为正的常数；是内均匀分布的随机变量，是标准正态分布的随机变量。 （a）求的均值、方差和相关函数； （b）若与独立，求与Y的互相关函数。 解：（a） （b） 第二讲作业： P33/2．解： 其中为整数，为脉宽 从而有一维分布密度： P33/3．解：由周期性及三角关系，有： 反函数，因此有一维分布： P35/4. 解：(1) 其中 由题意可知，的联合概率密度为： 利用变换：，及雅克比行列式： 我们有的联合分布密度为： 因此有： 且V和相互独立独立。 （2）典型样本函数是一条正弦曲线。 （3）给定一时刻，由于独立、服从正态分布，因此也服从正态分布，且 所以。 （4）由于： 所以因此 当时， 当时， 由（1）中的结论，有： P36/7．证明： (1) (2) 由协方差函数的定义，有： P37/10. 解：（1） 当i =j 时；否则 令 ，则有 第三讲作业： P111/7．解： （1 ）是齐次马氏链。经过 次交换后，甲袋中白球数仅仅与次交换后的状态有关，和之前的状态和交换次数无关。 （2）由题意，我们有一步转移矩阵： P111/8．解：（1）由马氏链的马氏性，我们有： （2）由齐次马氏链的性质，有： （2） 《数理统计与随机过程讲义》 段法兵 复杂性科学研究所 第一章 概率论回顾 下面是数理统计部分需要的掌握的，许多推导的基础知识。 §1.1 几种分布的由来 指数分布：服务台电话呼叫时间，公交车到达一个车站时间，这些时间分布的符合指数分布。设)(t q 为区间t 上没有事件发生的概率，x 为第一次事件发生等待的时间，那么)()(t x P t q >=，假设不同时间区间1t ，2t 相互不重叠且独立，那么 )()()(2121t t x P t x P t x P +>=>> ?)()()(2121t t q t q t q += ?t e t q λ-=)(为非平凡（非零）有界解，这里λ为状态转移概率 那么我们有分布函数 t e t q t x P t x P t F λ--=-=>-=≤=1)(1)(1)()( 因此得到指数分布 ???≥==-other t e dt t dF t f t 0 0)()(λλ 两个指数分布之和的分布？ y x z += 在x-y 的空间内，满足z y x ≤+的区域如上，那么z 的累计分布 Y {}? ?-=≤+=y z xy z dx y x f dy z y x P z F 0 ),()( 那么 ?-== z y x z dx x z f x f dz z dF z f 0)()() ()( 例如x 与y 为相互独立的指数分布，x x e x f λλ-=)(和y y e y f λλ-=)(分别为其概率分布函数，那么x z =+y 的分布为 z z x z x y x z e z dx e e y f x f z f λλλλλ---===?20)(*)()( z z x z x e z dx e e λλλλλ----==?20)(2， 0>z Gamma 分布：N 个指数分布的随机变量之和的分布为Gamma 分布。 例如x 与y 为相互独立的指数分布，x x e x f λλ-=)(和y y e y f λλ-=)(分别为其概率分布函数，那么x z =+y 的分布为 z z x z x y x z e z dx e e y f x f z f λλλλλ---===?20)(*)()( 如此卷积下去，N 个相互独立的指数分布相加的概率分布为Gamma 分布，其概率密度函数 ?? ???≥Γ=--other x e x x f x 00)()(/1β α αβα 这里参数0,>βα。Gamma 函数 ?∞ --=Γ01)(dx e x x αα。 性质1：利用分部积分法得到递推公式 )()1(αααΓ=+Γ， 当α为整数n 时，利用分部积分法得到 !)()1(n n n n =Γ=+Γ， 而非整数2/1=α，利用变量代换2/2y x =，得到 π=Γ)2/1(， 所以有应用随机过程复习资料
几种常用的随机过程
应用随机过程试题及答案
随机过程MA335.doc-致远学院-上海交通大学
(完整版)应用随机过程期末复习资料
随机过程及其应用-清华大学
数理统计与随机过程讲义
应用随机过程习题课二
应用随机过程学习汇总
第2章 随机过程习题及答案上课讲义
随机过程简史
(完整)应用随机过程学习总结(2),推荐文档
随机过程习题答案
《数理统计与随机过程讲义》
相关主题
文本预览