随机过程课程设计
- 格式:doc
- 大小:438.50 KB
- 文档页数:22
. 页脚 《随机过程》 课程设计(论文)
题 目: 连续马尔科夫过程的转移 概率及应用 学 院: 理学院 专 业: 数学与应用数学 班 级: 数学09-2班 学 生 姓 名: 姜德月 学 生 学 号: 2009026249 指 导 教 师: 蔡吉花
2011 年 12 月 20 日 .
页脚 目录 课程设计任务书 --------------------------------------------------------------- I 摘 要----------------------------------------------------------------------- II 第1章 绪论 -------------------------------------------------------------- - 1 - 第2章 连续时间马尔可夫链基本理论 ----------------------------------------- - 2 - 2.1定义.................................................................................................................................... - 2 - 2.2转移概率 ........................................................................................................................... - 2 - 第3章 柯尔莫哥洛夫微分方程 ----------------------------------------------- - 3 - 3.1跳跃强度 ........................................................................................................................... - 3 - 3.2 Q矩阵 ............................................................................................................................ - 4 - 3.3柯尔莫哥洛夫向后方程 .................................................................................................. - 4 - 3.4柯尔莫哥洛夫向前方程 .................................................................................................. - 5 - 第4章 马尔可夫过程研究的问题的分析 --------------------------------------- - 5 - 4.1连续参数随机游动问题 .................................................................................................. - 5 - 第5章 计算结果及程序 ---------------------------------------------------- - 6 - 第6章 结论和展望 ------------------------------------------------------- - 16 - 参考文献 ----------------------------------------------------------------- - 16 - 评 阅 书 ------------------------------------------------------------- - 17 - .
页脚 随机过程 课程设计任务书
姜德月 学号 18 指导教师 蔡吉花 设计题目 连续马尔科夫过程的转移概率及其应用
理论要点 连续时间马尔科夫链,转移概率及应用,科尔莫格罗夫向前、向后方程
设计目标 找实例解决具体问题,用科尔莫格罗夫向前、向后方程求解时编程解微分方程。 研究方法步骤 了解基本原理,寻找相关实际问题,解决问题。
预期结果 学习MATLAB有关求解微分方程的指令;微分方程数值求解法;能够解决随机游动的微分方程。
计划与进步的安排
1.了解基本要求,整理思路,设计大纲。 2 .查找相关书籍,上网查找相关资料。 3.初步设计课程设计 4 .对设计进行整理,进行排版,检查,审核。
参考资料 《应用随机过程》,钱敏平,龚光鲁,北京大学出版社, 1998. 《随机过程论》, 钱敏平 高等教育出版社 2000 《应用随机过程》, 林元烈 清华大学出版社 2002
《随机过程》, 刘次华 华中科技大学出版社 2008 《Matlab在时间序列分析中的应用》 张善文 雷英杰 冯有前 西安电子科技大学出版社 2007 . 页脚 填写时间 2011年12月20日
摘 要 马尔可夫过程(MarKov Process)是一个典型的随机过程。设()Xt是一随机过程,当过程在时刻0t所处的状态为已知时,时刻0()ttt所处的状态与过程在0t
时刻之前的状态无关,这个特性成为无后效性。 本文主要阐述连续马尔科夫过程的转移概率定义、性质及其应用,以及科尔莫哥洛夫向前、向后方程,Q矩阵。主要研究机器维修,排队,以及随机游动等实际问题,根据实际问题来求解微分方程。并用MATLAB,对其结果进行了合理性的分析,使得我们能更好的理解和应用连续马尔可夫过程,并能用柯尔莫哥洛夫向前向后方程,Q矩阵,MATLAB求解实际问题。
关键字 马尔科夫过程 转移概率 柯尔莫哥洛夫 微分方程数值求解 随机游动 .
页脚 连续马尔科夫过程的转移概率及其应用 第1章 绪论
1951年前后,伊藤清建立的随机微分方程的理论,为马尔可夫过程的研究开辟了新的道路。1954年前后, W.费勒将半群方法引入马尔可夫过程的研究。流形上的马尔可夫过程、马尔可夫向量场等都是正待深入研究的领域。 类重要的随机过程,它的原始模型马尔可夫链,由俄国数学家Α.Α.马尔可夫于1907年提出。人们在实际中常遇到具有下述特性的随机过程:在已知它目前的状态(现在)的条件下,它未来的演变(将来)不依赖于它以往的演变(过去)。这种已知“现在”的条件下,“将来”与“过去”独立的特性称为马尔可夫性,具有这种性质的随机过程叫做马尔可夫过程。荷花池中一只青蛙的跳跃是马尔可夫过程的一个形象化的例子。青蛙依照它瞬间或起的念头从一片荷叶上跳到另一片荷叶上,因为青蛙是没有记忆的,当现在所处的位置已知时,它下一步跳往何处和它以往走过的路径无关。如果将荷叶编号并用012,,......xxx分别表示青蛙最初处的荷叶号码及
第一次、第二次、……跳跃后所处的荷叶号码,那么,0
nxn 就是马尔
可夫过程。液体中微粒所作的布朗运动,传染病受感染的人数,原子核中一自由电子在电子层中的跳跃,人口增长过程等等都可视为马尔可夫过程。还有些过程(例如某些遗传过程)在一定条件下可以用马尔可夫过程来近似。 关于马尔可夫过程的理论研究,1931年Α.Η.柯尔莫哥洛夫发表了《概 . 页脚 率论的解析方法》,首先将微分方程等分析方法用于这类过程,奠定了它的理论基础。1951年前后,伊藤清在P.莱维和C.H.伯恩斯坦等人工作的基础上,建立了随机微分方程的理论,为研究马尔可夫过程开辟了新的道路。1954年前后,W.弗勒将泛函分析中的半群方法引入马尔可夫过程的研究中,Ε.Б.登金(又译邓肯)等并赋予它概率意义(如特征算子等)。50年代初,角谷静夫和J.L.杜布等发现了布朗运动与偏微分方程论中狄利克雷问题的关系,后来G.A.亨特研究了相当一般的马尔可夫过程(亨特过程)与 位势的关系。目前,流形上的马尔可夫过程、马尔可夫场等都是正待深入研究的领域。
第2章 连续时间马尔可夫链基本理论 2.1定义 设随机过程,0Xtt,状态空间I=0,1,2L,若对1tn任意及非负整数
1210t t tn及非负整数12n+1i,i,,iL有
111122|,,,nnnnpXtiXtiXtiXtiL11|nnnnpXtiXti
,则称,0Xtt为连续时间马尔可夫链。
2.2转移概率 在s时刻处于状态i,经过时间t后转移到状态j的概率,|ijpstpXstjXsi
定义.2 齐次转移概率,
ijijpstpt (与起始时刻s无关,只与时间间隔t有关)转移概
率矩阵,,,0
ijPtptijIt
命题:若τi为过程在状态转移之前停留在状态i的时间,则对s, t≥0有