随机过程的历史
随机过程整个学科的理论基础是由柯尔莫哥洛夫和杜布奠定的。这一学科最早源于对物理学的研究，如吉布斯、玻尔兹曼、庞加莱等人对统计力学的研究，及后来爱因斯坦、维纳、莱维等人对布朗运动的开创性工作。1907年前后，马尔可夫研究了一系列有特定相依性的随机变量，后人称之为马尔可夫链。1923年维纳给出布朗运动的数学定义，直到今日这一过程仍是重要的研究课题。随机过程一般理论的研究通常认为开始于20世纪30年代。1931年，柯尔莫哥洛夫发表了《概率论的解析方法》，1934年辛饮发表了《平稳过程的相关理论》，这两篇著作奠定了马尔可夫过程与平稳过程的理论基础。1953年，杜布出版了名著《随机过程论》，系统且严格地叙述了随机过程基本理论。
概率论和随机过程有悠久的历史，它的起源与博弈问题有关。16世纪，意大利的一些学者开始研究掷骰子等赌博中的一些简单问题，例如比较掷两个骰子出现总点数为9或10的可能性大小。17世纪中叶，法国数学家帕斯卡、费马及荷兰数学家惠更斯基于排列组合的方法研究了一些较复杂的赌博问题，他们解决了“合理分配赌注问题”（即“得分问题”）、“输光问题”等等。其方法不是直接计算赌徒赢局的概率，而是计算期望的赢值，从而导致了现今称之为数学期望的概念（由惠更斯明确提出）。使概率论成为数学的一个分支的真正奠基人则是瑞士数学家雅各布第一·伯努利,若n η表示前n 次独立重复试验中事件a 出现的次数,从而σn/n 为事件a 出现的频率，则当n→∞时，
0)(→≥-εηp n P n
式中ε为任一正实数。这一结果发表于他死后8年(1713)出版的遗著《推测术》中。这里所说的事件的概率,应理解为事件发生的机会的一个测度,即公理化概率测度(详见后)。1716年前后,棣莫弗对2
1=p 情形,用他导出的关于n!的渐近公式(即所谓斯特林公式)进一步证明了：渐近地服从正态分布（德国数学家c.f.高斯于1809年研究测量误差理论时重新导出正态分布，所以也称为高斯分布）。棣莫弗的这一结果后来被法国数学家p.-s.拉普拉斯推广到一般的p(0 这是概率论中第二个基本极限定理（见中心极限定理）的原始形式。拉普拉斯对概率论的发展贡献很大。他在系统总结前人工作的基础上，写出了《概率的分析理论》(1812年出版,后又再版6次)。在这一著作中，他首次明确规定了概率的古典定义（通常称为古典概率，见概率），并在概率论中引入了更有力的分析工具，如差分方程、母函数等，从而实现了概率论由单纯的组合计算到分析方法的过渡，将概率论推向一个新的发展阶段。拉普拉斯非常重视概率论的实际应用,对人口统计学尤其感兴趣。继拉普拉斯以后,概率论的中心研究课题是推广和改进伯努利大数律及棣莫弗－拉普拉斯极限定理。在这方面，俄国数学家切比雪夫迈出了决定性的一步，1866年他用他所创立的切比雪夫不等式建立了有关独立随机变量序列的大数律。次年，又建立了有关各阶绝对矩一致有界的独立随机变量序列的中心极限定理；但其证明不严格，后来由马尔可夫于1898年补证。1901年Α.М.李亚普诺夫利用特征函数方法，对一类相当广泛的独立随机变量序列，证明了中心极限定理。他还利用这一定理第一次科学地解释了为什么实际中遇到的许多随机变量近似服从正态分布。继李亚普诺夫之后，辛钦、柯尔莫哥洛夫、莱维及费勒等人在随机变量序列的极限理论方面作出了重要贡献。到20世纪30年代，有关独立随机变量序列的极限理论已臻完备。在此期间,由于实际问题的需要,特别是受物理学的刺激，人们开始研究随机过程。1905年爱因斯坦和斯莫卢霍夫斯基各自独立地研究了布朗运动。他们用不同的概率模型求得了运动质点的转移密度。但直到1923年，维纳才利用三角级数首次给出了布朗运动的严格数学定义，并证明了布朗运动轨道的连续性。1907年马尔可夫在研究相依随机变量序列时，提出了现今称之为马尔可夫链的概念；而马尔可夫过程的理论基础则由柯尔莫哥洛夫在1931年所奠定。稍后一些时候，辛钦研究了平稳过程的相关理论(1934)。所有这些关于随机过程的研究，都是基于分析方法，即将概率问题化为微分方程或泛函分析等问题来解决。从1938年开始，莱维系统深入地研究了布朗运动，取得了一系列重要成果，他充分利用概率的直觉性，将逻辑与直觉结合起来，倡导了研究随机过程的一种新方法，即概率方法。这种方法的特点是着眼于随机过程的轨道性质。莱维对概率论的另一重要贡献是建立了独立增量过程的一般理论。他的著作《随机过程与布朗运动》(1948)至今仍是随机过程理论的一本经典著作。现代概率论的另外两个代表人物是：杜布和伊藤清，前者创立了鞅论，后者创立了布朗运动的随机积分理 论。 在概率发展史中特别值得一提的是柯尔莫哥洛夫在1933年建立了概率论的公理化体系。 概率论公理化体系的建立早在拉普拉斯给出概率的古典定义之前，人们就提出了几何概率的概念，这是研究有无穷多个可能结果的随机现象问题的，著名的布丰（曾译蒲丰）投针问题(1777)就是几何概率的一个早期例子。19世纪，几何概率逐步发展起来。但到19世纪末，出现了一些自相矛盾的结果。以著名的贝特朗悖论为例：在圆内任作一弦，求其长超过圆内接正三角形边长的概率。此问题可以有三种不同的解答：①由于对称性，可预先指定弦的方向。作垂直于此方向的直径，只有交直径于1/4点与3/4点间的弦，其长才大于内接正三角形边长。设所有交点是等可能的，则所求概率为 1/2 ；②由于对称性，可预先固定弦的一端。仅当弦与过此端点的切线的交角在60°～120°之间,其长才合乎要求。设所有方向是等可能的，则所求概率为1/3 ；③弦被其中点位置惟一确定。只有当弦的中点落在半径缩小了一半的同心圆内，其长才合乎要求。设中点位置都是等可能的，则所求概率为1/4 。这个问题之所以有不同解答,是因为当一随机试验有无穷多个可能结果时，有时很难客观地规定“等可能”这一概念。这反映了几何概率的逻辑基础是不够严密的。几何概率这类问题说明了拉普拉斯关于概率的古典定义带有很大的局限性。当严密的概率公理化系统建立后，几何概率才能健康地发展且有广泛的应用。 虽然到了19世纪下半叶，概率论在统计物理学中的应用及概率论的自身发展已突破了概率的古典定义，但关于概率的一般定义则始终未能明确化和严格化。这种情况既严重阻碍了概率论的进一步发展和应用，又落后于当时数学的其他分支的公理化潮流。1900年,希尔伯特在世界数学家大会上公开提出了建立概率论公理化体系的问题,最先从事这方面研究的是庞加莱、波莱尔及伯恩斯坦。关于概率论与测度论有联系这一重要思想就出自波莱尔。伯恩斯坦于1917年构造了概率论的第一个公理化体系。20年代以后，相继出现了 j.m.凯恩斯及r.von米泽斯等人的工作。凯恩斯主张把任何命题都看作是事件。例如,“明天将下雨”，“土星上有生命”,“某出土文物是某年代的产品”,等等。他把一事件的概率看作是人们根据经验对该事件的可信程度，而与随机试验没有直接联系， 因此，通常称为主观概率。从凯恩斯起，对主观概率提出了几种公理体系，但没有一种堪称权威。也许，主观概率的最大影响不在概率论领域自身，而在数理统计学中近年来出现的贝叶斯统计学派。和主观概率学派相对立的是以米泽斯为代表的概率的频率理论学派。米泽斯把一事件的概率定义为该事件在独立重复随机试验中出现的频率的极限，并把此极限的存在性作为他的第一条公理。他的第二条公理是，对随机选取的子试验序列，事件出现的频率的极限也存在并且极限值相等。 严格说来，这第二条公理没有确切的数学含义。因此，这种所谓公理化在数学上是不可取的。此外，像某个事件在一独立重复试验序列中出现无穷多次这一事件的概率，在米泽斯理论中是无法定义的。这种频率法的理论依据是强大数律，它具有较强的直观性，易为实际工作者和物理学家所接受。但随着科学的进步，它又已逐渐被绝大多数物理学家所抛弃。 20世纪初完成的勒贝格测度（见测度论）和勒贝格积分理论以及随后发展起来的抽象测度和积分理论，为概率论公理体系的确立奠定了理论基础。人们通过对概率论的两个最基本的概念即事件与概率的长期研究，发现事件的运算与集合的运算完全类似，概率与测度有相同的性质。到了30年代，随着大数律研究的深入，概率论与测度论的联系愈来愈明显。例如强、弱大数律中的收敛性(见概率论中的收敛)与测度论中的几乎处处收敛及依测度收敛完全类似。在这种背景下，柯尔莫哥洛夫于1933年在他的《概率论基础》一书中第一次给出了概率的测度论式的定义和一套严密的公理体系。这一公理体系着眼于规定事件及事件概率的最基本的性质和关系，并用这些规定来表明概率的运算法则。它们是从客观实际中抽象出来的，既概括了概率的古典定义、几何定义及频率定义的基本特性，又避免了各自的局限性和含混之处。这一公理体系一经提出，便迅速获得举世的公认。它的出现，是概率论发展史上的一个里程碑，为现代概率论的蓬勃发展打下了坚实的基础。 由于科学技术中许多实际问题的推动以及概率论逻辑基础的建立，概率论从20世纪30年代以来得到了迅速的发展。 目前其主要研究内容大致可分为极限理论，独立增量过程，马尔可夫过程，平稳过程和时间序列，鞅和随机微分方程，点过程等。此外，包括组合概率（用组合数学方法 解决只涉及有限个基本事件的概率问题）、几何概率等在内的一些属于古典范畴的问题，至今仍有人在继续研究，并有新的发展。 限理论是研究与随机变量序列或随机过程序列的收敛性有关的问题的理论。20世纪30年代以后，有关随机变量序列的极限理论（主要是中心极限定理）的研究，是将独立序列情形的结果推广到鞅差序列和更一般的弱相依序列等情形，以及研究收敛速度问题。近年来，由于统计力学的需要，人们开始研究强相依随机变量序列的非中心极限定理。 自1951年唐斯克提出不变原理后，有关随机过程序列的弱收敛的研究成了极限理论的一个中心课题。普罗霍洛夫及斯科罗霍德在这方面作出了最主要的贡献。1964年斯特拉森的工作出现后，引起了有关随机过程序列的强收敛的研究，这就是强不变原理。近年来，鞅论方法已渗透到这一领域,使许多经典结果的证明得到简化和统一处理,并且还导致一些新的结果。 人们最早知道的独立增量过程是在物理现象中观察到的布朗运动和泊松过程，一般的独立增量过程的研究，归功于莱维，它在20世纪40年代已臻成熟。在这些研究中，包含了许多重要的方法和概念，概率论的许多近代研究课题都直接或间接地受其启发与影响。 在实际中遇到的很多随机现象有如下的共同特性：它的未来的演变，在已知它目前状态的条件下与以往的状况无关。描述这种随时间推进的随机现象的演变模型就是马尔可夫过程。 20世纪50年代以前，研究马尔可夫过程的主要工具是微分方程和半群理论（即分析方法）；1936年前后就开始探讨马尔可夫过程的轨道性质，直到把微分方程和半群理论的分析方法同研究轨道性质的概率方法结合运用，才使这方面的研究工作进一步深化，并形成了对轨道分析必不可少的强马尔可夫性概念。1942年，伊藤清用他创立的随机积分和随机微分方程理论来研究一类特殊而重要的马尔可夫过程──扩散过程，开辟了研究马尔可夫过程的又一重要途径。近年来，鞅论方法也已渗透到马尔可夫过程的研究中，它与随机微分方程结合在一起，已成为目前处理多维扩散过程的工具。此外，马尔可夫过程与分析学中的位势论有密切的联系。对马尔可夫过程的研究，推动了位势理论的发展，并为研究偏微分方程提供了概率论的方法。最近十多年发展起来的吉布斯随机场和 无穷粒子随机系统，是由于统计物理的需要而提出的。 许多自然的和生产过程中的随机现象表现出某种平稳性。一种平稳性是过程在任意一些时刻上的联合概率分布随时间推移不变，这种平稳性称为严平稳性。严平稳过程的研究与遍历理论有密切的联系。如果上述对概率分布的要求放宽为仅对二阶相关矩的要求，即过程在任意两时刻上的协方差随时间推移不变，则称这种平稳性为宽平稳性。关于宽平稳过程的研究，辛钦、柯尔莫哥洛夫和维纳等人运用傅里叶分析和泛函分析的工具，在40年代已经找出了过程的相关函数及过程本身的谱分解式，并且较完满地解决了有应用意义的预测问题。许多应用问题还要求根据观测数据去建立这些数据所来自的随机过程的模型。为此产生了时间序列分析这一课题，提出了宽平稳序列的自回归滑动平均(arma)模型以及一些非线性模型。 鞅是另一类重要的随机过程。从20世纪30年代起，莱维等人就开始研究鞅序列，把它作为独立随机变量序列的部分和的推广。40年代到50年代初，杜布对鞅进行了系统的研究，得到有名的鞅不等式、停止定理和收敛定理等重要结果。1962年，p.a.迈耶解决了杜布提出的连续时间的上鞅分解为鞅及增过程之差的问题。在解决这个问题的过程中，出现了很多新鲜而深刻的概念，使鞅和随机过程一般理论的内容大大丰富起来。鞅的研究丰富了概率论的内容，并引起人们用它所提供的新方法新概念对概率论中许多经典的内容重新审议，把以往认为是复杂的东西纳入鞅论的框架而加以简化。此外，利用上鞅的分解定理，可以把伊藤清的对布朗运动的随机积分推广到对一般鞅乃至半鞅的随机积分；因而，更一般的随机微分方程的研究也随之发展。随机微分方程理论不仅可以用来研究马尔可夫过程，它还是解决滤波问题的必要工具。最近出现的流形上的随机微分方程又和微分几何及分析力学的研究发生了密切的联系。鞅论还对本学科以外的位势理论、调和分析及复变函数论等提供了有用的工具。 点过程是从所谓计数过程发展出来的，它们的特点是，可用落在不相重叠的集合上的随机点数目的联合概率分布来刻画整个过程的概率规律。最基本的计数过程是泊松过程，1943年，帕尔姆将它作为最简单的输入流应用于研究电话业务问题；1955年，辛钦又以严密的数学观点作了整理和发展。 在60年代以前，点过程的研究主要限于泊松过程及其推广的过程。以后，由于大量 实际问题的需要以及随机测度论和现代鞅论的推动，进一步把实轴上的点过程（即计数过程）推广到一般的可分完备度量空间上，在内容和方法上都有根本性的进展。 概率论的发展史说明了理论与实际之间的密切关系。许多研究方向的提出，归根到底是有其实际背景的。反过来，当这些方向被深入研究后，又可指导实践，进一步扩大和深化应用范围。概率论作为数理统计学的理论基础是尽人皆知的。下面简略介绍一下概率论本身在各方面的应用情况。 在物理学方面，高能电子或核子穿过吸收体时，产生级联（或倍增）现象,在研究电了-光子级联过程的起伏问题时，要用到随机过程，常以泊松过程、弗瑞过程或波伊亚过程作为实际级联的近似，有时还要用到更新过程（见点过程）的概念。当核子穿到吸收体的某一深度时，则可用扩散方程来计算核子的概率分布。物理学中的放射性衰变，粒子计数器，原子核照相乳胶中的径迹理论和原子核反应堆中的问题等的研究，都要用到泊松过程和更新理论。湍流理论以及天文学中的星云密度起伏、辐射传递等研究要用到随机场的理论。探讨太阳黑子的规律及其预测时，时间序列方法非常有用。 化学反应动力学中，研究化学反应的时变率及影响这些时变率的因素问题,自动催化反应，单分子反应,双分子反应及一些连锁反应的动力学模型等，都要以生灭过程（见马尔可夫过程）来描述。 随机过程理论所提供的方法对于生物数学具有很大的重要性，许多研究工作者以此来构造生物现象的模型。研究群体的增长问题时，提出了生灭型随机模型，两性增长模型，群体间竞争与生尅模型，群体迁移模型，增长过程的扩散模型等等。有些生物现象还可以利用时间序列模型来进行预报。传染病流行问题要用到具有有限个状态的多变量非线性生灭过程。在遗传问题中，着重研究群体经过多少代遗传后，进入某一固定类和首次进入此固定类的时间，以及最大基因频率的分布等。 许多服务系统，如电话通信，船舶装卸，机器损修，病人候诊，红绿灯交换，存货控制，水库调度，购货排队，等等，都可用一类概率模型来描述。这类概率模型涉及的过程叫排队过程，它是点过程的特例。排队过程一般不是马尔可夫型的。当把顾客到达和服务所需时间的统计规律研究清楚后，就可以合理安排服务点。 在通信、雷达探测、地震探测等领域中，都有传递信号与接收信号的问题。传递信 号时会受到噪声的干扰，为了准确地传递和接收信号，就要把干扰的性质分析清楚，然后采取办法消除干扰。这是信息论的主要目的。噪声本身是随机的，所以概率论是信息论研究中必不可少的工具。信息论中的滤波问题就是研究在接收信号时如何最大限度地消除噪声的干扰，而编码问题则是研究采取什么样的手段发射信号，能最大限度地抵抗干扰。在空间科学和工业生产的自动化技术中需要用到信息论和控制理论，而研究带随机干扰的控制问题，也要用到概率论和随机过程方法。 应用随机过程学习总结 一、预备知识：概率论 随机过程属于概率论的动态部分，即随机变量随时间不断发展变化的过程，它以概率论作为主要的基础知识。 1、概率空间方面，主要掌握sigma代数和可测空间，在随机过程中由总体样本空间所构成的集合族。符号解释： sup表示上确界， inf表示下确界。 本帖隐藏的内容 2、数字特征、矩母函数与特征函数：随机变量完全由其概率分布来描述。其中由于概率分布较难确定，因此通常计算随机变量的数字特征来估算分布总体，而矩母函数和特征函数便用于随机变量的N阶矩计算，同时唯一的决定概率分布。 3、独立性和条件期望：独立随机变量和的分布通常由卷积来表示，对于同为分布函数的两个函数，卷积可以交换顺序，同时满足结合律和分配率。条件期望中，最重要的是理解并记忆E(X) = E[E(X|Y)] = intergral(E(X|Y=y))dFY(y)。 二、随机过程基本概念和类型 随机过程是概率空间上的一族随机变量。因为研究随机过程主要是研究其统计规律性，由Kolmogorov定理可知，随机过程的有限维分布族是随机过程概率特征的完整描述。同样，随机过程的有限维分布也通过某些数值特征来描述。 1、平稳过程，通常研究宽平稳过程：如果X(t1)和X(t2)的自协方差函数 r(t1,t2)=r(0,t-s)均成立，即随机过程X(t)的协方差函数r(t,s)只与时间差 t-s有关，r(t) = r(-t)记为宽平稳随机过程。 因为一条随机序列仅仅是随机过程的一次观察，那么遍历性问题便是希望将随即过程的均值和自协方差从这一条样本路径中估计出来，因此宽平稳序列只需满足其均值遍历性原理和协方差遍历性原理即可。 2、独立增量过程：若X[Tn]– X[T(n-1)]对任意n均相互独立，则称X(t)是独立增量过程。若独立增量过程的特征函数具有可乘性，则其必为平稳增量过程。 兼有独立增量和平稳增量的过程称为平稳独立增量过程，其均值函数一定是时间t的线性函数。 概率论与随机过程考点总 结 This manuscript was revised by the office on December 10, 2020. 第一章 随机过程的基本概念与基本类型 一．随机变量及其分布 1．随机变量X ， 分布函数)()(x X P x F ≤= 离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数?∞-=x dt t f x F )()( 2．n 维随机变量),,,(21n X X X X = 其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 ３．随机变量的数字特征 数学期望：离散型随机变量X ∑=k k p x EX 连续型随机变量X ?∞ ∞-=dx x xf EX )( 方差：222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差（两个随机变量Y X ,）：EY EX XY E EY Y EX X E B XY ?-=--=)()])([( 相关系数（两个随机变量Y X ,）：DY DX B XY XY ?= ρ 若0=ρ，则称Y X ,不相关。 独立?不相关?0=ρ ４．特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k )( 连续 ?∞ ∞-=dx x f e t g itx )()( 重要性质：1)0(=g ，1)(≤t g ，)()(t g t g =-，k k k EX i g =)0( 母函数：∑∞ ===0 )()(k k k k z p z E z g !) 0()(k g p k k = )1()('g X E = 2''")]1([)1()1()(g g g X D -+= ５．常见随机变量的分布列或概率密度、期望、方差 ０－１分布 q X P p X P ====)0(,)1( p EX = pq DX = 二项分布 k n k k n q p C k X P -==)( np EX = npq DX = 泊松分布 ! )(k e k X P k λλ -== λ=EX λ=DX 均匀分布略 正态分布),(2σa N 2 22)(21)(σσ πa x e x f -- = a EX = 2σ=DX 指数分布 ???<≥=-0,00,)(x x e x f x λλ λ1=EX 21 λ=DX ６．Ｎ维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N X 第一章 随机过程基本概念 P39 1. 设随机过程()0cos X t X t ω=，t -∞<<+∞，其中0ω是正常数，而X 是标准正态变量。试求()X t 的一维概率分布。 解： 1 当0cos 0t ω=，02 t k π ωπ=+ ，即0112t k πω??= + ??? （k z ∈）时， ()0X t ≡，则(){}01P X t ==. 2 当0cos 0t ω≠，02 t k π ωπ≠+ ，即0112t k πω?? ≠ + ??? （k z ∈）时， ()~01X N ，，()0E X ∴=，()1D X =. ()[]()00cos cos 0E X t E X t E X t ωω===????. ()[]()22 000cos cos cos D X t D X t D X t t ωωω===????. ()()20~0cos X t N t ω∴，. 则( )2202cos x t f x t ω- = ；. 2. 利用投掷一枚硬币的试验，定义随机过程为 ()cos 2t X t t π?=??，出现正面，出现反面 假定“出现正面”和“出现反面”的概率各为 12。试确定()X t 的一维分布函数12F x ?? ???；和()1F x ；，以及二维分布函数12112 F x x ?? ?? ? ，；， 。 00 11101222 11 《随机过程》课程教学大纲 课程编号：02200021 课程名称：随机过程 英文名称：Stochastic Processes 课程类别：选修课 总学时：72 讲课学时：68 习题课学时：4 学分: 4 适用对象：数学与应用数学、信息与计算科学专业 先修课程：数学分析、高等代数、概率论与数理统计 一、课程简介 随机过程是研究客观世界中随机演变过程规律性的学科，它的基本知识和方法不仅为数学、概率统计专业所必需，也为工程技术、生物信息及经济领域的应用和研究所需要。本课程介绍随 机过程研究领域的一些基础而重要的知识和技能。 二、课程性质、目的和任务 随机过程是概率论的后续课程，具有比概率理论更加实用的应用方面，处理问题也更加贴近实际情况。通过这门课程的学习，使学生了解随机过程的基本概念，掌握最常见而又有重要应用 价值的诸如Poisson过程、更新过程、Markov过程、Brown运动的基本性质，能够处理基本的随 机算法。提高学生利用概率理论数学模型解决随机问题的能力。通过本课程的学习，可以让数学 专业的学生很方便地转向在金融管理、电子通讯等应用领域的研究。 三、课程基本要求 通过本课程的学习，要求学生掌握随机过程的一般概念，知道常见的几类随机过程的定义、背景和性质；掌握泊松过程的定义与基本性质，了解它的实际背景，熟悉它的若干推广；掌握更 新过程的定义与基本性质、更新函数、更新方程，了解更新定理及其应用，知道更新过程的若干 推广；掌握离散时间的马尔可夫链的基本概念，熟练掌握转移概率、状态分类与性质，熟悉极限 分布、平稳分布与状态空间的分解，了解分枝过程；掌握连续时间的马尔可夫链的定义、柯尔莫 哥洛夫方程；掌握布朗运动的定义与基本性质，熟悉随机积分的定义与基本性质，了解扩散过程 与伊藤公式，会求解一些简单的随机微分方程。 四、教学内容及要求 第一章预备知识 §1.概率空间；§2.随机变量和分布函数；§3.数字特征、矩母函数和特征函数；§4. 条件概率、条件期望和独立性；§5.收敛性 教学要求：本章主要是对概率论课程的复习和巩固，为后续学习做准备。 第二章随机过程的基本概念和类型 第一章 随机过程的基本概念 1．设随机过程 +∞<<-∞=t t X t X ,cos )(0ω，其中0ω是正常数，而X 是标准正态变量。试求X （t ）的一维概率分布 解：∵ 当0cos 0=t ω 即 πω)2 1 (0+ =k t 即 πω)21(10+=k t 时 {}10)(==t x p 若 0cos 0≠t ω 即 πω)2 1 (1 0+≠ k t 时 {}{}x t X P x x X P t x F ≤=≤=0cos )(),(ω 当 0cos 0>t ω时 ξπ ωωξd e t x X P t x F t x ? - = ??? ? ??≤=02 cos 0 2 021cos ),( 此时 ()t e x t x F t x f t x 0cos 2cos 1 21,),(022ωπ ω? =??=- 若 0cos 0 ?? ?= ,2 ,cos )(出现反面出现正面t t t X π 假定“出现正面”和“出现反面”的概率各为21。试确定)(t X 的一维分布函数)2 1 ,(x F 和)1,(x F ，以及二维分布函数)1,2 1;,(21x x F 解：（1）先求)21,(x F 显然???=?? ???-=??? ??出现反面出现正面 出现反面出现正面10,212,2cos 21π X 随机变量?? ? ??21X 的可能取值只有0，1两种可能，于是 21 021= ??????=?? ? ??X P 2 1121=??????=??? ??X P 所以 ?????≥<≤<=??? ?? 11102 1 0021,x x x x F 再求F （x ,1） 显然? ??-=???=出现反面出现正面出现反面出现正面 2 1 2 cos (1)πX {}{}2 1 2)1(-1 (1)====X p X p 所以 ???? ???≥<≤<=2 121- 2 1-1 0,1)(x x x x F (2) 计算)1,2 1 ;,(21x x F ???-=???=出现反面出现正面出现反面出现正面 2 1)1(, 1 0)2 1 ( X X 于是 第一章随机过程的基本概念与基本类型 一．随机变量及其分布 1．随机变量，分布函数 离散型随机变量的概率分布用分布列分布函数 连续型随机变量的概率分布用概率密度分布函数 2．n维随机变量 其联合分布函数 离散型联合分布列连续型联合概率密度 ３．随机变量的数字特征 数学期望：离散型随机变量连续型随机变量 方差：反映随机变量取值的离散程度 协方差（两个随机变量）： 相关系数（两个随机变量）：若，则称不相关。 独立不相关 ４．特征函数离散连续 重要性质：，，， ５．常见随机变量的分布列或概率密度、期望、方差 ０－１分布 二项分布 泊松分布均匀分布略 正态分布 指数分布 ６．Ｎ维正态随机变量的联合概率密度 ，，正定协方差阵 二．随机过程的基本概念 １．随机过程的一般定义 设是概率空间，是给定的参数集，若对每个，都有一个随机变量与之对应，则称随机变量族是上的随机过程。简记为。 含义：随机过程是随机现象的变化过程，用一族随机变量才能刻画出这种随机现象的全部统计规律性。另一方面，它是某种随机实验的结果，而实验出现的样本函数是随机的。 当固定时，是随机变量。当固定时，时普通函数，称为随机过程的一个样本函数或轨道。 分类：根据参数集和状态空间是否可列，分四类。也可以根据之间的概率关系分类，如独立增量过程，马尔可夫过程，平稳过程等。 ２．随机过程的分布律和数字特征 用有限维分布函数族来刻划随机过程的统计规律性。随机过程的一维分布，二维分布，…，维分布的全体称为有限维分布函数族。随机过程的有限维分布函数族是随机过程概率特征的完整描述。在实际中，要知道随机过程的全部有限维分布函数族是不可能的，因此用某些统计特征来取代。（１）均值函数表示随机过程在时刻的平均值。 （２）方差函数表示随机过程在时刻对均值的偏离程度。 （３）协方差函数且有 （４）相关函数(3)和(4)表示随机过程在时刻，时的线性相关程度。 随机过程 随机过程的定义 引言 在许多实际问题中，不仅需要对随机现象对特定时间点上的一次观察，而且需要做多次的连续不断的观察，以观察研究对像随时间推移的演变过程。 首先我们观察的对象与通常意义上的函数()f t 是不同的， 观察研究的对象本身是一个随机变量X ，这个随机变量随时间的变化过程就是一个随机过程()X t ，通俗的理解。随机变量X 的所有可能取值。另一种解释是，随机过程是随机变量的函数。 随机两字的含义包含着随机过程()X t 的在某一时刻，如i t 时刻的取值， () ()i t t i i X t X t X ===仍然为一随机变量，随机变量i X 取值的样本空间Ω，样本空间中样 本值可以是连续的，也可以是离散的。如{}12,,,n x x x ，意味着在i t 时刻，随机变量i X 的 取某一样本空间的某一元素的概率是确定的（做无穷多次实验的统计规律），在该时刻，所有样本空间元素的概率之和为1。 例如，随机相位正弦波信号。()()sin X t a wt =+Θ 其中Θ服从均匀分布，则固定一个时刻i t 时，显然可求得i t 随机变量()i X t 的分布函数与概率密度。可见其随机过程的概密度是时间参数t 与随机变量Θ的二元函数。 另一种理解是，对随机信号作一次观测相当于做一次随机实验，每次随机实验所得到的观测记录结果()i x t ，是一个确定函数，称为样本函数，所有样本函数的全体构成了随机过程。 随机过程的标准定义 定义：设(?, Σ, P) 是一概率空间，对每一个参数t ∈T ， X (t,ω) 是一定义在概率空间(?, Σ, P) 上的随机变量，则称随机变量族 X T ={X (t ，ω); t ∈T}为该概率空间上的一随机过程。其中T ? R 是一实数集，称为指标集或参数集。X (t,ω)通常简写为()X t 。 随机过程{X (t ); t ∈T }可能取值的全体所构成的集合称为此随机过程的状态空间，记作 S 。 概率论与随机过程考点 总结 HUA system office room 【HUA16H-TTMS2A-HUAS8Q8-HUAH1688】 第一章 随机过程的基本概念与基本类型 一．随机变量及其分布 1．随机变量X ， 分布函数)()(x X P x F ≤= 离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数?∞-=x dt t f x F )()( 2．n 维随机变量),,,(21n X X X X = 其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 ３．随机变量的数字特征 数学期望：离散型随机变量X ∑=k k p x EX 连续型随机变量X ?∞ ∞-=dx x xf EX )( 方差：222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差（两个随机变量Y X ,）：EY EX XY E EY Y EX X E B XY ?-=--=)()])([( 相关系数（两个随机变量Y X ,）：DY DX B XY XY ?=ρ 若0=ρ，则称Y X ,不相 关。 独立?不相关?0=ρ ４．特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k )( 连续 ?∞ ∞ -=dx x f e t g itx )()( 重要性质：1)0(=g ，1)(≤t g ，)()(t g t g =-，k k k EX i g =)0( 母函数：∑∞ ===0 )()(k k k k z p z E z g !) 0()(k g p k k = )1()('g X E = 2''")]1([)1()1()(g g g X D -+= ５．常见随机变量的分布列或概率密度、期望、方差 ０－１分布 q X P p X P ====)0(,)1( p EX = pq DX = 二项分布 k n k k n q p C k X P -==)( np EX = npq DX = 泊松分布 ! )(k e k X P k λλ -== λ=EX λ=DX 均匀分布略 正态分布),(2σa N 2 22)(21)(σσ πa x e x f -- = a EX = 2σ=DX 指数分布 ???<≥=-0,00,)(x x e x f x λλ λ1=EX 21 λ=DX ６．Ｎ维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N X T n a a a a ),,,(21 =，T n x x x x ),,,(21 =，n n ij b B ?=)(正定协方差阵 3.随机向量的变换 二．随机过程的基本概念 １．随机过程的一般定义 第十讲 几种常用的随机过程 10.1 马尔可夫过程 10.1.1马尔可夫序列 马尔可夫序列是指时间参数离散，状态连续的马尔可夫过程。 一个随机变量序列x n （n=1,2,…）,若对于任意的n 有 )|(),...,,|(112 1 x x F x x x x F n n X n n n X ---= （10.1） 或 )|(),...,,|(112 1 x x f x x x x f n n X n n n X ---= （10.2） 则称x n 为马尔可夫序列。x n 的联合概率密度为 ) ()|( ) |()|(),...,,(1 1 2 2 11 2 1 x f x x f x x f x x f x x x f X X n n X n n X n X ??---= （10.3） 马尔可夫序列有如下性质： （1） 一个马尔可夫序列的子序列仍为马尔 可夫序列。 （2） ) |(),...,,|(1 21x x f x x x x f n n X k n n n n X -+++= （10.4） （3） )|(),...,|(111x X x x X n n n n E E --= （10.5） （4） 在一个马尔可夫序列中，若已知现在， 则未来与过去相互独立。即 ) |() |()|,(1 x x f x x f x x x f r s X n n X r s n X -= ，n>r>s （10.6） （5） 若条件概率密度)|(1 x x f n n X -与n 无关， 则称马尔可夫序列是齐次的。 （6） 若一个马尔可夫序列是齐次的，且所 有的随机变量X n 具有同样的概率密度，则称该马尔可夫序列为平稳的。 （7） 马尔可夫序列的转移概率满足切普曼 —柯尔莫哥洛夫方程，即 ) |()| ()|(x x f x x f x x f s r X r n X s n X ? ∞ ∞ -= ， n>r>s (10.7) 10.1.2马尔可夫链 马尔可夫链是指时间参数，状态方程皆 《概率论与随机过程》第一章习题 1.写出下列随机试验的样本空间。 （1）记录一个小班一次数学考试的平均分数（设以百分制记分）。 （2）同时掷三颗骰子，记录三颗骰子点数之和。 （3）10只产品中有3只是次品，每次从其中取一只（取出后不放回），直到将3只次品都取出，记录抽取的次数。 （4）生产产品直到得到10件正品，记录生产产品的总件数。 （5）一个小组有A，B，C，D，E5个人，要选正副小组长各一人（一个人不能兼二个职务），观察选举的结果。 （6）甲乙二人下棋一局，观察棋赛的结果。 （7）一口袋中有许多红色、白色、蓝色乒乓球，在其中任意取4只，观察它们具有哪几种颜色。 （8）对某工厂出厂的产品进行检查，合格的盖上“正品”，不合格的盖上“次品”，如连续查出二个次品就停止检查，或检查4个产品就停止检查，记录检查的结果。 （9）有A，B，C三只盒子，a，b，c三只球，将三只球装入三只盒子中，使每只盒子装一只球，观察装球的情况。 （10）测量一汽车通过给定点的速度。 （11）将一尺之棰折成三段，观察各段的长度。 2.设A，B，C为三事件，用A，B，C的运算关系表示下列事件。 （1）A发生，B与C不发生。 （2）A与B都发生，而C不发生。 （3）A，B，C都发生。 （4）A，B，C中至少有一个发生。 （5）A，B，C都不发生。 （6）A，B，C中至多于一个发生。 （7）A，B，C中至多于二个发生。 （8）A，B，C中至少有二个发生。 3. 设{ }10,2,1, =S ,{}4,3,2=A ，{}5,4,3=B ，{}7,6,5=C ，具体写出下列各等式 （1）B A 。 （2）B A ?。 （3）B A 。 （4） BC A 。 （5）)(C B A ?。 4. 设{}20≤≤=x x S ，?????? ≤<=121x x A ，? ?????<≤=2341x x B ，具体写出下列各式。 （1）B A ?。 （2）B A ?。 （3）B A 。 （4） B A 。 5. 设A ，B ，C 是三事件，且41)()()(===C P B P A P ，0)()(==CB P AB P ，1)(=AC P ，求A ，B ， C 至少有一个发生的概率。 6. 在1500个产品中有400个次品，1100个正品，任意取200个。 （1） 求恰有90个次品的概率。 （2） 至少有2个次品的概率。 7.（1）在房间里有500个人，问至少有一个人的生日是10月1日的概率是多少（设一年以365天计算） （2）在房间里有4个人，问至少有二个人的生日在同一个月的概率是多少 8. 一盒子中有4只次品晶体管，6只正品晶体管，随机地抽取一只测试，直到4只次品管子都找到为止。求 第4只次品管子在下列情况发现的概率。 （1） 在第5次测试发现。 （2） 在第10次测试发现。 9. 甲、乙位于二个城市，考察这二个城市六月份下雨的情况。以A ，B 分别表示甲，乙二城市出现雨天这一 事件。根据以往的气象记录已知4.0)()(==B P A P ，28.0)(=AB P ，求)/(B A P ，)/(A B P 及)(B A P ?。 10. 已知在10只晶体管中有2只次品，在其中取二次，每次随机地取一只，作不放回抽样，求下列事件的概 率。 （1） 二只都是正品。 （2） 二只都是次品。 （3） 一只是正品，一只是次品。 （4） 第二次取出的是次品。 11. 某人忘记了电话号码的最后一个数字，因而随意地拨号，求他拨号不超过三次而接通所需的电话的概率 随机过程学习报告 通过这一段时间以来的学习，我认识到我们的生活中充满了随机过程的实例，在生活中我们经常需要了解在一定时间间隔[0,t)内某随机事件出现次数的统计规律，如到某商店的顾客数；某电话总机接到的呼唤次数；在电子技术领域中的散粒噪声和脉冲噪声；已编码信号的误码数等。在我们的专业学习——通信工程中，研究数字通信中已编码信号的误码流，数模变换中对信号进行采样等也都会应用到随机过程的知识，因此这门课程的学习是非常重要的。 一、认识泊松过程与复合泊松过程的区别 泊松过程是一类很重要的随机过程，随机质点流描述的随机现象十分广泛，下面我就通过运用泊松过程的知识解答一道书本中的实际应用题目： 设移民到某地区定居的户数是一泊松过程，平均每周有两户定居，即λ=2。若每户的人口数是随机变量，一户4人的概率是1/6，一户3人的概率是1/3，一户两人的概率是1/3，一户一人的概率是1/6，且每户的人口数是相互独立的，①5周内移民到该地区定居的人口数是否为泊松过程？②求上述随机过程的数学期望与方差。 分析：这道题目中的问题就是复合泊松过程的实际应用，这类过程具有泊松过程的一部分性质，不同的地方就在于随机质点流的到达不必再满足每次只能到一个的标准，这就将随机过程的研究与实际相融合，生活中的大部分过程其实是不可能满足每次到达一个这样的苛刻要求的，比如调查到达商场购物的人数等问题时，实际去商场购物时人们大多都是与好朋友结伴出行而不可能存在每个人都是独自来购物的现象，所以引入复合泊松过程是十分有必要的。 解：设[0,t)时间内到该地定居的户数为N(t)，则{N(t)，t>=0}是一泊松过程，X(n)为第n 户移民到该地定居的家庭人口数，{X(0)=0,X(n),n=1,2,3···}是独立同分布随机变量列，Y(t)为[0,t)时间内定居到该地的人数。 则Y(t)=∑=) (0 )n (X t N n t>=0 为一复合泊松过程， )()(υ?n X =4γi e *1/6+3γi e *1/3+2γi e *1/3+γi e *1/6 )()t (υ?Y =)1)((t )1(-γ?λX e 由特征函数的唯一性可知，Y(t)不是泊松过程。 E[X(n)]=4*1/6+3*1/3+2*1/3+1*1/6=5/2 E[）（n X 2 ]=16*1/6+9*1/3+4*1/3+1*1/6=43/6 则E[Y(t)]=λt*E[X(1)]=t*5; D[Y(t)]=λt*E[）（1X 2 ]=t*43/3; 则五周内定居到该地的人数数学期望为：5*5=25 方差为：5*43/3=215/3 概率论与随机过程考点 总结 Coca-cola standardization office【ZZ5AB-ZZSYT-ZZ2C-ZZ682T-ZZT18】 第一章 随机过程的基本概念与基本类型 一．随机变量及其分布 1．随机变量X ， 分布函数)()(x X P x F ≤= 离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数?∞-=x dt t f x F )()( 2．n 维随机变量),,,(21n X X X X = 其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 ３．随机变量的数字特征 数学期望：离散型随机变量X ∑=k k p x EX 连续型随机变量X ?∞ ∞-=dx x xf EX )( 方差：222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差（两个随机变量Y X ,）：EY EX XY E EY Y EX X E B XY ?-=--=)()])([( 相关系数（两个随机变量Y X ,）：DY DX B XY XY ?= ρ 若0=ρ，则称Y X ,不相关。 独立?不相关?0=ρ ４．特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k )( 连续 ?∞ ∞-=dx x f e t g itx )()( 重要性质：1)0(=g ，1)(≤t g ，)()(t g t g =-，k k k EX i g =)0( 母函数：∑∞ ===0 )()(k k k k z p z E z g !) 0()(k g p k k = )1()('g X E = 2''")]1([)1()1()(g g g X D -+= ５．常见随机变量的分布列或概率密度、期望、方差 ０－１分布 q X P p X P ====)0(,)1( p EX = pq DX = 二项分布 k n k k n q p C k X P -==)( np EX = npq DX = 泊松分布 ! )(k e k X P k λλ -== λ=EX λ=DX 均匀分布略 正态分布),(2σa N 2 22)(21)(σσ πa x e x f -- = a EX = 2σ=DX 指数分布 ???<≥=-0,00,)(x x e x f x λλ λ1=EX 21 λ=DX ６．Ｎ维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N X 第一章随机过程 的基本概念与基本类型 一．随机变量及其分布 X ，分布函数 F (x) P(X x) 1．随机变量 离散型随机变量 X 的概率分布用分布列 p P(X x k ) F(x) p k f (t)dt 分布函数 k x X 的概率分布用概率密度 f (x) F(x) 分布函数 连续型随机变量 2．n 维随机变量 X (X ,X , , X ) 1 2 n F(x) F(x ,x , ,x ) P(X x , X 2 x , , X n x n ,) 其联合分布函数 1 2 n 1 1 2 离散型 联合分布列 连续型联合概率密度 ３．随机变量 的数字特征 数学期望：离散型随机变量 X EX x p k k X EX xf (x)dx 连续型随机变量 2 DX E(X EX) 2 EX (EX) 2 方差： 反映随机变量取值 的离散程度 协方差（两个随机变量 X ,Y ）： B E[( X EX)(Y EY)] E(XY) EX EY XY B XY 相关系数（两个随机变量 X,Y ）： 0，则称 X ,Y 不相关。 若 XY DX DY 独立 不相关 itX g(t) E(e ) itx e p k 连续 g(t) k e itx f (x)dx ４．特征函数 离散 g(t) 重要性质： g(0) 1， g(t) 1 g( t) g(t) ， ， g (0) i EX k k k ５．常见随机变量 的分布列或概率密度、期望、方差 ０－１分布 二项分布 P( X 1) p,P( X 0) q EX p DX pq P(X k) C p q n k k k EX np DX n p q n k 泊松分布 P( X k) e k! EX DX 均匀分布略 ( x a)2 1 2 N(a, ) f (x) 2 2 2 EX a 正态分布 e DX 2 第一章： 考试范围1.3,1.4 1、计算指数分布的矩母函数. 2、计算标准正态分布)1,0(~N X 的矩母函数. 3、计算标准正态分布)1,0(~N X 的特征函数. 第二章： 1. 随机过程的均值函数、协方差函数与自相关函数 2. 宽平稳过程、均值遍历性的定义及定理 3. 独立增量过程、平稳增量过程，独立增量是平稳增量的充要条件 1、设随机过程()Z t X Yt =+，t -∞<<∞.若已知二维随机变量(,)X Y 的协方差矩阵为2122σρρσ?????? ，求()Z t 的协方差函数. 2、设有随机过程{(),}X t t T ∈和常数a ，()()()Y t X t a X t =+-，t T ∈，计算()Y t 的自相关函数（用(,)X R s t 表示）. 3、设12()cos sin X t Z t Z t λλ=+，其中212,~(0,)Z Z N σ是独立同分布的随机变量，λ为实数，证明()X t 是宽平稳过程. 4、设有随机过程()sin cos Z t X t Y t =+，其中X 和Y 是相互独立的随机变量，它们都分别以0.5和0.5的概率取值-1和1，证明()Z t 是宽平稳过程. 第三章： 1. 泊松过程的定义（定义3.1.2）及相关概率计算 2. 与泊松过程相联系的若干分布及其概率计算 3. 复合泊松过程和条件泊松过程的定义 1、设{(),0}N t t ≥是参数3λ=的Poisson 过程，计算： (1). {(1)3}P N ≤； (2). {(1)1,(3)3}P N N ==； (3). {(1)2(1)1}P N N ≥≥. 2、某商场为调查顾客到来的客源情况，考察了男女顾客来商场的人数. 假设男女顾客来商场的人数分别独立地服从每分钟2人与每分钟3人的泊松过程. (1)．试求到某时刻t 时到达商场的总人数的分布； 第一章随机过程的基本概念与基本类型 一．随机变量及其分布 1．随机变量X ， 分布函数)()(x X P x F ≤= 离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑= k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数?∞-= x dt t f x F )()( 2．n 维随机变量),,,(21n X X X X = 其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 ３．随机变量的数字特征 数学期望：离散型随机变量X ∑= k k p x EX 连续型随机变量X ?∞∞-=dx x xf EX )( 方差：222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差（两个随机变量Y X ,）：EY EX XY E EY Y EX X E B XY ?-=--=)()])([( 相关系数（两个随机变量Y X ,）：DY DX B XY XY ?=ρ 若0=ρ，则称Y X ,不相关。 独立?不相关?0=ρ ４．特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k )( 连续 ?∞ ∞-=dx x f e t g itx )()( 重要性质：1)0(=g ，1)(≤t g ，)()(t g t g =-，k k k EX i g =)0( 母函数：∑∞===0)()(k k k k z p z E z g !)0()(k g p k k = )1()('g X E = 2''")]1([)1()1()(g g g X D -+= ５．常见随机变量的分布列或概率密度、期望、方差 ０－１分布 q X P p X P ====)0(,)1( p EX = pq DX = 二项分布 k n k k n q p C k X P -==)( np EX = n p q DX = 泊松分布 !)(k e k X P k λλ-== λ=EX λ=DX 均匀分布略 正态分布),(2σa N 22 2)(21 )(σσπa x e x f --= a EX = 2 σ=DX 指数分布 ???<≥=-0, 00,)(x x e x f x λλ λ1=EX 21λ=DX ６．Ｎ维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N X 2 0 — 1分布 P(X 1) P,P(X 0) q EX DX pq 二项分布 P(X k) C ： EX np DX npq 泊松分布 P(X k) k! EX DX 均匀分布略 正态分布 N(a, 2) f(x) (X a)2 2 2 EX DX 第一章随机过程的基本概念与基本类型 一.随机变量及其分布 1 .随机变量X ,分布函数F(x) P(X X) 离散型随机变量 X 的概率分布用分布列 P k P(X x k )分布函数 F(x) P k 连续型随机变量 X 的概率分布用概率密度 f(x) 分布函数F(x) X f(t)dt 2. n 维随机变量 X (X 1,X 2, ,X n ) 其联合分布函数 F (X ) F (X 1,X 2, , X n ) P(X 1 X [ , X 2 X 2 , , X n X n ,) 离散型 联合分布列 连续型联合概率密度 3 .随机变量的数字特征 数学期望：离散型随机变量 X EX X k P k 连续型随机变量 X EX xf (x)dx 2 2 2 方差：DX E(X EX) EX (EX) 反映随机变量取值的离散程度 协方差(两个随机变量 X,Y )： B XY E[(X EX )(Y 相关系数(两个随机变量 X, Y ) : XY t _ ____________________________________ VDX v'DY 独立 不相关 5 ?常见随机变量的分布列或概率密度、期望、方差 B XY EY)] E(XY) EX EY 则称X,Y 不相关。 4 ?特征函数 g(t) E(e ItX ) 离散 g(t) e ItX k p k 连续 g(t) e ltx f (x)dx 重要性质：g(0) 1 , g(t) 1 , g( t) g(t) , g (0) EX k 第一章 随机过程 1.1 引言 对随机微分方程的研究所需要的随机过程的知识很多，因篇幅关系，只在本章中列出重要的、必备的相关知识和重要结论，这些知识主要包括：随机变量的概念及相关知识及条件期望；随机过程，特别是Markov 过程和Brown 运动的相关知识；随机微积分；It?公式；一些重要不等式及随机比较定理。 本章的内容参考或转引自文献（Murry ，1998陈希孺，2003；林无烈2002；Mao ，1997；Mao ，2006胡适耕等，2007；王克，2010等），谨向相应的作者表示感谢。 1.2 随机变量 概率用于度量随机事件的可能性，某个随机试验的所有可能的所有可能的基本结果或基本随机事件ω所构成的集合记为Ω，称为样本空间。Ω的满足下面三个条件的子集族F 称为样本空间Ω的一个σ代数： （1）F ?∈ （2）若D F ∈，则其补集c D D F =Ω-∈； （3）若(i 1,2, )i D F ?=，则 1 i i D F ∞=∈。 F 中的元素称为Ω的F 可测集或随机事件。若C 是样本空间Ω的一个子集族，则存在一个Ω的包含C 的最小的σ代数，记为(C)σ，称为由C 生成的σ代数。由n 的所有开 集所生成的σ代数称为Borel σ代数，记为n B ，其中的元素称为 n 中的Borel 集。 定义在F 上的函数[]:0,1P F →称为可测空间(,F)Ω上的概率测度，如果它满足： （1）()1P Ω=； （2）若(i 1,2,)i A F ∈=且(i j)i j A A ?=?≠，则()11 i i i i P A P A ∞ ∞==?? = ???∑。 三元组(),F,P Ω称为概率空间。若一个概率空间的F 包含Ω的所有P 零外测集，也就是说，如果 ()(){}*:inf ,0P G P F F F G F =∈?=， 则G F ?，此概率空间称为完备的。任何一个概率空间都可以通过把其所有P 零外测集加入F 中，并重新定义概率测度来完备化。本书总假设所涉及的概率空间为完备的。 一．填空题（每空2分，共20分） 1．设随机变量X 服从参数为λ的泊松分布，则X 的特征函数为it (e -1) e λ。 2．设随机过程X(t)=Acos( t+),- 《概率论与随机过程》第一章习题答案 1. 写出下列随机试验的样本空间。 （1） 记录一个小班一次数学考试的平均分数（设以百分制记分）。 解： ? ? ? ????=n n n n S 100,,1,0 ，其中n 为小班人数。 （2） 同时掷三颗骰子，记录三颗骰子点数之和。 解：{}18,,4,3 =S 。 （3） 10只产品中有3只是次品，每次从其中取一只（取出后不放回），直到将3只次品都取出， 记录抽取的次数。 解： {}10,,4,3 =S 。 （4） 生产产品直到得到10件正品，记录生产产品的总件数。 解： {} ,11,10=S 。 （5） 一个小组有A ，B ，C ，D ，E5个人，要选正副小组长各一人（一个人不能兼二个职务）， 观察选举的结果。 解： {}ED EC EB EA DE DC DB DA CE CD CB CA BE BD BC BA AE AD AC AB S ,,,,,,,,,,,,,,,,,,,=其 中，AB 表示A 为正组长，B 为副组长，余类推。 （6） 甲乙二人下棋一局，观察棋赛的结果。 解： {}210,,e e e S =其中，0e 为和棋，1e 为甲胜，2e 为乙胜。 （7） 一口袋中有许多红色、白色、蓝色乒乓球，在其中任意取4只，观察它们具有哪几种颜色。 解： {}rwb wb rb rw b w r S ,,,,,,=其中，,,,b w r 分别表示红色、白色、蓝色。 （8） 对某工厂出厂的产品进行检查，合格的盖上“正品”，不合格的盖上“次品”，如连续查出 二个次品就停止检查，或检查4个产品就停止检查，记录检查的结果。 解： {}1111,1110,1101,0111,1011,1010,1100,0110,0101,0100,100,00=S 其中，0为次品，1为正 品。 （9） 有A ，B ，C 三只盒子，a ，b ，c 三只球，将三只球装入三只盒子中，使每只盒子装一只球， 观察装球的情况。 解： {}Ca Bb Ac Cc Ba Ab Cb Bc Aa Cb Ba Ac Ca Bc Ab Cc Bb Aa S ,,;,,;,,;,,;,,;,,=其中，Aa 表示 球a 放在盒子A 中，余者类推。 （10） 测量一汽车通过给定点的速度。 解：{}0>=v v S （11） 将一尺之棰折成三段，观察各段的长度。 解： (){}1,0,0,0,,=++>>>=z y x z y x z y x S 其中，z y x ,,分别表示第一段，第二段，第三 段的长度。# 2. 设A ，B ，C 为三事件，用A ，B ，C 的运算关系表示下列事件。 （1） A 发生，B 与C 不发生。 解：C B A （2） A 与B 都发生，而C 不发生。 解： C AB （3） A ，B ，C 都发生。 解： ABC （4） A ， B ， C 中至少有一个发生。 解： C B A ?? （5） A ，B ，C 都不发生。 解： C B A （6） A ，B ，C 中至多有一个发生。 解： A C C B B A ?? （7） A ，B ，C 中至多有二个发生。 解： C B A ?? （8） A ，B ，C 中至少有二个发生。 解： CA BC AB ??. # 3. 设{}10,2,1, =S ,{}4,3,2=A ，{}5,4,3=B ，{}7,6,5=C ，具体写出下列各等式 （1）B A 。 解： {}5=B A ； （2）B A ?。 解： {}10,9,8,7,6,5,4,3,1=?B A ；应用随机过程学习总结
概率论与随机过程考点总结
随机过程作业题及参考答案(第一章)
随机过程
最新第1章 随机过程的基本概念习题答案
随机过程知识点汇总
随机过程
概率论与随机过程考点总结定稿版
几种常用的随机过程
《概率论与随机过程》第1章习题
随机过程学习总结
概率论与随机过程考点总结
(完整版)随机过程知识点汇总
随机过程知识点总结
概率论与随机过程考点总结
随机过程知识点汇总
第一章随机过程
随机过程试题及答案
《概率论与随机过程》第1章习题答案
相关主题
文本预览