依分布收敛与依概率收敛

6 均方微积分均方极限均方连续均方微分均方积分均方随机微分方程6.1 均方极限随机变量序列极限定义1、依概率收敛若对于任意给定的正数ε>0，随机变量序列Xn满足则称序列Xn依概率收敛于X。

2、以概率1收敛若随机变量序列Xn满足则称序列Xn 以概率1收敛于X。

lim()1nnP X X→∞== lim(||)1nnP X Xε→∞−<=6.1 均方极限3、分布收敛设随机序列X n 的概率分布函数在x 的每一连续点收敛于随机变量X 的概率分布函数，则称随机序列X n 依分布收敛于X ，记为4、均方收敛设有随机序列X n 和随机变量X ，且，若则称随机序列X n 均方收敛于X ，X 是X n 的均方极限，记为2||n E X <+∞2||E X <+∞2lim ||0n n E X X →∞−=l.i.m n n X X →∞=lim ()()n X X n F x F x →∞=6.1 均方极限均方极限性质(1) 均方极限是唯一的,即若且则(2)若, 则(极限与数学期望可交换次序)l.i.m n n X X→∞=l.i.m n n X Y →∞={}1P X Y ==l.i.m n n X X →∞=lim ()(l.i.m )()n n n n E X E X E X →∞→∞==6.1 均方极限均方极限性质(3) 若, , 则(4)若, , 则对任意常数a,b 有(线性)l.i.m m m X X →∞=l.i.m n n Y Y →∞=l.i.m n n X X →∞=l.i.m()n n n aX bY aX bY →∞+=+lim ()()m n n m E X X E XY →∞→∞=2lim ()()m n n m E X X E X →∞→∞=l.i.m n n Y Y →∞=6.1 均方极限均方极限性质(5) 设{a n }为普通数列,若, 则(6)若均方收敛必依概率收, 即若,则lim 0n n a →∞=l.i.m()0n n a X →∞=l.i.m n n X X→∞=lim (||)1n n P X X ε→∞−<=lim (||)0n n P X X ε→∞−≥=6.1 均方极限随机过程均方极限设随机过程{X (t),t ∈T}是二阶矩过程, X 是二阶矩变量,t 0∈T, 若则称当t →t 0时, 随机过程X(t)均方收敛于X ，或称X 是X(t)的均方极限，记为2lim |()|0t t E X t X →−=0l.i.m ()t t X t X →=随机过程均方极限的性质与随机变量序列均方极限性质类似。

第三章3・1四种收敛性车贝晓夫不等式2几乎处处收敛3依概率收敛4依分布收敛5r■阶收敛【引理】(马尔可夫不等式)设随机变量X有I•阶绝对矩，EX 「<00,则对任意£ > 0有P(\X\>s)<^4-【证明】设X的分布函数为F(x)，则有:P(\X\>£)= f dF(x) < f x-\rdF(x)1 r00 ir< —-f x dF(x) 』J・8引理的特殊情况： P(|X|> £)<纟甲取一2,并以X ・E(X)代替X 得车贝晓夫不等式 * 【定理】(车贝晓夫不等式)设随机变量X 有2阶中心矩，E[X-E(X)] 则对任意£ > 0有P (|X -E (X )|>^)<^2【证明】设X 的分布函数为尸(兀)，则有：DX = f (X -E(X))2JF(X )>f (x-E(X))2dF(x)\x-E(X)\^> J£2dF(x)= e 2P{\X-E(X)\>e}从而尸(|X - E(X)\ >e)< 代耳 <=^> P(\X 一 E(X)\ <^)>1-2^8 82 <00,P(\X-E(X)\<s)>l-^^ 8由车贝晓夫不等式可以看出，若b?越小，贝!I 事件［\X-E(X)\<£］的概率越大，即随机变量X集中在期望附近的可能性越大.特别地，若D(X)=O,则对任意£>0,恒<P{|X-EX|>g}|0- 因此P{X HE¥} = 0,即P{X = EX} = 1,所以方差为0的随机鑼是常数菱P{\X-E(X)\>当方差已知时，车贝晓夫不等式给出了/X与它的期望的偏差不小于8的概率的估计式・如取£ = 3b2P{IX-E(X)I> 3<r} <— ".1119(7 屋可见，对任给的分布，只要期望和方差亍存蠹则r.v X取值偏离超过3a的概率小于0.1117二车贝晓夫不等式的用途:车贝晓夫不等式只利用随机变量的数学期望及方差就可对的概率分布进行估计。

第三讲 渐近理论初步（Basic elements of asymptotic theory ）在计量经济学研究中，对总体参数的推断、估计和检验是通过一个样本来进行的，而样本统计量如何随着样本发生改变也是我们所感兴趣的问题，特别是所构造的参数估计量是否会随着样本容量趋向无穷大而收敛于总体参数。

在前面的讲述中，我们讨论了OLS 估计量的有限样本特性，或称小样本特性，并证明了OLS 估计量具有无偏性、有效性，是总体参数的最佳线性无偏估计量，同时还证明了估计量服从精确的分布，并据以进行统计推断。

不过这些结论在满足经典假设条件下导出，而这些假设常常在实际中很难满足。

我们寻求样本容量趋于无穷大情况，估计量的统计特性及其渐近分布。

这就是本讲中要考虑的问题。

欲了解现代计量经济理论，首先要学习一些统计渐近理论，更进一步就是要对概率极限理论有一定的理解。

前苏联的概率论大师柯尔莫哥洛夫和格涅坚科曾如是说：“概率论的认识论价值只有通过极限定理才能被揭示，没有极限定理就不可能去理解概率论的基本概念的真正含义。

”简单可以将概率极限定理分成三种类型：（1）弱大数定律（WLLN ）、（2）强大数定律（SLLN ）、（3）中心极限定律（CLT ）。

计量经济学中的渐近理论内容非常广博，我们只在本讲中介绍其最基本的一些内容。

对于想深入了解渐近理论的同学推荐阅读White （2003）和Davidson （1994）的经典著作。

1四种随机收敛的概念及性质1.1依概率收敛（convergence in probability ）（1）定义对于随机变量序列 ,,,,21n X X X ，如果存在X 满足：0>∀ε，0}{lim =<-∞→εX X P n n就称序列},2,1,{ =n X n 依概率收敛于X 。

记作：X X Pn →，或X X P n n =∞→lim 。

我们将X 称为序列},2,1,{ =n X n 的概率极限。