第八讲 平稳时间序列在严格意义上，随机过程{}t X 的平稳性是指这个过程的联合和条件概率分布随着时间t 的改变而保持不变。
在实践中，我们更关注弱意义上的平稳或者所谓的协方差平稳：2();();(,)t t t t j j E X Var X Cov X X μδδ+===显然20δδ=。
在本讲义中，平稳皆指协方差平稳。
当上述条件中的任意一个被违背时，则称{}t X 是非平稳的。
（一）平稳随机过程的例子 1、白噪声过程{}t ε：20()0;();(,)0,t t t t j j E Var Cov εεδεε+≠===笔记：假定t ε还服从正态分布，则{}t ε被称为高斯白噪声。
在正态分布下，独立与不相关是两个等价的概念，从而高斯白噪声{}t ε也属于严格白噪声。
对于严格白噪声过程，有：, (12)()()t t t t E E εεεε--=,。
因此，就预测t ε来说，,1t i i ε-≥没有任何信息价值。
当一个变量的当期及其过去值对预测变量未来值没有任何帮助时，我们常常称该变量是不可预测的。
2、AR(1)过程：011,11t t t y a a y a ε<-=++，{}t ε是白噪声过程为了验证上述过程满足平稳性条件，我们首先通过迭代得到：11110010t t ii t ii i t t y a a a y a ε---===++∑∑。
接下来注意到，111)0(t i i t t E y a a a y -==+∑，进一步假设数据生成过程发生了很久，即t 趋于无穷大，则01)1(t a E y a μ-==；其次也有11()()t i t ii t Var y Var a ε--==∑，当t 趋于无穷大时，21221()11()i t Var a a Var y εδ-=-=；最后，当t 趋于无穷大时，有：1211111111222 (12411112)1......(...)[()()][()()]s s t t s t s t t s t s t s t t s s s s sa a a a a E y y E a a a a a μμδδεεεεεεε+-----------++--+++++++++++===关于AR(p)过程的平稳性，见附录。
下图是对一个平稳AR(1)过程的模拟。
1,(0,1)10.8t N ID t t ty y εε-+=+笔记：重新表述上述AR(1)过程：1011011()[()]11()()tt t t E y E yt tt t t t E y a a E y y a a y y a y εε--⎫⎪⇒--⎬⎪⎭--=+=++=+即1[]1t t t y a y μμε---=+，进而有：11[]()(1)()111)(t t t t t t t y y a y y a y μμμμεε=----=-----∆∆=++由于110a -<，因此有：11;11)0)0((t t y y t t tt if ifE y y E y y μμ--><--<>∆∆此即平稳AR(1)过程所具有的均值回复性（Mean reversion ）。
3、MA(1)过程：11t t t y a μεε-=++，{}t ε是白噪声过程显然，任意有限阶MA 过程都是平稳的。
模型：111t t t t y y a μρεε+--=++，{}t ε是白噪声过程被称为ARMA(1,1)过程，关于ARMA(p,q)过程的平稳性，见附录。
（二）自相关函数、偏自相关函数与相关图 1、自相关函数定义t y 与t y τ-的相关系数为：(,)()()t t t t C ov y y sd y sd y τττρ--=假定2()()0;()()tt t tE y E y s d y s d y ττδ--====，则()()t t t E y y Var y ττρ-=。
按照时间序列平稳性假定，自相关系数是τ而不是t 的函数，τρ被称为自相关函数（ACF ）。
样本自相关函数是：112ˆˆˆˆTt Tt tt t yyy τττρ=+=-=∑∑（显然，如果ˆt y对ˆt y τ-进行无截距回归，其斜率估计就是ˆτρ的一个近似值1）。
在原假设：0τρ=下，ˆ(0,1/)aN T τρ，因此，在95%的置信水平下，样本自相关函数将落在2±内，即“两倍的标准误差带内”。
2、偏自相关函数假定{}t y 的数据生成过程为()AR τ：1122...t t t t t y p y p y p y ττε---=+++，{}t ε是白噪声过程则p τ被称为{}t y 的τ阶偏自相关函数（PACF ）。
利用OLS 法，得到p τ的估计ˆp τ：2112...ˆˆˆˆtt t t y y p y p p y ττ---=++在原假设：0p τ=下，ˆp(0,1/)aN T τ 。
笔记：t y 与t y τ-的自相关函数与偏自相关函数的区别在于，前者度量了两变量之间简单、常规的相关程度；而后者在度量相关程度1为了满足假定：()0tE y =，时间序列应该预先剔除均值。
时，首先剔除了121...t t t y y yτ----（）、、对两者的影响。
思考题：样本一阶自相关系数与样本一阶偏自相关系数具有什么关系？这个关系能够推广到二阶及其以上的情况吗？3、各种过程下τρ与p τ的性质 （1）AR(1)过程的τρ与p τ假定{}t y 的数据生成过程是AR(1)模型：1t t t y yρε-=+其中1ρ<，22tεδδ=，,)0,1(t t i i C ov y ε-=≥。
1ρ<这个约束条件是{}t y 具有平稳性的充分条件。
对AR(1) 模型进行迭代，有：1221221)(...j j j t t j t j t t t j t j y y ρρερερερεε--+++++-+-=++++++把括号内表达整体上看成是一个误差项，则ττρρ=，当τ→∞时，0τρ→。
因此，自相关函数是拖尾的。
按照偏自相关函数的定义，显然有：1234,...0p p p p ρ=====。
我们称偏自相关系数从2τ=处开始截尾。
推广：当平稳序列其数据生成过程是()AR p 模型时，偏自相关函数从1p τ=+处开始截尾，而自相关函数具有拖尾性质。
（2）MA(1)过程的τρ与p τ假定{}t y 的数据生成过程是MA(1)模型：1tt ty v λε-=+其中1λ<，22t εδδ=，,)0,1(t t i i C ov y ε-=≥。
1λ<这个约束条件是MA(1)过程具有可逆性的充分条件。
把上式递推，有：11212...t tt t t t y v y v λελε+++++=+=+不难证明1232, (01)λρρρλ===+。
因此，自相关函数从2τ=处开始截尾。
为了考察偏自相关函数所具有的性质，对MA(1) 模型进行迭代，有：221212t t t t t t yyλεελλεε+++++=+=-+23112t t t t yy λλλεε+-+=-++2341122...t t t t t yy yλλλλεε+--+=-+-+ 因此，1(1)p τττλ+=-。
当τ→∞时，0p τ→，因此，偏自相关函数是拖尾的。
推广：当平稳序列其数据生成过程是()M A p 模型并且满足可逆性时，其自相关系数从1p τ=+处开始截尾，而偏自相关系数具有拖尾性质。
（3）ARMA(1,1)过程的τρ与p τ平稳序列其数据生成过程是ARMA(1,1)模型：11t t t t y yρλεε--=++则自相关函数与偏自相关函数皆是拖尾的。
该结论对ARMA(p,q)过程成立。
（4）总结4、相关图分析关于ˆτρ与ˆp τ的图形被称为相关图(Correlogram)，见例图：上图中，虚线区域表示两倍的标准误差带。
显然，根据样本计算的一阶自相关函数及其一阶、二阶偏自相关函数都超出了两倍的标准误差带。
因此，我们可以得到结论：在5%显著水平下，拒绝一阶自相关函数数及其一阶、二阶偏自相关函数数为零的原假设。
根据Q统计值（参见第五讲的Portmanteau检验），我们也可以得到结论：在5%显著水平下，拒绝1210 ...0,m mρρρ≤====的原假设。
根据上图，我们还可以认为，一个AR(2)模型可以被用来描述数据生成过程。
因为上图表明，样本偏自相关函数从3τ=开始接近为零，而样本自相关函数展现出拖尾性质。
这些现象与数据生成过程是AR(2)模型时其偏自相关函数与自相关函数所具有的性质相一致（此时偏自相关函数将从3τ=开始为零，而自相关函数是拖尾的）。
（三）模型估计利用OLS 法就可以对AR(p)模型进行估计。
对MA(p)与ARMA(p,q)模型的估计比较棘手，其估计方法一般包括非线性最小二乘法（NLS）与极大似然估计（ML）两种。
如果假定误差项服从正态分布，则ML估计与NLS估计渐进等价。
对NLS与ML的详细介绍超出了本讲义的范围，但幸运的是，计量软件包EVIEWS 对这两种估计都提供了标准的程序。
附录：AR(p)过程的平稳性AR(1)过程：11,11t t t y a a y aε<-=++，{}t ε是白噪声过程通过反复迭代有：111110t t i i t ii i t t y a a a y a ε---===++∑∑。
AR(1)过程是一个一阶随机差分方程，而111110t t i i t ii i t t y a a a y a ε---===++∑∑就是该方程的解。
考察这个解的结构：111110t t i i t ii i t t y a a a y a ε---==↓↓↓=++∑∑特解中的 通解 特解中的确定性部分 随机性部分应该注意到，a 1是齐次差分方程11t t y a y -=的特征方程：1111,01t t or x a x a x --==-的解。
在t 趋于无穷的情况下，平稳性要求这个特征方程的解其绝对值小于1。
AR(p)过程：1pii t t t i y a a y ε=-=++∑，{}t ε是白噪声过程是一个p 阶随机差分方程。
其解也包括两部分：通解与特解，而特解又包括确定性与随机部分。
齐次差分方程1pii t t i y a y =-=∑的特征方程为：11,01ppiii i tt iiorx a xa x ==--==-∑∑其解是x 1，x 2，...，x p 。
则原随机差分方程的通解为：1pii t i A x =∑，其中A i 是待定的常数，它们依赖于初始条件。
在t 趋于无穷的情况下，平稳性要求上述特征方程的解其绝对值小于1。
