异方差的补救措施
- 格式：ppt
- 大小：395.55 KB
- 文档页数：23
下载文档原格式
合集下载
异方差的修正方法
异方差的修正方法
异方差的修正方法有以下几种：
1. 帕克-贝克修正：通过引入一个异方差函数，根据残差与预测变量之间的关系来修正异方差。
常用的帕克-贝克修正包括指数函数和对数函数。
2. 杜宾-沃森修正：基于杜宾-沃森统计量的计算，通过对残差进行变换，使其满足异方差齐次性的假设。
3. 加权最小二乘法：根据异方差函数给不同观测值赋予不同的权重，对加权后的残差进行最小二乘估计。
4. 基于泛化最小二乘估计：通过最小化泛化最小二乘估计准则，得到异方差不相关的估计。
5. Huber-White标准误差估计：利用矩阵方法计算标准误差的估计，通过估计异方差矩阵的逆矩阵来进行修正。
这些方法的选择取决于数据的特点以及研究目的。
在实际应用中，可以通过检验异方差的存在并选择适当的修正方法来解决异方差问题。
异方差的补救措施
异方差的补救措施1. 考虑使用对数变换或其他非线性变换来减少异方差性。
2. 采用加权最小二乘法，权重与残差的方差成反比。
3. 使用Robust标准误差来处理异方差性。
4. 利用广义最小二乘法(GLS)来估计异方差。
5. 进行异方差稳健的回归分析。
6. 考虑使用白色噪音模型对异方差进行建模。
7. 通过Heteroscedasticity-Consistent标准误差来纠正异方差带来的偏误。
8. 检验残差的自相关结构，尝试消除异方差。
9. 利用广义估计方程(GEE)来处理异方差问题。
10. 进行对残差进行加权以减轻异方差效应。
11. 尝试使用聚类标准误差校正异方差。
12. 使用稳健标准误差修正异方差带来的影响。
13. 采用异方差稳健的假设检验。
14. 借助异方差自回归模型(ARCH/GARCH)来处理异方差问题。
15. 考虑使用面板数据模型来处理异方差。
16. 将数据进行分组来减轻异方差效应。
17. 利用分位数回归来对抗异方差性。
18. 采用bootstrapping方法估计参数，降低异方差的影响。
19. 通过变量变换来消除异方差性，如差分或比率变换。
20. 使用异方差稳健的方差分解技术。
21. 考虑使用时间序列分析方法来处理异方差。
22. 尝试使用交叉验证来验证模型对异方差的适应性。
23. 利用Lagrange乘数检验来识别异方差模型。
24. 考虑使用非参数回归方法来对抗异方差效应。
25. 结合机器学习技术来降低异方差对分析的影响。
26. 利用异方差稳健的置信区间来进行参数估计。
27. 通过重抽样方法来估计模型参数，减轻异方差影响。
28. 考虑采用深度学习技术来预测异方差。
29. 利用奇异谱分析来识别时间序列数据中的异方差性。
30. 使用异方差稳健的模型比较方法。
31. 采用广义自回归条件异方差(GARCH)模型来拟合异方差性。
32. 结合非参数统计方法来应对异方差问题。
33. 通过交叉验证法来比较不同模型对异方差的适应性。
异方差性的解决方法.
* i
由于在极小化过程中对通常意义得残差平 方加上了权数ω i，所以称为加权最小二乘法 （Weighted Least Square—WLS ）。 ω i有两个作用:一是权重，二是为了消除 异方差。 注意权数的变化趋势应与异方差的变化趋 势相反，通常将ω i直接取成1/σ i2 。
模型变换法的实质就是WLS 例如，对于模型 yi=a+bxi+ε i 如果σ i2 =D(ε i)＝λ xi2，则模型变换成
③选定Weighted LS方法，在权数变量栏中输入权 数变量，点击OK返回； ④点击OK，采用WLS方法估计模型。 （4）对估计后 q1模型，再使用White检验判断是否 消除了异方差性。
4.4.3
模型的对数变换
如果在模型yt=b0+b1xt+ut中，分别用lnyt、lnxt 取代，对对数模型 lnyt=b0+b1lnxt+ut 进行回归通常可以降低异方差性的影响。 其原因在于（1）通过对数变换将两个数值之 间原来10倍的差异缩小到只有2.3倍左右的差 异。（2）经过对数变换后的线性模型，其残 差et表示为相对误差，而相对误差往往具有较 小的差异。
* i
y ax bx
* 2i
* i
i 1 此时 D ( ) D ( ) 2 D ( i ) 1 i i 使用OLS估计模型，应使得： yi 1 ˆ xi *2 * * 2 ˆ b ) ˆi ) ( a ei ( yi y i i i 1 ˆx ) 2 min ˆ b 2 ( yi a i i 1 ˆ ˆ i yi (a ˆ bxi ) 若记: ei yi y 并设:i 2 i 2 则以上估计过程是使得: i ei min
由于在极小化过程中对通常意义得残差平 方加上了权数ω i，所以称为加权最小二乘法 （Weighted Least Square—WLS ）。 ω i有两个作用:一是权重，二是为了消除 异方差。 注意权数的变化趋势应与异方差的变化趋 势相反，通常将ω i直接取成1/σ i2 。
模型变换法的实质就是WLS 例如，对于模型 yi=a+bxi+ε i 如果σ i2 =D(ε i)＝λ xi2，则模型变换成
③选定Weighted LS方法，在权数变量栏中输入权 数变量，点击OK返回； ④点击OK，采用WLS方法估计模型。 （4）对估计后 q1模型，再使用White检验判断是否 消除了异方差性。
4.4.3
模型的对数变换
如果在模型yt=b0+b1xt+ut中，分别用lnyt、lnxt 取代，对对数模型 lnyt=b0+b1lnxt+ut 进行回归通常可以降低异方差性的影响。 其原因在于（1）通过对数变换将两个数值之 间原来10倍的差异缩小到只有2.3倍左右的差 异。（2）经过对数变换后的线性模型，其残 差et表示为相对误差，而相对误差往往具有较 小的差异。
* i
y ax bx
* 2i
* i
i 1 此时 D ( ) D ( ) 2 D ( i ) 1 i i 使用OLS估计模型，应使得： yi 1 ˆ xi *2 * * 2 ˆ b ) ˆi ) ( a ei ( yi y i i i 1 ˆx ) 2 min ˆ b 2 ( yi a i i 1 ˆ ˆ i yi (a ˆ bxi ) 若记: ei yi y 并设:i 2 i 2 则以上估计过程是使得: i ei min
第四节异方差性的补救措施
F 5.0762 F0.05 (6, 6) 4.28 拒绝原假设，表明模型存在异方差。
38
（三）White检验
存在异方差
39
四、异方差的修正
加权最小二乘法（WLS）
分别选用权重:
w1
1 Xi
, w2
1 Xi
, w3
1 X 1.5
i
, w4
1 Xi2
经估计检验发现用权数w2可以消除异方差性。
◆对数变换能使变量取值的尺度缩小。 ◆经过对数变换后的模型，其残差表示相对误差，往往比
绝对误差有较小的差异。
注意：取对数后变量的经济意义。
34
第五节 案例分析
一、问题的提出和模型设定
为了给制定医疗机构的规划提供依据，分析比 较医疗机构与人口数量的关系，建立卫生医疗机 构数与人口数的回归模型。
假定医疗机构数与人口数之间满足线性约束， 则理论模型设定为：
经检验ui存在异方差，且已知方差表达式为
var(ui )
2 i
2
f
(Xi)
用 f (Xi ) 除以模型的两端得：
Yi =
f Xi
f
β1
X
i
+
β2
Xi +
f Xi
ui
f Xi
记 Yi* 则有：
Yi f (Xi)
;
X
* i
Xi f (Xi)
; 1*
Yi*
1*
2
X
* i
vi
1
f (Xi)
; vi
ui f (Xi)
1
2 i
Yi 1* 2* X i
2
1
2 f Xi
第五章第四节 异方差的解决方法
（5）权数的选择（**）
• 一般地，Wi=1/2i。问题在于：2i一般是未知的 • 关键：找出ui随着Xi的变化而变化的规律，对异方差
Var(ui)= 2i = 2 f( Xi )（ i=1,2,…,n）的具体形式作出 合理假设。
• 怎样才能提出合理的假设呢？ （1）通过对具体经济问题的经验分析，或 （2）考察OLS的ei2与Xi的关系，或 （3）通过White等检验的结果提供的信息 • 粗略做法： Wi =1/|ei|或1/ ei2 ，ei是OLS估计的残差 • 所以，利用WLS的思路是：寻找合适的“权数”，
4.WLS法在eviews中的实现
1.创建文件：File/New/Workfile/输入数据频率/Ok 2.输入数据：在主菜单，点quick / empty group/输入变量
名称和数值/ 3.产生新序列：在eviews栏，点quick/generate series/输
入w=1/sqr(x)，点ok(假设w=1/sqr(x) 4.作回归：在eviews栏，点quick/ estimate equation/键入
变量和常数[如y c x]，同时点右下方的option，选择 Weighted LS/TLS，键入w，点ok
同质性 权数序列名
二、对原模型变换的方法
1、模型变换法的定义
模型变换法是对存在异方差的总体回归模型作适当的代数变换，使之成为满足同方 差假定的模型 , 进而运用OLS方法估计参数。
2、模型变换法的关键是： 通过对具体经济问题的经验分析，事先对异方差
往往有较小的差异。
利用EViews对模型进行对数变换
例 ln Yi 1 2 ln Xi ui 在eviews栏，点quick/generate series/输入 LY=LOG（Y） 在eviews栏，点quick/generate series/输入 LX=LOG（X）
消除异方差的方法
消除异方差的方法异方差是啥玩意儿？简单来说，就是数据中的误差项不满足同方差性。
这可咋整呢？别慌！有办法消除异方差。
一种方法是加权最小二乘法。
嘿，就像给不同的数据点分配不同的“权重”。
步骤呢，先判断是否存在异方差，可以通过残差图等方法。
如果确定有，那就计算权重。
然后用加权后的数据进行最小二乘法估计。
注意啦，权重的选择可不能瞎选，得根据具体情况来。
这就好比做菜放盐，多了咸，少了淡。
那安全性和稳定性咋样呢？一般来说，只要方法得当，还是挺靠谱的。
不会像走钢丝那么惊险，放心大胆地用。
这种方法的应用场景可多啦！比如在经济学、统计学等领域。
优势嘛，能提高估计的准确性和有效性。
想象一下，这就像给你的眼睛戴上了一副度数合适的眼镜，看东西更清楚了。
举个实际案例呗！比如说研究收入和消费的关系，发现不同收入水平的人消费的差异很大，存在异方差。
用加权最小二乘法处理后，模型的拟合效果明显提升。
哇塞，这效果杠杠的！还有一种方法是对数变换法。
把数据进行对数变换，有时候就能消除异方差。
这就像给数据来个“魔法变身”。
步骤是先对数据取对数，然后再进行分析。
注意哦，不是所有数据都适合这种方法，得先看看数据的特点。
安全性方面呢，通常比较安全，不会出啥大乱子。
稳定性也还不错。
它的应用场景也不少呢！在金融、工程等领域都能派上用场。
优势就是简单易行，不需要太复杂的计算。
就像骑自行车，轻松又自在。
比如说在股票市场分析中，股价和成交量可能存在异方差。
通过对数变换，能让数据更稳定，分析起来更顺手。
嘿嘿，是不是很厉害？总之，消除异方差的方法有很多，要根据具体情况选择合适的方法。
只要用心去做，就能让数据变得更听话，分析结果更可靠。
相信自己，一定能搞定异方差这个小麻烦！。
异方差的补救措施
异方差的补救措施
异方差性是指数据分布的方差变化，而不是保持恒定。
异方差性可能导致回归模型的预测能力降低。
以下是一些补救异方差的措施：
1.对原模型进行变换：对原模型进行适当的变换，如对数变换、
倒数变换、平方根变换等，可以消除异方差性。
这些变换通常用于处理非正态分布的数据，可以将数据分布变窄，使方差保持恒定。
2.使用加权最小二乘法：在回归分析中，可以使用加权最小二乘
法来处理异方差性。
这种方法给较小的方差赋予较大的权重，给较大的方差赋予较小的权重，以调整回归模型的参数估计。
3.使用稳健的标准误：在回归分析中，可以使用稳健的标准误来
处理异方差性。
这种方法使用异方差性的估计值来计算标准
误，以提高回归模型的准确性和稳定性。
4.尝试其他模型：如果异方差性严重影响了回归模型的预测能
力，可以尝试使用其他模型，如决策树、支持向量机、神经网络等。
这些模型对于异方差性数据的处理能力较强，可能更适合处理具有异方差性的数据。
总之，处理异方差性的方法有很多，可以根据具体情况选择适合的方法。
对于具有异方差性的数据，应该谨慎处理，避免对模型预测能力和稳定性产生不良影响。
异方差进行检验和补救
实验报告课程名称：实验项目名称：单方程线性回归模型中异方差的检验与补救院（系）：专业班级：姓名：学号：实验地点：实验日期：年月日实验目的：掌握利用EViews软件对模型中存在的异方差进行检验和补救。
实验内容：根据我国2000年部分地区城镇居民每个家庭平均全年可支配收入X与消费支出Y 的统计数据，通过建立双变量线性回归模型分析人均可支配收入对人均消费支出的线性影响，并讨论异方差的检验与修正过程。
1、异方差的检验1）图示法2）Park检验3）Glejser检验4）Goldfeld-Quandt检验5）White检验2、异方差的补救1）加权最小二乘法（WLS）2）对数变换实验方法、步骤和结果：一、建立工作文件并完成数据输入1、File---new---workfile2、Quick---Empty Group ----paste3、将ser01重命名为x，ser01重命名为y二、写模型的估计方程Quick---Estimate Equation---y c x，得到在不考虑异方差且其他假定都成立的情况下的估计结果，如下图所示：三、异方差的检验找y的估计值在估计结果中点击forcast 将其重命名为yf生成残差序列：在估计窗口中点击proc---make residual series将resid01重命名为res，并保存（一）图示法（对异方差粗略的判定）1.用x-y的散点图进行判断，看是否存在明显的散点扩大、缩小或是复杂性的变动趋势X y ----open----as GroupView---graph ----scatter-----simple scatter2、用y的估计值与残差平方的散点图进行判断，看是否存在一条斜率为零的直线Quick---graph----scatter—写入方程yf res^2图形显示斜率不为零，所以可知模型存在异方差3、任一解释变量x与残差平方的散点图进行判断，看是否存在一条斜率为零的直线Quick—graph—scatter写入方程x res^2图形显示斜率不为零，所以可知模型存在异方差由以上三种图示法可知，模型存在异方差（二）帕克（Park）检验（将图示法公式化）Quick—Estimate Equation---log(res^2) c log(x)由估计结果可知：log（x）=3.703235 P=0.020622<0.05，所以拒绝原假设，模型具有统计显著性，即模型具有异方差。
异方差的解决方法
异方差的解决方法说实话异方差这事，我一开始也是瞎摸索。
我就光知道这异方差要是存在了，那会对我的分析结果产生不小的影响，可是到底怎么解决呢？我真的是一头雾水。
我最早尝试的一个方法是加权最小二乘法。
我当时就想，既然不同的样本点方差不一样，那我给方差大的样本点小一点的权重，方差小的样本点大一点的权重，不就可以平衡一下了嘛。
就好比一群人一起搬东西，力气小的人就少分配点任务（小权重），力气大的人就多分配点任务（大权重）。
可是我在操作的时候，怎么确定这个权重就成了一个大问题。
我开始是随便拍脑袋想了一些权重，结果当然是失败得一塌糊涂。
这才知道，确定权重还得根据对数据的分析才行。
你可以根据一些变量来构建权重函数，像样本的标准差之类的。
不过这个过程还挺复杂的，我也是试了好多次才有点感觉。
我还试过对数据进行变换。
有一次我对数据取了对数，想着通过这种变换可能就能把异方差给消除了。
这就有点像给一个歪歪扭扭的东西，掰直它的一种尝试。
但是取对数不是啥时候都好用的。
比如说我的数据里有一些负数或者零的时候，取对数就根本没法进行了。
这个时候我就得找其他的变换方法，像开方之类的。
我还试过先对数据做标准化，再进行其他的操作，但是这个好像对异方差的影响也不是那么显著。
还有一种方法是使用稳健标准误。
这个方法我一开始都不太敢用，总觉得不是直接去处理异方差本身有点怪怪的。
但是后来我看了些资料，说这个方法其实很有效。
简单来说呢，就是不过分纠结于异方差而去修正回归结果的推断。
就算方差不齐，我也能得到合理的统计推断。
当然了，这个方法也不是万能的，它可能在某些复杂的模型里头就不是那么好用了。
而且对于这个方法具体什么时候用最好，我到现在还是有点不太确定呢。
总的来说呀，处理异方差，你就得根据自己的数据特点，不断去尝试不同的方法。
我觉得加权最小二乘法要是能用好的话，那对处理异方差是很有效的，但前提就是要把权重确定好。
要是数据本身简单一点，试试数据变换也是不错的选择。
异方差的补救措施 -回复
异方差的补救措施-回复异方差（heteroscedasticity）是指在统计回归分析中，随着解释变量的变化，残差的方差也会呈现出不稳定的特征。
这可能会对回归模型的有效性和稳健性产生负面影响，因此需要采取相应的补救措施来解决异方差问题。
异方差的补救措施可以从数据收集、模型选择和残差分析等多个方面入手，下面将逐一介绍。
一、数据收集阶段的补救措施1. 通过更合理的样本设计来降低异方差的风险。
异方差通常在某些特定情况下出现，比如回归模型中存在着离群值或极端观测值。
可以通过增加样本量、减少极端观测值或改变采样方法等方式来提高样本的代表性，从而降低异方差的发生概率。
2. 如果存在某些隐含的影响因素导致异方差的出现，可以通过收集相关的辅助变量来消除或缓解异方差问题。
例如，在经济学研究中，可以考虑将个体收入的对数引入回归模型中，以调整异方差的发生。
二、模型选择阶段的补救措施1. 选择合适的函数形式来描述变量之间的关系。
常见的函数形式包括线性函数、对数函数、指数函数、多项式函数等。
选择适合数据的函数形式可以更好地描述数据间的关系，从而减少异方差的存在。
2. 考虑使用异方差鲁棒的回归方法。
这些方法通常是对原始的回归模型进行修正，以使模型对异方差具有更好的鲁棒性。
其中一种常见的方法是使用广义最小二乘法（Generalized Least Squares, GLS），它允许误差项的方差与解释变量的关系有所不同。
三、残差分析阶段的补救措施1. 进行残差的异方差诊断。
通过残差图、残差的分布等方法来判断是否存在异方差。
常见的残差图包括残差vs. 预测值图、残差vs. 解释变量图等。
如果残差图显示出明显的模式或规律，可能表明存在异方差。
2. 进行残差的变换。
如果残差图显示出明显的异方差模式，可以尝试对残差进行变换，以消除或减少异方差的存在。
常见的变换方法包括对数变换、平方根变换等。
需要注意的是，在变换残差之前，应该对数据进行必要的预处理，以确保变换后的残差满足模型假设的前提条件。
异方差的修正
加权的基本思想：在采用OLS时，对较小的残差 平方ei2赋予较大的权数， 对较大的残差平方ei2赋予 较小的权数。
1.
Var
(ui
)
2为已知
i
以一元线性回归模型为例：
Yi 0 1X i ui
经检验ui存在异方差，且Var
(ui
)
2为已知
i
在模型两端同时除以
得
i
Yi
i
0
1
i
1
Xi
i
ui
i
令
2.
Var
(ui
)
2未知
i实际上随机误差项旳方差是未 Nhomakorabea旳，假如模型具
有异方差性，在用WLS法处理时，需要先用戈里瑟 检验等措施找出异方差旳形式，然后再用WLS法估 计参数。
2常见的有以下几种形式：
i
(1)
2 i
X
2 i
（ 0且为常数）
设模型为
Yi 0 1 X i ui
在模型两端同时除以X i得
第四节 异方差旳修正
• 加权最小二乘法 • 加权最小二乘法旳矩阵表达
一、加权最小二乘法
假如模型被检验出存在异方差性，则需要发展新 旳措施估计模型，最常用旳措施是加权最小二乘法 （Weighted Least Squares, WLS）。
加权最小二乘法是对原模型加权，使之变成一种 新旳不存在异方差性旳模型，然后采用OLS估计其 参数。
一个加权的残差平方和，权数为wi，所以称为加权 最小二乘法（Weighted Least Squares，简称WLS）。
由此得到的估计量ˆ0*、ˆ1*称为加权最小二乘估计量。
利用微积分中求极值的原理，分别求 ei*2关于ˆ0*和
1.
Var
(ui
)
2为已知
i
以一元线性回归模型为例：
Yi 0 1X i ui
经检验ui存在异方差，且Var
(ui
)
2为已知
i
在模型两端同时除以
得
i
Yi
i
0
1
i
1
Xi
i
ui
i
令
2.
Var
(ui
)
2未知
i实际上随机误差项旳方差是未 Nhomakorabea旳，假如模型具
有异方差性，在用WLS法处理时，需要先用戈里瑟 检验等措施找出异方差旳形式，然后再用WLS法估 计参数。
2常见的有以下几种形式：
i
(1)
2 i
X
2 i
（ 0且为常数）
设模型为
Yi 0 1 X i ui
在模型两端同时除以X i得
第四节 异方差旳修正
• 加权最小二乘法 • 加权最小二乘法旳矩阵表达
一、加权最小二乘法
假如模型被检验出存在异方差性，则需要发展新 旳措施估计模型，最常用旳措施是加权最小二乘法 （Weighted Least Squares, WLS）。
加权最小二乘法是对原模型加权，使之变成一种 新旳不存在异方差性旳模型，然后采用OLS估计其 参数。
一个加权的残差平方和，权数为wi，所以称为加权 最小二乘法（Weighted Least Squares，简称WLS）。
由此得到的估计量ˆ0*、ˆ1*称为加权最小二乘估计量。
利用微积分中求极值的原理，分别求 ei*2关于ˆ0*和
异方差进行检验和补救
实验报告课程名称：计量经济学实验项目名称：单方程线性回归模型中异方差的检验与补救院（系）：经济与管理学院专业班级：09国贸一班姓名：卢娟学号：0965137115实验地点：经管机房实验日期：2012 年 5 月7 日实验目的：掌握利用EViews软件对模型中存在的异方差进行检验和补救。
实验内容：根据我国2000年部分地区城镇居民每个家庭平均全年可支配收入X与消费支出Y 的统计数据，通过建立双变量线性回归模型分析人均可支配收入对人均消费支出的线性影响，并讨论异方差的检验与修正过程。
1、异方差的检验1）图示法2）Park检验3）Glejser检验4）Goldfeld-Quandt检验5）White检验2、异方差的补救1）加权最小二乘法（WLS）2）对数变换实验方法、步骤和结果：案例：沿用研究印度食物支出和总支出关系的例子，通过建立双变量线性回归模型分析印度总支出对食物支出的线性影响，并讨论异方差的检验与修正过程。
1、异方差的检验打开Eviews5，建立新的工作文件，选择横截面数据，观察项为55，并复制数据，进行重命名。
1）图示法A、用X-Y的散点图进行判断以组的形式打开XY, view,graph ,scatter ,simple scatter,得到散点图分析：散点图在越靠后的位置，离散程度越大，模型可能存在异方差。
B、用Y的估计值与残差平方的散点图进行判断做一个55个变量的回归，点击quick, estimate equation ,输入公式y c x,得到回归，点击forcast得到Y的估计值。
点击proc,make residual series，将名字改为res，生成残差序列。
点击quick ,graph, scatter ,输入yf res^2，得到散点图分析：没有生成一条斜率为0的直线，而且，散点图月靠后的位置，离散程度越大，所以，模型可能存在异方差。
C、用任一解释变量X与残差平方的散点图进行判断。
异方差性的解决方法
1 xi2
( yi
aˆ
bˆxi
)2
min
而利用WLS估计模型时,因为权数：
i
1
2 i
1 xi2
对残差平方和RSS2求极小值：
RSS2
i ( yi aˆ bˆxi )2
1
xi2
( yi
aˆ
bˆxi )2
min
比较RSS1和RSS2,两者只差一个常数因子1/λ,求
极值过程中可略去,因此两种方法结果一样.
〔4对估计后 q1模型,再使用White检验判断是否 消除了异方差性.
4.4.3 模型的对数变换
如果在模型yt=b0+b1xt+ut中,分别用lnyt、 lnxt取代,对对数模型
lnyt=b0+b1lnxt+ut
进行回归通常可以降低异方差性的影响.
其原因在于〔1通过对数变换将两个数值之间 原来10倍的差异缩小到只有2.3倍左右的差异. 〔2经过对数变换后的线性模型,其残差et表示 为相对误差,而相对误差往往具有较小的差异.
满足这样一些条件：
上式为广义最小二乘估计.从估计过程看 出,GLS估计的基本思想就是对违反基本假 定的模型做适当的线性变换,使其转化成满 足基本假定的模型,从而可以使用OLS法模 型.
知识回顾 Knowledge Review
设:
i
x1*yi i*i1iyii
ii
x2*i
xi
i
* i
i i
则
yi*
ax1*i
bx2*i
* i
此时
D(
* i
)
D( i i
)
1
2 i
D( i
异方差的识别与补救
C
1367.510 758.0616 1.803957 0.1014
X
0.022509 0.023663 0.951248 0.3639
R-squared Adjusted R-squared S.E. of regression Sum squared resid Log likelihood Durbin-Watson stat
Std. Error t-Statistic Prob.
71391.21 7.025231 0.000154
0.543516 -0.649543 1.411320
0.5911 0.5213 0.1692
Mean dependent var S.D. dependent var Akaike info criterion Schwarz criterion F-statistic Prob(F-statistic)
C
-15.32790 1.508159 -10.16332 0.0000
LX
2.224475 0.151869 14.64734 0.0000
R-squared Adjusted R-squared S.E. of regression Sum squared resid Log likelihood Durbin-Watson stat
C
-823.5754 169.3227 -4.863940 0.0007
X
0.095394 0.013067 7.300328 0.0000
R-squared Adjusted R-squared S.E. of regression Sum squared resid Log likelihood Durbin-Watson stat
第九章多元线性回归异方差问题
600 400 200
0 -200 -400 -600
0
10000 20000 30000 40000 X
30
3、异方差检验 图示法检验： 残差平方与自变量呈比较典型的喇叭型
31
250000
200000
150000
RESID2
100000
50000
0
0
10000 20000 30000 40000
i
1 Var
r 0 r x1 i r 0 r1xi
i
2r0
r0
r1xi
r1xi
2
21
（一）加权最小二乘法
（4）用随机误差项的近似估计量求权重序列 首先利用OLS估计原模型得到残差序列 ui ，然后利
用残差序列的绝对值的倒数序列作为加权序列， 即令
wi 1/ ui
ui2 A0 A1x1i A2 x2i A3x12i A4 x22i A6 x1i x2i vi （4）
11
（四）怀特检验
3、求辅助回归方程的R2值。在零假设：不存在异方差下， White证明了，从方程（4）中获得R2值与样本容量（n）的 积服从卡方分布
n R2 2
自由度等于（4）式中的解释变量的个数。 4、根据样本计算统计量n*R2值，并与所选取的显著性水平进行
比较，看是否接受零假设（零假设为残差不存在异方差性）。 5、Eviews计算：View-Residual Tests-White Heteroskedasticity . 应用：对例6-1进行White异方差检验
16
（一）加权最小二乘法
方差已知的情形
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
Yi 1 2 Xi ui
其中： Varui i2
对不满足古典假设的模型实施转换，形成转换模型：
Yi
i
1 i
2
Xi
i
ui
i
此时，转换模型满足古典假设：
Var
ui
i
1
i2
Var ui
1
i2
i2
1
对转换模型实施最小二乘法，有
877.7359 423.6204 11.49715 11.58966 29.21043 0.000008
UnWeighted Statistics
WLS处理后的残差图
2000 0
-2000 -4000 -6000 -8000
5
10
15
20
25
30
RESIDຫໍສະໝຸດ 二、对原模型变换的方法1、模型变换法的定义 模型变换法是对存在异方差的总体回归模型作适当的代数变换，使之成为满足同方
Variable Coefficient
Std. Error
T-Statistic
Prob.
C
-571.8496
SHR 0.076623
105.8066 0.006294
-5.404667 12.17389
0.0000 0.0000
Weighted Statistics
R-squared Adjusted R-squared S.E. of regression Sum squared resid Log likelihood Durbin-Watson stat
min W e2 min W (Y (ˆ ˆ X ))2
ii
i
1
2
i
的ˆ1、ˆ 2
ˆ2
Wi yi* xi* Wi xi*2
ˆ1 Y * ˆ2 X *
其中：X * Wi xi
.
Wi
Y * Wi yi Wi
W1 W2 ...... Wn （权数相等）， WLS 是OLS法。
0.501807 0.484628 304.1144 2682082. -220.1929 1.149682
Mean dependent var S.D. dependent var Akaike info criterion Schwartz criterion F-statistic Prob(F-statistic)
J
min
ˆ1, ˆ2
ei2
Yi
i
1 i
2
Xi
i
2
1
i2
Yi
1
2Xi
2
ei
i
2
1
i2
ei2
对此表达式的解释，注意两层含义：
（广义最小二乘法-加权最小二乘法）
（1）与普通最小二乘原则的区别；
基本思想： 当所估计模型不满足古典假设时，直接运用最小二乘法得到的参数估计量不是最佳的， 于是就对模型进行转换，即通过适当的变换，将不满足古典假设的模型变换为满足古典 假设的模型 再对转换模型进行最小二乘法估计，获得参数的BLUE估计，走一条“曲线估计”之路。 这种思想被称为广义最小二乘的思想。 如何理解？
差假定的模型 , 进而运用OLS方法估计参数。
2、模型变换法的关键是：
通过对具体经济问题的经验分析，事先对异方差
2 i
2 f (Xi)
的形式有一个合理的假设。
3、原模型变换法的过程
若异方差情形是Var(ui ) 2 f (Xi ) ，
则对原模型进行变换，即用 1 f (Xi ) 去乘以模型的两边，变换后的模型具有同方差性。
(2) f X i X i
(3) f X i a0 a1 X i
LS (W W ) Y C X
例：假定以序列XH为权术，在EViews中，可以在LS命令中使用加权处理方式来完 成加权的最小二乘法估计：
LS （W=XH） Y C X
WLS处理结果
LS // Dependent Variable is CHX Weighting series: SHRW Sample: 1 31 Included observations: 31
目的：为了弥补异方差造成的严重后果（参数估计的方差不满足有效性(参数估计的方差 不再具有最小性）； 参数的显著性检验（t 检验)失效；预测精度降低） 。
补救异方差的基本思路： 1、变异方差为同方差 2、尽量缓解方差变异的程度
方法： ** 一、加权最小二乘法 二、对原模型变换的方法 三、“一般解决法”（模型的对数变换）
（2）权重 1 的确定。
2 i
根据离差平方和最小建立起来的OLS法 同方差时：认为各 ei 提供信息的重要程度是一致的，即将各样本点提供的残差一视同仁。 异方差时：离散程度大的ei 对应的回归直线的位置很不精确，拟合直线时理应不太重视 们提供的信息。即 Xi 对应的 ei 偏离大的所提供的信息贡献应打折扣，而偏离小的所提供的 信息贡献则应于重视。因此采用权数对残差提供的信息的重要程度作一番校正，以提高估计 精度。这就是 WLS（加权最小二乘法）的思路。
4、加权最小二乘法在EViews上的实现
EViews中有加权最小二乘法的命令 LS （W=权数名）Y C X
例： Yi 1 2 X i ui
假定以W 1 e2为权数，在Eviews中（需先产生e2、W 1 e2 ）; LS Y C X genr e2 resid * resid (resid ^2) genr W 1 e2 然后在LS命令中使用加权处理方式来完成加权的最小二乘法估计：
（注：对原模型变换的方法与加权最小二乘法是等价的，最多相差一个常数因子）
Y i
1
X i
u i
f (X ) f (X ) 2 f (X ) f (X )
i
i
i
i
其中：Var( ui ) 2
f (xi )
4、实际处理异方差， f ( X i )的常用形式
(1)
f
X i
X2 i
2、加权最小二乘法的机理
以递增型为例。设权术WI与异方差的变异趋势相反，如
Wi
1
/
2 i
(i
1,2, , n)
或W 1/ ei2 （Wi使异方差经受了“压缩”和“扩张”变为同方差）。
3、加权最小二乘法的定义
例
Yi 1 2 X i ui
模型估计的加权最小二乘法，即求满足