当前位置：文档之家 › 多元线性回归模型(5)

多元线性回归模型(5)

  • 格式：ppt
  • 大小：1.45 MB
  • 文档页数：64

下载文档原格式

  / 64

合集下载

多元线性回归模型

多元线性回归模型

Cov( X ji , i ) 0
j 1,2, k
假设4，随机项满足正态分布
i ~ N (0, 2 )
上述假设的矩阵符号表示 式：
假设1，n(k+1)维矩阵X是非随机的，且X的秩=k+1，
即X满秩。
回忆线性代数中关于满秩、线性无关!
假设2，
E (μ)
E
1
E (1 )
0
n E( n )
X ki ) ) X 1i ) X 2i
Yi Yi X 1i Yi X 2i
(ˆ0 ˆ1 X 1i ˆ2 X 2i ˆk X ki ) X ki Yi X ki
解该（ k+1）个方程组成的线性代数方程组，即
可得到(k+1) 个待估参数的估计值
$ j
,
j
0,1,2, ,
k
。
□正规方程组的矩阵形式
en
二、多元线性回归模型的基本假定
假设1，解释变量是非随机的或固定的，且各X之间互不 相关（无多重共线性）。
假设2，随机误差项具有零均值、同方差及不序列相关 性。
E(i ) 0
i j i, j 1,2,, n
Var
(i
)
E
(
2 i
)
2
Cov(i , j ) E(i j ) 0
假设3，解释变量与随机项不相关
这里利用了假设: E(X’)=0
等于0，因为解释变 量与随机扰动项不相 关。
3、有效性（最小方差性）
ˆ 的方差-协方差矩阵为
Co（v ˆ） E{[ˆ E（ˆ）][ˆ E（ˆ）]}
E[(ˆ )(ˆ )]
E{（[ X X）-1X ]（[ X X）-1X ]}

多元线性回归的计算模型

多元线性回归的计算模型

多元线性回归的计算模型多元线性回归模型的数学表示可以表示为：Y=β0+β1X1+β2X2+...+βkXk+ε，其中Y表示因变量，Xi表示第i个自变量，βi表示第i个自变量的回归系数（即自变量对因变量的影响），ε表示误差项。

1.每个自变量与因变量之间是线性关系。

2.自变量之间相互独立，即不存在多重共线性。

3.误差项ε服从正态分布。

4.误差项ε具有同方差性，即方差相等。

5.误差项ε之间相互独立。

为了估计多元线性回归模型的回归系数，常常使用最小二乘法。

最小二乘法的目标是使得由回归方程预测的值与实际值之间的残差平方和最小化。

具体步骤如下：1.收集数据。

需要收集因变量和多个自变量的数据，并确保数据之间的正确对应关系。

2.建立模型。

根据实际问题和理论知识，确定多元线性回归模型的形式。

3.估计回归系数。

利用最小二乘法估计回归系数，使得预测值与实际值之间的残差平方和最小化。

4.假设检验。

对模型的回归系数进行假设检验，判断自变量对因变量是否显著。

5. 模型评价。

使用统计指标如决定系数（R2）、调整决定系数（adjusted R2）、标准误差（standard error）等对模型进行评价。

6.模型应用与预测。

通过多元线性回归模型，可以对新的自变量值进行预测，并进行决策和提出建议。

多元线性回归模型的计算可以利用统计软件进行，例如R、Python中的statsmodels库、scikit-learn库等。

这些软件包提供了多元线性回归模型的函数和方法，可以方便地进行模型的估计和评价。

在计算过程中，需要注意检验模型的假设前提是否满足，如果不满足可能会影响到模型的可靠性和解释性。

总而言之，多元线性回归模型是一种常用的预测模型，可以分析多个自变量对因变量的影响。

通过最小二乘法估计回归系数，并进行假设检验和模型评价，可以得到一个可靠的模型，并进行预测和决策。

(整理)第四章 多元线性回归模型

(整理)第四章 多元线性回归模型

第四章 多元线性回归模型在一元线性回归模型中，解释变量只有一个。

但在实际问题中，影响因变量的变量可能不止一个，比如根据经济学理论，人们对某种商品的需求不仅受该商品市场价格的影响，而且受其它商品价格以及人们可支配收入水平的制约；影响劳动力劳动供给意愿（用劳动参与率度量）的因素不仅包括经济形势（用失业率度量），而且包括劳动实际工资；根据凯恩斯的流动性偏好理论，影响人们货币需求的因素不仅包括人们的收入水平，而且包括利率水平等。

当解释变量的个数由一个扩展到两个或两个以上时，一元线性回归模型就扩展为多元线性回归模型。

本章在理论分析中以二元线性回归模型为例进行。

一、预备知识（一）相关概念对于一个三变量总体，若由基础理论，变量21,x x 和变量y 之间存在因果关系，或21,x x 的变异可用来解释y 的变异。

为检验变量21,x x 和变量y 之间因果关系是否存在、度量变量21,x x 对变量y 影响的强弱与显著性、以及利用解释变量21,x x 去预测因变量y ，引入多元回归分析这一工具。

将给定i i x x 21,条件下i y 的均值i i i i i x x x x y E 2211021),|(βββ++= （4.1） 定义为总体回归函数（Population Regression Function,PRF ）。

定义),|(21i i i i x x y E y -为误差项（error term ）,记为i μ，即),|(21i i i i i x x y E y -=μ，这样i i i i i x x y E y μ+=),|(21，或i i i i x x y μβββ+++=22110 （4.2）（4.2）式称为总体回归模型或者随机总体回归函数。

其中，21,x x 称为解释变量（explanatory variable ）或自变量（independent variable ）；y 称为被解释变量（explained variable ）或因变量（dependent variable ）；误差项μ解释了因变量的变动中不能完全被自变量所解释的部分。

多元线性回归模型的估计与解释

多元线性回归模型的估计与解释

多元线性回归模型的估计与解释多元线性回归是一种广泛应用于统计学和机器学习领域的预测模型。

与简单线性回归模型相比，多元线性回归模型允许我们将多个自变量引入到模型中，以更准确地解释因变量的变化。

一、多元线性回归模型的基本原理多元线性回归模型的基本原理是建立一个包含多个自变量的线性方程，通过对样本数据进行参数估计，求解出各个自变量的系数，从而得到一个可以预测因变量的模型。

其数学表达形式为：Y = β0 + β1X1 + β2X2 + ... + βnXn + ε其中，Y为因变量，X1、X2、...、Xn为自变量，β0、β1、β2、...、βn为模型的系数，ε为误差项。

二、多元线性回归模型的估计方法1. 最小二乘法估计最小二乘法是最常用的多元线性回归模型估计方法。

它通过使残差平方和最小化来确定模型的系数。

残差即观测值与预测值之间的差异，最小二乘法通过找到使残差平方和最小的系数组合来拟合数据。

2. 矩阵求解方法多元线性回归模型也可以通过矩阵求解方法进行参数估计。

将自变量和因变量分别构成矩阵，利用矩阵运算，可以直接求解出模型的系数。

三、多元线性回归模型的解释多元线性回归模型可以通过系数估计来解释自变量与因变量之间的关系。

系数的符号表示了自变量对因变量的影响方向，而系数的大小则表示了自变量对因变量的影响程度。

此外，多元线性回归模型还可以通过假设检验来验证模型的显著性。

假设检验包括对模型整体的显著性检验和对各个自变量的显著性检验。

对于整体的显著性检验，一般采用F检验或R方检验。

F检验通过比较回归平方和和残差平方和的比值来判断模型是否显著。

对于各个自变量的显著性检验，一般采用t检验，通过检验系数的置信区间与预先设定的显著性水平进行比较，来判断自变量的系数是否显著不为零。

通过解释模型的系数和做假设检验，我们可以对多元线性回归模型进行全面的解释和评估。

四、多元线性回归模型的应用多元线性回归模型在实际应用中具有广泛的应用价值。

多元线性回归模型的各种检验方法

多元线性回归模型的各种检验方法

对多元线性回归模型的各种检验方法对于形如u X X X Y k k +++++=ββββ 22110 （1） 的回归模型，我们可能需要对其实施如下的检验中的一种或几种检验：一、 对单个总体参数的假设检验：t 检验在这种检验中，我们需要对模型中的某个（总体）参数是否满足虚拟假设0H ：j j a =β，做出具有统计意义（即带有一定的置信度）的检验，其中j a 为某个给定的已知数。

特别是，当j a =0时，称为参数的（狭义意义上的）显著性检验。

如果拒绝0H ，说明解释变量j X 对被解释变量Y 具有显著的线性影响，估计值j βˆ才敢使用；反之，说明解释变量j X 对被解释变量Y 不具有显著的线性影响，估计值j βˆ对我们就没有意义。

具体检验方法如下：（1） 给定虚拟假设 0H ：j j a =β；（2） 计算统计量 )ˆ(ˆ)ˆ()(ˆjj j j j j Se a Se E t βββββ-=-= 的数值； 11ˆ)ˆ(++-==j j jj jj j C C Se 1T X)(X ，其中σβ（3） 在给定的显著水平α下（α不能大于1.0即 10%，也即我们不能在置信度小于90%以下的前提下做结论），查出双尾t （1--k n ）分布的临界值2/αt ；（4） 如果出现 2/αt t >的情况，检验结论为拒绝0H ；反之，无法拒绝0H 。

t 检验方法的关键是统计量 )ˆ(ˆj jj Se t βββ-=必须服从已知的t 分布函数。

什么情况或条件下才会这样呢？这需要我们建立的模型满足如下的条件（或假定）：（1） 随机抽样性。

我们有一个含n 次观测的随机样(){}n i Y X X X i ik i i ,,2,1:,,,,21 =。

这保证了误差u 自身的随机性，即无自相关性，0))())(((=--j j i i u E u u E u Cov 。

（2） 条件期望值为0。

给定解释变量的任何值，误差u 的期望值为零。

多元线性回归模型

多元线性回归模型

第三章 多元线性回归模型基本概念(1)多元线性回归模型； (2)偏回归系数；(3)正规方程组； (4)调整的多元可决系数； (5)多重共线性； (6)假设检验； 练习题1. 多元线性回归模型的基本假设是什么?试说明在证明最小二乘估计量的无偏性和有效性的过程中，哪些基本假设起了作用?2．在多元线性回归分析中，t 检验与F 检验有何不同?在一元线性回归分析中二者是否有等价的作用?3．为什么说对模型参数施加约束条件后，其回归的残差平方和一定不比未施加约束的残差平方和小?在什么样的条件下，受约束回归与无约束回归的结果相同?4．在一项调查大学生一学期平均成绩(Y )与每周在学习(1X )、睡觉(2X )、 娱乐(3X )与其他各种活动(4X )所用时间的关系的研究中，建立如下回归模型： 011223344Y X X X X u βββββ=+++++如果这些活动所用时间的总和为一周的总小时数168。

问：保持其他变量不变，而改变其中一个变量的说法是否有意义?该模型是否有违背基本假设的情况? 如何修改此模型以使其更加合理?5.表3-1给出三变量模型的回归结果。

表 3-1(1)求样本容量n ，残差平方和RSS ，回归平方和ESS 及残差平方和RSS 的自由度。

(2)求拟合优度2R 及调整的拟合优度2R -。

(3)检验假设：2X 和3X 对Y 无影响。

应采用什么假设检验?为什么? (4)根据以上信息，你能否确定3X 和3X 各自对Y 的影响?6.某地区通过一个样本容量为722的调查数据得到劳动力受教育的一个回归方程为 12310.360.0940.1310.210Y X X X =-++20.214R =其中，Y 为劳动力受教育年数，1X 为该劳动力家庭中兄弟姐妹的人数，2X 与3X 分别为母亲与父亲受教育的年数。

问：(1) 1X 是否具有预期的影响?为什么?若2X 与3X 保持不变，为了使预测的受教育水平减少一年，需要1X 增加多少?(2)请对2X 的系数给予适当的解释。

多元线性回归模型及其假设条件

§5.1 多元线性回归模型及其假设条件 1．多元线性回归模型 多元线性回归模型：εi pi p iiix b xb x b b y +++++= 2211，n i ,,2,1 =2．多元线性回归模型的方程组形式 3．多元线性回归模型的矩阵形式4．回归模型必须满足如下的假设条件：第一、有正确的期望函数。

即在线性回归模型中没有遗漏任何重要的解释变量，也没有包含任何多余的解释变量。

第二、被解释变量等于期望函数与随机干扰项之和。

第三、随机干扰项独立于期望函数。

即回归模型中的所有解释变量Xj与随机干扰项u 不相关。

第四、解释变量矩阵X 是非随机矩阵，且其秩为列满秩的，即：n k k X rank 〈=,)(。

式中k 是解释变量的个数，n 为观测次数。

第五、随机干扰项服从正态分布。

第六、随机干扰项的期望值为零。

()0=u E 第七、随机干扰项具有方差齐性。

()σσ22=u i（常数）第八、随机干扰项相互独立，即无序列相关。

()()u u u u jiji,cov ,=σ=0§5.2 多元回归模型参数的估计建立回归模型的基本任务是：求出参数bb b p,,,,1σ的估计值，并进行统计检验。

残差：yy e iiiˆ-=；残差平方和：Q=()∑-∑==y y e i i ni iˆ212矩阵求解：X=⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡x xxx x x x x x pn nnp p212221212111111，⎥⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎢⎣⎡=b b b b p B ˆˆˆˆ210ˆ ，⎥⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎢⎣⎡=-y y y y n n Y 121 ，()YB X X X ττ1ˆ-=1ˆ2--=p n Qσ要通过四个检验：经济意义检验、统计检验、计量经济学检验、模型预测检验。

§5.4 多元线性回归模型的检验一、R 2检验1．R 2检验定义R 2检验又称复相关系数检验法。

多元线性回归模型及其假设条件

§5.1 多元线性回归模型及其假设条件 1．多元线性回归模型 多元线性回归模型：εi pi p iiix b xb x b b y +++++= 2211，n i ,,2,1 =2．多元线性回归模型的方程组形式 3．多元线性回归模型的矩阵形式4．回归模型必须满足如下的假设条件：第一、有正确的期望函数。

即在线性回归模型中没有遗漏任何重要的解释变量，也没有包含任何多余的解释变量。

第二、被解释变量等于期望函数与随机干扰项之和。

第三、随机干扰项独立于期望函数。

即回归模型中的所有解释变量Xj与随机干扰项u 不相关。

第四、解释变量矩阵X 是非随机矩阵，且其秩为列满秩的，即：n k k X rank 〈=,)(。

式中k 是解释变量的个数，n 为观测次数。

第五、随机干扰项服从正态分布。

第六、随机干扰项的期望值为零。

()0=u E 第七、随机干扰项具有方差齐性。

()σσ22=u i（常数）第八、随机干扰项相互独立，即无序列相关。

()()u u u u jiji,cov ,=σ=0§5.2 多元回归模型参数的估计建立回归模型的基本任务是：求出参数bb b p,,,,1σ的估计值，并进行统计检验。

残差：yy e iiiˆ-=；残差平方和：Q=()∑-∑==y y e i i ni iˆ212矩阵求解：X=⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡x xxx x x x x x pn nnp p212221212111111，⎥⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎢⎣⎡=b b b b p B ˆˆˆˆ210ˆ ，⎥⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎢⎣⎡=-y y y y n n Y 121 ，()YB X X X ττ1ˆ-=1ˆ2--=p n Qσ要通过四个检验：经济意义检验、统计检验、计量经济学检验、模型预测检验。

§5.4 多元线性回归模型的检验一、R2检验1．R2检验定义R2检验又称复相关系数检验法。

是通过复相关系数检验一组自变量xx x m,,,21与因变量y 之间的线性相关程度的方法。

(完整版)五多元线性回归模型

实验五 多元线性回归模型实验目的：1．掌握用excel 一次性算出回归模型参数的方法和步骤； 2．正确分析输出结果并得出正确的回归模型。

实验内容：某省1978～1989年消费基金、国民收入使用额和平均人口资料如表5.1所示。

试配合适当的回归模型并进行各种检验；若1990年该省国民收入使用额为67十亿元，平均人口为58百万人，当显著性水平 ＝0.05时，试估计1990年消费基金的预测区间。

表5.1 某省1978～1989年消费基金、国民收入使用额和平均人口资料操作步骤：1.在excel 的工作表中输入如表5.1所示的消费基金（十亿元）y 、国民收入使用额（十亿元）2x 和平均人口数（百万人）3x 的样本数据。

2.点击“工具—数据分析—回归”，在Y 值输入区域，拖动鼠标选择Y 样本值A3:A14，在X 值输入区域，拖动鼠标选择X 样本值B3:C14，如图5.1所示。

图5.1 应用excel“数据分析”功能求多元线性回归的有关参数4.点击图5.1所示中的确定，弹出多元回归分析有关参数的窗口，如图5.2所示。

图5.2 应用excel“数据分析”功能求多元线性回归的有关参数结果分析：“回归统计”中Multiple R为复相关系数；R Square为可决系数R2；Adjusted为修正的可决系数；“标准误差”为σ的点估计值，该值在求Y的预测区间和控制范围时要用到。

方差分析表中Singnificance F为对回归方程检验所达到的临界显著性水平，即P值；SS 为平方和；df 是自由度；P-value 为P 值，即所达到的临界显著水平。

图5.2 中最后部分给出的是各回归系数及对回归系数的显著性检验结果。

Intercept为截距，即常数项；Coefficients为回归系数；“标准误差”为对各个回归系数标准差的估计；t Stat为对回归系数进行t检验时t统计量的值。

下限95%和上限95%分别给出了各回归系数的95%置信区间。

5、计量经济学【多元线性回归模型】


二、多元线性回归模型的参数估计
2、最小二乘估计量的性质 当 ˆ0, ˆ1, ˆ2, , ˆk 为表达式形式时，为随机变量， 这时最小二乘估计量 ˆ0, ˆ1, ˆ2, , ˆk 经过证明同样也 具有线性性、无偏性和最小方差性（有效性）。 也就是说，在模型满足那几条基本假定的前提 下，OLS估计量具有线性性、无偏性和最小方差性 （有效性）这样优良的性质， 即最小二乘估计量
用残差平方和 ei2 最小的准则： i
二、多元线性回归模型的参数估计
1、参数的普通最小二乘估计法（OLS） 即：
min ei2 min (Yi Yˆi )2 min Yi (ˆ0 ˆ1X1i ˆ2 X 2i ˆk X ki )2
同样的道理，根据微积分知识，要使上式最小，只 需求上式分别对 ˆj ( j 0,1, k) 的一阶偏导数，并令 一阶偏导数为 0，就可得到一个包含 k 1 个方程的正 规方程组，这个正规方程组中有 k 1个未知参数 ˆ0, ˆ1, ˆ2, , ˆk ；解这个正规方程组即可得到这 k 1 个参数 ˆ0, ˆ1, ˆ2, , ˆk 的表达式，即得到了参数的最小 二乘估计量；将样本数据代入到这些表达式中，即可 计算出参数的最小二乘估计值。
该样本回归模型与总体回归模型相对应，其中残差 ei Yi Yˆi 可看成是总体回归模型中随机误差项 i 的 估计值。
2、多元线性回归模型的几种形式： 上述几种形式的矩阵表达式： 将多元线性总体回归模型 (3.1) 式表示的 n 个随机方 程写成方程组的形式，有：
Y1 0 1 X11 2 X 21 .Y.2.........0.......1.X...1.2........2.X...2.2. Yn 0 1 X1n 2 X 2n
ˆ0, ˆ1, ˆ2, , ˆk 是总体参数真值的最佳线性无偏估计 量（ BLUE ）；即高斯—马尔可夫定理 (GaussMarkov theorem)。
  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
回归平方和的自由度=模型中偏斜率系数的个数 残差平方和的自由度=n-待估计的（结构）参数的个数 总体平方和的自由度=回归平方和的自由度+残差平方和的自由度=n-1
35
调整的可决系数（adjusted coefficient of determination）
在样本容量一定的情况下，增加解释变量必定 使得自由度减少，所以调整的思路是:将残差平方 和与总离差平方和分别除以各自的自由度，以剔 除变量个数对拟合优度的影响:
TSS
TSS
该统计量越接近于1，模型的拟合优度越高。
问题：在应用过程中发现，如果在模型中增 加一个解释变量， R2往往增大（Why?)。这是 因为残差平方和往往随着解释变量个数的增加 而减少，至少不会增加。
34
这就给人一个错觉：要使得模型拟合得好，只要增加解释变量即 可。—— 但是，我们不能这样做。这是因为，在R2的定义中 R2=ESS/TSS并没有考虑到自由度。 因此，比较相同被解释变量，但不同个数解释变量的两个回归模 型的R2，就像是拿苹果和桔子比较（不具有可比性）。校正（或 调整）后的判定系数可以对相同被解释变量、不同解释变量（个 数不同）的两个回归模型进行比较。
中的参数j是否显著不为0。
42
可提出如下原假设与备择假设：
H0： 0=1=2= =k=0 H1： j不全为0
F检验的思想来自于总离差平方和的分解式： TSS=ESS+RSS
由于回归平方和 ESS yˆi2 是解释变量 X的联合体对被解
释变量 Y 的线性作用的结果，考虑比值
ESS / RSS
21
22
EVIEWS演示过程：
23
24
25
26
27
28
四、参数估计量的性质
在满足基本假设的情况下，其结构参数 的普通最小二乘估计量“尖”仍具有：
线性性、无偏性、有效性。
同时，随着样本容量增加，参数估计量具有： 渐近无偏性、渐近有效性、一致性。
29
§3.3 多元线性回归模型的统计检验
解释：因为给定一个具体的样本，就能求 出一个特定的估计值。再换过一个样本， 又可以求出不同的估计值。所以参数的估 计量取值随着样本的改变而改变。 既然是随机变量，就可以求方差。
17
三变量模型OLS估计量方差的代数公式（教材P157）
var
ˆ1
1
n
X
2 2
x32i
X
2 3
x22i
x22i 2 X 2 X 3 x32i x2i x3i
x2i
2
x3i
2
var ˆ2
x22i
x32i x32i
22
x2i x3i
var ˆ3
x22i
x22i x32i
22
x2i x3i
18
总体回归模型的随机误差项是一个随机变量，
既然是随机变量，就可以求方差。
4
j也被称为偏回归系数，表示在其他解释变
量保持不变的情况下，X j每变化1个单位时，Y的 均值E(Y)的变化;
或者说j给出了X j的单位变化对Y均值的“直
接”或“净”（不含其他变量）影响。
用来估计总体回归函数的样本回归函数为：
Yˆi ˆ0 ˆ1 X1i ˆ2 X 2i ˆki X ki
初学者只需先掌握含两个解释变量的多元回归模型（以避免复 杂的矩阵代数运算），以下的分析都建立在以2个解释变量为 前提的多元回归模型基础上。
13
三变量模型回归系数的OLS估计量（教材P156）
ˆ1 Y ˆ2 X 2 ˆ3 X 3
ˆ2
x2i yi x32i x3i yi x2i x3i
E(i ) 0 i j i, j 1,2,, n
Var(i
)
E(
2 i
)
2
Cov(i , j ) E(i j ) 0
7
假设3，解释变量与随机项不相关
Cov( X ji , i ) 0 j 1,2, k
如果X是非随机机的（即为固定值），则该假设自动满 足。因为一个固定值与一个随机变量之间当然不相关。
假设4，随机项满足正态分布
i ~ N (0, 2 )
推导：误差项代表了没有纳入回归模型的其他所有影响因素。 因为这些影响因素中，每种因素对Y的影响都很微弱。如果所 有这些影响因素都是随机的，并用μ代表所有这些影响因素之 和，那么根据中心极限定理，可以假设误差项服从正态分布
8
§3.2 多元线性回归模型的估计
44
（即斜率加上常数项）
服从自由度为(k , n-k-1)的F分布。
给定显著性水平，可得到临界值F(k,n-k-1)， 由样本求出统计量F的数值，通过
F F(k,n-k-1) 或 F≤F(k,n-k-1) 来拒绝或接受原假设H0，以判定原方程总体上 的线性关系是否显著成立。
注意：此处的k表示模型中偏斜率系数的个数
2. 未校正的判定系数总为正，但校正后的判定系数可以为负数。
37
EVIEWS演示过程：
38
39
40
41
二、方程的显著性检验(F检验)
方程的显著性检验，旨在对模型中被解释变量 与解释变量之间的线性关系在总体上是否显著成 立作出推断。
1、方程显著性的F检验
即检验模型
Yi=0+1X1i+2X2i+ +kXki+i i=1,2, ,n
一、拟合优度检验 二、方程的显著性检验(F检验) 三、变量的显著性检验（t检验） 四、参数的置信区间
30
一、拟合优度检验
1、可决系数与调整的可决系数 总离差平方和的分解
TSS (Yi Yˆi )2
(Yˆi
2
Y)
RSS
ESS
31
Y
离差分解示意图
32
1.什么是传统机械按键设计？
传统的机械按键设计是需要手动按压按键触动PCBA上的 开关按键来实现功能的一种设计方式。
将随机误差项的方差记为2
2客观存在，但往往未知。只能对其进行估计。
19
随机误差项的方差2的估计
2 表示总体误差项 的
方差，这个未知方差的
OLS估计量是：
2
et 2
n3
其中
et 2 yt 2 2 yt x2t 3 yt x3t
20
实例
美国1980-1995年（非农业未偿还）抵押贷款数额Y（亿美元）、 个人收入X2（亿美元）、新住宅抵押贷款费用X3 (%). 利用以下样本数据对多元线性回归模型进行估计。
yˆ
2 i
ei2
43
如果这个比值较大，则X的联合体对Y的解释 程度高，可认为总体存在线性关系，反之总体上 可能不存在线性关系。
因此,可通过该比值的大小对总体线性关系进 行推断。
根据数理统计学中的知识，在原假设H0成立 的条件下，统计量
F ESS / k RSS /(n k 1)
注意：此处的k表示模型中偏斜率系数的个数，即F值的 分子自由度；分母自由度等于n减去估计参数的个数
45
46
给定显著性水平0.05，可得到临界 值F0.05(2,13)=3.81.
由样本求出统计量F的数值为608.8292> 3.81，所以拒绝原假设H0，即认为抵押贷款 债务与个人收入和抵押贷款费用之间总体上 存在线性关系
5
其随机表示式: Yi ˆ0 ˆ1X1i ˆ2 X 2i ˆki X ki ei
ei称为残差或剩余项(residuals)，可看成是
总体回归模型中随机扰动项i的近似替代。
6
二、多元线性回归模型的基本假定
（注意和一元线性回归模型的基本假定相比较）
假设1，解释变量是非随机的或固定的，且各X之间不存在完全共线性 （即无多重共线性，或解释变量之间不完全线性相关）(注：这一假设 只有在多元线性回归模型的基本假定中才有，而在一元线性回归模型中 没有，为什么？）。 假设2，随机误差项具有零均值、同方差及不序列相关性。
一般表现形式：
Yi 0 1X1i 2 X 2i k X ki i i=1,2…,n
其中:k为解释变量的数目，j称为回归参数
（regression coefficient）。
3
习惯上：把常数项看成为一虚变量的系 数，该虚变量的样本观测值始终取1。于是： 模型中解释变量的数目为（k+1）
k。12注源自意 （特别重要）《经济计量学精要》（古亚拉提 著）将多元回归分析中的解 释变量限定在2个（该类多元回归模型也称为三变量模型）。 但实际中的多元回归模型的解释变量往往多于2个（有3个或3 个以上），那么估计公式会更复杂。在这种情况下，必须使用 矩阵代数知识。当然，本书没有使用矩阵代数知识。不过现在 很少有人手工计算了，还是让计算机做这些复杂的工作吧。
Yi 0 1 X1i 2 X 2i k X ki i
也被称为总体回归函数的随机表达形式。它 的 非随机（即确定）表达式为:
E(Yi | X1i , X 2i , X ki ) 0 1 X1i 2 X 2i k X ki
表示：各变量X值固定（即给定）时Y的平均响 应（即均值）。
X 2i
ˆ k
ˆ k
X
ki
ˆ k
X
ki
X ki ) ) X1i ) X 2i
SYi SYi X1i SYi X2i
S(ˆ0
ˆ 1
X1i
ˆ 2
X
2i
ˆ k
X ki ) X ki
SYi
X ki
解该（k+1）个方程组成的线性代数方程组，即
可得到(k+1) 个待估参数的估计值
$ j
,
j
0,1,2,,
方程组的 解
ˆ