当前位置：文档之家 › 第三章多元线性回归模型总结

第三章多元线性回归模型总结

  • 格式：ppt
  • 大小：1.01 MB
  • 文档页数：76

下载文档原格式

  / 76

合集下载

第三章 多元线性回归模型

第三章 多元线性回归模型

即
Y Xb U
X 称为数据矩阵或设计矩阵。
6
二、古典假定
假定1：零均值假定 E(ui ) 0 (i 1,2,...,n)
1 E ( 1 ) E ( ) 2 2 E (μ) E 0 n E ( n )
写成矩阵形式：
Y1 1 X 21 Y 1 X 22 2 Yn 1 X 2 n X 31 X k 1 b 1 u1 X 32 X k 2 b 2 u 2 X 3 n X kn b k un
或
ei 1 X 21 X e 1 X 22 2i i X ki ei 1 X 2 n X 31 X k 1 e1 X 32 X k 2 e2 X e 0 X 3 n X kn en
9
当总体观测值难于得到时，回归系数向 量 b 是未知的，这时可以由样本观测值进行 估计，可表示为
ˆ ˆ Xb Y
但实际观测值与计算值有偏差，记为：
ˆ e Y Y
于是
ˆ e Y Xb
称为多元样本回归函数。
10
ˆ b 1 ˆ b2 ˆ b ˆ b k
同理
ˆ x x b ˆ x 2 x3 i yi b 2 2i 3i 3 3i
x2 i yi x x3 i yi x2 i x3 i ˆ b2 2 2 2 x2 x ( x x ) i 3i 2i 3i
2 3i
x3 i yi x x2 i yi x2 i x3 i ˆ b3 2 2 2 x2 x ( x x ) i 3i 2i 3i

第三章多元线性回归模型(计量经济学,南京审计学院)

第三章多元线性回归模型(计量经济学,南京审计学院)

Yˆ 116.7 0.112X 0.739P
R2 0.99
(9.6) (0.003) (0.114)
Y和X的计量单位为10亿美元 (按1972不变价格计算).
P
食品价格平减指数 总消费支出价格平减指数
100，（1972
100）
3
多元线性回归模型中斜率系数的含义
上例中斜率系数的含义说明如下： 价格不变的情况下，个人可支配收入每上升10
c (X X )1 X D
从而将 的任意线性无偏估计量 * 与OLS估计量 ˆ 联系
起来。
28
cX I
由
可推出：
(X X )1 X X DX I
即 I DX I
因而有 D X 0
cc (X X )1 X D (X X )1 X D ( X X )1 X D X ( X X )1 D
第三章 多元线性回归模型
简单线性回归模型的推广
1
第一节 多元线性回归模型的概念
在许多实际问题中，我们所研究的因变量的变动 可能不仅与一个解释变量有关。因此，有必要考虑线 性模型的更一般形式，即多元线性回归模型：
Yt β0 β1X1t β2 X 2t ... βk X kt ut t=1,2,…,n
Yt
ˆ0
βˆ 1
X
1t
... βˆ K X Kt
2
为最小，则应有：
S
S
S
ˆ0 0, ˆ1 0, ..., ˆ K 0
我们得到如下K+1个方程（即正规方程）：
13
β0 n
β1 X1t ...... β K X Kt Yt
β 0 X 1t β1 X 1t 2 ...... β K X 1t X Kt X 1tYt

3多元线性回归回顾

3多元线性回归回顾

3多元线性回归回顾多元线性回归是回归分析中常用的一种方法，用于研究多个自变量对因变量的影响。

在统计学和机器学习领域中，多元线性回归是一种广泛使用的模型。

它可以通过建立数学模型来预测因变量的数值，并了解自变量之间的相互关系。

在多元线性回归中，我们假设自变量与因变量之间存在线性关系，即因变量Y可以表示为自变量X的线性组合。

数学公式为：Y=β0+β1*X1+β2*X2+...+βn*Xn+ε其中，Y表示因变量，X1,X2,...,Xn是自变量，β0,β1,β2,...,βn是回归系数，ε是误差项。

多元线性回归的目标是通过最小化残差平方和来估计回归系数，即使得观测值与模型预测值之间的误差最小化。

通过最小二乘法求解回归系数，可以得到最优的拟合线。

多元线性回归的优点之一是可以同时考虑多个自变量对因变量的影响，从而得到更准确的预测结果。

此外，多元线性回归还可以用于控制变量的影响，通过分析不同自变量的回归系数可以了解不同自变量对因变量的贡献程度。

然而，多元线性回归也有一些限制。

首先，它要求自变量与因变量之间存在线性关系，这在一些实际问题中可能并不成立。

其次，多元线性回归假设误差项ε是独立同分布的，并且具有常数方差。

如果这些假设不满足，可能会导致回归模型的不准确性。

在进行多元线性回归分析时，应该注意一些关键点。

首先，需要选择合适的自变量，并进行变量筛选和转换，以确保模型的稳定性和准确性。

其次，需要进行模型诊断，检验回归模型是否符合统计假设，以及是否存在异方差性、自相关等问题。

最后，还需要对模型进行解释和推断，分析每个自变量的回归系数以及模型的显著性。

总结来说，多元线性回归是一种常用的回归分析方法，可以用于建立自变量和因变量之间的线性关系模型，以预测因变量的数值，并了解自变量之间的相互关系。

在应用多元线性回归时，需要注意选择合适的自变量，进行模型诊断和解释推断。

多元线性回归的应用广泛，可以用于统计学、经济学、金融学、社会科学等领域的研究。

第3.3章 多元线性回归模型duju

第3.3章 多元线性回归模型duju
19
而且，给定α，分别查Fα （1，n-2）和tα (n − 2),
2
我们会发现Fα （1，n-2）=[tα (n − 2)]2 ≥ 0
2
F = t2 ≥ 0 F检验：P{F > Fα (1，n-2)} = α t检验：P{ t > tα (n-2)} = α
2
t > tα (n-k) ⇒ t 2 >[tα (n − 2)]2 ⇒ F > Fα (1，n-2)
11
检验通不过的可能原因
⑴解释变量选取不当或遗漏重要解释变 量； ⑵解释变量与被解释变量之间不存在线 性相关关系； 性相关关系； 样本容量n比较小 比较小； ⑶样本容量 比较小； 回归模型存在序列相关(时间序列中 时间序列中, ⑷回归模型存在序列相关 时间序列中 不同时期)。 不同时期 。
12
F检验与拟合优度检验：一致性 检验与拟合优度检验：
17
如果 t * < -tα 2 (n - k )或t * > tα 2 (n - k ) 就拒绝 H0而不拒绝 H1 : β j ≠ 0 即认为 β j所对应的解释变量 X j对应变量 Y 的影响 是显著的。 是显著的。 在多元回归中， 在多元回归中，可分别对每个回归系数逐个地进 检验。 回顾P值 行t检验。(回顾 值) 检验 回顾 注意:在一元回归中 检验与 检验等价,且 注意 在一元回归中F检验与 检验等价 且 F = t 2 在一元回归中 检验与t检验等价 但在多元回归中F检验与 检验作用不同 但在多元回归中 检验与t检验作用不同。 检验与 检验作用不同。
自由度
统计量的自由度指可自由变化的样本观测值个数， 统计量的自由度指可自由变化的样本观测值个数， 它等于所用样本观测值的个数减去对观测值的约 束个数。 束个数。

第三章(1) 多元线性回归模型课件

第三章(1) 多元线性回归模型课件

分离差的大小
解释的那部分离差的大小。也
称剩余平方和。
第三章 多元线性回归模型
§ 3-3 多元线性回归模型的统计检验 一、 拟合优度检验 检验模型对样本观测值的拟合程度。用在总离差分解 基础上确定的可决系数R2 (调整的可决系数 ) 度量。 1、总离差平方和的分解
总离差平方和TSS 回归平方和ESS
3、随机误差项在不同 样本点之间是独立的，
Cov( i,
不存在序列相关
因为 i与 j相互独立，有：
j)=0 i≠j
无自相关假定表明：产生 误差(干扰)的因素是完 全随机的，此次干扰与彼 次干扰互不相关，互相独 立。由此应变量Yi的序列 值之间也互不相关。
第三章 多元线性回归模型
§ 3-1 多元线性回归模型及其基本假定
3、有效性(最小方差性)：
指在所有线性、无偏估计量中， OLS参数估计量的 方差最小。
4、 服从正态分布，即：
其中，
， G2是随机误差项的方差，
Cjj是矩阵(X’X)-1 中第j行第j列位置上的元素。
第三章 多元线性回归模型
§ 3-2 多元线性回归模型的参数估计
一、 参数的最小二乘估计
二、 OLS估计量的统计性质及其分布
三、随机误差项方差Q2的估 计
参数估计的另一项任务是： 求随机误差项 i 的分布参数
称作回归标准差 (standard error of regression)， 常作为对所估计回归线的拟
合优度的简单度量。
i~N(0, Q2)
随机误差项 i 的 方差的估计量为：
可以
证明：
说明 是QS 的无偏估计量。
t-Statistic 6.411848 22.00035 4.187969

5、计量经济学【多元线性回归模型】

5、计量经济学【多元线性回归模型】

二、多元线性回归模型的参数估计
2、最小二乘估计量的性质 当 ˆ0, ˆ1, ˆ2, , ˆk 为表达式形式时，为随机变量， 这时最小二乘估计量 ˆ0, ˆ1, ˆ2, , ˆk 经过证明同样也 具有线性性、无偏性和最小方差性（有效性）。 也就是说，在模型满足那几条基本假定的前提 下，OLS估计量具有线性性、无偏性和最小方差性 （有效性）这样优良的性质， 即最小二乘估计量
用残差平方和 ei2 最小的准则： i
二、多元线性回归模型的参数估计
1、参数的普通最小二乘估计法（OLS） 即：
min ei2 min (Yi Yˆi )2 min Yi (ˆ0 ˆ1X1i ˆ2 X 2i ˆk X ki )2
同样的道理，根据微积分知识，要使上式最小，只 需求上式分别对 ˆj ( j 0,1, k) 的一阶偏导数，并令 一阶偏导数为 0，就可得到一个包含 k 1 个方程的正 规方程组，这个正规方程组中有 k 1个未知参数 ˆ0, ˆ1, ˆ2, , ˆk ；解这个正规方程组即可得到这 k 1 个参数 ˆ0, ˆ1, ˆ2, , ˆk 的表达式，即得到了参数的最小 二乘估计量；将样本数据代入到这些表达式中，即可 计算出参数的最小二乘估计值。
该样本回归模型与总体回归模型相对应，其中残差 ei Yi Yˆi 可看成是总体回归模型中随机误差项 i 的 估计值。
2、多元线性回归模型的几种形式： 上述几种形式的矩阵表达式： 将多元线性总体回归模型 (3.1) 式表示的 n 个随机方 程写成方程组的形式，有：
Y1 0 1 X11 2 X 21 .Y.2.........0.......1.X...1.2........2.X...2.2. Yn 0 1 X1n 2 X 2n
ˆ0, ˆ1, ˆ2, , ˆk 是总体参数真值的最佳线性无偏估计 量（ BLUE ）；即高斯—马尔可夫定理 (GaussMarkov theorem)。

第三章多元线性回归模型

第三章 多元线性回归模型一、名词解释1、多元线性回归模型：在现实经济活动中往往存在一个变量受到其他多个变量影响的现象，表现在线性回归模型中有多个解释变量，这样的模型被称做多元线性回归模型，多元是指多个解释变量2、调整的可决系数2R ：又叫调整的决定系数，是一个用于描述多个解释变量对被解释变量的联合影响程度的统计量，克服了2R 随解释变量的增加而增大的缺陷，与2R 的关系为2211(1)1n R R n k -=----。

3、偏回归系数：在多元回归模型中，每一个解释变量前的参数即为偏回归系数，它测度了当其他解释变量保持不变时，该变量增加1单位对被解释变量带来的平均影响程度。

4、正规方程组：采用OLS 方法估计线性回归模型时，对残差平方和关于各参数求偏导，并令偏导数为0后得到的方程组，其矩阵形式为ˆX X X Y β''=。

5、方程显著性检验：是针对所有解释变量对被解释变量的联合影响是否显著所作的检验，旨在对模型中被解释变量与解释变量之间的线性关系在总体上是否显著成立作出判断。

二、单项选择题1、C ：F 统计量的意义2、A ：F 统计量的定义3、B ：随机误差项方差的估计值1ˆ22--=∑k n e iσ4、A ：书上P92和P93公式5、C ：A 参看导论部分内容；B 在判断多重共线等问题的时候，很有必要；D 在相同解释变量情况下可以衡量6、C ：书上P99，比较F 统计量和可决系数的公式即可7、A ：书P818、D ：A 截距项可以不管它；B 不考虑beta0；C 相关关系与因果关系的辨析 9、B ：注意！只是在服从基本假设的前提下，统计量才服从相应的分布10、D ：AB 不能简单通过可决系数判断模型好坏，还要考虑样本量、异方差等问题；三、多项选择题1、ACDE ：概念性2、BD ：概念性3、BCD ：总体显著，则至少一个参数不为04、BC ：参考可决系数和F 统计量的公式5、AD ：考虑极端情况，ESS=0，可发现CE 错四、判断题、 1、√2、√3、×4、×：调整的可决系数5、√五、简答题 1、 答：多元线性回归模型与一元线性回归模型的区别表现在如下几个方面：一是解释变量的个数不同；二是模型的经典假设不同，多元线性回归模型比一元线性回归模型多了个“解释变量之间不存在线性相关关系”的假定；三是多元线性回归模型的参数估计式的表达更为复杂。

3 多元线性回归模型

第三章 多元线性回归模型
经济问题的复杂性
几乎所有的经济问题，影响因素都不止一个。 例如：房地产价格的影响因素 收入水平、地价、建筑成本、地段、预期、政策因素、 贷款利率、性别比、丈母娘需求、别的投资渠道是否 顺畅等等。 再如：某只股票的价格 所属行业、盈利水平、知名度、国家政策、交易费率、 发行量、银行存款利率、国家整体发展情况、重大人 事变动等等。
总体回归函数：
E(Y) = β + βX + βX + ...+ β X 0 1 1 2 2 k k
或
E(Yi ) = β + βX + βX + ...+ β X 0 1 1i 2 2i k ki
E(Y1 ) = β + βX +β X + ...+ β X 0 1 11 2 21 k k1 + βX +β X + ...+ β X E(Y2 ) = β 0 1 12 2 22 k k2 E(Y ) = β + βX + β X + ...+ β X n 0 1 1n 2 2n k kn
Y1 Y 2 令 Y = Y N
1X 11X 21 X k 1 1X 12 X 22 X k 2 X β= 1X X X 1n 2n kn
β 0 β 1 β k
1 E(Y1 ) 总体回归模型： 2 E (Y2 ) Y = Xβ + = E(Y) = 总体回归函数： E(Y ) n N E(Y) = Xβ
样本回归模型：

第三章多元线性回归模型分析(一


§3.2 参数的OLS估计
•参数的OLS估计
附录：极大似然估计和矩估计
投影和投影矩阵 分块回归和偏回归 偏相关系数
一、参数的OLS估计 普通最小二乘估计原理：使样本残差x22 +…+ xk k +
ˆ 关键问题是选择的估计量b（或 β ），使得残差平方和最 小。 残差为：
例：
Ct β1 β 2 Dt β3 Lt ut
其中，Ct=消费，Dt=居民可支配收入 Lt=居民拥有的流动资产水平 β 2的含义是，在流动资产不变的情况下，可支配收入变动一个 单位对消费额的影响。这是收入对消费额的直接影响。 收入变动对消费额的总影响=直接影响+间接影响。 （间接影响：收入流动资产拥有量消费额） 但在模型中这种间接影响应归因于流动资产，而不是收入，因 而，β 2只包括收入的直接影响。 在下面的模型中：
2 iK
β1
X

X
ikYi
按矩阵形式，上述方程组可表示为：


2 X i1
... ... ... ...
X
即
... ...
iK X i1



(X ' X )
ˆ X11 X 21 X i1X iK β 1 ˆ X12 X 22 ... β 2 ＝ ... ... ... ... 2 ˆ X iK X1K X 2 K β k
（3）
写成一般形式为：
Y=X+
(4)
针对式（4），在这里主要讲参数估计和统计推断，但在 此之前，我们要先回顾一下什么模型才是多元线性回归模型， 即了解线性回归模型的6大假设，这一点十分重要。

考研名校：《计量经济学》各章重点知识总结整理笔记

《计量经济学》各章重点知识总结整理笔记第二章1、变量间的关系分为函数关系与相关关系。

相关系数是对变量间线性相关程度的度量。

2、现代意义的回归是一个被解释变量对若干个解释变量依存关系的研究，回归的实质是由固定的解释变量去估计被解释变量的平均值。

简单线性回归模型是只有一个解释变量的线性回归模型。

3、总体回归函数（PRF ）是将总体被解释变量Y 的条件均值()i i E Y X 表现为解释变量X 的某种函数。

样本回归函数（SRF ）是将被解释变量Y 的样本条件均值^i Y 表示为解释变量X 的某种函数。

总体回归函数与样本回归函数的区别与联系。

4、随机扰动项i u 是被解释变量实际值i Y 与条件均值()i i E Y X的偏差，代表排除在模型以外的所有因素对Y 的影响。

5、简单线性回归的基本假定：对模型和变量的假定、对随机扰动项u 的假定（零均值假定、同方差假定、无自相关假定、随机扰动与解释变量不相关假定、正态性假定）6、普通最小二乘法（OLS ）估计参数的基本思想及估计式；OLS 估计式的分布性质及期望、方差和标准误差；OLS 估计式是最佳线性无偏估计式。

7、对回归系数区间估计的思想和方法。

8、拟合优度是样本回归线对样本观测数据拟合的优劣程度，可决系数是在总变差分解基础上确定的。

可决系数的计算方法、特点与作用。

9、对回归系数假设检验的基本思想。

对回归系数t 检验的思想与方法；用P 值判断参数的显著性。

10、被解释变量平均值预测与个别值预测的关系，被解释变量平均值的点预测和区间预测的方法，被解释变量个别值区间预测的方法。

11、运用EViews 软件实现对简单线性回归模型的估计和检验。

第二章主要公式表第三章1、多元线性回归模型是将总体回归函数描述为一个被解释变量与多个解释变量之间线性关系的模型。

通常多元线性回归模型可以用矩阵形式表示。

2、多元线性回归模型中对随机扰动项u的假定，除了零均值假定、同方差假定、无自相关假定、随机扰动与解释变量不相关假定、正态性假定以外，还要求满足无多重共线性假定。

  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
Yi E(Y X 2i , X3i , , X ki ) ui 1 2 X 2i 3 X3i k X ki ui
样本回归函数（SRF）
Yˆi ˆ1 ˆ2 X 2i ˆ3 X3i ˆk X ki
Yi Yˆi ei ˆ1 ˆ2 X2i ˆ3X3i ˆk Xki ei


2



2In
其中:
I n为n阶单位阵
u1
U

u2


unБайду номын сангаас

n1
var(u1) cov(u1, u2 ) cov(u1, un )
Va（r U） cov(u2 , u1)
var(u2 )

cov(u2
,
un
)

二、模型的古典假定：为了寻找有效的 参数估计的方法，并对模型进行统计检验。
1、零均值：
矩阵形式
E(i ) 0 i 1,2,, n
u1 Eu1 0
E (U
)

E
u2



Eu2


0

un


Eun

0

e2


X
e

0




X Ki ei

X
k1
X k2

X
kn

en

14 0
因为样本回归函数为 Y Xˆ e
两边同乘以X的转置矩阵，得
X' Y X' Xˆ X' e
即
X' Y X' Xˆ
( X ' X )1存在，用( X ' X )1左乘方程两边，
检验：但回归分析表中可能显示R 2非常小，说明模型的拟合优
度非常差；同时随机项存在自相关（**）。
分析：那么这是什么原因呢？这就说明我们的模型设定
有问题，我们有可能忽略了另外的重要影响因素，比如收入(R),
调整模型：所以我么重新建立模型：Qi
=a+bPi
+cR
i
+u
，
i
然后再作进一步的分析。
含两个以上解释变量的回归模型叫“多元回归模型”；
2、同方差和无自相关性 COV (ui , uk ) E[(ui Eui )(uk Euk )]
2 , i k

E(uiuk
)


0,
ik
附：列矩阵方差：协方差矩阵
Va（r U） E（[ U EU）（U EU）] E（UU）
E（u1u1）
E（u1u
ˆk X ki ) X 2i
0

Q

ˆ k
2(Yi

ˆ 1

ˆ 2
X
2i



ˆ k
X
ki
)
X
ki
0
化简得正规方程组
ei 1 1 1 e1
0


X
2i ei



X
21

X 22

X 2n


n
ei2 k

c jj


SE



j


Var



j




c jj
第三节 多元线性回归模型的检验
一、拟合优度检验 二、t检验 三、F检验 四、各种检验的联系及区别 五、经济意义的检验
一、拟合优度检验
（一）可决系数（判定系数）
由于 (Yi Y )2 (Yˆi Y )2 (Yi Yˆi )2
Y1 1 2 X21 k X k1 u1 Y2 1 2 X 22 k X k 2 u2
………………
Yn 1 2 X 2n k X kn un
矩阵形式
Y X U
Y1 1
Y 2



1
X 21 X 22
X 32

Yn

n1

1
X 2n
X 3n
Xk1
X
k
2


X
kn

nk
1



2



k

k1
u1
U

u2


un

n1
总体回归函数（PRF） Y X U
E(Y X 2i , X3i ,, X ki ) 1 X2 2i X3 3i Xk ki
1. 修正可决系数小于多重可决系数，即
R2 R2
2. 修正可决系数可能为负值，因此它只适 用于应变量与解释变量的整体相关程度 比较高的情况。
二、回归参数的显著性检验
t 检验：对单个回归参数（系数）检验（目的：检验每个解释变量
对Y的线性作用是否显著。
ˆj ~ N( j ,Var(ˆj ))，j=1,2, k
即Z
ˆj j Var(ˆj )

ˆj j SE(ˆj )
~
N (0,1)
通常 2未知，即SE(ˆ2 ) cjj 未知，可用SE（ˆ ˆ2） ˆ c jj
代替，此时统计量服从t分布，即


e Y Y Y X
ei2 e'e
Eei2 E e'e n k 2
E

n
ei2 k



2
2

ei2
nk
• 参数的估计量


j
（j=1,2,
…,k）的样本方
差估计式：

Var



j




2
c jj
即
TSS=ESS+RSS
自由度分别为： n-1 、k-1、 n-k
（且fT

fE

f
）
R
可决系数（判定系数）为
R2 ESS 1 RSS 1 TSS TSS
ei2 (Yi Y )2
（0 R2 1）
可决系数则越靠近1，模型对数据的拟合程度越好。
问题：R2是解释变量个数的增函数。在样本容量不变的情况下
（X X X 线性无关）
2i 3i
ki
4、无多重共线性，即假定各解释变量之间不存在线性关系
附：
(k n)
在此条件下，矩阵(X )nk 列满秩 Rank(X ) k
（该式成立，X至少有K阶子行列式不为零）
此时，方阵X ' X满秩 Rank（X X） k
所以 X X 0，（X X）1存在
矩阵表示: Y Xˆ e
其中： ˆ1 为截距 ； ˆ j ( j 2,, k) 为“偏回归系数”
（表示：在其它解释变量不变的情况下，变量 X j每变化一个单 位，对Y产生 ˆ j 个单位的影响） ；
其中：
Y1
Y

Y2


Yn

ˆ


ˆ1 ˆ2
Eˆ1




1




Eˆk k
3、正态性：在古典假定下，ˆj ~ N ( j ,Var(ˆj )) 其中：Va（r ˆ j） 2cjj
（cjj是矩阵（X X）1的第j个主对角元素）
17
三、随机扰动项方差的估计
• 参数估计量的方差或标准差是衡量参数估计量偏离真实参数 的重要指标，据此可以判断参数估计量的可靠性，但在参数 估计量方差的表达式中，随机扰动项的方差σ2是未知的， 参数估计量方差实际上无法计算。为此，就需要对σ2进行 估计。 根据多元线性样本回归模型式，将估计参数代入即可得 到残差向量。
针对多元回归模型进行的回归分析就是“多元回归分 析”；
一个被解释变量（因变量）与多个解释变量之间的线性关系用 回归模型设定，称为“多元线性回归模型”。
一、多元线性回归模型表示方法 Y与（K 1）个解释变量X2, X3, , X K之间有线性关系
一般形式
Yi 1 2 X2i 3 X3i k Xki i i 1，2，，n
得参数（向量）的最小二乘估计为：
ˆ ( X ' X )1 X 'Y
15
样本回归方程为 ：Yˆ 13.8196 0.5636X 2 1.0995X 3
ˆ2
0.5636表示： 其它条件（乙产品销售量）不变时，
甲产品销售量每增加一万吨，公司的利润平均增加
0.5636百万元；
ˆ3 1.0995表示：其它条件（甲产品销售量）不变时，

Yn

1
X 2n
X 31 X 32
X 3n
X k1

X
k
2



X
kn

1
2
k
u1

u2


u
n

Y1
Y

Y2


1 X 21 X 31
X