当前位置：文档之家 › 第2章回归归分析的推论

第2章回归归分析的推论

  • 格式：pdf
  • 大小：2.44 MB
  • 文档页数：81

下载文档原格式

  / 81

合集下载

2 经典线性回归模型I

2 经典线性回归模型I

第二章经典线性回归模型：估计、统计性质与统计检验•经典线性回归模型：假设与OLS估计•OLS估计的小样本性质与统计检验•OLS估计的大样本性质与统计检验§1.1 经典线性回归模型：假设与OLS估计一、经典线性回归模型二、经典线性回归模型的OLS估计E(Y|X)回归分析的基本逻辑：寻找样本回归线，并用样本回归线近似代表总体回归线问题：能否代表？需要通过检验来回答！(1) 对残差平方和SSR(b )= Σe t 2=e ’e =(Y -Xb )’(Y -Xb ) 1阶偏导： ∂SSR/∂b = -2X ’(Y-Xb )2阶偏导： ∂2SSR/∂b ∂b ’= 2X ’X由于X ’X 为正定矩阵(Why?), 从而b =(X ’X )-1(X ’Y )是最小值 由1阶极值条件可以得到所谓正规方程(normal equations ): X ’(Y-Y-XbXb )=X ’e =0 ⇔ Σt X tj e t =0 (j=1,2,…,k )当模型含有值恒为1的常数项时， Σe t =0正规方程是OLS 所特有的，而不论是否有E(εt |X )=02、OLS 估计的数值性质（4）一些有用的等式a. X’e=0b. b −β=(X’X)-1X’ε因为b=(X’X)-1X’Y=(X’X)-1X’(Xβ+ε)=β+(X’X)-1X’ε c. 定义n×n方阵：P P X=X(X’X)-1X’(投影矩阵),M X=I n−P X(消灭矩阵)则P=P X’， M M X=M X’XP X2=P X， M M X2=M XX=X, M X X=O n×(k+1)且PXd. e=M X Y=M XεSSR(b)=e’e=Y’M X Y=ε’M Xε二元回归的示例图赤池信息准则(Akaike information criterion, AIC, 1973) AIC=ln[e’e/n]+2(k+1)/n=goodness of fit + model complexityAIC= -2ln L/n +2(k+1)/n贝叶斯信息准则(Baysian information criterion, BIC)施瓦茨准则（Schwarz criterion，SC, 1978）BIC=ln[e’e/n]+(k+1)ln(n)/nBIC/SC= -2ln L/n+(k+1)ln(n)/n贝叶斯信息准则对多引入多余的解释变量给出了更重的惩罚。

《回归分析二》课件

《回归分析二》课件

主成分回归模型的建立
通过主成分分析得到新的自变量， 在回归分析中建立模型。
主成分回归与经典回归的 比较
比较两种回归模型的优缺点和适 用范围。
多重共线性诊断
检查自变量之间是否存在高度相关性。
条件异方差诊断
检查误差项的方差是否符合恒定的假设。
非线性回归
1
多项式回归
使用多项式函数来拟合非线性关系。
对数回归
2
将变量的对数作为自变量进行回归分析。
3
岭回归
通过加入正则化项来处理自变量间的共 线性。
主成分回归
主成分分析
利用线性变换找出数据的主要特 征。
《回归分ห้องสมุดไป่ตู้二》PPT课件
# 回归分析二 ## 线性回归的参数估计 - 最小二乘法求出模型参数 - 参数的置信区间估计
线性回归的显著性检验
1
模型的全局显著性检验
通过F检验确定整个模型是否具有显著性。
2
模型的局部显著性检验
通过t检验确定各个参数是否显著。
回归模型的诊断
残差检验
检查残差是否满足回归模型的前提假设。

[课件]第2章回归分析概要(计量经济学-中南财经政法大学,向书坚)PPT

[课件]第2章回归分析概要(计量经济学-中南财经政法大学,向书坚)PPT
i
0 1 i
非线性如： E ( Y / X 0 i)
X 1 i
本课程研究的“线性”主要针对参数而言，包含两种情 况：①对参数和变量均为线性； ②对参数为线性而对变量X则为非线性
2018/12/2
11

§2.1.5 回归与相关




回归分析和相关分析都是研究变量间关系的统计学 课题 两者的主要差别： ◇回归分析中需要区别自变量和因变量；相关分析 中则不需要区分 ◇相关分析中所涉及的变量y与x全是随机变量。而 回归分析中，因变量y是随机变量，自变量x 可以是 随机变量，也可以是非随机的确定变量 ◇相关分析的研究主要是为刻画两类变量间线性相 关的密切程度。而回归分析不仅可以揭示变量X对 变量y的影响大小，还可以由回归方程进行预测和 控制
◎一种极端的情况是一个变量的变化能完全决 定另一个变量的变化
9

2018/12/2

高档消费品的销售量与城镇居民收入之间的关系



粮食产量与施肥量之间的关系 储蓄额与居民收入之间的关系 广告支出与商品销售额 工业增加值与能源消耗量 数学成绩与统计学成绩 ◎以上变量间关系的一个共同特征是它们之间
2018/12/2
5
2018/12/2
6
2018/12/2
7
2018/12/2
8

§2.1.3 统计关系与确定性关系



社会经济与自然科学等现象之间的相互 联系和制约是一个普遍规律 ★要认识和掌握客观经济规律就必须探 求经济现象间经济变量的变化规律，变 量间的统计关系是经济变量变化规律的 重要特征 ★互有联系的经济现象及经济变量间关 系的紧密程度各不一样

第二章 一元线性回归模型(本科生计量经济学)

第二章 一元线性回归模型(本科生计量经济学)

即：正规方程组揭示的是残差的性质。
26
普通最小二乘估计有关 的其他性质（课后习题）
Y Y

^
e Y e y
i ^ i
^
i
0 0
27
i
2、由普通最小二乘估计系数的性质可证
得普通最小二乘估计与参数的关系如下：
1 1 k i u i
^
0 0 wi ui
（ 1） （ 2）
（ 1）
0 Y 1 X
^

^

Y

1 n
Y , X X
i 1 i 1 n i 1
n

n
i
18
参数的普通最小二乘估计量
ˆ ˆ X )0 (Yi 0 1 i ˆ ˆ X )X 0 ( Y i 0 1 i i
^
33
三、一元线性回归模型参数的最大似 然法(Maximum Likehood,ML)估计
• 基本原理：似然原理
• 一元线性回归模型ML使用的条件：已知随机扰动 项的分布。
34
Y1 , Y2 ,...,Yn
1 f (Yi ) e 2
1 2
1 2
2
Yi ~ N (0 1 X i , 2 )
w 1
i
22
普通最小二乘估计的例
年份
1991 1992 1993 1994
ED(X)
708 793 958 1278
FI(Y)
3149 3483 4349 5218
ed(x)
-551 -466 -301 19
fi(y)
-2351 -2017 -1151 -282

第二章 一元线性回归

第二章 一元线性回归

n ei 0 i 1 n xe 0 i i i 1
经整理后,得正规方程组
n n ˆ ˆ n ( x ) 0 i 1 yi i 1 i 1 n n n ( x ) ˆ ( x 2 ) ˆ xy i 0 i 1 i i i 1 i 1 i 1
y ˆ i 0 1xi ˆi 之间残差的平方和最小。 使观测值 y i 和拟合值 y
ei y i y ˆi
n
称为yi的残差
ˆ , ˆ ) ˆ ˆ x )2 Q( ( y i 0 1i 0 1
i 1
min ( yi 0 1 xi ) 2
i
xi x
2 ( x x ) i i 1 n
yi
2 .3 最小二乘估计的性质
二、无偏性
ˆ ) E ( 1
i 1 n
n
xi x
2 ( x x ) j j 1 n
其中用到
E ( yi )
( x x) 0 (xi x) xi (xi x)2
二、用统计软件计算
1．例2.1 用Excel软件计算
什么是P 值?(P-value)
• P 值即显著性概率值 ，Significence Probability Value
•
是当原假设为真时所得到的样本观察结果或更极端情况 出现的概率。
P值与t值： P t t值 P值


•
它是用此样本拒绝原假设所犯弃真错误的真实概率，被 称为观察到的(或实测的)显著性水平。P值也可以理解为 在零假设正确的情况下，利用观测数据得到与零假设相 一致的结果的概率。
2 .1 一元线性回归模型

第二章回归分析ppt课件

第二章回归分析ppt课件

U和Q的相对大小反映了因子x对y的影响程度, 在n固定的情况下，如果回归
方差所占y方差的比重越大，剩余方差所占的比重越小，就表明回归的效果
越好， 即：x的变化对y的变化起主要作用， 利用回归方程所估计出的ŷ也会
越接近观测值y。
ŷ的方差占y的方差的比重（U/(U+Q)）可作为衡量回归模型效果的标准：
ŷ
y -y
ŷ -y
y
x
syy
1 n
n t 1
( yt
y)2
1 n
n t 1
( yt
y)2
1 n
n t 1
( yt
yt )2
“回归平方和”与“剩余平方和”
对上式两边分别乘以n，研究各变量的离差平方和的关系。为避免过多数学符
号，等号左边仍采用方差的记号syy。
n
n
syy ( yt y)2 ( yt yt )2 U Q
回忆前文所讲， y的第i个观测值yi服从怎样的分布？
yi ~ N (β0 +βxi , σ2)
e=yi- (β0 +βxi ) 服从N(0, σ2)
于是， yi (0 xi ) 服从标准正态分布N (0,1)
0.4
在95%的置信概率下：
因为定理： 若有z ~ N (, 2 )， 则有 z ~ N (0,1)
通过方差分析可知，可用“回归平方和”U与“剩余平方和”Q的比值来衡 量回归效果的好坏。可以证明，假设总体的回归系数为0的条件下，统计 量：
U
F=
1 Q
注意Q的自由度为n-2, 即：残差e的方差的无 偏估计为：Q/(n-2)
n2 服从分子自由度为1，分母自由度为n - 2的F分布
上式可以用相关系数的平方来表示：

回归分析 ppt课件

2
精品资料
• 你怎么称呼老师？ • 如果老师最后没有总结一节课的重点的难点，你
是否会认为老师的教学方法需要改进？ • 你所经历的课堂，是讲座式还是讨论式？ • 教师的教鞭 • “不怕太阳晒，也不怕那风雨狂，只怕先生骂我
笨，没有学问无颜见爹娘 ……” • “太阳当空照，花儿对我笑，小鸟说早早早……”4Fra bibliotek回归分析
•按照经验公式的函数类型： 线性回归和非线性回归；
•按自变量的个数： 一元回归和多元回归；
•按自变量和因变量的类型： 一般的回归分析、含有哑变量的回归分
析、Logistic回归分析
5
回归分析
6
回归分析
•对数据进行预处理，选择合适的变量进行回归分析； •做散点图，观察变量间的趋势，初步选取回归分析方法； •进行回归分析，拟合自变量与因变量之间的经验公式； •拟合完毕之后检验模型是否恰当； •利用拟合结果进行预测控制。
通过以上的简单线性回归分析，可知通货膨胀和失业 的替代关系在我国并不存在。
13
回归分析
我们经常会遇到变量之间的关系为非线性的情况，这时 一般的线性回归分析就无法准确的刻画变量之间的因果关系， 需要用其他的回归分析方法来拟合模型。曲线回归分析是一 种简便的处理非线性问题的分析方法。适用于模型只有一个 自变量且可以化为线性形式的情形，基本过程是先将因变量 或自变量进行变量转换，然后对新变量进行直线回归分析， 最后将新变量还原为原变量，得出变量之间的非线性关系。
8
回归分析
9
回归分析
1.模型拟合情况： 模型的拟合情况反映了模型对数据的解释能力。修正
的可决系数（调整R方）越大，模型的解释能力越强。
观察结果1，模型的拟合优度也就是对数据的解释能力一般，修正的 决定系数为0.326；

回归分析学习课件PPT课件

03 网格搜索
为了找到最优的参数组合，可以使用网格搜索方 法对参数空间进行穷举或随机搜索，通过比较不 同参数组合下的预测性能来选择最优的参数。
非线性回归模型的假设检验与评估
假设检验
与线性回归模型类似，非线性回归模型也需要进行假设检验，以检验模型是否满足某些统计假 设，如误差项的独立性、同方差性等。
整估计。
最大似然法
03
基于似然函数的最大值来估计参数，能够同时估计参数和模型
选择。
多元回归模型的假设检验与评估
线性假设检验
检验回归模型的线性关系 是否成立，通常使用F检 验或t检验。
异方差性检验
检验回归模型残差的异方 差性，常用的方法有图检 验、White检验和 Goldfeld-Quandt检验。
多重共线性检验
检验回归模型中自变量之 间的多重共线性问题，常 用的方法有VIF、条件指数 等。
模型评估指标
包括R方、调整R方、AIC、 BIC等指标，用于评估模 型的拟合优度和预测能力。
05
回归分析的实践应用
案例一：股票价格预测
总结词
通过历史数据建立回归模型，预测未来股票 价格走势。
详细描述
利用股票市场的历史数据，如开盘价、收盘价、成 交量等，通过回归分析方法建立模型，预测未来股 票价格的走势。
描述因变量与自变量之间的非线性关系，通过变 换或使用其他方法来适应非线性关系。
03 混合效应回归模型
同时考虑固定效应和随机效应，适用于面板数据 或重复测量数据。
多元回归模型的参数估计
最小二乘法
01
通过最小化残差平方和来估计参数，是最常用的参数估计方法。
加权最小二乘法
02
适用于异方差性数据，通过给不同观测值赋予不同的权重来调

《回归分析)》课件


收集和整理相关数据，并进行数据清洗和变量转换，为模型建立做准备。
2
模型的建立和检验
选择适当的回归模型，进行参数估计和模型检验，确保模型的准确性和可靠性。
3
模型的应用和解释
利用已建立的模型进行预测和解释因变量的变化，探索自变量对因变量的影响。
回归因变量之间的关系。
非线性回归分析
使用非线性模型来描述自变 量和因变量之间的关系。
多元回归分析
考虑多个自变量对因变量的 影响，并建立多元回归模型。
回归分析的评价指标
• 实际因子与预测因子之间的相关系数 • 平均绝对误差 • 可决系数
回归分析的应用
经济学领域
回归分析可用于预测经济因素 之间的关系，如GDP与失业率的 关系。
社会学领域
回归分析可用于研究社会现象 和行为之间的关系，如教育水 平与收入的关系。
工程学领域
回归分析可用于工程问题的预 测和优化，如建筑材料的强度 与耐久性的关系。
回归分析的限制条件
• 不同因素的关系并非线性 • 自变量之间的相关性 • 数据量的大小和均匀性
总结和展望
回归分析是一种强大的工具，能够帮助我们理解变量之间的关系，并进行预 测和解释。未来，随着数据科学的发展，回归分析在各个领域的应用将会更 加广泛。
《回归分析)》PPT课件
回归分析是一种用于研究变量之间关系的统计方法。本课程将介绍回归分析 的定义、步骤、类型、评价指标以及应用领域，并探讨其限制条件。
什么是回归分析
回归分析是一种统计方法，用于研究自变量和因变量之间的关系。通过建立 数学模型，预测和解释因变量的变化。
回归分析的步骤
1
数据的收集和处理

《回归分析方法》课件


线性回归模型的评估与优化
评估指标：R平方值、调整R平方值、F统计量、P值等 优化方法：逐步回归、岭回归、LASSO回归、弹性网络回归等 交叉验证：K折交叉验证、留一法交叉验证等 模型选择：AIC、BIC等模型选择方法来自01逻辑回归分析
逻辑回归分析的定义
逻辑回归是一种统计方法，用于预测二分类因变量 逻辑回归使用逻辑函数（logistic function）来估计概率 逻辑回归的目标是找到最佳的参数，使得模型能够准确预测因变量 逻辑回归广泛应用于医学、金融、市场营销等领域
逻辑回归模型的应用场景
预测客户是 否会购买产 品
预测客户是 否会违约
预测客户是 否会流失
预测客户是 否会响应营 销活动
预测客户是 否会购买保 险
预测客户是 否会进行投 资
01
多项式回归分析
多项式回归分析的定义
多项式回归分析是一种统计方法，用于建立因变量与多个自变量之 间的关系模型。 多项式回归分析通过使用多项式函数来拟合数据，从而得到更精确 的预测结果。 多项式回归分析的优点是可以处理非线性关系，并且可以处理多个 自变量之间的关系。
求解结果：得到模型的参 数值，用于预测和评估模
型的性能
套索回归模型的应用场景
预测股票价格 预测房价 预测汇率 预测商品价格
Ppt
感谢观看
汇报人：PPT
岭回归模型的参数求解
岭回归模型： 一种线性回归 模型，通过在 损失函数中加 入一个L2正 则项来防止过
拟合
参数求解方法： 梯度下降法、 牛顿法、拟牛
顿法等
梯度下降法： 通过迭代求解 参数，每次迭 代都沿着梯度 下降的方向更
新参数
牛顿法：通过 求解Hessian 矩阵的逆矩阵 来更新参数， 收敛速度快， 但计算复杂度
  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

第2 章迴歸歸分析的推論Inferenes in Regression andCorrelation Analysis首先將針對迴歸的參數β及β1 做推論，並對這些參數做區間估計及檢定。

接著將討論，在給定一個X時，Y的機率分配之平均數E﹛Y﹜的區間估計、新觀測值Y的預測區間及迴歸線的信賴帶﹙confidence band﹚。

以及要討論迴歸分析中的變異分析法、一般線性檢定法﹙general linear test approach ﹚及描述性的觀聯量度﹙descriptive Measure of association ﹚。

最後將探討一個相關係數﹙correlation coefficient﹚即當X及Y都是隨機變數時，衡量X與Y之間關係的一個量。

•貫穿本章以及第一部份以後的各章節，除非另有說明，否則皆假設適用常態誤差迴歸模型(1.24)。

此一模型即是(2.1)其中β0 及β1 為參數；X i 為已知常數；εi獨立且服從N (0,σ2) 。

2.1 關於β1 的推論參數β1﹙即模型﹙2.1﹚之迴歸線的斜率﹚的推論感興趣。

例如，一個市場分析人員研究產品銷售量﹙Y﹚與廣告支出﹙X﹚之間的關聯時，可能會希望獲得β1的區間估計，因為它提供了每一單位廣告的支出，平均可增加多少產品銷售的訊息。

研究人員也會對β1的檢定有興趣，特別是下列的形式:H0︰　β1= 0H a︰　β1≠0當β1＝0 時，表示X 與Y 之間並無直線關聯性存在。

圖2.1 說明了當β1＝0 的情形。

此時迴歸線是水平的，而Y的機率分配的平均數都相等。

由於在此模型中所有Y的機率分配都是具有固定變異的常態分配，且當β1＝0 時所有平均數也都相等，所以當β1＝0 時，Y的機率分配都是相同的，這在圖2.1 中也可以看得到。

對於常態誤差迴歸模型﹙2.1﹚，β1＝0 代表Y與X之間沒有線性關聯，同時表示Y與X之間沒有其他任何形式的關連。

，是指固定預測變數X的函數，當X固定時，1以它的不偏估計式誤差均方σ2{b} 的一個不偏估計式。

取(b1−β1) / s{b1} 的抽樣分配由於b1 是常態分配，所以其標準化統計量(b1−β1)/s{b1}是一個標準常態分配的隨機變數。

一般來說，會用s{b1}來估計σ{b1}。

當一個統計量經過標準化，但其分母為估計的標準差而非真實的標準差時，稱之為學生化統計量(studentizestatistic)。

一個關於此學生化統計量(b1−β1)/s{b1}的重要定理：對於迴歸模型(2.1)，服從自由度(n-2)的t分配，即t(n-2) (2.10)在迴歸模型中有兩個參數﹙β0及β1﹚需要估計，因此損失兩個自由度。

β的信賴區間1由於(b1−β1) / s{b1} 服從t 分配，可以作下面的機率陳述：(2.12)α是顯著係數，一般常用0.05，在這邊t (α/2; n -2) 定義為具有自由度(n -2)的t 分配之第(α/2) 100 百分位數。

因為t 分配有對稱於0的特性，所以(2.13) 利用(2.13)，(2.12)可以改寫成：(2.14)係數標準誤t 統計P-值下限 95%上限 95%軟體係數標準誤t 統計P-值下限 95%上限 95% EXCEL 軟體截距62.365926.1774 2.38240.02598.214116.518 X 變數 1 3.57020.347010.28960.0000 2.852 4.288係數標準誤t 統計P-值下限 95%上限 95% EXCEL 軟體截距62.365926.1774 2.38240.02598.214116.518 X 變數 1 3.57020.347010.28960.0000 2.852 4.288P2-8P2-9P2-10P2-8 信賴界限附錄Pag B-5，t (0.9995, 23) = 3.768附錄Pag B-4 t (0.95, 23) = 1.714EXCEL 軟體係數標準誤t 統計P-值下限 95%上限 95%截距62.365926.1774 2.38240.02598.214116.518s{b}，是σ{b}的估計式。

，對b0 也有一個定理：服從自由度t(n -2)係數標準誤t 統計P-值下限 95%上限 95%截距62.365926.1774 2.38240.02598.214116.518 X 變數 1 3.57020.347010.28960.0000 2.852 4.288P2-8P2-9P2-10P2-8 信賴界限非95% 信賴區間2.3 對β及β1 做推論時的一些考慮偏離常態性的效應•如果Y的機率分配並不是常態，但並未嚴重偏離常態，則b0 及b1 的抽樣分配仍會近似常態，利用t 分配仍然可得近似預定的信賴常數或顯著水準。

•一般性的條件下，當樣本數增加時，它的分配將趨近常態分配。

而對於大樣本，t 的值可以藉由標準常態分配的z 值來取代。

信賴係數及錯誤風險的解釋•對於迴歸模型（2.1）是假設諸X i是已知的常數，因此信賴係數及檢定的錯誤風險，都是解釋為在固定X的值和所觀測值到的樣本相同之下重複抽樣的結果。

•例如，在Toluca公司的例子中，建構了一個信賴係數為95% 的β1 的信賴區間。

這個係數表示，若在X固定成和已得到的資料相同之下，重複抽樣取得很多樣本，並且每一組樣本都採用同一公式建構β1 的95% 的信賴區間，則這些區間中大約95% 會涵蓋到真正的β1。

分隔X 的水準•分別檢查b0 與b1 的變異數公式（2.3b）及（2.22b），可以發現當n 與σ2給定時，這些變異數將受到觀測值X 水準的間距影響。

比如說，若X 的水準越分散，的量就越大，而b1 的變異數就越小•(2.3b) (2.22b)檢定力•對β0與β1做檢定的檢定力（power of tests），可以從附錄的表B.5 查到。

例如，考慮要對β1做（2.19）的一般性檢定：H0：β1= β10H a：β1≠β10•檢定的統計量：t* = [b1-β10] /s{b1}這個檢定的檢定力，就是當H是對時，決策法則導引到a結論是H a 的機率。

2.4 E { Y h }的區間估計•令X h 表示想估計平均反應的X 水準，X h 可能是在樣本中出現過的一個值，也可能是在模型範圍內預測變數的另一個值。

X = X h 時的平均反應記為E {Yh }，(1.12)給予E { Y h }的點估計式Ŷh 是：(2.28) •Ŷh 的抽樣分配如同前面所提到過的幾個抽樣分配，Ŷh 的抽樣分配是指：固定預測變數X 的水準，重複抽樣並計算Ŷh ，所得到的不同Ŷh 值的現象。

對於常態誤差迴歸模型(2.1)，Ŷh 的抽樣分配為常態，並具有如下的平均數與變異數：(2.29)(2.29a)(2.29b)常態性因Ŷh是諸Y i 的線性組合，故可以得到Ŷh的抽樣分配是常態分配。

平均數由(2.29a)知，Ŷh 是E{Y h}的不偏估計量。

E{Ŷ}= β0+ β1X hh抽樣分配的X h與h距離多遠的影響，即受到越就越大，Ŷh 的變異數也越大。

圖2.3 以對這個現象做一個直觀的解釋。

在同一組當MSE 取代(2.29b)的σ2時，我們可以得到的的估計標準差s{Ŷh } 即為s 2{Ŷh }的正方根。

Ŷh 在不同樣本間的變異，當X h 遠離平均數接近平均數時來得大。

下，一般程式內定95%2.5 新觀測值的預測(Prediction of New bservation)•考慮給定預測變數X之一個標準，預測一個新觀測值Y的問題。

•一大學中的一位入學許可主管估計了已入學學生的高中平均等第成績（GPA）和其大學第一年GPA的迴歸關聯。

他希望預測一名高中GPA為3.5的入學申請者其進入大學第一年的GPA，以供是否准許入學的部分參考訊息。

•要預測的新觀測值Y是一次新試行的結果，和迴歸分析所依據的資料是獨立的。

以X h表示此一新試行的X 水準，而Y的新觀測值用Y h(new)表示。

假設適用基本樣本資料的迴歸模型對於新觀測值仍然適用。

}和本節所要討論的•前一節所討論的估計平均反應E{ Yh預測新反應值Y h(new)，兩者間有根本上的差別。

前者是估計Y之分配的平均數，而後者是預測由Y的分配所取出的個別結果。

一、參數已知時Y h(new)的預測區間(prediction interval) 9為說明新觀測值Y之預測區間(prediction interval)h(new)的性質，首先假設所有的迴歸參數皆已知，之後捨棄這個假設，並做適當的修正。

假設在入學審查的例子中，迴歸模型的參數已知如下:β0 = 0.10 ，β1 = 0.95，E{Y}=0.10 + 0.95X，σ= 0.12入學許可主管考慮一名高中GPA為X h= 3.5 的申請者。

高中平均是3.5 的學生其大學平均成績為E{Y h} = 0.10 + 0.95(3.5) = 3.425Y 常一致h = 3.5 的申請者其大學第一年的GPA3.425 ±3 (0.12)≤Y h(new)≤3.785常態機率分配在平均數左右三倍標準差之內約占了99.7 ，此預測區間正確預測一位高中GPA是3.5的申請者其大學因為預測區間相當寬。

此預測並不十分精確，但至少此預測告訴入學許可主管，這位申請者進入大學後第一年的成績至少可達3.0 GPA。

（3.065≤Y h(new)≤3.785）預測區間是否有用，取決於區間的寬度和使用者所需要的精確度。

一般若常態誤差迴歸模型(2.1) 的參數已知，則Y h(new) 的1-α預測區間為: E{Y h} ±Z(1-α/2)·σ(2.34)以E{Y h}為界限的中心點，得到的是固定正確預測機率之下的最短區間，Z標準常態分佈(表B.1)二、參數未知時Y h(new) 的預測區間•當迴歸參數未知時，必須先估計：Y 的平均數用Ŷh 估計，而Y之變異數用MSE估計。

•圖2.5 顯示有兩個Y 的機率分配，對應到E{Y h} 的信賴區間上下界限值。

因為不知道平均數E{Y h} 究竟在哪裡，只能用信賴區間估計它，所以不能確定Y 之分配的位置。

圖2.5 顯示了兩個Y的分配所對的預測界限。

由於我們不能確定Y分配的位置，Y h(new)的預測界限顯然需考量兩個元素，如圖2.5所示:1. Y 分配的位置之可能變異。

2. Y 機率分配內之變異。

給定X，一新觀測值Y h(new)的預測界限可利用下列定理h求得：在常態誤差迴歸模型(2.1)的下，{ Y h(new) -Ŷh} / s{pred} ，服從t (n-2)(2.35) (2.35) 的學生化統計量的分子用了點估計量Ŷh ，而非平均數E{Y h}，這是因我們並不知道真正的平均數，所以無法用它來做預測。