y1 1 x11 x12 x1p 0 1
3.1 y2 1 x21 x22 x2p 1 + 2 即y=x +
yn 1 xn1 xn2 xnp p n
基本假定
(1)解释变量x1,x2…,xp 是确定性变量，不是随机变量，且要求
rank(X)=p+1 (2)随机误差项具有零均值和等方差，即高斯马尔柯夫条件 (3)对于多元线性回归的正态分布假定条件的矩阵模型为 ~N( 0，2I n) 随即向量y~N(X , 2I n) 3.2 当(X T X)1存在时，回归参数的最小二乘估计为&収)収丁丫， 要求出回归参数，即要求X T X是一个非奇异矩阵，|x T X 0，所以 可逆矩阵X T X为P+1阶的满秩矩阵，又根据两个矩阵乘积的秩不大于每一因子的秩rank(X) p+1,而X为n (p+1)阶矩阵，于是应有n p+1 结论说明，要想用最小二乘法估计多元线性回归模型的未知参数，样本量n必须大于模型自变量p的个数。 3.3 n 注 tr(H) h 1 3.4不能断定这个方程一定很理想，因为样本决定系数与回归方程中 自变量的数目以及样本量n 有关，当样本量个数n 太小，而自变量又较 多，使样本量与自变量的个数接近时， R 2易接近1,其中隐藏一些虚 假成分。 3.5当接受H o 时，认定在给定的显着性水平 下，自变量x1,x2, xp 对因变量y 无显着影响，于是通过x1,x2, xp 去推断y 也就无多大意 义，在这种情况下，一方面可能这个问题本来应该用非线性模型去描 述，而误用了线性模型，使得自变量对因变量无显着影响；另一方面 可能是在考虑自变量时，把影响因变量y 的自变量漏掉了，可以重新 考虑建模问题。 当拒绝H o 时，我们也不能过于相信这个检验，认为这个回归模型 已经完美了，当拒绝H o 时，我们只能认为这个模型在一定程度上说明 了自变量x1,x2, xp 与自变量y 的线性关系，这时仍不能排除排除我 们漏掉了一些重要的自变量。 3.6中心化经验回归方程的常数项为0,回归方程只包含p 个参数估计 值1, 2, p 比一般的经验回归方程减少了一个未知参数，在变量较 SSE (y y)2 e12 e22 1 2 1 E( ) E( - SSE* n p 1 n p n 2 [D(e) (E(e))2] 1 n (1 1 n 2 en n E( e 1 1 n p 1 1 n p 1 1 "1 1 n p 1 J (n D(e) 1 (p 1)) 1_ p 1 1 1 n p 1 2 2 n E(e 2) (1 h ) 2 1 多时，减少一个未知参数，计算的工作量会减少许多，对手工计算尤为重要。 在用多元线性回归方程描述某种经济现象时，由于自变量所用的 单位大都不同，数据的大小差异也往往很大，这就不利于在同一标准 上进行比较，为了消除量纲不同和数量级的差异带来的影响，就需要 化回归系数。 3.7 对y o 1X1 2x2 P X P进行中心化处理得 y y 1(x 1 X1)2(x 2 X2 ) p(x p X P）再将等式除以因变量的样 * y y 1 y 二一---------- (x1x1) V L yy V L yy 2 ------ (X 2 L yy X2 ) p ----- (x p x p) L yy 1 . L ii (x 1 X1) 2 ?. L22 (X 2 X2) v L11 L yy L22 p . L pp (x p x p) i L yy L pp 2X2 p X p 所以 3.8 （j为相关阵（r j）p p第i行，第j列的代数余子式） r i2;3 12 11 ? 22 3.9 F j = 将样本数据标准化处理, 然后用最小二乘法估计未知参数，求得标准 1 SSE SSR SSE SSR SSE SSE SST 空R 2 SST SSE 3.11 SSR j) 1 SSE (n P 1) SSR (j) "SST (n p 八 SSE (j) SSE (n 1) (SSE (j) ( SSE (j) SSE (j\ SSE (n P 1) (n P 1) (SSE (j) ( SSE (j) SSE (j ) SSR j) SSE (j)) (n P 1) (r ： TT 2 ) yj 2 r yj (n p 1) ( J) 1 r yj r y2小于i , F j 与 2 r yj 对应, 所以F j 与r ；等价 3.10 SSR n F (n P 1) P SSR _P n P 1 SSE P 1 SSE SSR SSR 证得 R 2 F (n P 1) P SSE 1 回归方程为 y= -348.280+3.754x1+7.101x2+12.447x3 2复相关系数R=0.898，决定系数为0.806，拟合度较高。 3方差分析表，F=8.283 , P 值=0.015<0.05 ,表明回归方程高度显着， 说明x1,x2,x3,整体上对y 有高度显着的线性影响 X2农业总产值的P 值=0.049 X3居民非产品支出的 P 值=0.284 模型汇总 模型 R R 方 调整R 方 标准估计的误 差 1 .872 a .761 .692 24.08112 ⑵(3)( 4)( 5)( 6) 输入/移去的变量b 模型 输入的变量 移去的变量 方法 1 x2, x1 a 输入 a.已输入所有请求的变量。 b.因变量：y 在0.1的显着性水平上, x3未通过检验，应将其剔除掉 4回归系数的显着性检验 x1工业总产值的P 值=0.100 a.预测变量：（常量）,x2, x1 1 回归方程为y= -459.624+4.676x1+8.971x2 2复相关系数R=0.872，决定系数为0.761，由决定系数看回归方程接近高度相关 3方差分析表，F=11.117, P值=0.007,表明回归方程高度显着说明x1,x2,整体上对y有高度显着的线性影响 4回归系数的显着性检验x1工业总产值的P值=0.037 X2农业总产值的P值=0.008 在0.05的显着性水平上，自变量x1,x2对y均有显着影响 (8 )标准化回归方程y=0.479x1+0.676x2 (9)把x0仁75,x02=42 带入y= -459.624+4.676x1+8.971x2 得 y=267.86 y置信水平95%的区间估计为(211.09492,324.57506) y置信水平95%的近似区间估计为(219.6978,316.0222) E (y)置信水平95%的区间估计为(245.00541 ,290.66457) (10)由于X3的回归系数显着性检验未通过，所以居民非商品支出对货运总量影响不大，但是回归方程整体对数据拟合较好。 3.12 b a. 预测变量：(常量),x2, x1 测试题 1．下列说法中错误的是（） A．如果变量x与y之间存在着线性相关关系，则我们根据试验数据得到的点（i=1，2，3，…， n）将散布在一条直线附近B．如果两个变量x与y之间不存在线性相关关系，那么根据试验数据不能写出一个线性方程。 C．设x，y是具有线性相关关系的两个变量，且回归直线方程是，则叫回归系数 D．为使求出的回归直线方程有意义，可用线性相关性检验的方法判断变量x与y之间是否存在线性相关关系 2．在一次试验中，测得（x，y）的四组值分别是（1，2），（2，3），（3，4），（4，5），则y与 x之间的回归直线方程是（） A．B． C．D． 3．回归直线必过点（） A．（0，0）B． C． D． 4．在画两个变量的散点图时，下面叙述正确的是（） A．预报变量在轴上，解释变量在轴上 B．解释变量在轴上，预报变量在轴上 C．可以选择两个变量中任意一个变量在轴上 D．可以选择两个变量中任意一个变量在轴上 5．两个变量相关性越强，相关系数r（） A．越接近于0 B．越接近于1 C．越接近于－1 D．绝 对值越接近1 6．若散点图中所有样本点都在一条直线上，解释变量与预报变量的相关系数为（） A．0 B．1 C．－1 D．－1或1 7．一位母亲记录了她儿子3到9岁的身高，数据如下表： 年龄（岁）3456789 身高（94.8104.2108.7117.8124.3130.8139.0由此她建立了身高与年龄的回归模型，她用这个模型预测儿子10岁时的身高， 则下面的叙述正确的是（） A．她儿子10岁时的身高一定是145.83 B．她儿子10岁时的身高在145.83以上 C．她儿子10岁时的身高在145.83左右 D．她儿子10岁时的身高在145.83以下 8．两个变量有线性相关关系且正相关，则回归直线方程中， 的系数（） A．B．C．D． 能力提升： 9．一个工厂在某年每月产品的总成本y（万元）与该月产量x（万件）之间有如下数据： 第6章 6.1 试举一个产生多重共线性的经济实例。 答：例如有人建立某地区粮食产量回归模型，以粮食产量为因变量Y，化肥用量为X1，水浇地面积为X2，农业投入资金为X3。由于农业投入资金X3与化肥用量X1，水浇地面积X2有很强的相关性，所以回归方程效果会很差。再例如根据某行业企业数据资料拟合此行业的生产函数时，资本投入、劳动力投入、资金投入与能源供应都与企业的生产规模有关，往往出现高度相关情况，大企业二者都大，小企业都小。 6.2多重共线性对回归参数的估计有何影响？ 答：1、完全共线性下参数估计量不存在； 2、参数估计量经济含义不合理； 3、变量的显著性检验失去意义； 4、模型的预测功能失效。 6.3 具有严重多重共线性的回归方程能不能用来做经济预测？ 答：虽然参数估计值方差的变大容易使区间预测的“区间”变大，使预测失去意义。但如果利用模型去做经济预测，只要保证自变量的相关类型在未来期中一直保持不变，即使回归模型中包含严重多重共线性的变量，也可以得到较好预测结果；否则会对经济预测产生严重的影响。 6.4多重共线性的产生于样本容量的个数n、自变量的个数p有无关系？ 答：有关系，增加样本容量不能消除模型中的多重共线性，但能适当消除多重共线性造成的后果。当自变量的个数p较大时，一般多重共线性容易发生，所以自变量应选择少而精。 6.6对第5章习题9财政收入的数据分析多重共线性，并根据多重共线性剔除变量。将所得结果与逐步回归法所得的选元结果相比较。 5.9 在研究国家财政收入时，我们把财政收入按收入形式分为：各项税收收入、企业收入、债务收入、国家能源交通重点建设收入、基本建设贷款归还收入、国家预算调节基金收入、其他收入等。为了建立国家财政收入回归模型，我们以财政收入y（亿元）为因变量，自变量如下：x1为农业增加值（亿元），x2为工业增加值（亿元），x3为建筑业增加值（亿元），x4为人口数（万人），x5为社 第7章岭回归 思考与练习参考答案 7.1 岭回归估计是在什么情况下提出的？ 答：当自变量间存在复共线性时，｜X’X｜≈0，回归系数估计的方差就很大，估计值就很不稳定，为解决多重共线性，并使回归得到合理的结果，70年代提出了岭回归(Ridge Regression,简记为RR)。 7.2岭回归的定义及统计思想是什么？ 答：岭回归法就是以引入偏误为代价减小参数估计量的方差的一种回归方法，其统计思想是对于（X’X）-1为奇异时，给X’X加上一个正常数矩阵 D, 那么X’X+D接近奇异的程度就会比X′X接近奇异的程度小得多，从而完成回归。但是这样的回归必定丢失了信息，不满足blue。但这样的代价有时是值得的，因为这样可以获得与专业知识相一致的结果。 7.3 选择岭参数k有哪几种方法？ 答：最优 是依赖于未知参数 和 的，几种常见的选择方法是： 岭迹法：选择 的点能使各岭估计基本稳定，岭估计符号合理，回归系数没有不合乎经济意义的绝对值，且残差平方和增大不太多； 方差扩大因子法： ，其对角线元 是岭估计的方差扩大因子。要让 ； 残差平方和：满足 成立的最大的 值。 7.4 用岭回归方法选择自变量应遵循哪些基本原则？ 答：岭回归选择变量通常的原则是： 1. 在岭回归的计算中，我们通常假定涉及矩阵已经中心化和标准化了，这样可以直接比较标准化岭回归系数的大小。我们可以剔除掉标准化岭回归系数比较稳定且绝对值很小的自变量； 2. 当k值较小时，标准化岭回归系数的绝对值并不很小，但是不稳定，随着k的增加迅速趋近于零。像这样岭回归系数不稳定、震动趋于零的自变量，我们也可以予以剔除； 3. 去掉标准化岭回归系数很不稳定的自变量。如果有若干个岭回归系数不稳定，究竟去掉几个，去掉那几个，要根据去掉某个变量后重新进行岭回归分析的效果来确定。 应用回归分析：填空 (1) 回归分析是处理变量间_______关系的一种数理统计方法，若变量间具有线性关系，则称相应的回归分析为____________；若变量间不具有线性关系，就称相应的回归分析为___________________。 (2) 现代统计学中研究统计关系的两个重要分支是_________和_____________。 (3) 回归模型的建立是基于回归变量的样本统计数据，常用的样本数据分为___ ___________________和______________________。 (4) 回归模型通常应用于______________________、____________________和_____________________等方面。 (5) 最小二乘法的基本特点是使回归值与_________________________平方和为最小，最小二乘法的理论依据是___________________________。 (6) 多元线性回归模型ε β += X Y ，回归参数β的最小二乘估计为 β ?=_________________________。 (7) 设线性回归模型参数向量β(p+1维)的最小二乘估计为β?，c 为p+1维常数向量，则______________是____________的最小方差线性无偏估计。 (8) 在线性回归分析中，最小二乘估计的性质有______________； _____ _____________和____________________等。 (9) 多元线性回归模型n i x x y i ip p i i ,,2,1,110 =++++=εβββ，误差项 ()n i i ,,2,1, =ε需满足的markov Gauss -假设为： (a):________________________________________； (b):________________________________________； (c):_________________________________________。 (10) 对回归方程做显著性检验时，可以用P 值代替检验统计量值，作出拒绝或接受原假设的决定：当P_______α时，接受0H ；当P________α时，拒绝0H 。 (11) 在p 元线性回归中，确定随机变量y 与自变量12,,,p x x x 间是否有线性 1.1回归分析的基本思想及其初步应用 一、选择题 1. 某同学由x 与y 之间的一组数据求得两个变量间的线性回归方程为y bx a =+，已知：数据x 的平 均值为2，数据 y 的平均值为3，则 ( ) A ．回归直线必过点（2，3） B ．回归直线一定不过点（2，3） C ．点（2，3）在回归直线上方 D ．点（2，3）在回归直线下方 2. 在一次试验中，测得(x,y)的四组值分别是A(1,2),B(2,3),C(3,4),D(4,5)，则Y 与X 之间的回归直线方程为（ ）A ． y x 1=+ B ． y x 2=+ C ． y 2x 1=+ Ｄ． y x 1=-3. 在对两个变量x ，y 进行线性回归分析时，有下列步骤： ①对所求出的回归直线方程作出解释； ②收集数据(i x 、i y ） ，1,2i =，…，n ； ③求线性回归方程； ④求未知参数； ⑤根据所搜集的数据绘制散点图 如果根据可行性要求能够作出变量,x y 具有线性相关结论，则在下列操作中正确的是（ ） A ．①②⑤③④ B ．③②④⑤① C ．②④③①⑤ D ．②⑤④③① 4. 下列说法中正确的是（ ） A ．任何两个变量都具有相关关系 B ．人的知识与其年龄具有相关关系 C ．散点图中的各点是分散的没有规律 D ．根据散点图求得的回归直线方程都是有意义的 5. 给出下列结论： （1）在回归分析中，可用指数系数2 R 的值判断模型的拟合效果，2 R 越大，模型的拟合效果越好； （2）在回归分析中，可用残差平方和判断模型的拟合效果，残差平方和越大，模型的拟合效果越好； （3）在回归分析中，可用相关系数r 的值判断模型的拟合效果，r 越小，模型的拟合效果越好； （4）在回归分析中，可用残差图判断模型的拟合效果，残差点比较均匀地落在水平的带状区域中，说明这样的模型比较合适．带状区域的宽度越窄，说明模型的拟合精度越高． 以上结论中，正确的有（ ）个． A ．1 B ．2 C ．3 D ．4 6. 已知直线回归方程为2 1.5y x =-，则变量x 增加一个单位时（ ） A.y 平均增加1.5个单位 B.y 平均增加2个单位 C.y 平均减少1.5个单位 D. y 平均减少2个单位 7. 下面的各图中，散点图与相关系数r 不符合的是（ ） 应用回归分析填空题和答案 应用回归分析：填空 (1) 回归分析是处理变量间_______关系的一种数理统计方法，若变量间具有线性关系，则称相应的回归分析为____________；若变量间不具有线性关系，就称相应的回归分析为___________________。 (2) 现代统计学中研究统计关系的两个重要分支是_________和_____________。 (3) 回归模型的建立是基于回归变量的样本统计数据，常用的样本数据分为___ ___________________和______________________。 (4) 回归模型通常应用于______________________、____________________和_____________________等方面。 (5) 最小二乘法的基本特点是使回归值与_________________________平方和为最小，最小二乘法的理论依据是___________________________。 (6) 多元线性回归模型εβ+=X Y ，回归参数β的最小二乘估计为 β?=_________________________。 (7) 设线性回归模型参数向量β(p+1维)的最小二乘估计为β ?，c 为p+1维常数向量，则______________是____________的最小方差线性无偏估计。 (8) 在线性回归分析中，最小二乘估计的性质有______________； _____ _____________和____________________等。 (9) 多元线性回归模型n i x x y i ip p i i ,,2,1,110 =++++=εβββ，误差项()n i i ,,2,1, =ε需满足的markov Gauss -假设为： (a):________________________________________； (b):________________________________________； (c):_________________________________________。 (10) 对回归方程做显著性检验时，可以用P 值代替检验统计量值，作出拒绝或接受原假设的决定：当P_______α时，接受0H ；当P________α时，拒绝0H 。 (11) 在p 元线性回归中，确定随机变量y 与自变量12,,,p x x x 间是否有线性 1、对于一元线性回归01(1,2,...,)i i i y x i n ββε=++=,()0i E ε=，2 var()i εσ=， cov(,)0()i j i j εε=≠，下列说法错误的是 (A)0β，1β的最小二乘估计0?β，1 ?β 都是无偏估计； (B)0β，1β的最小二乘估计0?β，1?β对1y ，2y ，...，n y 是线性的； 2、在回归分析中若诊断出异方差，常通过方差稳定化变化对因变量进行变换. 如果误差方差与因变量y 的期望成正比，则可通过下列哪种变换将方差常数化 (A) 1 y ； (C) ln(1)y +；(D)ln y . 3、下列说法错误的是 (A)强影响点不一定是异常值； (B)在多元回归中，回归系数显着性的t 检验与回归方程显着性的F 检验是等价的； (C)一般情况下，一个定性变量有k 类可能的取值时，需要引入k-1个0-1型自变量； (D)异常值的识别与特定的模型有关. 4、下面给出了4个残差图，哪个图形表示误差序列是自相关的 (A) (C) 5 应用回归分析试题（一） (C)0β，1β的最小二乘估计0?β，1 ?β之间是相关的； (D)若误差服从正态分布，0β，1β的最小二乘估计和极大似然估计是不一样的. (A) (B) (C) (D) 二、填空题（每空2分，共20分） 1、考虑模型y X βε=+，2var()n I εσ=，其中:X n p '?，秩为p '，2 0σ>不一定 已知，则?β =__________________， ?var()β=___________，若ε服从正态分布，则 22 ?()n p σ σ'-:___________，其中2?σ 是2σ的无偏估计. 2、下表给出了四变量模型的回归结果： 则残差平方和=_________，总的观察值个数=_________，回归平方和的自由度=________. 3、已知因变量y 与自变量1x ，2x ，3x ，4x ，下表给出了所有可能回归模型的AIC 值，则最优子集是_____________________. 4、在诊断自相关现象时，若0.66DW =，则误差序列的自相关系数ρ的估计值=_____ ，若存在自相关现象，常用的处理方法有迭代法、_____________、科克伦-奥克特迭代法. 5、设因变量y 与自变量x 的观察值分别为12,,...,n y y y 和12,,...,n x x x ，则以* x 为折点的 折线模型可表示为_____________________. 三、（共45分）研究货运总量y （万吨）与工业总产值1x （亿元）、农业总产值2x （亿元）、居民非商品支出3x （亿元）的线性回归关系.观察数据及残差值i e 、学生化残差i SRE 、 第4章违背基本假设的情况 思考与练习参考答案 4.1 试举例说明产生异方差的原因。 答：例4.1：截面资料下研究居民家庭的储蓄行为 Y i=β0+β1X i+εi 其中：Y i表示第i个家庭的储蓄额，X i表示第i个家庭的可支配收入。 由于高收入家庭储蓄额的差异较大，低收入家庭的储蓄额则更有规律性，差异较小，所以εi的方差呈现单调递增型变化。 例4.2：以某一行业的企业为样本建立企业生产函数模型 Y i=A iβ1K iβ2L iβ3eεi 被解释变量：产出量Y，解释变量：资本K、劳动L、技术A，那么每个企业所处的外部环境对产出量的影响被包含在随机误差项中。由于每个企业所处的外部环境对产出量的影响程度不同，造成了随机误差项的异方差性。这时，随机误差项ε的方差并不随某一个解释变量观测值的变化而呈规律性变化，呈现复杂型。 4.2 异方差带来的后果有哪些？ 答：回归模型一旦出现异方差性，如果仍采用OLS估计模型参数，会产生下列不良后果： 1、参数估计量非有效 2、变量的显著性检验失去意义 3、回归方程的应用效果极不理想 总的来说，当模型出现异方差性时，参数OLS估计值的变异程度增大，从而造成对Y的预测误差变大，降低预测精度，预测功能失效。 4.3 简述用加权最小二乘法消除一元线性回归中异方差性的思想与方法。 答：普通最小二乘估计就是寻找参数的估计值使离差平方和达极小。其中每个平方项的权数相同，是普通最小二乘回归参数估计方法。在误差项等方差不相关的条件下，普通最小二乘估计是回归参数的最小方差线性无偏估计。然而在异方差 的条件下，平方和中的每一项的地位是不相同的，误差项的方差大的项，在残差平方和中的取值就偏大，作用就大，因而普通最小二乘估计的回归线就被拉向方差大的项，方差大的项的拟合程度就好，而方差小的项的拟合程度就差。由OLS 求出的仍然是的无偏估计，但不再是最小方差线性无偏估计。所以就是：对较大的残差平方赋予较小的权数，对较小的残差平方赋予较大的权数。这样对残差所提供信息的重要程度作一番校正，以提高参数估计的精度。 加权最小二乘法的方法： 4.4简述用加权最小二乘法消除多元线性回归中异方差性的思想与方法。 答：运用加权最小二乘法消除多元线性回归中异方差性的思想与一元线性回归的类似。多元线性回归加权最小二乘法是在平方和中加入一个适当的权数i w ，以调整各项在平方和中的作用，加权最小二乘的离差平方和为： ∑=----=n i ip p i i i p w x x y w Q 1211010)( ),,,(ββββββ （2） 加权最小二乘估计就是寻找参数p βββ,,,10 的估计值pw w w βββ?,,?,?10 使式（2）的离差平方和w Q 达极小。所得加权最小二乘经验回归方程记做 22011 1 ???()()N N w i i i i i i i i Q w y y w y x ββ===-=--∑∑22 __ 1 _ 2 _ _ 02 222 ()() ?()?1 11 1 ,i i N w i i i w i w i w w w w w kx i i i i m i i i m i w x x y y x x y x w kx x kx w x σβββσσ==---=-= = ===∑∑1N i =1 1表示=或 应用回归分析试题(一) 1、对于一元线性回归y 0i X i i(i 1,2,..., n),E(J 0 , var( J cov( i, j) 0(i j)，下列说法错误的是 (A) 0，1的最小一乘估计? '0， ?都是无偏估计； (B) 0，1的最小一乘估计? 0， Q ?对y，y2，... ，y n是线性的； (C) 0，1的最小一乘估计 ? ， ?之间是相关的； (D)若误差服从正态分布，0，1的最小二乘估计和极大似然估计是不一样的 2、在回归分析中若诊断出异方差，常通过方差稳定化变化对因变量进行变换.如果误差方差与因变量y的期望成正比，则可通过下列哪种变换将方差常数化 1 (A) - ；(B) “ ；(C) ln( y 1) ；(D) In y. y 、 3、下列说法错误的是 (A) 强影响点不一定是异常值； (B) 在多元回归中，回归系数显着性的t检验与回归方程显着性的F检验是等价的； (C) 一般情况下，一个定性变量有k类可能的取值时，需要引入k-1个0-1型自变量； (D) 异常值的识别与特定的模型有关. 4、下面给岀了4个残差图，哪个图形表示误差序列是自相关的 (A) (B) (C) (D) 5、下列哪个岭迹图表示在某一具体实例中最小二乘估计是适用的 (A) (B) (C)(D) 二、填空题(每空2分，共20分) 2 2 1、考虑模型y X ，var( ) I n，其中X : n p，秩为p，0不一定 已知，则 ? ________________ , var （ ?） _________ ，若 服从正态分布，则 2、下表给岀了四变量模型的回归结果: 则残差平方和= ___________ ，总的观察值个数 = ___________ ，回归平方和的自由度 = ________ . 3、已知因变量 y 与自变量X i ，X 2， X 3，X 4，下表给岀了所有可能回归模型的 AIC 值，则最 优子集是 _______________________ . 4、 在诊断自相关现象时，若 DW 0.66，则误差序列的自相关系数 的估计值= _______ ，若 存在自相关现象，常用的处理方法有迭代法、 _____________ 、科克伦-奥克特迭代法. 5、 设因变量y 与自变量X 的观察值分别为 y 「y 2,..., y n 和x 1, x 2 ,..., x n ，则以x *为折点的折 线模型可表示为 ________________________ . 三、（共45分）研究货运总量y （万吨）与工业总产值x 1 （亿元）、农业总产值x 2 （亿元）、 居民非商品支岀X 3 （亿元）的线性回归关系.观察数据及残差值e i 、学生化残差SRE i 、删除 学生化残差SRE （i ）、库克距离D i 、杠杆值ch ii 见表 (n P)?2 ___________ ，其中?2是2的无偏估计 应用回归分析考查题目我国民航客运量的变化趋势及其原因 学院： 专业： 年级： 姓名： 学号： 运行SPSS 得到相关性分析结果： 其中V AR00001代表Y ； V AR00002 代表 1x ; V AR00003代表2x ; V AR00004 代表3x ; V AR00005代表4x ; V AR00006代表5x ; 解释：从相关阵看出，Y 与 1x 、 2x 、4x 、5x 的相关系数都在0.9以上，说明所选自 变量与Y 高度相关，用Y 与自变量做多元线性回归是合适的。Y 与3x 的相关系数为0.227偏小，P 值为0.398，3x 是铁路客运量，这说明铁路客运量对民航客运量无显著影响。而一般认为铁路客运量与民航客运量之间呈负相关，铁路和民航共同拥有旅客，成了火车就成不了飞机。但就中国的当前实际情况分析，我国居民的收入还很低，一般人外出旅游、出差都乘火车。近年来乘飞机的人虽逐渐增多，但我国民航客运量最大的一部分是来华旅游入境人数。国内尽管有些旅客乘坐飞机，但对火车客运量不会有大的影响，一是铁路运力不足，十分紧张；二是近年来外出民工增多，而民工主要乘火车，所以不会因民航客运量增加而使和火车客运量下降。因此铁路客运量与民航客运量之间的关系不密切是正常的。那么在回归方程中是否应该包含呢？仅凭简单相关系数的大小是不能决定变量取舍的，在初步建模时还是应该包含3x 在内。 运用软件进行回归，输出计算结果： 其中V AR00001代表Y ； V AR00002 代表 1x ; V AR00003代表2x ; V AR00004 代表3x ; V AR00005代表4x ; V AR00006代表5x ; 回归诊断： 1、 回归方程为 54321435.0578.210073.0561.0354.09.450x x x x x y ++--+=Λ 2、 负相关系数R=0.999，决定系数2 R =0.998，由决定系数看回归方程高度显著。 3、 方差分析表，F=1128.303，P 值-0.000，表明回归方程高度显著，说明1x 、2x 、3x 、4x 、 5x 整体上对Y 有高度显著的线性影响。 4、 回归系数的显著性检验。自变量1x 、2x 、3x 、4x 、5x 对Y 均有显著性影响，其中3x 铁 应用回归分析试题（二） 一、选择题 1. 在对两个变量x , y 进行线性回归分析时，有下列步骤： ①对所求出的回归直线方程作出解释；②收集数据（X i 、），1,2，…, n ；③ 求线性回归方程；④求未知参数； ⑤根据所搜集的数据绘制 散点图。 如果根据可行性要求能够作出变量x ，y 具有线性相关结论，则在下列 操作中正确的是（D ） A .①②⑤③④ B .③②④⑤① C .②④③①⑤ D .②⑤④③① 2. 下列说法中正确的是（B ） A .任何两个变量都具有相关关系 B .人的知识与其年龄具有相关关系 C .散点图中的各点是分散的没有规律 D .根据散点图求得的回归直线方程都是有意义的 3. 下面的各图中，散点图与相关系数r 不符合的是（B ） \ 4 yi i .? — | 5. 在画两个变量的散点图时，下面哪个叙述是正确的 (B ) (A) 预报变量在x 轴上，解释变量在y 轴上 (B) 解释变量在x 轴上，预报变量在y 轴上 (C) 可以选择两个变量中任意一个变量在 X 轴上 (D) 可以选择两个变量中任意一个变量 二、 填空题 m 丄 1. y 关于m 个自变量的所有可能回归方程有-一1个。 2. H 是帽子矩阵，贝S tr(H)=p+1。 3. 回归分析中从研究对象上可分为一元和多元。 4. 回归模型的一般形式是 y ° 1X 1 2X 2 p X p 。 5. Cov(e) 2(l H) (e 为多元回归的残差阵)。 三、 叙述题 1.引起异常值消除的方法(至少5个)? 答案：异常值消除方法： (1) 重新核实数据； (2) 重新测量数据； (3) 删除或重新观测异常值数据； (4) 增加必要的自变量； 则正确的叙述是(D ) A .身咼一定是145.83cm C .身高低于145.00cm B .身高超过146.00cm D .身高在145.83cm 左右 《应用回归分析》课后题答案 ————————————————————————————————作者：————————————————————————————————日期： 《应用回归分析》部分课后习题答案 第一章回归分析概述 1.1 变量间统计关系和函数关系的区别是什么？ 答：变量间的统计关系是指变量间具有密切关联而又不能由某一个或某一些变量 唯一确定另外一个变量的关系，而变量间的函数关系是指由一个变量唯一确定另 外一个变量的确定关系。 1.2 回归分析与相关分析的联系与区别是什么？ 答：联系有回归分析和相关分析都是研究变量间关系的统计学课题。区别有 a. 在回归分析中，变量y称为因变量，处在被解释的特殊地位。在相关分析中，变 量x和变量y处于平等的地位，即研究变量y与变量x的密切程度与研究变量x 与变量y的密切程度是一回事。b.相关分析中所涉及的变量y与变量x全是随机 变量。而在回归分析中，因变量y是随机变量，自变量x可以是随机变量也可以 是非随机的确定变量。C.相关分析的研究主要是为了刻画两类变量间线性相关的 密切程度。而回归分析不仅可以揭示变量x对变量y的影响大小，还可以由回归 方程进行预测和控制。 1.3 回归模型中随机误差项ε的意义是什么？ 答：ε为随机误差项，正是由于随机误差项的引入，才将变量间的关系描述为 一个随机方程，使得我们可以借助随机数学方法研究y与x1,x2…..xp的关系， 由于客观经济现象是错综复杂的，一种经济现象很难用有限个因素来准确说明， 随机误差项可以概括表示由于人们的认识以及其他客观原因的局限而没有考虑 的种种偶然因素。 1.4 线性回归模型的基本假设是什么？ 答：线性回归模型的基本假设有：1.解释变量x1.x2….xp是非随机的，观测值 xi1.xi2…..xip是常数。2.等方差及不相关的假定条件为{E(εi)=0 i=1,2…. Cov(εi,εj)=｛σ^2 3.正态分布的假定条件为相互独立。 4.样本容量的个数要多于解释变量的个数， 即n>p. 1.5 回归变量的设置理论根据是什么？在回归变量设置时应注意哪些问题？ 答：理论判断某个变量应该作为解释变量，即便是不显著的，如果理论上无法判 断那么可以采用统计方法来判断，解释变量和被解释变量存在统计关系。应注意 的问题有：在选择变量时要注意与一些专门领域的专家合作，不要认为一个回归 模型所涉及的变量越多越好，回归变量的确定工作并不能一次完成，需要反复试算，最终找出最合适的一些变量。 第3章 多元线性回归 思考与练习参考答案 3.2 讨论样本容量n 与自变量个数p 的关系，它们对模型的参数估计有何影响？ 答：在多元线性回归模型中，样本容量n 与自变量个数p 的关系是：n>>p 。如果n<=p 对模型的参数估计会带来很严重的影响。因为： 1. 在多元线性回归模型中，有p+1个待估参数β，所以样本容量的个数应该大于解释变量的个数，否则参数无法估计。 2. 解释变量X 是确定性变量，要求()1rank p n =+ 第9章 非线性回归 在非线性回归线性化时，对因变量作变换应注意什么问题？ 答：在对非线性回归模型线性化时，对因变量作变换时不仅要注意回归函数的形式， 还要注意误差项的形式。如： (1)乘性误差项，模型形式为 e y AK L αβε =， (2)加性误差项，模型形式为 y AK L αβε=+。 对乘法误差项模型（1）可通过两边取对数转化成线性模型，（2）不能线性化。 一般总是假定非线性模型误差项的形式就是能够使回归模型线性化的形式，为了方便通常省去误差项，仅考虑回归函数的形式。 为了研究生产率与废料率之间的关系，记录了如表所示的数据，请画出散点图，根据散点图的趋势拟合适当的回归模型。 表 生产率x （单位/周） 1000 2000 3000 3500 4000 4500 5000 废品率y （%） 解：先画出散点图如下图： 5000.00 4000.003000.002000.001000.00x 12.00 10.00 8.006.00 y 从散点图大致可以判断出x 和y 之间呈抛物线或指数曲线，由此 采用二次方程式和指数函数进行曲线回归。 （1）二次曲线 SPSS 输出结果如下： 从上表可以得到回归方程为：72? 5.8430.087 4.4710y x x -=-+? 由x 的系数检验P 值大于，得到x 的系数未通过显着性检验。 由x 2的系数检验P 值小于，得到x 2的系数通过了显着性检验。 （2）指数曲线 ANOVA .5731.57379.538.000 .0365.007 .6096 Regression Residual Total Sum of Squares df Mean Square F Sig. The independent variable is x. Coe fficients .000.000.9708.918.000 4.003.34811.514.000 x (Constant) B Std. E rror Unstandardized Coefficients Beta Standardized Coefficients t Sig. The dependent variable is ln(y). 从上表可以得到回归方程为：0.0002t ? 4.003 y e 由参数检验P值≈0<，得到回归方程的参数都非常显着。 从R2值，σ的估计值和模型检验统计量F值、t值及拟合图综合考虑，指数拟合效果更好一些。 第9章 非线性回归 9.1 在非线性回归线性化时，对因变量作变换应注意什么问题？ 答：在对非线性回归模型线性化时，对因变量作变换时不仅要注意回归函数的形式， 还要注意误差项的形式。如： (1) 乘性误差项，模型形式为 e y AK L αβε =， (2) 加性误差项，模型形式为 y AK L αβε=+。 对乘法误差项模型（1）可通过两边取对数转化成线性模型，（2）不能线性化。 一般总是假定非线性模型误差项的形式就是能够使回归模型线性化的形式，为了方便通常省去误差项，仅考虑回归函数的形式。 9.2为了研究生产率与废料率之间的关系，记录了如表9.14所示的数据，请画出散点图，根据散点图的趋势拟合适当的回归模型。 表9.14 生产率x （单位/周） 1000 2000 3000 3500 4000 4500 5000 废品率y （%） 5.2 6.5 6.8 8.1 10.2 10.3 13.0 解：先画出散点图如下图： 5000.00 4000.003000.002000.001000.00x 12.00 10.00 8.006.00 y 从散点图大致可以判断出x 和y 之间呈抛物线或指数曲线，由此 采用二次方程式和指数函数进行曲线回归。 （1）二次曲线 SPSS 输出结果如下： 从上表可以得到回归方程为：72? 5.8430.087 4.4710y x x -=-+? 由x 的系数检验P 值大于0.05，得到x 的系数未通过显著性检验。 由x 2的系数检验P 值小于0.05，得到x 2的系数通过了显著性检验。 （2）指数曲线 ANOVA .5731.57379.538 .000 .0365.007 .609 6 Regression Residual Total Sum of Squares df Mean Square F Sig.The independent variable is x. Coe fficients .000.000.970 8.918.0004.003.348 11.514.000 x (Constant) B Std. E rror Unstandardized Coefficients Beta Standardized Coefficients t Sig.The dependent variable is ln(y). 从上表可以得到回归方程为：0.0002t ? 4.003y e 由参数检验P 值≈0<0.05，得到回归方程的参数都非常显著。 从R 2值，σ的估计值和模型检验统计量F 值、t 值及拟合图综合考虑，指数拟合效果更好一些。 第二章 一元线性回归 2.14 解答：（1）散点图为： （2）x 与y 之间大致呈线性关系。 （3）设回归方程为01y x ββ∧ ∧ ∧ =+ 1β∧ = 1 2 2 1 7()n i i i n i i x y n x y x n x -- =- =-=-∑∑ 0120731y x ββ-∧- =-=-?=- 17y x ∧ ∴=-+可得回归方程为 （4）22 n i=1 1()n-2i i y y σ∧∧=-∑ 2 n 01i=1 1(())n-2i y x ββ∧∧=-+∑ =222 22 13???+?+???+?+??? （ 10-（-1+71））（10-（-1+72））（20-（-1+73））（20-（-1+74））（40-（-1+75）） []1 169049363 110/3 = ++++= 6.1σ∧=≈ （5）由于 2 11 (,) xx N L σββ ∧ : t σ ∧ == 服从自由度为n-2的t分布。因而 /2 |(2)1 P t n α α σ ?? ?? <-=- ?? ?? 也即： 1/211/2 (p t t αα βββ ∧∧ ∧∧ -<<+=1α - 可得 1 95% β∧的置信度为的置信区间为（7-2.3537+2.353即为：（2.49，11.5） 2 2 00 1() (,()) xx x N n L ββσ - ∧ + : t ∧∧ == 服从自由度为n-2的t分布。因而 /2 (2)1 P t n α α ∧ ?? ?? ?? <-=- ?? ?? ?? ?? ?? 即 0/200/2 ()1 pβσββσα ∧∧∧∧ -<<+=- 可得 1 95%7.77,5.77 β∧- 的置信度为的置信区间为（） （6）x与y的决定系数 2 21 2 1 () 490/6000.817 () n i i n i i y y r y y ∧- = - = - ==≈ - ∑ ∑ 2.1 一元线性回归模型有哪些基本假定？ 答:1. 解释变量 1x , ,2x ,p x 是非随机变量，观测值,1i x ,,2 i x ip x 是常数。 2. 等方差及不相关的假定条件为 ? ? ? ? ? ? ??????≠=====j i n j i j i n i E j i i ,0),,2,1,(,),cov(,,2,1, 0)(2 σεεε 这个条件称为高斯-马尔柯夫（Ｇa ｕss-Ｍark ｏｖ)条件,简称G-Ｍ条件。在此条件下,便可以得到关于回归系数的最小二乘估计及误差项方差2σ估计的一些重要性质，如回归系数的最小二乘估计是回归系数的最小方差线性无偏估计 等。 3. 正态分布的假定条件为 ???=相互独立 n i n i N εεεσε,,,,,2,1),,0(~212 在此条件下便可得到关于回归系数的最小二乘估计及2σ估计的进一步结果，如它们分别是回归系数的最及2σ的最小方差无偏估计等,并且可以作回归的显著性检验及区间估计。 4. 通常为了便于数学上的处理,还要求,p n >及样本容量的个数要多于解释变量的个数。 在整个回归分析中,线性回归的统计模型最为重要。一方面是因为线性回归的应用最广泛；另一方面是只有在回归模型为线性的假设下,才能的到比较深入和一般的结果；再就是有许多非线性的回归模型可以通过适当的转化变为线性回归问题进行处理。因此,线性回归模型的理论和应用是本书研究的重点。 1． 如何根据样本),,2,1)(;,,,(21n i y x x x i ip i i =求出p ββββ,,,,210 及方差2σ的估计； 2. 对回归方程及回归系数的种种假设进行检验; ３. 如何根据回归方程进行预测和控制，以及如何进行实际问题的结构分析。 2．2 考虑过原点的线性回归模型 n i x y i i i ,,2,1,1 =+=εβ误差n εεε,,,21 仍满足基本假定。求1β的最小二 乘估计。 答：∑∑==-=-=n i n i i i i x y y E y Q 1 1 2112 1)())(()(ββ 第二章 一元线性回归分析 思考与练习参考答案 一元线性回归有哪些基本假定? 答： 假设1、解释变量X 是确定性变量，Y 是随机变量； 假设2、随机误差项ε具有零均值、同方差和不序列相关性： E(εi )=0 i=1,2, …,n Var (εi )=?2 i=1,2, …,n Cov(εi, εj )=0 i≠j i,j= 1,2, …,n 假设3、随机误差项ε与解释变量X 之间不相关： Cov(X i , εi )=0 i=1,2, …,n 假设4、ε服从零均值、同方差、零协方差的正态分布 εi ~N(0, ?2 ) i=1,2, …,n 考虑过原点的线性回归模型 Y i =β1X i +εi i=1,2, …,n 误差εi （i=1,2, …,n ）仍满足基本假定。求 β1的最小二乘估计 解： 得： 证明（式），?e i =0 ，?e i X i =0 。 证明：∑∑+-=-=n i i i n i X Y Y Y Q 1 2102 1 ))??(()?(ββ 其中： 即： ?e i =0 ，?e i X i =0 211 1 2)?()?(i n i i n i i i e X Y Y Y Q β∑∑==-=-=0)?(2?11 1 =--=??∑=i i n i i e X X Y Q ββ) () (?1 2 1 1 ∑∑===n i i n i i i X Y X β01????i i i i i Y X e Y Y ββ=+=-0 1 00??Q Q β β ??==?? 回归方程E （Y ）=β0+β1X 的参数β0，β1的最小二乘估计与最大似然估计在什么条件下等价?给出证明。 答：由于εi ~N(0, ?2 ) i=1,2, …,n 所以Y i =β0 + β1X i + εi ~N （β0+β1X i , ?2 ) 最大似然函数： 使得Ln （L ）最大的0 ?β，1?β就是β0，β1的最大似然估计值。 同时发现使得Ln （L ）最大就是使得下式最小， ∑∑+-=-=n i i i n i X Y Y Y Q 1 21021 ))??(()?(ββ 上式恰好就是最小二乘估计的目标函数相同。值得注意的是：最大似然估计是在εi ~N (0, ?2 )的假设下求得，最小二乘估计则不要求分布假设。 所以在εi ~N(0, ?2 ) 的条件下， 参数β0，β1的最小二乘估计与最大似然估计等价。 证明0 ?β是β0的无偏估计。 证明：)1[)?()?(1 110∑∑==--=-=n i i xx i n i i Y L X X X Y n E X Y E E ββ )] )(1 ([])1([1011i i xx i n i i xx i n i X L X X X n E Y L X X X n E εββ++--=--=∑∑== 1010)()1 (])1([βεβεβ=--+=--+=∑∑==i xx i n i i xx i n i E L X X X n L X X X n E 证明 证明： )] ()1([])1([)?(102110i i xx i n i i xx i n i X Var L X X X n Y L X X X n Var Var εβββ++--=--=∑∑== () ) 1()1()?(2 2 2 1 2 2 xx n i i L X n X X X n Var +=-+=∑=σσβ回归分析测试题-21页文档资料
应用回归分析_第6章课后习题答案 2
应用回归分析,第7章课后习题参考答案
应用回归分析填空题和答案
回归分析练习题(有答案)
应用回归分析填空题和答案
应用回归分析试卷
应用回归分析,第4章课后习题参考答案
应用回归分析试题套
应用回归分析考查题目
应用回归分析试题二
《应用回归分析》课后题标准答案
应用回归分析,第3章课后习题参考答案
应用回归分析部分答案
最新应用回归分析部分答案资料
应用回归分析课后习题部分答案_何晓群版
应用回归分析-第2章课后习题参考答案
应用回归分析 课后习题参考答案
相关主题
文本预览