一元线性回归的最小二乘估计

8.2.1一元线性回归模型1.生活经验告诉我们,儿子的身高与父亲的身高相关.一般来说,父亲的身高较高时，儿子的身高通常也较高.为了进一步研究两者之间的关系，有人调查了14名男大学生的身高及其父亲的身高，得到的数据如表1所示.编号1234567891011121314父亲身高/cm 174 170 173 169 182 172 180 172 168 166 182 173 164 180 儿子身高/cm 176 176 170 170 185 176 178 174 170 168 178 172 165 182从图上看，散点大致分布在一条直线附近根据我们学过的整理数据的方法:相关系数r =0.886．父亲身高/cm180 175 170 165 160160 165 170 175180 185 190 ·· ·· · · · 儿子身高/cm· · · · ·185 1).问题1:可以得到什么结论？由散点图的分布趋势表明儿子的身高与父亲的身高线性相关，通过相关系数可知儿子的身高与父亲的身高正线性相关，且相关程度较高．2).问题2:是否可以用函数模型来刻画？不能，因为不符合函数的定义.这其中还受其它因素的影响.3).问题3:那么影响儿子身高的其他因素是什么？影响儿子身高的因素除父亲的身外,还有母亲的身高、生活的环境、饮食习惯、营养水平、体育锻炼等随机的因素，儿子身高是父亲身高的函数的原因是存在这些随机的因素.4).问题4: 你能否考虑到这些随机因素的作用，用类似于函数的表达式,表示儿子身高与父亲身高的关系吗?用x表示父亲身高，Y表示儿子的身高,用e表示各种其它随机因素影响之和，称e为随机误差, 由于儿子身高与父亲身高线性相关，所以Y=bx+a.考虑随机误差后，儿子的身高可以表示为：Y=bx+a+e由于随机误差表示大量已知和未知的各种影响之和，它们会相互抵消，为使问题简洁，可假设随机误差e的均值为0，方差为与父亲身高无关的定值 . 2σ2即E e D eσ:()0,().==我们称①式为Y 关于x 的一元线性回归模型，其中，Y 称为因变量或响应变量，x 称为自变量或解释变量 . a 称为截距参数，b 称为斜率参数；e 是Y 与bx+a 之间的随机误差．2,()0,().Y bx a e E e D e σ=++⎧⎨==⎩① 2、一元线性回归模型如果用x 表示父亲身高，Y 表示儿子的身高,e 表示随机误差.假定随机误差e 的均值为0，方差为与父亲身高无关的定值 ，则它们之间的关系可以表示为2σ4.问题5:你能结合具体实例解释产生模型①中随机误差项的原因吗?产生随机误差e的原因有：(1)除父亲身高外，其他可能影响儿子身高的因素,比如母亲身高、生活环境、饮食习惯和锻炼时间等.(2)在测量儿子身高时，由于测量工具、测量精度所产生的测量误差.(3)实际问题中,我们不知道儿子身高和父亲身高的相关关系是什么，可以利用一元线性回归模型来近似这种关系,这种近似关系也是产生随机误差e的原因.8.2.2一元线性回归模型参数的最小二乘法估计二、自主探究问题1.为了研究两个变量之间的相关关系， 我们建立了一元线性回归模型表达式 刻画的是变量Y 与变量x 之间的线性相关关系，其中参数a 和b 未知，我们如何通过样本数据估计参数a 和b?2,()0,().Y bx a e E e D e σ=++⎧⎨==⎩问题2.我们怎样寻找一条“最好”的直线，使得表示成对样本数据的这些散点在整体上与这条直线最“接近”？从成对样本数据出发，用数学的方法刻画“从整体上看，各散点与蓝色直线最接近”利用点到直线y=bx+a 的“距离”来刻画散点与该直线的接近程度，然后用所有“距离”之和刻画所有样本观测数据与该直线的接近程度.父亲身高/cm180 175 170 165 160160 165 170 175180 185 190 ·· ·· · · · 儿子身高/cm· · · · ·185 父亲身高/cm180 175 170 165 160160 165 170 175 180 185 190·· ·· · · · 儿子身高/cm· · · · ·185设满足一元线性回归模型的两个变量的n 对样本数据为(x 1,y 1)，(x 2，y 2），…，(x n ，y n )父亲身高/cm180 175170165 160160165 170 175 180 185 190·· · · · · · 儿子身高/cm· ·· · · 185()()(1,2,3,,-).i i i i i i i i i i i y bx a e i n y bx a e e x y x bx a =++=⋅⋅⋅+=+由），得(显然越小，表示点，与点，的距离越小，()0,.i i i x y =即样本数据点离直线y=bx+a 的竖直距离越小，如上图特别地，当e 时，表示点在这条直线上1-)ni i i y bx a =+∑因此可用(来刻画各样本观测数据与直线y=bx+a 的整体接近程度.()iix y ，y=bx+a()i i x bx a +，·[]21(,)()ni i i Q a b y bx a ==-+∑残差平方和： 即求a ，b 的值，使Q ( a ，b )最小残差：实际值与估计值之间的差值，即 使Q 取得最小值，当且仅当b 的取值为121()()()nii i nii xx y y b xx ==--=-∑∑b.,ˆ,ˆ的最小二乘估计叫做求得a b a b(,).x y 经验回顾直线必经过的符号相同与相关系数r b ˆ最小二乘法我们将 称为Y 关于x 的经验回归方程，也称经验回归函数或经验回归公式，其图形称为经验回归直线，这种求经验回归方程的方法叫最小二乘法．ˆˆˆy bxa =+12111=i ni n22i ni n x x y y ˆb ,x x ˆˆa x y x y x xy b .i i i i i i ΣΣx )n ΣΣ(()()n ====⎧--⎪=⎪⎨-⎪⎪--=⎩-问题2:依据用最小二乘估计一元线性回归模型参数的公式,求出儿子身高Y 关于父亲身高x 的经验回归方程.儿子的身高不一定会是177cm ，这是因为还有其他影响儿子身高的因素，回归模型中的随机误差清楚地表达了这种影响,父亲的身高不能完全决定儿子的身高，不过，我们可以作出推测，当父亲的身高为176cm 时，儿子身高一般在177cm 左右.当x=176时， ,如果一位父亲身高为176cm,他儿子长大后身高一定能长到177cm 吗？为什么？177y ≈083928957ˆy .x .=+的意义？∧b残差的定义,e a bx Y ++=一元线性回归模型,,Y y 对于通过观测得响应到的数据称量为变观测值ˆ,y通过经验回归方程得到称为预报值的ˆ.ˆey y =-残观测值减去预报值称为即差判断模型拟合的效果:残差分析问题3:儿子身高与父亲身高的关系，运用残差分析所得的一元线性回归模型的有效性吗？残差图:作图时纵坐标为残差,横坐标可以选为样本编号,或身高数据或体重估计值等，这样作出的图形称为残差图．从上面的残差图可以看出，残差有正有负，残差点比较均匀地分布在横轴的两边，可以判断样本数据基本满足一元线性回归模型对于随机误差的假设.所以，通过观察残差图可以直观判断样本数据是否满足一元线性回归模型的假设，从而判断回归模型拟合的有效性.所以，只有图(4）满足一元线性回归模型对随机误差的假设图(1)显示残差与观测时间有线性关系,应将时间变量纳入模型； 图(2)显示残差与观测时间有非线性关系,应在模型中加入时间的非线性函数部分; 图(3)说明残差的方差不是一个常数，随观测时间变大而变大图(4)的残差比较均匀地集中在以横轴为对称轴的水平带状区域内.根据一元线性回归模型中对随机误差的假定，残差应是均值为0，方差为 的随机变量的观测值.2σ观察以下四幅残差图，你认为哪一个残差满足一元线性回归模型中对随机误差的假定？1.残差等于观测值减预测值2.残差的平方和越小越好；3.原始数据中的可疑数据往往是残差绝对值过大的数据；4. 对数据刻画效果比较好的残差图特征:残差点比较均匀的集中在水平带状区域内．归纳小结（残差图中带状越窄，精度越高）1.关于残差图的描述错误的是( )A.残差图的横坐标可以是样本编号B.残差图的横坐标也可以是解释变量或预报变量C.残差点分布的带状区域的宽度越窄相关指数越小D.残差点分布的带状区域的宽度越窄残差平方和越小C 三、巩固提升2.根据如下样本数据:得到的经验回归方程为 ,则( ) A. >0, >0B. >0, <0C. <0, >0D. <0, <0 x 2 3 4 5 6 Y42.5-0.5-2-3a $a $a $a$$b $b$b$b $$ybx a =+$ B3.某种产品的广告支出费用x(单位:万元)与销售额Y(单位:万元)的数据如表:已知Y 关于x 的经验回归方程为 =6.5x+17.5,则当广告支 出费用为5万元时,残差为________. x 2 4 5 6 8Y 30 40 60 50 70$y当x=5时, =6.5×5+17.5=50,表格中对应y=60,于是残差为60-50=10.$y10一元线性回归模型的应用例1.经验表明,对于同一树种,一般树的胸径(树的主干在地面以上1.3m处的直径)越大,树就越高.由于测量树高比测量胸径困难，因此研究人员希望由胸径预测树高.在研究树高与胸径之间的关系时,某林场收集了某种树的一些数据如下表所示,试根据这些数据建立树高关于胸径的经验回归方程.编号 1 2 3 4 5 6胸径/cm 18.1 20.1 22.2 24.4 26.0 28.3树高/m 18.8 19.2 21.0 21.0 22.1 22.1编号7 8 9 10 11 12胸径/cm 29.6 32.4 33.7 35.7 38.3 40.2树高/m 22.4 22.6 23.0 24.3 23.9 24.7dh· · ·· · · · · · · · · 解: 以胸径为横坐标,树高为纵坐标作散点图如下：散点大致分布在一条从左下角到右上角的直线附近，表明两个变量线性相关，并且是正相关，因此可以用一元线性回归模型刻画树高与胸径之间的关系.0.249314.84h d =+··· ·· · · · · · · · 用d 表示胸径,h 表示树高,根据据最小二乘法,计算可得经验回归方程为0.249314.84h d =+根据经验回归方程，由胸径的数据可以计算出树高的预测值(精确到0.1)以及相应的残差，如下表所示.编号胸径/cm 树高观测值/m 树高预测值/m 残差/m1 18.1 18.8 19.4 -0.62 20.1 19.2 19.9 -0.73 22.2 21.0 20.4 0.64 24.4 21.0 20.9 0.15 26.0 22.1 21.3 0.86 28.3 22.1 21.9 0.27 29.6 22.4 22.2 0.28 32.4 22.6 22.9 -0.39 33.7 23.0 23.2 -0.210 35.7 24.3 23.7 0.611 38.3 23.9 24.4 -0.512 40.2 24.7 24.9 -0.2以胸径为横坐标，残差为纵坐标，作残差图，得到下图.30252015-1.0-0.5 0.0 0.5 1.0· · · · · · · 残差/m· · · ·· 354045胸径/cm观察残差表和残差图，可以看到残差的绝对值最大是0.8，所有残差分布在以横轴为对称轴、宽度小于2的带状区域内 .可见经验回归方程较好地刻画了树高与胸径的关系，我们可以根据经验回归方程由胸径预测树高.编号1 2 3 4 5 6 7 8 年份 1896 1912 1921 1930 1936 1956 1960 1968 记录/s 11.8010.6010.4010.3010.2010.1010.009.95例2.人们常将男子短跑100m 的高水平运动员称为“百米飞人”.下表给出了1968年之前男子短跑100m 世界纪录产生的年份和世界纪录的数据.试依据这些成对数据，建立男子短跑100m 世界纪录关于纪录产生年份的经验回归方程以成对数据中的世界纪录产生年份为横坐标,世界纪录为纵坐标作散点图,得到下图在左图中，散点看上去大致分布在一条直线附近，似乎可用一元线性回归模型建立经验回归方程.将经验回归直线叠加到散点图，得到下图：76913031.4902033743.0ˆ1+-=t y用Y 表示男子短跑100m 的世界纪录,t 表示纪录产生的年份 ,利用一元线性回归模型来刻画世界纪录和世界纪录产生年份之间的关系 . 根据最小二乘法,由表中的数据得到经验回归方程为：从图中可以看到，经验回归方程较好地刻画了散点的变化趋势，请再仔细观察图形，你能看出其中存在的问题吗?你能对模型进行修改,以使其更好地反映散点的分布特征吗？仔细观察右图，可以发现散点更趋向于落在中间下凸且递减的某条曲线附近.回顾已有的函数知识，可以发现函数y=-lnx的图象具有类似的形状特征注意到100m短跑的第一个世界纪录产生于1896年, 因此可以认为散点是集中在曲线y=f(t)=c1+c2ln(t-1895)的周围，其中c1、c2为未知参数，且c2<0.y=f(t)=c1+c2ln(t-1895)这是一个非线性经验回归函数，如何利用成对数据估计参数c1、c2令x=ln(t-1895)，则Y=c2x+c1对数据进行变化可得下表：编号 1 2 3 4 5 6 7 8 年份/t 1896 1912 1921 1930 1936 1956 1960 1968 x 0.00 2.83 3.26 3.56 3.71 4.11 4.17 4.29 记录/s 11.80 10.60 10.40 10.30 10.20 10.10 10.00 9.95将x=ln(t-1895)代入：得 8012653.114264398.0ˆ2+-=x y上图表明,经验回归方程对于成对数据具有非常好的拟合精度.将经验回归直线叠加到散点图，得到下图： 8012653.114264398.0ˆ2+-=x y8012653.11)1895ln(4264398.0ˆ2+--=t y经验回归方程为对于通过创纪录时间预报世界纪录的问题，我们建立了两个回归模型，得到了两个回归方程，你能判断哪个回归方程拟合的精度更好吗？8012653.114264398.0ˆ2+-=x y① 2ˆ0.4264398ln(1895)11.8012653y t =--+② 我们发现，散点图中各散点都非常靠近②的图象， 表明非线性经验回归方程②对于原始数据的拟合效果远远好于经验回归方程①.(1).直接观察法.在同一坐标系中画出成对数据散点图、非线性经验回归方程②的图象(蓝色)以及经验回归方程①的图象(红色).28212811ˆ,ˆQ Q (()0.004)0.669i i i i eu ===≈=≈∑∑8012653.114264398.0ˆ2+-=x y① 2ˆ0.4264398ln(1895)11.8012653yt =--+②（2).残差分析:残差平方和越小,模型拟合效果越好.Q 2明显小于Q 1，说明非线性回归方程的拟合效果 要优于线性回归方程.R 2越大，表示残差平方和越小，即模型的拟合效果越好 R 2越小，表示残差平方和越大，即模型的拟合效果越差. 21212ˆ()11()n i i nii i y y y y R ==-=-=--∑∑残差平方和。

最小二乘估计原理最小二乘估计是一种常用的参数估计方法，它可以用来估计线性回归模型中的参数。

在实际应用中，最小二乘估计被广泛应用于数据拟合、信号处理、统计分析等领域。

本文将介绍最小二乘估计的原理及其应用。

最小二乘估计的原理是基于最小化观测值与模型预测值之间的误差平方和来进行参数估计。

在线性回归模型中，我们通常假设因变量Y与自变量X之间存在线性关系，即Y = β0 + β1X + ε，其中β0和β1是待估参数，ε是误差项。

最小二乘估计的目标是找到最优的β0和β1，使得观测值与模型预测值之间的误差平方和最小。

为了形式化地描述最小二乘估计的原理，我们可以定义损失函数为误差的平方和，即L(β0, β1) = Σ(Yi β0 β1Xi)²。

最小二乘估计的思想就是通过最小化损失函数来求解最优的参数估计值。

为了找到最小化损失函数的参数估计值，我们可以对损失函数分别对β0和β1求偏导数，并令偏导数等于0，从而得到最优的参数估计值。

在实际应用中，最小二乘估计可以通过求解正规方程来得到参数的闭式解，也可以通过梯度下降等迭代方法来进行数值优化。

无论采用何种方法，最小二乘估计都能够有效地估计出线性回归模型的参数，并且具有较好的数学性质和统计性质。

除了在线性回归模型中的应用，最小二乘估计还可以推广到非线性回归模型、广义线性模型等更加复杂的模型中。

在这些情况下，最小二乘估计仍然是一种有效的参数估计方法，并且可以通过一些变形来适应不同的模型结构和假设条件。

总之，最小二乘估计是一种重要的参数估计方法，它具有简单直观的原理和较好的数学性质，适用于各种统计模型的参数估计。

通过最小化观测值与模型预测值之间的误差平方和，最小二乘估计能够有效地估计出模型的参数，并且在实际应用中取得了广泛的成功。

希望本文对最小二乘估计的原理有所帮助，谢谢阅读！。

线性回归与最小二乘法线性回归是一种常用的统计分析方法，也是机器学习领域的基础之一。

在线性回归中，我们通过寻找最佳拟合直线来对数据进行建模和预测。

最小二乘法是线性回归的主要方法之一，用于确定最佳拟合直线的参数。

1. 线性回归的基本原理线性回归的目标是找到一条最佳拟合直线，使得预测值与实际值之间的误差最小。

我们假设线性回归模型的形式为：Y = β₀ + β₁X₁ +β₂X₂ + … + βₙXₙ + ε，其中Y是因变量，X₁、X₂等是自变量，β₀、β₁、β₂等是回归系数，ε是误差项。

2. 最小二乘法最小二乘法是一种求解线性回归参数的常用方法。

它的基本思想是使所有样本点到拟合直线的距离之和最小化。

具体来说，我们需要最小化残差平方和，即将每个样本点的预测值与实际值之间的差的平方求和。

3. 最小二乘法的求解步骤（1）建立线性回归模型：确定自变量和因变量，并假设它们之间存在线性关系。

（2）计算回归系数：使用最小二乘法求解回归系数的估计值。

（3）计算预测值：利用求得的回归系数，对新的自变量进行预测，得到相应的因变量的预测值。

4. 最小二乘法的优缺点（1）优点：最小二乘法易于理解和实现，计算速度快。

（2）缺点：最小二乘法对异常点敏感，容易受到离群值的影响。

同时，最小二乘法要求自变量与因变量之间存在线性关系。

5. 线性回归与其他方法的比较线性回归是一种简单而强大的方法，但并不适用于所有问题。

在处理非线性关系或复杂问题时，其他方法如多项式回归、岭回归、lasso回归等更适用。

6. 实际应用线性回归及最小二乘法广泛应用于各个领域。

在经济学中，线性回归用于预测GDP增长、消费者支出等经济指标。

在医学领域，线性回归被用于预测疾病风险、药物剂量等。

此外，线性回归还可以应用于电力负荷预测、房价预测等实际问题。

总结：线性回归和最小二乘法是统计学和机器学习中常用的方法。

线性回归通过拟合一条最佳直线，将自变量与因变量之间的线性关系建模。

一元线性回归分析一元线性回归模型参数的最小二乘估计导学案【学习目标】1.了解随机误差、残差、残差图的概念2.会通过分析残差判断线性回归模型的拟合效果3.掌握建立线性回归模型的步骤4.掌握非线性回归转化为线性回归的方法，会求非线性回归方程，并作出预测【自主学习】知识点一 线性回归模型(1)函数关系是一种确定性关系，而相关关系是一种非确定性关系． (2)回归分析是对具有相关关系的两个变量进行统计分析的一种常用方法．(3)对于一组具有线性相关关系的数据(x 1，y 1)，(x 2，y 2)，…，(x n ，y n )，回归直线的斜率和截距的最小二乘估计公式分别为b ^＝∑ni ＝1 （x i －x －）（y i －y －）∑ni ＝1 （x i －x －）2＝∑ni ＝1x i y i －nx － y －∑n i ＝1x 2i －nx －2，a ^＝y －－b ^x －，其中(x －，y －)称为样本点的中心． (4)线性回归模型y ＝bx ＋a ＋e ，其中a 和b 是模型的未知参数，e 称为随机误差，自变量x 称为解释变量，因变量y 称为预报变量．知识点二 残差的概念对于样本点(x 1，y 1)，(x 2，y 2)，…，(x n ，y n )而言，它们的随机误差为e i ＝y i －bx i －a ，i ＝1，2，…，n ，其估计值为e ^i ＝y i －y ^i ＝y i －b ^x i －a ^，i ＝1，2，…，n ，e ^i 称为相应于点(x i ，y i )的残差．知识点三 刻画回归效果的方式 (1)残差图法作图时纵坐标为残差，横坐标可以选为样本编号，或身高数据，或体重估计值等，这样作出的图形称为残差图．在残差图中，残差点比较均匀地落在水平的带状区域中，说明选用的模型比较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高． (2)残差平方和法残差平方和∑ni ＝1 (y i－y ^i )2，残差平方和越小，模型拟合效果越好． (3)利用R 2刻画回归效果R 2＝1－∑ni ＝1 （y i －y ^i ）2∑n i ＝1 （y i －y －）2；R 2表示解释变量对于预报变量变化的贡献率．R 2越接近于1，表示回归的效果越好.【合作探究】探究一 求线性回归方程【例1】某班5名学生的数学和物理成绩如下表：(1)画出散点图；(2)求物理成绩y 对数学成绩x 的回归直线方程； (3)一名学生的数学成绩是96，试预测他的物理成绩． 解 (1)散点图如图．(2)x －＝15×(88＋76＋73＋66＋63)＝73.2，y －＝15×(78＋65＋71＋64＋61)＝67.8. ∑5i ＝1x i y i ＝88×78＋76×65＋73×71＋66×64＋63×61＝25 054.∑5i ＝1x 2i ＝882＋762＋732＋662＋632＝27 174.所以b ^＝∑5i ＝1x i y i－5x － y －∑5i ＝1x 2i －5x －2＝25 054－5×73.2×67.827 174－5×73.22≈0.625.a ^＝y －－b ^x －≈67.8－0.625×73.2＝22.05.所以y 对x 的回归直线方程是y ^＝0.625x ＋22.05. (3)x ＝96，则y ^＝0.625×96＋22.05≈82， 即可以预测他的物理成绩是82.归纳总结：(1)散点图是定义在具有相关关系的两个变量基础上的，对于性质不明确的两组数据，可先作散点图，在图上看它们有无关系，关系的密切程度，然后再进行相关回归分析．(2)求回归直线方程，首先应注意到，只有在散点图大致呈线性时，求出的回归直线方程才有实际意义，否则，求出的回归直线方程毫无意义．【练习1】以下是某地搜集到的新房屋的销售价格y 和房屋的面积x 的数据：(1)画出数据对应的散点图；(2)求线性回归方程，并在散点图中加上回归直线； (3)据(2)的结果估计当房屋面积为150 m 2时的销售价格． 解 (1)数据对应的散点图如下图所示：(2)x －＝15∑5i ＝1x i ＝109，∑5i ＝1 (x i －x －)2＝1 570，y －＝23.2，∑5i ＝1 (x i －x －)(y i －y －)＝308. 设所求回归直线方程为y ^＝b ^x ＋a ^，则b ^＝∑5i ＝1 （x i －x －）（y i －y －）∑5i ＝1 （x i －x －）2＝3081 570≈0.196 2， a ^＝y －－b ^x －＝0.181 42.故所求回归直线方程为y ^＝0.196 2x ＋1.814 2. 回归直线如上图所示．(3)据(2)，当x ＝150 m 2时，销售价格的估计值为 y ^＝0.196 2×150＋1.814 2＝31.244 2(万元)．探究二 线性回归分析【例2】为研究重量x (单位：克)对弹簧长度y (单位：厘米)的影响，对不同重量的6个物体进行测量，数据如下表所示：(1)作出散点图并求线性回归方程； (2)求出R 2； (3)进行残差分析． 解 (1)散点图如图x －＝16(5＋10＋15＋20＋25＋30)＝17.5， y －＝16(7.25＋8.12＋8.95＋9.90＋10.9＋11.8)≈9.487， ∑6i ＝1x 2i ＝2 275，∑6i ＝1x i y i ＝1 076.2 计算得，b ^≈0.183，a ^≈6.285， 所求回归直线方程为y ^＝0.183x ＋6.285. (2)列表如下：所以∑6i ＝1 (y i－y ^i )2≈0.013 18，∑i ＝1 (y i －y －)2＝14.678 4. 所以，R 2＝1－0.013 1814.678 4≈0.999 1，回归模型的拟合效果较好．(3)由残差表中的数值可以看出第3个样本点的残差比较大，需要确认在采集这个数据的时候是否有人为的错误，如果有的话，需要纠正数据，重新建立回归模型；由表中数据可以看出残差点比较均匀地落在不超过0.15的狭窄的水平带状区域中，说明选用的线性回归模型的精度较高，由以上分析可知，弹簧长度与拉力成线性关系．归纳总结：在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线性相关，是否可以用线性回归模型来拟合数据．然后，通过残差e ^1，e ^2，…，e ^n 来判断模型拟合的效果，判断原始数据中是否存在可疑数据．若残差点比较均匀地分布在水平带状区域内，带状区域越窄，说明模型拟合精度越高，回归方程预报精度越高．【练习2】已知某种商品的价格x (元)与需求量y (件)之间的关系有如下一组数据：求y 对x 的回归直线方程，并说明回归模型拟合效果的好坏． 解 x －＝15(14＋16＋18＋20＋22)＝18，y －＝15(12＋10＋7＋5＋3)＝7.4， ∑5i ＝1x 2i ＝142＋162＋182＋202＋222＝1 660，∑5i ＝1x i y i ＝14×12＋16×10＋18×7＋20×5＋22×3＝620，所以b ^＝∑5i ＝1x i y i－5x － y －∑5i ＝1x 2i －5x －2＝620－5×18×7.41 660－5×182＝－1.15. a ^＝7.4＋1.15×18＝28.1，所以所求回归直线方程是y ^＝－1.15x ＋28.1. 列出残差表：所以，∑5i ＝1 (y i－y ^i )2＝0.3，∑i ＝1(y i －y －)2＝53.2，R 2＝1－∑5i ＝1（y i －y ^i ）2∑5i ＝1 （y i －y －）2≈0.994， 所以回归模型的拟合效果很好．探究三 非线性回归分析【例3】下表为收集到的一组数据：(1)作出x 与y 的散点图，并猜测x 与y 之间的关系； (2)建立x 与y 的关系，预报回归模型并计算残差； (3)利用所得模型，预报x ＝40时y 的值．解 (1)作出散点图如下图，从散点图可以看出x 与y 不具有线性相关关系，根据已有知识可以发现样本点分布在某一条指数函数曲线y ＝c 1e c 2x 的周围，其中c 1，c 2为待定的参数．(2)对两边取对数把指数关系变为线性关系，令z ＝ln y ，则有变换后的样本点应分布在直线z ＝bx ＋a (a ＝ln c 1，b ＝c 2)的周围，这样就可以利用线性回归模型来建立y 与x 之间的非线性回归方程了，数据可以转化为求得回归直线方程为z ^＝0.272x －3.849，∴y ^＝e 0.272x －3.849. 残差(3)当x ＝40时，y ＝e 0.272x －3.849≈1 131.归纳总结：解决非线性回归问题的方法及步骤 (1)确定变量：确定解释变量为x ，预报变量为y ；(2)画散点图：通过观察散点图并与学过的函数(幂、指数、对数函数、二次函数)作比较，选取拟合效果好的函数模型；(3)变量置换：通过变量置换把非线性回归问题转化为线性回归问题； (4)分析拟合效果：通过计算相关指数等来判断拟合效果； (5)写出非线性回归方程【练习3】为了研究某种细菌随时间x 变化时，繁殖个数y 的变化，收集数据如下：(1)用天数x 作解释变量，繁殖个数y 作预报变量，作出这些数据的散点图； (2)描述解释变量x 与预报变量y 之间的关系； (3)计算相关指数．解 (1)作散点图如图所示．(2)由散点图看出样本点分布在一条指数函数y ＝c 1e c 2x 的周围，于是令z ＝ln y ，则有变换后的样本点应分布在直线z ＝bx ＋a (a ＝ln c 1，b ＝c 2)的周围，这样就可以利用线性回归模型来建立y 与x 之间的非线性回归方程了，数据可以转化为由计算器得：z ^＝0.69x ＋1.115，则有y ^＝e 0.69x ＋1.115. (3)y －＝3776，∑n i ＝1e ^21＝∑ni ＝1 (y i－y ^)2＝4.816 1， ∑ni ＝1 (y i－y －)2＝24 642.8，R 2＝1－4.816 124 642.8≈0.999 8， 即解释变量天数对预报变量繁殖细菌个数解释了99.98%.课后作业A 组 基础题一、选择题1．在下列各量之间，存在相关关系的是( )①正方体的体积与棱长之间的关系；②一块农田的水稻产量与施肥量之间的关系；③人的身高与年龄之间的关系；④家庭的支出与收入之间的关系；⑤某户家庭用电量与电价之间的关系． A ．②③ B ．③④ C ．④⑤ D ．②③④ 【答案】 D2．若劳动生产率x (千元)与月工资y (元)之间的线性回归方程为y ^＝50＋80x ，则下列判断正确的是( ) A ．劳动生产率为1 000元时，月工资为130元 B ．劳动生产率提高1 000元时，月工资平均提高80元 C ．劳动生产率提高1 000元时，月工资平均提高130元 D ．月工资为210元时，劳动生产率为2 000元 【答案】 B3．某商品销售量y (件)与销售价格x (元/件)负相关，则其回归方程可能是( ) A.y ^＝－10x ＋200 B.y ^＝10x ＋200 C.y ^＝－10x －200 D.y ^＝10x －200 【答案】 A解析 由于销售量y 与销售价格x 成负相关，故排除B 、D.又当x ＝10时，A 中y ＝100，而C 中y ＝－300，C 不符合题意，故选A.4．设某大学的女生体重y (单位：kg)与身高x (单位：cm)有线性相关关系，根据一组样本数据(x i ，y i )(i ＝1，2，…，n )，用最小二乘法建立的回归方程为y ^＝0.85x －85.71，下列结论中不正确的是( ) A ．y 与x 具有正的线性相关关系B ．回归直线过样本点的中心(x －，y －)C ．若该大学某女生身高增加1 cm ，则其体重约增加0.85 kgD ．若该大学某女生身高为170 cm ，则可断定其体重必为58.79 kg 【答案】 D解析 由回归方程为y ^＝0.85x －85.71知y 随x 的增大而增大，所以y 与x 具有正的线性相关关系；由最小二乘法建立回归方程的过程知y ^＝b ^x ＋a ^＝b ^x ＋y －－b ^x －(a ^＝y －－b ^x －)，所以回归直线过样本点的中心(x －，y －)；利用回归方程可以估计总体，所以D 不正确．5．某产品的广告费用x 与销售额y 的统计数据如下表：根据上表可得回归方程y ^＝b ^x ＋a ^中的b ^为9.4，据此模型预报广告费用为6万元时销售额为( ) A ．63.6万元 B ．65.5万元 C ．67.7万元 D ．72.0万元 【答案】 B解析 ∵x －＝4＋2＋3＋54＝72，y －＝49＋26＋39＋544＝42，又y ^＝b ^x ＋a ^必过(x －，y －)，∴42＝72×9.4＋a ^，∴a ^＝9.1.∴线性回归方程为y ^＝9.4x ＋9.1.∴当x ＝6(万元)时，y ^＝9.4×6＋9.1＝65.5(万元)．6．甲、乙、丙、丁四位同学各自对A ，B 两变量做回归分析，分别得到散点图与残差平方和∑ni ＝1 (y i －y ^i )2如下表哪位同学的实验结果体现拟合A ，B 两变量关系的模型拟合精度高？( ) A ．甲 B ．乙 C ．丙 D ．丁 【答案】 D 二、填空题7．如果散点图的所有点都在一条直线上，则残差均为________，残差平方和为________，相关指数为________． 【答案】 0 0 18．对具有线性相关关系的变量x 和y ，由测得的一组数据求得回归直线的斜率为6.5，且恒过(2，3)点，则这条回归直线的方程为________． 【答案】 y ^＝－10＋6.5x解析 由题意知x －＝2，y －＝3，b ^＝6.5，所以a ^＝y －－b ^x －＝3－6.5×2＝－10，即回归直线的方程为y ^＝－10＋6.5x . 三、解答题9．某电脑公司有6名产品推销员，其工作年限与年推销金额数据如下表：(1)求年推销金额y 关于工作年限x 的线性回归方程；(2)若第6名推销员的工作年限为11年，试估计他的年推销金额． 解 (1)设所求的线性回归方程为y ^＝b ^x ＋a ^，则b ^＝∑5i ＝1 （x i －x －）（y i －y －）∑5i ＝1 （x i－x －）2＝1020＝0.5， a ^＝y －－b ^x －＝0.4.所以年推销金额y 关于工作年限x 的线性回归方程为y ^＝0.5x ＋0.4. (2)当x ＝11时，y ^＝0.5x ＋0.4＝0.5×11＋0.4＝5.9(万元)． 所以可以估计第6名推销员的年推销金额为5.9万元．10．某个服装店经营某种服装，在某周内纯获利y (元)与该周每天销售这种服装件数x 之间的一组数据如下表：(1)求样本中心点； (2)画出散点图；(3)求纯获利y 与每天销售件数x 之间的回归方程．解 (1)x －＝6，y －＝79.86，中心点(6，79.86)． (2)散点图如下：(3)因为b ^＝∑7i ＝1（x i －x －）（y i －y －）∑7i ＝1 （x i －x －）2≈4.75， a ^＝y －－b ^x －≈51.36，所以y ^＝4.75x ＋51.36.B 组 能力提升一、选择题1．已知x 与y 之间的几组数据如下表：假设根据上表数据所得线性回归直线方程为y ^＝b ^x ＋a ^.若某同学根据上表中的前两组数据(1，0)和(2，2)求得的直线方程为y ＝b ′x ＋a ′，则以下结论正确的是( ) A.b ^>b ′，a ^>a ′ B.b ^>b ′，a ^<a ′ C.b ^<b ′，a ^>a ′ D.b ^<b ′，a ^<a ′ 【答案】 C解析 x －＝1＋2＋3＋4＋5＋66＝72，y －＝0＋2＋1＋3＋3＋46＝136，b ^＝∑ni ＝1x i y i －nx － y －∑n i ＝1x 2i －nx －2＝57， a ^＝y －－b ^x －＝－13，b ′＝2－02－1＝2＞b ^，a ′＝－2＜a ^.2．下表是x 和y 之间的一组数据，则y 关于x 的回归方程必过( )A.点(2，3) B ．点(1.5，4)C ．点(2.5，4)D ．点(2.5，5) 【答案】 C解析 回归方程必过样本点的中心(x －，y －)，即(2.5，4)． 二、填空题3．如图是x 和y 的一组样本数据的散点图，去掉一组数据________后，剩下的4组数据的相关指数最大．【答案】 D (3，10)解析 去掉D (3，10)这一组数据后，其他4组数据对应的点都集中在某一条直线附近，即两变量的线性相关性最强，此时相关指数最大． 三、解答题4．某地最近十年粮食需求量逐年上升，下表是部分统计数据：(1)利用所给数据求年需求量与年份之间的回归直线方程y ^＝b ^x ＋a ^； (2)利用(1)中所求出的直线方程预测该地2012年的粮食需求量．解 (1)由所给数据看出，年需求量与年份之间是近似直线上升，下面来求回归直线方程，先将数据处理如下：对处理的数据，容易算得x －＝0，y －＝3.2，b ^＝（－4）×（－21）＋（－2）×（－11）＋2×19＋4×29－5×0×3.2（－4）2＋（－2）2＋22＋42－5×02＝26040＝6.5，a ^＝y －－b ^x －＝3.2.由上述计算结果，知所求回归直线方程为y ^－257＝6.5(x －2 006)＋3.2. 即y ^＝6.5(x －2 006)＋260.2.(2)利用所求得的直线方程，可预测2012年的粮食需求量为6.5×(2 012－2 006)＋260.2＝6.5×6＋260.2＝299.2(万吨)．5．某工厂为了对新研发的一种产品进行合理定价，将该产品按事先拟定的价格进行试销，得到如下数据：(1)求回归直线方程y ^＝b ^x ＋a ^，其中b ^＝－20，a ^＝y －－b ^x －；(2)预计在今后的销售中，销量与单价仍然服从(1)中的关系，且该产品的成本是4元/件，为使工厂获得最大利润，该产品的单价应定为多少元？(利润＝销售收入—成本)解 (1)x －＝8＋8.2＋8.4＋8.6＋8.8＋96＝8.5，y －＝16(90＋84＋83＋80＋75＋68)＝80∵b ^＝－20，a ^＝y ^－b ^x －， ∴a ^＝80＋20×8.5＝250∴回归直线方程y ^＝－20x ＋250；(2)设工厂获得的利润为L 元，则L ＝x (－20x ＋250)－4(－20x ＋250)＝－20(x －334)2＋361.25∴该产品的单位应定为334元，工厂获得的利润最大．6．从某居民区随机抽取10个家庭，获得第i 个家庭的月收入x i (单位：千元)与月储蓄y i (单位：千元)的数据资料，算得∑10i ＝1x i ＝80，∑10i ＝1y i ＝20，∑10i ＝1x i y i ＝184，∑10i ＝1x 2i ＝720. (1)求家庭的月储蓄y 对月收入x 的线性回归方程y ^＝b ^x －＋a ^； (2)判断变量x 与y 之间是正相关还是负相关；(3)若该居民区某家庭月收入为7千元，预测该家庭的月储蓄．附：线性回归方程y ^＝b ^x ＋a ^中，b ^＝∑ni ＝1x i y i －nx － y －∑n i ＝1x 2i －nx －2，a ^＝y －－bx －，其中x －，y －为样本平均值． 解 (1)由题意知n ＝10，x －＝1n ∑n i ＝1x i ＝8010＝8，y －＝1n ∑ni ＝1y i＝2010＝2， 又l xx ＝∑ni ＝1x 2i －nx －2＝720－10×82＝80， l xy ＝∑ni ＝1x i y i －nx － y －＝184－10×8×2＝24， 由此得b ^＝l xy l xx ＝2480＝0.3，a ^＝y －－b ^x －＝2－0.3×8＝－0.4，故所求回归方程为y ^＝0.3x －0.4.(2)由于变量y 的值随x 的值增加而增加(b ＝0.3＞0)，故x 与y 之间是正相关． (3)将x ＝7代入回归方程可以预测该家庭的月储蓄为y ^＝0.3×7－0.4＝1.7(千元)．7.某企业新研发了一种产品，产品的成本由原料成本及非原料成本组成．每件产品的非原料成本y (元)与生产该产品的数量x (千件)有关，经统计得到如下数据：观察散点图，两个变量不具有线性相关关系，现考虑用反比例函数模型y ＝a ＋bx 和指数函数模型y ＝c e dx 分别对两个变量的关系进行拟合．已求得用指数函数模型拟合的回归方程为y ^＝96.54e －0.2x ，ln y 与x 的相关系数r 1＝－0.94.参考数据（其中ii x u 1）：(2)用相关系数判断上述两个模型哪一个拟合效果更好(精确到0.01)，并用其估计产量为10千件时每件产品的非原料成本；(3)该企业采取订单生产模式(根据订单数量进行生产，即产品全部售出)．根据市场调研数据，若该产品单价定为100元，则签订9千件订单的概率为0.8，签订10千件订单的概率为0.2；若单价定为90元，则签订10千件订单的概率为0.3，签订11千件订单的概率为0.7.已知每件产品的原料成本为10元，根据(2)的结果，企业要想获得更高利润，产品单价应选择100元还是90元，请说明理由．参考公式：对于一组数据(u 1，υ1)，(u 2，υ2)，…，(u n ，υn )，其回归直线υ＝α＋βu 的斜率和截距的最小二乘估计分别为：β^＝∑ni ＝1u i υi －n u －υ－∑n i ＝1u 2i －n u－2，a ^＝υ－－β^u －，相关系数r ＝∑n i ＝1u i υi －n u －υ－⎝⎛⎭⎫∑n i ＝1u 2i －n u －2⎝⎛⎭⎫∑n i ＝1υ2i －n υ－2[思路点拨] (1)首先可令u ＝1x 并将y ＝a ＋b x转化为y ＝a ＋bu ，然后根据题目所给数据以及线性回归方程的相关公式计算出b ^以及a ^，即可得出结果；(2)计算出反比例函数模型的相关系数r 并通过对比即可得出结果；(3)可分别计算出单价为100元和90元时产品的利润，通过对比即可得出结果．[解] (1)令u ＝1x ，则y ＝a ＋b x 可转化为y ＝a ＋bu ，因为y －＝3608＝45，所以 b ^＝∑8i ＝1u i y i －8u －y －∑8i ＝1u 2i －8u －2＝183.4－8×0.34×451.53－8×0.115＝610.61＝100， 则a ^＝y －－b ^u －＝45－100×0.34＝11，所以y ^＝11＋100u ，所以y 关于x 的回归方程为y ^＝11＋100x. (2)y 与1x的相关系数为： r 2＝∑8i ＝1u i y i －n u －y －⎝⎛⎭⎫∑8i ＝1u 2i －8u －2⎝⎛⎭⎫∑8i ＝1y 2i －8y －2＝610.61×6 185.5≈0.99. 因为|r 1|＜|r 2|，所以用反比例函数模型拟合效果更好，当x ＝10时，y ＝10010＋11＝21(元)， 所以当产量为10千件时，每件产品的非原料成本为21元．(3)①当产品单价为100元，设订单数为x 千件，因为签订9千件订单的概率为0.8，签订10千件订单的概率为0.2，所以E(x)＝9×0.8＋10×0.2＝9.2，所以企业利润为100×9.2－9.2×⎪⎭⎫⎝⎛+219.2100＝626.8(千元)．①当产品单价为90元，设订单数为y千件，因为签订10千件订单的概率为0.3，签订11千件订单的概率为0.7，所以E(y)＝10×0.3＋11×0.7＝10.7，所以企业利润为90×10.7－10.7×⎪⎭⎫⎝⎛+2110.7100＝638.3(千元)．故企业要想获得更高利润，产品单价应选择90元．。