最小二乘法的综述及算例

最小二乘法综述及算例一最小二乘法的历史简介1801年，意大利天文学家朱赛普·皮亚齐发现了第一颗小行星谷神星。

经过40天的跟踪观测后，由于谷神星运行至太阳背后，使得皮亚齐失去了谷神星的位置。

随后全世界的科学家利用皮亚齐的观测数据开始寻找谷神星，但是根据大多数人计算的结果来寻找谷神星都没有结果。

时年24岁的高斯也计算了谷神星的轨道。

奥地利天文学家海因里希·奥尔伯斯根据高斯计算出来的轨道重新发现了谷神星。

高斯使用的最小二乘法的方法发表于1809年他的著作《天体运动论》中。

经过两百余年后，最小二乘法已广泛应用与科学实验和工程技术中，随着现代电子计算机的普及与发展，这个方法更加显示出其强大的生命力。

二最小二乘法原理最小二乘法的基本原理是：成对等精度测得的一组数据),...,2,1(,n i y x i i =，是找出一条最佳的拟合曲线，似的这条曲线上的个点的值与测量值的差的平方和在所有拟合曲线中最小。

设物理量y 与1个变量l x x x ,...,2,1间的依赖关系式为:)(,...,1,0;,...,2,1n l a a a x x x f y =。

其中n a a a ,...,1,0是n +l 个待定参数,记()21∑=-=mi i i y vs 其中 是测量值, 是由己求得的n a a a ,...,1,0以及实验点),...,2,1)(,...,(;,2,1m i v x x x i il i i =得出的函数值)(,...,1,0;,...,2,1n il i i a a a x x x f y =。

在设计实验时, 为了减小误差, 常进行多点测量, 使方程式个数大于待定参数的个数, 此时构成的方程组称为矛盾方程组。

通过最小二乘法转化后的方程组称为正规方程组(此时方程式的个数与待定参数的个数相等) 。

我们可以通过正规方程组求出a最小二乘法又称曲线拟合, 所谓“ 拟合” 即不要求所作的曲线完全通过所有的数据点, 只要求所得的曲线能反映数据的基本趋势。

基本最小二乘法全文共四篇示例，供读者参考第一篇示例：基本最小二乘法（Least Squares Method）是统计学中一种常用的参数估计方法，其基本思想是通过最小化实际观测值与理论值之间的残差平方和来求得模型参数。

最小二乘法常用于回归分析、拟合曲线以及解决线性方程组等问题。

最小二乘法的核心思想是寻找使得误差的平方和最小的参数估计值。

具体来说，假设有n个数据点(x_1,y_1), (x_2,y_2), …, (x_n,y_n)，要拟合这些数据点，可以假设它们之间存在某种函数关系y=f(x)，通过最小化残差平方和的方法来确定函数f(x)的参数值。

最小二乘法的数学表达式可以用下面的公式来表示：\min_{\beta} \sum_{i=1}^{n} (y_{i} - \beta^{T}x_{i})^{2}y_{i}是实际观测值，x_{i}是自变量，\beta是要求解的参数向量。

最小二乘法的优势在于它是一种封闭解的方法，能够直接获得参数的解析解，而不需要通过迭代算法来求解。

最小二乘法对于数据中的离群点具有一定的鲁棒性，能够有效地排除异常值的影响。

最小二乘法在实际应用中有着广泛的应用。

在回归分析中，最小二乘法可以用来拟合数据点并预测新的输出值；在信号处理中，最小二乘法可以用来估计信号的频率和幅度；在机器学习和人工智能领域，最小二乘法也被广泛应用于线性回归、岭回归等算法。

最小二乘法也存在一些限制。

最小二乘法要求数据满足线性关系，并且误差项服从正态分布。

如果数据不符合这些假设，最小二乘法的结果可能会出现偏差。

最小二乘法对数据中的离群点较为敏感，如果数据中存在大量离群点，最小二乘法的结果可能会受到影响。

为了解决最小二乘法的这些限制，人们提出了许多改进的方法。

岭回归（Ridge Regression）和Lasso回归（Lasso Regression）是两种常见的正则化方法，可以在最小二乘法的基础上引入惩罚项来减少模型的复杂度，并提高模型的泛化能力。

最小二乘法知识最小二乘法是一种最优化方法，经常用于拟合数据和解决回归问题。

它的目标是通过调整模型参数，使得模型的预测值与观测值之间的差异最小。

最小二乘法的核心思想是最小化误差的平方和。

对于给定的数据集，假设有一个线性模型y = β₀ + β₁x₁ + β₂x₂ + ... +βₙxₙ，其中β₀, β₁, β₂, ... , βₙ 是需要求解的未知参数，x₁, x₂, ... , xₙ 是自变量，y 是因变量。

那么对于每个样本点 (xᵢ, yᵢ)，可以计算其预测值ŷᵢ = β₀ + β₁x₁ + β₂x₂ + ... + βₙxₙ，然后计算预测值与实际值之间的差异 eᵢ = yᵢ - ŷᵢ。

最小二乘法的目标是使得误差的平方和最小化，即最小化目标函数 E = ∑(yᵢ - ŷᵢ)²。

对于简单的线性回归问题，即只有一个自变量的情况下，最小二乘法可以通过解析方法求解参数的闭合解。

我们可以通过求偏导数，令目标函数对参数的偏导数等于零，求解出参数的最优解。

然而，对于复杂的非线性回归问题，解析方法通常不可行。

在实际应用中，最小二乘法通常使用迭代方法进行求解。

一种常用的迭代方法是梯度下降法。

梯度下降法通过反复进行参数更新的方式逐步降低目标函数的值，直到收敛到最优解。

具体而言，梯度下降法首先随机初始化参数的值，然后计算目标函数对于每个参数的偏导数，根据偏导数的方向更新参数的值。

迭代更新的过程可以通过下式表示：βₙ = βₙ - α(∂E/∂βₙ)其中，α 是学习率参数，控制每次更新参数的步长。

学习率需要适当选择，过小会导致收敛过慢，过大会导致震荡甚至不收敛。

最小二乘法除了可以用于线性回归问题，还可以用于其他类型的回归问题，比如多项式回归。

在多项式回归中，我们可以通过增加高次项来拟合非线性关系。

同样地，最小二乘法可以通过调整多项式的系数来使得拟合曲线与实际数据更加接近。

除了回归问题，最小二乘法还可以应用于其他领域，比如数据压缩、信号处理和统计建模等。

最小二乘法一、简介最小二乘法，又称最小平方法，是一种数学技术。

它通过最小误差的平方和寻找数据函数的最佳匹配。

最小二乘法是提供“观测组合”的主要工具之一，它依据对某事件的大量观测而获得“最佳”结果或“最可能”表现形式。

如已知两变量为线性关系bx a y +=，对其进行)2(>n n 次观测而获得n 对数据。

若将这n 对数据代入方程求解a ,b 之值则无确定解。

最小二乘法提供了一个求解方法,其基本思想就是寻找“最接近”这n 个观测点的直线。

最小二乘法不仅是19世纪最重要的统计方法,而且还可以称为数理统计学之灵魂。

相关回归分析、方差分析和线性模型理论等数理统计学的几大分支都以最小二乘法为理论基础。

作为其进一步发展或纠正其不足而采取的对策，不少近现代的数理统计学分支也是在最小二乘法基础上衍生出来的。

最小二乘法之于数理统计学，有如微积分之于数学，这并非夸张之辞。

统计学应用的几个分支如相关分析、回归分析、方差分析和线性模型理论等，其关键都在于最小二乘法的应用不少现代的统计学研究是在此法的基础上衍生出来，作为其进一步发展或纠正其不足之处而采取的对策，如回归分析中一系列修正最小二乘法而产生的估计方法等就是最好的例子。

二、创立思想勒让德在先驱者解线性方程组的基础上，以整体的思想方法创立了最小二乘法；高斯由寻找随机误差函数为突破，以独特的概率思想导出了正态分布，详尽地阐述了最小二乘法的理论依据。

最小二乘法(OLSE)的思想就是要使得观测点和估计点的距离平方和达到最小，在各方程的误差之间建立一种平衡，从而防止某一极端误差，对决定参数的估计值取得支配地位，有助于揭示系统的更接近真实的状态。

这里的“二乘”指的是用平方来度量观测点与估计点的远近，“最小”指的是参数的估计值要保证各个观测点与估计点的距离的平方和达到最小。

三、原理设一组数据(,)i i x y (1,2,,)i n = ,现用近似曲线)(x y ϕ=拟合这组数据,“拟合得最好”的标准是所选择的()x ϕ在i x 处的函数值()i x ϕ(1,2,,)i n = 与i y (1,2,,)i n = 相差很小,即偏差（也称残差）()i i x y ϕ-(1,2,,)i n = 都很小.一种方法是使偏差之和()1ni i i x y ϕ=⎡⎤⎣⎦∑－很小来保证每个偏差都很小.但偏差有正有负,在求和的时候可能相互抵消.为了避免这种情况,还可使偏差的绝对值之和()1||ni i i x y ϕ=-∑为最小.但这个式子中有绝对值符号,不便于分析讨论.由于任何实数的平方都是正数或零,因而我们可选择使“偏差平方和21ni i i x y ϕ=-∑［（）］最小”的原则来保证每个偏差的绝对值都很小,从而得到最佳拟合曲线y =()x ϕ.这种“偏差平方和最小”的原则称为最小二乘原则,而按最小二乘法原则拟合曲线的方法称为最小二乘法或称最小二乘曲线拟合法.一般而言,所求得的拟合函数可以使不同的函数类,拟合曲线()x ϕ都是由m 个线性无关函数()1x ϕ,()2x ϕ ,…, ()m x ϕ的线性组合而成,即()()()()1122m m x a x a x a x ϕϕϕϕ=+++…)1(-<n m ,其中1a ，2a ，…，m a 为待定系数.线性无关函数()1x ϕ,()2x ϕ ,…()m x ϕ,称为基函数,常用的基函数有: 多项式：1,x , 2x ,…,m x ;三角函数： sin x ,sin 2x ,…,sin mx ;指数函数：x x x m e e e λλλ,,,21 ,x λ２ｅ,…,x λｍｅ.最小二乘法又称曲线拟合,所谓“ 拟合” ,即不要求所作的曲线完全通过所有的数据点,只要求所得的近似曲线能反映数据的基本趋势,它的实质是离散情况下的最小平方逼近.四、运用曲线拟合做最小二乘法 1 一元线性拟合已知实测到的一组数据(,)i i x y (1,2,,)i n = ,求作这组数据所成的一元线性关系式.设线性关系式为y a bx =+,求出a 和b 即可.法一：即要满足则）（令,0,0,,12=∂∂=∂∂--=∑=bsa sb a bx a y s ni i i ,则,a b 要满足s a ∂∂＝0,sb∂∂＝0.即 11()()ni i i n i i ii sy a bx a s y a bx x b==∂⎧--⎪⎪∂⎨∂⎪--⎪∂⎩∑∑＝－2＝0＝－2＝0化简得112111n n i i i i nn ni i i i i i i b a x y n n a x b x x y =====⎧⎪⎪⎨⎪⎪⎩∑∑∑∑∑１＋＝＋＝ 从中解出1112211111n n n i i i ii i i n n i i i i n n i ii i n x y x yb n x x b a y x n n =======⎧⎪⎪⎪⎛⎫ ⎪⎨⎝⎭⎪⎪⎪⎩∑∑∑∑∑∑∑－＝－＝－ （1） 法二：将i x ,i y 代入y a bx =+得矛盾方程组1122n y a bx y a bx y a bx n=+⎧⎪=+⎪⎨⎪⎪=+⎩ (2) 令A =12111n x x x ⎛⎫ ⎪⎪ ⎪ ⎪⎝⎭ ,B =12n y y y ⎛⎫⎪ ⎪ ⎪ ⎪⎝⎭,则（2）式可写成b B A a ⎛=⎫⎪⎝⎭,则对应的正规方程组为TTa b A B A A ⎛=⎫ ⎪⎝⎭,所以a b ⎛⎫ ⎪⎝⎭=1()T TA A AB -,其中A 称为结构矩阵,B 称为数据矩阵,T A A 称为信息矩阵,TA B 称为常数矩阵.2 多元线性拟合设变量y 与n 个变量1x ,2x ,…,n x （1n ≥）内在联系是线性的,即有如下关系式∑=+=nj j j x a a y 10,设j x 的第i 次测量值为ij x ,对应的函数值为i y (1,2,,)i m = ,则偏差平方和为s ='220111()()mm ni i i i ij i i j y y y a a x ===-=--∑∑∑,为了使s 取最小值得正规方程组011001111011202020m n i j ij i j m n i j ij i i j m n i j ij in i j ns y a a x a s y a a x x a s y a a x x a ======⎧∂⎛⎫=---=⎪ ⎪∂⎝⎭⎪⎪∂⎛⎫=---=⎪⎪∂⎨⎝⎭⎪⎪⎪∂⎛⎫=---=⎪ ⎪∂⎝⎭⎩∑∑∑∑∑∑ （3） 即011101111n m mij j i j i i mn m mik ij ik jik i i j i i ma x a y x a x x a x y =======⎧⎛⎫+= ⎪⎪⎝⎭⎪⎨⎛⎫⎪+= ⎪⎪⎝⎭⎩∑∑∑∑∑∑∑1,2,,k n = . （4） 将实验数据(,)i i x y 代入（4）式,即得m a a a ,,,10 .3 指数函数拟合科学实验得到一组数据(,)i i x y (1,2,,)i n = 时,还可以考虑用指数函数为基函数来拟合,此时设拟合函数具有形式bxy ae =（,a b 为待定系数）.对上式两端取自然对数可得：ln ln y a bx =+ （9）令Y =ln y ,0ln b a =,则（9）式可转化为一元线性函数形式0Y b bx =+,此时将指数函数拟合转化成了一元线性拟合,利用一元线性拟合中的两种方法均可求出0b 和b ,继而根据0b a e =可求出a ,从而得出因变量y 与自变量x 之间的函数关系式0b bx bx y ae e +==4 对数函数拟合科学实验得到一组数据(,)i i x y (1,2,,)i n = 时,还可以考虑用对数函数为基函数来拟合,此时设拟合函数具有形式ln y a b x =+(0)x >（,a b 为待定系数）.0b >时,y 随x 增大而增大,先快后慢;0b <时,y 随x 增大而减小,先快后慢.当以y 和ln x 绘制的散点图呈直线趋势时,可考虑采用对数函数描述y 与x 之间的非线性关系,式中的b 和a 分别为斜率和截距.这时令X =ln x ,就可以利用一元线性拟合的方法来求解.更一般的对数函数还可设为y =()ln a b x k ++,式中k 为一常量.五 举例例1 使电流通过2Ω的电阻,用伏特表测量电阻两端的电压V .测得数据如下表：t I /A1 2 4 6 8 10 t V /V1.83.78.212.015.820.2试用最小二乘法建立I 与V 之间的一元经验公式（有效数字保留到小数点后第3位）. 解：可取一次线性关系式V a bI =+作为I 与V 之间的一元经验公式. 将数据代入得矛盾方程组1.82 3.748.2612.0815.81020.2a b a b a b a b a b a b +=⎧⎪+=⎪⎪+=⎨+=⎪⎪+=⎪+=⎩ 令1112141618110A ⎛⎫ ⎪ ⎪ ⎪= ⎪ ⎪ ⎪ ⎪ ⎪⎝⎭, 1.83.78.212.015.820.2B ⎛⎫ ⎪ ⎪ ⎪= ⎪ ⎪ ⎪ ⎪ ⎪⎝⎭,则上述矛盾方程组可写成矩阵形式0a A B b ⎛⎫-= ⎪⎝⎭由此得出其正规方程组0T T a A A A B b ⎛⎫-= ⎪⎝⎭,将数据代入即得63161.7031221442.4a b ⎛⎫⎛⎫⎛⎫-= ⎪⎪ ⎪⎝⎭⎝⎭⎝⎭,解之得0.212.032a b =-⎧⎨=⎩,故所求经验公式为0.2152.V I =-+. 例 2 在在开发一种抗过敏性的新药时,要对不同剂量的药效进行实验.10名患者各服用了该新药的一个特定的剂量.药物消失时立即纪录.观测值列于下表中.x 是剂量,y 是症状消除持续的日数.用7个不同的剂量, 其中3个剂量重复给两名患者.试给出y 与x 之间的一元经验公式(保留3位有效数字).1 2 3 4 5 6 7 8 9 10 ∑ /i x mg334566788959/i y d9 5 12 9 14 16 22 18 24 22 1512i x 9 9 16 25 36 36 49 64 64 81 389i i x y271548458496154144192198 1003解：可设y 与x 之间的经验公式为y a bx =+. 由上表可知,101i i x =∑59=,101i i y =∑151=,101i i i x y =∑1003=,1021i i x =∑389=,2101i i x =⎛⎫ ⎪⎝⎭∑3481= 再由（1）式可求得,1010101112101021110101003591512.7410389348110i i i ii i i i i i i x y x y b x x =====-⨯-⨯===⨯-⎛⎫- ⎪⎝⎭∑∑∑∑∑10101111 2.7415159 1.0710101010i i i i b a y x ===-=⨯-⨯=-∑∑所以y 与x 之间的经验公式为 1.07 2.74y x =-+.最小二乘法能将从实验中得出的一大堆看上去杂乱无章的数据中找出一定的规律，拟合成一条曲线来反映所给数据特点。

最小二乘法实现公式最小二乘法是一种常用的回归分析方法，用于估计线性模型中的参数。

它通过最小化观测值与预测值之间的误差平方和，来确定最优的参数估计值。

下面将详细介绍最小二乘法的原理和应用。

一、最小二乘法原理最小二乘法的基本思想是，通过找到一条线（或曲线），使得该线与观测数据点之间的误差最小化。

具体来说，对于一个线性模型 y = β0 + β1x + ε，其中 y 是因变量，x 是自变量，β0 和β1 是待估计的参数，ε 是误差项。

最小二乘法的目标是找到最优的参数估计值β0* 和β1*，使得观测值与预测值之间的误差平方和最小化。

为了实现最小二乘法，需要定义一个衡量误差的函数，通常选择误差的平方和作为目标函数。

即最小化目标函数：min Σ(yi - (β0 + β1xi))^2通过对目标函数求导，可以得到参数估计值的解析解。

令目标函数的导数等于零，可以得到以下两个方程：Σyi - nβ0 - β1Σxi = 0Σxiyi - β0Σxi - β1Σxi^2 = 0解这个方程组，可以求得最优的参数估计值β0* 和β1*。

最小二乘法的核心思想就是通过最小化误差平方和来确定最优的参数估计值。

二、最小二乘法的应用最小二乘法广泛应用于各个领域的回归分析中。

下面将介绍最小二乘法在经济学、统计学和工程学中的应用。

1. 经济学中的应用最小二乘法在经济学中被广泛应用于建立经济模型和估计经济参数。

经济学家可以利用最小二乘法来估计需求函数、供给函数和生产函数等。

通过回归分析，经济学家可以研究各种经济变量之间的关系，并对经济现象进行解释和预测。

2. 统计学中的应用最小二乘法是统计学中最常用的参数估计方法之一。

通过最小二乘法，统计学家可以估计线性回归模型中的参数，并进行统计推断。

最小二乘法还可以用于解决多重共线性、异方差性和自相关等统计问题。

3. 工程学中的应用最小二乘法在工程学中有着广泛的应用。

例如，在信号处理中，最小二乘法可以用于信号滤波和信号重构。

题目:最小二乘法的综述及算例院系：航天学院自动化班级：学号：学生签名：指导教师签名：日期：2011年12月6日目录1．综述 (3)2．概念 (3)3．原理 (4)4．算例 (6)5．总结 (10)参考文献 (10)1．综述最小二乘法最早是由高斯提出的，这是数据处理的一种很有效的统计方法。

高斯用这种方法解决了天文学方面的问题，特别是确定了某些行星和彗星的天体轨迹。

这类天体的椭圆轨迹由5个参数确定，原则上，只要对它的位置做5次测量就足以确定它的整个轨迹。

但由于存在测量误差，由5次测量所确定的运行轨迹极不可靠，相反，要进行多次测量，用最小二乘法消除测量误差，得到有关轨迹参数的更精确的值。

最小二乘法近似将几十次甚至上百次的观察所产生的高维空间问题降到了椭圆轨迹模型的五维参数空间。

最小二乘法普遍适用于各个科学领域，它在解决实际问题中发挥了重要的作用。

它在生产实践、科学实验及经济活动中均有广泛应用。

比如说，我们引入等效时间的概念,根据Arrhenius 函数和指数函数研究水化热化学反应速率随温度的变化,最后采用最小二乘法回归分析试验数据,确定绝热温升和等效时间的关系式。

为了更好地掌握最小二乘法，我们引入以下两个问题：(1)假设已知一组二维数据（i i y x ,），（i=1,2,3···n ），怎样确定它的拟合曲线y=f(x)（假设为多项式形式f(x)=nn x a x a a +++...10）,使得这些点与曲线总体来说尽量接近？(2)若拟合模型为非多项式形式bxae y =，怎样根据已知的二维数据用最小二乘线性拟合确定其系数，求出曲线拟合函数？怎样从给定的二维数据出发，寻找一个简单合理的函数来拟合给定的一组看上去杂乱无章的数据，正是我们要解决的问题。

2．概念在科学实验的统计方法研究中，往往要从一组实验数（i i y x ,）（i=1,2,3···m ）中寻找自变量x 与y 之间的函数关系y=F(x).由于观测数据往往不准确，此时不要求y=F(x)经过所有点（i i y x ,），而只要求在给定i x 上误差i δ=F （i x ）i y -（i=1,2,3···m ）按某种标准最小。

最小二乘法基本原理：成对等精度测得一组数据，试找出一条最佳的拟合曲线，使得这条曲线上的各点值与测量值的平方和在所有的曲线中最小。

我们用最小二乘法拟合三次多项式。

最小二乘法又称曲线拟合，所谓的“拟合”就是不要求曲线完全通过所有的数据点，只要求所得的曲线反映数据的基本趋势。

曲线的拟合几何解释：求一条曲线，使所有的数据均在离曲线的上下不远处。

第一节 最小二乘法的基本原理和多项式拟合 一最小二乘法的基本原理从整体上考虑近似函数)(x p 同所给数据点),(i i y x (i=0,1,…,m)误差i i i y x p r -=)((i=0,1,…,m)常用的方法有以下三种：一是误差i i i y x p r -=)((i=0,1,…,m)绝对值的最大值im i r ≤≤0max ，即误差 向量T m r r r r ),,(10 =的∞—范数；二是误差绝对值的和∑=mi ir 0，即误差向量r 的1—范数；三是误差平方和∑=mi ir02的算术平方根，即误差向量r 的2—范数；前两种方法简单、自然，但不便于微分运算 ，后一种方法相当于考虑 2—范数的平方，因此在曲线拟合中常采用误差平方和∑=mi ir02来 度量误差i r (i=0，1，…，m)的整体大小。

数据拟合的具体作法是：对给定数据 ),(i i y x (i=0,1,…，m)，在取定的函数类Φ中,求Φ∈)(x p ,使误差i i i y x p r -=)((i=0,1,…,m)的平方和最小，即∑=m i ir 02=[]∑==-mi ii y x p 02min)(从几何意义上讲，就是寻求与给定点),(i i y x (i=0,1,…,m)的距离平方和为最小的曲线)(x p y =（图6-1）。

函数)(x p 称为拟合 函数或最小二乘解，求拟合函数)(x p 的方法称为曲线拟合的最小二乘法。

Φ可有不同的选取方法.6—1二多项式拟合假设给定数据点),(i i y x (i=0,1,…,m)，Φ为所有次数不超过)(m n n ≤的多项式构成的函数类，现求一Φ∈=∑=nk k k n x a x p 0)(,使得[]min )(00202=⎪⎭⎫⎝⎛-=-=∑∑∑===mi mi n k i k i k i i n y x a y x p I (1)当拟合函数为多项式时，称为多项式拟合，满足式（1）的)(x p n 称为最小二乘拟合多项式。

最小二乘法的例题
最小二乘法是一种数学优化技术，它通过最小化误差的平方和来寻找数据的最佳函数匹配。

假设我们有一组数据点 (x1, y1), (x2, y2), ..., (xn, yn)，我们想要找到一条直线 y = mx + c，使得所有数据点到这条直线的垂直距离之和最小。

最小二乘法的目标是最小化误差平方和：
Σ[(yi - (mx_i + c))^2]
其中，m 是直线的斜率，c 是截距。

现在，我们通过解下面的方程来找到 m 和 c 的值：
Σ[(yi - (mx_i + c))^2] = min
这个方程可以简化为：
Σ[(yi - mx_i + c)^2] = Σ[(yi)^2 - 2yimx_i + (mx_i)^2 - 2cyi + c^2]
通过整理，我们可以得到：
Σ[(yi)^2] - 2mΣ[yix_i] + m^2Σ[(x_i)^2] + 2cΣ[yi] - 2mcΣ[x_i] + nc^2 = min
其中 n 是数据点的数量。

现在，我们要解这个方程组来找到 m 和 c 的值。

首先，我们需要计算
Σ[yi^2], Σ[yix_i], Σ[(x_i)^2], Σ[yi], Σ[x_i] 和 c^2。

然后，我们将这些值代入上面的方程中来找到 m 和 c 的值。

下面是一个使用 Python 实现最小二乘法的例子：
给定数据点 (1, 2), (2, 3), (3, 6)，我们想要找到一条直线 y = mx + c，使得所有数据点到这条直线的垂直距离之和最小。

计算结果为： [{c: , m: 2}]
所以，最佳拟合直线为：y = 2x +。

文献综述数学与应用数学最小二乘法的原理和应用一、国内外状况天文学自古代至18世纪是应用数学中最发达的领域。

观测和数学天文学给出了建立数学模型及数据拟合的最初例子，在此种意义下，天文学家就是最初的数理统计学家。

天文学的问题逐渐引导到算术平均，以及参数模型中的种种估计方法，以最小二乘法为顶峰。

1801年，意大利天文学家朱赛普·皮亚齐发现了第一颗小行星谷神星。

经过40天的跟踪观测后，由于谷神星运行至太阳背后，使得皮亚齐失去了谷神星的位置。

随后全世界的科学家利用皮亚齐的观测数据开始寻找谷神星，但是根据大多数人计算的结果来寻找谷神星都没有结果。

时年24岁的高斯也计算了谷神星的轨道。

奥地利天文学家海因里希·奥尔伯斯根据高斯计算出来的轨道重新发现了谷神星。

高斯使用的最小二乘法的方法发表于1809年他的著作《天体运动论》中。

勒让德是法国军事学校的教授，曾任多界政府委员，后来成了多科工艺学校的总监，直至1833年逝世。

有记载最小二乘法最早出现在勒让德1805年发表的论著《计算彗星轨道的新方法》附录中。

他在该书中描述了最小二乘法的思想、具体做法及其优点。

勒让德的成功在于它从一个新的角度来看待这个问题，不像其前辈那样致力于找出几个方程（个数等于未知数的个数）再去求解，而是考虑误差在整体上的平衡。

从某种意义讲，最小二乘法是一个处理观测值的纯粹代数方法。

要将其应用于统计推断问题就需要考虑观测值的误差，确定误差分布的函数形式。

勒让德曾与高斯为谁最早创立最小二乘法原理发生争执。

1829年，高斯提供了最小二乘法的优化效果强于其他方法的证明，因此被称为高斯-莫卡夫定理。

最小二乘法是提供“观测组合”的主要工具之一，它依据对某事件的大量观测而获得“最佳”结果或“最可能”表现形式。

如已知两变量为线性关系y=a+dx,对其进行n（n>2）次观测而获得n对数据，若将这n对数据代入方程求解a 、b 之值则无确定解。