非线性最小二乘辨识

电力系统等值参数辨识的方法研究

4.1 研究等值参数辨识的意义

目前PSS 的参数设计主要还是依赖于单机无穷大系统，但在实际系统中无穷大系统的参数难以得知，可以近似发电机升压变的高压侧或出线远端，但会带来一定误差。本项目提出了一种根据发电机机端电压和电流量的变化情况，采用非线性最小二乘方法实时辨识等值无穷大系统参数，为励磁系统的参数性能校验和参数优化打下了良好基础。

4.2 在线实时辨识单机——无穷大模型

对于同步发电机，我们可以将其外部等值为一个无穷大系统，以这样一个单机——无穷大模型为基础设计出的励磁系统及PSS 参数是可以得到令人满意的控制效果的。单机——无穷大时域仿真检验计算要求获得电力系统的等值参数，所以需要进行对电力系统等值参数辨识的方法研究。

当发电机以外系统的运行方式及结构发生变化时，将可以等值为系统电抗

)(L T s s X X X X +=以及母线电压s V 的变化（如图4-1），如果我们能够在线实时

辨识出这种变化，就将可以根据所辨识出的系统参数及发电机运行状态根据优化算法计算出新的最优反馈增益矩阵，以适应变化后的系统运行方式及其结构。

这样，可以在电网运行方式及结构发生变化时，实时对电力系统参数进行辨识，也就可以实现PSS 参数的实时优化。

考虑如图4-1的单机——无穷大系统：

根据机端电压电流之间的关系有：

图4-1 单机对无穷大系统模型

V t

X T

X L

V s

14(sin cos -??

?-=+=s q s td

s

d s tq X I V V X I V V δδ

（4-1）

即

??

?--=+=)24(s

q d s td s d q s tq X I V V X I V V

（4-2）

上式中的发电机端电压td V 、

tq V 及定子电流d I 、q I 我们可以通过采样获得，这样就有可能根据这些值通过（4-2）式的关系来辨识出 s X 及s V 。

4.3 常规线性最小二乘辨识

最小二乘法是目前应用最为广泛的一种参数估计方法，其原理清晰，形式简单，并且无需任何被估参数的概率信息，其在电力系统中的应用也非常广泛。因此，对于上一节的参数估计问题，首先我们采用了一般的线性最小二乘法。

定义损失函数如下：

])()[(122∑=--++-=n

i s di sq tqi s qi sd tdi ls X I V V X I V V L

通过求其偏导为零，可得：

∑∑∑====---=??=+--=??=--++-=??n i s di sq tqi

sq

ls

n i s qi sd tdi

sd ls

n

i di s di sq tqi qi s qi sd tdi

s ls

X I V V

V L X I V V V L I X I V V I X I V V

X L 1

110

)(20)(20])()[(2

联立求解上述三个方程，最后可得

22

()()()()

(43)()()q d qi q di d di qi s q di d qi V V I I V V I I X a I I I I -

-

-

-

-

-

∑---∑--=

-∑-+∑-

^(43)q sd d s V V X I b --

=+-^

(43)d

sq q s V V X I c -

-

=--

其中

11

11n

d di i n

q qi i I I n I I n ===

=

∑∑ 1111n

d tdi i n

q tqi i V V n V V n ====∑∑ 这样，由（4-3）式，就可以根据td V 、tq V 及d I 、q I 的采样值实时辨识出s

X 及s V 。为了验证这一辨识公式是否有效，我们对以下两种系统参数及运行状态的变化进行了辨识：

①无穷大母线电压上升10% ②切除一条线路，单回线运行

辨识结果表4-2所示。

表4-2 线性最小二乘法辨识结果

由表4-2可以看出，辨识结果并不理想，之后我们进行了多次尝试，但辨识结果始终不能令人满意。因此下面采用递推最小二乘法做进一步的分析。改写（4-2）式可得：

01(44)10sq td q sd tq d s V V I V V I X ??-????

??=-????????

??????

令T tq td

V V Y ][=

T s sd sq X V V ][=θ

0110q d I H I -??

=??

??

则递推最小二乘法计算公式如下： )

54()]

()1()1()[1()()1(^

^^-+-+++=+k k H k Y k K k k θθθ

)

64(])1()()1([)1()()1(1

-+??+++?=+-T T k H k P k H I k H k P k K

)74()()]1()1(1[)1(-?+?+-=+k P k H k K k P

为了验证递推最小二乘辨识是否有效，我们同样选取了以下两种情况进行辨

识：

①切除一条线路，单回线运行

②无穷大母线电压上升10% 辨识结果如表4-3所示。

表4-3 递推最小二乘法辨识结果

由表4-3可以看出，在某些情况下辨识误差依旧较大。综合以上分析过程可知，尽管我们所采用的成批最小二乘辨识及递推最小二乘辨识均能较好的收敛，但在某些情况下其收敛值与真值之间存在较大误差。对此，我们分析原因可能有两点：一是最小二乘辨识本身所具有的多值性使得收敛不唯一，二是由于上述最小二乘辨识法均是基于（4-2）式这一线性模型来进行，由于线性模型的自由度通常会比较大，使得最小二乘辨识的多值性问题更加突出。根据这种分析，我们提出了一种建立在非线性模型之上的最小二乘辨识，获得了比较理想的辨识结果。

4.4 非线性最小二乘辨识的研究与效果验证

4.4.1 非线性最小二乘辨识的研究

对（4-2）式可作如下变形，移项可得:

sq tq d s

sd td q s

V V I X V V I X =-???

=+??

将上两式两边平方后相加，整理后可得：

222222()2()td tq q d s td q tq d s s V V I I X V I V I X V ++++-=

因为

222

222

td q tq d

t td tq d q Q V I V I V V V I I I =-+=+=+

所以

222220

(48)t s s s V I X QX V +--=-

定义损失函数

222221(2)n

ls ti i s i s s i L V I X Q X V ==+--∑

对ls L 求一次偏导，并令其为零有，

22222

122222

12(2)(22)0

(49)2(2)(1)0

n

ls ti i s i s s i s i i s

n

ls ti i s i s s i s

L V I X Q X V I X Q X L V I X Q X V V ==??=+---=???-???=+---=???∑∑

由（4-9）式的第二式可得

222220ti s i s i s V X I X Q nV ∑+∑-∑-=

记

1i Q Q n =

∑ 221i I I n =∑ 2

1t

t i V V n

=∑ 则有：

22222(410)s t s s V V X I X Q

=+--

综合 (4-9) 式及（4-10）式可得：

2

2222221

(22)()0n

ti

i s i s t s s i s i i V

I X Q X V X I X Q I X Q =+---+-=∑

记 2

2

2

t ti ti V V V -=? , 2

2

2

i i i I I I -=?，i i i Q Q Q -=?，则上式变为

2

2221

(2)()0n

ti

i s i i s i s i i V

I X I Q X I X Q =?+?-?-=∑

展开并合并同类项，最后可得到一个关于s X 的三阶代数方程组：

320s s s AX BX CX D +++=

(411)-

其中

2

2

1

n i i i A I I ==??∑ 221

(2)n

i i i i i B Q I I Q ==?+?∑

)2(2

2i i i ti Q Q I V C ?+?∑=

2

ti i V Q D ?∑-=

对于（4-11）式所示的三次代数方程组，有如下标准求解公式，首先作变形得到：

02

3

=+++c bX aX X s s s

这里A B a =，A C b =，A D c =

令3/a y X -=，则上式可化为如下简化形式：

30y py q ++= (412)

- 其中

23a p b =-+ 32()33

a ab

q c =-+

方程（4-12）的根为：

123,2y E F

E F y =++=-

± (413)- 其中

E =

F =23)2/()3/(q p Q +=

显然a 、b 、c 均为实数，则上述三次代数方程的根有三种情况： ①当0>Q 时，有一个实根和两个共轭复根 ②当0=Q 时，有三个实根，其中至少有两个相等 ③当0

从这一参数估计问题的物理意义可以知道，我们所需要的真实解只能是一个

唯一的实数。这样，对于根的情况①，可以判断该实根就是真实解；对于根的情况②、③，这时有两个或三个不同的实根，则很显然，它们之中只能有一个是真实解，下面将讨论如何判断出哪一个解是真实解。

我们知道，辨识过程是在系统中出现扰动时被启动，由非线性最小二乘法根据输入输出数据对系统进行成批辨识，这样在出现扰动后成批辨识的连续几个区间段中，都将形成一个形如（4-11）式的代数方程，只是系数有所不同。

考虑不同时间段的两个方程

0112

13

1=+++D X C X B X A s s s 0222

23

2=+++D X C X B X A s s s

假设它们均有三个实根，根据辨识问题的物理意义可知，在正确辨识的前提下，两个方程各自的三个实根中的真实解必然是一致的，这样，对于系数不同的这两个方程来说，另外的两个干扰解一般就会发生偏移，根据我们对数据的分析结果也可以证明这一点，对上述两个不同的方程可画出如图4-2所示的根曲线，图中，曲线与横轴的交点即为方程的根。从图中可以看出，两个方程各自的三个实根中只有一个是固定不变的，而其它两个都发生了相对的漂移，这一固定不变的实根就是我们所要求的真实解。这样，我们就可以通过连续几个时间段的所解得的方程的根判断出哪一个解是真实解。

下面将对上述非线性最小二乘法进行验证，我们选取了以下几种系统结构及

图4-2 三次代数方程的根曲线

运行工况发生变化的情况进行了辨识：

①无穷大母线电压上升10%； ②切除一条线路，单回路运行； ③机端三相对地短路，0.1秒后切除。 辨识结果如表4-4所示。

表4-4 非线性最小二乘法的辨识结果

从表中可以看出，非线性最小二乘辨识的精度相当令人满意，由此，我们就可以随时跟踪系统运行状态的变化，实时辨识出当前正确的系统参数，从而构建出与系统运行工况同步的单机——无穷大模型。

4.4.2 非线性最小二乘辨识在发电机采用派克模型下的验证

以上的辨识均是基于发电机的简化三阶模型，未考虑电阻的作用，因此辨识结果会与真实系统中的值有一定偏差，为了实现更精确的辨识，我们在（4-2）式中考虑了电阻的影响，并在发电机采用派克模型的仿真系统中对非线性最小二乘法的有效性进行了验证。

对于（4-2）式，当考虑电阻时变为：

tq sq d s d s

td

sd q s q s V V I X I R V V I X I R =++??

=-+? (414)- 依照上 节所述的变形方法，并考虑到

td d tq q

td q tq d P V I V I Q V I V I =+???

=-+??

则由式（4-14）可得，

)154(0

222

2

22

22

-=---++s s s s s t V QX PR X I X I V

定义损失函数为

2222222

1(22)n

ti i s i s i s i s s v J V I R I X PR Q X V ==++---∑

由

2000

s s s J

R J

X J V ??= ? ?=

? ?= ??

可以导出以下非线性方程组：

32221111113222

32222220(416)0

s s s s s s s s s s s s s s s s s AR AR X B R C X D X R E R F X G AX AX R B X B R D X R E X F X G ?+++++++=-?+++++++=?

式中，

221n

i i i A I I ==?∑

2211

(2)n

i i i i i B P I P I ==-??+??∑ 222(2)i i i i B Q I Q I =-∑?+?

21i i I P C ??∑-= 22i i I Q C ??∑-= 212i i I Q D ∑?-= 222i i I P D ∑?-=

)2(221i i i ti P P I V E ??+??∑= )2(222i i i i Q Q I V E ??+??∑= i i Q P F ??∑=21 i i P Q F ??∑=22 21ti i V P G ??∑-= 22ti i V Q G ??∑-=

这一非线性方程组可用牛顿迭代法求解，我们知道，牛顿法的可靠收敛取决于有一个良好的启动初值。如果初值选择不当，算法可能不收敛或收敛到一个不正确的解点上。

在上节中，我们已经正确辨识出了不考虑电阻条件下的s X 值，可以认为，该值与考虑电阻条件下的s X 值相差不大，因此用它作为初值应该是可以获得满

意的收敛效果的，同时

R一般是比较小的，所以选其初值选为0.05。

s

在发电机采用派克模型的仿真系统中，我们验证了上述考虑电阻的非线性最小二乘法，这里同样选取了以下几种系统结构及运行工况发生变化的情况进行了辨识：

①机端电压上升10%；

②切除一条线路，单回路运行；

③机端三相对地短路，0.1秒后切除。

辨识结果如表4-5所示。

表4-5 考虑电阻条件下非线性最小二乘法的辨识结果

从表中可以看出，考虑电阻后的辨识精度依旧是令人满意的。

4.4.3 考虑干扰情况下非线性最小二乘辨识验证

我们知道，在实际的电力系统中必然是会存在很多的干扰的，这些干扰将会对辨识的准确程度产生影响，严重时会导致产生错误的辨识结果。为了验证前面所提出的非线性最小二乘法是否能正常工作于实际的系统当中，我们对采样所获得的输入输出数据加入了七阶最大长度伪随机二位式系列（PRBS），当然，从理论上讲，白噪声是比较理想的，但白噪声的产生比较困难，而PRBS在一定的频带内的频率含量非常丰富，具有与白噪声类似的一些性质，并且很容易产生。

下面将对存在干扰条件下的非线性最小二乘法进行验证，我们对输入输出数据加入了干扰幅度为%

的二位式伪随机系列（PRBS），在发电机采用七阶

1.0

模型的仿真系统中选取了以下几种系统结构及运行工况发生变化的情况进行了辨识：

①切除一条线路，单回路运行；

②机端三相对地短路，0.1秒后切除。

辨识结果如表4-6所示。

表4-6 考虑干扰条件下非线性最小二乘法的辨识结果

由表4-6可以看出，在加入干扰的情况，非线性最小二乘法依旧能够获得比较理想的辨识结果。

本项目提出并研究验证了通过非线性最小二乘法可以随时跟踪系统运行状态的变化，实时辨识出当前系统的等值参数，从而构建出与系统运行工况相对应的单机——无穷大模型。

matlab最小二乘法的非线性参数拟合

matlab最小二乘法的非线性参数拟合 首先说一下匿名函数：在创建匿名函数时，Matlab记录了关于函数的信息，当使用句柄调用该函数的时候，Matlab不再进行搜索，而是立即执行该函数，极大提高了效率。所以首选匿名函数。具体拟合时可以使用的方法如下： 1 曲线拟合工具箱提供了很多拟合函数，使用简单 非线性拟合nlinfit函数 clear all; x1=[0.4292 0.4269 0.381 0.4015 0.4117 0.3017]'; x2=[0.00014 0.00059 0.0126 0.0061 0.00425 0.0443]'; x=[x1 x2]; y=[0.517 0.509 0.44 0.466 0.479 0.309]'; f=@(p,x) 2.350176*p(1)*(1-1/p(2))*(1-(1-x(:,1).^(1/p(2))).^p(2)).^2.*(x(:,1).^ (-1/p(2))-1).^(-p(2)).*x(:,1).^(-1/p(2)-0.5).*x(:,2); p0=[8 0.5]'; opt=optimset('TolFun',1e-3,'TolX',1e-3);% [p R]=nlinfit(x,y,f,p0,opt) 2 最小二乘法在曲线拟合中比较普遍。拟合的模型主要有 1.直线型 2.多项式型 3.分数函数型 4.指数函数型 5.对数线性型 6.高斯函数型 一般对于LS问题，通常利用反斜杠运算“\”、fminsearch或优化工具箱提供的极小化函数求解。在Matlab中，曲线拟合工具箱也提供了曲线拟合的图形界面操作。在命令提示符后键入：cftool，即可根据数据，选择适当的拟合模型。 “\”命令 1.假设要拟合的多项式是：y=a+b*x+c*x^ 2.首先建立设计矩阵X： X=[ones(size(x)) x x^2]; 执行： para=X\y para中包含了三个参数：para(1)=a;para(2)=b;para(3)=c; 这种方法对于系数是线性的模型也适应。 2.假设要拟合：y=a+b*exp(x)+cx*exp(x^2) 设计矩阵X为 X=[ones(size(x)) exp(x) x.*exp(x.^2)]; para=X\y 3.多重回归(乘积回归) 设要拟合：y=a+b*x+c*t，其中x和t是预测变量，y是响应变量。设计矩阵为X=[ones(size(x)) x t] %注意x,t大小相等！ para=X\y

非线性最小二乘法

非线性最小二乘法 编辑词条分享 ?新知社新浪微博腾讯微博人人网QQ空间网易微博开心001天涯飞信空间MSN移动说客 非线性最小二乘法 非线性最小二乘法是以误差的平方和最小为准则来估计非线性静态模型参数的一种参数估 计方法。 编辑摘要 目录 1 简介 2 推导 3 配图 4 相关连接 非线性最小二乘法 - 简介 以误差的平方和最小为准则来估计非线性静态模型参数的一种参数估计方法。设非线性系统的模型为y＝f(x，θ) 式中y是系统的输出，x是输入，θ是参数（它们可以是向量）。这里的非线性是指对参数θ的非线性模型，不包括输入输出变量随时间的变化关系。在估 计参数时模型的形式f是已知的，经过N次实验取得数据(x1,y1),(x2,y1)， ,(xn，yn)。估计参数的准则（或称目标函数）选为模型的误差平方和非线性最小二乘法就是求使Q达到极小的参数估计值孌。 推导 非线性最小二乘法 - 推导 以误差的平方和最小为准则来估计非线性静态模型参数的一种参数估计方法。设非线 性系统的模型为 y＝f(x，θ) 式中y是系统的输出，x是输入，θ是参数（它们可以是向量）。这里的非线性是指对参数θ的非线性模型，不包括输入输出变量随时间的变化关系。在估计参数时模型的形式f是已知的，经过N次实验取得数据(x1,y1),(x2,y1)， ,(x n，y n)。估计参数的准则（或称目标函数）选为模型的误差平方和

非线性最小二乘法就是求使Q达到极小的参数估计值孌。 由于f的非线性，所以不能象线性最小二乘法那样用求多元函数极值的办法来得到参 数估计值，而需要采用复杂的优化算法来求解。常用的算法有两类，一类是搜索算法，另 一类是迭代算法。 搜索算法的思路是：按一定的规则选择若干组参数值，分别计算它们的目标函数值并 比较大小；选出使目标函数值最小的参数值，同时舍弃其他的参数值；然后按规则补充新 的参数值，再与原来留下的参数值进行比较，选出使目标函数达到最小的参数值。如此继 续进行，直到选不出更好的参数值为止。以不同的规则选择参数值，即可构成不同的搜索 算法。常用的方法有单纯形搜索法、复合形搜索法、随机搜索法等。 迭代算法是从参数的某一初始猜测值θ(0)出发，然后产生一系列的参数点θ(1)、θ(2) ，如果这个参数序列收敛到使目标函数极小的参数点孌，那么对充分大的N就可用θ(N)作为孌。迭代算法的一般步骤是： ① 给出初始猜测值θ(0)，并置迭代步数i＝1。 ② 确定一个向量v(i)作为第i步的迭代方向。 ③ 用寻优的方法决定一个标量步长ρ(i)，使得 Q(θ(i))=Q(θ(i))，其中θ(i)＝θi-1+ρ(i)v(i)。 ④ 检查停机规则是否满足，如果不满足,则将i加1再从②开始重复；如果满足，则 取θ(i)为孌。 典型的迭代算法有牛顿－拉夫森法、高斯迭代算法、麦夸特算法、变尺度法等。 非线性最小二乘法除可直接用于估计静态非线性模型的参数外，在时间序列建模、连 续动态模型的参数估计中，也往往遇到求解非线性最小二乘问题。 非线性最小二乘法 - 配图 非线性最小二乘法

非线性最小二乘法Levenberg-Marquardt method

Levenberg-Marquardt Method(麦夸尔特法) Levenberg-Marquardt is a popular alternative to the Gauss-Newton method of finding the minimum of a function that is a sum of squares of nonlinear functions, Let the Jacobian of be denoted , then the Levenberg-Marquardt method searches in the direction given by the solution to the equations where are nonnegative scalars and is the identity matrix. The method has the nice property that, for some scalar related to , the vector is the solution of the constrained subproblem of minimizing subject to (Gill et al. 1981, p. 136). The method is used by the command FindMinimum[f, x, x0] when given the Method -> Levenberg Marquardt option. SEE A LSO:Minimum, Optimization REFERENCES: Bates, D. M. and Watts, D. G. N onlinear Regr ession and Its Applications. New York: Wiley, 1988. Gill, P. R.; Murray, W.; and Wright, M. H. "The Levenberg-Marquardt Method." §4.7.3 in Practical Optim ization. London: Academic Press, pp. 136-137, 1981. Levenberg, K. "A Method for the Solution of Certain Problems in Least Squares." Quart. Appl. Math.2, 164-168, 1944. Marquardt, D. "An Algor ithm for Least-Squares Estimation of Nonlinear Parameters." SIAM J. Appl. Math.11, 431-441, 1963.

matlab 最小二乘最优问题

最小二乘最优问题（转） 默认分类2009-05-21 14:56:33 阅读62 评论1 字号：大中小 1.约束线性最小二乘 有约束线性最小二乘的标准形式为 sub.to 其中：C、A、Aeq 为矩阵；d、b、beq、lb、ub、x 是向量。 在MA TLAB5.x 中，约束线性最小二乘用函数conls 求解。 函数lsqlin 格式x = lsqlin(C,d,A,b) %求在约束条件下，方程Cx = d 的最小二乘解x。 x = lsqlin(C,d,A,b,Aeq,beq) %Aeq、beq 满足等式约束，若没有不等式约束，则设A=[ ]，b=[ ]。 x = lsqlin(C,d,A,b,Aeq,beq,lb,ub) %lb、ub 满足，若没有等式约束，则Aeq=[ ]，beq=[ ]。 x = lsqlin(C,d,A,b,Aeq,beq,lb,ub,x0) % x0 为初始解向量，若x 没有界，则lb=[ ]，ub=[ ]。 x = lsqlin(C,d,A,b,Aeq,beq,lb,ub,x0,options) % options 为指定优化参 数 [x,resnorm] = lsqlin(...) % resnorm=norm(C*x-d)^2，即2-范数。 [x,resnorm,residual] = lsqlin(...) %residual=C*x-d，即残差。 [x,resnorm,residual,exitflag] = lsqlin(...) %exitflag 为终止迭代的条 件 [x,resnorm,residual,exitflag,output] = lsqlin(...) % output 表示输出

非线性最小二乘平差

非线性最小二乘平差 6-1问题的提出 经典平差是基于线性模型的平差方法。然而在现实世界中，严格的线性模型并不多见。测量上大量的数学模型也是非线性模型。传统的线性模型平差中的很多理论在非线性模型平差中就不一定适用；线性模型平差中的很多结论在非线性模型平差中就不一定成立；线性模型平差中的很多优良统计性质在非线性模型平差中就不一定存在。例如，在线性模型平差中，当随机误差服从正态分布时，未知参数X 的最小二乘估计具有一致无偏性和方差最小性。但在非线性模型平差中，即使随机误差严格服从正态分布，未知参数X的非线性最小二乘估计也是有偏的。其方差一般都不能达到最小值。 对于测量中大量的非线性模型，在经典平差中总是进行线性近似（经典的测量平差中称之为线性化），即将其展开为台劳级数，并取至一次项，略去二次以上各项。如此线性近似，必然会引起模型误差。过去由于测量精度不高，线性近似所引起的模型误差往往小于观测误差，故可忽略不计。随着科学技术的不断发展，现在的观测精度已大大提高，致使因线性近似所产生的模型误差与观测误差相当，有些甚至还会大于观测误差。例如，GPS载波相位观测值的精度很高，往往小于因线性近似所产生的模型误差。因此，用近似的理论、模型、方法去处理具有很高精度的观测结果，从而导致精度的损失，这显然是不合理的。现代科学技术要求估计结果的精度尽可能高。这样，传统线性近似的方法就不一定能满足当今科学技术的要求。另外，有些非线性模型对参数的近似值十分敏感，若近似值精度较差，则线性化会产生较大的模型误差。由于线性近似后，没有顾及因线性近似所引起的模型误差，而用线性模型的精度评定理论去评定估计结果的精度，从而得到一些虚假的优良统计性质，人为地拔高了估计结果的精度。 鉴于上述各种原因，对非线性模型平差进行深入的研究是很有必要的。非线性模型的平差和精度估计以及相应的误差理论研究也是当前国内外测绘界研究的前沿课题之一。 电子教材 > 第六章非线性模型平差 > 6-2 非线性模型平差原理

非线性最小二乘lsqnonlin

非线性最小二乘lsqnonlin 数学规划模型的matlab求解 数学规划模型的matlab求解 var OsObject = ""; if(https://www.doczj.com/doc/f51240994.html,erAgent.indexOf("MSIE")>0) { document.write(""); } if (isFirefox=https://www.doczj.com/doc/f51240994.html,erAgent.indexOf("Firefox")>0){ document.write(" "); } if(isSafari=https://www.doczj.com/doc/f51240994.html,erAgent.indexOf("Safari")>0) { //return "Safari"; } if(isCamin o=https://www.doczj.com/doc/f51240994.html,erAgent.indexOf("Camino")>0){ //return "Camino"; } if(isMozilla=navigato https://www.doczj.com/doc/f51240994.html,erAgent.indexOf("Gecko/")>0){ //return "Gecko"; } 今天胡老师给我们讲了数学规划模型，数学规划模型是优化模型的一种，包括线性规划模型(目标函数和约束条件都是线性函数的优化问题); 非线性规划模型(目标函数或者约束条件是非线性的函数); 整数规划(决策变量是整数值得规划问题); 多目标规划(具有多个目标函数的规划问题) ；目标规划(具有不同优先级的目标和偏差的规划问题) 动态规划(求解多阶段决策问题的最优化方法) 。数学规划模型相对比较好理解，关键是要能熟练地求出模型的解。 以下是解线性规划模型的方法： 1.线性规划问题 线性规划问题的标准形式为： min f ' *x sub.to：A*x

用Matlab进行最小二乘法线性拟合求传感器非线性误差灵敏度

%后面的为注释,红色部分代码需要根据实际情况更改 %最小二乘法线性拟合y=ax+b x=[0.5,1,1.5,2,2.5,3,3.5,4,4.5,5];%自变量 y=[191,321,442,565,686,819,930,1032,1153,1252];%因变量 xmean=mean(x);ymean=mean(y); sumx2=(x-xmean)*(x-xmean)'; sumxy=(y-ymean)*(x-xmean)'; a=sumxy/sumx2;%解出直线斜率a(即传感器灵敏度) b=ymean-a*xmean;%解出直线截距b z=((a*(x(1,10))+b-(y(1,10)))/(y(1,10)));%“10”是自变量的个数，z为非线性误差(即线性度) a b z %作图,先把原始数据点用蓝色"十"字描出来 figure plot(x,y,'+'); hold on % 用红色绘制拟合出的直线 px=linspace(0,6,50);%(linspace语法(从横坐标负轴起点0画到横坐标正轴终点6，50等分精度)) py=a*px+b; plot(px,py,'r'); 运行结果： a =236.9818 b =87.4000 另一种简单一点的方法：

%最小二乘法线性拟合y=ax+b x=[0.5,1,1.5,2,2.5,3,3.5,4,4.5,5];%自变量 y=[191,321,442,565,686,819,930,1032,1153,1252];%因变量p=polyfit(x,y,1); p 运行结果： p = 236.9818 87.4000

Chapter2 非线性最小二乘法与数值最优化

第1章 非线性最小二乘法与数值最优化 变量之间的关系更多地表现为非线性特征。线性模型作为基础模型是非线性的近似，即任何非线性模型都可以通过线性模型来近似表达。比如，模型01x y e u ββ=++通过泰勒级数展开表述为 0000100101**01|()x x x x x y e x x u e x e x u x u βββββββ=≈+-+ =-++ =++ 模型201y x u ββ=++的线性近似表达式为 0010201010**01(2)|()22x x y x x x u x x x u x u βββββββ=≈+-+ =-++ =++ 例 1.1 利用Monte Carlo 模拟的方法观察线性模型对非线性模型的近似。 设DGP 为：y=10+0.2*exp(x)+u ，x 为[1，3]区间的均匀分布。利用线性模型与指数模型分别回归模型，并计算x 对y 的（平均）边际影响与（平均）弹性。（数据文件：nonlin ） 但线性模型对非线性模型的近似程度取决于高阶部分是否充分小。即使在样本内线性模型能够较好地拟合数据，也不能准确地体现变量的结构关系。非线性模型中，x 对y 的边际影响（或弹性）是变化的；而线性模型中，x 对y 的边际影响（或弹性）是常数。很多情况下，线性模型与非线性模型对边际影响或弹性的估计存在非常大的差异。另外，利用线性模型拟合非线性数据存在潜在的危险，即区间外预测会存在越来越大的误差。因此，正确设定模型的形式是进行准确推断和预测的重要环节。 对于一般的回归模型，如以下形式的模型， (,)f =+y X βu 1.1 OLS 一般不能得到其解析解。比如，运用OLS 方法估计模型（1.1），令S(β)表示残差平方和，即 2 211()[(;)]n n i i i i i S u y f ====-∑∑βX β 1.2 最小化S(β)，即根据一阶条件可以得到 1 (;)()2[(;)]n i i i i f S y f =??=--=??∑X ββX β0ββ 以模型y x u γαβ=++为例，其一阶条件为 2011 0()1[]02i n x i i S y e ββββ=?=---=?∑β

数学建模 非线性最小二乘问题

1、非线性最小二乘问题 用最小二乘法计算： sets: quantity/1..15/: x,y; endsets min=@sum(quantity: (a+b* @EXP(c*x)-y)^2); @free(a); @free(b);@free(c); data: x=2,5,7,10,14,19,26,31,34,38,45,52,53,60,65; y=54,50,45,37,35,25,20,16,18,13,8,11,8,4,6; enddata 运算结果为： Local optimal solution found. Objective value: 44.78049 Extended solve steps: 5 Total solve iterartions: 68 Variable Value Reduced Cost A 2.430177 0.000000 B 57.33209 0.000000 C -0.4460383E-01 0.000000 由此得到a的值为2.430177，b的值为57.33209，c的值为-0.04460383。线性回归方程为y=2.430177+57.33209* @EXP(-0.04460383*x) 用最小一乘法计算： 程序如下： sets: quantity/1..15/: x,y; endsets min=@sum(quantity: @ABS(a+b*@EXP(c*x)-y)); @free(a); @free(b);@free(c); data: x=2,5,7,10,14,19,26,31,34,38,45,52,53,60,65; y=54,50,45,37,35,25,20,16,18,13,8,11,8,4,6; enddata 运算结果为：

非线性最小二乘法

非线性最小二乘法 系统的模型为 y＝f(x，θ) 式中y是系统的输出，x是输入，θ是参数（它们可以是向量）。这里的非线性是指对参数 θ的非线性模型，不包括输入输出变量随时间的变化关系。在估计参数时模型的形式f是已 知的，经过n次实验取得数据(x,y),(x,y)，…,(x，y)。估计参数的准则（或称目标函1121nn 数）选为模型的误差平方和 非线性最小二乘法就是求使q达到极小的参数估计值孌。 由于f的非线性，所以不能象线性最小二乘法那样用求多元函数极值的办法来得到参 数估计值，而需要采用复杂的优化算法来求解。常用的算法有两

类，一类是搜索算法，另一 类是迭代算法。 搜索算法的思路是：按一定的规则选择若干组参数值，分别计算它们的目标函数值并比 较大小；选出使目标函数值最小的参数值，同时舍弃其他的参数值；然后按规则补充新的参 数值，再与原来留下的参数值进行比较，选出使目标函数达到最小的参数值。如此继续进行， 直到选不出更好的参数值为止。以不同的规则选择参数值，即可构成不同的搜索算法。常用 的方法有单纯形搜索法、复合形搜索法、随机搜索法等。 (0)(1)(2)迭代算法是从参数的某一初始猜测值θ出发，然后产生一系列的参数点θ、θ…， (n)如果这个参数序列收敛到使目标函数极小的参数点孌，那么对充分大的n就可用θ作为孌。迭代算法的一般步骤是：

(0)?给出初始猜测值θ，并置迭代步数i＝1。 (i)?确定一个向量v作为第i步的迭代方向。 (i)(i)(i)(i)i-1?用寻优的方法决定一个标量步长ρ，使得q(θ)＜q(θ)，其中θ＝θ+(i)(i)ρv。 ?检查停机规则是否满足，如果不满足,则将加1再从?开始重复；如果满足，则i (i)取θ为孌。 典型的迭代算法有牛顿－拉夫森法、高斯迭代算法、麦夸特算法、变尺度法等。 非线性最小二乘法除可直接用于估计静态非线性模型的参数外，在时间序列建模、连续动态模型的参数估计中，也往往遇到求解非线性最小二乘问题。

非线性最小二乘法

非线性最小二乘法 最小二乘法的一般涵义 在科学实验的统计方法研究中，往往会遇到下列类型的问题： 设x，y都是被观测的量，且y是x的函数： y=f(x;,…,) （2.1） 假设这个函数关系已经由实际问题从理论上具体确定，因而（2.1）可称为理论函数或理论曲线公式，但其中含有n个未知参数,…,。为了进一步确定 这n个参数，我们可以通过实验或观测来得到m组数据： （,（,，…，（,（2.2） 根据（2.2）来寻找参数的最佳估计值,…,，即寻求最佳的理论曲线y= f(x;,…,)，这就是一般的曲线拟合问题，也可称为观测数据的平滑问题。在实际问题中我们经常遇到的一种曲线拟合问题是需要从观测数据（2.2）求出y和x的一个经验公式，而在曲线拟合时首先碰到的问题就是函数关系（2.1）的具体确定，然后才能进行参数估计。对于某些变量x，y之间已经有比较明确物理关系或关系简单的问题给出函数的具体表达式并不是太困难，但往往实际问题中所遇到的却是极为复杂的问题，要建立有效的表达式就有些困难了。我们所讨论的最小二乘问题都是建立在函数关系已知的基础上。 我们用残差作为拟合标准，此时 =-f(;,…,) (i=1,2,…,m) 简单记作 r=y-f(x;b) 这里，r= b= f(x,b)= 残差向量r的三种范数记作

= = = 残差可以表示拟合的误差，误差越小则拟合的效果越好。虽然取前两种范数 最小，比较理想和直观，但是它们不便于计算，因此在实际应用中是 取欧式范数最小，即求出参数b ，使得=min 这就是通常所谓的最小二乘法，几何语言也成为最小二乘拟合。 解非线性方程组的Newton 法 12(,,......,)01,2,......,j n f x x x j m =??=? （1） 设其解为***12(,,......,)n x x x ，在其附近一点 00012(,,......,)n x x x 把j f 展成Taylor 展式： 0 0000001212121(,,...,)(,,...,)()(,,...,)n j n j n k k j n j k k f x x x f x x x x x f x x x R x =?=+-+?∑ 2 0012,11()()(,,......)1,2,......,2n j l l k k j n l k l k R x x x x f j n x x ξξξ=?=--=??∑ 忽略余项 j R 得到：0 00000012121(,,...,)() (,,...,)01,2,...,n j n k k j n k k f x x x x x f x x x j m x =?+-==?∑ 这是一组线性方程，它的解 111,......,n x x 作为解，系数矩阵式Jacobi 阵 111122221 2112(,...,)n n n m m m n f f f x x x f f f x x x J J x x f f f x x x ????? ???? ? ???? ????== ? ? ???? ? ??????

非线性最小二乘辨识

电力系统等值参数辨识的方法研究 4.1 研究等值参数辨识的意义 目前PSS 的参数设计主要还是依赖于单机无穷大系统，但在实际系统中无穷大系统的参数难以得知，可以近似发电机升压变的高压侧或出线远端，但会带来一定误差。本项目提出了一种根据发电机机端电压和电流量的变化情况，采用非线性最小二乘方法实时辨识等值无穷大系统参数，为励磁系统的参数性能校验和参数优化打下了良好基础。 4.2 在线实时辨识单机——无穷大模型 对于同步发电机，我们可以将其外部等值为一个无穷大系统，以这样一个单机——无穷大模型为基础设计出的励磁系统及PSS 参数是可以得到令人满意的控制效果的。单机——无穷大时域仿真检验计算要求获得电力系统的等值参数，所以需要进行对电力系统等值参数辨识的方法研究。 当发电机以外系统的运行方式及结构发生变化时，将可以等值为系统电抗 )(L T s s X X X X +=以及母线电压s V 的变化（如图4-1），如果我们能够在线实时 辨识出这种变化，就将可以根据所辨识出的系统参数及发电机运行状态根据优化算法计算出新的最优反馈增益矩阵，以适应变化后的系统运行方式及其结构。 这样，可以在电网运行方式及结构发生变化时，实时对电力系统参数进行辨识，也就可以实现PSS 参数的实时优化。 考虑如图4-1的单机——无穷大系统： 根据机端电压电流之间的关系有： 图4-1 单机对无穷大系统模型 V t X T X L V s

14(sin cos -?? ?-=+=s q s td s d s tq X I V V X I V V δδ （4-1） 即 ?? ?--=+=)24(s q d s td s d q s tq X I V V X I V V （4-2） 上式中的发电机端电压td V 、 tq V 及定子电流d I 、q I 我们可以通过采样获得，这样就有可能根据这些值通过（4-2）式的关系来辨识出 s X 及s V 。 4.3 常规线性最小二乘辨识 最小二乘法是目前应用最为广泛的一种参数估计方法，其原理清晰，形式简单，并且无需任何被估参数的概率信息，其在电力系统中的应用也非常广泛。因此，对于上一节的参数估计问题，首先我们采用了一般的线性最小二乘法。 定义损失函数如下： ])()[(122∑=--++-=n i s di sq tqi s qi sd tdi ls X I V V X I V V L 通过求其偏导为零，可得： ∑∑∑====---=??=+--=??=--++-=??n i s di sq tqi sq ls n i s qi sd tdi sd ls n i di s di sq tqi qi s qi sd tdi s ls X I V V V L X I V V V L I X I V V I X I V V X L 1 110 )(20)(20])()[(2 联立求解上述三个方程，最后可得 22 ()()()() (43)()()q d qi q di d di qi s q di d qi V V I I V V I I X a I I I I - - - - - - ∑---∑--= -∑-+∑- ^(43)q sd d s V V X I b -- =+-^ (43)d sq q s V V X I c - - =-- 其中

非线性最小二乘法

非线性最小二乘法 式中y是系统的输出，x是输入，θ是参数（它们可以是向量）。这里的非线性是指对参数θ的非线性模型，不包括输入输出变量随时间的变化关系。在估计参数时模型的形式f是已知的，经过N次实验取得数 非线性最小二乘法 据(x1,y1),(x2,y2)，…,(xn，yn)。估计参数的准则（或称目标函数）选为模型的误差平方和非线性最小二乘法就是求使Q达到极小的参数估计值娈。 由于f的非线性，所以不能象线性最小二乘法那样用求多元函数极值的办法来得到参数估计值，而需要采用复杂的优化算法来求解。常用的算法有两类，一类是搜索算法，另一类是迭代算法。

搜索算法的思路是：按一定的规则选择若干组参数值，分别计算它们的目标函数值并比较大小；选出使目标函数值最小的参数值，同时舍弃其他的参数值；然后按规则补充新的参数值，再与原来留下的参数值进行比较，选出使目标函数达到最小的参数值。如此继续进行，直到选不出更好的参数值为止。以不同的规则选择参数值，即可构成不同的搜索算法。常用的方法有单纯形搜索法、复合形搜索法、随机搜索法等。 迭代算法是从参数的某一初始猜测值θ出发，然后产生一系列的参数点，如果这个参数序列收敛到使目标函数极小的参数点娈，那么对充分大的N就可用N作为娈。迭代算法的一般步骤是： ①给出初始猜测值θ，并置迭代步数i=1。 ②确定一个向量v作为第i步的迭代方向。 ③用寻优的方法决定一个标量步长ρ ④检查停机规则是否满足，如果不满足,则将i加1再从②开始重复；如果满足，则取θ为值。 典型的迭代算法有牛顿－拉夫森法、高斯迭代算法、麦夸特算法、变尺度法等。

非线性最小二乘法除可直接用于估计静态非线性模型的参数外，在时间序列建模、连续动态模型的参数估计中，也往往遇到求解非线性最小二乘问题。