共轭梯度法的研究

稳定双共轭梯度法

稳定双共轭梯度法（Stabilized BiConjugate Gradient Method，简称SBiCG）是一种解决线性方程组问题的迭代法。在数值计算中，解决大规模线性方程组的问题是非常常见和重要的，因此研究和发展解决线性方程组的迭代算法也是很有必要的。

SBiCG方法是对传统的双共轭梯度法（BiCG）的改进，主要是为了提高算法的稳定性和收敛性。在BiCG方法中，由于两个反向方向的向量可能相互“干扰”，导致算法出现振荡现象，从而导致算法不能收敛。而SBiCG方法通过增加一个平滑因子，将两个反向方向的向量“平滑”起来，从而达到提高算法稳定性和收敛性的目的。

SBiCG算法与BiCG算法在并行计算上没有太大差别，但是在迭代次数和算法收敛速度上，SBiCG方法明显优于BiCG方法。因为SBiCG方法加入了平滑因子的概念，使得算法的稳定性和收敛性有了很大提高。在实际应用中，SBiCG方法已经广泛应用于矩阵计算、图像处理、有限元分析等领域中。

最后，需要指出的是，SBiCG方法虽然较BiCG方法在稳定性和收敛性方面更加优秀，但是其计算量较大，需要较高的内存和计算资源。同时，在实际应用中，也需要根据不同的问题特点和计算资源来选择适合的迭代方法。

目标函数极值求解的几种方法

题目：2221122minxx，取初始点Tx3,11，分别用最速下降法，牛顿法，共轭梯度法编程实现。

一维搜索法：

迭代下降算法大都具有一个共同点，这就是得到点kx后需要按某种规则确定一个方向kd，再从kx出发，沿方向kd在直线（或射线）上求目标函数的极小点，从而得到kx的后继点1kx，重复以上做法，直至求得问题的解，这里所谓求目标函数在直线上的极小点，称为一维搜索。

一维搜索的方法很多，归纳起来大体可以分为两类，一类是试探法：采用这类方法，需要按某种方式找试探点，通过一系列的试探点来确定极小点。另一类是函数逼近法或插值法：这类方法是用某种较简单的曲线逼近本来的函数曲线，通过求逼近函数的极小点来估计目标函数的极小点。本文采用的是第一类试探法中的黄金分割法。原理书上有详细叙述，在这里介绍一下实现过程：

⑴ 置初始区间[11,ba]及精度要求L>0,计算试探点1和1，计算函数值1f和1f，计算公式是：1111382.0aba，1111618.0aba。令k=1。

⑵ 若Labkk则停止计算。否则，当Kf>kf时,转步骤⑶;当Kfkf时,转步骤⑷ 。

⑶ 置kka1,kkbb1,kk1,1111618.0kkkkaba,计算函数值1kf,转⑸。

⑷ 置kkaa1,kkb1,kk1,1111382.0kkkkaba,计算函数值1kf,转⑸。

⑸ 置k=k+1返回步骤 ⑵。

1. 最速下降法

实现原理描述：在求目标函数极小值问题时,总希望从一点出发,选择一个目标函数值下降最快的方向,以利于尽快达到极小点,正是基于这样一种愿望提出的最速下降法,并且经过一系列理论推导研究可知,负梯度方向为最速下降方向。

关于梯度、散度与旋度的探讨

中文摘要

本论文主要介绍了梯度、散度与旋度的概念以及性质，研究了它们的一些应用，其中包括共轭梯度法、斯托克斯定理等等。在此基础之上，我们又进而深入探讨了它们之间的联系，例如梯度场和旋度场的两个重要性质、亥姆霍兹定理等等，同时，麦克斯韦方程组对散度和旋度的应用有了进一步的诠释。

关键词：哈密度算子；梯度；散度；旋度；共轭梯度法

Discussion On The Gradient, Divergence And Curl

ABSTRACT

This paper describes the gradient, divergence and curl of the concept and nature of

some of their applications, including conjugate gradient method, Stokes Theorem and so on.

On this basis, we also discussed in detail the links between them, such as gradient and curl

field of the two important properties, the Helmholtz Theorem, and so, while Maxwell's

equations for divergence and curl The application has been further interpretation.

KEY WORD: Hamilton operator degree;Gradient; divergence; rotation; conjugate gradient

method.

第一章 前言 ............................................................................................................................................ 1

共轭梯度法

1.算法思想：

共轭梯度法是利用目标函数梯度逐步产生共轭方向作为线搜索方向的方法，每次搜索方向都是在目标函数梯度的共轭方向，搜索步长通过一维极值算法确定。

2.算法步骤：

用共轭梯度法求无约束多维极值问题min(),nfxxR的算法步骤如下：

（1） 给定初始点(0)x，及精度0；

（2） 若(0)()fx，停止，极小值点为(0)x，否则转步骤（3）；

（3） 取(0)(0)()pfx，且置0k；

（4） 用一维搜索法求kt，使得()()()()0()minkkkkktfxtpfxtp，令，(1)()()kkkkxxtp，转步骤5；

（5） 若(1)()kfx，停止，极小值点为(1)kx，否则转步骤（6）；

（6） 若1kn，令(0)()nxx，转步骤（3），否则转步骤（7）；

（7） 令(1)(1)()()kkkkpfxp，2(1)2()()()kkkfxfx，置1kk，转步骤（4）。

3.算法源程序：

#include

#include

#define N 10

#define eps pow(10,-6)

double f(double x[],double p[],double t)

{

double s;

s=pow(x[0]+t*p[0],2)+25*pow(x[1]+t*p[1],2);

return s;

}

/*以下是进退法搜索区间源程序*/

void sb(double *a,double *b,double x[],double p[])

{

double t0,t1,t,h,alpha,f0,f1;

int k=0;

t0=2.5; /*初始值*/

h=1; /*初始步长*/

alpha=2; /*加步系数*/

f0=f(x,p,t0);

t1=t0+h;