一个具有充分下降性的共轭梯度法及其全局收敛性

ｌ（）一ｇｙ ｌ Ｉ ｙ ， ｘｙｅ Ｉｘ ｇ （）ｌ Ｉ ｌＶ ， Ｕ ≤Ｌｘ— ｆ
本文步长 Ｏ 由强 Ｗｏ ｅ ｌ ｌ 准则得到： ｆ
＋ ｄ ）≤ ）＋６ Ｉｄ ｇ ＾ （） １
Ｉ ｒ ｌ ¨Ｔ ｌ ｇ ｄ ≤一 ｋ 一
其中 ０＜６＜ ＜１ 求解无约束优化问题的共轭梯度算法 ：
１
，ｒ ｏ
口。
＜
１则存在常数 ｃ ≥。 ≥。 使得 ｃ ≤
，
≤ｃ
≤
≥ Ｃ（ Ｃ ≥０ 时 ， ） 即充分下降条件成立．
ｇ１ ｌ
ｇ １ 一 ｄ ｌ
一
ｍ
＝
，
ｌ １
１
（）当 ：Ａ ∞ ＋Ａ 朋 ：Ａ ｉ ： 。
ｇ １ ｔ １ 一 ａ， 一
由 。ｅ 强Ｗ ｌ准则（）（） ｆ １， 求得， 有∑ ｌⅡＩｌ ＜ ∞ ２ 则 ≥Ｏ ｌ ｌ ＋
收稿 日期 ：２ １ ０ ０ １— ６—１ ３ 通讯作者 ：冷晔，ｚａｇｕｎｕ ｏ ． ｏ ｈｎｙａｆ＠ｔ ｃｒ ｍ ｎ
第４ 期
张劲松 ，等 ： Ｈ Ａ 明 Ｐ判断矩阵次序一致性检验的三角形法
≤
Ｑ Ｌ 。一
一
ｌｋ Ｉ ｒ ｇｄ ｌ ｌ ≤ ｇｌ
≤ Ａ１
［ ＋
ｇｋ １ ｄ １ － ｒ
＝
一
。
｛ Ｉ
ｌ ． ＂Ａ 二 Ｉ ｇ ＋２ ｔ ｒ
ｇ １ 一
１
２
锗ｄ ｒ
由（ ）式和 上式得 ： ３
一
一三 ＝ ＝
一１ ｇ —ｇ
注
：
证
・ ９・ ３ห้องสมุดไป่ตู้
ｇ—ｇ 此关系式称为 ｚｕ ｎ ｉ 条件，见文献 ［ ］ ｏｔ ｄ ｋ ｅ ｊ ２。
定理 １ 设数列 ｛ ｝ ｛ ｝ ， 由以上算法产生 ， ｌ ｅ 若 ＜ 『 一 一 一 步长 由强 ｗ。ｆ 准则得到 ， Ａ １ ０ ≤
，
．
Ａ２ ＜
，
＋
＿ １＋
２ ． ｘ ｃ＇： ） ｍａ（】ｃ）
［２ ｘ， 毫 ≤ ＋．（２ １ （２ ［２ｍｃ） ＋… ｃ） ］ ｃ １ ａＪ］ ｘ＇ ｃ
于是有 ： ＿ ｔ ：＋∞ 矛盾 ， 以有 ： ｍｎＩ ＝ｏ Ｌ Ｉ 所 ｌ ｇ ｌ ｉｉ Ｉ Ｊ ｈ
，
３数值 实验
Ｓｅ 一个初始 点 ｘｅ ８ （ ，）Ａ ｔｐ１选 ｏＲ ，ＥＯ １ ， １≥ ＯＡ ，２≥ ０ 置 ｄ ， ｏ＝一ｇ ｏ＝一 ｖ （０ ，：＝０ ｆＸ ）后 ．
（） ２
Ｓｅ Ｉ ｌ 占停 ， ｔ ２若 ｌ ｌ ， 否则转下一步 ｐ ≤
Ｓｐ ｔ ｅ ３由强 Ｗｏ ｅ ｌ 准则（ ） （ ） ｆ １ ，２ 求得 ， ＝钆 ＋ ｄ ＾
用反证法， 假设定理 ２ 不成立， 那么存在一个常数 ７＞ ， ｌ ｌ ， 一 ｄ 两边平方取 ０使Ｉ＾≥ｙ 由ｄ ＝ ｇ ＋ ｇｌ
模并除以ｌ Ｉ得 ： Ｉ ｌ
ｌ ＩＩ ｄｌ
１
一
茸 （ ｄｌ ｄ一 卢 ｌ ） ． ｌ １
＋ ］
＋
＋
Ｉ， Ｉ ｄ＿ Ｉ ，２
关键词 ：无约束优 化 共轭梯度 法 全局 收敛性
中图分类号 ：０２． 文献标识码 ：Ａ 文章编号 ：１４ ９ ５（０１ ４ ０ ８ （３ ２１１ ６ —５ ２１）０—０ 一 ｏ） ７ ４ ６ 考虑 无约束 优化 问题
ｍ ｎ（ ）ｘＲ ， ｉ ， “其中ｆＲ ＿ Ｒ Ｅ ｆ ｅ ： ＋ Ｃ 构造迭代算法 ‰ ＝ ＋ ｌ 其中 ｄ 为搜索方向 ， 为搜索步长。 ＋ Ｏｄ ， 对 和 ｄ 的不同选择就构成 了不
丢 标 数满假 （和设６则 算 产 的代 列 ： 目函 厂足设。 假 （， 法 生 迭点 有 ） ）对
ｌ ｆ Ｉ ＝ｏ ｉｉ ｌ Ｉ ｍ ｎｌ ｌ ｇ
ｈ
证明： 由引理 １ ４ 式 ， 和（ ） 我们有：
＜＋∞ ㈤
：
（） 可 为 ∑ ÷ ＜ ∞ ５式 写 ： ＋
七 ＝０
ｇｋ ｄ ｒ
ｉ ＝０
（ １ Ａ ∑ （：）≤ ｌ 一 一 ） Ａ Ｉ
≤ ２ 一１＋Ａ ）一（ （ １ 一ｌ＋Ａｏ） （ ２ ‘ １ｒ ∑ ） Ａ
＝０
≠
则 ：１≤ ｃ （ｉ ｉ ）
ｇｋ ｄ ｒ
（ 一１＋人 ） １—２ ２ １ （ Ａ ）
ｌ≤
一
个 有 分 降 共轭 法 其 局 敛 具 充 下 性的 梯度 及 全 收 性
冷 晔
（ 九江职 业大学 江西九江 ３２ ０ ） ３３ ０
摘要：本文提 出了一个新的共轭梯度算法。该法具有充分下降性 ，在强 ｗｏ 线搜索
下该算法具有全局收敛性，数值试验表明该算法具有 良好的数值结果。
选取以下算例对本文提 出的 公式构造的共轭梯度算法进行数值实验 ：
例 １ （） ＝ ＋ ２＋２３ ４ １ ２ ｘ２＋ ２—５ ＋ ）一２ｘ （ ｌ ２ １３＋７４ ｘ
侈Ｉ ： ）： （ ＋ｌ ｘ ） ！ （ ２ ， Ｏ ， ＋５ ４ ＋（ ２—２ ３ ＋１ （ １ ４ （ １一 ） ｘ） ０ｘ 一 ）
计算过程参数如下 ： ＝０ １ ＝０４ Ａ ＝１Ａ ．， ． ， １ ，２＝０ ５ ．
数值实验结果如上表 ，由此可见，笔者提出的 公式构成的共轭梯度算法是有效的．
参考 文献 ：
［ ］席 少霖． １ 非线性最优化方法 ［ ．北京 ：高等教育 出版社 ，１９ ． Ｍ］ ９２ ［ ］戴或虹 ，袁亚湘．非线性共轭梯度法 ［ ．上海：上海科技 出版社 ， ００ ２ Ｍ］ ２０ ．
同的算法。０ ６ 年代 ，ｌ ｅｈｒ Ｆｅ ｃｅ 等… 提出一种共轭梯度算法 ， ｔ 其基本结构是： ｇ ＋３ ¨ ， 选择不同 ｄ ＝一 ／ ｄ 当 。
的公式时就得到不同的共轭梯度算法。 几个代表性的性公式是：
朋
＝ ， ＝
册
＝
筹
∞一 ＝
共轭梯度法适于求解大规模无约束优化问题．
一
１ 一 Ａｌ ＋ Ａ２
ｇ １ 一 ｄ
一
Ｉ 』
时， 有
≤一
皆 『
（２ ‘ Ａ ）
ｉ ０
∞
则 ： Ａ ， ＜ 当 ＜ Ａ
（－ ）（ ≤ （ １＋Ａ ）一（ １＋Ａ ） ＿ Ａ毫Ａ Ｉ 一 １ 一 １ ∑ １１＝２ ｌ ≤２ Ｏ １ ｉ ｇ ｋ
，
所 以 ｃ 三 ０ｃ ０ １三 ，２≥ ＝
・ ． ．
定 理 １成立 ，
２全 局收敛 性证 明
・
４ ０・
九江学 院学报 （ 自然科学版 ）
２ １ 年第 ４期 ０１
定 ２ 数 ｛｝ ｝ 以 算 产 ，长ｃ 强 。准 得 ，Ａ＜ ， Ａ＜ ＜ 理 设 列 ， 由 上 法 生步 ０ ｗｌ 则 到设 言０ ， ｛ 由 ｆ ｅ ≤
１算 法与 性质
本文总假设 目 函数满足以下假设 ： 标
假设（ ） ｏ 水平集 ＝（ｅ 厂 ）≤ｆｘ） ｆＦ －其中‰ 为初始点 ｘＲ ｌ （ （。Ｆ －￣ ，
（ ）在水平集 的一个邻域 ｕ内 ｂ 连续可微 ， 其导数函数 ｇ 满足Ｌｐｅｉ 条件 ， ｉｓ ｔ ｈｚ 即存在常数 Ｌ＞０使 ： ，
（ 责任 编辑 李 平）
Ｓｅ ｌ ＋Ｉ ８ ， ， ｔ ４若 １≤ 停 否则 计算 ｄ ＝一 ＋ ＋ ＋ ｐ ｇ ｌ ， １＝ｍｎＡ ＋ Ｄ＋ 朋， 朋） ｄ ｉ｛ １ １ Ａ ｃ ／ ３
Ｓｅ ｋ ｔ ５置 ：＝ ＋ ， Ｓ ｐ． ｐ ｋ １ 转 ｔ３ ｅ 引理 １ 目 函数满足以上假设条件，考虑一般方法 ＋ ＋ ｄ ， 设 标 ＝ 其中以满足 ｒ ， ｇ ＜０ 步长
，
（ １一Ａ ） １—２ ２ｒ ｌ （ Ａ ｏ） 令ｃ １＝
有 ＇ｌ ｃ － ≥ ０， ２≥ Ｃ
０
（ ４）
＝ 朋 时 ， 有 ：。≤ 亦 ｃ
１一 ｈ
＇ ｃ
此时 ，
ｌ 一 ２ｏ ＂＋
Ｃｌ ＝
１一 １
见文献［ ］ ｌ 页。 ２第 ９
・
．
’
＜
时，
ｇｋ ｄ ｒ
由ｄ ＝一ｇ ｄ 得 ： ＋
而
一
ｌ ｌ
喁
镥
＋： Ａ
ｒ
一 一
（） ３
ｇｒ¨ ｌ ｋ ｄ ＝
入
ｒ
—
Ｉ Ａ ｌ Ｉ ：
ｄ ｌ ｇＩ １ 一
一
＋
．ｇｄ １ Ａ ］ ￣Ｉ ｇ ｋ－≤ｌ Ｔ ｒＩ 【 】Ａ Ａ ｇｋ一 一 ＋ｔ
２ １ 年第 ４期 ０１ Ｎ ． ０ ｏ４，２ １ １
九 江 学 院 学报 （ 自然科学版 ） Ｊｕ ａ ｏ ｊｊ ｎ ｎ ｅｓｙ （ ａ ｒ ｃ ｎｅ） ｏｒ ｌ ｆｉ ｉ ｇＵ ｉ ｒｉ ｎｔ ａ ｓｉ ｃｓ ｎ ｕ ａ ｖ ｔ ｕｌ ｅ
（ 总第 ９ ５期） （ｕ ｏ９ ） Ｓ ｍ Ｎ ．５