求解无约束优化问题的一种共轭梯度法

共轭梯度法是求解大规模约束问题的有效算法,鈑的选取构成不同的共轭梯度法.提出了求解无约束优化问题的一种改进的共轭梯度法,修正了鈑,并在wolf线搜索下证明其全局收敛性.     

一种新的Wolfe线搜索技术及全局收敛性

共轭梯度法是求解无约束优化问题的一种重要的方法,尤其适用于大规模优化问题的求解.通过应用计算βk的新公式求得一种新的共轭梯度法,在非精确线性搜索的Wolfe准则下证明新的共轭梯度法的全局收敛性,并且数值实验表明了这种线搜索下算法的有效性.     

一类非线性共轭梯度法的全局收敛性

研究求解无约束最优化问题的共轭梯度法,提出了一种新的共轭梯度类型公式,从而影响了算法产生的搜索方向,进一步影响了算法的效果,得到一类新共轭梯度法,证明了在Grippo-Lucidi线搜索下新共轭梯度法的全局收敛性.     

一类推广的共轭梯度法及其全局收敛性

共轭梯度法是求解非线性优化问题的一种重要方法.通过对共轭梯度法及其全局收敛性的分析,提出一个新的非线性共轭梯度公式,采用该公式和Wolfe非精确线搜索的方法是全局收敛的.文末的数值实验验证了算法是有效的.     

一类无约束优化问题的的共轭梯度法

共轭梯度法是求解非线性优化问题的一种重要方法,尤其适用于大规模优化问题的求解.提出一个新的非线性共轭梯度公式,采用该公式和Wolfe非精确线搜索的方法,使之全局收敛.经数值实验验证该算法是有效的.     

在Wolfe步长搜索下的一类新的共轭梯度算法

研究利用共轭梯度法求解无约束最优化问题。为了保证共轭梯度方向是目标函数的充分下降方向,对共轭梯度算法中的共轭梯度方向参数确定了一个取值范围并与Wolfe步长搜索相结合,提出了新的共轭梯度算法,使算法具有更好的收敛速度,特别是在求解大规模无约束最优化问题时,此算法只需要较小的存储。     

共轭梯度法和最速下降法的混合算法

将共轭梯度法与最速下降法有机地结合起来,构造了一种共轭梯度法和最速下降法的混合算法,并证明了该算法的全局收敛,混合算法既提高了共轭梯度算法的收敛速度,又解决了目标函数“性态不优”时,最速下降法难以求解的问题。同时也可以看到共轭梯度法与最速下降法仅仅是混合算法的特例。     

一种求解线性二阶锥规划的修正FR共轭梯度法

为求解线性二阶锥规划,介绍了一种修正FR共轭梯度法.给出线性二阶锥规划问题的KKT条件,利用F-B光滑函数将互补性条件光滑化,将KKT条件转化成一个与之等价的光滑非线性方程组,给出一个价值函数,将光滑非线性方程组转化为无约束优化问题,利用共轭梯度法求解无约束优化问题,得到原问题的最优解.证明该算法的全局收敛性.     

复共轭梯度法的结构

从复问题本身出发,对实值复变函数的优化问题引入了最优复搜索的概念,得到了最优复搜索的条件.给出并证明了二次优化问题的复共轭方向法与复共轭梯度法,并藉此给出了一般实值复变函数优化问题的复共轭梯度法.对复问题的直接推导与证明明晰了复共轭梯度法的数学结构.复共轭梯度法可以理解为是在实共轭梯度法中直接将实转置改为共轭转置得到的.     

超记忆梯度算法的全局收敛性

对无约束优化算法进行了研究。描述了最速下降算法、牛顿法、非线性FR共轭梯度法、非线性PRP共轭梯度法、非线性DY共轭梯度法等求解大规模无约束优化问题的有效算法以及精确线搜索、Wolfe线搜索、Armijo线搜索的搜索条件;着重研究了计算更为有效的适合求解无约束优化问题的超记忆梯度算法;在一类Wolfe型非精确线搜索条件下给出了一类超记忆梯度算法,并且在较弱的条件下证明了算法的全局收敛性,为求解大规模无约束优化问题以及各种算法的比较提供了参考。     

共轭梯度法全局收敛的一个充分条件

通过对不同共轭梯度法收敛性分析的研究,提出了共轭梯度法全局收敛的一个充分条件,分析了该充分条件的合理性,并给出一种带参数的混合共轭梯度法,证明了该方法在强Wolfe线搜索下满足该充分条件.数值实验结果表明:该算法是有效的.     

改进的共轭梯度法及其收敛性

共轭梯度法是求解大规模无约束优化问题的一种有效方法。针对算法的优劣主要依赖于步长 因子和搜索方向的特点,结合共轭梯度法的共轭性质,提出一种改进的可以控制步长因子的共轭梯度算 法。在建立算法的几个重要引理和全局收敛性定理后分别给出了证明。最后对算法进行了数值实验,实 验结果表明算法具有良好的收敛性和有效性。     

改进的共轭梯度法及其收敛性

共轭梯度法是求解大规模无约束优化问题的一种有效方法。针对算法的优劣主要依赖于步长因子和搜索方向的特点，结合共轭梯度法的共轭性质，提出一种改进的可以控制步长因子的共轭梯度算法。在建立算法的几个重要引理和全局收敛性定理后分别给出了证明。最后对算法进行了数值实验，实验结果表明算法具有良好的收敛性和有效性。     

修正的共轭梯度法在两种线搜索下的全局收敛性

针对参数βk的不同选取可以构成不同的共轭梯度法,给出了一类求解无约束最优化问题的修正的共轭梯度算法,这种算法能够在较弱条件下证明选定的卢。在每一步都能产生一个下降方向,且在Wolfe线搜索下具有全局收敛性．另外这种算法在另一种Wolfe搜索条件下,若搜索方向为下降时,也具有全局收敛性．     

An Inexact Halley''''s Method

An inexact Halley's method—Halley-PCG(preconditioned conjugate gradient) method is proposed for solving the systems of linear equations for improved Halley method either by Cholesky factorization exactly or by preconditioned conjugate gradient method approximately. The convergence result is given and the efficiency of the method compared to the improved Halley's method is shown.     

An Inexact Halley＇s Method

An inexact Halley＇s method-Halley-PCG（preconditioned conjugate gradient） method is proposed for solving the systems of linear equations for improved Halley method either by Cholesky factorization exactly or by preconditioned conjugate gradient method approximately. The convergence result is given and the efficiency of the method compared to the improved Halley＇s method is shown.     

修正Armijo线搜索下共轭梯度法的收敛性

为解决传统线搜索下没有全局收敛性,提出修正Armijo线搜索下共轭梯度法。通过估计目标函数导数的Lipschitz常数,能在每一步迭代中找到合适的步长,以保证全局收敛性,提高实际运算中的有效性。