新Armijo线搜索下的PRP共轭梯度法及其收敛性分析

优化算法研究,主要工作是给迭代点寻求可接受且有效的步长及可行的下降方向.在求解大规模无约束优化问题时,共轭梯度法被广泛应用.其中, Polak-Ribiere-Polyak方法 (简称:PRP方法)是众多共轭梯度法中数值表现相对较好的,但它在许多线搜索下并不具备全局收敛性,如何发挥PRP方法数值优良,而克服其收敛性差,是学者们致力探索的热点课题.本文提出新的PRP参数公式,并对Armijo线搜索方法进行修正,建立了新Armijo线搜索下的PRP共轭梯度算法,证明算法满足充分下降条件,并证明算法在适当条件下具有全局收敛性.     

基于Armijo型线搜索下的谱共轭梯度法

在WYL共轭梯度法的基础上,提出了一种新的谱共轭梯度法,并且证明了该方法在Armijo线搜索下具有充分下降性和全局收敛性.数值试验表明该方法是有效的。     

Armijo搜索下的谱共轭梯度法

基于Hager-Zhang提出的共轭梯度法,构造了一种新的谱风,证明了该方法不依赖于任何线搜索就具有充分下降性,并且在Armijo搜索下证明了算法的全局收敛性。数值试验表明,该方法明显优于谱DY、谱FR、谱PRP算法。     

修正Armijo线搜索下共轭梯度法的收敛性

为解决传统线搜索下没有全局收敛性,提出修正Armijo线搜索下共轭梯度法。通过估计目标函数导数的Lipschitz常数,能在每一步迭代中找到合适的步长,以保证全局收敛性,提高实际运算中的有效性。     

一类Armijo搜索下的记忆梯度法及其全局收敛性

通过构造新的βk,提出了一种新的无约束优化问题的记忆梯度算法,同时在Armijo线搜索下分析了该算法的全局收敛性,数值实验表明了新算法的有效性。     

修正的共轭梯度法在两种线搜索下的全局收敛性

针对参数βk的不同选取可以构成不同的共轭梯度法,给出了一类求解无约束最优化问题的修正的共轭梯度算法,这种算法能够在较弱条件下证明选定的卢。在每一步都能产生一个下降方向,且在Wolfe线搜索下具有全局收敛性．另外这种算法在另一种Wolfe搜索条件下,若搜索方向为下降时,也具有全局收敛性．     

一类基于Armijo线搜索的新的谱共轭梯度法

为了构造具有更好收敛性的谱共轭梯度法,根据已有的共轭系数β~*_k和β■,构造了一个新的共轭系数β■,从而给出了一个新的谱共轭梯度法。经过选取适当的谱系数,保证新方法在每次迭代时总能产生充分下降的搜索方向。该性质具有既不依赖所使用的线搜索,又不依赖目标函数凸性的优点。利用Armijo线搜索,在一般假设条件下,给出了该方法全局收敛性的证明。     

Wolfe搜索下广义共轭梯度法及其全局收敛性

指出了文献[10]中两类共轭梯度法的错误证明,提出了Wolfe搜索下一类以DY公式为上界的广义共轭梯度法,该算法在每一步不依赖于任何搜索自行产生充分下降方向,在适当的条件下证明了算法的全局收敛性.     

一个修正Liu-Storey共轭梯度法的全局收敛性

基于无记忆BFGS拟牛顿法结构提出一个新的修正Liu-Storey(LS)非线性共轭梯度法(简称MLSCG算法)。在精确线搜索下MLSCG算法化归为标准的LS共轭梯度算法。MLSCG算法产生的搜索方向不依赖于线搜索准则而具有充分下降性。新方法在一个Armijo型线搜索下具有全局收敛性。数值试验表明:对于多数算例,新算法比PRP、HS、LS算法具有更好的计算结果。     

一类新的下降算法及其全局收敛性

研究给出了一类新的求解无约束优化问题的下降算法．在无任何线搜索下,证明了新算法能够保证充分下降性,并且在采用Wolfe线搜索时,证明了新算法具有全局收敛性．大量的数值试验表明该算法是非常有效的,能够用于广泛的科学计算．     

精确一维搜索下几种共轭梯度法的分析比较

共轭梯度法是求解无约束非线性规划问题的一种重要方法．针对的几种计算公式。通过几个典型计算实例,对精确一维搜索下所述几种熊的几种计算公式所决定的算法的收敛效果进行比较,分析了它们的数值计算过程、收敛速度及全局收敛性的优劣．     

一个新的共轭梯度算法

针对许多共轭梯度算法的充分下降性都依赖于线搜索过程这一不足,给出了一个新的共轭梯度算法,并在步长搜索满足Zoutendijk条件下证明了算法的全局收敛性.     

一个HS和DY公式合成的新共轭梯度算法

提出一个基于HS和DY方法的新共轭梯度法展公式,证明了该方法在σ∈（0,1/3）的SWP搜索下全局收敛,数值试验表明该方法具有良好的数值结果。     

Wolfe线搜索下一类新的共轭梯度法

共轭梯度法是一类解决无约束优化问题的有效方法,尤其适用于大规模优化问题的求解。提出一族包含DY方法的新的共轭梯度法,并证明了该算法在Wolfe线搜索条件下具有全局收敛性,数值结果表明该算法是有效的。     

由Fletcher Reeves方法控制的一类优化算法在广义Wolfe线搜索下的收敛性

已有文献建立了一个广义Ｗｏｌｆｅ 线搜索模型, 并证明了ＦｌｅｔｃｈｅｒＲｅｅｖｅｓ 共轭梯度法在这一模型下的全局收敛性． 另有文献对由不等式｜ βｋ ｜ ≤βＦＲｋ 控制的一类无约束优化方法进行了研究, 证明了这类方法在强Ｗｏｌｆｅ 线搜索和已有文献建立的线搜索模型下的全局收敛性． 对由不等式｜ βｋ ｜ ≤βＦＲｋ 控制的方法进行更深入的研究, 证明了这类方法在已有文献的广义Ｗｏｌｆｅ 线搜索下的全局收敛性, 推广了已有文献的结果．     

改进的共轭梯度法及其收敛性

共轭梯度法是求解大规模无约束优化问题的一种有效方法。针对算法的优劣主要依赖于步长因子和搜索方向的特点，结合共轭梯度法的共轭性质，提出一种改进的可以控制步长因子的共轭梯度算法。在建立算法的几个重要引理和全局收敛性定理后分别给出了证明。最后对算法进行了数值实验，实验结果表明算法具有良好的收敛性和有效性。     

修正HS共轭梯度法的全局收敛性

针对PRP方法对一般的非凸函数在强Wolfe线性搜索条件下不收敛这一不足,给出了一种新的共轭梯度算法.在强Wolfe线性搜索下,所给公式满足充分下降条件,并在适当条件下证明了算法的全局收敛性.