无约束非线性优化问题的混合LS-CD谱共轭梯度法

为寻求收敛性质和数值表现具佳的无约束优化算法,利用共轭梯度法和含有两个方向调控参数的谱共轭梯度法,结合LS方法与CD方法给出混合的共轭参数和相应的谱参数,建立采用标准Wolfe线搜索的谱共轭梯度算法,证明了算法满足下降性和全局收敛性,数值试验显示算法是有效的,适合于求解大型无约束非线性优化问题.研究结果表明:谱共轭梯度法两个参数的适当构造有利于降低算法的收敛条件,增强算法的适用性.     

一个充分下降LS型共轭梯度算法的全局收敛性

共轭梯度法是求解大型无约束非线性优化问题的一种常用方法,在应用中通常以负梯度方向作为其自动重启方向. 该文在LS共轭梯度法的基础上,结合一种新的自动重启方向,证明了算法的自动充分下降性和在强Wolfe线搜索下的全局收敛性,给出的数值试验结果表明算法是有效的.     

一种修正PRP共轭梯度法的全局收敛性

PRP共轭梯度法是众多求解无约束优化问题的共轭梯度法中数值效果表现最好的算法之一.提出一种修正的PRP共轭梯度法,该算法始终产生充分下降方向,并且该充分下降性的产生不依赖于任何线搜索.在一定的条件下,证明了该算法在Armijo型线搜索下求解无约束优化问题时具有全局收敛性.最后,给出了相应的数值结果,证明了该算法的有效性.     

非线性无约束优化问题的新共轭梯度法

在DY共轭梯度法的基础上,给出一个新的共轭梯度法公式,在精确线搜索下该公式等价于DY公式.建立了基于新参数公式并采用Wolfe线搜索的共轭梯度算法,证明了算法满足下降性和具有全局收敛性,初步的数值实验结果表明该方法是有效的,适合于求解非线性无约束优化问题.     

几何规划中修正的DY共轭梯度法

利用几何规划的特点将无约束正定式几何规划问题转化为无约束的非线性凸规划问题.共轭梯度算法是求解无约束非线性规划的一种重要且非常有效的算法之一.在DY共轭梯度算法的基础上为无约束正定式几何规划设计了一种共轭梯度算法.该算法在每一次迭代时,均可保证搜索方向的充分下降性,并在Wolfe线搜索下,证明了算法的全局收敛性.     

一种线搜索下DY共轭梯度法的全局收敛性

利用王长钰等人提出的一种新型线搜索条件对Dai-Yuan非线性共轭梯度法进行了研究。根据这一新型的线搜索条件,结合DY共轭梯度法的方向计算公式,我们在文中提出了一个求解非线性无约束优化问题的算法。当搜索方向为下降方向时,给出了算法的全局收敛性结果及证明过程。     

一类Armijo搜索下新的共轭梯度法及其全局收敛性

为有效求解大规模无约束优化问题,提出了一类新的混合共轭梯度法.该方法在每步迭代中都不依赖于函数的凸性和搜索条件而自行产生充分下降方向.在适当的条件下,获证了在Armijo搜索下,即使求解非凸函数极小化的问题,算法也具有全局收敛性.同时,数值实验表明所提算法可以有效求解优化测试问题.     

修正的HS共轭梯度算法的全局收敛性

对求解无约束优化问题的共轭梯度法中的方向参数给定新的区间取法,将HS共轭梯度参数限制在此区间上,保证搜索方向是目标函数的充分下降方向,在此基础上提出了修正HS共轭梯度算法(MHS),并在较弱的条件下讨论了新算法在广义Armijo步长搜索下的全局收敛性.数值试验结果表明,新算法比广义Armijo步长搜索下的FR、PR、HS共轭梯度算法有效.     

一个新的共轭梯度类型方法

给出了一种新的求解非线性无约束优化问题的共轭梯度法,证明了该方法对相应的算法具有全局收敛性,同时还证明了该方法在强Wolfe线搜索下具有充分下降性.并且该算法给出了比较好的数值结果.     

修正LS谱共轭梯度法及其收敛性

提出一个无约束优化问题的修正LS谱共轭梯度法,在Wolfe线搜索下算法具有下降性和全局收敛性,初步的数值实验结果表明该方法是有效的,适合于求解非线性无约束优化问题．     

一类修正的共轭梯度法及数值试验

本文提出了一类求解无约束优化问题的修正的HS共轭梯度法.该算法每步都可产生一个充分下降方向,并且在适当条件下,证明该算法在非精确搜索下全局收敛.最后通过数值试验结果表明该算法的有效性.     

一类混合的FR-PC共轭梯度法及其全局收敛性

提出了一种混合的FR-PC共轭梯度法,该法每步迭代都可自动产生一个充分下降方向.分别在Wolfe搜索和固定步长公式下证明了算法的全局收敛性,数值实验说明算法是有效的.     

强Wolfe-Powell线搜索下共轭梯度法的全局收敛性

给出一类求解非线性无约束优化问题的共轭梯度新算法。 在强Wolfe-Powell线搜索下所给公式具有充分下降性, 所给该新算法具有全局收敛性。     

一种修正的三项PRP共轭梯度法

为了更有效求解一类大规模无约束优化问题,克服其他算法普遍存在的算法较为复杂,存储量大和计算机编程难等不足,在传统三项PRP共轭梯度法的基础上,结合近年来关于三项共轭梯度法和新型线搜索的研究成果,定义了一种新的搜索方向,并采用一种新型的线搜索构建了算法,证明了其具有自动充分下降和信赖域的性质,并在适当的条件下证明了其全局收敛性。数值试验结果表明,在求解一类大规模无约束优化问题上新算法比传统三项PRP共轭梯度法更具有竞争性。具有良好收敛性质的新算法为解决一类求解大规模无约束优化问题提供了更高效的算法依据。     

一种新的混合共轭梯度算法

给出了一种新的求解无约束优化问题的混合共轭梯度算法,该算法的搜索方向下降性不依赖于任何线搜索条件,并在Wolfe-Powell线搜索条件下证明了该算法具有全局收敛性,同时还给出了比较好的数值结果。     

等式约束下的共轭梯度算法

为了寻找求解大规模无约束非线性优化问题的一种有效方法,提出了一种等式约束下新的共轭梯度算法,该算法利用广义消去法将约束优化问题转化为无约束优化问题.并证明了该算法具有全局收敛性,同时还证明了该算法在强wolfe线搜索下具有充分下降性.     

一类具有充分下降性的DL共轭梯度法

针对无约束优化问题,利用两项共轭梯度法(DL方法)去逼近改进的HS三项共轭梯度法,提出了改进的DL共轭梯度法即MDL共轭梯度法.该方法相对于DL方法具有一个更好的性质,即该共轭梯度法的搜索方向不依赖任何线搜索就可满足充分下降条件,理论上证明了该方法在Wolfe线搜索条件下对一般函数具有全局收敛性.     

求解非光滑优化问题的修正HS三项共轭梯度法

为了提高大规模非光滑优化问题的求解效率,克服其他方法存储需求大、算法复杂等缺点,提出求解非光滑优化问题的一种修正HS共轭梯度算法。在经典HS三项共轭梯度法的基础上提出一种新的搜索方向,并利用Moreau-Yosida正则化技术和Armijo-type线搜索技术进行设计。新算法满足充分下降条件,搜索方向属于信赖域,在适当条件下证明了新算法全局收敛。初步的数值实验表明新算法在求解非光滑无约束优化问题方面比LMBM方法更有效。新算法不仅具有较好的收敛性质,而且数值表现良好,为更加高效地求解非光滑优化问题提供了新的方法。