一种基于弱拟牛顿方程的单调梯度法的收敛性

基于弱拟牛顿方程,Leong W J等人提出了一种单调梯度法,该算法在每次迭代时利用对角矩阵逼近Hessian矩阵,使计算量和存储量明显减少,并且此算法对凸函数具有收敛性。在此算法的基础上,进一步研究了算法对于一般函数的收敛性,并证明了在一定的假设条件下算法仍具有全局收敛性、R-线性收敛性和超线性收敛性。     

一类广义拟牛顿算法的收敛性分析

根据提出的一种广义拟牛顿方程,推导出了一族广义拟牛顿校正公式,并给出了相应的广义拟牛顿算法。该算法具有很强的广泛性,它不仅包含了Zhang和焦宝聪提出的算法,还使得著名的B royden族成为它的一种特殊形式。实例证明:新的广义拟牛顿算法在一致凸的条件下具有整体收敛性和局部超线收敛性。     

Wolfe线搜索下一类新的结构拟牛顿算法

将结构正割法应用到拟牛顿算法中,利用目标函数的梯度信息和函数值信息,引入拟牛顿方程,采用Wolfe线搜索准则,给出了求解无约束优化问题的一个新算法,并在一定条件下证明了新算法的收敛性和超线性收敛性。     

一类求解无约束问题的拟牛顿算法的全局收敛性

提出一类更为一般的修改拟牛顿方程,从而推广了已有结论,同时给出了相应的修改BFGS算法,并将它与Armijo线搜索相结合.证明了在适当条件下该算法具有全局收敛性.     

极大极小问题的光滑信赖域拟牛顿法

利用函数逼近论的思想和数学规划最优解的稳定性理论,提出了一种求解非线性约束的极大极小问题的信赖域拟牛顿算法,并且该算法具有全局收敛性,初步的数值试验表明,对于该类极大极小问题,该算法具有良好的数值表现.     

基于BFGS公式的改进截断拟牛顿法在随机用户均衡问题上的应用

根据随机用户均衡问题的特点构造一种基于BFGS校正公式和Armijo线搜索的截断拟牛顿法。介绍截断拟牛顿方程的构造过程及其算法的具体步骤;针对随机用户均衡模型的特点给出算法的收敛性和两个需注意的问题,并将此算法应用于一个路网。数值算例分析表明:所构造算法在迭代次数和误差方面均优于截断牛顿法,改进截断拟牛顿法可以避免二阶Hessian矩阵的计算,还可以用于某些Hessian矩阵不正定问题的求解。     

具有三阶收敛的“牛顿类”迭代法

从求解非线性方程的经典牛顿迭代法出发,构造了"牛顿类"迭代公式,其中非零参数λ任意选取时迭代均收敛,给出了收敛性定理和误差方程,证明了它至少具有三阶收敛速度,且只要参数λ选取恰当,则可进一步提高收敛速度,数值实验验证了其收敛速度.     

一种大规模小波神经网络的拟牛顿学习算法

为解决大规模小波神经网络的优化问题,提出了一种快速的拟牛顿学习算法,即使用改进Wolfe线搜索的仅存储梯度向量拟牛顿算法．该算法每次迭代中最多计算两次梯度,并且计算中仅需存储递度向量,避开了近似Hessian矩阵的存储问题,从而大大降低了计算量和存储需求．仿真验证了算法的有效性和可行性．     

潮流计算中牛顿法与拟牛顿法比较研究

牛顿-拉夫逊法是当前广泛采用的电力系统最优潮流的计算机算法,其收敛性好,但该法对初始值要求比较严格。拟牛顿法,它减小了牛顿法的计算量,同时保留了牛顿法的优点,在综合衡量一个算法各项指标的情况下,拟牛顿法的声誉很高。最后通过一个算列,验证了在潮流计算中拟牛顿法比牛顿法更具优越性。     

结合锥模型算法的修正多步拟牛顿法

提出一种解决维数较大的无约束优化问题的混合算法.该算法采用了一个开关用于切换修正多步拟牛顿算法和锥模型算法.结果表明,该算法既保留了拟牛顿算法的快速有效性,又将适用范围扩大到了二次模型逼近效果较差的函数,且对于大多数维数较大的函数都是切实可行的.     

基于新拟牛顿方程的拟牛顿法的全局收敛性分析

研究了基于新牛顿方程的Broyden类拟牛顿法的全局收敛性,得到了与传统拟牛顿方程的相应结果完全相同的结论．     

修正的两步BFGS算法的全局收敛性

拟牛顿方法在无约束优化中起着核心的作用。修正的两步拟牛顿法是在两步拟牛顿法基础上,构造一个修正的带有向量参数的多步拟牛顿方程。主要讨论在目标函数一致凸的条件下,基于该修正方程的两步BFGS算法的全局收敛性。     

基于新拟牛顿方程的改进BFGS方法

针对无约束最优化问题,在已建立的BFGS方法基础上,证明了改进的BFGS方法的收敛性.基于前人的改进的BFGS方法,同时结合有关结论提出一种新的BFGS方法.通过选择适当的参数,证明了改进的BFGS方法对于一类更广的搜索准则保持局部收敛性,在Wolfe搜索准则下方法还具有超线性收敛性.最后通过具体的数值试验结果说明其优越性.     

一种基于锥模型的非单调拟牛顿信赖域方法

将非单调技术与锥模型拟牛顿信赖域方法相结合,提出了一种基于锥模型的非单调拟牛顿信赖域方法。讨论了锥模型信赖域子问题中参数γk在不同情况下的选取,证明了利用所构造的参数γk,在一定条件下,尤其是当目标函数值非单调时,校正公式中Bk＋1,仍保持正定性。数值实验表明算法是有效的。     

基于新拟牛顿法的自适应均衡技术

为了解决现代通信信道的码间干扰问题,提出了一种基于新拟牛顿法的自适应均衡算法,该算法用对称正定Hesse矩阵代替传统LMS/Newton法自相关矩阵的逆估计,克服了传统自相关矩阵估计误差对算法收敛性能的影响.信道均衡仿真结果表明,该算法具有较快的收敛速度和较低的误码率.     

一类新拟牛顿方程的非单调信赖域算法

利用新拟牛顿方程及其修改BFGS校正公式,将非单调Wolfe线搜索技术与信赖域相结合,提出了一类拟牛顿非单调信赖域算法。在较弱的条件下,证明了此算法的全局收敛性。数值结果表明该算法是有效的。     

拟牛顿法在谱线分峰中的应用研究

应用拟牛顿法对离散数据谱线进行分峰处理,从而更精确地分析被测物质组分及组分含量.应用最小二乘法对离散数据曲线进行曲线拟合,用C#创建数值计算类,并通过拟牛顿法求解非线性方程组,实现对离散数据曲线的分峰处理,研究非线性方程组变量迭代初始值误差和迭代参数值对迭代计算结果的影响.通过对离散数据曲线进行分峰处理,得到了独立的子峰Lorentzian函数及其峰高、半高宽、峰位,并得到了非线性方程组变量迭代初始值误差和迭代参数值对迭代计算结果的影响规律.结果表明,对被测物质离散数据谱线作分峰处理,可更准确计算被测物质组分及组分含量,有较大实际运用价值.