改进的最速下降法—最好点最速下降法

提出了用最速下降法解无约束多变量最优问题时，存在一些特殊点，本文称为最好点，这些最好点的负梯度方向总是直指目标函数的中心，即最优点，因此通过最好点一次迭代就能得到最优点，阐述了如何搜索得到最好的计算过程和计算程序，这个改进的最速下降法－最好点最速下降法既保持了最速下降法的优点，又消除了其锯齿现象，提高了计算速度。     

工程优化中最速下降法的加速技巧

利用向量ε－算法对工程优化中的最速下降法作了改进，使其收敛速度由原来的一阶提高到二阶，同时保留了原方法结构简单、计算量少等优点．数值计算结果表明，改进后的最速下降法的确是一种有效的计算方法．     

工程优化中最速下降法的加速技巧

利用向量ε－算法对工程优化中的最速下降法作了改进，使其收敛速度由原来的一阶提高到二阶，同时保留了原方法结构简单，计算量少等优点，数值计算结果表明，改进后的最速下降法的确是一种有效的计算方法。     

理想化最速下降法及其逼近实例

已证明,当最速下降法的步长为系数矩阵特征值的倒数时,任意非奇异矩阵都可以在m步内收敛到精确解,这里m为系数矩阵最小多项式的次数。这是一种理想化的最速下降法。由于特征值的计算并不容易,因此只能用其近似估算值代替。分析了近似特征值获取方法并研究了其误差对迭代的影响,从而给出了逼近理想化的最速下降法的一般方法。作为一个例子,给出了一种高效的自适应循环最速下降法:每当求出最优步长h后,将算法变成定步长最速下降法并用该步长重复M步,当目标函数或梯度模反而变大时则放弃重复。这里,M可根据经验预先确定。该算法保证了目标函数值的单调下降性质。将上述结果推广至一般函数的无约束最优化,并对一些典型测试函数的计算表明:该算法的收敛速度优于共轭方法和变尺度法,内存需求则与共轭方法相当。     

共轭梯度法和最速下降法的混合算法

将共轭梯度法与最速下降法有机地结合起来,构造了一种共轭梯度法和最速下降法的混合算法,并证明了该算法的全局收敛,混合算法既提高了共轭梯度算法的收敛速度,又解决了目标函数“性态不优”时,最速下降法难以求解的问题。同时也可以看到共轭梯度法与最速下降法仅仅是混合算法的特例。     

基于最速下降法改进的人工蜂群算法

针对基本人工蜂群算法求解优化问题时存在收敛精度低、搜索盲目性大的缺点,提出一种基于最速下降法改进的人工蜂群算法.算法利用最速下降法简单、计算量小的特点,对基本人工蜂群算法中经过limit次更新后没有得到改善的蜜源进行更新,它结合了基本人工蜂群算法较强的全局搜索能力和最速下降法快速精确的局部搜索能力,能够有效避免基本人工蜂群算法中的某些盲目的无意义迭代.经过9个标准测试问题的仿真试验表明,所得的人工蜂群算法具有比基本人工蜂群算法更快的收敛速度和更高的求解精度.     

无约束优化问题的最速下降方向的步长计算

一般地, 无约束优化问题的最速下降方向的步长计算由近似估计得到。本文给出一种计算步长的方法, 此方法的优点为： 若在此下降方向上解存在, 那么新方法以较少的计算量确定解的存在区间（ 基于０－６１８ 法） ; 及在局部计算时, 用约２／３ 的一维差分Ｎｅｗｔｏｎ 法的计算量求得在下降方向上误差精度充分高的近似解（ 基于二次多项式逼近法） 。     

无约束优化问题的最速下降方向的步长计算

一般地,无约束优化问题的最速下降为方向的步长计算由近似估计得到。本文给出了一种计算步长的方法,此方法的优点为：若在此下降方向上解存在,那么新方法以较少的计算量确定解的存在区间（基于０．６１８法）及在局部计算时,用约２／３的一维差分Ｎｅｗｔｏｎ法的计算量求得在下降方向上误差精度充分同的近似解（基于二次多基逼近法）。     

无约束多变量问题最优化方法--最佳方向法

根据最速下降法,提出了无约束多变量问题新的最优化方法－－最佳方向法。所为最佳方向法指的是从初始点出发,确定某一搜索方向,沿着这个方向直接找到极值点。本文阐述了此方法的基本原理、计算过程和计算框图。此方法既保持了最速下降法的优点,又消除了其锯齿现象,有效提高了计算速度,与其它有关的这一类算法相比,最佳方向法也显示出计算简单、占用计算机内存窨少和收敛速度快的优点。     

用最速下降法设计的预测矢量量化器

本文用较为简单的最速下降法设计了一种固定系数预测矢量量化器,其性能与应用普通的LPC法设计的预测矢量量化器基本相同。计算机模拟结果表明:在矢量维数K=8,数码率为8kbit/s的情况下,用最速下降法设计的预测矢量量化器与基本矢量量化器相比,信噪比和量化语音质量均有明显改善。文中介绍了用最速下降法设计预测矢量量化器的具体方法,并就预测矢量量化器与基本矢量量化器两者在复杂度、信噪比和量化波形等方面进行了比较。     

基于BCC算法和最速下降法的RBF神经网络结构优化算法

为提高细菌群体趋药性(bacterial colony chemotaxis,BCC)算法优化后RBF神经网络(RBFNN)的泛化能力,提出了一种新的细菌编码方式。将隐层节点位置和相应的控制参数组成细菌,使RBFNN的两个参数同时得到优化;同时,在整体算法中融入最速下降法,利用其能快速收敛到极小点的特性,使算法速度得到提升。将此算法优化后的RBFNN用于IRIS和双螺旋分类问题,结果表明:算法速度提升了大约60%,同时泛化效果也得到提高。     

基于最速下降法的常州物流业优化问题研究

随着我国经济的快速增长,物流业逐渐发展成国民经济的新增长点。世界各国物流业的发展历史表明,现代物流与区域经济之间存在着密切的联系,两者相互促进、协同发展。物流是区域经济协调发展系统的重要构成要素,是区域经济协调发展系统形成与发展的一种主导力量。文章采用柯布-道格拉斯生产函数模型进行研究,并且运用最速下降法对城市农产品物流、工业品物流、进口货物物流、居民物流等在城市物流业中的发展趋势进行分析,从而确定城市物流业的发展方向,为常州市物流业优化提出合理建议。     

多模盲均衡算法的一种最速下降优化实现方法

盲均衡算法的传统实现方式大都基于随机梯度下降法,随机梯度法实现简单的代价是较慢的收敛速度和较大的稳态误差.文章基于实用性的考虑,采用批数据处理方式,给出了多模盲均衡算法的一种最速下降实现方法,该方法在每次迭代过程中不需要产生均衡器输出,而是直接利用接收数据的统计量和当前均衡器系数来估计代价函数的最速下降方向,具有收敛速度快,稳态误差小的特点;可以实现流水线式的实时处理,适合包长固定或可变的信号传输场合.     

一种最速下降的贪婪迭代算法

压缩传感应用于图像压缩重构的算法通常有凸优化算法和贪婪迭代算法两大类.一般而言,凸优化算法重构概率高、速度较慢,贪婪迭代算法具有较快的重构速度,但损失了重构质量.结合凸优化算法中的最速下降法及贪婪迭代算法中的正交匹配算法(OMP),提出了一种新的算法,并应用于一维信号和二维图像信号的压缩重构实验,且深入对比分析了不同降采样矩阵对新算法的影响.结果发现,对同一降采样矩阵,即使图像的纹理不同,新算法在重构质量及重构时间上都优于原始的OMP算法.     

对称矩阵填充的线性交替最速下降算法研究

研究了对称矩阵填充的相关算法.利用对称矩阵可对角化的性质,将对称矩阵简单因式分解.通过对每一部分求导数,找到最速下降方向.沿着最速下降方向结合非精确线性搜索方法求得对应的最优步长,进一步更新迭代后的矩阵.最后通过分析误差,精确地填充对称矩阵.理论上证明了算法的收敛性.并通过取不同的采样密度进行数值实验进一步验证了算法的可行性和有效性.     

关于Cauchy最速下降算法收敛速率的一个估计

文献[1]中指出,从任一初始点X_0出发,若将最速下降算法用于正定Hessian矩阵G的二次目标函数 f(X)=(1/2)X~rGX.则其生成的点列{X_k}满足或本文在[1]的同样假设下,证明了形式不同但收敛阶数相同的下述两个结果: 1).f(X_(k+1))=0(θ~(k+1). 2).‖X_(k+1)‖=0(θ~2)其中0<θ<1。即本文证明了下述两个重要的命题: 1).若将最速下降算法(以下简称SD算法)用于正定二次目标函数,则从任一初始点X_0出发进行迭代,其所得点列{X_k},当k≥0时,有其中,λ_1和λ_n分别为f(X)的对称正定矩阵G的最小和最大特征值。 2).若将SD算法用于正定二次目标函数,则从任意初始点X_0出发进行迭代,所得点列{X_k},当k≥0时,有     

最速控制问题中的Ляпунов方法

本文讨论了Ляпунов第二法在最速控制中的应用。从理论上分析了一类线性定常系统存在Ляпунов意义下最速控制解的条件,从工程实现角度讨论了Ляпунов意义下最佳开关面的问题,并以一个3阶伺服系统的模拟装置为例,对经典控制理论、极大值原理和Ляпунов方法等3种设计方案的实验研究结果作出了比较。     

多峰连续函数优化的一种混合算法

提出一种解决多峰连续函数优化的混合算法。该方法定义适当的适应度函数，使用遗传算法自动形成极值点领域种群，进行聚类分析，分别在单极值区域取最优个体为初始点，采用最速下降法进行快速寻优，在得到全局最优解的同时获得多个局部极值。计算仿真表明该方法有效且收收敛快、精度高。     

模糊模式识别神经网络预报模型的最速下降—共轭梯度算法及应用

在模糊模式识别神经网络预报模型基础上,提出了最速下降—共轭梯度结合的ＢＰ算法,并给出了算例。     

用相平面法设计最速开关线

文中介绍了用相平面法设计最速控制系统的方法.首先绘制系统偏差的相轨迹,从中选最优开关线,最后用偏差信号实现最优控制.