LP鞍点共轭梯度法的研究与实现

在线性规划问题中,为了提高算法的求解速度,快速得到最优解。对鞍点算法,共轭梯度法进行了深入研究与分析。针对鞍点算法在逼近鞍点时收敛速度变慢的缺陷,将计算比较简单且有限步迭代即可收敛的共轭梯度法成功的应用于鞍点算法中形成了一种新的算法—鞍点共轭梯度算法。以c 为开发工具,在计算机上实现了该算法,并编成一个解题系统能够快速求解线性规划问题。实验结果表明相对于鞍点算法,用鞍点共轭梯度算法计算,解题时间效率明显提高。     

基于自然梯度算法及其改进算法的盲源分离

自然梯度算法是盲源分离的重要方法,本文在介绍分析自然梯度算法基础上,将共轭梯度和自然梯度相结合改进了自然梯度算法的学习规则,通过两种算法的比较表明,基于共轭梯度改进的算法在性能和分离效果上都优于自然梯度算法。     

Armijo型线搜索一个修正LS共轭梯度法的全局收敛性 (运筹学与控制论)

提出一个新的修正Liu-Storey共轭梯度(MLSCG)算法。在精确线搜索下MLSCG算法化归为标准的Liu-Sto-rey(LS)共轭梯度算法。MLSCG算法产生的搜索方向不依赖于所使用的线搜索准则而具有充分下降性。本文证明了MLSCG算法在一个Armijo型线搜索下具有全局收敛性。数值试验表明,对于多数算例MLSCG算法比PRP、HS、LS等算法具有更好的计算结果。     

不完全左共轭梯度法及其数值表现

由于左共轭梯度算法没有短迭代公式,因而计算左共轭梯度方向的代价会随着迭代次数的增多而不断提高.为了节约存贮量、减少计算成本,有效的不完全左共轭梯度技巧显得非常必要.本文介绍两种不完全左共轭梯度的基本算法:有限内存左共轭梯度法和重开始的左共轭梯度法,并从不同角度对两种方法进行数值分析.此外,我们还给出相应的块左共轭梯度算法的不完全格式,也恰好是克服不完全左共轭梯度法中断的一个有效技巧.     

广义Armijo步长搜索下的共轭方向算法及其收敛特征

对无约束非线性规划问题给出了一个广义Ａｒｍｉｊｏ步长搜索下的共轭方向算法，并研究了算法的收敛性及其收敛特征。     

利用记忆梯度法改进的变步长恒模盲均衡算法研究

针对传统恒模盲均衡算法收敛速度慢、固定步长条件下收敛速度和收敛精度之间存在矛盾的缺陷,提出了一种利用记忆梯度法改进的变步长恒模盲均衡算法。用记忆梯度算法替代最速梯度下降算法实现对恒模盲均衡中均衡器权值的调整,充分利用当前和前面迭代点的梯度信息,同时利用梯度信息变化率作为学习步长调整因子。新算法有效地提高了算法收敛速度,与共轭梯度法和拟牛顿法等改进算法比较,具有较低的计算复杂度和更好的均衡性能。计算机仿真证明了这一算法的有效性。     

修正的HS谱共轭梯度方法

本文研究了无约束全局优化问题的求解问题,结合谱梯度算法的优点给出了一类求解该问题的HS谱共轭梯度算法。在这类算法中我们利用非精确的线搜索,得到了一些算例,并给出了计算结果和典型算法的一些比较。     

共轭下降法

提出了一种求解ｍｉｎ ｆ（ｘ）的下降算法，并证明了算法的收敛性。     

一种新的基于梯度动力学的协同神经网络学习算法

在研究协同神经网络梯度动力学过程的基础上，针对学习过程收敛速度缓慢的缺点，介绍了一种改进的基于梯度动力学的协同神经网络学习算法。该算法分析了非平衡注意参数对学习过程的影响，简化了初始伴随向量的选取；并引入最优化理论，将该问题归结为求解非线性最优化问题，提出了适时地用共轭梯度法代替梯度下降法的算法，加快了学习过程的收敛。通过对标准人脸图像库的图像识别实验表明该算法较之其他学习算法有较高的识别率，并能较快地收敛到极小值。     

多含水层系统的程序设计及稀疏方程组解法

基于多含水层系统的概念模型,建立多含水层系统数学模型,按五部分提出了多含水层程序总设计思路,针对多含水层结点多的特点,运用共轭梯度算法和SSOR-共轭梯度算法对此进行求解计算,收敛速度较快.     

线性等式约束优化问题的预处理Lanczos路径方法

采用Lanczos法构成路径解线性等式约束的非线性优化问题．通过构造预处理Lanczos路径解目标函数的二次近似模型获得下降搜索方向．基于预处理Lanczos路径的性质，在合理的假设条件下，证明了所提供的算法不仅具有整体收敛性，而且保持快速的超线性收敛速率．进一步，数值计算表明了算法的可行性和有效性．     

一种新搜索技术下的CD共轭梯度法收敛性研究

介绍了一种新搜索技术的背景,证明了CD共轭梯度法在这种搜索技术下全局收敛,进而在理论上推广了CD共轭梯度法.     

几何规划的简约共轭梯度算法

利用对偶理论将正定式几何规划转化为带有非负约束和线性等式约束下的非线性凸规划,并且将简约梯度算法与共轭梯度算法恰当结合,应用于求解约束正定式几何规划的对偶问题,构造出了求解几何规划的一个有效算法,并在Armijo步长搜索和适当的条件下证明了该算法的收敛性.     

解约束优化问题的一类广义共轭方向法：一种几何处理

运行微分几何方法将无约束最优化中的共轭方向法推广到约束最优化问题上。在约束子流形上诱导了一类新的仿射联络使原来的约束最优化问题转化为约束流形上的无约束的局部二次规划问题。从而形成了具有广义共轭方向的一种曲搜索算法。     

无约束最优化的共轭梯度路非单调信赖域算法

提供了无约束最优化问题的共轭梯度路径非单调信赖域算法。进而获得了共轭梯度路的一些重要性质。基于这些性质和一些合理的假设，证明了算法具有整体收敛性和保持局部超线性收敛速率。     

基于共轭梯度法的函数优化混合遗传算法

综合遗传算法的全局搜索能力和共轭梯度法的局部搜索能力,提出了一种混合算法,该算法具有全局最优性和收敛性。同时,数值仿真表明算法是有效的。     

基于TS模型的模糊逼近及实例

给出了ＴＳ模糊逼近器的改进形式．在保留其逼近优点的基础上,简化了繁琐的运行,用加权最小二乘法和模糊Ｃ平均法确定了前部参数;用线性规划确定了后部参数,用共轭方向法修正了参数．给出了数值模拟的算例,并验证了其可行性．     

GaAs MESFET器件数值模拟的预优共轭梯度法

用传统的牛顿法对GaAs MESFET器件进行数值模拟,由于发散而并不成功。本文采用在不精确线性搜索条件下仍具下降性与收敛性的Fletcher-Reeves共轭梯度法,求解由非线性方程组转化成的非线性最小二乘问题。为使方法能在不同的二次区域形成共轭性较好的搜索方向,方法采用了重开始准则。为加快收敛速度,对目标函数采用了逐步预优的方法。为减少存储量,预优矩阵由Broyden修正公式产生,且不存储修正矩阵,计算结果表明方法稳定,收敛较快,数值结果与实验结果基本相符。