鞍点梯度法、鞍点共轭梯度法

本文根据文献[1]、[2]、[3]所提出的鞍点逼近算法,提出两种新型算法。这两种算法有如下重要意义。①将计算鞍点问题转化为求二次极值问题;②用新方法计算鞍点可以在有限步达到最优解;③用新方法求解线性规划问题具有多项式算法性质;④引出差梯度的新概念。     

并行最优化软件包及性能测试

本文讨论了高级最优化工具箱(TAO)的一个解法器-非线性共轭梯度法的算法以及程序设计等问题,并对其分别在曙光2000和深腾6800进行了测试．通过对测试的结果分析比较,发现非线性共轭梯度算法在并行优化设计中具有很好的性质,并显示TAO1．5的实现具有很好的可移植性和可扩展性．     

基于禁忌搜索的启发式算法求解球体Packing问题*

为求解具有NP难度的球体Packing问题,通过将禁忌搜索方法与基于自适应步长的梯度下降法和二分法相结合,提出了一个启发式算法。对50个等球算例进行了实例测试,算法改进了其中44个算例的目前最优结果。大量的实例计算结果表明,该启发式算法是求解球体Packing问题的一个有效算法。     

一种改进的基于梯度动力学的协同神经网络学习算法

本文在研究协同神经网络梯度动力学过程的基础上,针对学习过程收敛速度缓慢的缺点,提出了一种改进的基于梯度动力学的协同神经网络学习算法.该算法分析了非平衡注意参数对学习过程的影响,简化了初始伴随向量的选取;并引入最优化理论,将该问题归结为求解非线性最优化问题,用共轭梯度法代替梯度下降法,加快了学习过程的收敛.通过对汉字图象库和人脸图象库的图象识别实验表明该算法较之其他学习算法有较高的识别率,并能较快的收敛到极小值.     

带共轭梯度算子的爆炸搜索算法

爆炸搜索算法作为一种全局优化算法,在迭代后期会出现收敛速度慢、精度低的问题,而传统的优化算法恰好能克服这些缺点。因此,引入一种传统算法——近似共轭梯度法,即用差商代替导数的共轭梯度法。在此基础上,提出了带共轭梯度算子的爆炸搜索算法,先引入了新的变异算子来提高算法的全局搜索能力,再运用共轭梯度法添加一个新的算子——共轭梯度算子,实现对最优炸点的局部搜索,从而提高算法的收敛速度与精度。6个常用的benchmark函数的测试结果说明,改进算法的优化结果明显优于原算法。     

基于梯度动力学的协同神经网络学习算法的改进

本文在研究协同神经网络梯度动力学过程的基础上,针对学习过程收敛速度缓慢的缺点,提出了一种改进的、基于梯度动力学的协同神经网络学习算法。该算法分析了非平衡注意参数对学习过程的影响,简化了初始伴随向量的选取;并引入最优化理论,将该问题归结为求解非线性最优化问题,用共轭梯度法代替梯度下降法,加快了学习过程的收敛。通过对汉字图像库和人脸图像库的图像识别实验表明,该算法比其他学习算法的识别率高,并能较快地收敛到极小值。     

基于梯度动力学的协同神经网络学习算法的改进

本文在研究协同神经网络梯度动力学过程的基础上,针对学习过程收敛速度缓慢的缺点,提出了一种改进的基于梯度动力学的协同神经网络学习算法。该算法分析了非平衡注意参数对学习过程的影响,简化了初始伴随向量的选取;并引入最优化理论,将该问题归结为求解非线性最优化问题,用共轭梯度法代替梯度下降法,加快了学习过程的收敛。通过对汉字图像库和人脸图像库的图像识别实验,表明该算法较之其他学习算法有较高的识别率,并能较快的收敛到极小值。     

一种克服粒子群早熟的混合优化算法

针对粒子群优化算法在寻优时容易出现早熟现象,提出在粒子群收敛停滞时,从种群中随机选择粒子进行共轭梯度法计算,通过引入共轭梯度算法计算的信息来影响粒子速度的更新,以保持群体的活性,从而打破群体信息陷入局部最优的状况.不同于传统的粒子群算法,该算法有机地结合了粒子群的全局搜索能力和共轭梯度法的强大局部搜索能力,从而在一定程度上有效地克服了粒子群早熟的缺点.仿真计算结果表明,该改进粒子群的方法对于不同维数的非线性函数具有很好的寻优效果.     

高性能共轭梯度(HPCG)基准测试优化

随着高性能共轭梯度应用领域的扩展,HPL的测试模式与结论已不能充分体现HPC的实用性能。高性能共轭梯度算法(HPCG)所使用的计算模式与HPL相比,更符合当前实际应用业务的特点,给出的测试结论对于HPC的发展更有参考价值。针对数值预报领域更看重流体力学微分转差分计算效果的特点,选用更适合处理复杂微分方程的HPCG测试方法进行测试优化,通过仿真性能分析,并给出了具体的优化策略。     

基于势函数体绘制梯度估算方法

体绘制流程中，梯度在数据分类和明暗计算中都要用到，因此快速准确的梯度估算对高质量的体绘制算法至关重要。在分析了现有估算算法的基础上，通过构造等势面来计算梯度，并将其应用于光线投射法中，取得了较好的效果。