神经网络建模在热膨胀螺栓形变测量中的应用

基于神经网络建立热膨胀螺栓形变的非线性数学模型。神经网络的辨识采用变尺度二阶快速学习算法,利用二阶插值法来优化搜索学习速率。新方法具有很快的收敛速度和良好的收敛精度,克服了BP算法在神经网络的权值训练中收敛速度过慢的缺点。热膨胀螺栓的受热形变测量结果表明,该学习算法适用于非线性系统的建模与辨识。     

基于混沌优化的非线性预测控制器

针对非线性系统的控制问题,本文将神经网络辨识、混沌优化和预测控制思想有机结合,提出了一种新型非线性预测控制器.该控制器以神经网络作为预测模型,混沌优化算法作为滚动优化策略,避免了非线性预测控制中复杂的梯度计算和矩阵求逆问题.另外在训练神经网络过程中,采用了带混沌机制的自适应学习率的BP算法,以提高神经网络的收敛能力和收敛速度.仿真研究说明了该非线性预测控制器的有效性及实时性.     

基于回归神经网络的非线性时变系统辨识

为克服基于前馈神经网络的非线性系统辨识算法存在需预先估计系统输入输出滞后阶数的缺陷，提出一种基于回归神经网络的非线性时变系统的辨识算法，针对现有的回归网络学习算法大多采用梯度算法，收敛速度缓慢问题，提出一种具有快速收敛性的扩展卡尔曼滤波学习算法，大大提高了学习收敛速度，并推导了一种基于单个神经元的局部化算法，减少了计算量，仿真实例证明，所提出的算法是有效的。     

基于拟牛顿法的前向神经元网络学习算法

针对前向神经网络现有BP学习算法的不足,结合非线性最优化方法,提出一种基于拟牛顿法的神经元网络学习算法。该算法有效地改进了神经元网络的学习收敛速度,取得了比常规BP算法更好的收敛性能和学习速度。     

综合改进BP神经网络算法在股价预测中的应用

BP神经网络用于股市等非线性系统的预测具有非常强大的能力。针对标准BP神经网络算法存在收敛速度慢和易陷入局部极小点问题,提出附加动量法和动态调整学习率法相结合的综合改进BP算法。建立了基于改进算法的股票价格预测系统模型,并对青岛海尔股票价格进行了预测。仿真结果表明,相对于标准BP算法,综合改进的BP算法能明显加快网络的收敛时间,用于股价短期预测是有效可行的,并且能够达到较高的准确性,具有一定的实际应用价值。     

一种改进的BP算法及其MatLab仿真

基于最优化理论,提出了基于新拟牛顿方程的改进拟牛顿算法训练BP神经网络.改进算法使用了一组新型的Hesse矩阵校正方程,使得改进拟牛顿算法具有全局收敛性和局部超线性收敛性.该文将改进的拟牛顿算法与BP神经网络权值的训练结合,得到一种新的BP神经网络权值的训练算法.与传统的神经网络权值学习的拟牛顿算法比较而言,采用改进算法的神经网络的收敛速度明显加快.改进算法能有效解决BP神经网络收敛速度慢的缺陷,显著提高了BP神经网络的学习训练收敛速度和学习精度.     

多层前向神经网络的快速学习算法及其应用

针对目前多层前向神经网络学习算法存在的不足,提出一种多层前向神经网络的快速学习算法,它不仅符合生物神经网络的基本特征,而且算法简单,学习收敛速度快,具有线性、非线性逼近精度高等特性.以二杆机械手逆运动学建模作为应用实例,仿真结果表明该方法是有效的,其算法与收敛速度更优于BP网络.     

混沌蚁群算法在瓦斯爆炸性检测仪中的应用

针对瓦斯爆炸性检测仪传感器在实际生产中因构造和环境因素所产生的输入、输出非线性问题,将混沌蚁群算法和BP神经网络算法应用到瓦斯爆炸性检测仪中,提高瓦斯传感器精度.通过混沌蚁群算法对BP神经网络进行优化,改善BP神经网络收敛速度慢、容易陷入局部最优的缺点.实验结果表明:基于混沌蚁群优化算法的BP神经网络能够提高瓦斯检测系统的精度.     

基于改进BP网络算法的故障诊断分析

介绍BP神经网络结构和学习方法,针对误差反向传播神经网络模型学习收敛速度慢、容易陷入局部极小点等缺点,本文对BP网络模型进行了改进。对原始数据采用非线性的归一化函数,提出一种更加有效的学习率改进算法,提高了网络的收敛速度,采用了一种新的权值及阈值初始化方法,以避免训练时误差陷入局部极小解,并对改进BP算法与传统的BP算法进行比较,验证了该算法的优越性。     

非线性伺服电动机的神经网络逆控制

伺服电动机由于存在接触过程的非线性、温漂等非线性因素的影响,很难建立其精确的数学模型,使得基于数学模型的控制困难.针对伺服电动机存在的非线性问题,提出了一种新颖的基于BP神经网络直接逆控制方法.首先,利用BP神经网络建立系统的正向模型(NNI),然后,设计基于神经网络的直接逆控制器(NNC),实现了对伺服电动机的自适应控制.在Lyapunov稳定性分析的基础上,给出了BP算法学习算子的选择方案,保证神经网络权值训练的快速收敛,同时,对训练BP神经网络控制器的专用算法(specialized learning)进行改进,利用NNI的输出求取权值调整的灵敏度函数.数字仿真结果表明提出的控制算法是简单有效的.     

基于动态对角递归网络的变压器故障诊断

本文介绍了动态对角递归网络,并针对BP算法收敛慢的缺点,将递推预报误差学习算法应用到神经网络权值和域值的训练。同时,将动态对角递归网络引入到电力变压器的故障诊断中,通过改良三比值方法来实现故障诊断,提高了神经网络故障诊断收敛性及增量学习能力。最后,仿真诊断实例表明了应用这种方法实现的变压器故障诊断系统的有效性。     

一种递归神经网络的快速并行算法

针对递归神经网络BP(Back Propagation)学习算法收敛慢的缺陷,提出一种新的递归 神经网络快速并行学习算法.首先,引入递推预报误差(RPE)学习算法,并且证明了其稳定性； 进一步地,为了克服RPE算法集中运算的不足,设计完整的并行结构算法.本算法将计算分配 到神经网络中的每个神经元,完全符合神经网络的并行结构特点,也利于硬件实现.仿真结果表 明,该算法比传统的递归BP学习算法具有更好的收敛性能.理论分析和仿真实验证明,该算法 与RPE集中运算算法相比可以大大节省计算时间.     

基于动态对角递归网络的变压器故障诊断

本文介绍了动态对角递归网络,并针对BP算法收敛慢的缺点,将递推预报误差学习算法应用到神经网络权值和域值的训练。同时,将动态对角递归网络引入到电力变压器的故障诊断中,通过改良三比值方法来实现故障诊断,提高了神经网络故障诊断收敛性及增量学习能力。最后,仿真诊断实例表明了应用这种方法实现的变压器故障诊断系统的有效性。     

Forecasting foreign exchange rates with an improved back-propagation learning algorithm with adaptive smoothing momentum terms

The slow convergence of back-propagation neural network (BPNN) has become a challenge in data-mining and knowledge discovery applications due to the drawbacks of the gradient descent (GD) optimization method, which is widely adopted in BPNN learning. To solve this problem, some standard optimization techniques such as conjugate-gradient and Newton method have been proposed to improve the convergence rate of BP learning algorithm. This paper presents a heuristic method that adds an adaptive smoothing momentum term to original BP learning algorithm to speedup the convergence. In this improved BP learning algorithm, adaptive smoothing technique is used to adjust the momentums of weight updating formula automatically in terms of “3 σ limits theory.” Using the adaptive smoothing momentum terms, the improved BP learning algorithm can make the network training and convergence process faster, and the network’s generalization performance stronger than the standard BP learning algorithm can do. In order to verify the effectiveness of the proposed BP learning algorithm, three typical foreign exchange rates, British pound (GBP), Euro (EUR), and Japanese yen (JPY), are chosen as the forecasting targets for illustration purpose. Experimental results from homogeneous algorithm comparisons reveal that the proposed BP learning algorithm outperforms the other comparable BP algorithms in performance and convergence rate. Furthermore, empirical results from heterogeneous model comparisons also show the effectiveness of the proposed BP learning algorithm.     

基于回归神经网络自适应快速BP算法

动态递归网络Elman网络结构简单，运算量少，适合于实时系统辨识。以Elman网络结构推导了在线学习算法。针对于传统BP算法会产生局部收敛和收敛速度慢等缺点，提出了一种改进的自适应BP算法，运用到回归神经网络，提高了在线学习的速度与收敛速度，仿真实验表明了此算法的有效性和快速性。     

变共轭梯度算法及其在农产品总产量预测中的应用

为克服BP算法收敛速度慢，易陷入局部极小值等的缺点，提高BP预测精度等性能，提出了变共轭梯度法(VCG)。从激活函数和学习规则两方面修正网络，并对其收敛性作了分析及简要证明。将其应用于我国主要农产品总产量的预测，证实了该算法的有效性。     

基于网络复杂性的BP算法

BP算法(误差反向传播算法)是前馈神经网络中最常用的算法之一.在对前馈神经网络和传统的BP算法研究的基础上,发现了传统算法中存在的问题.通过引入网络复杂性的量,提出了一种新的改进算法,命名为基于网络复杂性的BP算法.该算法能够删除掉冗余的连接甚至节点,通过对网络学习步长的动态调整,避免了算法收敛速度过慢和反复震荡的问题.最后通过实验说明该算法在一定程度上比传统BP算法有一些优越性.     

基于PSO算法和BP神经网络的PID控制研究

针对PID控制中的参数整定的难点及基本BP算法收敛速度慢、易陷入局部极值的问题,提出利用PSO算法的全局寻优能力和较强的收敛性来改进BP网络的权值调整新方法,从而对PID控制的比例、积分、微分进行优化控制。该方法是在基本BP算法的误差反向传播的基础上,使粒子位置的更新对应BP网络的权值和阈值的调整,既充分利用了PSO算法的全局寻优性又较好地保持了BP算法本身的反向传播特点。仿真结果表明基于PSO算法的BP神经网络的PID优化控制具有较好的性能和自学习、自适应性。     

一种改进QPSO优化BP网络的入侵检测算法

为了较好克服量子粒子群算法存在早熟收敛的缺点,在分析算法参数和流程的基础上,提出了一种带变异操作的改进量子粒子群优化算法。针对传统BP算法易于陷入局部极小的不足,将改进的算法应用到BP神经网络的学习过程中,修正BP网络的权值和阈值,提高其收敛性能。并将优化的BP神经网络模型应用于入侵检测中,用标准入侵检测数据对基于不同算法的BP网络进行仿真实验比较。实验结果表明,改进后的BP算法迭代次数少,收敛速度有所提高,在一定程度上提高了入侵检测率。     

基于PSO的BP神经网络学习算法

针对标准反向传播(BP)算法收敛速度慢和易陷入局部极值等缺陷,提出一种基于粒子群优化的BP神经网络学习算法。采用标准BP梯度下降法调整权值,利用粒子群优化算法进行网络权值及阈值的修正。将该算法与标准BP算法及传统基于粒子群优化BP网络算法进行仿真比较。实验结果表明,该算法能够克服标准BP算法的缺点,性能优于其他2个BP网络优化模型。