基于PCA的GABP神经网络入侵检测方法*

为克服BP算法易陷入局部最小的缺点,同时为减少样本数据维数,提出一种基于主成分分析(PCA)的遗传神经网络方法。通过降维和去相关加快收敛速度,采用改进的遗传算法优化神经网络权值,利用自适应学习速率动量梯度下降算法对神经网络进行训练。MATLAB仿真实验结果表明,该方法在准确性和收敛性方面都优于BP算法,应用于入侵检测系统中的检测率和误报率明显优于传统方法。     

改进的BP神经网络算法及其应用

研究提高神经网络算法的快速性和稳定性问题,针对BP算法收敛速度慢且易陷入局部极小值的缺点,分析了一般改进算法在神经网络结构优化过程中存在的问题,并根据遗传算法的特点,提出了一种改进的基于压缩映射遗传的BP神经网络优化方法.算法通过引入泛函分析中的压缩映射原理,不但解决了BP算法收敛速度慢且易陷入局部极小值的缺陷,加快了BP网络的收敛速度,而且还弥补了BP神经网络在学习过程中与网络连接权值初值选择密切相关的不足.与传统的BP算法相比,训练步数减少了17.4387%,训练时间节省了8.2774%.实验结果表明改进的方法取得了良好的效果,可应用于实践中.     

基于粒子群算法的BP神经网络优化技术

针对传统BP神经网络存在学习效率低、收敛速度慢和容易陷入局部极小值的问题,提出一种基于改进的PSO来优化BP神经网络的方法。通过在PSO算法中引入随机变化的加速常数来获得最优权值,对BP神经网络进行优化和训练,将优化的BP神经网络用于遗传高血压患病年龄的预测中。实验结果表明,该方法较好地解决了传统BP神经网络易陷入局部极小值的问题,提高了算法的收敛速度和稳定性。     

数值优化改进的BP网络的模式分类对比

研究了共轭梯度算法、拟牛顿算法、LM算法三类常用的数值优化改进算法,基于这三类数值优化算法分别对BP神经网络进行改进,并构建了相应的BP神经网络分类模型,将构建的分类模型应用于二维向量模式的分类,并进行了泛化能力测试,将不同BP网络分类模型的分类结果进行对比. 仿真结果表明,对于中小规模的网络而言,LM数值优化算法改进的BP网络的分类结果最为精确,收敛速度最快,分类性能最优;共轭梯度数值优化算法改进的BP网络的分类结果误差最大,收敛速度最慢,分类性能最差;拟牛顿数值优化算法改进的BP网络的分类结果误差值、收敛速度及分类性能介于上述两种算法之间.     

改进PSO-BP神经网络对储层参数的动态预测研究

为提高BP神经网络的收敛速度和泛化能力,防止其陷入局部最优值,在前人工作基础上对传统粒子群算法进行了改进,具体包括：设定最大限制速度、改变惯性权重因子和改进适应度函数,并把改进粒子群算法应用于BP神经网络权值和阈值的优化。之后利用改进粒子群算法优化的BP神经网络实现对储层参数的动态预测,具体步骤为：确定神经网络的输入、输出神经元,定量化时间参数[T],利用训练样本构建神经网络模型并进行检验。最后通过平均训练误差对仿真过程进行分析,结果表明改进PSO-BP算法的收敛性与泛化能力均优于BP算法和PSO-BP算法。     

改进的DFP神经网络学习算法

传统BP神经网络学习算法有学习速度慢、精度不高、易于陷入局部极小值、不稳定等问题,DFP神经网络学习算法是最优化理论中一类典型的拟牛顿法,具有超线性收敛速度和全局收敛性.但普通DFP算法有数值不稳定的缺陷,在处理大规模网络的学习问题时容易失效;在算法进入到饱和区域、接近最小值的时候,普通DFP算法会产生溢出错误.通过放大权值更新向量和权值导数更新向量,改进拟Hesse逆矩阵的求解,并结合线性搜索和L-M算法,改善了方法的稳定性,解决了算法失效的问题,同时保证了高效的学习速度和较高的学习精度.与目前应用最广泛的BP学习算法L-M 算法相比,改进的DFP算法具有与其相同的学习速度,计算量小,学习精度高,更适用于大残量问题.     

改进粒子群优化BP神经网络的PM2.5预测

针对PM2.5预测的非线性不确定特点,提出基于改进粒子群优化BP神经网络的空气PM2.5浓度预测模型.引入混沌映射和对立学习改进粒子群算法;引入对立学习提高初始解的质量;引入混沌Tent映射改进粒子随机搜索,避免局部最优;引入自适应惯性权重均衡局部开发和全局勘探能力.利用改进粒子群对BP神经网络权值和阈值进行迭代寻优,基于最优参数BP神经网络做PM 2.5预测,有效避免神经网络训练时陷入局部最优,提升收敛速度.选取某市某时段的PM2.5日均浓度数据进行实验分析,结果表明IPSO-BP预测准确度更高,收敛速度更快.     

基于拟牛顿法的前向神经元网络学习算法

针对前向神经网络现有BP学习算法的不足,结合非线性最优化方法,提出一种基于拟牛顿法的神经元网络学习算法。该算法有效地改进了神经元网络的学习收敛速度,取得了比常规BP算法更好的收敛性能和学习速度。     

基于熵误差函数的BP算法及其应用

BP算法现在已成为目前最广泛的神经网络学习算法之一,但存在收敛速度较慢和学习不稳定的问题.为了加快收敛,用熵作为误差函数来对BP算法进行改进,在训练过程中加入动量项,并且对样本作归一化处理.通过对函数逼近和异或问题实例的仿真,与通常改进的BP算法所得的结果进行比较,仿真结果表明熵作为误差函数的改进BP算法比通常改进的BP算法有更好的收敛性和稳定性.最后,通过改进的BP神经网络实现对矩形波导匹配负载的结构设计,结果表明网络能很好地达到工程的要求.     

基于改进AFSA算法的BP神经网络的研究

针对BP神经网络收敛速度慢、易陷入局部极小的缺点,提出将改进的人工鱼群算法与BP算法相结合的混合算法训练人工神经网络,建立了相应的优化训练模型及训练过程.通过基于生物免疫机制改进的人工鱼群算法优化训练多层前向神经网络,使神经网络对训练初值和参数要求不高,扩大了权值的搜索空间,提高了收敛速度和学习精度,有效地协调全局和局部搜索能力.仿真结果表明,该算法性能优于其它算法,具有均方误差值小,收敛速度快和计算精度高等特点,是一种更有效的神经网络训练算法.