基于MCPSO算法的BP神经网络训练

基于多群体协同进化粒子群算法,提出一种用于BP神经网络训练的新型学习算法.将网络中需要调整权值与偏差组成的矢量看成MCPSO算法中粒子,通过粒子间的竞争与合作,完成网络训练过程.将基于 MCPSO训练的BP网络分别应用于函数逼近和模式分类问题.结果表明,基于MCPSO的神经网络学习算法在收敛速度和学习效率等方面优于其他方法.     

改进BP算法在过程神经网络中的应用

过程神经网络是一种基于过程神经元的新型神经网络,其输入及权值皆为时序函数.针对基本BP算法的一些不足,将一种改进BP算法应用于前馈过程神经网络的训练之中,提高了网络的学习效率,扩展了过程神经网络的训练算法理论.在改进BP算法与网络训练的结合过程中,权函数及输入函数皆被用同一正交基函数展开.最后基于改进BP算法将过程神经网络应用于了飞机发动机尾气温度指数的预测当中,验证了算法的有效性,同时也展示了过程神经网络广泛的应用前景.     

人工神经网络模拟反应精馏过程的研究

提出了用BP（误差反向传播）神经网络模拟计算合成乙酸甲酯的新思路,模拟过程中采用学习速率可变的动量BP算法训练神经网络。结果表明：只要有充足可靠的数据为基础,采用学习速率可变的动量BP算法训练的神经网络的预测精度比普通BP算法的预测精度高10倍左右,且训练时间显著下降,是一种具有广泛应用前景的模拟方法。     

基于切片模型的快速混合学习算法

针对传统BP神经网络训练收敛速度慢、易陷入局部极小点的问题,将遗传算法与误差放大的BP学习算法相结合,提出基于切片模型的快速混合学习算法.该算法通过将传统神经网络的训练过程划分为许多小的训练切片,并利用遗传算法的并行寻优特性,对采用误差放大的BP训练过程进行监督.通过及时发现收敛速率较快的个体和过滤陷入局部极小点的个体,来保证网络训练的成功率和实现快速向全局最优区域逼近的目的.仿真实验表明,该算法在不增加网络隐层节点数的情况下,显著地提高了网络的收敛精度和泛化能力.     

具有快速学习算法的神经网络及其在系统辨识中的应用

提出一种基于平行线的前向神经网络快速学习算法,学习速率采用曲线拟合进行一维搜索。新方法具有很快的收敛速度和良好的收敛精度,克服了标准BP算法在神经网络的权值训练中收敛速度慢的特点,仿真结果表明了算法的有效性。     

人工神经网络BP算法的改进及其应用

对传统的ＢＰ算法进行了改进,提出了ＢＰ神经网络动态全参数自调整学习算法,又将其编制成计算机程序,使得隐层节点和学习速率的选取全部动态实现,减少了人为因素的干预,改善了学习速率和网络的适应能力。计算结果表明：ＢＰ神经网络动态全参数自调整算法较传统的方法优越,训练后的网络模型不仅能准确地拟合训练值,而且能较精确地预测未来趋势。     

自适应学习速率法在变压器故障诊断中的应用

为了提高电力变压器故障诊断的准确率,针对油中溶解气体分析,提出了一种基于误差自动调节修正因子的自适应学习速率法,使神经网络通过自身的误差变化过程自动调整学习速率修正因子,保证网络总是以最大的可接受学习速率进行训练,从而提高网络收敛速度。针对电力变压器故障气体及故障类型的特点,建立了电力变压器故障诊断BP（Back—Propagation）网络模型,应用该算法和原算法对该故障诊断网络模型进行训练。仿真结果表明,该算法的训练次数减少了35．4％,收敛速度提高了44．9％,有效地改善了网络模型的性能。将该算法应用于电力变压器故障诊断,能较为精确地判断出电力变压器的故障类型,故障诊断准确率达90．8％。     

基于神经网络的机械故障诊断系统

给出了自适应神经网络学习模型及自适应神经网络的诊断过程，探讨了动量系数和学习率自适应调整的神经网络算法，进一步给出了动量系数和学习率的调整方法，并将其作为机械故障的特征识别方法．由此建立了基于神经网络的旋转机械故障智能诊断系统，给出了诊断系统的训练学习方式和工作方式．两种学习系统的训练方式，可作为旋转机械在线或离线故障诊断分析的重要方法．     

数码冲印颜色空间转化的神经网络优化

为了提高神经网络在数码冲印颜色空间转化应用中的收敛效率，设计了一种基于反向传播（BP）神经网络的自适应优化模型.通过等间距分割由曝光实验测得的青、品、黄染料累积色差曲线，构建了在CIE Lab色域空间内分布相对规则的大容量学习样本.基于对网络训练过程中隐含层神经元节点间相关性和离散性的动态分析，合并或删除了冗余的节点结构.根据学习速率对网络收敛效率的影响，引入全局平均误差（GME）作为权值，对学习速率进行即时调整.仿真结果表明，与传统的BP神经网络相比，优化后的神经网络模型收敛成功率显著提高，收敛速度加快.输出精度能够满足色差要求.     

基于自适应BP神经网络的桥梁结构荷载识别

在传统的BP神经网络中引入学习速率自适应调整算法，通过多次数值模拟计算确定学习速率和动量系数等网络 关键参数的取值；分析了学习速率、动量系数等网络参数对网络收敛速度和输出精度的影响；探讨了训练样本容量与网 络识别效果的关系.分别使用挠度、挠度曲率、应变和应变曲率作为输入参数对桁架桥梁荷载进行识别.结果显示以挠度 曲率或应变曲率为输入参数的网络识别效果明显优于以挠度或应变为输入参数的网络，以应变为输入的网络识别效果优 于挠度的情况；学习速率自适应调整算法有效避免了网络训练过程中误差曲线振荡现象的产生，提高了网络的学习效率 ，网络关键参数的最优取值改善了网络的收敛速度和输出精度     

一种综合改进的BP神经网络及其实现

从网络拓扑结构、增加动量项、增加学习速率自适应调整、增加权重初始化的N－W法等几个方面讨论了BP神经网络的改进，通过这几种方法的组合实现了一种新的改进型网络。详述了网络结构参数如学习速率初始值、隐含元个数、网络收敛精度等的确定原则和方法，并针对某一问题进行了计算分析。计算中重点分析了学习速率和隐含元个数的确定、各种单一改进方法和综合改进方法的比较、网络训练样本量的取舍等。分析表明改进方法是有效果的。     

BP网在多灰度运动目标识别中的应用

介绍了利用ＢＰ网进行多灰度运动目标识别的方法。针对传统的ＢＰ网训练时间长等缺点以及多灰度级目标识别的特点，对传统ＢＰ算法作了适当的改进，提出了训练样本组织和选择的一些方法和技巧，并将以上的改进算法及组织和选择样本的原则应用到多灰度坦克目标识别的ＢＰ网训练的实验中。实验结果表明改进的算法及所采用的原则是合理的，它可以有效地缩短ＢＰ网的学习时间、防止网络的振荡，并且能在一定程度改善ＢＰ网的性能。     

BP神经网络学习算法的研究

文中针对BP算法收敛速度慢的问题,提出一种改进的BP算法．该算法结合生物神经元学习与记忆形成的特点,针对特定的训练样本,只激发网络中的部分神经元以产生相应的输出,而未被激发的神经元产生的输出则与目标输出相差较大,所以对未被激发的神经元权值闽值进行调整．利用距离来度量训练样本与神经元权值之间的关系,可以找到未被激发的神经元．文中提出的算法是对局部神经元权值闽值的调整,通过实验表明该算法有助于加快网络的学习速度．     

基于迭代学习的BP神经网络权值训练算法

针对传统BP算法存在收敛速度过慢、易陷入局部极小的问题,提出基于迭代学习的BP神经网络权 值修正算法。该算法将迭代学习的原理与神经网络相结合,同时采用本次训练误差和前一次的训练误差修正神经 网络权值,提高了网络训练速度。仿真结果验证了该算法的有效性。     

基于改进Fisher准则的深度卷积神经网络识别算法

为了有效利用深度学习技术自动提取特征的能力,并解决当训练样本量减少或者迭代次数降低时识别性能急速下降的问题,提出了基于Fisher准则的深度学习算法.该方法在前馈传播时,采用卷积神经网络自动提取图像的结构信息等特征,同时利用卷积网络共享权值和池化、下采样等方法减少了权值个数,降低了模型复杂度;在反向传播权值调整时,采用了基于Fisher的约束准则.在权值的迭代调整时既考虑误差的最小化,又同时让样本保持类内距离小,类间距离大,从而使权值能更加快速地逼近有利于分类的最优值,当样本量不足或训练迭代次数不多时可有效地提高系统的识别率.大量的实验结果证明:该基于Fisher准则的混合深度学习算法在标签样本不足或者较少训练次数的情况下依然能达到较好的识别效果.     

自适应深度卷积神经网络模型构建方法

针对传统卷积神经网络(CNN)模型构建过度依赖经验知识、参数多、训练难度大等缺点,同时鉴于复杂多类问题的CNN模型构建策略的重要价值,提出一种自适应深度CNN模型构建方法.首先,将初始网络模型的卷积层和池化层设置为仅含一幅特征图;然后,以网络收敛速度为评价指标,对网络进行全局扩展,全局扩展后,根据交叉验证样本识别率控制网络展开局部扩展,直到识别率达到预设期望值后停止局部网络学习;最后,针对新增训练样本,通过拓展新支路实现网络结构的自适应增量学习.通过图像识别实验验证了所提算法在网络训练时间和识别效果上的优越性.     

进化Elman神经网络模型与非线性系统辨识

建立了一种采用改进的自适应遗传算法实现动态递归的进化E lman神经网络模型。提出了对网络的结构、权重、结构单元的初始输入和自反馈增益因子同时进化的学习算法。用初始状态优化的E lman网络集成反馈学习算法和E lman网络在线训练两种动态辨识算法形成的集成化动态递归网络辨识算法,实现了超声马达的速度辨识。模拟结果表明,提出的算法不仅实现了动态递归网络的全自动优化设计,而且明显提高了动态递归网络模型辨识算法的收敛精度,为非线性系统辨识提供了一条新的途径。     

基于改进MS-EM算法的贝叶斯网络学习法构建基因调控网络

基因调控网络的重构是功能基因组中最具挑战性的课题之一.实验证明构建基因调控网络的最有前途的方法是贝叶斯网络.EM算法是一种有效的利用数据来学习贝叶斯网络的方法,能较好地处理构建基因调控网络中的数据缺失情况,但存在学习精度低、对初始参数值依赖的缺点.本文应用贝叶斯网络实现啤酒酵母细胞基因调控网络的构建,用改进的MS-EM算法进行学习,并实现实验结果的可视化.与现有文献比较,结果表明改进后的算法进一步降低了时间性能,提高了构建调控网络的精度.     

基于阴影集数据选择的可拓神经网络性能改进

为了改进可拓神经网络的性能,提出一种基于阴影集的数据选择方法.通过该方法获取用于训练可拓神经网络的训练样本,进而改进可拓神经网络的性能.针对可拓神经网络的特点,选择核数据和边界数据作为可拓神经网络的训练样本;利用基于阴影集的数据选择方法,可以自动获取核数据和边界数据.实验结果表明,与传统可拓神经网络相比,改进的可拓神经网络不仅节约了训练时间,而且网络的泛化能力和分类识别准确度得到了有效提高.