等离子喷涂过程的BP神经网络自适应控制*

分析了ＢＰ网络辨识器和控制器的常规训练方法存在的不足之处及其限制，提出了一种通过网格辨识器的灵敏度网络反传对象的误差来训练ＢＰ网络控制器的新方法，根据ＢＰ网络放自适应控制的相容性，提出了一种新的ＢＰ网络自适应控制结构，并利用ＢＰ网络辩识器的灵敏度网络训练ＢＰ网络控制器的思想，来调整ＢＰ网络控制器的参数，等离子喷涂过程控制模型的训练研究表明其效果良好。     

多层前传神经网的广义误差反传训练与模式分类

本文以天然留兰香的组分构成与其品质的关系为例，讨论人工神经元方法用于复杂信息模式分类的问题，提出一种广义的误差反传训练策略，将网络的训练范围从联接权扩大到神经元模型，这种新的训练方法（ＧＢＰ）能提高多层前传网络的学习效率，加快收敛的速率。实际运行的结果表明，所需训练时间仅为普通误差反传（ＢＰ）训练方法的１／１５，并能达到较高的预报精度。     

基于组合算法的RBF神经网络列车轮对缺陷识别

提出了一种基于动态聚类和遗传算法相结合的组合RBF网络训练方法;采用动态聚类法对样本数据进行聚类,使RBF神经网络的隐含层节点中心数在训练过程中自动确定,使用经验公式作为标准,选取最优聚类数,采用遗传算法对隐层中心和宽度以及隐层到输出层的权值进行优化,在全局范围内寻找网络的最优模型;最后对轮对缺陷进行纹理特征提取,并组成训练样本和测试样本,输入到网络进行训练与测试;实验结果表明,与传统方法比较,该组合方法具有较高的识别率。     

动态数据约简的神经网络分类器训练方法研究

针对神经网络分类器训练时间长、泛化能力差的问题,提出了一种基于动态数据约简的神经网络分类器训练方法（DDR）。该训练方法在训练过程中赋给每个训练样本一个权重值作为样本的重要性度量,依据每次网络迭代训练样本的分类错误率动态更新每个训练样本的权重值,之后依据样本的权重值来约简训练样本,从而增加易错分类的边界样本比重,减少冗余核样本的作用。数值实验表明,基于权重的动态数据约简神经网络训练方法不仅大幅缩短了网络的训练时间,而且还能够显著提升网络的分类泛化能力。     

神经网络智能控制系统中辨识网络设计方法的探讨

该文将人工神经网络的基本原理应用于过程控制系统,对辨识网络的基本结构以及网络的训练方法进行了初步探索和总结,在控制系统的辨识网络中应用基本ＢＰ算法与加动量项的ＢＰ算法、随机设置初值与训练设置初值、带参考模型与无参考模型对系统过渡过程特性的影响作了一定的比较与分析。仿真结果表明：所采用的改善网络自适应能力的方法,在不同程度上对系统的调节品质均有相应的改善。     

结合对抗训练和特征混合的孪生网络防御模型

神经网络模型容易受到对抗样本攻击。针对当前防御方法侧重改进模型结构或模型仅使用对抗训练方法导致防御类型单一且损害模型分类能力、效率低下的问题,提出结合对抗训练和特征混合训练孪生神经网络模型(SS-ResNet18)的方法。该方法通过线性插值混合训练集样本数据,使用残差注意力模块搭建孪生网络模型,将PGD对抗样本和正常样本输入不同分支网络进行训练。在特征空间互换相邻样本部分输入特征以增强网络抗干扰能力,结合对抗损失和分类损失作为网络整体损失函数并对其进行标签平滑。在CIFAR-10和SVHN数据集上进行实验,该方法在白盒攻击下表现出优异的防御性能,黑盒攻击下模型对PGD、JSMA等对抗样本的防御成功率均在80%以上;同时,SS-ResNet18模型时间花销仅为子空间对抗训练方法的二分之一。实验结果表明,SS-ResNet18模型能防御多种对抗样本攻击,与现有防御方法相比,其鲁棒性强且训练耗时较短。     

基于模糊神经网络的综合评判方法

针对综合评判模型中主观因素影响评判精度问题,引入模糊神经网络优化评判模型的方法,采用模糊神经网络的训练过程逼近综合评判模型的权重集和隶属度函数。为了提高该方法的有效性,对网络训练算法进行多方面的优化,以便神经网络更快更稳定地收敛。结果证明该方法能较好地去除综合评判模型中的主观成分,有效地提高评判的最终精度。     

用改进的遗传算法训练神经网络以研究有机磷杀虫剂的构效关系

结合改进的遗传算法（ＩＧＡ）和误差反传算法（ＢＰＡ）训练人工神经元网络，用以对三元不对称有机磷构效关系进行研究。作者保留了ＢＰＡ作为权值基本训练方法简捷的优点，又利用遗传算法的全局搜索性，以克服ＢＰＡ陷入局部极小点的缺陷，使两者集成在一起，通过因子α调整遗传算法和误差反传算法的结合程度，发挥各自的长处，达到训练过程的优化。通过实例表明建立了更准确的数学模型，具有较好的实用价值。     

大权值抑制策略用于训练卷积神经网络

卷积神经网络（Convolutional Neural Network,CNN）是深度学习研究的重要方向,因其模型复杂且训练困难,所以设计更好的CNN训练方法一直是研究热点。针对训练好的CNN模型,分析了其参数权值对训练结果的影响,确认权值越大的连接参数对模型性能的影响也越大,且整个模型的性能主要由极少数的大权值参数决定。据此,提出了CNN的权值抑制训练方法（Weight Restrain of CNN,WR-CNN）,该方法调整了模型训练时的权值更新策略,设置一个与权值大小相关的抑制系数,用该系数调整反向传播时的权值增量幅度,达到控制大权值连接参数分布的目的。在不同实验条件下,该方法将CNN模型的错误率降低1.8%~5.0%,模型对大权值参数的敏感性明显降低,模型泛化能力和鲁棒性均得到改善,另外,该方法也可用于对已训练好的网络模型进行再优化。     

BP网络进化及其在雷达目标识别中的应用

针对常规ＢＰ神经网络的ＢＰ算法只能训练固定结构的神经网络,存在诸如易落入局部极值、没有引入提高泛化能力的训练机制等固有不足之处,以及一些神经网络进化算法的进化机制中存在的缺陷,本文提出一种ＢＰ神经网络进化算法,并用于高分辨雷达目标一维距离像的识别问题。实验结果表明,经所述方法优化后的神经网络结构简单、泛化能力优于ＢＰ算法和一些进化算法训练的网络。     

用于过程建模的BP网络的M训练法及其改进

以Sigmoid为传递函数的BP网络在过程系统工程领域已经得到了广泛的应用 ,但是一般的GDR训练算法在极小点附近易发生振荡 ,收敛速度慢。本文提出了人工神经网络M法训练的新途径 ,并且通过不同算例和工业实际数据建模应用证实了M算法的收敛速度大约是GDR算法的 5 - 10倍左右 ,有效地提高了网络训练的速度和训练效率     

改进的粒子群算法优化神经网络及应用

针对神经网络权值选取不精确的问题,提出改进的粒子群优化算法结合BP神经网络动态选取权值的方法。在改进的粒子群优化算法中,采用动态惯性权重,并且认知参数与社会参数相互制约。同时,改进的粒子群优化算法结合差分进化算法使粒子拥有变异与交叉操作,保持粒子的多样性。基于改进的粒子群优化算法与BP神经网络,构建IPSONN神经网络模型并运用于酒类品质的预测。实验分别从训练精度、正确率及粒子多样性三方面验证了IPSONN模型的有效性。     

改进PSO-BP神经网络对储层参数的动态预测研究

为提高BP神经网络的收敛速度和泛化能力,防止其陷入局部最优值,在前人工作基础上对传统粒子群算法进行了改进,具体包括：设定最大限制速度、改变惯性权重因子和改进适应度函数,并把改进粒子群算法应用于BP神经网络权值和阈值的优化。之后利用改进粒子群算法优化的BP神经网络实现对储层参数的动态预测,具体步骤为：确定神经网络的输入、输出神经元,定量化时间参数[T],利用训练样本构建神经网络模型并进行检验。最后通过平均训练误差对仿真过程进行分析,结果表明改进PSO-BP算法的收敛性与泛化能力均优于BP算法和PSO-BP算法。     

基于一维卷积神经网络深度学习的工业过程故障检测

针对化工过程的非线性和动态性,以TE过程为背景,应用深度学习中的一维卷积神经网络算法对TE过程进行故障检测,解决了BP神经网络算法用于故障检测时测试识别率低的问题。用训练数据集分别对BP神经网络模型和一维卷积神经网络模型进行训练,将测试数据集输入已经训练好的神经网络,最后统计出了BP神经网络模型和卷积神经网络模型对故障的识别率。仿真结果表明BP神经网络和卷积神经网络对故障的检测具有较好的效果,但BP神经网络算法收敛速度慢,很容易就陷入局部最小值,从而会导致整体的检测性能下降,而卷积神经网络构建出的一维卷积模型能很好地解决存在的问题,通过比较充分体现了卷积神经网络在故障检测方面的优越性。     

遗传神经网络在语音识别中的应用研究

针对语音识别的特点,对BP神经网络在语音识别技术中的应用进行了探索性研究,进而结合人工智能领域较为有效的方法——遗传(GA)算法,针对传统BP算法识别准确率高但训练速度慢的缺点,对BP网络进行改进,构建了一种基于遗传神经网络的语音识别算法(GABP),并建立相应的语音识别系统。仿真实验表明,该算法有效地缩短了识别时间,提高了网络训练速度和语音的识别率。     

遗传神经网络在语音识别中的应用研究

针对语音识别的特点,对BP神经网络在语音识别技术中的应用进行了探索性研究,进而结合人工智能领域较为有效的方法——遗传（GA）算法,针对传统BP算法识别准确率高但训练速度慢的缺点,对BP网络进行改进,构建了一种基于遗传神经网络的语音识别算法（GABP）,并建立相应的语音识别系统。仿真实验表明,该算法有效地缩短了识别时间,提高了网络训练速度和语音的识别率。     

一种基于BP神经网络的数字识别新方法

针对标准BP神经网络收敛速度慢、易陷入局部极小点的缺点,提出了一种新的BP神经网络改进算法。该算法通过变步长法和牛顿法来改进BP算法,加快了网络的收敛速度,且收敛速度快于其他的改进算法。在此基础上将BP神经网络应用于数字识别中,为其网络建立识别模型。利用仿真实验观察BP网络的泛化能力以及识别准确性,比较BP算法及其改进方案,提出改进方案中分别需要注意的地方。     

BP神经网络预测控制算法研究及其应用

神经网络控制算法是近年来的研究热点,其中的BP神经网络控制算法是最常用的控制算法,它是前馈网络中的核心部分,可以无限逼近任意非线性,实现数据压缩。本文运用BP神经网络控制算法,借助Matlab神经网络工具箱函数,编写程序,首先做了一个非线性函数的逼近,其次重点运用BP神经网络实现图像压缩,通过试验比较,选择合适的训练函数,设定最小误差和最大训练步数,实现图像压缩,并计算了图像的信噪比及峰值信噪比,比较了不同压缩比下图像质量,最后分析了BP神经网络的局限性。     

改进神经网络模型对通信网可靠性的预测

首先利用一种改进后的粒子群算法对BP神经网络权值的选取进行优化,然后以LAN/WLAN集成网络为背景,用三种方法（BP神经网络、改进PSO算法优化后的BP神经网络、SVM）建立了LAN/WLAN集成网络可靠性的预测模型,最后通过实验比较,证明了改进后的神经网络模型预测通信网的可靠性、有效性和优越性。     

基于改进卷积神经网络的铁轨伤损图像识别

铁轨探伤技术的可靠性关系到铁路运行的安全性。分析BP神经网络、卷积神经网络算法在图片识别中的优势,提出一种结合BP、卷积网络的新算法应用于铁轨伤损检测。改进算法利用卷积神经网络对铁轨样本进行特征提取,仅一次前向运算获得低维度铁轨图,再由BP神经网络对低维度铁轨图特征进行分类训练与测试。实验结果表明,改进算法在已训练好的模型测试中得到较好的误差收敛曲线与较高的测试精度,与BP算法、卷积算法相比,该算法训练时间更少,对铁轨伤损图片识别效果更好,在铁轨伤损检测方面有较好的应用前景。