前馈神经网络结构优化新算法

前馈神经网络的结构直接影响网络的性能.首先基于拟牛顿NL2SOL法构造前馈神经网络模型,为了优化神经网络结构,尝试引入重置算法(Early Restart Algorithm),构建基于重置的NL2SOL动态前馈神经网络.最后通过对比实验表明,重置算法的引入有效地解决了神经网络的结构优化问题,优化后的神经网络具有良好的收敛性与稳定性.     

前馈神经网络学习新算法及其仿真

目前基于高斯牛顿法及其衍生算法的前馈神经网络虽然可以达到局部二阶收敛速度，但只对小残量或零残量问题有效，对大残量问题则收敛很慢甚至不收敛．为了实时解决神经网络学习过程中可能遇到的小残量问题和大残量问题，引入拟牛顿(QuasiNewton)优化算法，并与LM(Levemberg—Marquardt)法相结合，构建基于LM—QuasiNewton法的前馈神经网络．仿真实例表明，该神经网络较好地解决了残量问题，具有良好的收敛性和稳定性．     

重置变结构神经网络的算法

神经网络的结构直接影响到网络性能的优劣，进而影响其推广使用，是目前研究的焦点之一．尝试将重置算法应用于经典BP神经网络的结构优化，研究了重置算法中最佳重置时间的性质，同时提出一种重置变结构经典BP神经网络．     

基于BP神经网络的切削力预报

切削力预报与控制直接影响切削加工的质量和成本.以多层前馈神经网络为基本结构,以误差反向传播算法(BP算法)为网络训练方法,借助VC 语言建立了切削力预报程序.通过引入共轭梯度法和拟牛顿法优化方法,解决了网络训练中局部最小和过早饱和问题,提高了神经网络的收敛速度和精度,实现了对切削加工过程中切削力的预报和仿真.通过对以两种难加工材料的铣削和磨削试验数据为基础的预报计算,发现传统经验公式方法预报误差偏大,最大相对误差达24.9%,而神经网络方法预报结果最大相对误差为2.01%,证明基于BP神经网络的切削力预报研究具有一定参考和应用价值.     

前馈神经网络权值学习综合算法

目前基于高斯牛顿法及其衍生算法的前馈神经网络虽然可以达到局部二阶收敛速度,但只对小残量或零残量问题有效,对大残量问题则收敛很慢甚至不收敛.为了实时解决神经网络学习过程中可能遇到的小残量问题和大残量问题,引入NL2SOL优化算法与GaussNewton法相结合,并引入熵误差函数,构建基于GaussNewton NL2SOL法的前馈神经网络.仿真实例表明,该神经网络较好地解决了残量问题,具有良好的收敛性和稳定性.     

前馈神经网络的二阶学习算法

前馈神经网络是神经网络中应用最广的一种。但由于神经网络采用Ｂ－Ｐ算法，收敛速度慢。在分析了神经网络算法原理的基础上，提出了一种基于变质量法的优化训练算法。仿真证明，这种算法能够大大提高神经网络的收敛速度。     

基于GaussNewton-NL2SOL法的前馈神经网络及应用

目前基于高斯牛顿法及其衍生算法的前馈神经网络虽然可以达到局部二阶收敛速度,但只对小残量或零残量问题有效,对大残量问题则收敛很慢甚至不收敛.为了实时解决神经网络学习过程中可能遇到的小残量问题和大残量问题,引入NL2SOL优化算法,并与GaussNewton法相结合,构建基于GaussNewton-NL2SOL法的前馈神经网络.仿真实例表明,该神经网络较好地解决了残量问题,具有良好的收敛性和稳定性.     

LM算法在神经网络语音识别中的应用

输入语音信号中声音的特征提取和分类识别可以通过多层前馈神经网络大量学习实现,但基于误差反向传播的前馈神经网络(BP神经网络)标准算法收敛速度慢,在训练中效率不高。采用一种快速稳定的Levenberg-Marquardt算法进行语音识别,通过对语音信号的预处理、特征提取和网络结果优化,建立了网络训练样本集,用MATLAB进行了仿真,仿真结果表明,该算法优于传统的BP算法,具有更好的收敛性。     

基于粒子群优化和模拟退火的神经网络优化研究

文章把模拟退火思想引入到粒子群优化算法中,提出一种关于神经网络结构的优化设计方法,用于同时完成对网络结构空间和权值空间的搜索。算法对神经网络的结构和权值进行了优化,删除了网络中的冗余结点和权值,提高了网络的处理能力。实验结果表明,算法能够有效抑制粒子群优化算法不成熟收敛的发生,有效提高前馈神经网络的收敛精度和收敛速度,表现出良好的性能。     

基于过程神经网络与气动热力参数的航空发动机状态监视

采用前馈过程神经网络方法预测发动机排气温度，讨论了网络输入输出参数的选择问题，基于正交基函数简化了前馈过程神经网络的聚合运算，提出了从前馈过程神经网络向传统前馈神经网络网络模型的转化方法，基于传统前馈神经网络先验知识给出了学习算法，进行了网络训练及仿真，取得了满意的结果。     

一种改进的多层前馈神经网络结构研究

通过将传统多层前馈神经网络结构改造为具有跨层连接的网络,提出了相应的多层前馈神经网络改进算法.通过分析网络误差函数,从理论上证明了:相对于无跨层连接网络,有跨层连接网络能以更加简洁的结构逼近理想状态.最后,用一个隐层神经元解决了传统网络必须用两个隐元才能解决的异或问题.     

神经网络过学习问题的统计学分析及改进算法

着重分析了前向神经网络在学习过程中过学习问题产生的统计学机理,并根据统计学习理论提出了一种新的准则函数·该准则函数综合考虑了网络的逼近性、容错性和归纳性,并且算法实现起来简单,易于在线选择·同时还提出一种新的网络结构学习算法·最后用该学习算法进行网络训练,仿真结果显示了算法的有效性和实用性·     

深层前馈网络的单调同伦学习算法

本文研究前馈神经网络的结构以及快速二阶学习算法，首先提出一种能和适应分布网络结构的深层前馈网络模型，并利用构造性方法证明了该网络的通有逼近性质，为改进网络学习效率及大范围收敛性，提出了网络权值学习的单调同伦方法，该方法具有与牛顿法相同的二阶收敛性，数值实例显示了该方法的高效性与大范围收敛性，深层前馈网络模型具有自适应分布网络结构，高度非线性逼近性以及可实现快速学习算法等特点。     

人工神经网络在自密实混凝土抗压强度预测中的应用

针对传统BP神经网络的不足,采用不同改进算法的网络模型对自密实混凝土抗压强度预测进行了详细的分析.研究表明:采用变梯度算法的模型M1、P-B复位算法的模型M2、拟牛顿算法的模型M3以及LM算法的模型M4,这4种模型均成功地建立了自密实混凝土强度的非线性关系,可用于其强度预测;通过用MATLAB编写程序,为解决BP网络隐层节点数的不确定性提供了一种较为方便的途径.     

过程信号的前馈-反馈型自适应盲分离算法

利用神经网络的自学习能力实现信号的盲分离已被证明是实现信号分离的一种有效方法,不同的神经网络模型对分离算法的效能将产生极大的影响。针对化工生产过程的复杂性和在线监测控制的要求,在其他学者研究的基础上,基于前馈－反馈型神经网络模型,提出了一种自适应盲分离算法用于过程信号的分离。计算机仿真实验的结果表明了算法的有效性。     

用T-S型模糊神经网络的机械手轨迹跟踪自适应控制

对于常见的将 CMAC神经网络前馈控制器和常规反馈控制器相结合的机械手轨迹跟踪控制方案 ,它的控制性能同时受神经网络前馈控制器学习能力和反馈控制器控制精度的制约。该文提出的采用 T- S型模糊神经网络的机械手轨迹跟踪自适应控制方案充分利用了 T- S模糊模型的特点和优点 ,以一种基于简化的 T- S型的模糊神经网络作为前馈控制器 ,同时反馈控制器也采用 T- S型模糊神经网络实现。针对三自由度机械手轨迹跟踪问题的仿真实验表明 ,采用 T- S型模糊神经网络的机械手轨迹跟踪自适应控制方案是可行的和有效的