用遗传算法优化神经网络结构

本文介绍了一种用遗传算法对神经网络和连接权值同时优化的方法，该神经网络的神经元节点可以一定程度地反馈连接，再通过基因链矩阵把神经网络的结构完整地表示，遗传进化学习后，最优个体是结构最优的神经网络，使用该方法可以设计出结构未知的神经网络，本文最后对ＸＯＲ问题进行了计算。     

演化循环神经网络研究综述

演化计算利用生物演化过程中的自然选择机制和遗传规律求解优化问题，循环神经网络的精度和效率依赖其参数以及结构的优化效果，采用演化计算解决循环神经网络中的参数与结构自适应优化问题是自动化深度学习领域的研究热点。文中针对结合演化计算和循环神经网络的算法进行了详细的调研。首先，简要介绍了演化算法的传统类别、常见算法和优点，以及循环神经网络模型的结构及特点，并对影响循环神经网络性能的因素进行了分析；其次，分析了演化循环神经网络的算法框架，并分别从权重优化、超参数优化和结构优化方面分析了当前演化循环神经网络的研究进展；然后，对演化循环神经网络的一些其他工作进行了分析；最后，指出了演化循环神经网络面临的挑战以及发展趋势。     

基于遗传算法的神经网络性能优化

遗传算法是一种典型的进化算法。文中分析了遗传算法的特点和神经网络的特点,从而得出了把两种算法结合起来进行应用的思想。运用理论对比的方法,阐明了用遗传算法进行神经网络性能优化的原因,并得出结论,认为用遗传算法进行神经网络性能优化促使了神经网络更进一步的应用。阐述了遗传算法优化神经网络的两种主要方法,论述了遗传算法和神经网络的发展现状和将来的研究动向。     

神经网络非梯度优化方法研究进展

神经网络优化是机器学习领域的一个基础性前沿课题。相较于神经网络的纯梯度优化算法,非梯度算法在解决收敛速度慢、易陷入局部最优、无法解决不可微等问题上表现出更大的优势。在剖析基于梯度的神经网络方法优缺点的基础上,重点对部分非梯度优化方法进行了综述,包括前馈神经网络优化和随机搜索优化;从基本理论、训练神经网络的步骤以及收敛性等方面对非梯度优化方法的优缺点和应用情况进行了分析;总结了基于非梯度的训练神经网络的算法在理论和应用方面面临的挑战并且展望了未来的发展方向。     

基于遗传算法的神经网络性能优化

遗传算法是一种典型的进化算法。文中分析了遗传算法的特点和神经网络的特点，从而得出了把两种算法结合起来进行应用的思想。运用理论对比的方法，阐明了用遗传算法进行神经网络性能优化的原因，并得出结论，认为用遗传算法进行神经网络性能优化促使了神经网络更进一步的应用。阐述了遗传算法优化神经网络的两种主要方法，论述了遗传算法和神经网络的发展现状和将来的研究动向。     

基于粒子群优化神经网络的语音情感识别

提出了一种基于粒子群优化算法的人工神经网络,并把它应用到语音情感识别系统中。依据情感的维度空间模型,分别提取了韵律特征与音质特征,研究了谐波噪声比特征随情感类别的变化。利用粒子群优化算法(PSO)训练随机产生的初始数据,优化神经网络的连接权值和阈值,快速地实现网络的收敛。在实验中比较了BP神经网络、RBF神经网络与PSO神经网络分别用于语音情感识别的识别率,PSO神经网络的平均识别率高于BP神经网络6.7%,高于RBF神经网络5.4%。结果显示,粒子群优化神经网络用于语音情感识别提高了识别性能。     

混沌神经网络研究进展与展望

概述了混沌动力学的特性，回顾了近年来混沌神经元主混沌神经网络的研究进展，在此基础上，介绍了两种混沌神经网络模型，分析了其构成和特点，已有研究结果表明，混沌神经网络在联想记忆和组合优化等方面有现有网络更好的性能，最后，指出了混沌神经网络的应用与研究方向。     

小波Hopfield神经网络及其在优化中的应用

通过把Hopfield神经网络的sigmoid激励函数替换为Morlet小波函数,提出了一种新型的Hopfield神经网络——小波Hopfield神经网络(WHNN)。由于Morlet小波函数具有良好的局部逼近能力和较高的非线性度,因此WHNN在非线性函数寻优上表现出令人满意的较高精确度的效果。一个典型的函数优化例子表明小波Hopfield神经网络比Hopfield神经网络有较高的精确度。     

一类0/1优化问题融合神经网络的粒子群算法

将局部寻优能力极强的人工Hopfield神经网络算法融合到粒子群优化算法的搜索过程中,提出解决一类0/1优化问题融合神经网络的混合粒子群优化算法。在该算法中依粒子群当前全局最优个体为初始态激活神经网络,生成一个局部最优态,用这个局部最优态代替粒子群当前全局最优个体,增强了算法的局部寻优能力,通过数值试验证明该算法是有效的。     

改进的遗传算法在神经网络结构优化中的应用

为了解决人工神经网络隐层节点数目难以确定的问题,针对三层BP神经网络提出了一种最大上限隐层节点数模型,并用改进的遗传算法对其优化。最后,将优化的神经网络对语音特征信号进行分类。仿真结果表明优化后的神经网络具有很好的泛化能力,验证了该方法的有效性。     

智能优化控制:概述与展望

从模糊优化控制、神经网络优化控制、模糊神经网络优化控制、基于智能优化方法的优化控制等角度, 对国内外与智能优化控制(Intelligent optimized control, IOC)密切相关的研究进行了综述, 在此基础上对智能优化控制的相关概念进行了深入分析, 并对智能优化控制方法进行了分类, 最后, 对与智能优化控制有关的一些重要问题进行了讨论, 并展望了智能优化控制研究未来的发展.     

基于Matlab的遗传算法解决多峰RBF神经网络模型全局最优化问题

以多峰RBF神经网络模型为例,研究了结合Matlab神经网络工具箱和遗传算法工具箱建立神经网络模型并求解模型的全局最优解,同时比较该模型中不同交叉算子对遗传算法全局寻优能力的影响.结果表明,采用启发式交叉算子能有效抑制遗传算法的早熟,提高其全局寻优能力,为用遗传算法解决多峰神经网络模型全局最优化问题提供了一种有效的途径.     

优化分类型神经网络线性集成

构造多神经网络集成系统,系统的输出由个体神经网络的输出线性加权产生.提出了一种度量个体神经网络在不同的权重下集成性能的判别函数,函数表示了由个体神经网络输出刻画的模式类内会聚性和类间散布性.应用遗传算法解决了求解最优个体网络集成权重问题.分析了该判别函数的合理性及其与Bayes决策规则的关系.用两个手写体汉字特征数据集和4个UCI数据库中的数据集比较了所提出的神经网络集成方法和其他几种神经网络集成方法的性能.     

BP神经网络在原油标准密度计算中的应用

在油库监控系统中,标准密度求取非常重要,直接关系系统精度.本文采用神经网络的方法求取原油的标准密度,比较发现神经网络所求的标准密度的误差效果较采用多项式拟合的方法更优.建立了一个基于BP神经网络的计算原油标准密度的模型,并运用于实际生产中,表明利用神经网络求取原油的标准密度是一种有效的方法.     

智能PID控制器优化仿真研究

研究PID控制器优化问题,现代工业控制过程中,由于许多被控对象受到于扰因素影响,具有高度非线性和不确定性,常规PID控制精度低,提出一种遗传算法、粒子群算法和RBF神经网络相融合的PID控制器设计方法(GA-PSO-RBF).首先采用遗传算法选择PID控制参数初始值,然后采用粒子群算法优化RBF神经网络参数,采用优后的RBF神经网络辨识控制对象的输出对输入的变化灵敏度,最后采用单神经元对PID控制器进行在线性调整,得到理想的控制效果.仿真结果表明,GA-PSO-RBF神经网络PID控制器的超调量小,响应速度快,提高了系统的控制精度.     

改进的遗传算法在优化BP网络权值中的应用

对遗传算法和BP神经网络的特点进行了比较,作为进化算法神经网络与遗传算法的目标相近而方法各异。阐述了遗传算法与神经网络结合的必要性。提出了一种改进的遗传算法优化BP神经网络的权值,用遗传算法的全局随机搜索能力弥补了神经网络容易陷入局部最优解的问题。同时,在遗传算法中改变传统的同代交叉机制,采用父代与子代进行交叉,避免了遗传算法过早丧失进化能力。     

神经网络基于粒子群优化的学习算法研究

研究神经网络基于粒子群优化的学习算法，将粒子群优化算法用于神经网络的学习训练，并与遗传算法进行了比较，结果表明，神经网络基于粒子群优化的学习算法简单容易实现，而且能更快地收敛于最优解。     

推广的Hopfield神经网络模型

本文推广了Ｈｏｐｆｉｅｌｄ神经网络模型，对能量公式中的函数只要求一阶偏导数存在 连续即可，这就扩展了神经网络方法在求解组合优化问题中的应用。     

蚁群神经网络在中小企业信用评价中的应用

为了进一步提高BP神经网络的性能,实现准确、快速预测中小企业信用的目的,在分析信用评价重要性的基础上,根据中小企业信用评价指标体系,提出了一种基于蚁群神经网络的评价模型.利用蚁群算法对神经网络进行训练,再将此网络模型应用到中小企业信用评价系统中,最后通过训练样本和测试样本来检测该蚁群神经网络.结果表明蚁群神经网络的预测方法与传统的BP冲经网络预测方法相比,具有较强的泛化能力,应用在中小企业信用评价系统中具有很高的评价准确率.     

基于灰色粒子群神经网络的航天器参量预测

针对航天器精确预测与健康管理的需求,将粒子群算法、灰色理论与神经网络的优势相结合,提出了一种灰色粒子群神经网络组合参量预测方法,实现了灰色模型、粒子群算法、神经网络模型的优势互补.针对某卫星南帆板输出电流参量的预测实例,采用总平均绝对误差、总平均绝对百分比误差、总均方根误差3个预测结果评价指标,对灰色粒子群神经网络模型、粒子群神经网络模型、灰色模型和残差修正灰色模型的预测结果进行了比较,结果证明灰色粒子群神经网络模型的预测精度较高,在航天器参量预测领域具有很好的应用前景.