快速的演化神经网络模型的研究与应用*

针对演化学习的速度较慢、模型的稳定性较差等,利用梯度下降计算改进演化算法,极大地提高了模型的学习速度,对那些需要及时优化工艺参数的生产过程,该种模型有很好的应用前景。     

演化循环神经网络研究综述

演化计算利用生物演化过程中的自然选择机制和遗传规律求解优化问题，循环神经网络的精度和效率依赖其参数以及结构的优化效果，采用演化计算解决循环神经网络中的参数与结构自适应优化问题是自动化深度学习领域的研究热点。文中针对结合演化计算和循环神经网络的算法进行了详细的调研。首先，简要介绍了演化算法的传统类别、常见算法和优点，以及循环神经网络模型的结构及特点，并对影响循环神经网络性能的因素进行了分析；其次，分析了演化循环神经网络的算法框架，并分别从权重优化、超参数优化和结构优化方面分析了当前演化循环神经网络的研究进展；然后，对演化循环神经网络的一些其他工作进行了分析；最后，指出了演化循环神经网络面临的挑战以及发展趋势。     

一种基于演化算法的BP改进算法

本文在对BP神经网络算法分析的基础上,提出一种基于演化算法的BP改进算法(EBP)。该算法将演化算法运用到BP算法学习率的求解中,从而达到学习率的自适应、自组织的目的。实验结果表明,使用EBP算法进行求解函数逼近、优化和建模等BP神经网络应用问题,都要比传统的BP算法具有更好的精确度和收敛速度,并且能够克服传统BP算法易陷入局部最优解、学习过程出现震荡等缺点。     

基于遗传BP算法的手写体识别

神经网络具有模拟人类的大脑活动、良好的自学习、自适应、联想记忆、并行处理和非线形转换的能力.本文阐述了BP神经网络基本原理以及BP网络手写体识别模型,研究分析了BP神经网络手写体识别模型的缺陷并提出了优化策略.在此基础上,提出一种基于改进结构的BP神经网络来实现手写体数字识别方案,除了改进BP网的结构外,还对网络学习算法进行了改进,采用了BP和GA相结合的算法,提高了网络的学习训练速度和识别效果.     

神经网络算法在物流配送车辆优化调度中应用

研究物流配送车辆调度优化问题,车辆调度存在空驶率,运输路径不合理。为了有效节约车辆运输成本,优化城市车辆调度,传统的调度算法存在计算复杂度高,不利于实际应用等问题,提出了一种改进的神经网络车辆调度优化算法模型。首先对城市车辆调度建立优化数学模型,建立了一种解决非满载车辆卸货路线优化的神经网络模型,采用改进的神经网络进行优化车辆调度,并给出了解决配送车辆优化调度问题的具体步骤。仿真结果表明,提出的改进的算法不仅能有效地求解车辆调度优化模型,而且计算机复杂度较低,算法的计算效率较高,收敛速度较快,验证了改进算法的实用性和有效性。     

基于双重优化的卷积神经网络图像识别算法*

为了进一步提高卷积神经网络算法的收敛速度和识别精度,提出基于双重优化的卷积神经网络图像识别算法。在构建卷积神经网络的过程中,针对特征提取和回归分类建立双重优化模型,实现对卷积与全连接过程的集成优化,并与局部优化算法对比,分析各算法的识别率和收敛速度的差异。在手写数字集和人脸数据集上的实验表明,双重优化模型可以在较大程度上提高卷积神经网络的收敛速度和识别精度,并且这种优化策略可以进一步拓展到其它与卷积神经网络相关的深度学习算法中。     

基于遗传算法和BP网络的文字识别方法

将基于遗传的BP神经网络算法用于文字识别算法结合了遗传算法和BP网络的优点.先采用遗传学习算法进行全局寻优、再利用BP算法进行精确训练、优化BP(Back Propagation)神经网络权重学习和训练的神经网络文字识别算法.实验结果表明该算法完全达到了文字识别要求,识别率达到了98%.并且在识别速度上也明显优于传统的BP神经网络及其他改进算法,具有精确性、收敛性和识别速度快等特点.     

基于改进AFSA算法的BP神经网络的研究

针对BP神经网络收敛速度慢、易陷入局部极小的缺点,提出将改进的人工鱼群算法与BP算法相结合的混合算法训练人工神经网络,建立了相应的优化训练模型及训练过程.通过基于生物免疫机制改进的人工鱼群算法优化训练多层前向神经网络,使神经网络对训练初值和参数要求不高,扩大了权值的搜索空间,提高了收敛速度和学习精度,有效地协调全局和局部搜索能力.仿真结果表明,该算法性能优于其它算法,具有均方误差值小,收敛速度快和计算精度高等特点,是一种更有效的神经网络训练算法.     

智能油漆配色系统的改进BP算法

BP算法具有数学意义明确、学习规则简单等优点,是前向多次神经网络的典型学习算法。但是,BP算法在学习过程中容易陷入局部最小问题。针对这一问题,提出一种修正Sigmoid函数的改进BP算法。实验证明,改进BP算法可以有效克服局部最小,显著提高收敛速度。     

数值优化改进的BP网络的模式分类对比

研究了共轭梯度算法、拟牛顿算法、LM算法三类常用的数值优化改进算法,基于这三类数值优化算法分别对BP神经网络进行改进,并构建了相应的BP神经网络分类模型,将构建的分类模型应用于二维向量模式的分类,并进行了泛化能力测试,将不同BP网络分类模型的分类结果进行对比. 仿真结果表明,对于中小规模的网络而言,LM数值优化算法改进的BP网络的分类结果最为精确,收敛速度最快,分类性能最优;共轭梯度数值优化算法改进的BP网络的分类结果误差最大,收敛速度最慢,分类性能最差;拟牛顿数值优化算法改进的BP网络的分类结果误差值、收敛速度及分类性能介于上述两种算法之间.     

BP神经网络学习算法的改进与应用

本文利用BP神经网络拟合电化领域的工艺模型，并通过正交实验获得实验样本数据，对BP网络进行演化训练。在实践应用中，对BP网络的演化学习进行了改进，取得了良好的效果。实践证明，用该模型得到的最优工艺流程的预期值误差和稳定性，都能满足实际生产的要求。     

用于股指预测的自适应训练及删剪算法

提出了利用基于自适应训练及删剪算法的抽头延迟神经网络模型对股指这一非线性时间序列进行预测。首先采用基于递归最小方差的自适应学习算法对网络模型进行学习训练，由于该算法的学习步长能够自行调整，初始参数少，所以收敛速度很快；再利用删剪算法对学习后的网络结构进行删剪，优化网络的拓扑结构，降低网络的计算复杂度，提高网络的泛化能力；然后对优化后的网络进行再学习，使优化后的网络具有最佳参数；最后利用优化后的网络对未来的股指（测试样本）进行预测。仿真实验表明，与删剪前的网络结构相比，优化后的网络结构不但降低了计算复杂度而且提高了预测精度，运算复杂度降低到原来的0.0556，预测均方误差达到8.7961e-5。     

小波及混沌学习神经网络在短期电力负荷预测中的应用

该文提出了采用小波和神经网络混合模型进行电力系统短期负荷预测方法。首先基于小波多分辨率分析方法将负荷序列分解成具有不同频率特征的序列。然后,根据分解后的各个分量的特点构造不同的神经网络模型对各分量分别进行预测。神经网络算法采用混沌学习算法,与传统BP算法相比,该算法利用混沌轨道的游动性使系统能够跳出局域极值的束缚而寻求全局最优点,这样克服了BP学习算法所存在的本质问题,可以加快网络学习速度和提高学习精度。最后对各分量预测信号进行重构得到最终预测结果。在构建网络模型时,该文考虑了气候因素的影响,并把它作为网络的一组输入点。实验结果表明基于这一方法的负荷预测系统具有较好的精度及稳定性。     

基于模糊神经网络的飞行仿真转台控制

针对飞行仿真转台系统的非线性问题，提出了基于模糊神经网络的自适应控制方法，并且提出了新的推理算法，该控制方法结合了神经网络和模糊推理的优点，可以更合理地选择初始权值，既可提高神经网络的学习过程又可在线寻优模糊规则，通过实验表明该控制方法可以明显提高控制系统的跟踪性能，并且具有很强的对外干扰和非线性因素的鲁棒性。     

神经网络的学习问题研究

神经网络的学习能力与效率问题是神经网络研究的一个重要方向,该文基于正交变换提出一种网络正交学习算法,它具有学习速度快且能获得全局最优解的特点,并可有效地对学习过程中出现的异常情况进行求解,因而具有良好的普适性。同时对新样本的学习可在以前学习的基础上继续,使网络的学习具有循序渐进的特征,提高了学习效率。     

基于人工蜂群的 BP 神经网络算法

传统BP神经网络存在容易陷入局部极小点、收敛速度慢等缺点。人工蜂群算法是基于蜜蜂群体的觅食行为而提出的一种新的启发式仿生算法,属于典型的群体智能算法。它为全局优化算法,该算法简单、实现方便、鲁棒性强。针对BP神经网络算法的不足,提出利用人工蜂群算法交叉优化BP网络参数的权值和阈值,实验证明该优化算法确实提高了解的精度,加快了网络收敛速度。     

Medical image diagnosis of lung cancer by multi-layered GMDH-type neural network self-selecting functions

In this study, a revised Group Method of Data Handling (GMDH)-type neural network self-selecting functions is applied to the computer aided image diagnosis (CAD) of lung cancer. The GMDH-type neural network algorithm has an ability of self-selecting optimum neural network architecture from three neural network architectures, such as sigmoid function neural network, radial basis function neural network and polynomial neural network. The GMDH-type neural network also has abilities of self-selecting the number of layers, the number of neurons in hidden layers and useful input variables. This algorithm is applied to CAD of lung cancers, and it is shown that this algorithm is useful for the CAD, and is very easy to apply to practical complex problems because optimum neural network architecture is automatically organized.     

基于Agent和数据切片的分布式神经网络协同学习研究

针对目前神经网络在处理类似生物信息数据库这类较大规模数据时,遇到的大规模数据处理耗时过长、内存资源不足等问题．在分析当前神经网络分布式学习的基础上,提出了一种新的基于Agent和切片思想的分布式神经网络协同训练算法．通过对训练样本和训练过程的有效切分,整个样本集的学习被分配到一个分布式神经网络集群环境中进行协同训练,同时通过竞争筛选机制,使得学习性能较好的训练个体能有效地在神经网络群中迁移,以获得较多的资源进行学习．理论分析论证了该方法不仅能有效提高神经网络向目标解收敛的成功率,同时也具有较高的并行计算性能,以加快向目标解逼近的速度．最后,该方法被应用到了蛋白质二级结构预测这一生物信息学领域的问题上．结果显示,该分布式学习算法不仅能有效地处理大规模样本集的学习,同时也改进了训练得到的神经网络性能．     

基于神经网络的加氢反应器温度优化控制

根据加氢反应器的特点，提出了一种加氢反应器出口温度神经元网络优化控制方法，给出了作为模型预估器的神经网络GA－BP算法流程及GA算法实现，提出了最优控制指标选择原则及控制指标表达式，经计算机对四床层一段加氢裂化装置进行仿真研究表明，该控制方法具有良好的跟踪性能及抗干扰能力。