卷积神经网络的训练方式研究

卷积神经网络是一种基于最小化经验风险的统计学习方法,在有监督学习中,一般会向神经网络指定一个明确的代价函数,代价函数既是衡量该神经网络在当前权值设置下对指定输入的输出正确性进行衡量,也是神经网络更新参数和结构强度的参考标准。一般而言,误差代价函数是一个跟神经网络在特定训练数据集合上误差情况的可微分函数。通过利用数学方法寻求这个函数的最小值,可以进一步使权值最优化。     

一种基于进化算法的BP神经网络优化方法及应用

针对BP网络的不足,分析了一般进化算法在神经网络结构优化过程中存在的问题,根据物种内优生优育原则和物种间相互竞争、相互学习的生物学原理,提出了一种新的基于进化算法的神经网络优化方法。该方法不但有效弥补了BP神经网络在网络结构、权值选择上的随机性缺陷,缩小了神经网络结构的解搜索空间,加快了BP网络的收敛速度,进而提高了搜索效率,而且还起到对网络的结构和权值进行同时进化的作用。实验结果表明该方法取得了良好的效果。     

一种基于进化算法的BP神经网络优化方法及应用

针对BP网络的不足,分析了一般进化算法在神经网络结构优化过程中存在的问题,根据物种内优生优育原则和物种间相互竞争、相互学习的生物学原理,提出了一种新的基于进化算法的神经网络优化方法。该方法不但有效弥补了BP神经网络在网络结构、权值选择上的随机性缺陷,缩小了神经网络结构的解搜索空间,加快了BP网络的收敛速度,进而提高了搜索效率,而且还起到对网络的结构和权值进行同时进化的作用。实验结果表明该方法取得了良好的效果。     

仿生型脉冲神经网络学习算法和网络模型

为解决脉冲神经网络训练困难的问题,基于仿生学思路,提出脉冲神经网络的权值学习算法和结构学习算法,设计一种含有卷积结构的脉冲神经网络模型,搭建适合脉冲神经网络的软件仿真平台。实验结果表明,权值学习算法训练的网络对MNIST数据集识别准确率能够达到84.12%,具备良好的快速收敛能力和低功耗特点;结构学习算法能够自动生成网络结构,具有高度生物相似性。     

模糊神经网络控制器在伺服系统中的在线应用

基于神经网络的结构，结合模糊控制的理论，提出了一种模糊神经网络在线学习自适应结构，针对模糊神经网络控制器一般存在着在线修正权值计算量大。权值过度修正容易导致系统振荡等缺点，采用变结构变速率的学习方法对网络结构参数权值进行修正。将参数调整后的控制器模型应用于伺服系统中，并与传统的ITAE三阶无静差最优控制进行比较，仿真试验表明该控制器不但能够提高系统的控制品质，同时可以消除输出力矩对被控对象的扰动，具有很好的控制效果。     

基于比较的非数值排序神经网络模型

本文利用阈值前馈神经网络建立了一个基于比较的非数值排序模型。网络仅需5层即可完成非数值排序,权值的选择限制在输入参数的多项式级,而且这种前馈神经网络不需要学习,每一层的权是固定的。     

一种神经网络辨识的混合学习算法

文章提出了一种神经网络辨识的混合学习算法。采用具有递阶结构的遗传算法来获得神经网络拓扑结构和连接权值的全局次优解,之后由BP算法来进一步调整神经网络的连接权值,从而实现神经网络的自动优化设计。仿真结果表明,所得的神经网络结构简单、精度高,并具有良好的泛化能力。     

用遗传算法优化神经网络结构

本文介绍了一种用遗传算法对神经网络和连接权值同时优化的方法，该神经网络的神经元节点可以一定程度地反馈连接，再通过基因链矩阵把神经网络的结构完整地表示，遗传进化学习后，最优个体是结构最优的神经网络，使用该方法可以设计出结构未知的神经网络，本文最后对ＸＯＲ问题进行了计算。     

变结构神经网络及其应用

本文提出了变结构神经网络模型及其学习和工作算法。变结构神经网络可以有教师学习，也可以无教师学习，其学习过程没有迭代循环，权值一次确定，学习精度为０。数值仿真表明：对于非平稳环境，变结构神经网络皆有容错和弹性应变能力。     

用改进的非监督学习方法加速前馈神经网络的训练

本语文对非学习方法和前馈神经网络的结构进行了一些简单的改进,用改进后的结构和学习方法寝化前馈神经网络的权值,使前馈神经网络的训练速度和逼近精度显著提高。最后本语文通过仿真实例验证了该方法。