基于种群小生境微粒群算法的前向神经网络设计

根据自然界中鱼鸟等所具有的种群运动特征,借鉴递阶编码的思想,构造出一种种群小生境微粒群算法,具有小生境内个体微粒自由运动特征分量和小生境种群运动特征分量分层递阶进化的特征,克服了标准微粒群算法或其改进算法在多蜂函数寻优时出现的微粒“早熟”现象,应用该算法进行三层前向神经网络连接权值和网络结构联合并行自适应设计,在混沌时间序列预测中显示了良好的性能。     

基于差分进化算法的模糊神经网络控制器

针对模糊神经网络控制器在应用误差反向传播算法训练时,易于陷入局部最优的问题,提出了一种将差分进化算法与BP算法相结合的学习法,首先利用差分进化算法的全局寻优能力,给BP算法一个好的寻优初始点;然后再以一定的概率进行BP算法的寻优.对一个带有滞后环节的二阶系统进仿真表明,控制性能优于基于BP的模糊神经网络控制器.     

基于小波神经网络的飞行控制律设计

研究战机稳定性能优化挖掘问题,由于飞行控制器增益要求实时调整,达到飞行稳定。为解决上述问题,提出了一种小波神经网络的大包线增益调参飞行控制器设计,根据神经网络的非线性泛化能力获得各个学习样本飞行状态间控制器参数的取值,利用小波神经网络来实现大包线增益调参飞行控制,可以提高收敛速度与逼近精度,并可利用免疫粒子群算法替代BP算法对小波神经网络中的参数进行优化。仿真结果表明,所设计的小波神经网络增益调参飞行控制器实现了大包线飞行控制,并且具有良好的稳定控制性能。     

SEFNN:一种基于结构进化的前馈神经网络设计算法

遗传算法是一种模拟自然选择和进化的随机搜索算法,它的搜索能够遍及整个解空间,容易得到全局最优解．目前主要的编码方式都是将结构和连接权值等信息编码成串式的基因,这不利于在遗传过程中保留个体的子结构信息,也难于设计兼顾基因型与表现型的遗传算子;在前馈神经网络的进化中引入BP训练方面,也不分良莠对所有后代进行训练,形成资源浪费．为克服这些问题,提出了一种基于结构进化的前馈神经网络设计算法SEFNN,该算法使用一种紧缩矩阵编码、新型结构化交叉算子、修订的变异算子和精英训练法则,充分考虑了基因型与表现型之间的关系,适当加大变异搜索速度,并采用选拔训练方式,从而提高了进化神经网络的效率．实验表明该算法获得的解无论在网络规模还是测试精度上都有优越的性能表现,并已应用于肺癌早期细胞病理诊断系统,具有良好的效果．     

基于参数动态调整的多目标差分进化算法

针对多目标差分进化算法最优解难以获取的问题,提出一种基于参数动态调整的多目标差分进化(AMODE)算法.AMODE算法通过设计变异率和交叉率的自适应调整策略,实现进化过程中变异率和交叉率的动态调整,均衡多目标差分进化算法的局部搜索能力和全局探索能力,获得收敛性、多样性和均匀性较好的最优解.实验结果表明,基于参数动态调整的AMODE算法能够有效改善多目标差分进化算法的逼近能力(IGD)和均匀性(SP),具有较好的优化效果.     

多层前向神经网络的新型二阶学习算法

提出了多层前向神经网络的新型二阶递推学习算法。该算法不仅能使用网络各层误差而且使二阶导数信息因子反向传播。证明了新算法等价于Ｎｅｗｔｏｎ迭代法并且有二阶收敛速度。它实现了Ｎｅｗｔｏｎ搜索方向和Ｈｅｓｓｉａｎ阵逆的递推运算,其计算量几乎与普通递推最小二乘法相当。由算法性能分析证明新算法优于Ｋａｒａｙｉａｎｎｉｓ等人的二阶学习算法。     

基于PSO算法的WNN大包线增益调参控制律设计

提出了一种基于粒子群优化算法的小波神经网络大包线调参控制律设计方法.该方法用小波函数代替了Sigmoid函数作为激活函数.由于结合了小波变换良好的高频域时间精度、低频域频率精度的性质和神经网络的自学习功能,因而具有较强逼近非线性函数的能力.为了克服局部极小值问题并进一步提高对非线性函数逼近能力,利用粒子群优化算法对小波神经网络进行参数训练,并利用该网络实现了大包线增益调参.飞行仿真结果表明,所设计的小波神经网络增益调参控制器具有优良的控制性能,不仅能够保证平衡状态下的控制效果,而且在未训练的平衡状态下依然具有良好的控制性能,并且在存在20%的建模误差时,最大超调量仅为6 m,仅是使用常规增益调参方法的18%.     

基于多种群协同进化微粒群算法的径向基神经网络设计

神经网络结构和权值的联合设计一直是神经网络进化设计的一个研究方向.本文根据基本微粒群算法的特点,借鉴递阶编码的思想,构造出一种多种群协同进化微粒群算法.该算法具有种群内个体微粒自由运动特征分量与种群运动特征分量分层递阶进化的特征,克服了标准微粒群算法在多峰函数寻优时出现的微粒“早熟”现象.应用该算法进行径向基神经网络隐层结构和径向基函数参数联合自适应设计,在非线性系统辨识中显示了比较好的收敛性和训练精度,同时也使网络的泛化能力和逼近精度这一对矛盾得到了比较好的协调统一.     

多目标优化差分进化算法

个体的适应度赋值和群体的多样性维护是进化算法的两个关键问题。首先,一方面,定义了Paretoε-支配关系的相关概念,通过Paretoε-支配关系确定个体的强度Pareto值,根据个体的强度Pareto值对群体进行Pareto分级排序,实现优胜劣汰;另一方面,使用拥挤距离估算个体的拥挤密度,淘汰位于拥挤区的一些个体,维持群体的多样性。然后,根据差分进化算法的特点,使用适当的进化策略和控制参数,给出了一种用于求解多目标优化问题的差分进化算法DEAMO。最后,数值实验表明,DEAMO在求解标准的多目标优化问题时性能表现优良。     

基于遗传算法的前向神经网络结构优化

对近几年应用遗传算法（Genetic Algorithm,GA）优化设计前向神经网络结构的研究进行了评述。指出了神经网络结构优化设计的重要性和目前各种方法存在的不足。介绍了神经网络结构设计原理和应用GA优化设计神经网络应着重考虑的两个问题：即结构表达策略和适应度函数设计。分别对近来应用GA优化设计多层感知器、径向基函数神经网络和径向基概率神经网络结构的研究进行了细致介绍和分析。指出了目前研究工作的不足和未来研究工作的发展方向。     

基于遗传算法的前馈神经网络结构优化

为防止交叉后优秀基因段的丢失,在随机非一致线性交叉的基础上,设计了一种与个体适应度相关的线性交叉方案。构造了一种使交叉率与变异率随进化过程自适应调整的方法,有效抑制了遗传算法的早熟收敛。然后,针对函数逼近问题用改进后的遗传算法去优化前馈神经网络的结构,降低了神经网络训练陷入局部最优的可能性,提高了网络的泛化能力。     

基于改进PSO和DE的混合算法

研究粒子群优化(PSO)算法和差分进化(DE)算法的优缺点,通过改进PSO算法并与DE算法混合,得到一种双种群的新型混合全局优化算法。经过对5个标准测试函数的大量实验计算表明,该算法能有效克服PSO算法和DE算法的缺陷,使寻优精度有较大改进,在高维情况下表现更加突出。     

基于单纯形算子的混合差分进化算法

针对DE／rand／1／bin方案收敛速度慢的缺点,提出一种将单纯形确定性算法和差分进化随机搜索算法相结合的混合优化算法。利用差分进化算法搜索范围广、全局搜索能力强和单纯形算法局部搜索能力强、收敛速度快的特性,较大地提高了差分进化算法的收敛速度和搜索精度。典型Benchmarks复杂函数优化实验表明,该算法优化效率高、优化性能好、对初值具有较强的鲁棒性,性能优于单一的优化方法。     

基于改进型遗传算法的前馈神经网络优化设计

阐明了遗传算法和神经网络结合的可行性，提出了一种改进的面向神经网络权值学习的遗传算法。通过对XOR问题的实验，显示出其快速学习网络权值的能力，且能摆脱局部极值的困扰和初始权值的限制，从各方面都表现出优于标准遗传算法和BP算法的性能。     

基于免疫遗传算法的前向神经网络设计

针对传统BP算法训练速度慢、易陷入局部最优等缺点,该文提出了一种采用免疫遗传算法设计前向神经网络的方法。为解决神经网络权值随机初始化带来的问题,介绍了一种基于免疫的多样性模拟退火法(SAND算法)来进行神经网络权值初始化。仿真结果表明,该算法比混合遗传算法有更高的性能。     

基于Chebyshev神经网络的图像复原算法

退化图像的点扩散函数难以准确确定,为此,提出一种基于Chebyshev正交基函数的前向神经网络图像复原算法。该算法以一组Chebyshev正交基为隐层神经元的激励函数,采用BP算法对权值进行修正,达到收敛目标。给出2类Chebyshev神经网络的实现步骤及其相应衍生算法的图像恢复实现步骤。实验结果表明,该算法能较好地实现图像复原。     

基于差异演化算法的BP神经网络预测模型及其应用

人工神经网络的结构设计没有系统的规律可遵循,而常用的基于梯度的神经网络参数优化又易陷入局部最优解。针对BP人工神经网络所存在的缺陷,结合差异演化算法,提出了实数编码的DE-BP神经网络预测模型。利用税收预测的实例验证了算法的有效性,取得了令人满意的结果。     

遗传算法优化小波神经网络的网络流量预测

为了提高网络流量的预测精度,克服小波神经网络收敛速度慢、易陷入局部最优的缺点,提出一种遗传算法优化小波神经网络的网络流量预测模型.首先计算延迟时间和嵌入维数,构建小波神经网络的学习样本,然后采用小波神经网络对网络流训练集进行学习,并采用改进遗传算法对小波神经网络参数进行全局寻优,提高收敛速度和网络学习精度,最后采用网络流量数据对模型性能进行仿真分析.结果表明,相对于对比模型,本文模型的平均误差大幅度降低,训练次数急剧减,减小了二次优化训练的次数,具有更大的实际应用价值.