基于协同进化遗传算法的神经网络优化

人工神经网络的结构设计没有系统的规律可循,而基于梯度的神经网络参数优化又易于陷入局部最优解.该文研究了用带退化的协同进化遗传算法来优化神经网络结构,同时优化网络参数.将网络参数作为实数编码基因进行遗传选择,参数个体的受损率超过退化阀值时发生结构退化.退化进程由协同进化的控制个体动态控制.实验证明,该方案能够有效简化神经网络的结构和得到最优网络参数,收敛速度比常规遗传算法快.     

采用免疫进化算法优化设计径向基函数模糊神经网络控制器

基于生物免疫系统的计算智能近年来正逐渐成为一个研究热点.针对模糊神经网络控制器难于设计的问题,提出了一种免疫进化算法用于径向基函数模糊神经网络控制器参数的优化设计.首先将控制器参数进行编码表示成个体,并由若干随机个体组成初始群体;然后模拟生物适应性免疫应答过程,通过扩展操作在群体中较优秀个体的小邻域内进行局部搜索,同时利用突变操作在较差个体的大邻域内搜索;最后将设计的控制器用于控制倒立摆系统,仿真结果验证了该控制器的有效性.     

基于双群体进化规划的动态优化算法

动态优化问题的优化环境随时间变化导致了最优解随时间移动.为了有效地跟踪最优解,提出了一个基于双群体进化规划的动态优化算法.局部搜索群体运用高斯变异算子,并接受已有信息;全局搜索群体运用柯西变异算子,与已有信息隔离并传送较优个体至局部搜索群体.在进化过程中,它们的群体规模动态地变化.算法有效地利用了已有信息,实现了全局搜索与局部搜索的分离,适合于求解环境变化方式未知的动态优化问题.对三个动态优化模型进行了测试,并与随机初始化群体法进行了比较,仿真结果表明r提出的算法是有效的.     

一种基于混沌搜索的自适应入侵遗传算法

将生物系统中“入侵”的概念引入遗传算法,提出了一种基于混沌搜索的自适应入侵遗传算法。该算法动态地引入入侵种群,并采用混沌搜索产生入侵个体。入侵种群的扩散使优良基因得以在个体间传播,优化了种群的基因构成,能够促使种群跳出局部最小,并向全局最优的方向进化,从而有效地避免了遗传算法的早熟现象。将该算法用于函数优化及解决模式分类问题的神经网络参数训练,实验结果表明,该算法具有较快的收敛速度和较强的寻优能力。     

基于BP神经网络代理模型的交互式遗传算法

针对交互式遗传算法存在用户评价噪声和审美疲劳的问题,提出一种基于误差反向传播神经网络用户认知代理模型的交互式遗传算法。通过构建用户评价噪声模型,形成进化个体动态模糊区间适应值,以刻画用户认知随机不确定性;在用户认知确定阶段历史评价信息基础上,构建误差反向传播神经网络代理模型,给出一种新的适应值估计策略;通过度量均方误差,实现代理模型的管理与更新。将所提方法应用于蜡染风格图案设计,并与其他典型算法对比。结果表明,该方法能够有效优化进化个体适应值质量、降低用户审美疲劳。     

协同进化策略的粒子群优化算法

为了进一步提高粒子群优化算法的寻优精度,并改善收敛速度慢的问题,本文基于传统的粒子群优化算法,借鉴协同进化的思想和共生机制,提出了将协同进化算法和粒子群算法相结合的算法模型(CEA-PSO)。群体内部采用精英保留策略保留精英个体,将个体的进化和群体之间发生信息交换,达到优势互补的效果。实验结果表明,协同进化策略的粒子群优化算法精度更高,优化性能更佳。     

基于知识引导的自适应动态多模态差分进化算法

为充分利用问题求解过程知识,提升动态多模态优化算法的计算资源利用效率,提出一种基于知识引导的自适应动态多模态差分进化算法.首先,利用自组织映射神经网络实现种群自聚类,形成稳定的小生境;然后,通过对种群全局知识和个体邻域知识的综合学习,设计一种基于知识引导的自适应差分进化算法,在对种群进化状态进行实时监测和分析的基础上,逐层递进地引导不同种群个体自适应地选择最符合当前进化需求的变异方式,提升种群搜索效率,平衡种群多样性与收敛性;最后,针对问题动态特性,设计一种基于历史动态过程知识引导的自适应动态响应机制,通过对历史寻优经验的自适应学习,预测生成新环境下的潜在精英个体,引导种群实现精准快速的多峰定位.实验结果表明,所提出算法能够有效解决动态多模态优化问题,且在不同动态环境设置下其求解性能均优于对比算法.     

双目标流水线调度的动态双子群离散果蝇算法

提出了一种基于动态双子群的离散果蝇优化算法,求解以最大完工时间和机床空闲时间的最小化为目标的无等待流水线调度问题。与传统的果蝇算法不同,该算法采用基于工序的编码方式,并用改进的NEH方法进行初始化,提高初始解的质量;根据算法在进化过程中个体的进化水平,动态地将整个群体划分为先进子群和后进子群,简单但有效地插入方法在先进个体邻域内进化精细搜索,贪婪迭代进化机制用于优化后进个体,以此平衡算法的全局开发能力和局部搜索能力;为了提高算法效率,快速算法用于计算函数目标值和判断更新非支配解。仿真试验表明了所提果蝇算法的有效性和高效性。     

基于分布估计算法的人工神经网络优化设计

布估计算法是一类新的进化算法,它通过统计在当前群体中选出的个体信息给出下一代个体分布的概率统计,用随机取样的方法生成下一代群体。文章将建立在一般结构Gauss网络上的分布估计算法应用于人工神经网络的优化。仿真实验结果表明,分布估计算法用于优化神经网络,可以在很短的时间内收敛至全局最优解,避免了BP算法的不足,提高了网络的学习性能,从而为人工神经网络的优化提供了一种新的途径。     

基于分布估计算法的人工神经网络优化设计

布估计算法是一类新的进化算法,它通过统计在当前群体中选出的个体信息给出下一代个体分布的概率统计,用随机取样的方法生成下一代群体.文章将建立在一般结构Gauss网络上的分布估计算法应用于人工神经网络的优化.仿真实验结果表明,分布估计算法用于优化神经网络,可以在很短的时间内收敛至全局最优解,避免了BP算法的不足,提高了网络的学习性能,从而为人工神经网络的优化提供了一种新的途径.     

利用影响因子遗传算法优化前馈神经网络*

提出了一种带有影响因子的改进遗传算法并以此来优化前馈神经网络.染色体的每个基因都有一个影响因子,其不同取值体现了基因对整条染色体的不同影响程度.在遗传进化过程中,通过影响因子等遗传操作以达到对前馈神经网络的权值、阈值和结构优化的目的.仿真实验表明,该算法能够快速地确定神经网络的结构并且有效地提高了神经网络的收敛速度.     

一种改进的自适应混合神经网络盲分离算法

传统的前馈神经网络盲源分离算法由于步长固定存在许多缺点,而基于Sigmoid函数的自适应步长算法虽然能够克服固定步长算法的缺陷,但其稳态性能较差。针对这个问题,提出一种改进的自适应步长算法,该算法可灵活地控制步长因子函数的形状,在近零点处变化较Sigmoid函数更加缓慢,性能更加优越;同时针对前馈神经网络的不足,在前馈神经网络结构中引入递归结构,利用改进的自适应步长算法控制学习速率。仿真分析表明该算法具有更快的分离速度和更加优越的分离效果。     

Control of magnetic bearing systems via the Chebyshevpolynomial-based unified model (CPBUM) neural network

A Chebyshev polynomial-based unified model (CPBUM) neural network is introduced and applied to control a magnetic bearing systems. First, we show that the CPBUM neural network not only has the same capability of universal approximator, but also has faster learning speed than conventional feedforward/recurrent neural network. It turns out that the CPBUM neural network is more suitable in the design of controller than the conventional feedforward/recurrent neural network. Second, we propose the inverse system method, based on the CPBUM neural networks, to control a magnetic bearing system. The proposed controller has two structures; namely, off-line and on-line learning structures. We derive a new learning algorithm for each proposed structure. The experimental results show that the proposed neural network architecture provides a greater flexibility and better performance in controlling magnetic bearing systems.     

基于Zernike矩和前馈神经网络的图像配准

提出一种基于Zernike矩和多级前馈神经网络的图像配准算法。利用低阶Zernike矩表征图像的全局几何特征,通过多级前馈神经网络学习图像所经历的旋转、缩放和平移等仿射变换参数,在一级前馈神经网络的基础上添加二级前馈网络,以提高参数估计精度。仿真结果表明,与基于DCT系数的神经网络算法相比,该算法旋转、缩放和平移估计精度较高,对噪声的鲁棒性较强。     

基于互补遗传算子的前馈神经网络三阶段学习方法

论文提出了一种新的基于互补遗传算子的前馈神经网络三阶段学习方法。该方法把神经网络的学习过程分为三个阶段。第一阶段为结构辨识阶段,采用遗传算法进行神经网络隐层节点数目的选择和初始参数的设定,并基于发现的遗传算子的互补效应设计高效互补遗传算子。第二阶段为参数辨识阶段,采用效率较高的神经网络算法如L-M算法进行神经网络参数的进一步学习。第三阶段为剪枝阶段,通过获得最小结构的神经网络以提高其泛化能力。在整个学习过程中,学习过程的可控性以及神经网络的逼近精度、复杂度和泛化能力之间得到了满意平衡。仿真试验结果证明了该方法的有效性。     

基于复合正交神经网络的自适应逆控制系统

目前，在自适应逆控制系统中常采用BP神经网络，而BP网络存在算法复杂、易陷入局部极小解等不足。而正交神经网络能克服BP网络的不足，但由于正交神经网络学习算法存在某些局限性，提出了一种复合正交神经网络，该正交网络结构与三层前向正交网络相同，不同的是正交网络的隐单元处理函数采用带参数的Sigmoid函数的复合正交函数，该神经网络算法简单，学习收敛速度快，并能对网络的函数参数进行优化，为非线性系统的动态建模提供了一种方法。仿真实验表明，网络在用于过程的自适应逆控制中具有很高的控制精度和自适应学习能力。该动态神经网络比其它神经网络具有更强的建模能力与学习适应性，有线性、非线性逼近精度高等优异特性，非常适合于实时控制系统。     

基于神经网络监督控制的拥塞控制算法研究

提出了一个基于神经网络控制的主动队列管理（AQM）算法;研究了TCP/AQM拥塞控制系统的可逆性,并利用一种神经网络监督控制结构进行了AQM算法的设计。算法由一个三层前馈结构的神经网络控制器（neural network controller,NNC）和一个反馈控制器（feedback controller,FC）组成。NNC作为一个前馈控制器,通过FC产生的教师信号进行学习,以建立被控对象的逆动力学模型。仿真结果表明,提出的算法与PI（proportional-integral）算法相比,无论在瞬态性能     

基于改进遗传算法的小波神经网络控制器的研究

小波神经网络是一种引入小波分析理论的前馈型神经网络,其与遗传算法的结合可以得到一种拥有良好全局优化搜索和良好局部时频特性的学习训练途径。本文提出了一种基于改进遗传算法的小波神经网络控制器,此方法可以克服基本遗传算法收敛速度慢,容易陷入＂早熟＂收敛,计算稳定性不好等一系列问题,进一步提高了小波神经网络控制器的性能。最后通过二级倒立摆仿真和实物控制,证明了控制器的有效性。     

Neural network based model predictive control for a steel pickling process

A multi-layer feedforward neural network model based predictive control scheme is developed for a multivariable nonlinear steel pickling process in this paper. In the acid baths three variables under controlled are the hydrochloric acid concentrations. The baths exhibit the normal features of an industrial system such as nonlinear dynamics and multi-effects among variables. In the modeling, multiple input, single-output recurrent neural network subsystem models are developed using input–output data sets obtaining from mathematical model simulation. The Levenberg–Marquardt algorithm is used to train the process models. In the control (MPC) algorithm, the feedforward neural network models are used to predict the state variables over a prediction horizon within the model predictive control algorithm for searching the optimal control actions via sequential quadratic programming. The proposed algorithm is tested for control of a steel pickling process in several cases in simulation such as for set point tracking, disturbance, model mismatch and presence of noise. The results for the neural network model predictive control (NNMPC) overall show better performance in the control of the system over the conventional PI controller in all cases.     

广义BP算法及网络容错性和泛化能力的研究

给出广义ＢＰ算法及其网络学习的多种方式，常用的前向网络全并行权值修改方式是其中效率较低的一种，有许多更好的权值修改方式可以使用。网络的泛化能力依赖于网络的拓扑结构，对国际上为改进网络泛化能力而采用的几种修正学习算法的实际功能做了简要的评论。