二阶微粒群优化神经网络的混沌系统辨识方法

针对BP神经网络在学习算法中的不足,将BP神经网络的权值和阀值训练问题转换为优化问题,提出一种利用二阶微粒群算法优化的神经网络的算法。其次,运用基于二阶微粒群算法训练的神经网络模型对混沌系统进行辨识,并与传统的BP神经网络、RBF网络对同一混沌系统辨识的结果进行比较。实验表明,利用二阶微粒群优化算法训练神经网络进行混沌系统辨识,辨识的效果优于其它几种神经网络模型,可有效用于混沌系统的辨识。     

一种改进PSO优化RBF神经网络的新方法

为了克服神经网络模型结构和参数难以设置的缺点,提出了一种改进粒子群优化的径向基函数(RBF)神经网络的新方法.首先将最近邻聚类用于RBF神经网络隐层中心向量的确定,同时对引入适应度值择优选取的原则对基本粒子群算法进行改进,采用改进粒子群(IMPSO)算法对最近邻聚类的聚类半径进行优化,合理的确定了RBF神经网络的隐层结构.将改进PSO优化的RBF神经网络应用于非线性函数逼近和混沌时间序列预测,经实验仿真验证.与基本粒子群(PSO)算法,收缩因子粒子群(CFA PSO)算法优化的RBF神经网络相比较,其在识别精度和收敛速度上都有了显著的提高.     

基于量子粒子群的全参数连分式混沌时间序列预测

针对传统混沌时间序列预测模型的复杂性、低精度性和低时效性的缺点, 在倒差商连分式基础上提出全参数连分式模型, 并利用量子粒子群优化算法优化模型参数, 将参数优化问题转化为多维空间上的函数优化问题. 以二阶强迫布鲁塞尔振子和三维二次自治广义Lorenz 系统为模型, 通过四阶Runge-Kutta 法产生混沌时间序列, 并利用基于量子粒子群优化算法的全参数连分式、BP 神经网络和RBF 神经网络分别对混沌时间序列进行单步和多步预测. 仿真结果表明, 基于量子粒子群优化算法的全参数连分式结构简单、精度高、效率高, 该预测模型可被推广和应用.

     

基于QPSO—RBF NN的混沌时间序列预测*

提出一种基于量子粒子群优化算法训练径向基函数神经网络进行混沌时间序列预测的新方法.在确定径向基函数网络的隐层节点数后,将相应网络的参数,包括隐层基函数中心、扩展常数,以及输出权值和偏移编码成学习算法中的粒子个体,在全局空间中搜索具有最优适应值的参数向量.实例仿真证实了该方法的有效性.     

Optimal parameters estimation and input subset for grey model based on chaotic particle swarm optimization algorithm

Optimum prediction is a difficult problem, because there are no optimal models for all forecasting problems. In this paper, the authors attempt to find the high precision prediction for grey forecasting model (GM). Considering that chaotic particle swarm optimization algorithm (CPSO) will not get into local optimum and is easy to implement, the paper develops an approach for grey forecasting model, which is particularly suitable for small sample forecasting, based on chaotic particle swarm optimization and optimal input subset which is a new concept. The input subset of traditional time series consists of the whole original data, but the whole original does not always reflect the internal regularity of time series, so the new optimal subset method is proposed to better reflect the internal characters of time series and improve the prediction precision. The numerical simulation result of financial revenue demonstrates that developed algorithm provides very remarkable results compared to traditional grey forecasting model for small dataset forecasting.     

混沌理论和LSSVM相结合的网络流量预测

为提高网络流量的预测精度,提出一种基于混沌理论和最小二乘支持向量机相结合的网络流量预测方法。采用相空间重构对网络流量时间序列进行重构,恢复网络流量的演化轨迹,采用非线性预测能力强的最小二乘支持向量机对网络流量时间序列进行训练建模,采用混沌粒子群算法对最小二乘支持向量机参数进行优化,从而获得最优网络流量预测模型。用实际网络流量数据对该算法有效性进行验证,结果表明该方法能够很好刻画网络流量的变化趋势,提高了网络流量的预测精度,预测性能优于传统的预测方法。     

基于反馈教学优化算法的混沌系统参数辨识

针对传统智能优化算法对混沌系统参数辨识精度低、速度慢的问题,提出一种基于反馈教学优化算法的混沌系统参数辨识的新方法.该方法以教学优化算法为基础,在教授-学习阶段之后加入反馈阶段,同时将参数辨识问题转化为参数空间上的函数优化问题.分别以三维二次自治广义Lorenz系统、Jerk系统和Sprott-J系统为待辨识模型,对粒子群优化算法、量子粒子群优化算法、教学优化算法及反馈教学优化算法进行了对比实验,反馈教学优化算法辨识误差为零,搜索次数明显减少.仿真结果表明,反馈教学优化算法明显提高了混沌系统参数辨识精度和速度,验证了该算法的可行性和有效性.     

变结构径向基函数网络及其在混沌序列在线预测中的应用

为了利用径向基函数(RBF)神经网络对混沌序列进行精确和快速的在线预测,提出一种在线构造变结构RBF神经网络的序贯学习算法。该算法建立实时更新的滑动数据窗口,通过学习窗口内的数据对隐节点进行增加和删除,动态确定RBF神经网络隐节点的数目及中心位置,并对隐层至输出层的连接权值进行在线调整。该算法具有调节参数少、学习速度快以及所得网络结构精简等特点。将该网络用于Mackey-Glass混沌时间序列的在线预测实验,结果验证该算法对该混沌序列具有良好的在线动态辨识和预测性能。     

基于种群小生境微粒群算法的前向神经网络设计

根据自然界中鱼鸟等所具有的种群运动特征,借鉴递阶编码的思想,构造出一种种群小生境微粒群算法,具有小生境内个体微粒自由运动特征分量和小生境种群运动特征分量分层递阶进化的特征,克服了标准微粒群算法或其改进算法在多蜂函数寻优时出现的微粒“早熟”现象,应用该算法进行三层前向神经网络连接权值和网络结构联合并行自适应设计,在混沌时间序列预测中显示了良好的性能。     

基于神经网络的混沌时间序列建模及预测

该文从相空间重构理论出发,讨论了基于神经网络的混沌时间序列建模及预测方法,并以Logistic方程产生的混沌时间序列作为研究对象,采用BP和RBF两种神经网络分别对其进行了仿真分析,实验结果表明:最大Lyapunov指数越大,可预测步长越短;基于RBF网络的混沌时间序列建模及预测效果优于BP网络。     

更有效的非线性系统辨识新方法

介绍了一种基于量子粒子群算法构造径向基函数神经网络进行非线性系统辨识的新方法.在确定径向基函数网络的 隐层结点数后,将相应网络的参数,包括隐层基函数中心、扩展常数以及输出权值和偏移编码成学>-j算法中的粒子个体,在全 局空间中搜索具有最优适应值的参数向量.实例仿真通过和标准粒子群算法进行比较,表明了该方法的有效性和优越性.     

基于在线减法聚类的RBF神经网络结构设计

以设计最小径向基函数（RBF）神经网络结构为着眼点,提出一种在线RBF网络结构设计算法.该算法将在线减法聚类能实时跟踪工况的特性与RBF网络参数学习过程相结合,使得网络既能在线适应实时对象的变化又能维持紧凑的结构,有效地解决了RBF神经网络结构自组织问题.该算法只调整欧氏距离距实时工况最近的核函数,大大提高了网络的学习速度.通过对典型非线性函数逼近和混沌时间序列预测的仿真,表明所提出的算法具有良好的动态特性响应能力和逼近能力.     

一种应用ARPSO优化RBF神经网络的方法

针对径向基函数神经网络参数难以设置以及因此而导致的网络隐层结构不明朗的问题,提出了一种应用控制种群多样性的微粒群（ ARPSO）优化径向基函数神经网络（ RBF）的方法。通过引入“吸引”和“扩散”因子对基本微粒群算法进行改进,并将改进的微粒群算法用于RBF聚类半径的优化,进而能够合理地确定RBF的隐层结构。将用ARPSO优化的RBF神经网络应用于非线性函数逼近,经实验仿真验证,与基本微粒群（ PSO）算法、收缩因子微粒群（ CFA PSO）算法优化的RBF神经网络相比较,在收敛速度和识别精度上有了显著的提高。     

A neural-network learning theory and a polynomial time RBFalgorithm

This paper presents a new learning theory (a set of principles for brain-like learning) and a corresponding algorithm for the neural-network field. The learning theory defines computational characteristics that are much more brain-like than that of classical connectionist learning. Robust and reliable learning algorithms would result if these learning principles are followed rigorously when developing neural-network algorithms. This paper also presents a new algorithm for generating radial basis function (RBF) nets for function approximation. The design of the algorithm is based on the proposed set of learning principles. The net generated by this algorithm is not a typical RBF net, but a combination of "truncated" RBF and other types of hidden units. The algorithm uses random clustering and linear programming (LP) to design and train this "mixed" RBF net. Polynomial time complexity of the algorithm is proven and computational results are provided for the well known Mackey-Glass chaotic time series problem, the logistic map prediction problem, various neuro-control problems, and several time series forecasting problems. The algorithm can also be implemented as an online adaptive algorithm.     

基于PSO的RBF神经网络学习算法及其应用

提出了一种基于粒子群优化(PSO)算法的径向基函数(RBF)神经网络学习方法,首先利用减聚类算法确定网络径向基层的单元数,再用PSO对基中心和宽度进行优化,并与最小二乘法相结合训练RBF神经网络。将此算法用于混沌时间序列的预测,实例仿真表明此方法是有效的。     

改进的粒子群算法优化神经网络及应用

针对神经网络权值选取不精确的问题,提出改进的粒子群优化算法结合BP神经网络动态选取权值的方法。在改进的粒子群优化算法中,采用动态惯性权重,并且认知参数与社会参数相互制约。同时,改进的粒子群优化算法结合差分进化算法使粒子拥有变异与交叉操作,保持粒子的多样性。基于改进的粒子群优化算法与BP神经网络,构建IPSONN神经网络模型并运用于酒类品质的预测。实验分别从训练精度、正确率及粒子多样性三方面验证了IPSONN模型的有效性。     

Predicting Chaotic Time Series Using Neural and Neurofuzzy Models: A Comparative Study

The prediction accuracy and generalization ability of neural/neurofuzzy models for chaotic time series prediction highly depends on employed network model as well as learning algorithm. In this study, several neural and neurofuzzy models with different learning algorithms are examined for prediction of several benchmark chaotic systems and time series. The prediction performance of locally linear neurofuzzy models with recently developed Locally Linear Model Tree (LoLiMoT) learning algorithm is compared with that of Radial Basis Function (RBF) neural network with Orthogonal Least Squares (OLS) learning algorithm, MultiLayer Perceptron neural network with error back-propagation learning algorithm, and Adaptive Network based Fuzzy Inference System. Particularly, cross validation techniques based on the evaluation of error indices on multiple validation sets is utilized to optimize the number of neurons and to prevent over fitting in the incremental learning algorithms. To make a fair comparison between neural and neurofuzzy models, they are compared at their best structure based on their prediction accuracy, generalization, and computational complexity. The experiments are basically designed to analyze the generalization capability and accuracy of the learning techniques when dealing with limited number of training samples from deterministic chaotic time series, but the effect of noise on the performance of the techniques is also considered. Various chaotic systems and time series including Lorenz system, Mackey-Glass chaotic equation, Henon map, AE geomagnetic activity index, and sunspot numbers are examined as case studies. The obtained results indicate the superior performance of incremental learning algorithms and their respective networks, such as, OLS for RBF network and LoLiMoT for locally linear neurofuzzy model.     

基于量子粒子群优化算法的新型正交基神经网络分数阶混沌时间序列单步预测

针对分数阶混沌时间序列预测精度低、速度慢的问题,提出了基于量子粒子群优化(QPSO)算法的新型正交基神经网络预测模型。首先,在Laguerre正交基函数的基础上提出一种新型正交基函数,并结合神经网络拓扑构成新型正交基神经网络;其次,利用QPSO算法优化新型正交基神经网络参数,将参数优化问题转化为多维空间上的函数优化问题;最后,根据已优化参数建立预测模型并进行预测分析。分别以分数阶Birkhoff-shaw和Jerk混沌系统为模型,利用Adams-Bashforth-Moulton预估-校正法产生混沌时间序列作为仿真对象,进行单步预测对比实验。仿真表明,与反向传播(BP)神经网络、径向基函数(RBF)神经网络及普通的新型正交基神经网络相比,基于QPSO算法的新型正交基神经网络的平均绝对值误差(MAE)、均方根误差(RMSE)明显减小,决定度系数(CD)更接近于1,平均建模时间(MMT)明显缩短。实验结果表明,基于QPSO算法的新型正交基神经网络提高了分数阶混沌时间序列预测的精度和速度,便于该预测模型的应用和推广。     

基于多种群协同进化微粒群算法的径向基神经网络设计

神经网络结构和权值的联合设计一直是神经网络进化设计的一个研究方向.本文根据基本微粒群算法的特点,借鉴递阶编码的思想,构造出一种多种群协同进化微粒群算法.该算法具有种群内个体微粒自由运动特征分量与种群运动特征分量分层递阶进化的特征,克服了标准微粒群算法在多峰函数寻优时出现的微粒“早熟”现象.应用该算法进行径向基神经网络隐层结构和径向基函数参数联合自适应设计,在非线性系统辨识中显示了比较好的收敛性和训练精度,同时也使网络的泛化能力和逼近精度这一对矛盾得到了比较好的协调统一.     

Forecasting stock indices using radial basis function neural networks optimized by artificial fish swarm algorithm

Stock index forecasting is a hot issue in the financial arena. As the movements of stock indices are non-linear and subject to many internal and external factors, they pose a great challenge to researchers who try to predict them. In this paper, we select a radial basis function neural network (RBFNN) to train data and forecast the stock indices of the Shanghai Stock Exchange. We introduce the artificial fish swarm algorithm (AFSA) to optimize RBF. To increase forecasting efficiency, a K-means clustering algorithm is optimized by AFSA in the learning process of RBF. To verify the usefulness of our algorithm, we compared the forecasting results of RBF optimized by AFSA, genetic algorithms (GA) and particle swarm optimization (PSO), as well as forecasting results of ARIMA, BP and support vector machine (SVM). Our experiment indicates that RBF optimized by AFSA is an easy-to-use algorithm with considerable accuracy. Of all the combinations we tried in this paper, BIAS6 + MA5 + ASY4 was the optimum group with the least errors.