基于微分进化算法的支持向量机参数与特征同步选择

为了提高支持向量机(SVM)参数选择和特征选择的效率,提出了一种基于微分进化(DE)算法的SVM参数与特征同步选择方法(DE-SVM)。在编码方式上将DE的个体分为参数维和特征维,参数维直接用于优化选择参数,特征维经过"取整二进制变换"后选择相应特征。在几个UCI标准数据集上的仿真试验证明了该方法的有效性,与基于微粒群算法的参数与特征同步选择方法(PSO-SVM)相比,DE-SVM具有更高的寻优效率和特征选择能力。     

基于DE优化SVR的锂离子电池剩余容量预测

在分析了支持向量机回归算法(SVR)对剩余容量模型非线性回归基础上,针对SVR参数选择难的问题,提出了一种基于微分进化(DE)算法优化SVR的算法。DE具有强劲的全局搜索能力,将其应用到SVR的参数寻优当中去,可以寻找到SVR的最优参数。将该方法应用于锂离子电池剩余容量的预测模型,并将生成的模型和基于粒子群优化(PSO)算法的SVR锂离子电池容量预测模型比较。仿真结果表明,基于DE优化的SVR剩余容量预测的精准度高于PSO优化的SVR剩余容量预测精准度,为锂离子电池容量预测提供了一种新的方法。     

一种用于多分类问题的改进支持向量机

针对非均衡分布的多类分类问题,为提高支持向量机(SVM)算法的性能,提出了一种改进的SVM算法. 将遗传算法(GA)与传统SVM算法结合,构造出一种参数最优的进化SVM(GA-SVM), SVM模型采用径向基函数(RBF)作为核函数,利用格雷码编码方式对SVM算法的模型参数进行遗传编码和优化搜索,将搜索到的优化结果作为SVM的最终模型参数. 在两个不同特性的数据集上进行仿真测试,结果表明,与使用交叉验证策略的简单SVM相比,改进后的GA-SVM算法在多类非均衡问题上明显提高了分类正确率,学习速度也有提高.     

一种改进的差分进化算法及其应用

多目标优化问题(MOP)存在范围广且人工求解难度大,通过差分进化算法(DE)解决MOP问题具有重要意义.由于常用DE算法性能有限、收敛速度、计算精度和优化能力相互制约,通过改善变异因子、进化机制以及与粒子群算法融合等措施,研究一类基于粒子群优化和DE的混合算法(PSODE),经典优化函数的仿真实验和对比分析,结果表明在高维复杂寻优问题中可以求得高精度解.在实际数字滤波器优化设计中,表明其改进算法在计算精度和运行速度上均能取得满意的应用效果.     

多种群随机差分粒子群优化算法及其应用

为提高粒子群算法的寻优性能,提出了一种新的多种群随机差分粒子群优化算法。该方法将种群随机分组,利用基于吸引概率的轮盘赌方法确定其可能搜索方向。寻优效果预期不明显时,进行子种群内部随机差分进化寻优,以增加寻优方向的随机性和多样性。并给出了一种新的约束处理方法,对种群粒子进行动态划分,仅对部分粒子进行速度更新和位置更新,提高了搜索速度。并将所提出算法应用于数值优化问题和焊接梁设计问题。仿真结果表明,所提出算法在处理多峰函数问题时,寻优精度高,收敛速度快。在处理有约束问题时,提出的处理约束的方法,明显缩短了寻优时间。算法在处理复杂的无约束问题和有约束问题上均具有很好地寻优性能。     

递减步长果蝇优化算法及应用

提出一种递减步长果蝇优化算法(diminishing step fruit fly optimization algorithm,DS-FOA).该算法的搜索步长随果蝇觅食进程逐步减小,从而使果蝇群体在觅食初期具有较强的全局搜索能力,在觅食后期具有较强的局部寻优能力,从而实现全局搜索能力和局部寻优能力的平衡.将该算法用于支持向量机(support vector machine,SVM)回归模型的惩罚因子和核函数参数优化中,结果表明,DS-FOA收敛速度快,全局搜索与局部寻优能力强.与其他算法相比,由DS-FOA优化参数的SVM回归模型均方误差最低,回归效果好.     

基于混合算法优化支持向量机的供热负荷预测模型

支持向量机回归(Support Vector Machine Regression,SVR)作为供热预测领域的一种新型算法,普适性强,但预测精度在一定程度上受参数选择的影响。为提高预测精度,提出一种基于差分进化(Differential Evolution,DE)和灰狼优化(Grey Wolf Optimization,GWO)的混合算法(DE-GWO)对支持向量机的回归参数进行寻优。该算法首先利用DE的变异、选择维持种群的多样性,然后利用GWO的全局寻优能力搜索SVR的最优参数组合,并采用均方误差(MSE)、平均绝对百分比误差(MAPE)、平均绝对误差(MAE)和判定系数(R~2)对各种预测模型进行了评价。研究结果表明,DE-GWO-SVR预测模型的MAPE值为3.23%,优于SVR、DE-SVR、GWO-SVR模型,可为实际应用提供一定的参考。     

基于改进差分进化的K均值聚类算法在入侵检测中的研究

针对K均值算法对初始聚类中心需要人为设定、对聚类中心敏感并且极易陷入局部最优的缺陷,用改进的DE算法对K均值算法进行优化.在DE算法中,采用动态交叉参数CR与缩放参数F,有效地平衡了DE算法的全局寻优能力与收敛速度二者的矛盾;利用混沌的随机性完成DE算法的种群初始化,利用其遍历性在DE进化后期的最优解附近进行混沌搜索,有效地提高了DE算法的全局寻优能力.最后,使用KDD99数据集对CDE-K均值算法进行验证,实验结果表明,CDE-K均值算法具有较好的聚类能力,在检验效果方面表现优秀.     

改进变异算子的差分进化算法并行性分析

针对并行差分进化算法的全局搜索能力和寻优的稳定性弱的现状,基于DE/best/1变异算子提出了一种改进的差分进化算法变异算子.该算子前期采用DE/best/1变异方法,当进化代数超过设定的进化代数值时,采用改进的变异算子.通过拓宽变异算子的搜索域来提高种群的多样性,提高了差分进化算法的寻优能力.对改进变异算子的并行差分进化算法进行了函数测试,实验结果表明:相比普通的变异算子,在相同种群规模的前提下,改进的差分变异算子拓宽了遗传算法的搜索域,提高了算法的全局搜索能力;在不同的种群规模下,改进的变异算子增强了算法的寻优稳定性.     

基于支持向量机的随机聚焦搜索算法优化冲压成形工艺

针对板料冲压成形工艺优化问题,研究了一种新的优化设计方法。采用支持向量机(support vector ma-chine,SVM)构建工艺参数与成形质量之间的多元非线性回归函数模型,在此基础上将一种新的群集智能算法,即随机聚焦搜索(stochastic focusing search,SFS)算法应用于冲压成形工艺参数寻优,以达到优化成形质量的目的。结合盒形件拉深实验证明,SVM在小样本条件下学习后所构建的非线性拟合精度比神经网络具有优势,表明了SVM具有更好的泛化性能。在SVM模型基础上应用SFS算法对板料冲压成形的工艺参数进行优化,将优化后的工艺参数进行实验验证,结果表明可获得较好的成形质量,说明了该优化方法具有较好的精确度和有效性,有一定的工程实用价值。     

基于改进粒子群优化算法和CRNN的多类SVM分类

为了提高支持向量机(SVM)在多类分类中的分类效果,提出了一种基于改进粒子群优化(IMPSO)算法和协作式递归神经网络(CRNN)的多类SVM分类方法(IMPSO_CRNN_SVM算法).首先引入自适应惯性权重及自适应粒子变异,以此改进粒子群优化算法(PSO)在优化SVM参数过程中存在的容易陷入局部最优和早熟等问题; 然后基于多类SVM设计一个CRNN,并利用随机分配的训练集对该网络进行训练并构建最终决策函数,从而实现多类数据的“一次性”分类.最后利用3种数据集和实际应用对IMPSO_CRNN_SVM算法进行验证,结果表明IMPSO_CRNN_SVM算法的分类精度优于未进行参数优化的传统SVM算法、基本PSO 进行SVM参数优化的算法和未进行PSO参数优化的基于CRNN的多类支持向量机算法,因此IMPSO_CRNN_SVM算法具有一定的实用性.     

基于Scikit Learn的SVM分类器算法优化

支持向量机(SVM)在高维度数据分类中表现出优异性能,可通过核函数对原始特征进行映射,解决原始空间线性不可分问题。但由于数据特征、维度不同,所以SVM在参数调整时,一般需要手动调整,效率较低且增加工作量。针对该问题,提出了一种基于Scikit Learn的SVM分类器参数调整优化方法。使用网格搜索对最优参数范围进行搜索,利用高斯径向基核函数进行参数调整,基于Python机器学习库Scikit Learn对不同参数、不同核函数的分类结果进行可视化观察,并在网格上显示其最优参数范围,寻找准确率高的参数分布。通过自动迭代的方式对参数进行更精确求解,设定相应值代入迭代计算。同时为防止陷入过拟合,设定最优参数邻域范围直接读取最优参数值。实验结果表明,所提出的方法可大量减少人工调参时间,且可以更精确地获得SVM的最优参数。     

自适应GA-SVM参数选择算法研究

支持向量机是一种非常有前景的学习机器，它的回归算法已经成功地用于解决非线性函数的逼近问题．但是，SVM参数的选择大多数是凭经验选取，这种方法依赖于使用者的水平，这样不仅不能获得最佳的函数逼近效果，而且采用人工的方法选择SVM参数比较浪费时间，这在很大程度上限制了它的应用．为了能够自动地获得最佳的SVM参数，提出了基于自适应遗传算法的SVM参数选取方法．该方法根据适应度值自动调整交叉概率和变异概率，减少了遗传算法的收敛时间并且提高了遗传算法的精度，从而确保了SVM参数选择的准确性．将该方法应用于船用锅炉汽包水位系统建模，仿真结果表明由该方法所得的SVM具有较简单的结构和较好的泛化能力，仿真精度高，具有一定的理论推广意义．     

Dynamic multi-objective differential evolution algorithm based on the information of evolution progress

The multi-objective differential evolution(MODE) algorithm is an effective method to solve multi-objective optimization problems. However, in the absence of any information of evolution progress, the optimization strategy of the MODE algorithm still appears as an open problem. In this paper, a dynamic multi-objective differential evolution algorithm, based on the information of evolution progress(DMODE-IEP), is developed to improve the optimization performance. The main contributions of DMODE-IEP are as follows. First, the information of evolution progress, using the fitness values, is proposed to describe the evolution progress of MODE. Second, the dynamic adjustment mechanisms of evolution parameter values, mutation strategies and selection parameter value based on the information of evolution progress, are designed to balance the global exploration ability and the local exploitation ability. Third, the convergence of DMODE-IEP is proved using the probability theory. Finally, the testing results on the standard multi-objective optimization problem and the wastewater treatment process verify that the optimization effect of DMODE-IEP algorithm is superior to the other compared state-of-the-art multi-objective optimization algorithms, including the quality of the solutions, and the optimization speed of the algorithm.     

Research into a Feature Selection Method for Hyperspectral Imagery Using PSO and SVM

Classification and recognition of hyperspectral remote sensing images is not the same as that of conventional multi-spectral remote sensing images.We propose, a novel feature selection and classification method for hyperspectral images by combining the global optimization ability of particle swarm optimization (PSO) algorithm and the superior classification performance of a support vector machine (SVM).Global optimal search performance of PSO is improved by using a chaotic optimization search technique.Granularity based grid search strategy is used to optimize the SVM model parameters.Parameter optimization and classification of the SVM are addressed using the training date corresponding to the feature subset.A false classification rate is adopted as a fitness function.Tests of feature selection and classification are carried out on a hyperspectral data set.Classification performances are also compared among different feature extraction methods commonly used today.Results indicate that this hybrid method has a higher classification accuracy and can effectively extract optimal bands.A feasible approach is provided for feature selection and classification of hyperspectral image data.     

基于PSO优化的SMO算法研究及应用

顺序优化(SMO)是支持向量机(SVM)的一种有效训练算法,但SMO的参数选择问题是算法性能优劣的关键所在,只有选择了合适的参数才能使算法性能达到最优。因此,在详细介绍了SMO算法的基础上,着重研究了基于微粒群优化(PSO)的SMO算法的双层优化原理,并通过仿真进行了应用研究,将该方法的有效性进行了验证。实验结果表明,经过PSO优化的SMO算法与其他算法相比具有更高的准确性。     

一种高维多模态优化的量子粒子群优化算法

为求解实际工程中的高维多模态优化问题,提出了基于动态邻域的多策略进化的量子粒子群优化算法(QPSO).针对QPSO算法存在的粒子"早熟"问题,首先定义了一种动态邻域选择机制以保持种群的"活跃性";然后结合动态邻域机制,定义了三个不同策略的局部吸引子更新方程以保持种群进化的"多样性".为了防止算法的进化方向不发散,对收敛到全局最优解的局部吸引子更新策略赋予了较大权重;最后为了拓展最优解空间引入了狼群优化算法中的综合评价方法.通过对不同类型的高维多模态基准测试函数的仿真实验结果表明:相比于其余四种优化算法,本文提出的优化算法在收敛精度和稳定性方面具有明显优势,并且随着测试维度的增加,这种优势更加凸显,展现出了较好的解决高维多模态优化问题的性能.文中引入的综合评价方法在所有的测试函数中均具有较高的生效次数,综合评价生效意味着为下一次的进化找到一个更加有利的进化方向,这样能够减少算法找到最优解的次数,也能进一步提升算法的收敛精度.     

粒子群算法求解Web服务组合中基于QoS的服务选择

针对现有web服务组合中服务选择技术的不足,提出了一种基于粒子群优化算法的多
目标优化策略,用于解决web服务组合中基于服务质量（QoS）的服务选择全局最优化问题.
将web服务选择全局最优化问题转化为一个带QoS约束的多目标服务组合优化问题,利用多目
标粒子群算法的智能优化原理,通过同时优化多个QoS参数,最终产生一组满足约束条件的P
areto最优解. 实验结果证明了该算法的可行性和有效性.     

PSO方法的收敛性及基于微分演化的参数确定策略

对已有关于PSO收敛性的研究结果进行了必要的修正和完善,并提出了一种不依赖个人经验的参数选择策略。针对特定问题,将PSO方法的性能表示成参数的函数,从而将参数选择问题转变成函数优化问题。同时,采用微分演化方法来确定PSO的最佳参数,收到了较好的效果。     

基于支持向量机算法的海水藻类生长状态软测量

为了有效监测海水藻类生长状态,采用支持向量机算法对水体中关键表征因子进行软测量.首先采用网格寻优法对支持向量机(SVM)的惩罚因子C和参数σ进行参数寻优,然后利用所得最佳匹配参数通过样本训练,获得海水叶绿素-a浓度的软测量模型.将基于SVM的软测量结果与基于BP神经网络的软测量结果作对比,可以看出,基于SVM的软测量方法具有较好的预测精度和稳定性,可应用于海水藻类生长状态的软测量.