基于最小二乘支持向量回归的水质预测

水质系统是一个开放的、复杂的、非线性动力学系统,具有时变复杂性,针对水质预测方法的研究虽然已经取得了一些成果,但也存在预测精度与计算复杂度等难题。为此,本文提出一种基于最小二乘支持向量回归的水质预测算法。支持向量机是机器学习中一种常用的分类模型,通过核函数将非线性数据从低维映射到高维空间,在高维空间实现线性分类和回归,最小二乘支持向量回归（LS-SVR）利用所有的样本参与回归拟合,使得回归的损失函数不再只与小部分支持向量样本有关,而是由所有样本参与学习修正误差,提高预测精度;同时该算法将标准SVR求解问题由不等式的约束条件及凸二次规划问题转化成线性方程组来求解,提高了运算速度,解决了非线性复杂特性的水质预测问题。     

基于自适应加权最小二乘支持向量机的芳烃产量软测量建模

芳烃收率是催化重整生产过程中的重要质量指标。针对其软测量建模中样本数据可能存在的测量误差对模型性能的影响,提出一种自适应加权最小二乘支持向量机(AWLSSVM)回归建模方法。该方法基于最小二乘支持向量机模型,根据样本拟合误差,并结合改进的指数分布加权规则,为每个建模样本分配不同的权值,以降低测量误差对建模精度的影响;同时提出一种全局优化算法—混沌粒子群模拟退火(CPSO-SA)算法对最小二乘支持向量机的模型参数进行优化选择,以提高模型的泛化能力。仿真实验表明,AWLS-SVM模型的预测精度及鲁棒性能优于LS-SVM和WLS-SVM。最后,应用AWLS-SVM方法建立催化重整生产过程芳烃收率的软测量模型,获得了较好的效果。     

基于递归约简的在线自适应最小二乘支持向量回归机

鉴于传统在线最小二乘支持向量机在解决时变对象的回归问题时, 模型跟踪精度不高, 支持向量不够稀疏, 结合迭代策略和约简技术, 提出一种在线自适应迭代约简最小二乘支持向量机. 该方法考虑新增样本与历史数据共同作用对现有模型产生的约束影响, 寻求对目标函数贡献最大的样本作为新增支持向量, 实现了支持向量稀疏化, 提高了在线预测精度与速度. 仿真对比分析表明该方法可行有效, 较传统方法回归精度高且所需支持向量数目最少.     

基于柯西分布加权的最小二乘支持向量机

针对Suykens等提出的加权最小二乘支持向量机(WLS-SVM)回归建模的不足和防止辨识模型的"过拟合",利用柯西分布函数的一些特性,提出了基于柯西分布加权的最小二乘支持向量机,根据预测误差的统计特性,以确定加权规则的参数,从而赋予训练样本不同的权值,由于考虑了生产过程中样本的实际特性,与已有的加权方法相比,新的加权最小二乘支持向量机更具有鲁棒性,仿真结果验证了该方法的可行性和有效性.     

基于LS-SVM的小样本费用智能预测

最小二乘支持向量机引入最小二乘线性系统到支持向量机中,代替传统的支持向量机采用二次规划方法解决函数估计问题。该文推导了用于函数估计的最小二乘支持向量机算法,构建了基于最小二乘支持向量机的智能预测模型,并对机载电子设备费用预测进行了研究。结果表明最小二乘支持向量机具有比多元对数回归更高的小样本费用预测精度。     

基于混沌粒子群优化LS-SVM的发动机磨损状态监测研究

基于混沌PSO算法优化最小二乘支持向量机实现航空发动机磨损状态监测;通过小波包分解消除润滑油光谱数据的噪声,获取LS-SVM的训练与测试样本;针对最小二乘支持向量机解决大规模数据样本回归问题时所出现的训练时间长、收敛速度慢等缺点,提出了混沌PSO算法优化LS-SVM的模型参数;该方法不仅克服了传统PSO算法早熟、容易陷入局部最小值等缺点,同时显著提高了最小二乘支持向量机的预测能力;最后,将一般LS-SVM和GM(1,1)模型的预测结果与文中预测结果进行对比,该方法构建的模型对测试样本产生的预测误差仅为0.0441,验证了该方法在预测精度上具有明显优势。     

中长期电力负荷预测研究

为了有效地提高电力负荷的预测精度,针对影响中长期电力负荷多因素间的非线性和不确定性,提出了一种粗糙集(RS)和最小二乘支持向量机(LSSVM)相结合的中长期电力负荷预测方法.采用粗糙集理论把影响电力负荷的六个因素,属性约简为三个核心属性,减少了LSSVM的输入量,提高了电力负荷预测系统的快速性;粗糙最小二乘支持向量机回归建模,构造RS-LSSVM的电力负荷预测模型,提高预测的精度.最后进行仿真,改进模型应用于某地区的中长期电力负荷的拟合和预测中,采用RS-LSSVM模型,与BP神经网络的拟合预测结果相比,预测误差明显小于BP神经网络,具有更高的预测精度,为中长期的电力系统负荷预测提供了一种新的科学、有效的方法.     

基于AdaBoost算法的加权二乘向量回归机

针对二乘向量机(LS-SVM)对所有样本误差惩罚相同、预测精度不高的问题,提出了一种基于AdaBoost模型的二乘向量回归机。该算法使用多个二乘向量机按照某种学习规则协调各二乘向量机的输出,同时根据回归精度,建立各二乘向量机中每一个样本的误差惩罚权重,以突出样本的惩罚差异性,提高算法的泛化性能。实验结果表明,提出的算法提高了二乘向量回归机的预测精度,优化了学习机的性能。     

一种多输出支持向量机的增量学习算法

标准支持向量机主要对单输出样本学习已经进行了广泛的研究,而对多输出样本学习问题的研究较少.在最小二乘支持向量回归机模型的基础上,推广得到多输出最小二乘支持向量回归机模型,并给出它的一种增量学习算法.理论分析和实验结果证明它不但保证了学习精度,而且使得多输出回归问题的学习速度大大加快.     

混合核函数稀疏LS-SVM软测量建模与应用

针对最小二乘支持向量机存在的稀疏性欠缺和单核函数局限性问题,本文提出一种基于混合核函数稀疏最小二乘支持向量机的软测量建模方法.该方法使用多项式核函数和RBF核函数线性加权构成混合核函数,兼顾最小二乘支持向量机的全局拟合能力与局部拟合能力,以矢量基学习作为稀疏解算法,改善最小二乘支持向量机的稀疏性,在精简模型结构的同时,避免冗余信息中的噪声过多的拟合到模型参数中,进而采用粒子群算法优化模型部分参数.将此方法分别应用于Mackey- Glasss混沌模型的时间序列预测和乙烯精馏塔塔釜乙烯浓度预测,应用结果表明该方法较最小二乘支持向量机、稀疏最小二乘支持向量机以及混合核最小二乘支持向量机具有更好的泛化效果和预报精度,兆示出其良好的应用潜力.     

基于混合KPLS-FDA的过程监控和质量预报方法

提出一种基于核偏最小二乘(KPLS)与费舍尔判别分析(FDA)相结合的过程监控和质量预报方法—–混合 KPLS-FDA 方法.首先,利用 KPLS 提取过程数据的非线性特征,使用 FDA 建立 KPLS 的内部模型;然后,求出满足最大分离度的核 Fisher 特征向量和判别向量来实现状态监测,若系统运行正常,则根据 KPLS 回归模型预报产品的质量,否则利用 Fisher 相似度系数确定故障类型;最后,通过轧钢过程的仿真研究验证了混合 KPLS-FDA 方法的有效性.     

基于灰关联分析的KFCM-LSSVM蒸发过程软测量

针对氧化铝蒸发过程出口浓度在线检测问题,提出一种基于灰色关联分析和核模糊聚类相结合的多支持向量机蒸发过程建模方法.该方法采用灰色关联分析提取影响出口浓度较大的变量,再用核模糊聚类算法将样本划分成不同的子类,并对各子类构建的支持向量机模型的输出综合加权得到最终输出.对蒸发过程生产数据进行实验,并与核模糊聚类最小二乘支持向量机(KFCM-LSSVM)相比较,结果表明新模型鲁棒性较强、精度较高、泛化性更好,可以用于蒸发过程的优化控制.     

基于近似熵测度的变权组合预测方法

提出一种基于近似熵测度的变权组合预测方法.首先,不同于传统的预测效果评价准则,从衡量样本序列复杂性的角度出发,以预测值误差序列的近似熵测度为评价效果准则,建立变权组合预测优化模型;然后,在变权组合预测权值分配问题上,为克服常规的均值估计法和回归分析法的不足,采用在线最小二乘支持向量机(LS-SVM)回归法,实现预测点加权系数的准确预测;最后,通过实例表明了该方法的可行性和有效性.     

An unbiased LSSVM model for classification and regression

Aiming at the common support vector machine’s biased disadvantage and computational complexity, an unbiased least squares support vector machine (LSSVM) model is proposed in this paper. The model eliminates the bias item of LSSVM by improving the form of structure risk, then the unbiased least squares support vector classifier and the unbiased least squares support vector regression are deduced. Based on this model, we design a new learning algorithm using Cholesky factorization according to the characteristic of kernel function matrix, in this way the calculation of Lagrangian multipliers is greatly simplified. Several experiments on diffenert datasets are carried out, including the common datasets classification, synthetic aperture radar image automatic target recognition and chaotic time series prediction. The experimental results of correct recognition rate and the fitting precision testify that the unbiased LSSVM model has good universal ability and fitting accuracy, better generalization capability and stability, and have a great improvement in learning speed.     

动态贝叶斯最小二乘支持向量机

为了对涡扇发动机的运行参数变化进行实时高精度预测,提出一种基于动态贝叶斯最小二乘支持向量机(LS-SVM)的时间序列预测算法。该算法将贝叶斯证据框架理论用于推断LS-SVM的初始模型参数;然后,利用样本增减迭代学习算法实现LS-SVM的参数动态调整。对某型涡扇发动机的摩擦力矩时间序列进行动态预测,并与动态LS-SVM模型的预测结果进行比较。结果显示,动态贝叶斯LS-SVM具有较好的预测精度。     

经验模式分解与时间序列分析在网络流量预测中的应用

提出一种经验模式分解和时间序列分析的网络流量预测方法. 首先,对网络流量时间序列进行经验模式分解,产生高低频分量和余量;然后,对各分量进行时间序列分析,确保高频分量采用改进和声搜索算法优化的最小二乘支持向量机模型、低频分量和余量采用差分自回归滑动平均模型进行建模和预测;最后,将预测结果通过RBF神经网络进行非线性叠加,得到最终的预测值.仿真实验表明,所提出方法具有更好的预测效果和更高的预测精度.     

基于最小二乘支持向量机的无轴承同步磁阻电机解耦控制

无轴承同步磁阻电机是一个复杂的多变量、强耦合非线性系统,实现其非线性动态解耦控制是无轴承同步磁阻电机稳定运行的前提.在推导其数学模型的基础上,采用最小二乘支持向量机的方法得到无轴承同步磁阻电机逆模型;根据逆系统基本原理,将复杂的原非线性多变量耦合系统解耦成伪线性系统;根据线性系统理论,设计了闭环控制器,并构建了系统仿真模型.仿真结果表明该方法实现了系统的动态解耦,并且具有良好的动、静态特性.     

基于独立成分分析的含噪声时间序列预测

提出一种基于独立成分分析(ICA)的最小二乘支持向量机(LS-SVM),用于时间序列的多步超前独立预测.用ICA估计预测变量中的独立成分(IC),用不含噪声的IC重新构建时间序列.利用 -最近邻法( -NN)减小训练集的规模,提出一种新的距离函数以降低LS-SVM训练过程的计算复杂度,并用约束条件对预测值进行后处理.使用基于ICA的LS-SVM、普通LS-SVM与反向传播神经网络(BP-ANN),对多个时间序列进行对比预测实验.实验结果表明,基于ICA的LS-SVM的预测性能优于普通LS-SVM和BP-ANN.     

基于Volterra 级数并行递推AP 算法的陀螺漂移预测

为了预测某导弹陀螺漂移趋势,以该陀螺漂移角速度时间序列为对象,建立基于Volterra级数的非线性时间预测模型,提出了一种基于Volterra级数的并行递推放射投影AP自适应算法.以系统Volterra核向量增量的模与某约束总和为损失函数,按照最陡下降原理导出各阶Volterra核更新公式;再利用矩阵求逆引理递推求取各阶Volterra子系统自相关逆矩阵导出算法.某导弹实测的陀螺漂移数据预测应用研究表明,该算法运算速度快、预测精度高.     

基于偏最小二乘回归和SVM的水质预测

针对传统水质预测方法中水质因子的多重相关性造成预测精度低的问题,提出了一种将偏最小二乘法和支持向量机相耦合的水质预测方法。利用偏最小二乘法提取对水质因子影响强的成分,从而克服了信息冗余问题,并降低了支持向量的维数。利用支持向量机建模可以较好地解决高维非线性小样本问题。同时利用改进的PSO算法优化SVM参数,减小参数搜索的盲目性。研究结果表明,本耦合模型的预测精度和运行效率明显优于常用的BP人工神经网络和传统的支持向量机,可以更好地应用于水质预测。