基于最小二乘孪生支持向量机的不确定数据学习算法

孪生支持向量机通过计算2个二次规划问题,得到2个不平行的超平面,用于解决二分类问题。然而在实际的应用中,数据通常包含不确定信息,这将会对构建模型带来困难。对此,提出了一种用于求解带有不确定数据的最小二乘孪生支持向量机模型。首先,对于每个实例,该方法都分配一个噪声向量来构建噪声信息。其次,将噪声向量结合到最小二乘孪生支持向量机,并在训练阶段得到优化。最后,采用一个2步循环迭代的启发式框架求解得到分类器和更新噪声向量。实验表明,跟其他对比方法比较,本方法采用噪声向量对不确定信息进行建模,并将孪生支持向量机的二次规划问题转化为线性方程,具有更好的分类精度和更高的训练效率。     

稀疏最小二乘支持向量机

针对大规模数据集的回归和分类问题，改进了最小二乘支持向量机.以再生核希尔伯特空间中的线性分析为基础，把样本集映射到再生空间中，然后张成再生空间的一个线性子空间，并求出这个子空间的基.利用基线性表示子空间中的其他元素，减小了求解矩阵的维数，通过求解规模相对较小的线性方程组完成对支持向量机的训练.采用该方法对较大规模的数据样本进行了回归和分类仿真试验，并与普通的最小二乘支持向量机进行比较.结果表明，采用该方法解决复杂非线性函数的回归和分类问题，不但可以得到稀疏解，而且计算速度比普通最小二乘支持向量机提高了约20％.     

最小二乘支持向量机变型算法研究

推导出最小二乘支持向量机(LSSVM)的分类几何意义,再将近似支持向量机(PSVM)等价推广至回归问题,最后提出PSVM的另一种非线性模型——直接支持向量机(DSVM)．与LSSVM相比,PSVM和DSVM增强了问题的凸性,计算复杂度低．且对非线性时,DSVM比PSVM更简单,替换核函数就可实现线性与非线性的统一．数值实验表明,线形情况下PSVM比LSSVM的训练速度至少快一倍,非线性时,DSVM比PSVM速度要快一倍左右;在泛化能力方面线性PSVM不低于LSSVM,非线性时DSVM最高．     

基于最小二乘支持向量机的数控机床热误差预测

为实现数控机床热误差的补偿控制,提出基于最小二乘支持向量机进行数控机床热误差建模预测的方法.根据最小二乘支持向量机回归预测的原理,优化选择最小二乘支持向量机参数,对数控车床热误差进行最小二乘支持向量机建模.通过测量数控车床主轴温升值与主轴热变形量,将获得的数据进行最小二乘支持向量机建模训练,以建立机床热误差预测模型.实验结果表明,该模型能有效描述热动态误差,与最小二乘法建模进行比较,结果显示,基于最小二乘支持向量机的数控机床热误差预测模型精度高、泛化能力强;采用最小二乘支持向量机得到的预测模型可用于数控机床热误差实时补偿,以提高机床的加工精度.     

和声搜索最小二乘支持向量机预测模型及其应用

为了改进目前最小二乘支持向量机(LSSVM)参数选择的盲目性,将和声搜索(Harmony Search)算法引入到最小二乘支持向量机中来.利用具有全局优化功能的和声搜索算法对LSSVM中正则化参数γ和核函数参数σ的进行自动优选,提出了和声搜索最小二乘支持向量机(Harmony Search Least Squares Support Vector Machine,HS-LSSVM)算法.通过对丰满大坝位移的建模预测并和BP神经网络模型及传统统计回归模型的分析比较,表明HS-LSSVM模型具有更小的预测误差和更高的预测精度.     

回归型模糊最小二乘支持向量机

为了克服最小二乘支持向量机对于孤立点过分敏感的问题,将模糊隶属度概念引入最小二乘支持向量机中,提出了基于支持向量域描述的模糊最小二乘支持向量回归机.该方法先对样本进行数据域描述得到一个包含该组数据的最小半径的超球,再根据特征空间中样本与超球球心的距离确定它们的隶属度,减少了奇异点(噪声)的影响;把所要求解的约束凸二次优化问题转化为正定线性方程组,并采用快速Cholesky分解的方法求解该方程组.实验结果表明该方法在不牺牲训练速度的前提下,比支持向量机和最小二乘支持向量机具有更高的预测精度.     

应用最小二乘支持向量机预测煤的发热量

为解决现有的煤发热量预测神经网络法的过学习与局部极小点问题,通过对煤热量数据的分析,在统计学习理论和结构风险最小化准则的基础上,建立了基于最小二乘支持向量机(LS-SVM)的煤发热量预测数学模型。在算例分析中与BP神经网络、RBF神经网络预测法进行对比,发现该方法比BP和RBF神经网络具有更高的预测精度,且具有收敛速度快、泛化能力强等优点,为燃煤发热量的预测提供了一种有效的方法。     

基于最小二乘支持向量机的模糊时序分析方法

利用最小二乘支持向量机良好的分类和函数估计能力，提出了一种新的模糊时序分析方法。该方法包括两部分：在模糊时序处理部分通过建立启发式规则、模糊变量、论域、模糊集合和隶属度函数，完成历史数据的模糊化；最小二乘支持向量机处理部分替代传统的模糊关系计算，对模糊化的历史数据进行分析，然后去模糊化得到最后的预测结果。与多种传统模糊时序分析方法的对比试验表明，该方法充分利用了支持向量机较好的推广性能等优点，具有更高的精度和较好的泛化效果。     

基于最小二乘支持向量机的企业库存预测方法

针对目前常用的基于神经网络的库存预测方法存在收敛速度慢或不收敛、存在局部极小值、网络结构选择具有随机性且对小样本库存预测容易出现过学习现象等问题,提出了基于最小二乘支持向量机的企业库存预测算法。通过结合某公司的库存实际计算以及与其他预测方法进行比较,通过仿真试验和实际数据验证,该算法计算简单,且具有更好适应性和很好的鲁棒性等特点。     

基于最小二乘支持向量机的时用水量预测模型

针对神经网络存在结构较难确定,训练易陷入局部最优以及容易过学习等问题,提出将最小二乘支持向量机用于预测时用水量.最小二乘支持向量机(LSSVM)基于结构风险最小化,能够较好地协调经验风险最小化和学习机器VC维之间的关系,并且LSSVM在支持向量机(SVM)的基础上,通过将价值函数改为最小二乘价值函数以及用等式约束代替不等式约束,将求解的二次规划问题转变为一组等式方程,采用径向基核函数,得到LSSVM模型的待定参数比标准支持向量机少,仅为2个.根据时用水序列具有周期性和趋势性的特点,建立了基于最小二乘支持向量机的时用水量模型.实例分析表明,与基于BP网络的时用水量模型相比,基于最小二乘支持向量机的时用水量模型具有更强的预测能力.     

最小二乘支持向量机的参数优化算法研究

该文针对最小二乘支持向量机的参数优化存在的问题,提出交叉验证的最小二乘支持向量机的参数自调整优化算法,用非线性测试函数的数据进行训练,并用于水下FCAW熔深多信息在线监测。最后把最小二乘支持向量机与传统的BP网络预测结果进行比较,结果证明,该模型的预测精确度是令人满意的,该文提出的方法是可行的。     

基于最小二乘支持向量机的纳米金免疫层析试条快速定量

通过光电反射式的光路扫描纳米金免疫层析试条测试线和质控线信号,研究基于最小二乘支持向量机的纳米金免疫层析试条快速定量方法,建立遗传算法优化的最小二乘支持向量机纳米金免疫层析试条定量研究方法。该方法对纳米金免疫层析试条甲胎蛋白(AFP)检验样本的统计数据中,样本相对均方差RMSE为12.2%,实验结果表明:遗传算法优化的纳米金免疫层析试条最小二乘支持向量机定量拟合模型有较好的整体性能和局部性能,适用于纳米金免疫层析试条的快速定量。     

二尺度最小二乘小波支持向量回归

基于小波多尺度理论和最小二乘支持向量机的优越性能,提出了多尺度最小二乘小波支持向量回归,弥补了普通最小二乘小波支持向量回归在单尺度小波空间上对函数进行逼近的不足,使用多尺度上的小波线性组合来逼近L^2（R^d）空间上的任意函数,真正意义上实现了小波分解和最小二乘支持向量机的最佳结合,更有效地继承了小波多尺度学习算法和最小二乘支持向量机的优点,既能达到有效精度而且还计算简便。本文以两尺度为例,通过仿真实验说明了所提算法的有效性。     

基于鲁棒最小二乘支持向量机的齿轮磨损预测

为了降低包含噪声的现场齿轮磨损数据对最小二乘支持向量机 (least squares support vector machine, LSSVM) 模型稳健性的影响, 采用迭代鲁棒最小二乘支持向量机 (iteratively robust least squares support vector machine, IRLSSVM) 对齿轮磨损数据进行建模和预报.首先, 增加权函数迭代次数以保证建模过程的鲁棒性;然后, 将具有全局搜索的耦合模拟退火 (coupled simulated annealing, CSA) 与局部优化的单纯形法 (simplex method, SM) 相结合的方法用于优化IRLSSVM模型超参数, 进而采用鲁棒交叉验证作为CSA-SM算法拟合目标函数, 提高IRLSSVM模型超参数优化过程的鲁棒性;最后, 利用K727840ZW变速箱现场齿轮磨损数据进行了数值实验, 结果验证了所提出方法的有效性.     

基于最小二乘支持向量机对刀具切削状态的识别

基于小波包优良的时频特性和最小二乘支持向量机(least squares support vector machine,LS-SVM)对于小样本出色的学习泛化能力,提出了一种研究刀具切削状态的方法.采用最小熵准则对声发射信号进行最佳小波包分解,以各频段的信号能量占总能量的百分比来构造特征向量,输入LS-SVM多类分类器,实现对刀具切削状态的分类识别.实验结果表明,在采用高斯核函数的LS-SVM多分类算法中,选取惩罚因子γ=10,径向基核参数σ²=1时,该分类器能对测试样本进行准确的刀具切削状态识别.     

双核函数最小二乘支持向量机汽油干点软测量建模

针对单核函数最小二乘支持向量机容易陷入局部最优值,提出双核函数最小二乘支持向量机软测量建模算法。该方法利用Sigmoid核函数与RBF核函数线性加权构成双核函数,去除部分较小支持向量样本的方法,改善最小二乘支持向量机的稀疏特性,提高模型运算速度,用k-交叉验证法进行部分参数的优化,最后将此方法用于建立汽油干点软测量模型,并与标准支持向量机、单核最小二乘支持向量机比较,结果表明双核函数最小二乘支持向量机软测量模型具有更高的计算精度和更好的推广能力。     

短期负荷预测的自适应加权支持向量机新方法

提出了一种基于自适应加权最小二乘支持向量机（AWLS-SVM）理论的电力系统短期负荷预测新方法。在对已知负荷数据及影响因素的分析学习基础上,先用自适应参数优化法整定最小二乘支持向量机的参数,确定最优参数对,然后针对各样本重要性的差异,赋予每个样本惩罚参数不同的加权系数,建立了具有良好推广性能的AWLS-SVM回归模型。本方法突出了不同样本在训练过程中贡献不同的特性,具有结构简单、泛化性能好、不易发生过拟合现象等优点。通过对真实数据的建模预测,证明了该法在短期负荷预测中的可行性和有效性。     

短期负荷预测的自适应加权支持向量机新方法

提出了一种基于自适应加权最小二乘支持向量机(AWLS-SVM)理论的电力系统短期负荷预测新方法。在对已知负荷数据及影响因素的分析学习基础上,先用自适应参数优化法整定最小二乘支持向量机的参数,确定最优参数对,然后针对各样本重要性的差异,赋予每个样本惩罚参数不同的加权系数,建立了具有良好推广性能的AWLS-SVM回归模型。本方法突出了不同样本在训练过程中贡献不同的特性,具有结构简单、泛化性能好、不易发生过拟合现象等优点。通过对真实数据的建模预测,证明了该法在短期负荷预测中的可行性和有效性。     

基于高斯噪声的孪生近端最小二乘支持向量回归模型研究及应用

孪生近端最小二乘支持向量回归机(twin proximal least squares support vector regression,TPLSSVR)是在PLSSVR模型的理论基础上结合TSVR模型的双超平面理念而设计的一种新的回归模型. 本文利用TPLSSVR模型框架构建了基于高斯噪声的孪生近端最小二乘支持向量回归模型. 该模型利用最小二乘方法,分别加入正则化项b²₁、b²₂,将一个不等式约束问题转化为两个更简单的等式约束问题,提高了模型的泛化能力,有效提升了预测精度. 为解决模型的参数选择问题,选用收敛速度快、鲁棒性好的粒子群优化算法对模型参数进行优化选择. 将新构建的模型应用于人工数据集和风速数据集,实验结果显示该模型有较好的预测效果.     

一种改进的双支持向量机

双支持向量机是近年提出的一种新的支持向量机。在处理模式分类问题时,双支持向量机速度远远超过传统支持向量机,而且显示出较好的推广能力。但双支持向量机没有考虑不同输入样本点可能会对分类超平面的形成产生不同影响,在某些实际问题中具有局限性。为了克服这个缺点,提出了一种基于模糊隶属度的双支持向量机。该算法设计了一种基于距离的模糊隶属度函数,给不同的训练样本赋予不同的模糊隶属度,构建两个最优非平行超平面,最终实现二值分类。实验结果表明,这种改进双支持向量机的分类性能优于传统的双支持向量机。