回归型模糊最小二乘支持向量机

为了克服最小二乘支持向量机对于孤立点过分敏感的问题,将模糊隶属度概念引入最小二乘支持向量机中,提出了基于支持向量域描述的模糊最小二乘支持向量回归机.该方法先对样本进行数据域描述得到一个包含该组数据的最小半径的超球,再根据特征空间中样本与超球球心的距离确定它们的隶属度,减少了奇异点(噪声)的影响;把所要求解的约束凸二次优化问题转化为正定线性方程组,并采用快速Cholesky分解的方法求解该方程组.实验结果表明该方法在不牺牲训练速度的前提下,比支持向量机和最小二乘支持向量机具有更高的预测精度.     

基于小波包移频算法的遥感图像融合技术

为了对分类最小二乘支持向量机实施有效的稀疏化，以提高分类速率，采用分类相关分析算法，按序提取样本核矩阵的全部分类相关成分，并依据样本核矩阵各列与分类相关成分的相关性，对训练集所有个体按分类的重要性排序，进而可选取最重要的部分个体作为支持向量，并将其余非支持向量的信息转移至支持向量，以提高支持向量的分类表达能力.由此构建一种新的稀疏型最小二乘支持向量机CS LSSVM，并将其应用于多个模式分类的实际问题.测试结果表明，CS LSSVM稀疏性很强，且保持了标准LSSVM的分类性能，还可直接适用于多类问题.     

基于CCA对LSSVM分类器的稀疏化

为了对分类最小二乘支持向量机实施有效的稀疏化，以提高分类速率，采用分类相关分析算法，按序提取样本核矩阵的全部分类相关成分，并依据样本核矩阵各列与分类相关成分的相关性，对训练集所有个体按分类的重要性排序，进而可选取最重要的部分个体作为支持向量，并将其余非支持向量的信息转移至支持向量，以提高支持向量的分类表达能力.由此构建一种新的稀疏型最小二乘支持向量机CS LSSVM，并将其应用于多个模式分类的实际问题.测试结果表明，CS LSSVM稀疏性很强，且保持了标准LSSVM的分类性能，还可直接适用于多类问题.     

最小二乘支持向量机的半监督学习算法

将最小二乘支持向量机引入到半监督学习中,提出了一种最小二乘支持向量机的半监督学习算法.采用最小二乘支持向最机训练混合样本集,利用最小二乘支持向量机训练速度快、效率高等优点有效地克服了目前一些半监督支持向量机学习算法时间代价大、效率低的缺陷.在训练过程中采用区域标注法,减少达到收敛所需要的迭代次数,并给出了SLS-SVM算法具体的数学描述.在人造数据集及实际数据集上的实验表明,最小二乘支持向量机的半监督学习算法可以有效的减少训练时问,提高训练的速度,从而具有更好的推广能力.     

基于GA-LSSVR算法的回采工作面瓦斯涌出量预测

针对回采工作面瓦斯涌出量问题的小样本、非线性、影响因素关系复杂等特点,采用遗传-最小二乘支持向量回归算法对瓦斯涌出量进行预测,利用定量方法进行分析,避免了定性分析的局限性,有效提高了预测的精度。该模型首先利用遗传算法对最小二乘支持向量回归机中的参数进行训练和优化,然后运用遗传-最小二乘支持向量回归模型对测试样本进行了回采工作面瓦斯涌出量测试。测试结果表明:与支持向量回归机以及最小二乘支持向量回归机的预测值相比,遗传-最小二乘支持向量回归的回采工作面瓦斯涌出量预测可靠性和精确性更高。     

基于偏最小二乘支持向量机回归区域物流量预测

研究采用偏最小二乘支持向量机回归模型进行区域物流量预测问题.针对普通最小二乘预测所存在的问题和物流系统样本量少的具体状况,提出偏最小二乘支持向量机回归区域物流量预测方法,采用主成分分析法提取影响物流量因素的新综合变量,建立以新综合变量为输入,物流量为输出的支持向量机回归非线性预测模型,在廊坊市物流量预测中进行仿真试验,证明了该方法的可行性与正确性.     

基于三分类支持向量机的多分类算法的研究

用支持向量机解决多分类问题是目前众多学者研究的热点话题.将已有的最小二乘支持向量分类-回归机算法推广到M空间进行了理论分析,在基于支持向量机的三分类算法基础上,提出了两个新的K(K3)类多分类算法:一对一对多与一对一对一算法.对所有数据集进行分类时,在已有的多分类算法的基础上采用加校正的技巧:忽略准确率低的子分类器.数值实验证明了该技巧的有效性,并且校正后的准确率比校正前平均提高了4.61%.     

基于最小二乘支持向量机的黏着状态辨识

针对重载机车黏着状态辨识中分类准确率不高的问题,提出采用布谷鸟遗传算法对最小二乘支持向量机的参数进行优化,并采用交叉验证原理提高该模型的整体泛化性能。首先,采用布谷鸟算法寻找惩罚因子和核参数的初始值;然后,采用遗传算法对最小二乘支持向量机进行训练,从而得到具有最佳参数的最小二乘支持向量机的分类模型。该分类模型将重载机车黏着状态分为正常、故障征兆、微小故障和严重故障4个状态。实验结果表明,提出的最小二乘支持向量机模型在黏着状态辨识中的分类准确率高达94.59%,高于极限学习机的分类准确率(84.61%),证明布谷鸟遗传算法能够有效提高最小二乘支持向量机的分类准确率。     

最小二乘支持向量机的两点改进

最小二乘支持向量机以其较好的性能得到了广泛应用,但仍存在2点不足:一方面,最小二乘支持向量机将所有训练样本都作为支持向量参与未知样本的分类,导致该算法在泛化过程中处理速度较慢;另一方面,最小二乘支持向量机主要利用光谱数据进行训练和分类,忽略了对地物空间信息的挖掘,影响了分类精度。为此,提出一种基于库伦引力模型的样本缩减策略,在此基础上将分类结果与基于空间信息的分类器相融合,由此产生的新分类器可以有效解决以上两方面的问题。实验表明了新分类模型在分类精度与速度方面的优势。     

基于核主元分析和支持向量机的f-CaO含量预测

将核主元分析和支持向量机相结合,运用核主元分析对数据样本进行非线性特征提取,得到更易于回归的特征主元分量,达到了降低支持向量机的输入空间维数,然后运用最小二乘支持向量机进行训练,通过网格搜索和交叉验证确定最小二乘支持向量机的最优参数.建立了预测水泥熟料游离氧化钙含量的核主元分析支持向量机模型.计算结果表明提出的模型能有效地预测水泥熟料游离氧化钙含量.     

Least squares weighted twin support vector machines with local information

A least squares version of the recently proposed weighted twin support vector machine with local information(WLTSVM) for binary classification is formulated. This formulation leads to an extremely simple and fast algorithm, called least squares weighted twin support vector machine with local information(LSWLTSVM), for generating binary classifiers based on two non-parallel hyperplanes. Two modified primal problems of WLTSVM are attempted to solve, instead of two dual problems usually solved. The solution of the two modified problems reduces to solving just two systems of linear equations as opposed to solving two quadratic programming problems along with two systems of linear equations in WLTSVM. Moreover, two extra modifications were proposed in LSWLTSVM to improve the generalization capability. One is that a hot kernel function, not the simple-minded definition in WLTSVM, is used to define the weight matrix of adjacency graph, which ensures that the underlying similarity information between any pair of data points in the same class can be fully reflected. The other is that the weight for each point in the contrary class is considered in constructing equality constraints, which makes LSWLTSVM less sensitive to noise points than WLTSVM. Experimental results indicate that LSWLTSVM has comparable classification accuracy to that of WLTSVM but with remarkably less computational time.     

基于最小二乘支持向量机的时用水量预测模型

针对神经网络存在结构较难确定,训练易陷入局部最优以及容易过学习等问题,提出将最小二乘支持向量机用于预测时用水量.最小二乘支持向量机(LSSVM)基于结构风险最小化,能够较好地协调经验风险最小化和学习机器VC维之间的关系,并且LSSVM在支持向量机(SVM)的基础上,通过将价值函数改为最小二乘价值函数以及用等式约束代替不等式约束,将求解的二次规划问题转变为一组等式方程,采用径向基核函数,得到LSSVM模型的待定参数比标准支持向量机少,仅为2个.根据时用水序列具有周期性和趋势性的特点,建立了基于最小二乘支持向量机的时用水量模型.实例分析表明,与基于BP网络的时用水量模型相比,基于最小二乘支持向量机的时用水量模型具有更强的预测能力.     

最小二乘大间隔孪生支持向量机

针对最小二乘孪生支持向量机（LSTWSVM）精度较低和可能存在的"奇异性"问题,提出了一种最小二乘大间隔孪生支持向量机（LSLMTSVM）.该算法在最小二乘孪生支持向量机的优化目标函数中引入了间隔分布,提高了算法的泛化性能.在目标函数中加入正则项,实现了结构风险最小化,进一步提高了分类能力.实验结果表明,最小二乘大间隔孪生支持向量机比已有的相关算法性能更优.     

双核函数最小二乘支持向量机汽油干点软测量建模

针对单核函数最小二乘支持向量机容易陷入局部最优值,提出双核函数最小二乘支持向量机软测量建模算法。该方法利用Sigmoid核函数与RBF核函数线性加权构成双核函数,去除部分较小支持向量样本的方法,改善最小二乘支持向量机的稀疏特性,提高模型运算速度,用k-交叉验证法进行部分参数的优化,最后将此方法用于建立汽油干点软测量模型,并与标准支持向量机、单核最小二乘支持向量机比较,结果表明双核函数最小二乘支持向量机软测量模型具有更高的计算精度和更好的推广能力。     

支持向量机的给水管网水质综合评价研究

提出了基于支持向量机(SVM)的给水管网水质综合评价模型.在给水管网水质评价标准的基础上采用内插法获得学习样本,利用最小二乘支持向量机回归算法和高斯核函数对支持向量机进行训练,并用K-折交叉验证法优化模型参数,以优化参数的模型建立网络水质分级标准.将训练好的网络模型应用于水体实例并与其它几种评价模型加以比较,分析结果表明,SVM方法评价结果比较客观、合理,尤其在体现指标的极值作用方面具有独到的优势.     

变照度下的视觉测量系统误差建模

针对二维视觉在线测量工件时,照度变化因素导致测量误差的问题,提出基于遗传算法优化的最小二乘支持向量机（GA-LSSVM）,建立照度误差模型的方法. 分析视觉测量系统的误差来源,通过最小二乘法分析照度影响下的误差规律. 利用照度变化误差实验,获得照度和测量系统的误差数据,分别训练GA-LSSVM、支持向量机（SVM）以及BP神经网络,建立照度和测量系统误差模型,对系统测量误差进行预测. 结果表明：在变照度测量误差预测模型中,GA-LSSVM模型、SVM模型及BP神经网络模型的预测精度分别为94.90%、90.23%及80.60%. 这表明遗传算法优化的最小二乘支持向量机建立的变照度误差模型,在拟合和预测精度上优于传统的BP神经网络.     

结合PLS-DA与SVM的近红外光谱软测量方法

为了提高近红外光谱分析精度,提出结合偏最小二乘判别分析（PLS-DA）与支持向量机（SVM）的软测量方法（PLS-DA-SVM）.该方法利用一组由不同类别组成的训练样本,引入二叉树进行多重分类,节点分类器由PLS-DA方法建立;利用偏最小二乘支持向量机（PLS-SVM）建立每类样本的定量模型.预测时,用PLS-DA分类树对待测样本进行分类,选择相应的PLS-SVM模型进行定量分析.实验利用PLS-DA-SVM方法和近红外光谱数据建立汽油的研究法辛烷值软测量模型,针对2个批次共计57个成品汽油样本进行蒙特卡洛交叉检验.结果表明,对汽油牌号进行识别,平均分类错误率为0.07%,低于其他常用分类方法;对研究法辛烷值进行预测,均方误差达到0.243,复相关系数达到0.991,较PLS、LS-SVM等方法有显著提高.     

基于LS-SVM的模糊控制器研究

探讨了利用最小二乘支持向量机(LS-SVM)进行模糊控制器分析与设计研究的方法,提出了基于LS-SVM模型的模糊控制算法.该控制器融合了模糊控制与支持向量机的优点,具有不依赖被控对象模型、泛化能力强等特点.仿真结果表明,LS-SVM学习速度快,在小样本情况下具有良好的非线性建模和泛化能力.基于LS-SVM的模糊控制器具有很好的控制性能.     

基于最小二乘支持向量机的纳米金免疫层析试条快速定量

通过光电反射式的光路扫描纳米金免疫层析试条测试线和质控线信号,研究基于最小二乘支持向量机的纳米金免疫层析试条快速定量方法,建立遗传算法优化的最小二乘支持向量机纳米金免疫层析试条定量研究方法。该方法对纳米金免疫层析试条甲胎蛋白(AFP)检验样本的统计数据中,样本相对均方差RMSE为12.2%,实验结果表明:遗传算法优化的纳米金免疫层析试条最小二乘支持向量机定量拟合模型有较好的整体性能和局部性能,适用于纳米金免疫层析试条的快速定量。