基于偏最小二乘的支持向量机多分类方法

该文提出了一种基于偏最小二乘（PLS）的支持向量机（SVM）多分类方法,该算法利用偏最小二乘思想对样本进行预处理,消除了样本属性之间的相关性,而且得到的综合属性与类信息的相关程度达到最大。通过实验可以看出,该方法不仅可以减少用支持向量机进行分类过程中的支持向量数目,而且当样本属性较多时,可以提高一定的识别率。     

用于多分类问题的最小二乘支持向量分类-回归机

基于支持向量机(SVM)的三分类方法是处理多分类问题的一类方法。提出了最小二乘支持向量分类〖CD*2〗回归机(LSSVCR)算法,通过最小二乘目标函数充分考虑所有样本点对分类的影响,使得训练集中即使有个别样本点被标错类别,对分类结果也不会产生太大的影响,从而提高分类的准确性。该方法能够提高分类的准确率和分类速度,同时算法对于不同类别间样本数目差异较大的情况也有很好的分类效果。数值实验结果表明所提算法是可行的,且与已有的三分类算法相比在分类准确性上平均提高了2.57%,在运算速度上也有了较大的提高。     

支持向量机多分类算法的研究

支持向量机（support vector machine,SVM）是在统计学习理论基础上发展起来的一种新的数据挖掘方法,并已广泛应用于模式识别与回归分析等领域。本文重点阐述了一些典型的支持向量机多分类算法及支持向量机多标注算法。最后指出了进一步研究和亟待解决的一些问题。     

最小二乘双支持向量回归机

提出了一个最小二乘双支持向量回归机,它是在双支持向量回归机基础之上建立的,打破了标准支持向量回归机利用两条平行超平面构造ε带的思想。事实上,它是利用两条不一定平行的超平面构造ε带,每条超平面确定一个半ε-带,从而得到最终的回归函数,这使该回归函数更符合数据本身的分布情况,回归算法有更好的推广能力。另外,最小二乘双支持向量机只需求解两个较小规模的线性方程组就能得到最后的回归函数,其计算复杂度相对较低。数值实验也表明该回归算法在推广能力和计算效率上有一定的优势。     

基于支持向量机的大样本回归算法比较研究

支持向量机的研究是当前人工智能领域的研究热点。基于支持向量机的大样本回归问题一直是一个非常具有挑战性的课题。最近,基于递归最小二乘算法,Engel等人提出了核递归最小二乘算法。文中基于块增量学习和逆学习过程,提出了自适应迭代回归算法。为了说明两种方法的性能,论文在训练速度、精度和支持向量数量等方面,对它们做了比较。模拟结果表明:核递归最小二乘算法所得到的支持向量个数比自适应迭代回归算法少,而训练时间比自适应迭代回归算法的训练时间长,训练和测试精度也比自适应迭代回归算法差。     

基于一类分类的线性规划支持向量回归算法

根据一类分类思想,提出一种基于线性规划的支持向量回归算法,该算法揭示了一类分类和回归之间的关系。实验在一个正弦函数、一个混沌时间序列和一个实际的数据上进行。实验结果表明,所给算法的泛化性能优于标准的支持向量回归算法(ε-SVR)、线性规划支持向量回归算法(LP-SVR)和最小二乘支持向量回归算法(LS-SVR),实验结果也说明了所给算法的有效性和可行性。     

支持向量机多类分类算法研究

提出一种新的基于二叉树结构的支持向量(SVM)多类分类算法.该算法解决了现有主要算法所存在的不可分区域问题.为了获得较高的推广能力,必须让样本分布广的类处于二叉树的上层节点,才能获得更大的划分空间.所以,该算法采用最小超立方体和最小超球体类包含作为二叉树的生成算法.实验结果表明,该算法具有一定的优越性.     

基于改进支持向量回归算法的移动机器人定位

为了提高移动机器人定位精度,提出了一种基于正交编码器和陀螺仪的轮式移动机器人定位系统,建立机器人的定位模型和运动学模型。研究了支持向量回归（SVR）算法,为获得更好的鲁棒性,对目标函数误差平方进行加权,分析不同参数优化算法对支持向量机回归准确率的影响。以自制的移动机器人为实验平台,将改进的算法与最小二乘支持向量回归（LSSVR）算法、加权最小二乘支持向量回归（WLSSVR）算法进行比较,对比了用改进算法时机器人在木地板场地与瓷砖场地的定位误差情况,并对正交编码器+陀螺仪定位系统与双码盘定位系统、单码盘+陀螺仪定位系统进行比较。实验结果表明,改进的算法使机器人的定位精度明显高于对比算法,并且所提出的定位系统定位效果较好。     

支持向量机分类回归核函数

基于统计学习理论的支持向量机算法以其优秀的学习性能已广泛用于解决分类与回归问题。分类算法通过求两类样本之间的最大间隔来获得最优分离超平面,其几何意义相当直观,而回归算法的几何意义就不那么直观了。另外,有些适用于分类问题的快速优化算法岁不能用于回归算法中。研究了分类与回归算法之间的关系,为快速分类算法应用于回归模型提供了一定的理论依据。     

两种基于等式约束支持向量回归机比较研究

为了减小支持向量回归机(SVR)的计算复杂度、缩短训练时间,将应用于分类问题的近似支持向量机(PSVM)扩展到回归问题中,针对其原始优化问题采用直接法求取最优解,而不是转换为对偶问题求解,给出了近似支持向量回归机(PSVR)线性和非线性回归算法.并与同样基于等式约束的最小二乘支持向量回归机(LSSVR)进行了比较,在一维、二维函数回归以及不同规模通用数据集上的测试结果表明,PSVR算法简单,训练速度快,尤其在大规模数据集处理上更具优势.     

基于AdaBoost算法的加权二乘向量回归机

针对二乘向量机(LS-SVM)对所有样本误差惩罚相同、预测精度不高的问题,提出了一种基于AdaBoost模型的二乘向量回归机。该算法使用多个二乘向量机按照某种学习规则协调各二乘向量机的输出,同时根据回归精度,建立各二乘向量机中每一个样本的误差惩罚权重,以突出样本的惩罚差异性,提高算法的泛化性能。实验结果表明,提出的算法提高了二乘向量回归机的预测精度,优化了学习机的性能。     

基于改进支持向量机的快速稳健代理模型研究

最小二乘支持向量机代理模型具有较好的泛化能力和强大的非线性处理能力,但其对实际工程中不可避免的异常样本十分敏感,而传统的加权最小二乘支持向量机易产生过度拟合并且未考虑到回归误差分布特性,针对这一问题提出正态分布概率密度函数加权方法,并且采用回归误差的中值作为计算权值的衡量标准,增强了加权算法的稳健性;提出了迭代加权最小二乘支持向量机快速递推算法,利用矩阵关系进行迭代递推计算,减少了计算量,节约了建模时间。通过数值实例验证了该方法的可行性、有效性。     

一种快速最小二乘支持向量机分类算法

最小二乘支持向量机不需要求解凸二次规划问题,通过求解一组线性方程而获得最优分类面,但是,最小二乘支持向量机失去了解的稀疏性,当训练样本数量较大时,算法的计算量非常大。提出了一种快速最小二乘支持向量机算法,在保证支持向量机推广能力的同时,算法的速度得到了提高,尤其是当训练样本数量较大时算法的速度优势更明显。新算法通过选择那些支持值较大样本作为训练样本,以减少训练样本数量,提高算法的速度;然后,利用最小二乘支持向量机算法获得近似最优解。实验结果显示,新算法的训练速度确实较快。     

基于加权支持向量回归的网络流量预测

网络流量预测对于网络的安全和可用性至关重要,但是,传统的网络流量预测方法使用平均时间加权的方法进行预测,缺泛化能力导致预测精度低。基于每一个网络流量历史数据到预测点的时间间隔计算其时间权重,使用带时间权重的加权支持向量回归模型w-SVR预测网络流量。该模型因为其泛化能力和为每个训练数据设置单独的权重而提高了网络流量预测的准确性。模拟实验显示w-SVR模型相对于ANN和AR模型,预测错误率分别降低了37.4%和65.6%,而标准误差降低了46.2%和53.3%。     

基于遗传优化最小二乘支持向量机的导引头故障诊断

为提高导引头故障诊断准确率,提出了一种采用改进遗传算法优化的最小二乘支持向量机（LSSVM）构造导引头多故障分类模型的方法。该方法基于一对一策略及改进的投票法建立两层LSSVM多故障分类器,并利用一种自适应变步长搜索策略改进的遗传算法对LSSVM的核参数和正则化参数进行自动优选。通过对某型导引头实测数据的仿真并和标准SVM及BP神经网络诊断方法相比较,结果表明该方法具有更高诊断准确率和计算效率。     

基于支持向量机协同训练的半监督回归

将支持向量机与半监督学习理论相结合,提出基于支持向量机协同训练的半监督回归模型,使用两个支持向量机回归模型相互影响,协同训练。利用实验数据集进行实验,并与监督支持向量机回归模型、半监督自训练支持向量机回归模型作比较。实验结果表明,基于支持向量机协同训练的半监督回归模型在缺少标记样本的情况下,提高了回归估计的精度。     

基于欧氏距离的支持向量机拒识区域解决方案

为克服传统多分类支持向量机中存在的拒识区域问题,提高算法的分类性能和泛化能力,提出一种基于欧氏距离的拒识区域解决方案。该方法直接计算落入拒识区域中的样本点到每类中心的欧氏距离,然后选择较小的欧氏距离对应的类为样本的所属类。基于标准数据集的实验结果表明,欧氏距离法实现了零拒识,有效提高了算法的分类性能和泛化能力。     

基于支持向量机的无监督聚类算法研究

分析了支持向量机在解决无监督分类问题上的不足,提出一种基于支持向量机思想的最大间距的聚类新方法。实验结果表明,该算法能成功地解决很多非监督分类问题。