支持向量机研究进展

基于统计学习理论的支持向量机((Support vector machines, SVM)以其优秀的学习能力受到广泛的关注。但传统支持向量机在处理大规模二次规划问题时会出现训练时间长、效率低下等问题。对SVM训练算法的最新研究成果进行了综述,对主要算法进行了比较深入的分析和比较,指出了各自的优点及其存在的问题,并且着重介绍了目前研究的新进展—模糊SVM和粒度SVM。接着论述了SVM主要的两方面应用—分类和回归。最后给出了今后SVM研究方向的预见。     

提高超大规模SVM训练计算速度的研究

近年来用支持向量机(Support Vector Machine)解决大样本问题的尝试日渐增多.限制SVM在大样本问题中应用的一个关键因素是SVM训练所引出的超大规模二次规划问题无法由标准的二次规划方法所解决.SMO算法(Sequential Minimal Optimization)是一种有发展前途的大规模SVM训练算法,我们用块算法的思想对其进行了改进,并称改进后的算法为分块SMO算法(CSMO).新算法对于带有小支持向量集的超大样本问题在速度方面具有明显的优势.     

一种改进的支持向量机及其在癌症诊断中的应用

为了改善支持向量机的泛化能力,提出了一种改进的支持向量机——SUB SVM,它把对所有训练数据训练得到的主支持向量再次训练，用得到的次支持向量构造SVM非线性分类器,将该算法应用在癌症诊断中，取得了比传统SVM分类器更高的识别率。     

支持向量机的一种改进的样本简约方法

经典的支持向量机（SVM）训练算法的实质是求解一个凸二次规划问题,当训练样本很多时,算法的速度会比较慢,且如果两类样本过分交叉,又会降低支持向量机的泛化能力。为了加快支持向量机的训练速度和改善其泛化能力。文章提出了一种改进的样本简约方法。该方法首先抽取边界样本,然后对边界样本中可能存在的噪音、孤立点进行修剪,由此得出最终的训练样本。实验结果表明,该简约方法不仅节约了训练时间,而且改善了支持向量机的泛化性能。     

基于EEMD-GWO-LSSVM的公共交通短期客流预测

为了提高大型公共交通短期客流预测精度,提出了一种在利用集成经验模态分解原始数据的条件下,采用灰狼优化算法优化最小二乘支持向量机（EEMD-GWO-LSSVM）的算法,利用该算法实现城市大型公共交通短期客流预测。该模型采用EEMD分解原始数据,将分解后的各个本征模函数（IMF）分量运用最小二乘支持向量机进行回归预测,最小二乘支持向量机的预测参数由灰狼算法进行优化。通过对西安地铁二号线北客站一个月进出站人数进行训练预测,将预测结果和支持向量机（SVM）,自回归移动平均模型（ARIMA）,仅利用灰狼优化参数的最小二乘支持向量机（GWO-LSSVM）算法以及基于交叉检验进行参数优化的最小二乘支持向量机进行对比,分析得出该算法具有更加精确的预测结果。     

基于最小二乘支持向量机的车牌字符特征分类研究

最小二乘支持向量机是一种新的有效的机器学习算法。论文介绍了最小二乘支持向量机模型,研究了最小二乘支持向量机算法和经典的多类分类算法,提取车牌字符的奇异值特征,将奇异值系数特征作为最小二乘支持向量机的输入进行训练和分类。实验采用 LS‐SVM 工具箱,得到了较好的结果。     

不同种类支持向量机算法的比较研究

介绍一种新型的机器学习方法-支持向量机.论述了不同种类支持向量机算法并指出了每种算法的优劣.实验结果显示了核函数中选择合适的参数对分类器的效果是很重要的,通过实验还重点比较了Chunking、SMO和SVMlight三种典型分解算法,并分析了训练速度优劣的原因.文章最后给出了今后SVM研究方向的一些预见.     

支持向量机的训练算法综述

支持向量机（SVM）是在统计学习理论基础上发展起来的新方法,其训练算法本质上是一个二次规划的求解问题.首先简要概述了SVM的基本原理,然后对SVM训练算法的国内外研究现状进行综述,重点分析SVM的缩减算法和具有线性收敛性质的算法,对这些算法的性能进行比较,并且对SVM的扩展算法也进行简单介绍.最后对该领域存在的问题和发展趋势进行了展望.     

TRA:改进的SVM增量学习淘汰算法

介绍了支持向量机,报告了支持向量机增量学习算法的研究现状,分析了支持向量集在加入新样本后支持向量和非支持向量的转化情况.针对淘汰机制效率不高的问题,提出了一种改进的SVM增量学习淘汰算法--二次淘汰算法.该算法经过两次有效的淘汰,对分类无用的样本进行舍弃,使得新的增量训练在淘汰后的有效数据集进行,而无需在复杂难处理的整个训练数据集中进行,从而显著减少了后继训练时间.理论分析和实验结果表明,该算法能在保证分类精度的同时有效地提高训练速度.     

支持向量机快速算法的实现技术

介绍支持向量机快速算法的基本原理,详细论述了SMO、SVMlight算法、LIBSVM算法的实现的关键技术.通过实验验证了普通次规划算法的缺陷,比较了3种典型的SM训练算法的性能,指出未来支持向量机训练算法研究的方向.     

支持向量机训练算法综述

训练SVM的本质是解决二次规划问题,在实际应用中,如果用于训练的样本数很大,标准的二次型优化技术就很难应用。针对这个问题,研究人员提出了各种解决方案,这些方案的核心思想是先将整个优化问题分解为多个同样性质的子问题,通过循环解决子问题来求得初始问题的解。由于这些方法都需要不断地循环迭代来解决每个子问题,所以需要的训练时间很长,这也是阻碍SVM广泛应用的一个重要原因。文章系统回顾了SVM训练的三种主流算法:块算法、分解算法和顺序最小优化算法,并且指出了未来发展方向。     

基于乘性规则的支持向量域分类器

该文提出了一种基于支持向量域描述(SVDD)的学习分类器．在两类样本分类中，该算法在训练时通过对1类样本的描述求取包含1类样本的球形边界．然后通过该边界对两类样本数据进行分类，并且在求取边界的优化问题中，采用乘性规则来直接求取Lagrange乘子，而不是用传统的二次优化方法．该文所获得的学习算法和支持向量机(SVM)与序列最小优化(SMO)算法相比，不仅降低了样本的采集代价，而且在优化速度上有了很大提高．通过CBCL人脸库的仿真实验．将该算法和SVM、SOM算法的实验结果进行对比，说明了该学习算法的有效性．     

支持向量机中优化算法

1 引言对基于数掘的机器学习研究是目前计算智能技术的基础性工作之一,旨在从观测数据出发基于统计学理论采用相关技术对研究对象建立可信的模型,利用这一模型对未来实验作出指导性的预测。相关技术包括聚类分析、模式识别、神经网络等等。现有的学习方法多是基于样本数趋于无穷大时的渐进理论。可是在实际科研工作中,有时候很难获得较为充足     

一种改进的基于粒子群优化的SVM训练算法

支持向量机的训练需要求解一个带约束的二次规划问题,但在数据规模很大的情况下,经典的训练算法将会变得非常困难。提出了一种改进的基于粒子群的优化算法,用于替代支持向量机中现有的训练算法。在改进后的粒子群优化算法中,粒子不仅向自身最优和全局最优学习,还以一定的概率向其他部分粒子的均值学习。同时,还引进了自适应变异算子,以降低未成熟收敛的概率。实验表明,提出的改进训练算法相对改进前的算法在性能上有显著提高。     

Projection Support Vector Machine Generators

Large-scale Support Vector Machine (SVM) classification is a very active research line in data mining. In recent years, several efficient SVM generation algorithms based on quadratic problems have been proposed, including: Successive OverRelaxation (SOR), Active Support Vector Machines (ASVM) and Lagrangian Support Vector Machines (LSVM). These algorithms have been used to solve classification problems with millions of points. ASVM is perhaps the fastest among them. This paper compares a new projection-based SVM algorithm with ASVM on a selection of real and synthetic data sets. The new algorithm seems competitive in terms of speed and testing accuracy.     

基于支持向量机和距离度量的管道内表面图像分类方法研究

针对管道内表面图像的分类问题，提出了一种将支持向量机和距离度量相结合，构成组合分类器的分类方法。分类时先采用距离度量进行前级分类，符合条件则给出分类结果，否则拒识并转入SVM分类器进行分类。该方法充分利用了SVM识别率高和距离度量速度快的优点，并且利用距离度量的结果去指导SVM的训练和测试。实验表明本方法具有较高的效率和识别精度，进一步提高了系统的识别率和容噪性能。     

基于混沌灰狼优化算法的SVM分类器研究

支持向量机(SVM)是在分类问题下建立的一个运算小型数据集,可实现非线性高纬度分类,有很好的扩展能力。但是,在传统SVM的训练过程中,SVM运算结果的好坏与参数选择关系密切,而且目前使用的参数选择算法有很多缺陷。因此,针对上述问题,在灰狼算法（GWO）中加入混沌序列,改变狼群初始分布规律,构建混沌灰狼优化算法(CGWO),增强狼群分布均匀性以及狼群查找遍历性,极大提高GWO算法的运算速度和运算准确性,最终更好地优化SVM。使用Mirjalili提供的开源数据与原有数据混合作为向量机的测试集进行实验对比分析,实验结果表明,CGWO算法具有明显的性能提高;用混沌灰狼算法优化的 SVM和灰狼优化算法SVM、人工蜂群SVM、万有引力搜索SVM以及传统算法优化的 SVM相比,其运算准确率更高、误差更低、花费时间更少。     

基于支持向量机的纸币识别方法设计与研究

纸币识别是一个小样本、非线性和高维模式识别问题,是当前模式识别中的难题之一,具有重要研究意义和实用价值;选用支持向量机二次优化算法中的序贯最小优化算法,该算法以解析的方法处理优化问题,训练速度较快,识别率较高;序贯最小优化算法优化标准的单一阈值容易错判优化条件,从而导致花费大量时间寻找第二个优化样本;在优化标准中增设上下界两个阈值来判断优化条件,避免了原算法单一阈值判决的这个缺点,加快了训练速度,提高了识别率;将此种支持向量机训练算法用于纸币识别,能够充分发挥支持向量机解决小样本、非线性和高维模式识别问题的优点,能够适合工程应用中的需要.     

一种加速大规模SVM训练的新思路

大规模样本的二次规划问题严重限制了支持向量机应用到大样本问题中。文中从支持向量机的几何意义出发,利用样本分布的先验知识,提出一种在训练之前通过简单算法抛弃样本中的大量非支持向量,然后再利用已有的算法对经过筛选后的样本进行训练的方法。实验证实了此算法在线性可分的情况下具有较好的效果。