多项式光滑的支持向量机一般模型研究

2005年袁玉波等人用一个多项式函数作为光滑函数,提出了一个多项式光滑的支持向量机模型 PSSVM（polynomial smooth support vector machine）,使分类性能及效率得到了一定提高. 2007年熊金志等人用插值函数的方法导出了一个递推公式,得到了一类新的光滑函数,解决了关于是否存在以及如何寻求性能更好的光滑函数的问题.然而,支持向量机是否存在其他多项式光滑模型,以及多项式光滑模型的一般形式是什么等问题依然存在.为此,将一类多项式函数作为新的光滑函数,使用光滑技术,提出了多项式光滑的支持向量机一般模型dPSSVM （dth-order polynomial smooth support vector machine）.用数学归纳法证明了该一般模型的全局收敛性,并进行了数值实验.实验结果表明,当光滑阶数等于 3 时,一般模型的分类性能及效率为最好,并优于 PSSVM 模型;当光滑阶数大于 3 后,分类性能基本不变,效率会有所降低. 成功解决了多项式光滑的支持向量机的一般形式问题.     

光滑支持向量分类机的收敛上界研究

Lee 等人使用光滑技术,提出了光滑支持向量分类机模型(SSVM),但该分类机的收敛上界问题尚待解决.介绍了光滑支持向量分类机模型的原理,用集合论等方法证明模型 SSVM 的收敛性,然后得到收敛上界的计算公式.成功解决了光滑支持向量分类机的收敛上界问题.     

支持向量机一阶光滑函数及其逼近精度研究

光滑函数在支持向量机中起着重要作用,熊金志等人用插值函数的方法得到了一个递推公式。论文导出了一阶光滑函数的表达式,并分析了它的逼近性能,为研究光滑支持向量机提供了一些理论支持。     

多项式光滑的支持向量回归机一般模型的收敛性研究

2005年Lee等人提出光滑的支持向量回归机模型ε-SSVR(smooth ε-support vector regression),2008年熊金志等人提出一个多项式光滑的支持向量回归机模型ε-PSSVR(polynomial smooth ε-support vector regression),使回归性能及效率得到了一定改善.然而,这种支持向量回归机是否存在一个一般模型,以及一般模型的收敛性等问题没有解决.为此,将一类多项式函数作为新的光滑函数,使用光滑技术,把多项式光滑模型ε-PSSVR推广到一般情形,提出一个多项式光滑的支持向量回归机一般模型ε-dPSSVR(dth-order polynomial smooth ε-support vector regression).并用数学归纳法证明该一般模型的全局收敛性.研究表明:1)多项式光滑的支持向量回归机存在无穷多个模型,可以用一个一般模型来表示;2)该一般模型是全局收敛的,其收敛上界比ε-SSVR缩小半个数量级.成功解决了多项式光滑的支持向量回归机的一般形式及其收敛性问题,为进一步研究多项式光滑的支持向量回归机提供了基本的理论支持.     

广义支持向量机的多项式光滑函数法

为了求解广义支持向量机（GSVM）的优化问题,将带有不等式约束的原始优化问题转化为无约束优化问题,由于此无约束优化问题的目标函数不光滑,所以引入一族多项式光滑函数进行逼近,实验中可以根据不同的精度要求选择不同的逼近函数。用BFGS算法求解。实验结果表明,该算法和已有的GSVM的求解算法相比,更快地获得了更高的测试精度,更适合大规模数据集的训练。因此给出的GSVM的求解算法是有效的。     

支持向量机的5阶光滑函数及其性能分析

光滑函数在支持向量机中起着重要作用,熊金志等人用插值函数的方法导出了一个递推公式,得到了一类新的光滑函数,解决了一个关于是否存在以及如何寻求性能更好的光滑函数的问题。然而其中五阶光滑的多项式函数还未进行性能分析。首先推导出了该光滑函数的表达式,然后分析了它的若干性能。结果表明,该光滑函数具有良好的逼近性能,其逼近精度高于以往的光滑函数。     

基于多项式光滑的支持向量回归机

把支持向量回归机中的原始凸二次规划问题转化为光滑的无约束问题．构建了无约束支持向量回归机．使得许多成熟有效的无约束最优化算法能够应用到支持向量回归机中去。提出了一种光滑支持向量回归算法．实验结果表明．它相对于其它回归训练方法有较快的收敛速度和较高的拟合精度．     

一个新的多项式光滑支持向量机

光滑支持向量机(SSVM)是支持向量机(SVM)的快速求解模型,拥有更快的求解速度和训练效果。基于光滑的分段多项式函数和插值思想推导出一个新的光滑函数,从而可以更好地逼近正号函数。通过所得到的新光滑函数改进多项式光滑支持向量机模型(PSSVM),得到了更新的光滑支持向量机模型。还给出了新光滑函数的逼近性能和精度分析以及新模型的收敛性证明和最优解的逼近上限。数值实验表明,所提出的新光滑支持向量机模型性能优于PSSVM模型。     

基于二次多项式的光滑支持向量机在分类中的若干问题

袁玉波等人采用一个二次多项式作为光滑函数,提出一个基于二次多项式的光滑支持向量机。然而,这种光滑支持向量机作为一种新模型,还存在如下4个尚待解决的问题：能否用其它二次多项式作为光滑函数,构建光滑支持向量机？这种光滑支持向量机有多少个？其收敛性如何？其分类效果如何？本文从二次多项式入手,分析了二次多项式作为光滑函数的问题,还分析了基于二次多项式的光滑支持向量杌问题,解决了上述四个问题。     

基于多项式光滑的支持向量回归机

把支持向量回归机中的原始凸二次规划问题转化为光滑的无约束问题,构建了无约束支持向量回归机,使得许多成熟有效的无约束最优化算法能够应用到支持向量回归机中去。提出了一种光滑支持向量回归算法,实验结果表明,它相对于其它回归训练方法有较快的收敛速度和较高的拟合精度。     

面向数据流分类的柔性漂移支持向量机

针对数据流分类,时间自适应支持向量机（Time Adaptive Support Vector Machine,TA-SVM）及其改进方法通过在核空间上协同求解多个子分类器而取得了较好的性能,其原理是在局部优化的同时兼顾全局优化,强制子分类器序列稳定地变化。然而在很多应用场景中,由于数据具有一定的随机性,难以确保概念模型以不变的节奏漂移,因而TA-SVM分类模型中应充分考虑子分类器序列的不稳定性。为了放松TA-SVM方法对子分类器序列的约束,使子分类器法向量、偏置量的变化具有更大的灵活性,提出了柔性漂移支持向量机（Flexible Drift Support Vector Machines,FD-SVM）,在继承TA-SVM方法协同求解思想的基础上,灵活对待子分类器变化。实验结果表明,FD-SVM方法能有效提升对非静态数据的分类性能。     

结合超像元和子空间投影支持向量机的高光谱图像分类

目的 高光谱图像包含了丰富的空间、光谱和辐射信息,能够用于精细的地物分类,但是要达到较高的分类精度,需要解决高维数据与有限样本之间存在矛盾的问题,并且降低因噪声和混合像元引起的同物异谱的影响。为有效解决上述问题,提出结合超像元和子空间投影支持向量机的高光谱图像分类方法。方法 首先采用简单线性迭代聚类算法将高光谱图像分割成许多无重叠的同质性区域,将每一个区域作为一个超像元,以超像元作为图像分类的最小单元,利用子空间投影算法对超像元构成的图像进行降维处理,在低维特征空间中执行支持向量机分类。本文高光谱图像空谱综合分类模型,对几何特征空间下的超像元分割与光谱特征空间下的子空间投影支持向量机（SVMsub）,采用分割后进行特征融合的处理方式,将像元级别转换为面向对象的超像元级别,实现高光谱图像空谱综合分类。结果 在AVIRIS（airbone visible/infrared imaging spectrometer）获取的Indian Pines数据和Reflective ROSIS（optics system spectrographic imaging system）传感器获取的University of Pavia数据实验中,子空间投影算法比对应的非子空间投影算法的分类精度高,特别是在样本数较少的情况下,分类效果提升明显;利用马尔可夫随机场或超像元融合空间信息的算法比对应的没有融合空间信息的算法的分类精度高;在两组数据均使用少于1%的训练样本情况下,同时融合了超像元和子空间投影的支持向量机算法在两组实验中分类精度均为最高,整体分类精度高出其他相关算法4%左右。结论 利用超像元处理可以有效融合空间信息,降低同物异谱对分类结果的不利影响;采用子空间投影能够将高光谱数据变换到低维空间中,实现有限训练样本条件下的高精度分类;结合超像元和子空间投影支持向量机的算法能够得到较高的高光谱图像分类精度。     

一种处理多类分类问题的强化支持向量机方法

提出了一种强化支持向量机方法,将支持向量机与强化学习结合,逐步对未知类别标记样本进行访问,根据对该样本分类结果正确与否的评价标记访问点的类别,并对当前的分类器进行更新,给出了更新分类器的规则。对模拟数据和真实数据分别进行了实验,表明该方法在保证分类精度的同时,大大降低了对已知类别标记的训练样本的数量要求,是处理已知类别标记样本获取困难的多类分类问题的一种有效的方法。     

支持向量机分类算法中多元变量共线性问题的改进

结合核主成分分析的主因子提取和支持向量机的分类机理,提出了一种组合建模算法.应用核主成分分析过程作为预处理器,可以把共线性的多元变量糅合为几个主因子,但基本不损失有效信息.然后进行基于支持向量机的分类建模和预测.这样不仅可以防止共线性多元变量对模型的负面影响,还可以降低数据维数,减少支持向量机分类过程中的复杂度和运算量.最后用实验进行评估所得到的训练模型,实例说明了所提方法的有效性.     

基于粗集理论的支持向量机分类方法研究

介绍了粗集理论的基本概念和支持向量机分类的基本原理,提出将粗集理论和支持向量机方法相结合.通过应用粗集理论对数据的预处理,消除决策表中大量的冗余信息和冲突对象,但不丢失任何有用信息.通过这样对数据维数的约简,大大简化了支持向量分类模型的结构,同时也有效地提高了支持向量机的分类效率.通过对一组实验数据的仿真验证了该方法的可行性.