决策树支持向量机多分类器设计的向量投影法

针对如何有效地设计决策树支持向量机(SVM)多类分类器的层次结构这个关键问题,提出一种基于向量投影的类间可分性测度的设计方法,并给出一种基于该类间可分性测度设计决策树SVM多分类器层次结构的方法.为加快每个SVM子分类器的训练速度且保持其高推广性,将基于向量投影的支持向量预选取方法用于每个子分类器的训练中.通过对3个大规模数据集和手写体数字识别的仿真实验表明,新方法能有效地提高决策树SVM多类分类器的分类精度和速度.     

基于欧氏距离的支持向量机决策树构造方法

SVM决策树是解决多分类问题的有效方法之一,由于分类器组合策略不同,构成的决策树构型以及分类精确度也各有差异。提出基于欧氏距离的SVM决策树构造方法,通过两种欧氏距离组合策略,生成不同构型的SVM决策树。实验结果表明,采用组合策略二的SVM决策树分类器相比组合策略一,具有更高的分类精度和更短的训练及测试时间。     

基于球结构的完全二叉树SVM多类分类算法*

针对一般的SVM方法不能有效地处理不平衡样本数据及现有的偏二叉树结构SVM分类器速度慢的这两个问题,提出了一种基于球结构的完全二叉树SVM多分类算法。该算法利用球结构的SVM考虑了每个类的分布情况,能有效地处理不平衡样本数据;构建完全二叉树结构,使得同层节点所代表的SVM分类器可以并行工作,能提高其训练和分类速度,分类速度相当于折半查找。实例验证两者结合后的算法可实现准确且高效的多类分类。     

一种基于支持向量机决策树多类分类器

提出一种基于支持向量机决策树的多类分类器SVMDT（Support Vector Machines based Decision Tree）。训练时,SVMDT采用样本类间最小距离原则进行决策树分叉,综合考虑局部类簇,生成一棵平衡的分类二叉树。分类时,SVMDT采用最大距离原则匹配决策。SVMDT训练时采用的距离为等效距离,综合考虑特征空间中样本类的中心距离以及样本类自身的分布特点,使得训练过程中确定各个SVM的优先级别更加合理,由此生成的决策树将特征空间严格划分开,避免了拒识区域的出现。UCI样本数据集实验结果表明,和传统的1对多SVM分类器相比,SVMDT具有训练速度快、分类速度快,分类精度高的特点。     

基于拆分集成的不均衡数据分类算法

为改进SVM对不均衡数据的分类性能,提出一种基于拆分集成的不均衡数据分类算法,该算法对多数类样本依据类别之间的比例通过聚类划分为多个子集,各子集分别与少数类合并成多个训练子集,通过对各训练子集进行学习获得多个分类器,利用WE集成分类器方法对多个分类器进行集成,获得最终分类器,以此改进在不均衡数据下的分类性能.在UCI数据集上的实验结果表明,该算法的有效性,特别是对少数类样本的分类性能.     

决策树支持向量机多分类器设计的向量投影法

针对如何有效地设计决策树支持向量机(SVM)多类分类器的层次结构这个关键问题,提出一种基于向量投影的类间可分性测度的设计方法,并给出一种基于该类间可分性测度设计决策树SVM 多分类器层次结构的方法.为加快每个SVM子分类器的训练速度且保持其高推广性,将基于向量投影的支持向量预选取方法用于每个子分类器的训练中.通过对3个大规模数据集和手写体数字识别的仿真实验表明,新方法能有效地提高决策树SVM类分类器的分类精度和速度.

     

用纠错编码改进的M-ary支持向量机多类分类算法

针对M-ary支持向量机(SVM)多类分类算法结构简单,但泛化能力较弱的特点,提出了与纠错编码理论相结合的改进的M-ary SVM算法。首先,将原始类别信息编码作为信息码;然后结合纠错编码理论及期望的纠错能力,产生一定程度上性能最佳的编码,作为分类器训练的依据;最后,对于识别阶段输出编码中的错误分类利用检错纠错原理进行校正。实验结果表明,改进的算法通过引入尽可能少的冗余子分类器增强了标准M-ary SVM多类分类算法的性能。     

一种新的基于SVM的多层分类方法

本文提出了一种新的基于SVM多类问题的策略Half-Against-Half,用该方法训练的基本思想是从多个类别中选择相近或相似的类别,相近的类别放在一个子集里,把多个类别分成两个子集,一直递归地使用这种思想,用类似决策树的思想构造,直到通过多个二分SVM分类器能把每个类别分开。从理论上看,该方法在训练时间、速度、训练集大小等方面比传统的方法OVA、OVO、DAG有一定的优势,并在实践方面得到了实验数据的支持。     

聚合支持向量机分类器的行人检测方法

针对支持向量机分类器的行人检测方法采用欠采样方法,存在正负行人比例不平衡造成的准确率不高问题,结合欠采样和EasyEnsemble方法,提出一种聚合支持向量机（Ensemble SVM）分类器的行人检测方法。随机选择负样本作为初始训练样本,并将其划分为与正样本集均衡的多个子负样本集,构建平衡子训练集,线性组合成EasyEnsemble SVM分类器;利用该分类器对负样本进行分类判断,将误判样本作为难例样本,重新划分构建新的平衡子训练集,训练子分类器,结合EasyEnsemble SVM分类器,得到Ensemble SVM分类器行人检测方法。在INRIA行人数据集上的实验表明,该方法在检测速度和检测率上都优于经典的SVM行人检测算法。     

优化的支持向量机集成分类器在非平衡数据集分类中的应用

传统的分类算法大都建立在平衡数据集的基础上,当样本数据不平衡时,这些学习算法的性能往往会明显下降.对于非平衡数据分类问题,提出了一种优化的支持向量机(SVM)集成分类器模型,采用KSMOTE和Bootstrap对非平衡数据进行预处理,生成相应的SVM模型并用复合形算法优化模型参数,最后利用优化的参数并行生成SVM集成分类器模型,采用投票机制得到分类结果.对5组UCI标准数据集进行实验,结果表明采用优化的SVM集成分类器模型较SVM模型、优化的SVM模型等分类精度有了明显的提升,同时验证了不同的bootNum取值对分类器性能效果的影响.     

基于EEMD和萤火虫算法优化SVM的溶解氧预测

养殖池塘中的溶解氧(DO)对水产品的生长和品质有着至关重要的作用.为了提高溶解氧预测的准确性和有效性,提出了一种基于集合经验模态分解(EEMD)和萤火虫算法(FA)优化支持向量机(SVM)的组合预测模型.首先,将DO 时间序列通过集合经验模态分解为一组去除噪声的并相对稳定的子序列.接着,利用相空间重构(PSR)重建分解...     

基于支持向量机的自适应图像水印技术

提出一种基于支持向量机的自适应图像空域水印嵌入算法.由于支持向量机与人眼视觉系统在自学习、泛化和非线性逼近等方面具有极大的相似性,算法利用支持向量机模拟人眼视觉特征,结合图像的局部相关特性,自适应地确定图像的最佳嵌入位置和嵌入强度.首先,利用无导师的模糊聚类分析方法对图像各像素进行初步的聚类,为有导师的支持向量机找到分类规则;然后,从各类别中选出隶属度超过一定阈值的像素作为支持向量机分类的训练样本集,建立支持向量机的分类模型,根据此模型对图像各像素再次分类,从而确定水印的最佳嵌入位置;最后结合图像自身的局部相关性,自适应地调整水印嵌入位置的像素值.该算法在提取水印时不需要原始载体图像.实验结果表明,此算法对多种图像处理均具有很好的稳健性和图像感知质量,其性能优于相关文献上的相近方法.     

非球形分布数据集的去噪方法

针对传统支持向量机(SVM)对噪声点过于敏感,模糊支持向量机(FSVM)又对样本集几何形状过分依赖等问题,提出基于噪声过滤系统的粗糙支持向量机(NFS-RSVM)。该方法首先用噪声过滤系统(NFS)将极可能为噪声点的样本过滤掉;然后将数据间隐含的等价类信息作为双惩戒因子融入到支持向量机模型中,进一步区分有效样本和噪声样本。基于UCI数据集的仿真结果表明,NFS-RSVM方法能有效地将数据中的大部分噪声点去除,与传统的SVM和FSVM相比分类精度有一定程度的提高。因此,该方法在处理噪声样本较多又呈现非球形分布的数据集时,表现出较好的抗噪性、分类效果和泛化能力。     

基于改进粒子群优化的SVM故障诊断方法

针对支持向量机(SVM)分类模型参数选取困难的问题,提出基于遗传免疫的改进粒子群优化算法,克服传统粒子群算法前期收敛快、后期易陷入局部最优的缺陷。将该算法与优化支持向量机分类模型相结合,建立基于遗传免疫粒子群和支持向量机的诊断模型,并用于轴承故障诊断中。结果表明,基于遗传免疫粒子群算法优化的SVM可实现对SVM分类模型参数的自动优化,并能提高SVM分类模型的故障诊断精度,对分散程度较大、聚类性较差的故障样本分类有较强的适用性。     

基于支持向量机的改进分类算法

为了进一步提高支持向量机分类的准确性和泛化能力,提出一种基于支持向量机的改进二叉树分类算法.首先介绍支持向量机的基本原理,总结了常见的多分类器分类算法及其特点,结合现有分类算法的优点,为分类器引入了不同的权值,提出二叉树改进分类算法,有效避免了常用分类算法不足.通过仿真实验,与典型的多类分类算法对比,验证该算法的有效性,为多类分类预测研究提供了一条有效的途径.     

样本特征对参数/非参数分类器分类精度的影响分析

为验证理论训练数量(10~30 p)对参数分类器(如最大似然分类)、非参数分类器(如支撑向量机)的适用性以及样本特征(光谱统计、空间分布特征)对分类器分类精度的影响,选择不同规模的训练样本进行最大似然分类和支撑向量机分类,分析分类精度与样本之间的关系。实验结果表明:随着样本量的增加,最大似然、支撑向量机分类精度均随样本量增多而提高并趋于稳定,最大似然分类精度的增长速度要快于支撑向量机。MLC受样本量的影响较大,在小样本的时候(5个),分类精度不稳定,超过30个样本的时候,分类精度稳定下来;对于SVM分类器,在小样本的时候(5个),分类精度较高且稳定,因此SVM分类适合于小样本分类,不受限于理论样本量的影响。当样本量超过最小理论样本量值(30个)的时候,最大似然分类精度要优于支撑向量机,主要是由于当样本量增加后,最大似然更易于获得有效的信息量样本,而对于支撑向量机边缘信息样本的增加数量不大。研究结果为进一步优化样本进行分类打下前期的实验基础。     

基于投影寻踪和支持向量机的模式识别方法*

由于支持向量机(SVM)在处理小样本、高维数及泛化性能强等方面的优势,提出了一种基于投影寻踪(PP)和支持向量机的模式分类方法.利用PP方法把高维数据转换到低维子空间,同时用加速遗传算法获得最佳投影方向和投影值,揭示了高维数据的结构特征,然后在低维空间中用SVM对特征向量进行分类识别,并将其应用到银行信贷风险评估中.选用2005年度80家贷款申请企业的数据样本,对该模型进行验证,通过与神经网络模型的比较,证实了该方法用于模式识别的有效性及优越性.     

广义最大间隔球形支持向量机

针对多类分类问题,提出一种超球支持向量机算法——广义最大间隔球形支持向量机,该算法利用两同心超球将正负类样本分隔开来,最大化两超球半径的差异,从而挖掘正负类样本的鉴别信息,同时对超球类支持向量机算法判决规则进行改进,引入模糊隶属度补充判决,弥补二类分类器投票决策的缺陷.理论分析了算法的相关性质,通过仿真实验验证了该算法的有效性.