基于聚类粒度的模糊支持向量机

为了提高模糊支持向量机在大规模数据集上的训练效率,提出了一种基于聚类粒度的模糊支持向量机算法.首先在每类训练样本上执行无监督聚类算法,产生聚类颗粒.在综合考虑了聚类中心、半径和聚类中的样本数目等聚类信息基础上,找到每个聚类内部的边缘点和交叉点集合,去除对分类贡献很小的聚类内部点,最终形成了新的用于模糊支持向量机训练的样本集合.随后的试验结果表明,由聚类颗粒生成的约简样本集合,很好的表示了原有样本的分布,不仅提高了训练效率,同时保持了较好的分类效果.     

稀疏最小二乘支持向量机

针对大规模数据集的回归和分类问题，改进了最小二乘支持向量机.以再生核希尔伯特空间中的线性分析为基础，把样本集映射到再生空间中，然后张成再生空间的一个线性子空间，并求出这个子空间的基.利用基线性表示子空间中的其他元素，减小了求解矩阵的维数，通过求解规模相对较小的线性方程组完成对支持向量机的训练.采用该方法对较大规模的数据样本进行了回归和分类仿真试验，并与普通的最小二乘支持向量机进行比较.结果表明，采用该方法解决复杂非线性函数的回归和分类问题，不但可以得到稀疏解，而且计算速度比普通最小二乘支持向量机提高了约20％.     

一种改进的FSVM语音情感识别算法

针对语音特征参数对某类情感具有不确定性的问题,提出一种基于典型相关性分析的改进模糊支持向量机算法,应用于语音情感识别.采用典型相关性分析方法对特征向量进行降维,得到样本的约简向量集,在此约简向量集上建立模糊支持向量机模型判定情感类型.仿真实验结果表明,该方法相比于传统支持向量机法和模糊支持向量‘机法具有较高的识别准确率.     

回归型模糊最小二乘支持向量机

为了克服最小二乘支持向量机对于孤立点过分敏感的问题,将模糊隶属度概念引入最小二乘支持向量机中,提出了基于支持向量域描述的模糊最小二乘支持向量回归机.该方法先对样本进行数据域描述得到一个包含该组数据的最小半径的超球,再根据特征空间中样本与超球球心的距离确定它们的隶属度,减少了奇异点(噪声)的影响;把所要求解的约束凸二次优化问题转化为正定线性方程组,并采用快速Cholesky分解的方法求解该方程组.实验结果表明该方法在不牺牲训练速度的前提下,比支持向量机和最小二乘支持向量机具有更高的预测精度.     

FCM-HMM-SVM混合故障诊断模型及其在电力电子电路故障诊断中的应用

提出一种基于模糊C均值聚类（FCM）、隐马尔可夫模型（HMM）和支持向量机（SVM）相结合的电力电子故障诊断方法.采用FCM方法对故障信号进行模糊聚类,提取故障特征;根据隐马尔可夫模型进行动态过程建模;根据支持向量机进行模式分类;基于HMM-SVM混合的故障诊断模型实现了对机车变流器电路中晶闸管断路故障的诊断.实验结果分析表明,该方法能准确地对电力电子电路进行诊断和故障元定位,诊断精度高,具有很好的实用价值.     

一种基于谱聚类的聚类核半监督支持向量机

针对传统半监督支持向量机的高斯核函数无法恰当描述流形数据特性,从而导致流形数据分类精度下降的问题,提出一种基于谱聚类的聚类核半监督支持向量机.利用谱聚类方法在特征向量空间中对原始样本数据进行重新表述,使得在新表述中同一聚类中的样本能够更好地积聚在一起,构建聚类核函数,并进而构造聚类核半监督支持向量机,使样本更好地满足半监督学习必须遵循的聚类假设.研究结果表明:聚类核半监督支持向量机对未标记样本的分类精度高且算法性能稳定,对控制参数的设置不敏感,适于解决流形数据的分类问题.     

基于核K-均值聚类和支持向量机结合的说话人识别方法

提出了基于核K-均值聚类方法与支持向量机结合的说话人识别方法,为每两个人建立一个支持向量机,对支持向量机输入的语音信号先进行核K-均值聚类,并选取有效样本作为支持向量机的输入,本文提出的聚类方法能够去更好的聚类并约简数据,提高了识别率.实验比较了在用支持向量机作为分类器的情况下,该核聚类与传统聚类方法的训练速度和识别性能,验证了本文提出方法的有效性.     

支持向量机与哈夫曼树实现多分类的研究

基于支持向量机和决策树的多分类方法存在错误累积问题,累积的错误往往使分类准确率下降,分类效果变差.在仔细分析了其产生错误累积原因的基础上,提出了基于哈夫曼树的支持向量机多分类方法.该方法首先将一个多分类问题分解为多个二分类问题,针对每个二分类问题使用支持向量机二分类方法解决;然后根据相异度来决策分类的优先顺序,构建基于哈夫曼树的支持向量机多分类模型;最后使用勒卡斯开源数据集进行验证,并将它与传统的支持向量机多分类方法进行实验比较.实验结果表明,新的方法在分类速度和分类精度上较传统的支持向量机多分类方法优越.     

基于Fisher向量投影的支持向量机增量算法

针对支持向量机训练样本冗余导致训练效率低下的问题,提出一种基于Fisher向量投影的支持向量机增量算法。该算法根据支持向量机中支持向量的分布特性对初始训练集及增量集进行预处理,减少训练样本个数;通过判断初始样本是否满足新增样本集的卡罗需-库恩-塔克(Karush-Kuhn-Tucker conditions,KKT)条件,剔除对最终结果无用的样本,减少参与训练的样本数目。实验结果表明,与标准支持向量机算法和基于向量投影的支持向量机增量算法相比,基于Fisher向量投影的支持向量机增量算法的训练速度分别提升了86%和33%左右。该方法可用于大规模样本集的分类识别问题。     

基于蚁群聚类算法的SVM半监督式训练方法

传统支持向量机在处理包含大量未知类别样本的训练集时性能较差。针对这一不足,在少量已知类别样本和大量未知类别样本构成的训练集上,提出一种基于蚁群聚类算法的支持向量机半监督式学习方法。该方法应用蚁群聚类算法进行聚类分析,实现了同类样本的自组织聚类;通过一个递归的类别判定算法,回收样本类别;同时,提取各类簇之间靠得相对较近的边界样本组成精简训练集,以缩减训练集规模加快学习速度。实验表明,该算法能够自适应样本类别分布,有较高的分类精度和泛化能力。     

基于多重多元回归的人脸年龄估计

基于标记分布学习的人脸年龄估计方法利用相近年龄的人脸变化较为缓慢的特点,采用年龄标记分布向量表示附近年龄描述目标年龄的程度,将学习任务从单值的目标年龄预测转变为年龄标记分布向量的估计,较为有效的解决了人脸年龄估计任务中训练数据不足的问题。但是,现有的标记分布学习方法存在不能构建统一的标记分布预测模型(基于最大熵模型的方法)或容易过拟合的问题(基于神经网络的方法)。为了解决这些问题,将基于标记分布学习的年龄估计转换为同时对多因变量进行预测的多重多元回归分析问题,并采用多因变量偏最小二乘回归方法进行求解。多因变量偏最小二乘回归模型对数据分布没有前提假定,在自变量存在较大的相关性的情况下仍可建立有效的多因变量预测模型。在FG-NET人脸数据库上的大量对比试验结果表明,本研究提出的基于多重多元回归的人脸年龄估计方法在大幅度提高模型训练效率的同时,具有更高的年龄估计准确度。     

成对耦合分类器的多球体预处理方法

为了解决基于支持向量机(SVM)的成对耦合(PWC)决策算法的训练实时性问题,提出一种简化最终决策候选集的预处理方法.通过基于多球体(MS)的简略分类器计算样本与类别间的模糊隶属度,挑选部分隶属度较高的类别用于最终PWC决策.在算法实现方面,通过预设条件简化参数需求,设计基于核函数计算次数的评分函数,并借助交叉验证构造最优参数搜索方法.仿真实验表明,预处理方法以极小的分类正确率损失为代价大大缩短了决策时间,使PWC适用于对决策实时性要求较高的复杂问题.     

基于支持向量机的变压器油中溶解气体浓度预测

提出利用支持向量机进行电力变压器油中溶解气体浓度预测的方法,该方法能很好地解决小样本的学习问题,适合贫数据的DGA建模且具有较高的精度和良好的泛化能力。     

一种基于模糊模型的启发式优化方法

在模糊环境下的优化向来是模糊系统理论的中心课题之一。文献中所见的绝大多数模糊系统优化技术都以线性规划为基础。本文提出了一种完全不同的模糊系统试化方法——启发式试化方法。这种方法以系统的模糊模型为基础,它允许以模糊形式表达的性能指标与约束。试化的结果,亦即最优决策,既可以是模糊值,也可以是精确值。由于所使用的模糊模型所以看作是一个规则集,所提出的试化方法便所以视作一个“剪枝”过程。一个数值例子说明了这种试化方法的有效性。     

基于SVM分类的云集群失败作业主动预测方法

提出了一种使用支持向量机（SVM）模型预测作业终止状态的方法.以Google数据集为研究对象,首先分析作业终止状态的影响因素,提出使用作业的静态特征和动态特征作为终止状态分类的特征向量,选择SVM模型主动预测终止状态;然后从特征向量和分类模型2个层面对准确率、假负率、精确度指标进行验证.特征向量实验结果表明,基于静态和动态特征的SVM预测模型比单独使用静态特征和动态特征,分别提高0.94%、-0.01%、1.35%和9.08%、-1.36%、10.91%.分类模型的比较结果显示,SVM分类预测方法比传统的神经网络模型、朴素贝叶斯模型、逻辑回归模型的预测效果好.     

SVM方法在武器装备综合论证中的应用

针对现有武器装备综合论证存在的不足，引入了基于支持向量机（support vecto rmachine，SVM）的多属性决策方法。分析了多属性决策支持向量机方法的机理；建立了多属性决策支持向量机方法的价值函数决策模型和方案序关系决策模型，用以训练支持向量机；提出了基于支持向量回归和分类的多属性决策支持向量机实现算法。最后给出了一个算例。     

一种建立发酵过程模型的新方法

为了建立精确的微生物发酵过程数学模型,在标准回归型支持向量机(SVM)的基础上提出了动态ε- SVM方法。即不同样本使用不同的ε;使用改进的多目标遗传算法(MOGA)自动选择动态ε-SVM的参数．将改进的MOGA和回归型动态ε-SVM结合形成一种新的建模方法,利用现场生产数据建立了青霉素效价预估模型．结果表明此方法具有较强的拟合和泛化能力．经过对比,本文方法比基于MOGA和标准SVM的建模方法具有更强的泛化能力．     

一种基于支持向量机的目标定位方法

为了提高声纳在浅水域的性能，提出了一种基于统计学习理论的目标识别器的目标定位方法.该方法选择支持向量机（SVM）作为学习算法的核心.从已知训练样本得到多通道数据的协方差矩阵，将得到的矩阵转化为SVM的输入多维特征向量，并训练SVM而获得权向量.利用此权向量和SVM输出估计，可以得到目标位置信息.理论推导和仿真结果表明，与多重信号分类（MUSIC）算法相比较，该方法具有高的定位精度和快的收敛速度.该方法能有效地对在平面波模型下的目标进行测向，并具有鲁棒性.     

半径间隔界驱动卷积神经网络模型的图像识别

基于支持向量机（SVM）的卷积神经网络（CNN）模型结合了大间隔原理,在图像识别中表现出了优异的泛化性能。然而,该方法忽视了一个关键:SVM的泛化性能不仅取决于不同类之间的间隔,还与所有样本的最小包含球（MEB）的半径有关。针对这一事实,文章提出一种基于半径间隔界（RMB）驱动的CNN模型的图像特征提取和识别的方法。与传统CNN模型相比,该模型采用基于SVM泛化误差界的策略来指导CNN深度模型学习和相应分类器构建,不仅考虑了不同类别之间的间隔,还考虑了MEB的半径。该模型能提高深度卷积模型的泛化能力而不会额外增加网络的复杂度,还能够应用于不同的深度模型中而不受限于某一特定的网络结构。在多个数据集上的实验结果表明,相比于基于Sofmax损失的CNN模型、基于中心损失的CNN模型以及基于 SVM 的 CNN 模型,该模型能够提取到鉴别性更强的图像特征,取得更高的识别率。     

基于集成学习的功耗分析研究

针对单模型分类算法在训练样本数量较少时成功率偏低的问题,提出一种集成学习算法,并在DPA_Contest_V4数据集上进行实验。首先使用传统方法破解循环掩码,再使用SVM（support vector machine）、随机森林和k近邻（k-nearest neighbor,kNN）等分类算法进行训练和预测,最后将这些模型的结果集成。实验结果表明,集成模型优于单一模型,尤其当训练集中的能量迹数目较少时集成模型的成功率比单一模型高10%左右。