一种基于数据的核参数优化方法

SVM是一种基于核的学习方法,核及相关参数的选择对其性能有非常重要的影响,提出了一种数据依赖的最优核参数估计方法,通过角度切割样本集求解训练样本的近似凸包,以确定最优的核参数。实验结果表明,无论数据是否稠密,分布是否均匀,算法都可适用,该方法有较高的可行性与有效性。     

基于数据依赖核函数的核优化算法

为了克服核学习中核函数及参数选择问题并提升算法性能,文中提出一种基于数据依赖核函数的核优化算法,用最大间隔准则建立最优目标函数求解数据依赖核的最优参数。实验表明文中算法可有效提高核学习机的性能。     

支持向量机中的核参数选择问题

核函数中的参数选择是支持向量机中的一个很重要的问题,它直接影响模型的推广能力。通过最速下降法求LOO上界的极小点来确定核参数是一种新的核参数选择方法。由于该方法易陷入局部最优解,提出了一种基于混合遗传算法求解LOO上界极小点的核参数选择方法。实验证明,通过该方法选择出来的核参数能够提高分类精度,具有实用性。     

基于Fisher核的混合核构造研究

为了解决传统的由混合核组成的核函数的参数选择时,由于参数过多导致参数选择时间过长的问题,提出了一种基于Fisher核构造混合核的方法。利用Fisher核的无参特性,可以减少混合核的参数个数,从而有效减少了参数选择的时间。在典型彩色人脸库上的实验结果显示,与传统的混合核相比,基于Fisher核的混合核的参数选择时间明显减少且识别正确率有所提高,表明了所提出方法的有效性。     

基于特征向量提取的核回归建模方法研究

针对工业软测量中的非线性数据回归问题,提出一种基于特征向量提取的核回归建模方法.基于核函数非线性变换技术,建立非线性软测量模型-核回归模型.为了减少核回归模型中的优化参数,采用特征向量提取(FVS)算法选择核回归模型的特征向量,最后采用改进的粒子群优化算法估计模型参数.在工业数据上的应用结果说明了方法的有效性.     

一种组合核支持向量机建模的方案

针对组合核支持向量机建模中存在的耗时和性能的矛盾问题,提出新的方案,用于在时间和性能上寻找理想折衷。研究了兼顾学习和推广能力的核组合,以及优化核参数方法。提出了一种主从核逐步优化的方案,即每次只优化一个核的核参数,逐步加入其他子核求解参数,时间上大致是求解单核参数耗时的简单叠加,相对于进化算法求解模型耗时更少,相对于分治算法求解模型性能更优。提出的方案在时间和性能上取得了较好的效果。     

基于特征距离的组合核矩阵模型选择标准

核矩阵的组合方法是核函数构造和核方法学习的崭新的、重要的方法。目前,组合核矩阵的模型选择标准并不多见,应用较多的是核目标匹配,但该标准并不严格,尚具有较大的冗余性。针对这一问题,本文提出一个有效的基于特征距离的组合核矩阵模型选择标准。本文首先讨论核目标匹配标准及其局限性,然后提出基于特征距离的核矩阵模型型选择标准并分析该标准的计算性能,最后通过实验验证所提出的模型选择标准在核参数选择和组合系数选择两方面的效能。理论分析和实验结果表明,所提出的基于特征距
离的组合核矩阵模型选择标准是合理且有效的。     

基于核方法的平分最近点算法

通过分析平分最近点算法的性质,利用核技巧,构造了基于核方法的平分最近点算法.证明了该算法构造的决策函数仅依赖于选择的核函数.实现了平分最近点算法与核方法相结合,求解非线性分类问题.     

基于Fisher 准则和最大熵原理的SVM核参数选择方法

针对支持向量机(SVM)核参数选择困难的问题,提出一种基于Fisher准则和最大熵原理的SVM核参数优选方法.首先,从SVM分类器原理出发,提出SVM核参数优劣的衡量标准;然后,根据此标准利用Fisher准则来优选SVM核参数,并引入最大熵原理进一步调整算法的优选性能.整个模型采用粒子群优化算法(PSO)进行参数寻优.UCI标准数据集实验表明了所提方法具有良好的参数选择效果,优选出的核参数能够使SVM具有较高的泛化性能.     

基于一种小波核优化学习的KSPP子空间故障特征提取*

针对电子系统故障诊断中有效特征提取困难,核属性约简方法中核函数与核参数选择繁琐等问题,提出了一种基于自优化小波核稀疏保持投影的子空间特征提取方法。通过对核极化准则的改进,使得新准则不仅可以处理多类别信息,而且可以保留同一类别数据间的局部结构特征。以墨西哥帽小波核函数为对象,基于改进的核评估准则构建优化目标函数,并采用粒子群优化算法进行核参数选择。将优化的小波核作为核稀疏保持投影的核函数,最终实现了在核子空间中对有效特征的提取。实验结果表明,相比于其它流形的子空间特征提取方法,提出的方法有效提升了分类精度,具有良好的泛化性能。     

普适性核度量标准比较研究

核方法是一类应用较为广泛的机器学习算法,已被应用于分类、聚类、回归和特征选择等方面.核函数的选择与参数优化一直是影响核方法效果的核心问题,从而推动了核度量标准,特别是普适性核度量标准的研究.对应用最为广泛的5种普适性核度量标准进行了分析与比较研究,包括KTA,EKTA,CKTA,FSM和KCSM.发现上述5种普适性度量标准的度量内容为特征空间中线性假设的平均间隔,与支持向量机最大化最小间隔的优化标准存在偏差.然后,使用模拟数据分析了上述标准的类别分布敏感性、线性平移敏感性、异方差数据敏感性,发现上述标准仅是核度量的充分非必要条件,好的核函数可能获得较低的度量值.最后,在9个UCI数据集和20Newsgroups数据集上比较了上述标准的度量效果,发现CKTA是度量效果最好的普适性核度量标准.     

确定高斯核参数的聚类方法

高斯核参数σ的选择,直接影响着高斯核支持向量机的分类性能。将聚类方法与最小距离分类法进行融合,构造了能有效确定高斯核参数σ的优化算法。采用高斯核支持向量机方法对测试集进行分类,以分类正确率来评判选取核参数σ的效果。实验表明,该方法适宜于较广泛的数据类型,具有良好的推广能力,并能有效提高分类效果。     

机器学习中的核覆盖算法

基于统计学习理论的支持向量机（SVM）方法在样本空间或特征空间构造最优分类超平面解决了分类器的构造问题,但其本质是二分类的,且核函数中的参数难以确定,计算复杂性高．构造性学习算法根据训练样本构造性地设计分类网络,运行效率高,便于处理多分类问题,但存在所得的分界面零乱、测试计算量大的缺点．该文将SVM中的核函数法与构造性学习的覆盖算法相融合,给出一种新的核覆盖算法．新算法克服了以上两种模型的缺点,具有运算速度快、精度高、鲁棒性强的优点．其次．文中给出风险误差上界与覆盖个数的关系．最后给出实验模     

故障检测中核参数优化方法性能评估

近年来,基于核主元分析与核偏最小二乘的方法经常被应用于过程监控与故障检测领域以克服工业过程的非线性.研究发现此类方法的检测性能很大程度上受核参数的影响,而目前学术界对该参数的优化方法研究较少.因此,本文以最常用的高斯核方法为例,首先总结了3类常用的核参数优化方法:二分法、基于BP神经网络的重构法和基于样本分类的重构法;其次重点分析每个方法的特点和它们之间的联系,并评估它们的性能;最后将上述方法设计成一个核参数优化系统应用于热连轧过程的故障检测中.应用结果表明,优化后的核参数能显著提高故障检测性能.     

多分辨率差分图像非参数核密度估计方法仿真

针对多分辨率差分图像核密度估计阶段中,由于信息冗余与重复计算导致的估计结果准确率下降的问题,提出一种非参数核密度估计方法。利用硬件设备采集多分辨率视频序列,提取关键帧图像作为样本集。分割多分辨率的差分图像,形成由背景图像与前景运动目标两部分组成的初始模型。以该模型为基础构建Copula核函数,利用核函数的运算性能分别确定估计窗宽、方差和核密度公式,从而输出差分图像非参数核密度的估计结果。通过仿真得出结论:研究方法平均准确率为98.56%,与传统核密度估计方法相比提升了6.04%,证明此方法具有较高的应用价值。     

一种基于morlet小波核的约简支持向量机

针对支持向量机（SVM）的训练数据量仅局限于较小样本集的问题，结合Morlet小波核函数，提出了一种基于Morlet小波核的约倚支持向量机（MWRSVM—DC）．算法的核心是通过密度聚类寻找聚类中每个簇的边缘点作为约倚集合，并利用该约倚集合寻找支持向量．实验表明，利用小波核，该算法不仅提高了分类的准确率，而且提高了整体分类效率．