回归函数的支持向量机估计法

回归估计是统计学中基本问题之一，本文在归纳了其经典的估计方法之后，总结了支持向量机估计回归函数方法。并从理论和应用角度阐述了支持向量机的基本思想。     

基于最小二乘支持向量机的信号回归

基于支持向量机核函数的条件和Sobolev Hilbert空间H1(R;a,b)的再生核,提出了一种称为最小二乘支持向量机的新的回归模型,并将该回归模型应用于信号回归的仿真实验中.实验表明,最小二乘支持向量机的核函数采用再生核是可行的,它优于常用的高斯核函数.     

混合核函数对支持向量机分类性能的改进

通过对核矩阵的计算和研究,从理论上对常用的核函数进行了评估.在此基础上,通过实验仿真证实了通过优选后的核函数所组成的混合核函数对支持向量机分类性能的改善,为核函数的选择提供了参考.     

核函数支持向量机的研究进展

核函数支持向量机是机器学习的最新尖端技术,并且成功应用于许多领域。本文叙述了核函数支持向量机的基本理论,并介绍了相关的基础研究和应用研究,同时探讨了未来的发展趋势。     

支持向量机及核函数研究

对核函数进行了初步探讨,从理论上研究了多项式核函数参数的选择问题,从实验角度对多项式核函数与径向基核函数进行了比较分析,并阐述了Sigmoid核函数的特点,可作为一般SVM分类问题选择核函数及核函数参数范围的依据.     

不同准则下的线性支持向量机回归模型

由于标准的支持向量机算法需要解一个二次规划问题,当训练样本较多时,其运算速度一般很慢,为了提高运算速度,根据不同的准则,提出了基于核函数的3种支持向量回归模型.基于使残差的平方和为最小准测的模型转化为解线性方程组运算,只需要矩阵乘积与求逆运算;基于使残差的最大绝对值为最小准则和使残差的绝对值之和为最小准则的2个模型转化为线性规划问题,并给出了线性规划的对偶问题.实验结果表明了该方法的有效性,且计算量明显降低.通过实例,对高斯径向基核函数和多项式基核函数进行了比较与分析,高斯径向基核函数的精度比多项式基核函数高.对高斯径向基核函数和多项式基核函数的不同参数也进行了比较和分析.     

基于傅立叶核与径向基核的支持向量机性能之比较

支持向量机（SVMs）是由Vapnik提出的一种建立在统计学习理论上的新方法：这种方法被深入地研究并广泛应用在诸如分类和回归问题上。由于其基于结构风险最小化的机理，因此相对于其他的经典方法有着更好的泛化特性，其中核函数的选择对支持向量机的性能有着很大的影响。深入地研究了基于傅立叶核函数的支持向量机的特性，得出在某些特殊的情况下，基于傅立叶核函数的支持向量机的性能要好于基于RBF核的支持向量机。最后的仿真对其进行了比较验证。     

回归函数的小波支持向量机鲁棒估计法

小波网络具有小波的多尺度特性和神经网络的自学习功能,在回归估计中得到广泛的应用,但其性能受到样本中粗差的严重影响.虽然以M-估计作为目标函数可以解决这个问题,但由于其对应的影响函数由残差绝对值决定,因此如何选择初始参数值成为一个关键问题.为此,提出回归函数的小波支持向量机鲁棒估计方法(小波支持向量回归,WSVR,Wavelet Support Vector Regression).该方法中首先提出并证明了一种新的小波支持向量机(WSVM,Wavelet Support Vector Machine),用于确定初始参数值方法,这种方法能够确定合理的网络结构和合适的初始参数值,保证含有粗差的样本点的残差绝对值较大;然后使用一种构造的M-估计作为目标函数,并提出了自适应确定阈值方法.仿真结果表明,使用这种方法得到的回归模型不仅具有良好的多尺度逼近特性,而且有较好的鲁棒性和较高的推广性能,具有较高的理论和应用价值.     

一类新的支持向量机核函数——埃尔米特核函数

基于埃尔米特正交多项式,文章提出了向量形式的广义埃尔米特多项式,并由此衍生出一类新的核函数——埃尔米特核函数.该类核函数最大的优势在于其参数仅在自然数中取值,能大大缩短参数优化时间.在鲁棒性与泛化性能方面,文章在双螺旋集和标准UCI数据集上与常用的核函数(多项式核、高斯径向基核等)做了对比试验.     

多输出支持向量回归算法

支持向量机是一种基于统计学习理论的新颖的机器学习方法,由于其出色的学习性能。该技术已成为当前国际机器学习界的研究热点．这种方法已广泛用于解决分类和回归问题．在回归中。目前的研究和应用都限于单输出的情况,而实际中有很多属于多输出回归问题．针对这一点,将支持向量回归算法推广到多输出情况．仿真实例说明了该算法的可行性．     

组合核支持向量机个人信用评估模型

针对支持向量机模型在分类问题中的广泛应用,提出了一种新的基于支持向量机的个人信用评估模型,通过对支持向量机直方图交叉核、热核特征核、杰卡德距离核和余弦广义距离核4种核函数的组合处理,构造了投票矩阵;通过实际数据实验,获得了良好的分类结果,同时证明了支持向量机自适应组合核加权模型在信用评分系统中具有良好的性能;因此,这种基于支持向量机的个人信用评估模型可以帮助银行或贷款人做出正确的决策。     

说话人识别中SVM核函数参数优化研究

在基于SVM的说话人识别系统研究中,如何获得理想的识别率是亟待解决的问题。SVM核函数是众多影响识别率因素中最明显的。该系统提高识别率的技术关键是SVM核函数的选取及其参数优化。为此,在对三种常用核函数的特点进行研究的基础上,利用网格搜索法来分别进行参数优选,通过实际语音的训练和识别验证识别效果。目前优选参数可以实现识别率≥99.9%且识别时间<0.1 s。     

一种新型加权支持向量回归机

与统计学习理论结合,并把数据样本映射到高维空间,有时标准支持向量回归机运算速度和精度不理想.针对线性不可分的情况,在支持向量回归机目标函数中增加两个平方松弛项,这样可以减少两个约束条件.每个松弛项赋予不同的加权系数,可根据实际需要调节它们的权重.这种新算法称为新型加权支持向量回归机(weighted support vector regression machine,WSVRM),并把它用于函数逼近.实验结果表明,所提出的新型加权支持向量回归机具有良好的函数估计能力和数据预测能力.     

支持向量机的研究

支持向量机可以引入特征变换将原空间的非线性问题转化为新空间的线性问题。本文在论述支持向量机模型创建的基础上,着重对核函数的选取及参数的确定进行了研究,通过实验数据表明,文中创建的组合核函数,在人体下肢动作模式识别中,有较高的识别率。     

基于SVM的函数模拟

支持向量机在高维空间中表示复杂函数是一种有效的通用方法, 提出了采用基于支持向量机的非线性回归法求解函数模拟问题.     

基于模糊回归支持向量机的短期负荷预测

支持向量机(SVM)是一种新颖的机器学习方法,具有泛化能力强、全局最优和计算速度快等突出优点.模糊数学在不确定性、不精确性及噪声引起的问题上,有其特有的计算分析操作,能有效地分析和处理模糊信息.研究了一种模糊回归支持向量机模型,该模型将两者有机结合,发挥了各自的优点.将其应用到电力系统短期负荷预测,仿真结果表明,所提方法不仅具有与支持向量机方法相同的预测精度,且提供了更多的有用信息.     

支持向量回归机训练集的并行预处理方法

为加快支持向量回归机在求解大样本集问题时的训练速度,提出了并行支持向量回归机。该方法根据核矩阵把数据集分成k个子集,通过并行预处理过滤掉非支持向量,再对剩余的支持向量进行训练得到决策函数。实验表明,本算法不仅预测准确度跟标准的分解算法基本一致,而且大大缩减训练时间,具有很高的加速比,同时需要的训练时间大大少于Graf等人提出的级联结构的算法,另外,算法还可有效地缩减支持向量的数目。