基于正交多项式核函数方法

针对实际工程中小样本数据的稀疏性、分布特征不明显等问题,分析了现有的一些方法并指出了现有方法存在的问题,重点讨论了一类基于切比雪夫多项式的核方法.由于切比雪夫多项式的正交性,使得这些核函数在高维特征空间能得到更优的超平面.通过实验测试了这一类核函数的泛化性能以及学习效率.证明它们比其它的核函数需要更少的支持向量并能保证更好的学习性能.最后论文讨论了这类核函数方法存在的问题,并指出切比雪夫多项式核函数在解决小样本回归问题时具有很大的潜力,值得进一步研究     

基于尺度核函数的最小二乘支持向量机

支持向量机的核函数一直是影响其学习效果的重要因素.本文基于小波分解理论和支持向量机核函数的条件,提出一种多维允许支持向量尺度核函数.该核函数不仅具有平移正交性,且可以以其正交性逼近二次可积空间上的任意曲线,从而提升支持向量机的泛化性能.在尺度函数作为支持向量核函数的基础之上,提出基于尺度核函数的最小二乘支持向量机(LS-SSVM).实验结果表明,LS-SSVM在同等条件下比传统支持向量机的学习精度更高,因而更适用于复杂函数的学习问题.     

一类改进的埃尔米特核函数

核函数及其参数的选择是决定支持向量机(support vector machine,SVM)分类性能的关键。基于埃尔米特多项式,利用三角核函数构造并证明了一类改进的埃尔米特核函数——三角埃尔米特核函数。该类核函数含两个核参数,其中一个核参数可由样本点到样本均值的距离简单确定,而另一个核参数仅在自然数集中选取,从而简化了该类核函数的参数优化。在双螺线数据集、棋盘格数据集及7个UCI数据集上的实验表明,该类核函数比常见的多项式核函数、高斯核函数及文献[6]提出的埃尔米特核函数有着更好的泛化性能和鲁棒性。     

混合核函数稀疏LS-SVM软测量建模与应用

针对最小二乘支持向量机存在的稀疏性欠缺和单核函数局限性问题,本文提出一种基于混合核函数稀疏最小二乘支持向量机的软测量建模方法.该方法使用多项式核函数和RBF核函数线性加权构成混合核函数,兼顾最小二乘支持向量机的全局拟合能力与局部拟合能力,以矢量基学习作为稀疏解算法,改善最小二乘支持向量机的稀疏性,在精简模型结构的同时,避免冗余信息中的噪声过多的拟合到模型参数中,进而采用粒子群算法优化模型部分参数.将此方法分别应用于Mackey- Glasss混沌模型的时间序列预测和乙烯精馏塔塔釜乙烯浓度预测,应用结果表明该方法较最小二乘支持向量机、稀疏最小二乘支持向量机以及混合核最小二乘支持向量机具有更好的泛化效果和预报精度,兆示出其良好的应用潜力.     

超核函数支持向量机

支持向量机是当前机器学习、模式识别和数据挖掘等领域的重要学习方法,核函数的构造是研究和应用支持向量机的关键问题.针对这一问题,提出了核函数构造的组合理论,定义了超核函数概念,并通过多项式组合现有核函数构造出一类超核函数.具体地,首先分析了一般核函数存在的过学习和欠学习现象,然后证明了组合理论构造的核函数的Mercer性质,并通过在仿真数据集和标准数据集上的对比实验,验证了超核函数的性能.理论分析和实验结果阐明了所提出的超核函数组合构造理论的合理性和有效性,开拓了模型选择组合方法的研究途径.     

基于混合核函数FOA-LSSVM的预测模型

支持向量机（SVM）的核函数类型和超参数对预测的精度有重要影响。由于局部核函数学习能力强、泛化性能弱,而全局核函数泛化性能强、学习能力弱的矛盾,通过综合两类核函数各自优点构造了基于全局多项式核和高斯核的混合核函数,并引入果蝇优化算法（FOA）对最小二乘支持向量机（LSSVM）参数进行全局寻优,提出了混合核函数FOA-LSSVM 预测模型。结果表明,该模型较传统方法在电力负荷预测精度上有了明显提高,预测结果科学可靠,在预测中具有良好的实际应用价值。     

提升小波支持向量机在交通流量预测中的应用*

采用提升小波方法构造出一种满足双正交的小波函数,并将这种小波函数作为支持向量机的核函数;此外,用线性规划问题来代替二次规划问题及稀疏正则化,本质上确保了解的稀疏性.基于提升小波构造出提升小波支持向量机模型,并将其用于交通流量的预测中.仿真实验表明该模型具有良好的预测能力和泛化能力.     

基于多种核函数的SVM在垃圾邮件过滤中的应用

采用TF-IDF和Bernoulli两种模型构造邮件向量,首先详细测试了CHI降维策略对线性支持向量机进行邮件分类的影响。将基于核函数的支持向量机引入到垃圾邮件过滤中,对基于线性核、多项式核和径向基核的支持向量机在邮件分类中的准确率和训练时间进行了比较,分析了训练样本不平衡对分类的影响,并从理论上对实验结果进行了分析,实验结果证明基于径向基核函数的SVM分类器对垃圾邮件有较好的过滤效果。     

基于特征可分性的核函数自适应构造

核函数的选择与构造是支撑向量机研究中的关键问题和难点.该文针对该问题,首先讨论了特征空间的线性可分性,推导了其判别条件.然后,根据特征完全可分条件,基于函数逼近论和核函数的基本性质,提出了自适应多项式核函数和B-样条核函数模型,给出了模型参数的估计算法.实测数据仿真实验结果表明,与经典的核函数相比,该文提出的算法在分类性能上取得了明显改善.     

最小二乘Littlewood-Paley小波支持向量机

基于小波分解理论和支持向量机核函数的条件，提出了一种多维允许支持向量核函数——Littlewood-Paley小波核函数．该核函数不仅具有平移正交性，而且可以以其正交性逼近二次可积空间上的任意曲线，从而提升了支持向量机的泛化性能．在Littlewood-Paley小波函数作为支持向量核函数的基础上，提出了最小二乘Littlewood-Paley小波支持向量机(LS-LPWSVM)．实验结果表明，LS-LPWSVM在同等条件下比最小二乘支持向量机的学习精度要高，因而更适用于复杂函数的学习问题．     

一种混合核函数SVM建模方法及其应用

为了提高模型的泛化能力和精度,提出了一种基于混合核函数的支持向量机(SVM)建模方法.所提出的混合核函数由径向基函数和多项式函数加权组合而成,克服了支持向量机模型中单个核函数的局限性.并利用量子粒子群算法(QPSO)对惩罚系数、核参数以及混合权重系数进行综合寻优,求取最优化参数组合,从而提高模型的精度.采用锌湿法冶炼净化过程现场数据对建模的方法进行了测试,结果表明,所提出的混合核函数支持向量机模型具有较好的泛化性能和预测精度,预测结果满足现场工艺生产的要求.     

基于切比雪夫核的SVM在语音识别中的应用

支持向量机的核函数因参数寻优问题,产生了额外计算量,从而降低了在语音识别应用系统中的实时性.鉴于以上弊端,在语音识别系统中,运用了一种基于切比雪夫多项式的核函数.该函数在训练过程中能够获得更少的支持向量个数,同时该函数结合了高斯核函数的优良性能,对广义的切比雪夫核函数进行了适当的改进得到修正切比雪夫核函数.实验运用了两个不同的语音数据库分别进行了对比实验,取得了较为理想的效果,提高了支持向量机的泛化能力及语音识别系统的鲁棒性.     

支持向量机在模式识别中的核函数特性分析

支持向量机是20世纪90年代中期发展起来的一种机器学习技术,与传统人工神经网络不同之处在于前者基于结构风险最小化原理,后者基于经验风险最小化原理。支持向量机不仅结构简单,而且技术性能尤其是泛化能力与BP神经网络相比有明显提高。讨论了支持向量机的分类原理,并用多项式函数、径向基函数和感知机函数等3种核函数作为内积回旋,分别以平面点集分类、手写体汉字识别及双螺旋线识别为例,在不同的结构参数下进行了仿真实验,并对3种核函数的分类特性进行了对比分析,给出了在不同模式识别问题中3种核函数的选择条件。     

基于核的支持向量机构造方法的研究

核函数的选择是构造支持向量机的关键.通过研究当前机器学习领域3类主要核函数及其主要性质,派生出其他相关函数,同时引入其他一些更精密的核函数应用于SVM构造.得出SVM用于非线性分类器构造时,核函数的选择原则.并以实例分析了核函数方法的计算性和泛化性,扩展了核函数的应用领域,使得SVM的构造方法更加丰富.     

采用遗传算法优化最小二乘支持向量机参数的方法

支持向量机是建立在统计学习理论上的一种学习算法,较好地解决了小样本学习问题.由不同的参数和核函数构造的支持向量机在性能上存在很大差异,而在参数和核函数的选择上目前还没有明确的理论依据.针对支持向量机的参数选择问题,提出了一种采用遗传算法优化最小二乘支持向量机参数的方法.结合LS-SVMlab工具箱,在MATLAB实验平台的仿真实验表明,该方法提高了支持向量机的参数选择效率,得到的参数对测试样本的分类结果是最优的,从而避免了人为设定参数的不足,同时缩短了优化时间.     

基于混合核函数的SVM及其应用

支持向量机可以很好地应用于函数拟合中,其中核函数的选择尤其重要。由于普通核函数各有其利弊,为了得到学习能力和泛化性能都很强的核函数,文中采用了混合核函数,并将由其构造的支持向量机运用于函数拟合中,且与普通核函数构造的支持向量机的实验结果进行了比较。结果表明其性能明显优于由普通核函数构造的支持向量机。     

软件可靠性预测中不同核函数的预测能力评估

基于核函数回归估计理论的软件可靠性预测建模引起诸多研究者的兴趣.此类研究中,核函数选择问题尤为重要.然而目前还很少有针对所给软件失效数据进行核函数选择或者构建核函数的工作.在14个常用软件失效数据集上应用配对t-检验对基于核函数理论的软件可靠性预测模型中核函数选择问题进行研究.使用的核函数回归估计方法包括核主成分回归算法、核偏最小二乘回归算法、支持向量回归算法、相关向量回归算法;核函数包括高斯核函数、线性核函数、多项式核函数、柯西核函数、拉普拉斯核函数、对称三角核函数、双曲正割核函数、平方正弦基核函数.实验结果表明:不同类型的核函数在不同数据集上表现差异较大,高斯核函数在所有数据集上表现较为稳定,预测结果最好.     

基于混合核函数的SVM及其应用

支持向量机可以很好地应用于函数拟合中．其中核函数的选择尤其重要。由于普通核函数各有其利弊，为了得到学习能力和泛化性能都很强的核函数，文中采用了混合核函数，并将由其构造的支持向量机运用于函数拟合中，且与普通核函数构造的支持向量机的实验结果进行了比较。结果表明其性能明显优于由普通核函数构造的支持向量机。     

智能结构损伤自诊断的PSO-LSWSVM方法

损伤检测方法是关联智能结构实现损伤自诊断功能的一个重要研究内容。针对支持向量机研究的关键与难点——核函数的构造及核参数的优化问题,基于小波核函数的近似正交性,研究基于小波核的最小二乘支持向量机（LSWSVM）方法,并采用粒子群优化算法（PSO）对LSWSVM参数进行优化,从而构造PSO-LSWSVM方法。基于压电元件的正逆压电效应,搭建损伤自诊断压电智能结构试验系统,对各压电传感器的响应信号进行功率谱密度最大值（PSM）特征提取。基于各压电传感器的响应信号特征,将该PSO-LSWSVM方法应用于智能结构损伤自诊断,并对该方法进行性能评价。结果表明,在同等条件下,LSWSVM有比基于高斯核函数的最小二乘支持向量机（LSSVM）更高的损伤检测精度及更强的推广能力,相比于传统遗传算法（TGA）,该方法中粒子群优化算法（PSO）具有较好的寻优能力和收敛速度。     

使用超椭球参数化坐标的支持向量机

基于n维超椭球面坐标变换公式,构造一类核函数--n维超椭球坐标变换核.由于是同维映射,且增大了类间距离,这类核函数在一定程度上改善了支持向量机的性能.与其他核函数(如高斯核)相比,将所构造的核函数用于支持向量机,仅产生了很少的支持向量,因而大大加快了学习速度,改善了泛化性能.数值实验结果表明了所构造的核函数的有效性和正确性.