基于高斯核的SVM的参数选择

基于高斯核的支持向量机应用很广泛,高斯核参数σ的选择对分类器性能影响很大,本文提出了从核函数性质和几何距离角度来选择参数σ,并且利用高斯函数的麦克劳林展开解决了参数σ的优化选择问题。实验结果表明,该方法能较快地确定核函数参数σ,且 SVM 分类效果较好,解决了高斯核参数σ在实际应用中不易确定的问题。     

一种确定高斯核模型参数的新方法

支持向量机中核函数及其参数的选择非常重要,该文提出了一种利用支持向量之间的距离求取高斯核函数参数的有效方法。该方法充分利用了支持向量机方法的最优判别函数仅仅与支持向量有关,并且支持向量为高斯核中心的特点。实验结果表明,该方法较好地反映了图像特征的本质,解决了高斯核函数参数在实际使用中不易确定的问题。     

高斯核支持向量机分类和模型参数选择研究

支持向量机(SupportVectorMachine,SVM)是近几年发展起来的机器学习新方法,以高斯核为核函数的支持向量机在实际应用中表现出良好的学习性能,被广泛应用于模式分类中。论文研究了高斯核支持向量机分类在IRIS分类问题上的应用,并结合结构风险最小化原则分析了误差惩罚参数C和高斯核宽度σ对SVM性能的影响,最后通过数值实验进一步分析了这种影响。     

基于近似高斯核显式描述的大规模SVM求解

大规模数据集上非线性支持向量机(support vector machine, SVM)的求解代价过高,然而对于线性SVM却存在高效求解算法.为了应用线性SVM高效求解算法求解非线性SVM,并保证非线性SVM的精确性,提出一种基于近似高斯核显式描述的大规模SVM求解方法.首先,定义近似高斯核并建立其与高斯核的关系,推导近似高斯核与高斯核的偏差上界.然后给出近似高斯核对应的再生核希尔伯特空间(reproducing kernel Hilbert space, RKHS)的显式描述,由此可精确刻画SVM解的结构,增强SVM方法的可解释性.最后显式地构造近似高斯核对应的特征映射,并将其作为线性SVM的输入,从而实现了用线性SVM算法高效求解大规模非线性SVM.实验结果表明,所提出的方法能提高非线性SVM的求解效率,并得到与标准非线性SVM相近的精确性.     

基于随机傅里叶特征空间的高斯核近似模型选择算法

核方法是一种把低维空间的线性不可分问题转化为高维空间中线性可分问题的方法,其广泛应用于多种学习模型。然而现有的核模型选择方法在大规模数据中计算效率较低,时间成本很大。针对这一问题,本文引入随机傅里叶特征变换,将原始核特征空间转换为另一个相对低维的显式随机特征空间,并给出核近似误差上界理论分析以及在核近似的随机特征空间中训练学习模型的误差上界,得到核近似的收敛一致性和误差上界与核近似参数之间的关系。基于随机傅里叶特征空间选择出最优模型参数,避免了对最优原始高斯核模型参数的大规模搜索,从而大幅降低原始高斯核模型选择所需的时间成本。实验表明,本文给出的误差上界确由核近似参数控制,核近似选择的最优模型相较于原始高斯核模型有较高的准确率,并且模型选择时间相对网格搜索法大幅减小。     

随机傅里叶特征空间中高斯核支持向量机模型选择

模型选择是支持向量机(support vector machines, SVMs)学习的关键问题.标准支持向量机学习本质上是求解一个凸二次优化问题,求解的时间复杂度为数据规模的立方级,而经典的模型选择方法往往需要多次训练支持向量机,这种模型选择方法对于中等规模的支持向量机学习计算代价已较高,更难以扩展到大规模支持向量机学习.基于高斯核函数的随机傅里叶特征近似,提出一种新的、高效的核支持向量机模型选择方法.首先,利用随机傅里叶特征映射,将无限维隐式特征空间嵌入到一个相对低维的显式随机特征空间,并推导在2个不同的特征空间中分别训练支持向量机所得到的模型的误差上界;然后,以模型误差上界为理论保证,提出随机特征空间中核支持向量机的模型选择方法,应用随机特征空间中的线性支持向量机来逼近核支持向量机,计算模型选择准则的近似值,从而评价所对应的核支持向量机的相对优劣;最后,在标杆数据集上验证所提出方法的可行性和高效性.实验结果表明,所提出的模型选择方法与标准交叉验证方法的测试精度基本相当,但可显著地提高核支持向量机模型选择效率.     

基于高斯模型和支持向量机的人脸检测方法

针对目前人脸检测方法速度与精度难以兼有的问题,本文提出了一种结合高斯模型和支持向量机的人脸检测方法.先利用皮肤颜色在YCbCr空间的聚类性,对肤色建立高斯模型以分割出可能的人脸区域,再将这些区域输入到支持向量机检测并标记出检测结果.实验结果证明,本文提出的方法检测效果令人满意.     

基于凸包估计的核参数选择方法

核及相关参数的选择是支撑向量机（support vector machine,SVM）研究中的核心问题之一.基于统计学习理论,提出一种通过角度切割样本集求解训练样本的近似凸包来进行最优核参数选择的方法.该方法可以克服传统的基于求解优化问题的方法所具有的计算复杂度高的缺点,且无论数据是否稠密,分布是否均匀都可适用.数值实验说明了提出的方法可行性与有效性.     

一类新的基于拉盖尔正交多项式的核函数

基于拉盖尔正交多项式,提出了广义的拉盖尔多项式,由此建立了一类新的核函数—拉盖尔核函数。在双螺旋集和标准UCI数据集上的实验表明,该核函数比常用的核函数(多项式核、高斯径向基核等)具有更强的鲁棒性与更好的泛化性能,而且该核函数的参数仅在自然数中取值,能大大缩短参数优化时间。     

核函数的选择研究综述

核方法是解决非线性模式分析问题的一种有效方法,是当前机器学习领域的一个研究热点.核函数是影响核方法性能的关键因素,以支持向量机作为核函数的载体,从核函数的构造、核函数中参数的选择、多核学习3个角度对核函数的选择的研究现状及其进展情况进行了系统地概述,并指出根据特定应用领域选择核函数、设计有效的核函数度量标准和拓宽核函数选择的研究范围是其中3个值得进一步研究的方向.     

Gaussian Kernel Based SVR Model for Short-Term Photovoltaic MPP Power Prediction

Predicting the power obtained at the output of the photovoltaic (PV) system is fundamental for the optimum use of the PV system. However, it varies at different times of the day depending on intermittent and nonlinear environmental conditions including solar irradiation, temperature and the wind speed, Short-term power prediction is vital in PV systems to reconcile generation and demand in terms of the cost and capacity of the reserve. In this study, a Gaussian kernel based Support Vector Regression (SVR) prediction model using multiple input variables is proposed for estimating the maximum power obtained from using perturb observation method in the different irradiation and the different temperatures for a short-term in the DC-DC boost converter at the PV system. The performance of the kernel-based prediction model depends on the availability of a suitable kernel function that matches the learning objective, since an unsuitable kernel function or hyper parameter tuning results in significantly poor performance. In this study for the first time in the literature both maximum power is obtained at maximum power point and short-term maximum power estimation is made. While evaluating the performance of the suggested model, the PV power data simulated at variable irradiations and variable temperatures for one day in the PV system simulated in MATLAB were used. The maximum power obtained from the simulated system at maximum irradiance was 852.6 W. The accuracy and the performance evaluation of suggested forecasting model were identified utilizing the computing error statistics such as root mean square error (RMSE) and mean square error (MSE) values. MSE and RMSE rates which obtained were 4.5566 * 10⁻⁰⁴ and 0.0213 using ANN model. MSE and RMSE rates which obtained were 13.0000 * 10⁻⁰⁴ and 0.0362 using SWD-FFNN model. Using SVR model, 1.1548 * 10⁻⁰⁵ MSE and 0.0034 RMSE rates were obtained. In the short-term maximum power prediction, SVR gave higher prediction performance according to ANN and SWD-FFNN.     

一种基于高斯分布的SVM核选择方法

核选择是支撑向量机(Support Vector Machine,SVM)研究中的核心问题之一。提出了一种基于数据分布特征的SVM核函数及其参数选择的方法。首先分析了确定数据分布特征的重要性,然后给出了判断数据呈高斯分布的方法,并探讨了SVM核函数及其参数选择与数据分布的相关性。数值实验说明了本文提出的方法的可行性与有效性。     

支持向量机最优模型选择的研究

通过对核矩阵的研究,利用核矩阵的对称正定性,采用核校准的方法提出了一种SVM最优模型选择的算法——OMSA算法．利用训练样本不通过SVM标准训练和测试过程而寻求最优的核参数和相应的最优学习模型,弥补了传统SVM在模型选择上经验性强和计算量大的不足．采用该算法在UCI标准数据集和FERET标准人脸库上进行了实验,结果表明,通过该算法找到的核参数以及相应的核矩阵是最优的,得到的SVM分类器的错误率最小．该算法为SVM最优模型选择提供了一种可行的方法,同时对其他基于核的学习方法也具有一定的参考价值．     

一种基于球状分布的SVM核选择方法

核选择是支撑向量机(Support Vector Machine,SVM)研究中的核心问题之一。提出了一种基于数据分布特征的SVM核函数选择的方法。分析了几种常用核函数的性能,提出了判断数据呈球状分布的方法,探讨了SVM核函数及其参数选择与数据分布的相关性。数值实验说明了该方法的可行性与有效性。     

核子类凸包样本选择方法及其SVM应用

提出一种基于核函数方法的类内训练样本选择方法——核子类凸包样本选择法,并将其用于支持向量机。该样本选择方法通过迭代方法,逐一选择了那些经映射后“距离已选样本”,并将其映射、生成“凸包最远的样本”。实验结果表明,该方法选择的少量样本使支持向量机获得了较高的识别比率,减少了存储需求,提高了分类速度。