基于增量支持向量机的DoS入侵检测

提出了一个基于增量学习支持向量机的DoS入侵检测方法，其基本思想是将训练样本库分割成几个互不相交的训练子库，按批次对各个训练子库样本进行训练，每次训练中只保留支持向量，去除非支持向量。与传统的基于支持向量机的入侵检测方法对比的试验表明，该方法在不影响检测性能的同时明显减少了训练时间。     

基于支持向量机和粗糙集的图像检索算法

研究基于支持向量机和粗糙集的相关反馈图像检索算法。利用粗糙集理论,通过对训练集的学习,构造分类规则,对支持向量机反馈后的结果再次进行处理。实验显示,与现有方法相比,该方法在图像检索的性能和时间上都有明显的改善。     

基于视听分层模型的实时爆炸场景识别

提出在实时环境下使用基于听觉和视觉的分层模型对MPEG多媒体数据流中的“爆炸”场景在压缩域进行识别的算法．首先用一个粗分支持向量机把爆炸和类似爆炸的音频从别的音频中识别出来，然后再分别用几个精细支持向量机把爆炸和类似爆炸的音频区分开，由此得到音频爆炸备选场景．由于大多数爆炸场景均伴随剧烈的视觉突变，因此对得到的音频爆炸备选场景再判断其对应的视觉特征是否发生了变化，得到最后的识别结果。     

基于KKT条件与壳向量的增量学习算法研究

摘要针对经典支持向量机难以快速有效地进行增量学习的缺点,提出了基于KKT条件与壳向量的增量学习算法,该算法首先选择包含所有支持向量的壳向量,利用KKT条件淘汰新增样本中无用样本,减小参与训练的样本数目,然后在新的训练集中快速训练支持向量机进行增量学习。将该算法应用于UCI数据集和电路板故障分类识别,实验结果表明,该算法不仅能保证学习机器的精度和良好的推广能力,而且其学习速度比经典的SMO算法快,可以进行增量学习。     

基于PSO训练SVM的人脸识别

粒子群优化算法(PSO)是一种进化算法,操作简单,参数少。与传统算法和遗传算法相比较,PSO算法在众多应用中表现了更好的性能。在通过对PSO算法训练支持向量机算法研究后,利用支持向量机在学习能力方面表现的良好性能,结合核主元分析特征提取方法,将其应用于人脸识别中,该方法在实验中表现了良好的识别性能,为人脸识别领域提供了一条新的识别途径。     

基于支持向量机的货币识别应用研究

支持向量机是一种新的基于统计学习理论的机器学习算法，它可以应用于小样本、非线性和高维模式识别。研究了支持向量机的学习算法，依据支持向量机的特点采用了相应的货币特征数据获取及预处理方法，提出采用改进SMO训练算法和DAGSVM多值分类算法构建的支持向量机用于货币识别，从而达到对货币高效、准确识别。实验结果证实了该方案的有效性。     

基于分形布朗运动和Ada Boosting的多类音频例子识别

提出了一种基于分形布朗运动的音频特征提取和识别方法．这种方法使用分形布朗运动模型计算出音频例子的分形维数，并作为其分形特征．针对音频分形特征符合高斯分布的特点，使用Ada Boosting算法进行特征约减．然后分别使用Ada-加权高斯分类器和支持向量机对约减特征后的音频分类，并在两类分类的基础上构造多类分类的模型．实验表明，经过特征约减后的音频分形特征在音乐和语音的分类中都优于其他音频特征．     

基于支持向量机的人脸识别方法研究

对于人脸识别问题，基于K-L变换对人脸图像进行特征参数的提取；并采用支持向量机进行分类．由于支持向量机本身是一个两类问题的判别方法，在处理多类问题时，提出了一种基于支持向量机组的淘汰法，这种方法考虑到了各判别函数的VC置信范围的差异，同时利用判别函数间的冗余来降低识别误差．针对ORL人脸库和自建的人脸库的识别结果表明，基于SVM的识别方法在特征参数个数的选取、识别效果、识别时间等方面都有其独到的优越性．     

回归最小二乘支持向量机的增量和在线式学习算法

首先给出回归最小二乘支持向量机的数学模型，并分析了它的性质，然后在此基础上根据分块矩阵计算公式和核函数矩阵本身的特点设计了支持向量机的增量式学习算法和在线学习算法．该算法能充分利用历史的训练结果，减少存储空间和计算时间．仿真实验表明了这两种学习方法的有效性．     

基于分层并行筛选样本的SVM增量学习算法

在增量学习过程中，随着训练集规模的增大，支持向量机的学习过程需要占用大量内存，寻优速度非常缓慢。在现有的一种支持向量机增量学习算法的基础上，结合并行学习思想，提出了一种分层并行筛选训练样本的支持向量机增量学习算法。理论分析和实验结果表明：与原有的算法相比，新算法能在保证支持向量机的分类能力的前提下显著提高训练速度。     

基于SVM的离线图像目标分类算法

目标分类是计算机视觉与模式识别领域的关键环节. SVM(支持向量机)是在统计学习理论基础上提出的一种新的机器学习方法.提出一种支持向量机结合梯度直方图特征的离线图像目标分类算法.首先对训练集进行预处理,然后对处理后的图片进行梯度直方图特征提取,最后通过训练得到可以检测图像目标的分类器.利用得到的分类器对测试图片进行测试,测试结果表明,对目标分类检测有良好的效果.     

支持向量机最优模型选择的研究

通过对核矩阵的研究,利用核矩阵的对称正定性,采用核校准的方法提出了一种SVM最优模型选择的算法——OMSA算法．利用训练样本不通过SVM标准训练和测试过程而寻求最优的核参数和相应的最优学习模型,弥补了传统SVM在模型选择上经验性强和计算量大的不足．采用该算法在UCI标准数据集和FERET标准人脸库上进行了实验,结果表明,通过该算法找到的核参数以及相应的核矩阵是最优的,得到的SVM分类器的错误率最小．该算法为SVM最优模型选择提供了一种可行的方法,同时对其他基于核的学习方法也具有一定的参考价值．     

基于实例重要性的SVM解不平衡数据分类

在不平衡数据分类问题中,作为目标对象的少数类往往不易识别.常见方法存在需要显式设置实例重要度、仅仅间接支持少数类的识别等缺点.由此,文中提出基于实例重要性的支持向量机--ⅡSVM.它分为3个阶段.前两个阶段分别采用单类支持向昔机和二元支持向量机,将数据按照"最重要"、"较重要",和"不重要"3个档次重新组织.阶段3首先选择最重要的数据训练初始分类器,并通过显式设置早停止条件,直接支持少数类的识别.实验表明,ⅡSVM的平均分类性能优于目前的主流方法.     

融合PCA的支持向量机人脸检测研究

支持向量机（Support Vector Machine,SVM）作为一种经典的非线性分类器,用于模式识别,可以将训练样本从不可线性分类的低维空间映射到可线性分类的高维空间,再做分类,本文主要训练支持向量机使它学会区分人脸和非人脸。支持向量机的数学推导完备,算法逻辑严密,整体上比Adaboost算法复杂,但在样本量较少的情况下效果良好,因此有样本优势。支撑它的理论包含泛化性理论、最优化理论和核函数等,这些理论也被学术界广泛用于其他机器学习算法如神经网络,几十年来被证明具有很高的可靠性。同时本文论述主成分分析技术（PCA）用于压缩数据,实现数据降维,在数据预处理方面算法提供了很大帮助,使SVM支持向量机的输入数据维数大幅下降,大大提高了运算和检测时间。     

Dictionary learning based sparse coefficients for audio classification with max and average pooling

Audio classification is an important problem in signal processing and pattern recognition with potential applications in audio retrieval, documentation and scene analysis. Common to general signal classification systems, it involves both training and classification (or testing) stages. The performance of an audio classification system, such as its complexity and classification accuracy, depends highly on the choice of the signal features and the classifiers. Several features have been widely exploited in existing methods, such as the mel-frequency cepstrum coefficients (MFCCs), line spectral frequencies (LSF) and short time energy (STM). In this paper, instead of using these well-established features, we explore the potential of sparse features, derived from the dictionary of signal atoms using sparse coding based on e.g. orthogonal matching pursuit (OMP), where the atoms are adapted directly from audio training data using the K-SVD dictionary learning algorithm. To reduce the computational complexity, we propose to perform pooling and sampling operations on the sparse coefficients. Such operations also help to maintain a unified dimension of the signal features, regardless of the various lengths of the training and testing signals. Using the popular support vector machine (SVM) as the classifier, we examine the performance of the proposed classification system for two binary classification problems, namely speech–music classification and male–female speech discrimination and a multi-class problem, speaker identification. The experimental results show that the sparse (max-pooled and average-pooled) coefficients perform better than the classical MFCCs features, in particular, for noisy audio data.     

Support vector learning for fuzzy rule-based classification systems

To design a fuzzy rule-based classification system (fuzzy classifier) with good generalization ability in a high dimensional feature space has been an active research topic for a long time. As a powerful machine learning approach for pattern recognition problems, the support vector machine (SVM) is known to have good generalization ability. More importantly, an SVM can work very well on a high- (or even infinite) dimensional feature space. This paper investigates the connection between fuzzy classifiers and kernel machines, establishes a link between fuzzy rules and kernels, and proposes a learning algorithm for fuzzy classifiers. We first show that a fuzzy classifier implicitly defines a translation invariant kernel under the assumption that all membership functions associated with the same input variable are generated from location transformation of a reference function. Fuzzy inference on the IF-part of a fuzzy rule can be viewed as evaluating the kernel function. The kernel function is then proven to be a Mercer kernel if the reference functions meet a certain spectral requirement. The corresponding fuzzy classifier is named positive definite fuzzy classifier (PDFC). A PDFC can be built from the given training samples based on a support vector learning approach with the IF-part fuzzy rules given by the support vectors. Since the learning process minimizes an upper bound on the expected risk (expected prediction error) instead of the empirical risk (training error), the resulting PDFC usually has good generalization. Moreover, because of the sparsity properties of the SVMs, the number of fuzzy rules is irrelevant to the dimension of input space. In this sense, we avoid the "curse of dimensionality." Finally, PDFCs with different reference functions are constructed using the support vector learning approach. The performance of the PDFCs is illustrated by extensive experimental results. Comparisons with other methods are also provided.     

基于结构优化的DDAG-SVM上肢康复训练动作识别方法

针对上肢康复训练系统中训练评估方法核心的动作识别问题,提出一种面向Brunnstrom 4~5期患者上肢康复训练动作的SODDAG-SVM(Structure-optimized decision directed acyclic graph-support vector machine)多分类识别方法.首先将多分类问题分解成一组二分类问题,并使用支持向量机构建各二分类器,分别采用遗传算法和特征子集区分度准则对各二分类器的核函数参数及特征子集进行优化.然后使用类对的SVM二分类器泛化误差来衡量每个类对的易被分离程度,并由其建立类对泛化误差上三角矩阵.最后由根节点开始,依次根据各节点的泛化误差矩阵,通过选择其中最易被分离类对的SVM分类器构成该节点的方式,来构建SODDAG-SVM多分类器结构.当待预测的实例较少时,直接构建实例经过的SODDAG-SVM部分结构并对实例进行预测;当待预测的实例较多时,先构建完整的SODDAG-SVM结构,再代入所有实例进行预测.通过人体传感技术获得Brunnstrom 4~5阶段上肢康复训练的常用动作样本集,进行SODDAG-SVM动作识别实验,准确率达到了95.49%,结果均优于常规的决策有向无环图(Decision directed acyceic graph,DDAG)和MaxWins方法,实验表明本文方法能有效地提高上肢康复训练动作识别的准确率.     

A hierarchical multiclass support vector machine incorporated with holistic triple learning units

This paper proposes a new hierarchical learning structure, namely the holistic triple learning (HTL), for extending the binary support vector machine (SVM) to multi-classification problems. For an N-class problem, a HTL constructs a decision tree up to a depth of éN/3ù+1\lceil N/3\rceil+1. A leaf node of the decision tree is allowed to be placed with a holistic triple learning unit whose generalisation abilities are assessed and approved. Meanwhile, the remaining nodes in the decision tree each accommodate a standard binary SVM classifier. The holistic triple classifier is a regression model trained on three classes, whose training algorithm is originated from a recently proposed implementation technique, namely the least-squares support vector machine (LS-SVM). A major novelty with the holistic triple classifier is the reduced number of support vectors in the solution. For the resultant HTL-SVM, an upper bound of the generalisation error can be obtained. The time complexity of training the HTL-SVM is analysed, and is shown to be comparable to that of training the one-versus-one (1-vs.-1) SVM, particularly on small-scale datasets. Empirical studies show that the proposed HTL-SVM achieves competitive classification accuracy with a reduced number of support vectors compared to the popular 1-vs-1 alternative.     

基于支持向量机和距离度量的管道内表面图像分类方法研究

针对管道内表面图像的分类问题，提出了一种将支持向量机和距离度量相结合，构成组合分类器的分类方法。分类时先采用距离度量进行前级分类，符合条件则给出分类结果，否则拒识并转入SVM分类器进行分类。该方法充分利用了SVM识别率高和距离度量速度快的优点，并且利用距离度量的结果去指导SVM的训练和测试。实验表明本方法具有较高的效率和识别精度，进一步提高了系统的识别率和容噪性能。     

基于矩阵模式的林火图像半监督学习算法

森林火灾图像识别是森林防火监测系统的核心。目前的主要研究多在图像的向量 模式表示上展开。由于向量模式的样本数由图像分辨率决定,易导致模型训练的负担过重。样 本类别标记的准确性,直接影响后续的模型训练和目标识别。而目前的类别标定工作多采用手 工或图像预处理方法完成,任务繁琐且容易出错。此外,由于像素位置在图像向量化过程中被 调整,不可避免地会损失图像原有的结构信息。鉴于此,提出了基于矩阵分块的半监督学习算 法 Semi-MHKS,优势在于：①矩阵分块形式的样本数远低于向量模式,可有效缩短训练和识别 时间;②只需标记分块类别,更有利于准确标定样本类别;③采用双线性判别函数,设计了针 对林火问题的半监督学习算法;④证明了算法的收敛性。与支持向量机(SVM)、MHKS 和半监 督的 LapMatLSSVM 方法相比,在林火图像和视频上的实验验证了 Semi-MHKS 的具有较高的 识别率和较低的训练时间。