基于支持向量机的无穷维AdaBoost算法在人脸检测中的应用

用支持向量机建立新的核函数,使得该函数集集成无穷多个AdaBoost算法的弱分类器,最终形成强分类器。应用该强分类器进行人脸检测。实验结果表明,该方法的人脸检测率优于有限维AdaBoost算法,提高了检测精度。     

基于Adaboost.MK和SM-SVDD的变压器故障诊断方法

为了解决变压器故障诊断过程中单分类器诊断精确度不足的问题,引入一种基于改进AdaBoost算法和二次映射支持向量描述的变压器故障诊断方法。该方法训练若干个多分类二次映射支持向量描述分类器,得到弱分类器,采用改进AdaBoost算法将这些弱分类器进行集成构成一个强分类器,并在迭代训练过程中通过改变训练样本的权重,使集成多分类模型聚焦于一些难以分类的样本,从而提高分类精度。实际案例分析表明所提方法能够提高变压器故障诊断精度     

面向目标的带先验概率的AdaBoost算法

针对集成学习算法研究中多个分类器的最佳组合问题,改进了传统的AdaBoost集成学习算法.用于组合的各个分类器通常是基于样本集通过一定的训练得到,样本集中不同类目标的比率可以反映分类目标的先验概率.使用该参数给出了新的组合参数和投票表决阈值计算公式,巧妙的利用样本权值并将其加入到样本属性上进行训练学习,采用新的策略来选择基分类器,给出了面向目标的带先验概率的AdaBoost算法(GWPP AdaBoost算法)和分类器的最佳组合.依据UCI实验数据对传统的AdaBoost算法、Bagging算法、GWPP AdaBoost算法的错误率和性能进行了比较分析,验证了GWPP AdaBoost的有效性.     

基于SVM的4类运动想象的脑电信号分类方法

针对传统支持向量机分类方法在脑电信号处理中存在分类正确率低的问题,将聚类思想与二叉树支持向量机结合构造多类SVM分类器.实验以“BCI Competition 2005”中的DatasetⅢa为例,先对采集的4类运动想象脑电信号应用小波变换进行去噪;再在分析小波包频带划分特点的基础上,利用小波包进行分解与重构,获取相应的能量特征;最后应用改进后的支持向量机(SVM)分类方法对特征信号进行分类.结果表明该方法分类正确率较高,可以达到91.12％,并且有效的减少了分类器的个数,最终达到较好的识别效果.     

关于Real AdaBoost算法的分析与改进

采用一种新的技术,对Real AdaBoost算法的有效性、误差估计、算法流程和弱分类器训练进行了分析和证明。证明了可用加权组合弱分类器对Real AdaBoost算法进行改进,并得到了近似最佳组合系数;指出Real AdaBoost算法的样本权值调整和弱分类器训练方法的真实目的是确保弱分类器的独立性;基于Bayes统计推断对Real AdaBoost算法进行了多分类推广,得到了算法公式和误差估计,给出了便于使用的弱分类器训练简化方法。得到了Gentle AdaBoost算法的误差估计公式。UCI数据实验验证了所提算法和改进算法的效果。     

基于改进的AdaBoost和支持向量机的行人检测

针对AdaBoost算法在训练样本和特征较多时训练时间过长的问题,提出了一种改进的AdaBoot算法与支持向量机组合的分类器.对多重分类器的输出结果以非线性的方式组合,采用交替的方式轮流对不同的特征进行学习,将多重分类器处理完后的结果作为另一种输入样本,再以一个分类器做一次分类.实验表明该算法用于行人检测可行、性能稳定.     

一种用于不平衡数据的分类算法

为提高不平衡数据集中少数类的分类性能,本研究提出一种改进的AdaBoost算法(UnAdaBoost算法)来解决数据不平衡问题。该方法首先改进基分类器,使其在损失一定程度的多数类分类性能的情况下提高少数类的分类性能,而多数类分类性能的损失可通过后面的多个分类器集成弥补回来,这样既提高了少数类的分类性能又不会损失多数类的分类精度。本研究把改进的朴素贝叶斯方法作为基分类器,用改进投票权值的AdaBoost算法对基分类器进行融合。实验结果表明,与传统的Adaboost算法相比,该方法可以有效地提高不平衡数据的分类性能。     

基于标签相关性的多标签分类AdaBoost算法

在多标签分类问题中,标签之间往往是相关的,为了提高分类性能,利用标签之间的相关性,提出AdaBoost.MLR算法和标签相关性分析方法。AdaBoost.MLR算法采用余弦相似度来计算标签相关性矩阵,利用标签相关性矩阵对原始标签矩阵进行补全转换为模糊标签矩阵,将标签空间划分为标签集、标签相关集和标签无关集,结合标签之间的相关性和弱分类器的分类情况,对样本权重进行调整。AdaBoost.MLR算法也能解决多类别分类问题,在其标签相关性的计算中,根据已经训练的弱分类器得到的临时强分类器的分类结果,构造标签相似性矩阵。实验结果表明,文中提出的算法在实验数据集上优于现有的算法,尤其在标签相关性复杂的数据集上分类性能有显著提升。     

基于AdaBoost的人脸检测算法

针对人脸检测的特点,深入分析了基于Haar-Like小波特征和AdaBoost算法构造强分类器的人脸检测算法,并将此算法应用于ORL人脸库.在Visual C++6.0平台下,首先利用AdaBoost算法训练得到用于人脸检测的强分类器H(x),然后利用该分类器进行人脸检测.实验表明,提出的算法在保证检测精度的同时,极大的提高了人脸检测速度,且受光照变化影响小.     

运用核Fisher鉴别分析和MPM分类器的入侵检测

为了提高分类器的正确率和减少训练时间,将特征提取技术与分类算法结合,提出了一种基于核Fisher鉴别分析和最小极大概率机算法的入侵检测算法。利用核Fisher鉴别分析技术提取关键特征,运用最小极大概率机对提取特征后的数据进行分类,采用离线数据集KDDCUP99进行实验。实验结果表明,该算法是可行和有效的,使分类性能和训练时间都得到了提高。     

一种树形结构的实时道路车辆识别方法

针对实时道路车辆识别是车辆计算机辅助驾驶、自主导航以及主动安全的关键技术,给出了一种基于树形结构的车辆识别方法。该方法采用Haar—like特征来表达车辆特征,选择GentleAda Boost算法训练出强分类器,最后将多个强分类器组合成树形结构。通过建立样本库,对车辆识别分类器进行了训练,并对分类器的性能进行了实验。结果表明：对750个目标车辆进行识别,识别率为74．4％,识别时间为34．4ms。说明树形结构的车辆识别方法具有较好的实时性和一定的鲁棒性。     

多标签AdaBoost算法的改进算法

针对多标签AdaBoost系列算法,以尽量减小算法的学习错误率为目的,提出了对其进行改进的两种思路。基于改进思路构造出了改进的多标签AdaBoost算法。一种思路是修改算法的样本分布调整策略,破坏现有AdaBoost算法中样本分布的均匀性,以确保增加每一个弱分类器都能降低学习错误的上界估计,从而实现对多标签AdaBoost算法的改进。另一种思路是训练弱分类器时兼顾后续待学习的弱分类器对学习错误的影响,克服现有算法在训练弱分类器时只考虑当前的弱分类器对学习错误的影响,而完全忽略后续待学习的弱分类器对学习错误的影响这一现象,从而改进多标签AdaBoost算法。理论上,对于改进多标签AdaBoost算法,增加每一个弱分类器都能进一步降低学习错误。理论分析和实验结果均表明了提出的改进算法有改进效果。     

分类器动态组合及基于分类器组合的集成学习算法

针对目前基于分类器静态组合的集成学习算法难于推广的问题,根据组合分类器分类错误最小化原则,研究了组合系数随分类器输出变化而变化的分类器动态组合理论,包括组合系数的选取、组合分类器分类错误率的估计等.证明了在分类器相互独立时,一些动态组合分类器等价于Bayes统计推断.提出了基于分类器组合的通用集成学习算法,并把AdaBoost、Real AdaBoost、Gentle AdaBoost算法推广到了多分类问题.证明了按照集成学习算法得到的分类器,其动态组合的有效性可不依赖于分类器的独立性,这支撑了基于分类器相互独立假设来研究分类器组合的有用性.最后,通过UCI数据实验验证了动态组合的有效性.     

基于ADASYN与AdaBoostSVM相结合的不平衡分类算法

对于平衡数据集支持向量机(support vector machine,SVM)通常具有很好的分类性能和泛化能力,然而对于不平衡数据集,SVM只能得到次优结果,针对该问题提出了一种基于SVM的AS-Ada Boost SVM分类算法.首先,通过使用ADASYN采样,提高少类样本在边界区域的密度;然后,使用基于径向基核支持向量机(radial basis function kernel mapping support vector machine,RBFSVM)模型弱分类器的Ada Boost SVM算法训练得到决策分类器.通过将该算法在各种不平衡数据集上的测试结果与单纯运用ADASYN技术、Ada Boost SVM、SMOTEBoost等其他分类器进行比较,验证了该算法的有效性和鲁棒性.     

AdaBoost算法的推广——一组集成学习算法

针对AdaBoost算法只适合于不稳定学习算法这一不足,基于增加新分类器总是希望降低集成分类器训练错误率这一思想,提出了利用样本权值来调整样本类中心的方法,使AdaBoost算法可以与一些稳定的学习算法结合成新的集成学习算法,如动态调整样本属性中心的集成学习算法、基于加权距离度量分类的集成学习算法和动态组合样本属性的集成学习算法,大大拓展了AdaBoost算法适用范围。针对AdaBoost算法的组合系数和样本权值调整策略是间接实现降低训练错误率目标,提出了直接面向目标的集成学习算法。在UCI数据上的实验与分析表明,提出的AdaBoost推广算法不仅有效,而且部分算法比AdaBoost算法效果更好。     

多源性数据SVM集成算法研究

针对数据特征的多源性特点,提出基于分组特征支持向量机集成算法．该方法将特征分组,对不同组特征采用不同的核函数映射到高维空间后用支持向量机分类,最后采用投票的方法得出决策标记,所得到的成员分类器具有较高的差异性．与传统的集成方法相比,该方法具有较好的检测性能．     

基于Co-training方法的车辆鲁棒检测算法

针对复杂交通场景车辆检测算法自适应能力差的问题,提出了基于Co-training半监督学习方法的车辆鲁棒检测算法.首先,针对手工标记的少量样本,分别训练基于Haar-like特征的AdaBoost分类器和基于HOG(histograms of oriented gradients)特征的SVM(support vector machines)分类器,使其具有一定的识别能力;然后,基于Co-training半监督学习框架,将利用2种算法进行分类得到的新样本分别加入到对方的样本库中,增加训练样本数量,再次进行分类器的训练.由于这2类特征具有冗余性,各自检测出的正负样本包含对方漏检和误检的图像.由于样本数的增加,再次训练所得到的新分类器的鲁棒性得到了很大提高,能更加准确地检测出车辆,而且由算法对未标记样本进行分类标记,不再需要人为标记,提高了车辆检测算法的自适应能力.     

一种对决策树优化的方法AdaBoost及其改进

AdaBoost算法是近些年国外学者提出的一种对决策树这样的分类器提升和优化的方法.本文对AdaBoost算法进行了介绍、分析和局部改进.