基于Adaboost.MK和SM-SVDD的变压器故障诊断方法

为了解决变压器故障诊断过程中单分类器诊断精确度不足的问题,引入一种基于改进AdaBoost算法和二次映射支持向量描述的变压器故障诊断方法。该方法训练若干个多分类二次映射支持向量描述分类器,得到弱分类器,采用改进AdaBoost算法将这些弱分类器进行集成构成一个强分类器,并在迭代训练过程中通过改变训练样本的权重,使集成多分类模型聚焦于一些难以分类的样本,从而提高分类精度。实际案例分析表明所提方法能够提高变压器故障诊断精度     

基于最大共识的模型组合算法

针对原有的随机森林算法没有区别各个单分类器之间的分类优势,对分类器的组合方案进行优化,提出一种基于最大共识的模型组合算法.该算法将分类器的经验误差和泛化误差融入到分类器的权重计算中,充分发挥了单分类器的个性与优势,强化分类效果好的单分类器的优势,弱化分类效果较差的单分类器的劣势.实验结果表明,基于最大共识模型组合算法能够提升组合分类器的分类性能,在提高分类精度的同时,也具有较强的泛化能力,这一改进对于提升同类型多模型组合算法的性能具有一定指导意义.     

模拟电路故障的支持向量机集成诊断新方法

为了解决支持向量机应用于多类别模拟故障诊断时泛化性能较低导致诊断精度难以提高的问题,提出了一种基于支持向量机集成的模拟电路故障诊断新方法.首先,通过将本次迭代中不可分区域的样本加入训练集来构造下一次迭代的训练集,以提高基分类器间的差异性;然后选择分类精度不低于平均分类精度的基分类器进行集成,以提高整体诊断精度.实验表明,该方法应用于线性及非线性模拟电路均取得了良好的诊断效果.     

基于多支持向量机分类器的增量学习算法研究

为了将一般增量学习算法扩展到并行计算环境中,提出一种基于多支持向量机分类器的增量学习算法.该算法根据多分类器对新增样本集的分类结果,以样本到分类超平面的平均距离为条件重新构造支持向量集更新分类器,直到所有分类器的分类精度满足指定阈值.实验结果表明了该算法的可行性和正确性.     

基于选择性集成学习的焊接缺陷识别研究

针对射线检测焊缝图像中缺陷识别正确率低的问题,提出一种选择性集成学习的焊接缺陷识别算法.算法中的个体学习器由稳定分类器和非稳定分类器组成,使用SVM-RFE算法移除集成学习器中的冗余个体学习器,保留子学习器预测输出加权作为集成学习器的输出,有效地增强了个体之间的差异性,进而提高了集成的泛化性能.结果表明：该算法充分利用更多的缺陷特征和样本数据集信息,继承了强集成学习的优点,有效地提高分类正确率.使用一对多的方法把二分类选择性集成学习器推广到多分类问题中,所提出的算法在训练精度为92.4%时;焊缝缺陷识别率提高到85.5%.     

基于GA的负相关剪切集成不平衡行为分类研究

基于传感器的人类活动识别(HAR)在健康医疗领域具有重要的研究价值及研究意义。以往的关于传感器人类活动分类识别算法的研究,并没有考虑不同类别行为数据间的不平衡性。为了解决不同行为类别数据间的不平衡性影响算法精确度的问题,此算法采用下采样方法从大类和小类数据集中随机抽取选出若干组数量上相等的两种数据的集合,将多个不平衡数据变成平衡数据。其次,多个平衡数据集上训练多个弱分类器。然后,此算法以弱分类器的负相关和预测精度为代价函数,使用遗传算法挑选出能够使代价函数值最高的弱分类器来构成集成分类器。使集成算法内的弱学习器具有较高预测精度和多样性。最后,此算法使用挑选出的弱学习器构成集成学习器对人的行为进行集成分类。此算法在已有的行为数据集上进行了仿真实验研究,实验结果证明本文提出的基于遗传的负相关剪切集成不平衡行为识别算法相对于传统算法能够有效提高不平衡行为识别的正确率。     

一种具有统计不相关性的最优边界鉴别向量集

为了解决现有维数约简算法受样本分布影响较大、不支持小样本学习等问题,在分析线性鉴别分析(LDA)中最优鉴别向量与支持向量机(SVM)中分类超平面法向量之间关系的基础上,基于统计不相关最优鉴别向量集优于正交最优鉴别向量集的事实,提出了通过对改进的SVM的二次优化问题进行递归求解来获取具有统计不相关性的最优边界鉴别向量集的算法,并使用核方法将其推广到可以解决非线性特征抽取问题.结果表明:在采用相同参数并使用k-最近邻分类器进行训练和测试的情况下,提出的算法对实际数据集Waveform,Heart,Diabetis的分类精度均高于SVM和RSVM,不会出现当抽取超过最优维数时随着抽取维数的增加分类精度反而降低的现象,体现了本算法在抽取不相关特征向量方面的有效性.     

基于随机子空间的多分类器集成

提出了一种基于随机子空间的多分类器集成算法RFSEn.首先选择一个合适的子空间大小,然后随机选择特征子集并投影,并得到子空间上的基分类器,从而通过基分类器构成集成分类器,并由集成分类器来进行文本的分类.将该算法与单一分类器和基于重抽样技术的bagging算法进行了比较,在标准数据集上进行了实验.结果表明,该方法不仅优于单一分类器的分类性能,而且一定程度上优于bagging算法.     

贝叶斯集成框架下的极化SAR图像分类

对于极化合成孔径雷达(SAR)图像,由于雷达角度和地物形状导致属于同一类的数据可能存在较大的差异性.针对此问题提出了一种基于贝叶斯集成框架的极化SAR图像分类方法.该算法采用贝叶斯集成,通过学习不同个体而获得的分类面来改善极化SAR图像分类性能.首先,输入极化SAR图像,并获得其对应的极化SAR数据及特征.从图像的每一类中任意选择像素点作为图像分类的原始训练样本,并对其进行随机划分获得不同的样本子集.然后,基于获得的样本子集构造对应极化SAR图像的贝叶斯集成框架.最后,通过构造的贝叶斯集成框架对极化SAR图像进行分类.特别在构造贝叶斯集成框架中采用支撑矢量机作为基本的分类器算法.实验结果表明,所提出的算法相比经典的极化SAR分类方法和单个SVM的极化SAR分类方法获得更好的分类性能.     

分类器动态组合及基于分类器组合的集成学习算法

针对目前基于分类器静态组合的集成学习算法难于推广的问题,根据组合分类器分类错误最小化原则,研究了组合系数随分类器输出变化而变化的分类器动态组合理论,包括组合系数的选取、组合分类器分类错误率的估计等.证明了在分类器相互独立时,一些动态组合分类器等价于Bayes统计推断.提出了基于分类器组合的通用集成学习算法,并把AdaBoost、Real AdaBoost、Gentle AdaBoost算法推广到了多分类问题.证明了按照集成学习算法得到的分类器,其动态组合的有效性可不依赖于分类器的独立性,这支撑了基于分类器相互独立假设来研究分类器组合的有用性.最后,通过UCI数据实验验证了动态组合的有效性.     

基于自扩展与最大熵的领域实体关系自动抽取

实体关系自动获取是信息抽取的难题之一。本文提出自扩展算法和最大熵机器学习算法相结合的方法,以旅游领域为研究对象进行实体关系的自动抽取。首先利用自扩展算法自动获取能体现实体对间大类关系的语义词汇,该词汇作为特征加入最大熵机器学习算法的特征集,并设定阈值实现训练语料的自动标注;然后使用最大熵机器学习算法对训练语料进行学习,构建实体关系抽取的分类器,实现实体关系的自动获取。在收集600篇旅游领域语料的基础上进行实验,4大类实体关系的抽取获得了较好的结果,其中地理位置关系和时节关系的F值分别为82.56％和81.17％。实验结果表明:在人工干预较少的情况下,加入实体对间的语义词汇能有效提高抽取效果。     

基于Scikit Learn的SVM分类器算法优化

支持向量机(SVM)在高维度数据分类中表现出优异性能,可通过核函数对原始特征进行映射,解决原始空间线性不可分问题。但由于数据特征、维度不同,所以SVM在参数调整时,一般需要手动调整,效率较低且增加工作量。针对该问题,提出了一种基于Scikit Learn的SVM分类器参数调整优化方法。使用网格搜索对最优参数范围进行搜索,利用高斯径向基核函数进行参数调整,基于Python机器学习库Scikit Learn对不同参数、不同核函数的分类结果进行可视化观察,并在网格上显示其最优参数范围,寻找准确率高的参数分布。通过自动迭代的方式对参数进行更精确求解,设定相应值代入迭代计算。同时为防止陷入过拟合,设定最优参数邻域范围直接读取最优参数值。实验结果表明,所提出的方法可大量减少人工调参时间,且可以更精确地获得SVM的最优参数。     

基于Adaboost-高斯过程分类的人脸表情识别

为了弥补Ababoost分类器分类精度不够、训练耗时的缺点,利用高斯过程分类器分类精度高、计算复杂度低的优势,提出一种改进的表情识别方法.该算法将高斯过程分类（GPC）和Adaboost的人脸表情识别算法相结合,在训练二分类Adaboost时利用高斯过程分类器训练弱分类器;把这些弱分类器组合成一个总分类器,将二分类Adaboost GPC扩展为多类分类算法.采用Gabor提取面部表情特征,由于Gabor特征提取后存在维度变高、冗余大的问题,引入二维主成分分析（2DPCA）对Gabor特征进行选择.基于Cohn-Kanade和JAFFE数据库的实验结果表明,该算法在识别正确率和速度方面的表现均较好.     

A 4-Corner Codes Classifier Based on Decision Tree Inductive Learning for Handwritten Chinese Characters

oINTRODUCTIONDiscretevectorspacewhichcanbeappliedtomanyfieldssuchaspatternrecognition,intelligentcontrolandknowledgeacquisi-tion[l~3lplayakeyroleinartificialintelli-gence.DecisiontreeInductivelearningisoneofthemosteffectivemethodswhichcanac-quireknowledgebytrainingexamplesinfiniteanddiscretevectorspace1"51.Algorithms['6]fordecisiontreeinductivelearningcanyieldarecognitionfunctionaccordingtoatrainingexamp1eset.Valuesgivenbythefunctionbe-longtoaone-dimensional,finiteanddiscretevectorspace.…     

一种改进的SVM决策树Web文本分类算法

SVM决策树能够较好地进行Web文本信息分类,在此基础上进一步结合遗传算法,将SVM决策树分类器的分类正确率作为GA适应度函数,对SVM决策树层次结构进行优化,在每一决策节点自动选择最优或近优的分类决策。实验结果表明,采用该方法进行多类分类,分类精度明显提高,体现了将遗传算法与SVM决策树结合的优越性。     

基于特征筛选和集成学习的轴承故障诊断

为了提高不同工况下的轴承故障诊断准确率,提出了一种基于特征筛选和集成学习的轴承故障诊断方法。考虑到特征向量复杂冗余的问题,结合特征有效性和最大均值差异提出了新的特征评分函数,并在此基础上进一步考虑特征关联度和特征维度,筛选出有利于变工况故障诊断的特征子集。针对单一机器学习模型故障诊断准确率不高的问题,将AdaBoost和Stacking算法相结合构造集成学习故障诊断模型。实验结果表明:筛选出的特征子集在相同分类器下拥有更高的故障诊断准确率;集成学习模型相较于单一模型有更高的故障诊断准确率和鲁棒性。     

自适应控制深度学习和知识挖掘图像分类

针对传统分类方法的局限性,提出了一种深度学习结合知识挖掘的零样本图像自适应控制图像分类算法.利用对图像属性的深度学习来实现图像深层次特征及属性的学习和预测,基于图像的属性-类别映射使分类器性能有较大差异,通过稀疏表示模型挖掘图像类别和属性之间的关系并设计自适应控制的属性分类器实现对图像的分类操作.结果表明,与DBN和SVM算法相比,在监督模式和零样本模式下,该算法具有较高的属性预测准确度.在零样本情况下对Shoes数据集进行分类时,该算法具有最高的准确分类识别率,比其他算法的分类识别率提高了15%.     

混合采样与遗传算法相结合的垃圾网页检测

垃圾网页检测存在数据不平衡、特征空间维度较高的问题,为此,提出一种基于随机混合采样和遗传算法的集成分类算法.首先,使用随机混合采样技术,通过随机抽样,减少多数类样本数量,用少数类样本合成过采样技术方法生成少数类样本,获得多个平衡的训练数据子集;然后使用改进的遗传算法对训练数据集进行降维,得到多个具有最优特征的训练数据子集;使用极端梯度算法（XGBoost）作为分类器,训练多个平衡数据子集,用简单投票法对多个分类器进行集成,得到新的分类器;最后对测试集进行预测,得到最终预测结果.实验结果表明,提出算法的分类结果与XGBoost的结果相比,准确率提高了约19.25%,且减少了建立学习模型的时间,提高了分类性能,是一种较好的分类算法.     

多标签AdaBoost算法的改进算法

针对多标签AdaBoost系列算法,以尽量减小算法的学习错误率为目的,提出了对其进行改进的两种思路。基于改进思路构造出了改进的多标签AdaBoost算法。一种思路是修改算法的样本分布调整策略,破坏现有AdaBoost算法中样本分布的均匀性,以确保增加每一个弱分类器都能降低学习错误的上界估计,从而实现对多标签AdaBoost算法的改进。另一种思路是训练弱分类器时兼顾后续待学习的弱分类器对学习错误的影响,克服现有算法在训练弱分类器时只考虑当前的弱分类器对学习错误的影响,而完全忽略后续待学习的弱分类器对学习错误的影响这一现象,从而改进多标签AdaBoost算法。理论上,对于改进多标签AdaBoost算法,增加每一个弱分类器都能进一步降低学习错误。理论分析和实验结果均表明了提出的改进算法有改进效果。