基于Adaboost.MK和SM-SVDD的变压器故障诊断方法

为了解决变压器故障诊断过程中单分类器诊断精确度不足的问题,引入一种基于改进AdaBoost算法和二次映射支持向量描述的变压器故障诊断方法。该方法训练若干个多分类二次映射支持向量描述分类器,得到弱分类器,采用改进AdaBoost算法将这些弱分类器进行集成构成一个强分类器,并在迭代训练过程中通过改变训练样本的权重,使集成多分类模型聚焦于一些难以分类的样本,从而提高分类精度。实际案例分析表明所提方法能够提高变压器故障诊断精度     

基于广义信息论的决策森林数据挖掘模型

针对模式识别中的多分类器集成,通过挖掘测试样本特征属性的相关性,结合训练集的条件独立性分析对每个样本赋予分类规则,构造分类森林(而非单个决策树)进行模型集成。整个学习过程能够自适应确定各决策树结构和数量,并充分发挥集成模型的伸缩性和扩展性。在UCI机器学习数据集上的实验结果验证了本方法的有效性。     

基于N-Gram与加权分类器集成的恶意代码检测

提出网页恶意脚本代码的监测系统,将恶意脚本用V8引擎编译成机器码,用变长N-Gram模型对其进行数据处理,提取特征形成样本训练集.分别与随机森林、逻辑回归及朴素贝叶斯等分类器组合创建分类模型.研究将多个经过训练集训练的分类模型集成,提出加权分类器集成的方式,每个分类器设定不同权值.通过实验分析,试验多种分类器组合,并通过训练集找出最优权值分配.通过比较单个分类器和其他集成方式,结果证明训练过的加权集成分类器的方式能更准确地检测网页存在恶意行为的代码,有较高的准确率.     

一种基于抽样与约简的集成学习算法

集成学习的一个重要目标是获得一组差异性大的基分类器来构建集成分类器。为实现这一目标,提出一种基于抽样与约简的集成学习算法ELSR。该算法采用多模态扰动策略来训练基分类器。首先,采用多次抽样策略从训练集中抽样产生k个抽样集;其次,使用粗糙集的属性约简技术对每个抽样集进行约简;第三,在每一个约简之后的抽样集上分别训练一个基分类器;最后,利用一个验证集对每个基分类器进行性能测试,并根据测试结果选择一组合适的基分类器来构建集成分类器。在UCI数据集上的实验表明:当采用KNN算法或者C4.5算法来训练基分类器时,ELSR的分类性能总是要优于现有的集成学习算法。     

利用旋转森林变换的异构多分类器集成算法

为了增强集成系统中各分类器之间的差异性,提出了一种使用旋转森林策略集成两种不同模型分类器的方法,即异构多分类器集成学习算法．首先采用旋转森林对原始样本集进行变换划分,获得新的样本集;然后通过特定比例选择分类精度高的支撑矢量机或分类速度较快的核匹配追踪作为基本的集成个体分类器,并对新样本集进行分类,获得其预测标记;最后结合两种模型下的预测标记．该算法通过结合两种不同分类器模型,实现了精度和速度互补,将二者混合集成后改善了集成系统泛化误差,相比单个模型集成提高了系统分类性能．对UCI数据集和遥感图像数据集的仿真实验结果表明,文中算法相比单一分类器集成缩短了运行时间,同时提高了系统的分类准确率．     

混合采样与遗传算法相结合的垃圾网页检测

垃圾网页检测存在数据不平衡、特征空间维度较高的问题,为此,提出一种基于随机混合采样和遗传算法的集成分类算法.首先,使用随机混合采样技术,通过随机抽样,减少多数类样本数量,用少数类样本合成过采样技术方法生成少数类样本,获得多个平衡的训练数据子集;然后使用改进的遗传算法对训练数据集进行降维,得到多个具有最优特征的训练数据子集;使用极端梯度算法（XGBoost）作为分类器,训练多个平衡数据子集,用简单投票法对多个分类器进行集成,得到新的分类器;最后对测试集进行预测,得到最终预测结果.实验结果表明,提出算法的分类结果与XGBoost的结果相比,准确率提高了约19.25%,且减少了建立学习模型的时间,提高了分类性能,是一种较好的分类算法.     

贝叶斯分类器的集成学习方法及其在图像标注中的应用

针对贝叶斯（Naive Bayes,NB）分类器的集成学习方法,研究如何提高分类器集成中各成员分类器之间的多样性,同时提高分类器系统准确率。实现方法是把训练集的所有属性特征划分特征子集,并处理所划分的属性特征子集,最后为每个成员分类器构造出不同的完整特征属性训练集。研究结果表明采用的NB集成方法（Ensemble of Naive Bayes,ENB）提高了分类性能,把ENB机器学习方法应用到自动图像标注中也获得了很好的效果。     

基于DESTIN-SVM的模式识别

提出了基于DESTIN-SVM模型的模式识别方法,给出了该模型的训练和识别方法。DESTIN模型一般采用神经网络作为分类器,训练时间长,使用SVM取代神经网络集成到DESTIN模型中,增强了系统的分类识别能力,并且用CUDA对算法进行加速,提高了系统的识别速度。     

时间序列早期分类的多分类器集成方法

为解决时间序列的早期分类问题,提出一种顺序子空间堆叠泛化(sequential subspace stacked generation, SSSG)的多分类器集成方法。该方法利用滑动窗口将时间序列划分成顺序子空间,采用多个一级分类器在顺序子空间上进行学习,输出各个子空间可能类别的概率,利用二级学习算法在这些概率结果上进行训练得到第二级的分类器。通过两级分类器可以判断已经出现部分特征的时间序列的类别,理论分析了影响分类性能的几个因素,仿真实验证明了本文算法的有效性。     

基于选择性集成学习的焊接缺陷识别研究

针对射线检测焊缝图像中缺陷识别正确率低的问题,提出一种选择性集成学习的焊接缺陷识别算法.算法中的个体学习器由稳定分类器和非稳定分类器组成,使用SVM-RFE算法移除集成学习器中的冗余个体学习器,保留子学习器预测输出加权作为集成学习器的输出,有效地增强了个体之间的差异性,进而提高了集成的泛化性能.结果表明：该算法充分利用更多的缺陷特征和样本数据集信息,继承了强集成学习的优点,有效地提高分类正确率.使用一对多的方法把二分类选择性集成学习器推广到多分类问题中,所提出的算法在训练精度为92.4%时;焊缝缺陷识别率提高到85.5%.     

基于特征筛选和集成学习的轴承故障诊断

为了提高不同工况下的轴承故障诊断准确率,提出了一种基于特征筛选和集成学习的轴承故障诊断方法。考虑到特征向量复杂冗余的问题,结合特征有效性和最大均值差异提出了新的特征评分函数,并在此基础上进一步考虑特征关联度和特征维度,筛选出有利于变工况故障诊断的特征子集。针对单一机器学习模型故障诊断准确率不高的问题,将AdaBoost和Stacking算法相结合构造集成学习故障诊断模型。实验结果表明:筛选出的特征子集在相同分类器下拥有更高的故障诊断准确率;集成学习模型相较于单一模型有更高的故障诊断准确率和鲁棒性。     

基于选择性集成分类器的通用隐写分析

面对高维度的特征集和大规模的样本集,隐写分析技术对分类器的要求越来越高.在集成分类器的基础上提出了一种面向通用隐写分析的选择性集成分类器.首先基于随机森林生成若干个基分类器,然后利用基于遗传算法的选择性集成算法剔除掉个别影响整体性能的基分类器,最后根据遗传优化得到的最优权值向量赋予剩余的基分类器不同权值以用来加权投票集成.实验表明,提出的选择性集成分类器测试性能优于现有分类器,特别在基分类器数量较大、特征维数较高时与现有集成分类器相比,有效降低了检测错误率.     

基于选择性极限学习机集成的磨机负荷软测量

针对传统磨机负荷检测方法存在的测量精度低、性能不稳定等缺陷,建立一种基于筒体振动信号频谱特征提取的选择性极限学习机（ELM）集成方法.采用核主元分析（KPCA）提取振动信号频谱特征,避免输入信号维数过高引发维数灾难.在非线性频谱特征空间内选用学习速度快、泛化性好的ELM建立集成模型个体,有效克服了单一ELM个体模型存在的运行结果不稳定问题.基于遗传算法（GA）的子模型后续选择方法进一步排除部分劣势个体,构建泛化能力强的简约集成模型,降低计算复杂性.实验结果表明:该方法对于矿浆浓度、料球比、充填率磨机负荷参数具有较高的精度和稳定性.     

基于多核学习的下肢肌电信号动作识别

为了提高下肢肌电控制系统中多运动模式识别的准确性,提出一种基于多核学习(MKL)和小波变换尺度间相关性特征提取的多类识别方法.根据多核学习理论,采用二叉树组合策略构造基于多核学习的多类分类器.对下肢4路表面肌电信号进行离散平稳小波变换,用小波系数尺度间的相关性提取特征向量输入构造的多类分类器,对水平行走时划分的支撑前期、支撑中期、支撑末期、摆动前期、摆动末期这5个细分运动状态进行分类.实验结果表明,所提的多模式识别方法能够以较高识别率区分多个细分运动状态,得到比标准的单核支持向量机(SVM)分类器更好的准确性.     

细胞穿膜肽识别问题的多特征融合卷积网络预测算法

细胞穿膜肽是一类特殊的多肽,具有独特的医学价值,因此如何通过计算方法高效地识别细胞穿膜肽是一个值得研究的重要问题。目前的主流方法是使用各种特征表示算法获取序列特征,然后使用机器学习分类器进行分类。提出了一种新的识别算法 ConvCPP,利用改进的卷积神经网络提取蛋白质序列特征。改进之处包括在卷积层之前添加注意力层,并且优化了池化层的池化方式。设计消融实验来验证改进的有效性,之后结合多种其他基于蛋白质序列特征的特征提取算法,并测试了两种特征选择算法,最终得到最优的向量表示。再根据得到的向量表示,结合多种机器学习分类器对蛋白质序列进行分类识别。在基准数据集上的实验表明,该算法比当前的细胞穿膜肽识别方法具有更好的预测性能。     

分类器集成在入侵检测中的应用研究

针对参与集成的基分类器的选择算法等难点问题,提出一种差异性度量方法以及基于该差异度量进行分类器选择的集成方法．考虑参与集成的基分类器分类准确性和平均差异性,改变最终分类器集合的获取算法,以提高分类器的性能．实验结果表明,此种方法优于bagging方法,能获得更好的检测性能．     

基于宽带时频图的多路摩尔斯信号自动检测

针对现有算法没有涉及的宽带环境下多路摩尔斯信号自动检测问题,提出一种基于宽带时频图和集成学习分类器的算法.首先,通过提出一种基于宽带时频图的信号快速窄带滤波方法,实现噪声背景中各类型信号窄带时频图的快速获取;然后,为从上述窄带时频图中识别出多路摩尔斯信号,提出3个新特征与局部二值模式特征构成特征向量;最后,采用集成学习算法设计分类器实现摩尔斯信号的自动检测.与现有算法对比实验结果表明:针对多组实际数据,该算法的正确率均可达95%以上,同时误检率低于10%,具有良好的鲁棒性和应用价值.     

AdaBoost算法的推广——一组集成学习算法

针对AdaBoost算法只适合于不稳定学习算法这一不足,基于增加新分类器总是希望降低集成分类器训练错误率这一思想,提出了利用样本权值来调整样本类中心的方法,使AdaBoost算法可以与一些稳定的学习算法结合成新的集成学习算法,如动态调整样本属性中心的集成学习算法、基于加权距离度量分类的集成学习算法和动态组合样本属性的集成学习算法,大大拓展了AdaBoost算法适用范围。针对AdaBoost算法的组合系数和样本权值调整策略是间接实现降低训练错误率目标,提出了直接面向目标的集成学习算法。在UCI数据上的实验与分析表明,提出的AdaBoost推广算法不仅有效,而且部分算法比AdaBoost算法效果更好。     

整数矩阵变换的选择集成及对雷达目标的识别

为了改善单个分类器对雷达目标的识别性能,分别从差异性和准确率两个因素出发,提出了一种通过变换分类器选择集成对雷达目标识别的算法.首先,为了增加集成个体差异性,将个体分类器的预测标记作为变换的原始目标,将正确标记引入来代替变换中的目标均值,以此构造一个整数矩阵.通过将个体分类器的预测标记投影到经过正确标记的直线上,从而获得一组新的预测标记.然后,根据准确率和RPFmeasure这两种衡量分类器性能的准则,选择一些性能提高了的个体进行集成,以此保证个体分类器的准确率.最后,通过结合被选择的个体预测标记来改善对雷达目标的识别性能.对于UCI机器学习资源库中数据集和雷达一维距离像的实验结果表明,该算法能有效平衡个体差异性和个体准确率两个因素,并且相比单个分类器和其他集成方法,该方法提高了对雷达目标的识别准确率.