一种新的双层多分类器组合算法

多分类器组合是解决复杂模式识别问题的有效办法。文章提出了一种新的双层多分类器组合算法,首先利用分类对象的主次特征构建了多个差异的融合方案,然后对这些融合方案进行最终的组合决策。实验结果表明,对于复杂分类问题,本文算法具有较高的正确识别率。     

结合X-means聚类的自适应随机子空间组合分类算法

针对大规模数据的分类准确率低且效率下降的问题,提出一种结合X-means聚类的自适应随机子空间组合分类算法。首先使用X-means聚类方法,保持原有数据结构的同时,把复杂的数据空间自动分解为多个样本子空间进行分治学习;而自适应随机子空间组合分类器,提升了基分类器的差异性并自动确定基分类器数量,提升了组合分类器的鲁棒性及分类准确性。该算法在人工和UCI数据集上进行了测试,并与传统单分类和组合分类算法进行了比较。实验结果表明,对于大规模数据集,该方法具有更好的分类精度和健壮性,并提升了整体算法的效率。     

一种新的基于模糊聚类的组合分类器算法

提出一种新的基于模糊聚类的组合分类器算法,该算法利用模糊聚类技术产生训练样本的分布特征,据此为每一个样本赋予一个权值,来确定它们被采样的概率,利用采样样本训练的分类器调整训练集的采样概率,依次生成新的分类器直至达到一定的精度。该组合分类器算法在UCI的多个标准数据集上进行了测试,并与Bagging和AdaBoost算法进行了比较,实验结果表明新的算法具有更好的健壮性和更高的分类精度。     

一种面向不平衡数据分类的组合剪枝方法

传统的数据分类算法多是基于平衡的数据集创建,对不平衡数据分类时性能下降,而实践表明组合选择能有效提高算法在不平衡数据集上的分类性能。为此,从组合选择的角度考虑不平衡类学习问题,提出一种新的组合剪枝方法,用于提升组合分类器在不平衡数据上的分类性能。使用Bagging建立分类器库,直接用正类(少数类)实例作为剪枝集,并通过MBM指标和剪枝集,从分类器库中选择一个最优或次优子组合分类器作为目标分类器,用于预测待分类实例。在12个UCI数据集上的实验结果表明,与EasyEnsemble、Bagging和C4.5算法相比,该方法不但能大幅提升组合分类器在正类上的召回率,而且还能提升总体准确率。     

基于稀疏表征多分类器融合的遮挡人脸识别

为了同时利用人脸局部信息, 提出一种基于稀疏表征多分类器融合的遮挡人脸识别方法。先对人脸进行多分辨率分块, 求取并根据各子块稀疏表征分类器的识别率确定其权重, 计算其后验概率估值, 最终利用加权融合准则进行多分类器融合识别。在AR和YaleA库的实验结果表明, 该算法结果比稀疏表征遮挡人脸识别的效果更好, 鲁棒性更高。     

基于Borda规则的分类器组合方法及其在手写字符识别中的应用

提出了一种基于Borda规则的分类器组合方法。该方法将分类器组合问题看成多目标多人决策问题,是一种基于类别排序的方法。在标准手写数字数据集上对该算法进行了实验研究,证实该算法的识别率较单个分类器有明显提高,具有深入研究的价值。     

一种2_a_2支持向量机多类分类新方法

提出一种2_a_2支持向量机多类分类新方法,它的优点是充分利用了每个子分类器的识别结果,将最少数量的子分类器组合在一起,实现多类分类。通过对CMU表情库4种不同表情图像的分类识别实验表明,该算法能明显提高识别速率。将该方法应用于解决更多类的分类问题时,同样体现出优越性。     

基于信息熵的RVM-AdaBoost组合分类器

针对AdaBoost算法不能有效提高RVM分类性能的问题,提出一种基于信息熵的RVM与AdaBoost组合分类器。依据RVM输出的后验概率来定义样本的信息熵,信息熵越高的样本越容易错分。提出使用自适应信息熵阈值对数据进行筛选,筛选出的数据使用基于AdaBoost算法的集成分类器进行分类,样本的分类结果由RVM与集成分类器组合给出。把未筛选出且分类错误的极少样本作为噪声对待,增强了组合分类器的稳定性,避免了随着AdaBoost算法迭代次数增加集成分类器出现退化的现象。使用UCI数据集从分类正确率、分类效率和稳定性三方面对提出的组合分类器进行验证,实验结果表明了此分类器的有效性。     

基于代价敏感集成分类器的长方法检测

长方法(Long Method)是由于一个方法太长而需要重构的软件设计的问题。为了提高传统机器学习方法对长方法的识别率,针对代码坏味数据不平衡的特性,提出代价敏感集成分类器算法。以传统决策树算法为基础,利用欠采样策略对样本进行重采样,进而生成多个平衡的子集,并将这些子集训练生成多个相同的基分类器,然后将这些基分类器组合形成一个集成分类器。最后在集成分类器中引入由认知复杂度决定的误分类代价,使得分类器向准确分类少数类倾斜。与传统机器学习算法相比,此方法对长方法检测结果的查准率和查全率均有一定提升。     

基于AdaBoost 的入侵检测技术探索与分析

阐明了入侵检测系统的监测过程,提出在入侵检测的分析方法中通过AdaBoost框架的循环迭代,在每次迭代中,由该算法产生一个带权值的分类器,迭代结束产生多个分类器,最后将这些分类器进行加权联合,得到一个具有较高识别率的分类器,进而克服采用单一分类算法产生的识别率难以满足系统要求的缺陷,从而达到系统对攻击识别率提高,误警率降低的目的,以KDD99作为实验样本数据源,仿真实验表明该方法检测预警准确率高。     

Multi-sensor recognition of electronic components

The Dempster-Shafer theory and the convex Bayesian theory have recently been proposed as alternatives to the (strict) Bayesian theory in the field of reasoning with uncertainty. These relatively new formalisms claim that missing information in the probabilistic model of a process not necessarily disables uncertainty reasoning. However, this paper shows that this does not apply to processes where the reasoning is part of a decision-making process, such as object recognition. In these cases, a complete probabilistic model is required and can be obtained by estimating missing probabilistic information. An examplary approach towards the estimation of uncertain probabilistic information is described in this paper for a multi-sensor system for recognition of electronic components on printed circuit boards. Received: 21 June 1998 / Accepted: 23 May 2000     

Research of assembling optimized classification algorithm by neural network based on Ordinary Least Squares (OLS)

A new optimized classification algorithm assembled by neural network based on Ordinary Least Squares (OLS) is established here. While recognizing complex high-dimensional data by neural network, the design of network is a challenge. Besides, single network model can hardly get satisfying recognition accuracy. Firstly, feature dimension reduction is carried on so that the design of network is more convenient. Take Elman neural network algorithm based on PCA as sub-classifier I. The recognition precision of this classifier is relatively high, but the convergence rate is not satisfying. Take RBF neural network algorithm based on factor analysis as sub-classifier II. The convergence rate of the classifier algorithm is fast, but the recognition precision is relatively low. In order to make up for the deficiency, by carrying on ensemble learning of the two sub-classifiers and determining optimal weights of each sub-classifier by OLS principle, assembled optimized classification algorithm is obtained, so to some extent, information loss caused by dimensionality reduction in data is made up. In the end, validation of the model can be tested by case analysis.     

规则半自动学习的概率软逻辑推理模型

概率软逻辑（PSL）作为一种基于声明式规则的概率模型,具有极强的扩展性和多领域适应性,目前为止,它需要人为给出大量的常识和领域知识作为规则确立的先决条件,这些知识的获取往往非常昂贵并且其中包含的不正确的信息可能会影响推理的正确性。为了缓解这种困境,将C5.0算法和概率软逻辑相结合,让数据和知识共同驱动推理模型,提出了一种规则半自动学习方法。该方法利用C5.0算法提取规则,再辅以人工规则和优化调节后的规则作为改进的概率软逻辑输入。实验结果表明,在学生成绩预测问题上所提方法比C5.0算法和没有规则学习的概率软逻辑具有更高的精度;和纯手工定义规则的方法相比,所提方法能大幅降低人工成本;和贝叶斯网络（BN）、支持向量机（SVM）等算法相比,该方法也表现出不错的效果。     

基于小波倒谱系数和概率神经网络的取证说话人识别模型

取证说话人识别是一种利用犯罪现场留下的质疑语音来识别犯罪分子身份的技术。为了提高识别模型的抗噪能力,本论文提出了基于小波倒谱系数（WCC）和概率神经网络（PNN）的取证说话人识别模型。该模型包含WCC特征提取和PNN分类两个步骤。WCC对噪音不敏感,所以使得我们的模型有抗噪能力。PNN是一种高效的分类算法,从而提高了模型识别性能。实验表明,该模型以提高时间消耗为代价提高了识别率和抗噪能力。     

基于概率推理的Ad-hoc网络路径选择算法

针对Ad-hoc网络在路径选择上主要选择最短路径所出现的问题，从复杂适应系统理论的角度出发，将基于概率推理的路径选择算法加入到AODV(Ad hoc on-demand distance-vector)路由协议中，通过对节点的适应度进行概率推理来选择路径，有效地解决了Ad-hoc网络的拥塞和负载分配问题，改善了网络性能。采用面向对象的建模技术在OMNET++软件平台上进行仿真，结果证明该方法降低了延迟时间，提高了网络QoS，为Ad-hoc网络路由协议的发展提供了一个新思路。     

自然语言中时间信息的模型化

在自然语言理解中，时间一个重要的语境因素，本文提出一种独立于句子表层形式的多层次时间语义结构，浅层语义结构是时间描述的最化语义表示，深层语义结构描述事件的动态属性和存在特征，该时间语义模型表示时刻和时段，将时间基点明确区分为物理时间基点和说话者时间基点，并提供通用的时间语义计算方法，将各语言的时间描述映射到时间轴上，在该模型基础上，从语义观点出发，建立时，体的可计算模型及各事件时间相关性计算模型。     

改进的关联模式竞争求解算法

在利用概率因果网络模型进行故障诊断过程中,传统的计算方法不能直接得到诊断问题的解,且当故障节点较多或网络层次较多时,存在着“组合爆炸”、计算量呈指数速度增加等问题。本文提出了以因果网络理论为基础的关联模式竞争求解算法,并对该算法进行了改进。改进后的算法解决了多层次、多节点的复杂因果网络模型推理难题,降低了诊断复杂度。最后通过一个实例验证了此方法的优越性及工程实用性。     

改进的多类支持向量机递归特征消除在癌症多分类中的应用

为处理癌症多分类问题,已经提出了多类支持向量机递归特征消除(MSVM-RFE)方法,但该方法考虑的是所有子分类器的权重融合,忽略了各子分类器自身挑选特征的能力。为提高多分类问题的识别率,提出了一种改进的多类支持向量机递归特征消除(MMSVM-RFE)方法。所提方法利用一对多策略把多类问题化解为多个两类问题,每个两类问题均采用支持向量机递归特征消除来逐渐剔除掉冗余特征,得到一个特征子集;然后将得到的多个特征子集合并得到最终的特征子集;最后用SVM分类器对获得的特征子集进行建模。在3个基因数据集上的实验结果表明,改进的算法整体识别率提高了大约2%,单个类别的精度有大幅度提升甚至100%。与随机森林、k近邻分类器以及主成分分析(PCA)降维方法的比较均验证了所提算法的优势。     

High performance iris recognition based on 1-D circular feature extraction and PSO–PNN classifier

In this paper, a novel iris feature extraction technique with intelligent classifier is proposed for high performance iris recognition. We use one dimensional circular profile to represent iris features. The reduced and significant features afterward are extracted by Sobel operator and 1-D wavelet transform. So as to improve the accuracy, this paper combines probabilistic neural network (PNN) and particle swarm optimization (PSO) for an optimized PNN classifier model. A comparative experiment of existing methods for iris recognition is evaluated on CASIA iris image databases. The experimental results reveal the proposed algorithm provides superior performance in iris recognition.     

OCSVM集成模型解决支持向量机的大规模训练问题

该文针对集成方法实现支持向量机大规模训练的相关问题进行了深入研究,提出了一种称为"DD-Boosting"的成员分类器产生算法,能够在大规模数据集情况下利用类似Boosting技术产生稳定、高泛化性能的成员分类器。在此基础上,推导出基于OCSVM的分类器集成模型,实验仿真表明,该集成模型能够获得比主投票方法更好的泛化性能,且通过调整正则参数避免了训练过拟合问题。