局部二次加权与多特征融合的行人检测算法

针对复杂背景下采用单一特征进行行人检测时的局限性,提出了一种融合多种特征并运用模板弹性模型与局部二次加权的算法,将梯度直方图（HOG）、肤色、发色与曲率有效融合,建立了适用行人检测的各特征模型。第一级采用改进HOG特征结合模板弹性模型利用SVM分类器初次检测;第二级提取局部模板感兴趣区域（ROI）进行头部肤色、发色与腿部曲率检测。实验表明,该算法弥补了单一特征的不足,有效检测了行人整体与局部关键特征,提高了识别性能。     

基于多种LBP特征集成学习的人脸识别*

单一的特征与分类器只能对限定条件下的人脸进行较好的识别,当在非限定条件下(如光照、背景等发生变化时)将出现人脸识别率较低问题,针对该问题,提出了一种基于多种局部二进制特征集成学习的人脸识别算法。首先,使用监督梯度下降法 (SDM)对人脸特征点定位,应用中心对称局部二进制(CSLBP)算子提取每个特征点邻域特征,将所有人脸特征点邻域特征合成为精细的纹理特征;同时运用分区LBP直方图算法提取人脸区域的微观空间结构特征;然后,使用K最近邻算法(KNN)和支持向量机(SVM)分别训练这两种特征,得到类别排序列表和投票决策矩阵;最后,利用加权求和的规则融合决策矩阵,构成最优集成分类器,从而得到输出类别。通过在非限制性人脸库LFW上实验结果表明,所提算法采用集成的方法明显优于单一的特征和分类器。     

基于多特征与改进霍夫森林的行人检测方法

针对自然背景下的行人检测问题,提出一种多特征与霍夫森林结合的行人检测算法。在特征提取阶段,分别采用梯度方向直方图、局部二值模式和LAB颜色空间来提取行人的梯度、纹理和颜色频率特征,构成丰富的特征集来描述行人;采用霍夫森林算法来创建分类器,对其投票方式进行改进,提出一种基于高斯模板的区域加权投票方式,提高了检测精度。实验结果表明,该算法在误检率FPPW为10-4时,检测率为90.12％, ROC曲线性能上优于 HOG＋SVM 与原霍夫森林算法。     

视觉注意原理局部特征的行人检测

在复杂背景下检测行人,具有重要的理论和应用价值。为了适应此类场景中光照的变化和行人姿态的多样性,依据人眼视觉注意原理,提出基于视觉注意的局部特征。该特征具有光照和旋转不变性,并能用于多尺度分析。采用基于特征块的行人表示模型,行人被表示为特征块的集合。每一个特征块用基于视觉注意局部特征的统计直方图和位置关系表示。用聚类的方法得到基于特征块的行人模型。依据每一个特征块在检测窗口中的最大响应训练AdBoost检测分类器,并用困难负样本和可信样本提高检测分类器的性能。用滑动窗口方法在图像和尺度空间中找到检测分类器的局部最大响应,以确定行人位置。实验结果表明,与现有方法相比,本文方法对竖直边缘不敏感,可以处理一定程度的遮挡以及姿态变化。     

局部方向梯度幅值与相位差分的人脸识别算法

针对传统人脸识别算法在单训练样本下效果不佳,提出一种局部方向梯度幅值和相位差分相结合的方法（LDGMPD）,首先提取图像的梯度幅值与相位,梯度幅值图像与8个Kirsch模板卷积得到每个子邻域的8个边缘梯度值;然后对相位进行局部差分。局部方向梯度幅值与相位差分仅使用边缘梯度值与相位局部差分值中最大值的方向编码成一个二位八进制数,产生LDGMPD值。再选取结构对比信息对各LDGMPD人脸分块进行加权处理,提取人脸的LDGMPD直方图特征,最后利用最近邻分类器分类识别。在AR和CAS-PEAL-R1共享库上进行实验表明LDGMPD在单样本人脸识别具有较好的效果。     

基于多种LBP特征集成学习的车标识别

针对车标图像的分类难问题，提出基于多种LBP特征集成学习的车标识别算法。利用车牌与车标的相对位置关系粗定位车标区域；根据车标背景纹理特征使用不同的算子进行边缘检测，进而实现背景消融，采用投影方法精确确定车标位置；将车标图像分块，应用CSLBP算子提取每个像素点邻域特征，将车标所有像素点邻域特征合成精细的纹理特征，运用LBP直方图算法提取车标区域的空间结构特征，再采用SVM和BP分别训练这两种特征，得到投票决策矩阵，利用加权求和的规则融合决策矩阵，构成最优集成分类器，输出车标类别。实验结果表明，该算法的识别率明显优于单一的特征和分类器。     

复杂环境下的遗留物检测算法

针对在复杂环境下检测遗留物体的问题,提出一种有效的算法。首先,采用局部更新的混合高斯模型与改进的三帧差分法分别得到前景,通过比较得到目标候选区域,并进一步采用阴影消除与连通域分析分割得到暂时静止物团块。其次对达到静止时间阈值的团块采用方向梯度直方图(HOG)行人检测,在排除驻留行人的可能后将其标记为遗留物。最后对检测出的遗留物进行加速分割检测特征(FAST)局部特征匹配,以克服行人遮挡、光线变化对结果的影响。实验结果表明,本算法具有较高的准确性和处理速度,能较好地克服复杂环境中存在的干扰影响。     

基于随机森林的层次行人检测算法

针对视频和图像中快速、准确的行人检测问题,提出了一种分层次的、全局信息和局部信息相结合的行人检测算法.该方法以随机森林分类器为基础,利用图像金字塔模型融合行人的多层信息.首先,在低尺度空间利用主方向模板(DOT)特征和随机森林算法训练行人的全局分类器,第一层检测在低尺度空间中进行,找到行人的候选区域;然后,在高尺度空间提取图像块集合,基于部件随机森林训练行人的局部外观和几何约束模型;最后,基于上层的候选区域,在高尺度空间利用霍夫投票进行第二层精确检测.实验结果表明,该方法有更低的时间复杂度,并提升了行人检测的准确率,全局信息和局部信息的层次融合,能有效解决快速、准确的行人检测问题.     

联合部件特征与增强SVM的行人检测算法

为解决遮挡、姿态变化等局部变化引起的行人检测性能下降问题,提出一种融合全局和局部特征的行人检测方法。首先,将人体分为全局和局部6个部件;然后,改进Haar-like特征描述子,用于快速提取人体局部部件特征,再融合全局部件的方向梯度直方图特征,构建人体的联合部件特征。最后,结合增强学习思路改进支持向量机学习方法,对联合部件特征进行训练和分类。实验结果表明,该方法正确率高,虚警率低,受遮挡、姿态变化影响小。     

融合显著性因子的行人纹理提取

针对基于纹理信息的行人特征提取算法中存在特征信息冗余度大,无法刻画人眼视觉敏感性的不足,提出一种融合人类视觉感知特性的基于显著性局部二值模式(SF-LBP)的行人纹理特征提取算法.该算法首先采用显著性计算方法提取感兴趣区域得到各部分的显著性因子;然后将显著性因子权值与行人纹理特征根据核函数相融合,生成基于SF-LBP算子的特征向量;接着统计不同区域的特征向量,形成特征直方图;最后结合自适应AdaBoost分类器构建实验平台进行实验.INRIA数据集中的实验结果显示,SF-LBP特征在检测准确率上比梯度直方图(HOG)特征、Haar特征高出2%~3%,达到97%,召回率达到90%,提高了2%左右,表明SF-LBP算子能够准确描述行人的纹理特征,提高行人检测系统的准确率.     

基于半监督回归的选择性集成算法

为了提高小数据量的有标记样本问题中学习器的性能,结合半监督学习和选择性集成学习,提出了基于半监督回归的选择性集成算法SSRES。算法基于半监督学习的基本思想,同时使用有标记样本和未标记样本训练学习器从而减少对有标记样本的需求,使用选择性集成算法GRES对不同学习器进行适当的选择,并将选择的结果结合提高学习器的泛化能力。实验结果表明,在小数据量的有标记样本问题中,该算法能够有效地提高学习器的性能。     

基于遗传算法的集成神经网络入侵检测系统

介绍集成神经网络的基本概念及其算法理论,提出基于遗传算法的集成神经网络入侵检测方法,并以KDDCUP99作为数据源给出应用该方法进行入侵检测的性能.通过与单个神经网络的比较,说明基于遗传算法的集成神经网络检测方法能克服单个分类算法的缺陷,提高入侵检测系统的检测率.     

基于Lorenz-96模型的顺序数据同化方法比较研究

顺序数据同化方法在数据同化系统中得到了广泛的应用,其性能各有优缺。选择3种典型的顺序数据同化算法,即集合Kalman滤波,集合转换Kalman滤波和确定性Kalman滤波,使用经典的Lorenz-96模型进行敏感性实验,研究不同的关键参数变化,如集合数目变化、观测数变化、误差放大因子变化和定位半径变化时对同化效果的影响。实验表明：集合数目和观测数目的多少直接影响3种方法的同化效果;协方差放大因子和定位半径的选择会提高同化精度。综合比较,确定性集合Kalman滤波算法是一种具有较强鲁棒性的滤波算法,能够在集合数较小的情况下达到较好的同化效果。     

抽样技术和CBES分类非平衡数据集

CBES是面向非平衡数据集分类的组合选择方法。相关的实验表明,CBES方法能大幅度提升基分类器的泛化能力。已有研究表明,抽样方法能有效提高分类器在非平衡数据集分类上的性能。因此,巧妙地将抽样技术应用到CBES方法中,进而提出基于抽样的CBES方法(SCBES),以期进一步提高CBES在稀有类上的性能。大量的实验表明,巧妙地使用抽样方法能进一步提高CBES方法在非平衡数据集分类上的性能。     

基于正则化互信息和差异度的集成特征选择

如何构造差异性大的基分类器是集成学习研究的重点,为此提出迭代循环选择法:以最大化正则互信息为准则提取最优特征子集,进而基于此训练得到基分类器;同时以错分样本个数作为差异性度量准则来评价所得基分类器的性能,若满足条件则停止,反之则循环迭代直至结束.最后用加权投票法融合所选基分类器的识别结果.通过仿真实验验证算法的有效性,以支持向量机为分类器,在公共数据集UCI上进行实验,并与单SVM及经典的Bagging集成算法和特征Bagging集成算法进行对比.实验结果显示,该方法可获得较高的分类精度.     

Exploring the diversity in cluster ensemble generation: Random sampling and random projection

Cluster ensemble first generates a large library of different clustering solutions and then combines them into a more accurate consensus clustering. It is commonly accepted that for cluster ensemble to work well the member partitions should be different from each other, and meanwhile the quality of each partition should remain at an acceptable level. Many different strategies have been used to generate different base partitions for cluster ensemble. Similar to ensemble classification, many studies have been focusing on generating different partitions of the original dataset, i.e., clustering on different subsets (e.g., obtained using random sampling) or clustering in different feature spaces (e.g., obtained using random projection). However, little attention has been paid to the diversity and quality of the partitions generated using these two approaches. In this paper, we propose a novel cluster generation method based on random sampling, which uses the nearest neighbor method to fill the category information of the missing samples (abbreviated as RS-NN). We evaluate its performance in comparison with k-means ensemble, a typical random projection method (Random Feature Subset, abbreviated as FS), and another random sampling method (Random Sampling based on Nearest Centroid, abbreviated as RS-NC). Experimental results indicate that the FS method always generates more diverse partitions while RS-NC method generates high-quality partitions. Our proposed method, RS-NN, generates base partitions with a good balance between the quality and the diversity and achieves significant improvement over alternative methods. Furthermore, to introduce more diversity, we propose a dual random sampling method which combines RS-NN and FS methods. The proposed method can achieve higher diversity with good quality on most datasets.     

基于集成神经网络入侵检测系统的研究与实现

为解决传统入侵检测模型所存在的检测效率低,对未知的入侵行为检测困难等问题,对集成学习进行了研究与探讨,提出一种采用遗传算法的集成神经网络入侵检测模型,阐述了模型的工作原理和各模块的主要功能.模型通过遗传算法寻找那些经过训练后差异较大的神经网络进行集成.实验表明,集成神经网络与检测率最好的单个神经网络相比检测率有所提高.同时,该模型采用机器学习方法,可使系统能动态地适应环境,不仅对已知的入侵具有较好的识别能力,而且能识别未知的入侵行为,从而实现入侵检测的智能化.     

Exploration of classification confidence in ensemble learning

Ensemble learning has attracted considerable attention owing to its good generalization performance. The main issues in constructing a powerful ensemble include training a set of diverse and accurate base classifiers, and effectively combining them. Ensemble margin, computed as the difference of the vote numbers received by the correct class and the another class received with the most votes, is widely used to explain the success of ensemble learning. This definition of the ensemble margin does not consider the classification confidence of base classifiers. In this work, we explore the influence of the classification confidence of the base classifiers in ensemble learning and obtain some interesting conclusions. First, we extend the definition of ensemble margin based on the classification confidence of the base classifiers. Then, an optimization objective is designed to compute the weights of the base classifiers by minimizing the margin induced classification loss. Several strategies are tried to utilize the classification confidences and the weights. It is observed that weighted voting based on classification confidence is better than simple voting if all the base classifiers are used. In addition, ensemble pruning can further improve the performance of a weighted voting ensemble. We also compare the proposed fusion technique with some classical algorithms. The experimental results also show the effectiveness of weighted voting with classification confidence.     

神经网络集成的设计与应用

传统的神经网络一般采用个体网络,其应用效果很大程度上取决于使用者的经验,且网络的泛化能力不强.一种改进的神经网络集成方法,为传统神经网络存在的问题提供了一个简易的解决方案.由理论分析和实验结果可以得出结论,神经网络集成方法比传统的个体网络方法的效果更好.     

Malware detection by pruning of parallel ensembles using harmony search

Detection of malware using data mining techniques has been explored extensively. Techniques used for detecting malware based on structural features rely on being able to identify anomalies in the structure of executable files. The structural attributes of an executable that can be extracted include byte ngrams, Portable Executable (PE) features, API call sequences and Strings. After a thorough analysis we have extracted various features from executable files and applied it on an ensemble of classifiers to efficiently detect malware. Ensemble methods combine several individual pattern classifiers in order to achieve better classification. The challenge is to choose the minimal number of classifiers that achieve the best performance. An ensemble that contains too many members might incur large storage requirements and even reduce the classification performance. Hence the goal of ensemble pruning is to identify a subset of ensemble members that performs at least as good as the original ensemble and discard any other members.