自组织LLE算法及其在人脸识别中的应用

流形学习方法可以有效的发现存在于高维图像空间的低维子流形并进行维数约简,近年来越来越受到生物特征识别和认知科学领域的研究者的重视。针对局部线性嵌入（Local linear embedding,简称LLE）流形学习算法存在的问题,本文提出了一种自组织LLE算法(Self-Organized LLE,简称SO-LLE),该算法不仅能自动确定数据点邻域选择、减少运算量,而且能有效的发现嵌入于高维人脸图像的低维子流形。本文对SO-LLE算法进行了详细的理论分析,并应用各种数据集进行了仿真实验和分析。在公开的人脸数据库上的仿真实验结果表明,该方法能有效的提高人脸识别的性能。     

基于局部和全局结构保持的流形学习算法

流形学习方法可以将高维数据投影到低维空间,发现隐藏在数据中的内在几何结构与规律性,近年来越来越受到模式识别和认知科学领域的研究者的重视。但是基于局部的流形学习方法存在对噪声敏感和要求样本稠密等缺点。针对这些缺点,本文提出一种新的局部与全局结构保持嵌入(Local and global preserving Embedding, LGPE)算法。LGPE方法通过假定目标空间的整体映射函数,然后结合数据的全局几何结构的分布信息进行数据重构,最后通过最小化准则函数来得到嵌入于高维空间的低维子流形。LGPE方法在保持数据局部结构的同时保留全局结构信息,在信噪比为10db的稀疏Swiss-roll(N=400)和COIL-20多姿态数据集取得了较好的维数约简效果,且在ORL人脸图中相对其他局部流形学习方法,在嵌入特征矢量维数d<40时,识别率提高了约15%。实验结果表明,本文方法对噪声和稀疏数据具有较好的鲁棒性。     

基于监督学习的核拉普拉斯特征映射的FCM算法

监督学习的核拉普拉斯特征映射,通过非线性核映射将样本数据投影到高维核特征空间,将流形结构和样本类别信息进行有效的结合后,提取嵌入在高维数据中的低维流形特征用于模糊C-均值聚类中,这样可以有效解决高维数据集中新样本的泛化性,并且能有效提高聚类的效果。     

一种基于SLLE的手写体数字识别算法

流形学习是一种新的非监督学习方法,可以有效地发现高维非线性数据集的内在维数并进行维数简约。本文基于流形学习技术的研究,针对在手写字符识别中由于书写习惯和风格的不同造成字符模式不稳定的问题,提出了一种基于流形学习的手写体数字识别方法。并在原有流形学习非监督的基础上引入了监督信息,从而保证高维到低维的映射在保留流形某些结构的同时,也进一步分离了不同类别的流形。算法首先利用基于监督的局部线性嵌入（SLLE）对手写体数字图像进行字符特征的降维,然后再对降维后的特征进行分类识别。通过对MINST库中手写体数字数据库上的实验结果表明,利用SLLE降维以后的特征能够有效地区分字符,具有较好的识别率,能够发现高维空间的低维嵌入流形,识别率达到93.27％,为手写体数字识别的研究提供了一条有效的新途径。     

融合局部和全局结构的流形学习

提出了一种融合局部与全局结构的保持嵌入(LGPE)算法.该方法首先假定目标空间的整体映射函数,然后结合数据的全局几何结构分布信息进行数据重构,最后通过最小化准则函数来得到嵌入高维空间的低维子流形.LGPE方法在保持数据局部结构的同时保留了全局结构信息,在信噪比为10 dB的稀疏Swiss-roll(N=400)和COIL-20多姿态数据集上都取得了较好的维数约简效果.与其他局部流形学习方法相比,该方法在AT&T人脸图像库中,当嵌入特征矢量维数d<40时,其识别率提高了约15%.在人工与真实数据库的实验结果表明,本文方法对噪声和稀疏数据具有较好的鲁棒性.     

基于特征空间降噪的局部保持投影算法及其在轴承故障分类中的应用

实际机械振动信号不可避免受到各种各样的噪声干扰,导致机械状态诊断结果误判等问题。目前的降噪算法主要都是针对时域振动信号,所需计算时间较长、占用存储空间较大。流形学习算法处理对象是样本特征空间数据,提出一种直接对样本特征空间进行奇异值分解降噪方法,再对降噪后的特征空间利用局部保留投影算法进行维数约简,通过1NN算法对设备运行状态进行识别。轴承故障仿真试验表明,与直接对时域信号进行降噪相比,所提方法能有效保证局部保持投影算法的降维效果,同时加快计算速度及减少所占存储空间。     

基于加权判别局部多线性嵌入的人脸识别

张量算法克服了传统向量算法的维数灾难和小样本问题,在人脸识别中取得了较好的效果.尽管如此,现有张量算法容易导致邻近类别在低维空间中重叠,为此,提出了一种加权判别局部多线性嵌入算法.该算法设计了一种自适应加权的判别准则,结合类别信息,保持了同类人脸图像之间的局部流形结构,同时利用高斯基函数作为加权函数,根据人脸图像对其他类别的影响,自适应产生权重系数,加大了类间样本的区分度.此外,该算法采用张量形式表示图像数据,保留了图像的结构,继承了张量算法的优点,并且有效地解决了out-of-sample问题.人脸识别实验表明,对于光照,姿态和表情的变化,该算法具有较好的稳健性和较高的识别率.     

增量式局部切空间排列算法在滚动轴承故障诊断中的应用

针对流形学习算法的批量处理方式无法利用已学习的流形结构实现新样本的增量处理问题,提出一种增量式局部切空间排列算法。阐述局部切空间排列算法的基本原理及一次性观测样本全局坐标矩阵迭代和低维坐标提取方法。在算法增量学习上,对因新增样本加入而改变近邻点的样本进行全局坐标更新,建立新样本点的全局坐标;利用原始样本低维嵌入坐标和更新后的全局坐标矩阵对新增样本的低维嵌入坐标进行估计,并采用特征值迭代方法实现全局坐标更新。将增量式局部切空间排列算法应用于滚动轴承四种不同状态的模式识别中,提取的新增样本低维特征与特征空间聚集度分析结果表明:增量式局部切空间排列算法能够在保留一次性观测样本建立的低维流形基础上实现算法的增量式学习,同时对新增样本具有较高的识别率。     

核保局鉴别分析人脸识别算法

针对人脸图像的高维、非线性特性,本文结合核函数和鉴别保局投影分析,提出了一种新的非线性子空间特征提取方法——核保局鉴别分析(kernel locality preserving discriminant analysis,KLPDA)。该算法首先利用核函数将输入空间内线性不可分的人脸样本通过非线性映射投影到高维特征空间,以增强样本的可分性,然后在该特征空间内通过保局鉴别分析算法寻求保持样本局部近邻结构的鉴别特征。实验结果指出,在ORL和UMIST人脸图像库上KLPDA的识别结果相较于其对应的线性方法(LPDA)分别高出6.16%和3.48%,而相较于其他几种典型的核方法(KPCA、KFDA和KCLPP)的最高识别率也分别高出1.28%和2.60%,验证了本文提出方法的有效性。     

应用SLLE实现手写体数字识别

针对在手写字符识别中由于书写习惯和风格的不同而造成的字符模式不稳定问题,提出了一种基于流形学习的手写体数字识别方法.在流形学习非监督的基础上引入了监督信息,从而保证高维到低维的映射在保留流形某些结构的同时也可进一步分离不同类别的流形.算法首先利用基于监督的局部线性嵌入(SLLE)对手写体数字图像进行字符特征的降维,然后再对降维后的特征进行分类识别.对MIN库中手写体数字数据库进行了实验,实验结果表明,利用SLLE降维以后的特征能够有效地区分字符,识别率可达到93.27%;由于具有较好的识别率,能够发现高维空间的低维嵌入流形.     

一种邻域保持判别嵌入人脸识别方法

邻域保持嵌入(NPE)是一种子空间学习方法,具有保持数据流形上局部邻域结构信息的能力。为了进一步提高NPE的性能,本文提出了一种邻域保持判别嵌入(NPDE)算法,并将其用于人脸识别。在NPDE算法中引入了数据集的判别信息,在保持局部邻域结构信息的同时,具有更强的判别力。在Yale和ORL人脸数据库上的实验结果表明,本文提出的NPDE用于人脸识别具有较高的识别率。     

基于非线性流形学习的磨粒特征提取方法

针对磨粒特征参数多、非线性突出的问题,提出一种基于非线性流形学习的磨粒特征提取方法。该方法将磨粒特征重构到高维相空间中,利用局部线性嵌入算法提取出隐藏其中的低维流形,并根据数据流形的弯曲性和邻域参数的关系,实现高维相空间中局部邻域参数的自适应选取。实验结果表明,该方法有效地克服了主成分分析和核主成分分析方法的不足,提取的磨粒特征敏感性更好,从而提高了磨粒识别的精度。     

A framework of quasiconformal mapping-based kernel machine with its application to hyperspectral remote sensing

Kernel machine is a feasible and effective nonlinear feature extraction method on data analysis, for example, hyperspectral sensing data. Kernel trick improves largely the performance of learning system including recognition, clustering, prediction through the nonlinear kernel mapping from the input data space to output data space. The performance of kernel-based system is largely influenced by the function and parameter of kernel. Optimizing only the parameters is not effective to promote the kernel-based learning system, because the data distribution is not changed only changing the kernel parameter. Moreover, no any universal single kernel is very adaptive to all applications. We present a framework of quasiconformal mapping-based kernel learning machine under single kernel and multiple kernels for hyperspectral image data classification. The performance of learning system is improved largely owing to the two facts: quasiconformal kernel structure changes the data structure in the kernel empirical space; quasiconformal multikernels characterize precisely the data for improving performance on solving complex visual learning tasks. The learning framework is applied to the hyperspectral image classification, and some experiments are implemented on two hyperspectral image databases.     

多核融合多尺度特征的高光谱影像地物分类

对于高光谱影像地物分类问题,为更加有效地利用像元空间信息和光谱信息,提高地物分类精度,提出了多核融合多尺度特征的分类方法。首先,通过多尺度空间滤波和PCA白化,提取出多尺度特征;接着在核稀疏表示分类器内使用多核方式对分别表示每项特征,在分类器内实现特征自动融合,根据子核与理想核、子核之间距离求取核组合的权重,使用训练集所构成的字典在特征空间内对待测样本进行线性表示,根据每类地物的重构误差确定待测像元所属地物类别。实验结果表明:对于Indian Pines影像和Pavia University影像总体分类精度分别达到99.51%和97.96%,较传统方法明显提高,并且对于小样本地物识别精度也都能达到90%以上。本文算法对于高光谱影像地物具有更强的识别能力,并且具有较强的稳定性和鲁棒性。     

基于KPCA和Gabor小波的特征融合人脸识别

针对大多数人脸识别算法中特征提取只关注一种特征的问题,本文提出了一种基于KPCA和Gabor小波特征融合的人脸识别算法。它是一种用核主成分分析方法 (KPCA)提取人脸高阶非线性全局特征,用Gabor小波提取人脸局部特征,再分别用费谢尔线性判别(FLD)提取特征再加权级联融合的方法。实验表明,该算法不仅计算速度快,识别率高,而且能有效解决小样本空间问题。     

面向人脸表情分析的人脸图像正脸化方法

在人脸表情分析过程中,头部姿态变化常会引起人脸信息的不对称,传统上仅对人脸图像进行裁剪和对齐的相关操作难以得到对姿态鲁棒的特征。为获取人脸结构化的特征,提出了一种人脸图像正脸化处理方法。该方法将检测到的人脸关键点映射到新的二维空间进行关键点的正脸化,将正脸化后的关键点还原到原始图像中作为新关键点,通过移动最小二乘法指导图像由原始关键点向新关键点变形,得到正脸化后的人脸图像。在公共的RAF-DB和ExpW人脸表情数据集上,采用上述处理方法对人脸图像进行预处理,并在VGG16和ResNet50深度学习网络中进行人脸表情分类任务的模型训练,用分类任务的准确率来评估文中正脸化方法对人脸表情分析的有效性。实验结果表明,该方法在人脸表情分析方面优于深度学习中传统的预处理方法,并且可以有效提高人脸的信息质量。     

一种去除人脸图像中的眼镜的方法

在人脸识别中,眼镜作为人脸上常见的遮挡物对人脸图像的识别率有很大的影响。该文提出了一种去除人脸图像眼镜的方法。利用二维广义主成分分析(2DIMPCA)算法对戴眼镜的人脸进行重建,通过与输入的原始人脸图像的对比,经过二值化运算,提取出眼镜遮挡区域;通过误差迭代的方式对图像进行误差补偿,合成最终的无眼镜的人脸图像。实验结果表明,该算法可以得到比较自然的无眼镜人脸图像,优于传统的PCA方法。     

基于多尺度LBP特征的人脸描述与识别

为提高人脸识别的准确性和鲁棒性,提出了一种基于多尺度LBP特征的人脸描述与识别算法。先对原始人脸图像进行二级小波分解,并采用LBP算子分别计算两幅低频逼近图像的LBP特征谱,再将LBP特征谱划分为若干个互不重叠的特征区域,并分别进行直方图统计,最后将所有区域的LBP直方图序列连接起来得到多尺度LBP特征,将其作为人脸的鉴别特征用于分类识别。所提出算法在ORL人脸数据库上取得高达99%的人脸识别率。实验分析表明,多尺度LBP特征具有较强的人脸图像描述能力和可鉴别性,且对人脸表情及位置的变化具有较高的鲁棒性。     

基于KPCA和PSOSVM的异步电机故障诊断

针对异步电机故障振动信号具有较强的非线性特征,而传统的线性分析方法易造成振动信号非线性成分的丢失这一情况,提出一种核主元分析和粒子群支持向量机相结合的异步电机故障诊断方法。利用核函数实现输入空间到高维特征空间的非线性映射以及对映射数据的主元分析,得到原始样本的非线性主元,实现特征提取和数据压缩,将获得的核主元特征通过支持向量机进行模式识别。采用距离比值法和粒子群算法分别对核主元分析和支持向量机的参数进行双重优化选择。实验结果表明,该方法能有效提取故障信号的非线性特征,具有较强的非线性模式识别能力,相比主元分析和支持向量机方法,分类效果更好,实时性更强,可快速有效实现异步电机故障诊断。