具有局部结构保留性质的PCA改进算法

保局投影(LPP)是一种局部结构保留算法,它使得每个数据点和它的近邻点在投影空间中尽可能地保持相近.结合LPP的几何思想,本文提出一种具有局部结构保留特性的PCA改进算法——保局PCA(LP-PCA).该算法通过构造数据集的邻接图及其补图,对近邻点和非近邻点采取不同的处理方式.在获得数据集全局结构的同时,可有效保留数据集的局部结构.在模拟数据集和现实数据集上进行实验,实验结果验证该算法的有效性.     

基于流形学习的局部保持PCA算法在故障检测中的应用

提出一种新的基于流形学习的数据降维及特征提取方法:局部保持 PCA 算法(LPPCA).通过在 PCA 的优化目标中融入流形学习的思想,不仅使投影得到的低维空间和原始样本空间具有相似的全局结构,并且保持了相似的局部近邻结构,克服了传统 PCA 方法只关注全局结构特征而忽略局部流形特征的缺陷,同时给出了 LPPCA 在故障检测中的应用方法. S-Curve 和 Swiss-roll 曲面数值仿真和 TE 过程仿真验证了算法的有效性和优越性.     

改进的局部保持投影算法的多模型软测量

针对化工生产过程中软测量模型估计精度的问题,提出一种基于改进的局部保持投影算法的多模型建模方法。该方法通过有监督自适应权值的局部保持投影算法对输入数据空间进行特征提取,并结合最近邻分类器算法进行输入空间的划分,最后融合支持向量机实现多模型建模。仿真应用结果表明:将改进的局部保持投影算法应用在UCI数据库的Iris数据集的分类中,其分类精度高于基本的局部保持投影算法的分类精度;同时将改进的局部保持投影算法的多模型建模方法应用于双酚A生产的软测量多模型建模中,该方法能够有效的进行输入空间地划分,构建回归模型的数据更加合理,使得模型估计精度得到了提高,并具有更强的泛化能力。     

基于局部保持投影和主元分析的语音情感识别

为了提高情感识别的准确性,该文以语音信号为研究对象,提出了一种新型的语音情感识别方法.将局部保持投影算法（LPP）的思想融入到主元分析（PCA）的目标函数中,使得在原始变量空间投影到低维空间的过程中,不仅实现了整体方差的最大化,而且保持了局部近邻结构不变,有利于全局和局部特征的全面提取,克服了传统PCA方法只关注全局结构特征而忽略局部特征的缺陷.对比实验结果验证了该方法的可行性和有效性,实现了对喜悦、愤怒、悲伤、恐惧和中性5种人类基本情感的识别,研究成果将为情感识别提供新的研究方法,促进人机交互系统进一步深入发展.     

核正交判别局部正切空间对齐算法

针对现有的局部正切空间算法中存在的问题,文中提出一种基于核变换的特征提取方法——核正交判别局部正切空间对齐算法(KOTSDA)。该算法首先利用核方法将人脸图像投影到一个高维非线性空间,提取其非线性信息;然后在目标函数中利用正切空间判别分析算法在保持样本的类内局部几何结构的同时最大化类间差异;最后添加正交约束,得到核正交判别局部正切空间对齐算法。该算法不需要经过PCA降维,有效避免判别信息的丢失,在ORL和Yale人脸库上的实验验证算法有效性。     

基于改进的局部保持投影算法的人脸识别

局部保持投影算法是基于流形的学习方法,在人脸识别过程中容易遇到奇异值问题,为此提出一种利用奇异值分解的方法。在模型中,样本数据被投影到一个非奇异正交矩阵中,解决了奇异值问题;然后再根据局部保持投影算法求出新样本空间的低维投影子空间。将训练样本和测试样本分别投影到低维子空间中,再利用最近邻分类器进行分类识别。在ORL人脸数据库中,采用了一系列的实验来对比该算法与传统局部保持投影算法和主成分分析算法的识别效果。实验结果验证了改进的局部保持投影算法在人脸识别的有效性。     

双向二维局部保持鉴别投影应用于人脸识别

双向二维局部保持映射（双向2DLPP）与二维局部保持映射（2DLPP）比较,双向2DLPP同时对图像的行方向和列方向进行降维处理,可以采用较少的系数有效地表示图像。为了进一步增强双向2DLPP算法的分类能力,将双向2DLPP所提取的特征采用线性判别式分析（LDA）进行分类,从而形成了一种新的监督算法：鉴别双向二维局部保持投影。理论分析表明,无论在计算量还是内存要求方面,所提鉴别双向二维局部保持投影算法比双向2DLPP和主成分分析+线性判别式分析（PCA+LDA）要少,而且在ORL 和Yale数据库上的人脸识别实验表明,新算法的识别性能比双向2DLPP和PCA+LDA算法要好,且具有较少的计算复杂度。     

基于谱回归判别分析的LPP算法

判别局部保持投影DLPP算法在计算过程中需要解决稠密矩阵特征分解问题,这使得该算法在时间和内存上消耗都非常高。谱回归判别分析SRDA算法可以有效的节省时间和内存的消耗。基于SRDA,提出一种改进的局部保持投影LPP算法——谱回归判别局部保持投影算法SRDLPP。实验结果表明,该算法可以提高识别率,同时降低时间和内存消耗。     

LPMVP算法及其在故障检测中的应用

针对数据信息的特征提取和降维问题, 提出一种局部保持最大方差投影 (Locality preserving maximum varianceprojections, LPMVP) 新算法. 该算法综合考虑了主元分析(Principalcomponent analysis, PCA)和局部保持投影(Locality preservingprojections, LPP)算法的优点和不足, 提出了新的优化目标, 使投影得到的低维空间不仅和原始变量空间有相似的局部近邻结构, 而且有相似的整体结构, 因而可以包含更多的特征信息. 在此基础上, 本文使用LPMVP算法把原始变量空间划分为特征空间和残差空间, 分别构造了T2和SPE统计量对过程进行监测, 建立了一种新的故障检测方法. 通过数值例子以及TE过程的仿真研究, 表明了LPMVP算法可以有效地提取数据信息, 同时也体现了较强的故障检测能力.     

稀疏局部Fisher判别分析

提出一种稀疏局部Fisher判别分析（Sparsity Local Fisher Discriminant Analysis,SLFDA）。该算法在局部Fisher判别分析降维的基础上,通过平衡参数引入稀疏保持投影,在投影降维过程中保持了数据的全局几何结构和局部近邻信息。在UCI数据集和YaleB人脸数据集上的实验表明,该算法融合局部Fisher判别分析和稀疏保持投影的优点;与现有的半监督局部Fisher判别分析降维算法相比,该算法提高了基于最短欧氏距离的分类算法的精度。     

局部非参数子空间分析在人脸识别中的应用

提出了一种局部非参数子空间分析算法（Local Nonparametric Subspace Analysis,LNSA）,将其应用在人脸识别中。LNSA算法结合了非参数子空间算法（Nonparametric Subspace Analysis,NSA）与局部保留投影算法（Locality Preserving Projection,LPP）。它利用LPP算法中的相似度矩阵重构NSA的类内散度矩阵,使得在最大化类间散度矩阵的同时保留了类的局部结构。在ORL人脸库和XM2VTS人脸库上作了实验并证明LNSA方法要优于其他方法。     

Locality preserving and global discriminant projection with prior information

Existing supervised and semi-supervised dimensionality reduction methods utilize training data only with class labels being associated to the data samples for classification. In this paper, we present a new algorithm called locality preserving and global discriminant projection with prior information (LPGDP) for dimensionality reduction and classification, by considering both the manifold structure and the prior information, where the prior information includes not only the class label but also the misclassification of marginal samples. In the LPGDP algorithm, the overlap among the class-specific manifolds is discriminated by a global class graph, and a locality preserving criterion is employed to obtain the projections that best preserve the within-class local structures. The feasibility of the LPGDP algorithm has been evaluated in face recognition, object categorization and handwritten Chinese character recognition experiments. Experiment results show the superior performance of data modeling and classification to other techniques, such as linear discriminant analysis, locality preserving projection, discriminant locality preserving projection and marginal Fisher analysis.     

无关性判别保局算法及其在人脸识别中的应用

特征提取是人脸识别过程中的一个重要步骤,是人脸识别算法有效性的关键。提出了一种基于无关性判别保局的特征提取算法,并应用于人脸识别。基于保局投影算法的人 脸识别是一种有效的人脸识别算法,但它只考虑了数据的局部性,没有考虑类别信息,也没有考虑所提特征之间的相关性,现有的改进算法虽然考虑了类别信息,但是没有考虑到 类间信息。本文算法使得所提特征之间相互无关,这样降低了数据冗余,同时考虑到类别信息,使得投影后的类间区分度加强了。实验结果验证了算法的正确性和有效性,比传统 算法有较好的识别性能。     

Regularized locality preserving discriminant embedding for face recognition

For face recognition, graph embedding techniques attempt to produce a high data locality projection for better recognition performance. However, estimation of population data locality could be severely biased due to small number of training samples. The biased estimation triggers overfitting problem and hence poor generalization. In this paper, we propose a new linear graph embedding technique based upon an adaptive locality preserving regulation model (ALPRM), known as Regularized Locality Preserving Discriminant Embedding (RLPDE). In RLPDE, the projection features are regulated based on ALPRM to approach population data locality, which can directly enhance the locality preserving capability of the projection features. This paper also presents the relation between locality preserving capability and class discrimination. Specifically, we show that the optimization of the locality preserving function minimizes the within-class variability. Experiments on three face datasets such as PIE, FRGC and FERET show the promising performance of the proposed technique.     

有监督正交局部保留投影及其在人脸识别中的应用

针对局部保留投影算法（LPP）的无监督和非正交问题,提出了一种有监督的正交局部保留投影算法SOLPP。该算法同时考虑了样本的类别信息以及投影向量间的相互正交性,首先利用样本的类标签信息重新定义了类内和类间相似度矩阵,同时最大化类间离散度与类内离散度之比,有效地保持了样本的局部结构;其次对投影基向量进行正交化,在保持数据空间结构的同时进一步提高了人脸识别效果。在ORL和FERET人脸库上的实验表明,该方法的识别率要优于SLPP等算法。     

一种用于特征提取的保局判别分析算法

针对保局投影(LPP)为无监督算法的局限,提出了一种新的监督版的LPP,即保局判别分析(LPDA)算法。LPDA吸收了流形学习算法与最大边界准则(MMC)的共同特点,可以将高维的人脸数据投影到低维子空间,具有能处理新样本与无小样本问题的优点。与现有的多种经典相关方法相比,从Yale, UMIST及MIT 3个人脸数据库的实验结果表明,提出的LPDA算法在降维的同时提取了用于人脸识别的更有效的特征,人脸图像识别性能较好,具有较强的判别分析能力。     

完备鉴别保局投影人脸识别算法

为了充分利用保局总体散布主元空间内的鉴别信息进行人脸识别,提出了一种完备鉴别保局投影(complete discriminant locality preserving projections,简称CDLPP)人脸识别算法.鉴于Fisher鉴别分析和保局投影已经被广泛的应用于人脸识别,完备鉴别保局投影(locality preserving projections,简称LPP)算法将这两者结合起来,分析了保局类内散布、类间散布和总体散布的主元空间和零空间内包含的鉴别信息.该算法采用奇异值分解(singular value decomposition,简称SVD),去除了不含任何鉴别信息的保局总体散布的零空间;分别在保局类内散布的主元空间和零空间提取规则鉴别特征和不规则鉴别特征;用串联的方式在特征层融合规则鉴别特征和不规则鉴别特征形成完备的鉴别特征进行人脸识别.在ORL库、FERET子库和PIE子库上的大量识别实验充分表明了完备鉴别保局投影算法的性能优于线性鉴别分析、保局投影和鉴别保局投影等现有的子空间人脸识别算法,验证了算法的有 效性.     

有监督的无参数核局部保持投影及人脸识别

针对发掘人脸图像中的高维非线性结构,将加核及构造无参数近邻图两种思想同时引入到局部保持投影算法中,在有监督的模式下,提出了一种新的有监督的无参数核局部保持投影(Parameter-less Supervised Kernel Locality Preserving Projection,PSKLPP)算法并给出了其推导过程。该算法通过将欧氏距离改为对离群数据更为鲁棒的余弦距离,构造无参数近邻图,利用核方法提取人脸图像中的非线性信息,并将其投影在一个高维非线性空间,运用局部保持投影算法得到一线性映射,有效避免了在计算相似矩阵过程中面临的复杂参数选择问题。在ORL和Yale人脸库上的仿真实验验证了所提算法的有效性。     

A Direct Locality Preserving Projections (DLPP) Algorithm for Image Recognition

This paper proposes a novel locality preserving projections (LPP) algorithm for image recognition, namely, the direct locality preserving projections (DLPP), which directly optimizes locality preserving criterion on high-dimensional raw images data via simultaneous diagonalization, without any dimensionality reduction preprocessing. Our algorithm is a direct and complete implementation of LPP. Experimental results on the PolyU palmprint database and ORL face database show the effectiveness of the proposed algorithm.     

基于POEM_SLPP的人脸识别算法

针对方向边缘幅值模式(Patterns of Oriented Edge Magnitudes,POEM)提取的人脸特征维数过高和计算复杂度较大的问题,提出了结合方向边缘幅值模式和有监督的局部保持投影(Patterns of Oriented Edge Magnitudes _Supervised Locality Preserving Projections,POEM_SLPP)的人脸识别算法。首先,采用POEM算子进行特征提取;其次,将高维特征数据投影到SLPP算法求出的低维样本空间进行降维;最后,采用最近邻法对测试样本进行分类。在CAS-PEAL-R1人脸库上的实验结果表明,在姿态、背景、修饰、年龄、距离测试集上,该算法的平均识别率较POEM LPP算法提高了22%,较POEM PCA提高了2%。