基于2D-Gabor与KLDA的特征提取

提出一种2D-Gabor小波与核线性鉴别分析(KLDA)相结合的特征提取方法。该方法对经过预处理的人脸图像进行多方向、多尺度的2D-Gabor滤波,将滤波后的图像看作独立样本加入原样本库中,对新样本利用KLDA方法进行二次特征提取,得到较理想的类内聚度和类间散度样本特征,再采用三阶近邻分类器进行特征分类处理。实验结果表明,该方法相比传统方法识别率更高,易于工程实现。     

最大散度差和大间距线性投影与支持向量机

首先对Fisher鉴别准则作了必要的修正,并基于新的鉴别准则设计了最大散度差分 类器;然后探讨了当参数C趋向无穷大时,最大散度差分类器的极限情况,得到了大间距线 性投影分类器;最后通过分析说明,大间距线性投影分类器实际上是在模式样本线性可分的条 件下,线性支持向量机的一种特殊情况.在ORL和NUST603人脸库上的测试结果表明,最 大散度差分类器和大间距线性投影分类器可以与线性支持向量机、不相关线性鉴别分析相媲 美,优于Foley-Sammon鉴别分析方法.     

最大散度差鉴别分析及人脸识别

传统的Fisher线性鉴别分析(LDA)在人脸等高维图像识别应用中不可避免地遇到小样本问题。提出一种基于散度差准则的鉴别分析方法。与LDA方法不同的是,该方法利用样本模式的类间散布与类内散布之差而不是它们的比作为鉴别准则,这样,从根本上避免了类内散布矩阵奇异带来的困难。在ORL人脸数据库和AR人脸数据库上的实验结果验证算法的有效性。     

基于局部保持投影的鉴别最大间距准则

提出一种基于流形学习的特征提取方法——鉴别最大间距准则。该方法采用线性投影,保留最优的局部和全局信息数据集。试图找到具有最好鉴别能力的原始信息,使类间离散度最大的同时类内离散尽可能的小。该方法在识别率上比其它方法都有较大提高,通过在YALE和JAFFE人脸库上的实验验证该方法的有效性。     

基于核的Fisher非线性最佳鉴别分析在人脸识别中的应用

抽取最佳鉴别特征是人脸识别中的重要一步。对小样本的高维人脸图像样本,由于各种抽取非线性鉴别特征的方法均存在各自的问题,为此提出了一种求解核的Fisher非线性最佳鉴别特征的新方法,该方法首先在特征空间用类间散度阵和类内散度阵作为Fisher准则,来得到最佳非线性鉴别特征,然后针对此方法存在的病态问题,进一步在类内散度阵的零空间中求解最佳非线性鉴别矢量。基于ORL人脸数据库的实验表明,该新方法抽取的非线性最佳鉴别特征明显优于Fisher线性鉴别分析(FLDA)的线性特征和广义鉴别分析(GDA)的非线性特征。     

Fisher大间距线性分类器

作为一种著名的特征抽取方法,Fisher线性鉴别分析的基本思想是选择使得Fisher准则函数达到最大值的向量(称为最优鉴别向量)作为最优投影方向,以便使得高维输入空间中的模式样本在该向量投影后,在类间散度达到最大的同时,类内散度最小。大间距线性分类器是寻找一个最优投影矢量(最优分隔超平面的法向量),它可使得投影后的两类样本之间的分类间距(Margin)最大。为了获得更佳的识别效果,结合Fisher线性鉴别分析和大间距分类器的优点,提出了一种新的线性投影分类算法——Fisher大间距线性分类器。该分类器的主要思想就是寻找最优投影矢量wbest(最优超平面的法向量),使得高维输入空间中的样本模式在wbest上投影后,在使类间间距达到最大的同时,使类内离散度尽可能地小。并从理论上讨论了与其他线性分类器的联系。在ORL人脸库和FERET人脸数据库上的实验结果表明,该线性投影分类算法的识别率优于其他分类器。     

核判别随机近邻嵌入分析方法

为了有效地解决非线性特征提取中存在的鉴别效率和样本外问题,最大限度地保持观测信息,并进一步提高相关方法的降维性能,将核学习的方法应用到判别随机近邻嵌入分析方法中,提出一种核判别随机近邻嵌入分析方法.通过引入核函数,将原空间中的样本映射到高维核空间中,构建了用于反映同类和异类数据间相似度的联合概率表达式;在此基础上,引入线性投影矩阵生成对应子空间数据;最后在类内Kullback-Leiber(KL)散度最小和类间KL散度最大的准则下建立目标泛函.该方法突出了异类样本间的特征差异,使样本变得线性可分,从而提高了分类性能.在COIL-20图像库和ORL,Yale经典人脸库上进行实验,验证了文中方法的分类鉴别能力.     

判别随机近邻嵌入分析方法

针对随机近邻嵌人算法的非线性本质和无监督学习特征,提出一种线性有监督的特征提取方法,称为判别随机近邻嵌入分析.该方法通过输入样本的类别信息构建数据分布的联合概率表达式,用于反映同类和异类数据间的相似度;同时引入线性投影矩阵生成子空间数据,并在类内KL散度最小和类间KL散度最大的准则下建立目标泛函.通过人工合成数据和经典人脸库对文中方法的性能进行验证,结果表明,该方法不仅具有较好的可视化能力,而且能够有效地对不同类别的数据进行降维分簇,提升后续模式分类器的鉴别效果.     

局部和全局加权的二维统计不相关鉴别分析

传统的统计不相关鉴别分析方法使用样本的均值来估计期望,计算出总体散度矩阵。这些方法在数据不满足高斯分布的情况下会出现大的偏差,影响最优鉴别特征的提取。为了解决该问题,文中结合二维鉴别分析的思想,分别提出了基于局部的二维统计不相关鉴别变换（L2DUDT）方法和基于全局加权的二维统计不相关鉴别变换（WG2DUDT）方法。L2DUDT通过用样本的近邻中心来定义每个样本的期望,而WG2DUDT用样本间的欧几里得距离加权来定义期望。基于AR和FERET人脸数据库的实验表明,文中提出的方法与一些相关方法相比,有效地提高了识别性能。     

一类基于多目标规划的线性鉴别准则

两类Fisher鉴别准则、大间距线性投影准则以及最大散度差鉴别准则都是直接用于模式分类的两类线性鉴别准则,它们的共同点是将“投影后数据的可分性达到最大的方向”作为最优投影方向。区别在于它们对数据可分性的定义有所不同。过去的研究成果表明,大间距线性投影分类器与支持向量机之间、大间距线性投影准则与最大散度差鉴别准则之间以及最大散度差鉴别准则与两类Fisher鉴别准则之间,均存在着这样或那样的联系。论文试图在以往研究成果的基础上进一步理清这些两类线性鉴别准则之间的内在关系,并建立一个统一的理论框架从而将基于投影后数据可分性的这些两类线性鉴别准则都纳入其中。     

样本典型性分析与线性鉴别分析

首先分析了经典LDA方法的物理意义及其局限性,然后提出了一个新的LDA方法。该方法强调训练样本的典型性与代表性,并认为相同类别中与一个样本距离较远的若干样本是同一类别中对这个样本有典型意义的样本,而不同类别中与这个样本距离较近的若干样本也是对该样本而言有典型代表意义的样本。该新的LDA方法基于定义在这些典型样本上的类间散布矩阵与类内散布矩阵实现特征提取。方法的物理意义体现为:特征提取过程中最大化样本与不同类中的典型样本间距离与最小化样本与同类中的典型样本间距离这一思路的实现,可使抽取出的不同类别的样本特征具有更大的线性可分离性。充分的理论与实验分析表明本文方法可优于经典LDA方法。     

SVM-based feature extraction for face recognition

The primary goal of linear discriminant analysis (LDA) in face feature extraction is to find an effective subspace for identity discrimination. The introduction of kernel trick has extended the LDA to nonlinear decision hypersurface. However, there remained inherent limitations for the nonlinear LDA to deal with physical applications under complex environmental factors. These limitations include the use of a common covariance function among each class, and the limited dimensionality inherent to the definition of the between-class scatter. Since these problems are inherently caused by the definition of the Fisher's criterion itself, they may not be solvable under the conventional LDA framework. This paper proposes to adopt a margin-based between-class scatter and a regularization process to resolve the issue. Essentially, we redesign the between-class scatter matrix based on the SVM margins to facilitate an effective and reliable feature extraction. This is followed by a regularization of the within-class scatter matrix. Extensive empirical experiments are performed to compare the proposed method with several other variants of the LDA method using the FERET, AR, and CMU-PIE databases.     

一种基于ICA和模糊LDA的特征提取方法

独立成分分析(ICA)和线性鉴别分析(LDA)是两种经典的特征提取方法.为了更好地解决人脸识别中的特征提取问题,在已有的两种方法进行特征抽取的基础上引入模糊技术,抽取重叠(离群)样本中有助于分类的特征.首先用ICA进行初次特征提取,然后采用模糊k近邻方法得到相应的样本分布信息,最后在此基础上用模糊LDA进行二次特征提取,得到有效的特征向量集.在3个人脸数据库上的实验结果表明本文方法的有效性.     

利用标准化LDA进行人脸识别

线性判别分析（LDA）是一种较为普遍的用于特征提取的线性分类方法。提出一种基于LDA的人脸识别方法－－标准化LDA，该方法克服了传统LDA方法的缺点，重新定义了样本类间离散度矩阵，在原始定义的基础上增加一个由类间距离决定的可变权函数，使得在选择投地，能够更好地分开各个类的样本；同时，它采用一种合理而有效的方法解决矩阵奇异的问题，即保留样本类内离散度矩阵的零空间，因为这个空间包含了最具有判别能力的信息。在这个零空间里，寻找对应于样本类间离散度矩阵的较大特征值的特征向量作为最后降维的转换矩阵。实验结果显示，在人脸识别中，与传统LDA相比，该方法有更好的识别率。标准化LDA也可以用于其他图像识别问题。     

基于改进的双向二维线性判别分析的人脸识别

针对传统的二维线性判别方法提取出的人脸特征系数维数大的问题,提出一个改进的双向二维线性判别分析方法GB2DLDA。双向压缩类内和类间散布矩阵,用压缩后的散布矩阵构成两个Fisher鉴别准则函数,求出两个投影矩阵,然后人脸图像矩阵向投影矩阵投影,提取出特征系数。实验证明在相同识别率下,用此方法提取的特征系数维数明显少于其它二维线性判别分析方法。在选择合适的特征向量的情况下,此方法的识别率要好于其它二维线性判别分析方法。     

改进的线性判别分析算法

线性判别分析是一种有效的特征提取方法,但其存在两个缺陷：小样本问题和秩限制问题。为了解决上述问题,提出一种改进的线性判别分析算法ILDA。该方法引进类间离散度标量和类内离散度标量,通过求解样本各维的权值达到特征提取的目的。若干标准人脸数据集和人工数据集上的实验表明ILDA在特征提取方面的有效性。     

基于加权两向二维线性鉴别分析的SAR目标识别方法

为解决传统Fisher线性鉴别分析(LDA)在SAR图像目标识别中存在的“小样本”问题和“次优性”问题,提出一种基于加权的两向二维线性鉴别分析方法(W(2D)2LDA)。该方法对两向二维线性鉴别分析准则中散度矩阵的构造进行加入权值的改进,采用加权的两向二维鉴别准则函数进行特征提取,从理论上有效解决了 “次优性”问题,并缓解了“小样本”问题。对美国运动与静止目标获取与识别(MSTAR)计划录取的SAR图像数据进行的仿真实验结果表明,该算法增强了提取特征的可鉴别性,能够以较小的特征维数和运算量获得更高的识别率,验证了该算法的有效性。     

基于核的双子空间方法及其快速求解算法

针对现有的双子空间方法中存在的问题,提出一种基于核的双子空间判别分析(KDS-DA)方法。此外,还提出一种基于镶边矩阵求逆运算的快速KDS-DA特征求解算法。该算法运用高阶镶边矩阵的求逆运算可转化为低阶镶边矩阵的求逆运算这一性质,使得当顺序求解样本类内散射矩阵主空间中第r+1个KDS-DA判别矢量时,可充分利用求解第r个判别矢量时所得到的计算结果来减少算法复杂度。通过在ORL和AR人脸库上的实验证实文中方法的有效性。     

融合2DPCA和模糊2DLDA的人脸识别

结合模糊集理论、双向二维主成分-线性鉴别分析((2D)2PCALDA)的特点,提出一种新的人脸图像特征提取方法。算法首先对人脸图像进行二维主成分分析(2DPCA)处理,再用模糊K近邻算法计算图像的隶属度矩阵,并将其融入到2DLDA过程中,从而得到模糊类间散射矩阵和模糊类内散射矩阵。与(2D2PCALDA相比,该算法充分利用了(2D)2PCALDA的优点,有效地提取了行和列的识别信息,并充分考虑了样本的分布信息。在Yale和FERET人脸数据库上的实验结果表明,该方法识别效果优于(2D)2PCALDA、双向二维主成分分析((2D)2PCA)等方法。