模式识别中广义核函数Fisher最佳鉴别

本文在线性Fisher鉴别与核函数Fisher鉴别的基础上,依据D.H.Foley和J.W.Sammon提出的广义Fish-er最佳鉴别概念,将两类模式识别问题的求解方法进行非线性推广,引入了相应的概念,导出并证明了广义核函数Fisher最佳鉴别,得出了广义核函数Fisher最佳鉴别的决策函数.广义核函数Fisher最佳鉴别在判断测试样本时采用竞争原则,将测试样本判为具有最大决策函数值所属的类别,为解决多类模式识别问题提供了一种有效途径.广义核函数Fisher最佳鉴别具有充分的理论依据,泛化能力强,在多类模式识别中具有重要的意义和应用价值.     

基于Fisher线性鉴别分析的人脸识别方法研究

人脸识别技术是计算机模式识别领域非常活跃的研究课题,在法律、商业等领域有着广泛的应用背景。由于人脸图像的特殊性,人脸识别问题也是模式识别领域一个相当困难的问题,要使这一技术趋于成熟还有许多工作需要做。本文阐述了Fisher线性鉴别分析算法及其实现,同时针对其鉴别空间的统计相关性,提出改进措施。     

一种新的基于Schur分解的Fisher鉴别分析方法

特征抽取是模式识别研究领域的一个热点。本文提出了一种新的基于Schur分解的Fisher鉴别分析的特征抽取方法。此方法引入了零空间的概念,指出了前人算法中的不足之处;给出了一个完整的基于Schur分解的Fisher鉴别分析方法。ORL人脸数据库上的实验表明了该方法的有效性。     

Fisher线性鉴别分析的理论研究及其应用

Fisher线性鉴别分析已成为特征抽取的最为有效的方法之一.但是在高维、小样本情况下如何抽取Fisher最优鉴别特征仍是一个困难的、至今没有彻底解决的问题.文中引入压缩映射和同构映射的思想,从理论上巧妙地解决了高维、奇异情况下最优鉴别矢量集的求解问题,而且该方法求解最优鉴别矢量集的全过程只需要在一个低维的变换空间内进行,这与传统方法相比极大地降低了计算量.在此理论基础上,进一步为高维、小样本情况下的最优鉴别分析方法建立了一个通用的算法框架,即先作K-L变换,再用Fisher鉴别变换作二次特征抽取.基于该算法框架,提出了组合线性鉴别法,该方法综合利用了F-S鉴别和J-Y鉴别的优点,同时消除了二者的弱点.在ORL标准人脸库上的试验表明,组合鉴别法所抽取的特征在普通的最小距离分类器和最近邻分类器下均达到97%的正确识别率,而且识别结果十分稳定.该结果大大优于经典的特征脸和Fisherfaces方法的识别结果.     

一种改进Fisher准则的线性鉴别分析方法

目前线性鉴别分析以Fisher准则或是逐对类加权Fisher准则为依据,但前者不能限制离群类,后者计算量大,鉴于此,提出一种改进Fisher准则用于线性鉴别分析。回顾了Fisher准则和逐对类加权Fisher准则,指出其中问题产生的根本原因。提出类距离和类离群程度的定义,以类距离为依据判定各类离群程度,以类离群程度为参数赋予各类权值,重新计算总体类均值和类间离散度矩阵,以得到限制离群类、突出常规类的改进Fisher准则。这种改进Fisher准则计算简单,能有效限制离群类。     

一种基于空间变换的核Fisher鉴别分析

引入空间变换的思相想，提出了一种基于空间变换的核Fisher鉴别分析，与KFDA不同的是，该方法只需在一个较低维的空间内执行，从而较大幅度地降低了求解最优鉴别矢量集的计算量，提高了计算速度，在ORL标准人脸库上的试验结果验证了所提方法的有效性。     

基于广义Fisher鉴别分析的人脸识别

本文提出了一种基于广义Fisher鉴别分析的人脸识别新方法。在ORL标准人脸库上的试验结果证实了所提出方法的有效性和稳定性。     

一种面向不平衡数据集的核Fisher线性判别分析方法

实际应用中,很多分类问题是面向不平衡数据的分类,而不平衡数据集会导致许多分类器的性能下降。文中介绍核Fisher线性判别分析的分类机制,分析不平衡数据导致核Fisher线性判别分析失效的原因,进而提出一种加权核Fisher线性判别分析方法。该方法通过调整两类样本的核协方差矩阵对核类内离散度矩阵的贡献, 可克服不平衡数据对分类性能的影响。为进一步测试该方法, 对UCI数据集进行实验测试,实验结果表明该方法可有效改进分类器的分类性能。     

完备的双子空间边界近邻鉴别分析

针对边界Fisher鉴别分析算法不能够有效解决小样本问题,提出了一种完备的双子空间边界近邻鉴别分析算法。该算法通过理论分析将MFA的目标函数分解成两部分,对此目标函数的求解,首先要对高维样本进行PCA降维至一个低维子空间, 而这一过程并不损失任何有效的鉴别信息,对此通过定理1和定理2进行了证明;然后再分别求出类内边界近邻互补子空间的两投影矩阵。最后人脸库上的实验结果表明了所提方法的有效性。     

基于Fisher鉴别分析的支持向量机训练样本缩减策略

提出一种用于支持向量机训练样本集的缩减策略。该策略运用Fisher鉴别分析方法快速地提取潜在的支持向量,并构成用于SVM的新的训练样本集。仿真实验表明,该算法能在保证不降低分类精度的前提下,对较大规模的样本进行有效的缩减,提高运算效率。     

基于二维Fisher线性判别的掌纹识别方法

在Fisher线性判别(FLD)中,类内离散矩阵总是奇异的。为了解决矩阵的奇异性问题,应用一种新的二维Fisher线性判别(2DFLD)直接进行矩阵投影。对于PolyU掌纹图像库,分别用PCA, PCA+FLD和2DFLD提取特征掌纹子空间,将待识别图像投影到低维子空间上,用余弦距离进行掌纹匹配。实验结果表明,与PCA相比,PCA+FLD的识别率最多提高1.18%。2DFLD识别率最高达到99.34%,比PCA+FLD提高7.61%,特征提取仅耗时0.047 s。     

一种新的线性判别函数的加权方法

线性判别函数法是计算机模式分类的一种基本方法。该文以平均频率作为线性判别函数加权方法的一个特例,将N维的模式识别问题简化为一维问题,并且给出了两种确定分界点的方法。使用平均频率作为线性判别函数具有物理意义明确、计算量小的特点,可以用于以信号的功率谱作为特征矢量的模式识别方法之中。     

一种变形Fisher判别准则函数及最优判别向量集

基于Fisher判别准则函数式,提出了一种无约束的最优判别矢量集,并给出了求解算法,另外,当训练样本矢量数小于样本矢量维数（即小样本问题）,类内散布矩阵奇异,此时求F-S最优判别向量集及文中提出的无约束的最优判别矢量集都已不可行,对此提出了一种变形的Fisher判别准则函数,并给出了求解最优判别向量集算法。用ORL标准人脸库进行实验,实验结果表明,提出的两种最优判别向量集都有良好的分类能力。     

Feature Reduction via Generalized Uncorrelated Linear Discriminant Analysis

High-dimensional data appear in many applications of data mining, machine learning, and bioinformatics. Feature reduction is commonly applied as a preprocessing step to overcome the curse of dimensionality. Uncorrelated Linear Discriminant Analysis (ULDA) was recently proposed for feature reduction. The extracted features via ULDA were shown to be statistically uncorrelated, which is desirable for many applications. In this paper, an algorithm called ULDA/QR is proposed to simplify the previous implementation of ULDA. Then, the ULDA/GSVD algorithm is proposed, based on a novel optimization criterion, to address the singularity problem which occurs in undersampled problems, where the data dimension is larger than the sample size. The criterion used is the regularized version of the one in ULDA/QR. Surprisingly, our theoretical result shows that the solution to ULDA/GSVD is independent of the value of the regularization parameter. Experimental results on various types of data sets are reported to show the effectiveness of the proposed algorithm and to compare it with other commonly used feature reduction algorithms.     

Fisher Linear Discriminant Analysis for text-image combination in multimedia information retrieval

With multimedia information retrieval, combining different modalities – text, image, audio or video provides additional information and generally improves the overall system performance. For this purpose, the linear combination method is presented as simple, flexible and effective. However, it requires to choose the weight assigned to each modality. This issue is still an open problem and is addressed in this paper.     

On Extensions to Fisher's Linear Discriminant Function

This correspondence describes extensions to Fisher's linear discriminant function which allow both differences in class means and covariances to be systematically included in a process for feature reduction. It is shown how the Fukunaga-Koontz transform can be combined with Fisher's method to allow a reduction of feature space from many dimensions to two. Performance is seen to be superior in general to the Foley-Sammon method. The technique is developed to show how a new radius vector (or pair of radius vectors) can be combined with Fisher's vector to produce a classifier with even more power of discrimination. Illustrations of the technique show that good discrimination can be obtained even if there is considerable overlap of classes in any one projection.     

基于核函数的Fisher判别分析算法在人耳识别中的应用

针对人耳图像自身的特点,并通过对现有生物识别技术的研究,本文尝试采用了一种基于核函数的Fisher判别分析算法对人耳进行识别。该算法不仅可以有效地提取人耳特征,获得较高的识别率;而且还可以解决因为光照和人耳旋转角度等因素带来的非线性问题。实验表明:采用基于径向基核函数的Fisher判别分析算法对人耳图像进行识别,其识别率最高,为98.701%。     

常用Fisher判别函数的判别矩阵研究

在线性判别分析(Linear discriminant analysis, LDA)中, 比迹函数、比值函数和迹比函数是三种常用的Fisher判别函数, 每一个判别函数都可得到一个正交判别(Orthogonal discriminant, OD)矩阵和一个不相关判别(Uncorrelated discriminant, UD)矩阵. 本文的主要目的是对这6种判别矩阵的获取方法及其性质进行系统分析, 拟期更清楚地认识它们的联系与区别. 当类内协方差阵非奇异时, 比迹、比值函数的判别矩阵和迹比函数的OD矩阵的获取方法及性质已有研究, 本文对迹比函数的UD矩阵的获取方法及性质进行了补充研究, 得到了迹比函数的UD矩阵与比迹、比值函数的UD矩阵是同一矩阵以及迹比函数的UD矩阵的判别函数值不超过它的OD矩阵的结论. 当类内协方差阵奇异时, 6种判别矩阵的获取方法遇到了困难, 为克服这一困难, 本文首先用极限的思想重新定义了这三种判别函数, 然后采用求极限的方法得到了6种判别矩阵的获取方法. 从所得的获取方法可以看出, 当所需的判别向量均在类内协方差阵的零空间中时, 6个判别矩阵是同一矩阵.