基于DTCWT的运动想象脑电特征提取

针对脑电信号采用单一特征识别存在自适应性差和识别率低等问题，提出一种基于双树复小波(DTCWT)的多特征融合的左右手运动想象脑电特征提取方法。对原始脑电信号进行DTCWT变换提取最佳时频段；对所提取的信号频段进行希尔伯特变换与Lempel-Ziv复杂度计算，将得到的时-频域特征与非线性特征组合为特征向量；采用线性判别分析(LDA)完成运动想象任务的分类。实验采用BCI CompetitionⅢ竞赛数据对该方法进行验证，仿真结果表明其识别准确率明显提高，最高可达89.84%。     

基于深度卷积网络的运动想象脑电信号模式识别

针对运动想象脑电信号（MI-EEG）分类准确率普遍偏较低的问题,引入基于深度框架的卷积神经网络模型（CNN）。首先,使用短时傅里叶变换（STFT）和连续小波变换（CWT）得到两种不同解析度下的时频信息;然后将其与电极通道位置信息相结合并以三维张量的形式作为CNN的输入;其次,设计了两种基于不同卷积策略的网络模型MixedCNN和StepByStepCNN来分别对两种形式的输入进行特征提取和分类识别;最后,针对因训练集样本过少而易发生的过拟合问题,引入mixup数据增强策略。在BCI Competition Ⅱ dataset Ⅲ数据集上的实验结果表明,CWT得到的样本集通过mixup数据增强后送入MixedCNN网络训练出的模型的识别准确率最高（93.57%）,相较于另外四种分析方法：公共空间模式（CSP）+支持向量机（SVM）、自适应自回归模型（AAR）+线性判别分析（LDA）、离散小波变换（DWT）+长短期记忆网络（LSTM）、STFT+堆栈自编码器（SAE）分别提高了19.1%、20.2%、11.7%和2.3%。所提方法可以为MI-EGG分类任务提供参考。     

LDA算法及其在人脸识别中的应用

线性特征提取在人脸识别中的应用非常广泛,LDA是其主要方法之一,它基于Fisher 判别准则,然而,当人脸训练样本数小于人脸样本向量的维数时,变换矩阵将无法直接得到,因此线性判别分析过程失效。采用了一种改进的基于Fisher 准则的LDA方法,针对小样本问题提出了一种有效地解决类内散布矩阵奇异的方法,而且用ORL人脸数据进行了实验验证。实验证明该方法在正确识别率方面表现突出。     

多阶矩阵组合LDA及其在人脸识别中的应用

线性判别分析（LDA）是一种普遍用于特征提取的线性分类方法。但将LDA直接用于人脸识别会遇到小样本问题和秩限制问题。为了解决以上问题,提出一种基于多阶矩阵组合的LDA算法——MLDA。该算法重新定义了传统LDA中的类内离散度矩阵Sw,使传统Fisher准则具有更好的健壮性和适应性。若干人脸数据库上的比较实验证明了MLDA的有效性。     

基于遗传算法的线性判别分析方法

由于线性判别分析(Linear discriminant analysis,LDA)算法并不直接以训练误差作为目标函数,所以在Fisher准则不能代表最小训练误差情况下,LDA算法无法找到最优的分类子空间.本文针对这种情况,首先通过分析数据样本分布与LDA投影向量之间的关系,揭示了LDA投影向量与类间散布矩阵和类内散布矩阵特征值之间存在的关联,并以此提出一种基于遗传算法的LDA算法.该算法以子空间上的训练误差最小为目标,通过遗传算法调整LDA算法中类间矩阵特征值的大小,达到搜索最佳特征子空间的效果.通过模拟数据和真实数据的实验,表明这种方法的分类正确率比现有的线性子空间方法有明显提高.     

人脸签名在智能化办公系统中的身份认证应用

为了提高基于网络的智能化办公系统特别是敏感系统的安全性,提出使用人脸识别作为智能化办公系统的身份认证方法。采用多部件融合的人脸识别算法,将人脸图像分成一系列基元部件,从中选取选择出具有统计最优的部件集合,提取其局部二值模式（LBP）直方图特征,通过对应的线性判别分析(LDA)变换矩阵得到LDA变换后的特征,作为每个部件的最终特征,并用求和的方式实现部件的相似度融合。将此算法应用于智能化办公系统的身份注册与识别,实验结果表明具有较高的精度与安全性。     

融合PCA、LDA和SVM算法的人脸识别

为了提高人脸识别效率,提出了一种基于PCA、LDA和SVM算法融合的人脸识别方法。使用主成分分析（PCA）将人脸图像变换到新的特征空间中,消除图像特征间的相关性和噪声,提取人脸全局特征,在实验阶段取较多的投影方向使其尽可能多的保持原始信息;使用线性判别分析（LDA）算法进一步投影变换降低数据维度;使用支持向量机（SVM）分类识别。将PCA、LDA和SVM三种算法的优点结合起来,在ORL数据库上进行仿真实验,结果表明该方法的识别率可达99.0%。     

GLRAM与LDA相结合的人脸识别

提出了一种GLRAM（矩阵的广义低秩逼近）与LDA（线性判别分析）相结合的人脸识别方法。首先利用GLRAM方法获得人脸图像的有效特征,然后通过LDA对获得的特征进行进一步的降维并获得最佳分类特征。这样使得抽取特征的判断能力得到了显著增强。实验结果表明,该算法在较短的时间内取得了较高的识别率,效果优于单独运用GLRAM方法和LDA方法。     

基于LDA降维和BP神经网络的手写数字识别

手写数字数据集是机器学习分类领域的优质数据集,文章以反向传播（Back Propagation,BP）神经网络为基础,对手写数字进行分类识别。为减少BP神经网络的计算开支,实验前,对比了过滤卡方检验法、主成分分析（Principal Component Analysis,PCA）降维、线性判别式分析（Linear Discriminant Analysis,LDA）降维以及多维尺度变换（Multidimensional Scaling,MDS）降维对特征选取的训练测试效果,从而确定了神经网络拟合之前的最优特征提取方法。实验中,利用Bagging对BP神经网络进行集成处理,分类识别了手写数字。实验后,将文中方法与朴素贝叶斯、决策树、随机森林、LDA多分类进行对比。结果表明,采取LDA降维方法时,降到9维的特征提取方式最优,单个BP神经网络对手写数字数据识别的准确率为92%左右,而基于Bagging集成的BP神经网络在识别准确率方面高达95%。     

结合零空间法和F-LDA的人脸识别算法

线性判别分析（LDA）是一种常用的线性特征提取方法。传统LDA应用于人脸识别时主要存在两个问题：1）小样本问题,即由于训练样本不足引起矩阵奇异; 2)优化准则函数并不直接与识别率相关。提出了一种新的能同时解决以上两个问题的基于LDA的人脸识别算法。首先,通过重新定义样本的类内散布矩阵和类间散布矩阵,提出了一种新的零空间法。然后把这种新的零空间法与F LDA（Fractional LDA）算法相结合,得到一种对人脸识别更有效的特征提取方法。实验结果表明,这种新算法具有较高的识别率。     

Feature extraction and dimensionality reduction algorithms and their applications in vowel recognition

Feature extraction is an important component of a pattern recognition system. It performs two tasks: transforming input parameter vector into a feature vector and/or reducing its dimensionality. A well-defined feature extraction algorithm makes the classification process more effective and efficient. Two popular methods for feature extraction are linear discriminant analysis (LDA) and principal component analysis (PCA). In this paper, the minimum classification error (MCE) training algorithm (which was originally proposed for optimizing classifiers) is investigated for feature extraction. A generalized MCE (GMCE) training algorithm is proposed to mend the shortcomings of the MCE training algorithm. LDA, PCA, and MCE and GMCE algorithms extract features through linear transformation. Support vector machine (SVM) is a recently developed pattern classification algorithm, which uses non-linear kernel functions to achieve non-linear decision boundaries in the parametric space. In this paper, SVM is also investigated and compared to linear feature extraction algorithms.     

Rotational Linear Discriminant Analysis Technique for Dimensionality Reduction

The linear discriminant analysis (LDA) technique is very popular in pattern recognition for dimensionality reduction. It is a supervised learning technique that finds a linear transformation such that the overlapping between the classes is minimum for the projected feature vectors in the reduced feature space. This overlapping, if present, adversely affects the classification performance. In this paper, we introduce prior to dimensionality-reduction transformation an additional rotational transform that rotates the feature vectors in the original feature space around their respective class centroids in such a way that the overlapping between the classes in the reduced feature space is further minimized. As a result, the classification performance significantly improves which is demonstrated using several data corpuses.     

多层分类器模型的相似人体活动识别

针对基于单传感器活动识别中相似活动易混淆的问题,本文提出了一种基于广义判别分析的多层分类器融合的相似人体活动识别算法.首先提取基于单加速度计的多类活动数据的时域特征、频域特征以及时频特征,对不同特征进行特征分析与重要性评估以确定有效的特征维度.使用随机森林(RF,Random forest)算法对活动特征进行第1层分类,然后根据分类混淆矩阵分析相似活动,由广义判别分析算法提取相似人体活动的映射特征,使用支持向量机(SVM,Support vector machine)算法对相似活动进行第2层分类,最后将相似活动的双层分类器识别概率加权融合得到最终识别结果.为了验证该识别算法,在公开的数据集SCUT-NAA上执行,识别算法对相似活动识别的正确率达到97.2%,提高了基于该数据集研究的正确率.     

一种结构受限的异方差线性判别分析

异方差线性判别分析(HLDA)因在语音识别中起到了巨大的特征去相关作用而被广泛利用。然而在训练数据不足或特征维数较高时,HLDA易出现不稳定性和小样本问题。根据特征的矩阵表示形式,提出了一种结构受限的HLDA。首先用二维线性判别分析(2DLDA)压缩矩阵形式的特征,然后作一维的HLDA。通过分析我们指出,二维的特征变换实际上是一种结构受限的一维特征变换。在RM库上的实验,受限HLDA对常规HLDA的词识别错误相对下降12.39%;在TIMIT库上的实验,受限HLDA对常规HLDA的音素识别错误相对下降4.43%。     

苹果近红外光谱的特征提取和分类研究

采用近红外光谱分析法对不同种类的苹果样品进行分类,提出一种基于非相关判别转换的苹果近红外光谱定性分析新方法。实验分别采用主成分分析、Fisher判别分析和非相关判别转换三种方法对苹果光谱数据进行特征提取,并使用K-近邻分类算法建立三种苹果分类识别模型,最后使用"留一"交叉验证法进行模型检验。结果表明,使用非相关判别转换方法建立的模型正确识别率优于使用主成分分析和Fisher判别分析建立的模型。     

改进的线性判别分析及人脸识别

为有效解决传统LDA（线性鉴别分析）的小样本规模问题,提出一种改进的LDA算法。首先对样本进行无损降维;然后在Fisher准则基础上,用散度矩阵差代替散度矩阵的比值,避免对类内矩阵求逆的同时也降低了计算复杂度,实现有效的特征抽取;最后实现对人脸的识别。实验结果表明,该算法是有效的,优于传统LDA方法。     

基于最小分类错误率和Parzen窗的降维方法

提出了一种基于最小分类错误率和Parzen窗的降维方法,利用Parzen窗估计数据的概率密度分布;通过计算各特征维度下的分类错误率,判断该特征维度对目标分类的贡献度;依据贡献度大小进行特征维度选择从而达到降维的目的。     

面向局部线性回归分类器的判别分析方法

局部线性回归分类器（locality-regularized linear regression classification,LLRC）在人脸识别上表现出了高识别率以及高效性的特点,然而原始特征空间并不能保证LLRC的效率。为了提高LLRC的性能,提出了一种与LLRC相联系的新的降维方法,即面向局部线性回归分类器的判别分析方法（locality-regularized linear regression classification based discriminant analysis,LLRC-DA）。LLRC-DA根据LLRC的决策准则设计目标函数,通过最大化类间局部重构误差并最小化类内局部重构误差来寻找最优的特征子空间。此外,LLRC-DA通过对投影矩阵添加正交约束来消除冗余信息。为了有效地求解投影矩阵,利用优化变量之间的关系,提出了一种新的迹比优化算法。因此LLRC-DA非常适用于LLRC。在FERET和ORL人脸库上进行了实验,实验结果表明LLRC-DA比现有方法更具有优越性。     

Feature Extraction and Uncorrelated Discriminant Analysis for High-Dimensional Data

High-dimensional data and the small sample size problem occur in many modern pattern classification applications such as face recognition and gene expression data analysis. To deal with such data, one important step is dimensionality reduction. Principal component analysis (PCA) and between-group analysis (BGA) are two commonly used methods, and various extensions of these two methods exist. The principle of these two approaches comes from their best approximation property. From a pattern recognition perspective, we show that PCA, which is based on the total scatter matrix, preserves linear separability, and BGA, which is based on between-class scatter matrix, retains the distance between class centroids. Moreover, we propose an automatic nonparameter uncorrelated discriminant analysis (UDA) algorithm based on the maximum margin criterion (MMC). The extracted features via UDA are statistically uncorrelated. UDA combines rank-preserving dimensionality reduction and constraint discriminant analysis and also serves as an effective solution for the small-sample-size problem. Experiments with face images and gene expression data sets are conducted to evaluate UDA in terms of classification accuracy and robustness.     

基于模糊准则的小波特征选择在人脸识别中的应用

提出一种基于模糊准则的小波特征选择方法来实现人脸识别．首先，利用模糊准则得到最优小波包分解；其次，亦利用模糊准则对最优小波包分解中特征（小波系数）的分类能力进行评价并排序；再次，选择鉴别能力强的特征并将它们输入到EFM模型以实现降维，并使用基于最小二乘误差的线性鉴别函数实现分类．人脸识别实验结果表明基于模糊准则的小波特征选择方法的识别率要高于主元分析（PCA）算法．