一种自适应加权的双向二维线性鉴别分析算法

二维线性鉴别分析是一种直接基于矩阵的特征提取方法,有效地提高了特征提取速度且避免了小样本问题,但是提取的特征向量维数高,不利于后期分类,而且获得的最佳投影矩阵只是来自于图像的列信息.另外,不同的样本在求取最佳投影矩阵时,所起的作用是不一样的,因此提出了一种自适应加权的双向二维线性鉴别分析算法,即是对图像矩阵顺序地进行水平和垂直2个方向的二维线性鉴别分析,自适应加权处理则是使不同的样本带有不同的权值,以提高样本在低维线性空间中的可分性.在ORL和Yale人脸库上的实验结果表明,改进的算法在降低了原算法提取的特征向量维数的同时,较原二维线性鉴别分析的识别性能有了较明显的改善.     

融合2DUDT与2DLDA的人脸识别研究

提出了一种融合二维非相关判别转换和二维线性鉴别分析分别提取人脸图像矩阵行方向的非相关鉴别信息和列方向的线性鉴别信息的人脸识别方法。该融合方法将线性鉴别向量提取方法与非相关鉴别向量提取方法相结合。首先计算进行人脸图像矩阵列压缩时的类间散射矩阵和类内散射矩阵,用二维线性鉴别分析计算特征值和所对应的特征向量,用特征向量集对人脸图像矩阵进行列压缩。其次,计算人脸图像矩阵行压缩时的类间散射矩阵、类内散射矩阵和总体散射矩阵,用二维非相关判别转换求出最优投影矩阵并用最优投影矩阵的转置矩阵对人脸图像矩阵行压缩。最后用最近邻分类器对压缩的ORL人脸图像测试样本进行分类处理,可实现人脸图像的准确识别。     

基于卷积-反卷积网络的正交人脸特征学习算法

身份特征与表情特征是人脸图像分析中的两组重要特征,传统的有监督正交人脸特征学习(supervised orthogonal facial feature learning,SOFFL)算法虽然能够在给定表情和身份标签时学习这一对特征,但因数据要求较高令其应用受限.提出一种低数据要求的无监督正交人脸特征学习(unsupervised orthogonal facial feature learning,UOFFL)算法,通过提取正交人脸特征的统一框架,假设人脸图像空间中仅有身份和表情变化,使用重构损失、分类损失和相关性最小化损失的组合,采用深度卷积-反卷积神经网络,从已对齐的人脸图像中联合学习,提取身份和表情特征.其中,分类损失用于学习表情特征;相关性最小化损失用于提高身份特征和表情特征之间的独立性;重构损失用于确保两组特征组合的信息完整性.在大规模合成人脸表情数据集(large-scale synthesized facial expression dataset,LSFED)和受限的Radboud人脸数据集(Radboud faces dataset,RaFD)上进行验证,将所学身份特征空间中的欧氏距离用于人脸验证任务,结果表明,算法性能接近联合贝叶斯等有监督人脸识别方法.UOFFL算法可在身份标签缺失的条件下,仅使用表情特征学得身份特征.相比改进前的SOFFL算法,该方法缓解了对身份标签的依赖,适用场合更广.     

基于四元数矩阵表示的彩色人脸图像LDA方法

为了缓解线性判别分析(linear discriminant analysis,LDA)方法在小样本情况下出现的矩阵奇异性问题,针对彩色人脸图像,利用其四元数矩阵表示模式,在人脸识别中引入基于四元数表示的二维LDA、双向LDA方法.这些方法充分利用了彩色图像的空间分布信息,通过在行、列方向降维提取图像的2DLDA、BDLDA特征,缓解了类内散度矩阵的奇异性问题.在FERET彩色人脸数据库及AR彩色人脸数据库上的大量实验证明,本文方法与基于四元数矩阵表示的2DPCA、BDPCA算法相比,识别性能均有提高.     

基于2DUGDP的戴眼镜人脸识别

针对戴眼镜人脸识别问题,提出了二维非监督测地线判别投影(2D unsupervised geodesic discriminant projection,2DUGDP)方法.该方法在扩充虚拟样本库的基础上,分析戴眼镜人脸图像和不戴眼镜人脸图像的差异及戴不同眼镜人脸图像的差异,提取判别特征用于识别.该特征考虑局部特征的同时考虑非局部特征,寻找一种最优投影在最大化非局部散度矩阵的同时最小化局部散度矩阵,使得距离近的数据投影后仍然近,距离远的数据投影后仍然远.考虑到人脸是非线性的流形结构,文中采用测地线距离表示样本间的差异.在FERET人脸库和CAS-PEAL人脸库上分别进行了实验,实验结果表明,该方法相比较其他方法更能提高戴眼镜人脸的识别率.     

一种基于卷积神经网络的人脸表情自动识别方法

针对传统机器学习方法在人脸表情识别上存在特征提取繁琐、表情识别准确率不高的问题,提出一种基于深度学习的人脸表情自动识别方法.设计了一个卷积神经网络模型,以原始图像数据为输入,中间以卷积层和池化层交替作为隐层进行特征自动提取,最后将提取到的特征数据映射到全连接层,并采用Softmax函数作为分类器计算分类得分概率,实现人脸表情的自动识别分类.在公开的人脸表情数据集CK+上进行实验,结果表明本文方法能更准确地识别人脸表情.     

基于小波变换及加权主元分析的人脸表情识别

为了更准确地识别人脸的表情信息,采用加权主元分析识别人脸表情.首先通过小波变换进行图像分解来抽取面部区域的有效鉴别特征,然后将特征加权和主元分析相结合,根据加权重建误差最小化,计算出各类训练样本的加权子空间,最后计算测试样本到加权子空间的Mahalanobis距离,并根据距离进行分类识别.通过CMU人脸表情数据库试验证明,该方法与传统的主元分析相比可以在不增加运算量的情况下大大提高识别率.     

一种基于改进的卷积神经网络的人脸表情识别方法

针对人脸表情识别的准确率较低、鲁棒性较差的问题,本文提出一种加深层数的卷积神经网络,将卷积神经网络LeNet的2层卷积、2层池化、一层全连接分别修改为4层卷积、4层池化、2层全连接.首先对人脸表情图像进行关键点定位、人脸裁剪、图像归一化等预处理,然后利用卷积层提取人脸图像的低维度和高维度的特征信息,池化层对提取的人脸特征信息进行降维处理.最后采用softmax分类器对训练样本图像的表情进行分类识别.为了提高表情识别的准确率,在表情训练集中加入了自制的标注图片集.仿真对比实验表明改进的模型精度更高、损失曲线更平滑,验证了改进网络的有效性.     

基于二维线性判别分析的彩色人脸识别

为了提高人脸识别的准确率,提出了一种基于二维线性判别分析的彩色人脸识别算法,直接对彩色人脸图像不同通道的颜色信息进行编码,采用矩阵表示模型描述人脸对象;融合人脸的类别特征,采用二维线性判别分析的算法提取彩色人脸的分类特征;根据投影后的特征矩阵,采用最近邻分类的算法进行人脸识别.利用CVL和CMU PIE彩色人脸数据库进行实验.结果表明,本文提出的彩色人脸识别算法能有效地提高人脸识别的准确率,明显优于对比的算法.     

基于数据融合的表情识别

为了解决表情识别中单一数据所包含人脸表情信息不全面的问题,融合了图像与标记点数据;针对传统模式识别方法中手动提取特征的复杂性,采用神经网络框架,从而实现了特征的自动提取。本文算法以人脸表情的图像与标记点数据为基础,以神经网络为框架,采用稀疏自动编码器对网络进行预训练,实现了网络的稀疏连接,另外,在网络权值更新过程中结合了结构化正则项(structured regularization),限制了不同数据与隐层神经元的连接。实验表明:图像与标记点数据的融合更全面地表达了人脸表情信息;稀疏自动编码器和结构化正则项的运用能更有效地提取关键特征,并使神经网络自动分析不同输入数据在表情识别中所起到的作用强弱。     

一种安全的基于分歧的半监督分类算法

为提高半监督分类的性能,提出一种安全的基于分歧的半监督分类算法Safe Co-SSC。通过有标记样本训练3个有监督分类器,利用无标记样本的信息增加分类器的差异性,采取3个分类器加权投票的策略实现对无标记样本的伪标记;对伪标记样本进行二次验证,选用能使分类器误差减小的新增标记样本扩充标记样本集。保证新样本的添加既减小了分类器的分类误差,又提高了分类器的分歧性。对UCI数据集进行分类实验的结果表明,该算法具有较高的分类率和样本标记率。       

结合主动学习和半监督学习的网络入侵检测算法

为提高网络入侵检测的分类效率,提出一种结合主动学习和半监督学习的入侵检测算法。结合入侵检测实际,对主动学习算法进行简化,用有标记样本训练生成2个分类器,实现对未标记样本的预测;将2个分类器预测不一致的未标记样本作为信息量丰富的样本,使用半监督学习算法进行标记;最后, 把新增加的新标记样本添加到主动学习和半监督学习的训练集中,训练各自分类器, 反复迭代直到未标记样本集为空, 并用最新的有标记样本集训练形成最终的分类器。使用KDD CUP 99数据集进行入侵检测实验,其结果表明,与SVM方法相比,其分类率提高了4.3%,且较好地缩减了问题规模。       

空间约束半监督高斯过程下的高光谱图像分类

针对高光谱遥感图像分类中带标记训练样本较少、导致分类正确率偏低的问题,提出用于高光谱图像分类的空间约束半监督高斯过程方法.由于高光谱图像的特征空间满足流形分布假设,大量未标记样本可以使数据空间变得更加稠密,从而有助于更加准确地刻画局部空间特性,提高分类的精度和普适性.通过对高斯过程模型中的核函数施加空间近邻约束,建立未标记样本与带标记样本之间的空间联系.该半监督高斯过程分类器不仅可以提升高光谱遥感图像的分类性能,而且构造简单,实现方便.实验结果表明,在仅有少量带标记的训练样本情况下,半监督高斯过程分类方法对高光谱图像有较高的分类精度和稳定性.     

多视图交叉一致性学习的半监督水面目标检测

为缓解基于半监督学习的水面目标检测对有限标注样本过拟合的问题,提高无标注样本中目标提取的有效性,提出了基于多视图交叉一致性学习的半监督水面目标检测算法。首先,该算法通过数据增强的方式为训练样本生成不同的视图以丰富数据集的多样性;然后,利用所提出的多视图目标判别器为无标注样本在线生成伪标签,有助于提取无标注样本的有效信息;最后,利用所提出的多视图交叉一致性学习使同一目标实例的不同视图的输出实现交叉一致性正则化,以促进检测模型学习判别性的特征从而降低过拟合的风险。在海上和内河数据集上的实验结果表明：文中所提算法能够提高特征提取的判别性,对多类别的水面目标检测精度达到91.0%,比全监督检测算法提高了18.7%,比其他半监督检测算法提高了3.8%以上;在检测速度上,该算法达到13.1帧/s,基本满足实时性要求。所提算法通过多视图交叉一致性学习提高特征的判别性和缓解检测模型的过拟合风险,有助于提高半监督水面目标检测的性能。     

Multi-label dimensionality reduction based on semi-supervised discriminant analysis

Multi-label data with high dimensionality often occurs, which will produce large time and energy overheads when directly used in classification tasks. To solve this problem, a novel algorithm called multi-label dimensionality reduction via semi-supervised discriminant analysis (MSDA) was proposed. It was expected to derive an objective discriminant function as smooth as possible on the data manifold by multi-label learning and semi-supervised learning. By virtue of the latent imformation, which was provided by the graph weighted matrix of sample attributes and the similarity correlation matrix of partial sample labels, MSDA readily made the separability between different classes achieve maximization and estimated the intrinsic geometric structure in the lower manifold space by employing unlabeled data. Extensive experimental results on several real multi-label datasets show that after dimensionality reduction using MSDA, the average classification accuracy is about 9.71% higher than that of other algorithms, and several evaluation metrices like Hamming-loss are also superior to those of other dimensionality reduction methods.     

一种基于主动学习的集成协同训练算法

为了更好地发挥主动学习、半监督学习和集成学习这3种机器学习方法的优势,研究了1个不需要2个充分冗余视图、泛化能力强的高效学习算法。从聚类假设出发,给出每轮协同训练过程中添加自动标记样本的置信度度量方法,降低误标记率;提出作为主动选择未标记样本依据的贡献度的概念,贡献度越高的样本,越具有人工标记的价值,在协同训练迭代结束后,选择贡献度高的样本标记,就能增强反馈的效果,提升学习性能,提出一种基于主动学习的集成协同训练算法。应用于图像检索的实验结果表明,提出的算法是高效可行的。     

基于特征分布的半监督分类

为了避免倾向于高频词的信息增益(information gain,IG)方法忽略各类别间的相似性特点,提出了一种基于特征分布的选择方法对IG进行修正,使真正拥有高类别区分信息的特征项被保留.同时,对最大期望值(expectation maximization,EM)算法的效率低下问题加以改进,将拥有较高后验类别概率的未标注文档逐步从未标注文档集转至已标注文档集,有效减少算法迭代次数.测试结果表明,基于特征分布的半监督学习方法在Reuter-21578和Epinion.com两个不同特点的数据集上都取得了较好的分类效果和性能.     

A fuzzy method to learn text classifier from labeled and unlabeled examples

In text classification, labeling documents is a tedious and costly task, as it would consume a lot of expert time. On the other hand, it usually is easier to obtain a lot of unlabeled documents, with the help of some tools like Digital Library, Crawler Programs, and Searching Engine. To learn text classifier from labeled and unlabeled examples, a novel fuzzy method is proposed. Firstly, a Seeded Fuzzy c-means Clustering algorithm is proposed to learn fuzzy clusters from a set of labeled and unlabeled examples. Secondly, based on the resulting fuzzy clusters, some examples with high confidence are selected to construct training data set. Finally,the constructed training data set is used to train Fuzzy Support Vector Machine, and get text classifier. Empirical results on two benchmark datasets indicate that, by incorporating unlabeled examples into learning process,the method performs significantly better than FSVM trained with a small number of labeled examples only. Also, the method proposed performs at least as well as the related method-EM with Naieve Bayes. One advantage of the method proposed is that it does not rely on any parametric assumptions about the data as it is usually the case with generative methods widely used in semi-supervised learning.     

一种面向入侵检测的半监督聚类算法

为了解决传统的入侵检测聚类算法准确率较低这个问题,结合半监督学习的思想,提出了一种面向入侵检测的半监督聚类算法。首先利用样本数据集中的部分标记数据,生成用于初始化聚类的种子集,通过计算样本数据集中标记点与每个类簇中标记点均值的欧氏距离,得到每类的初始聚类中心,实现了入侵检测数据的准确识别。该算法有效地避免了传统聚类算法中初始聚类中心选择的盲目性和随机性,提高了检测率。实验结果表明,在处理入侵检测数据时,该算法能够充分利用少量类标记信息进行半监督学习,较传统的K-means算法聚类效果更好,检测准确率更高。     

无监督域适应的表示学习算法

在传统模式识别的训练方法中,拥有大量标签的有监督学习方法在识别准确率上取得了很好的效果.然而在实际生活中样本常常缺失标签,或现存有标签的样本与目标样本具有较大分布差异而不能直接使用.为了解决这些问题,无监督域自适应算法应运而生,借助源域有标签但不同分布的样本去识别无标签的目的域样本.针对目标识别样本与训练样本分布不一致...