基于块对角化表示的多视角字典对学习

字典学习作为一种高效的特征学习技术被广泛应用于多视角分类中。现有的多视角字典学习方法大多只利用多视角数据的部分信息,且只学习一种类型的字典。实际上,多视角数据的相关性信息和多样性信息同样重要,且仅考虑一种合成型字典或解析型字典的学习算法不能同时满足处理速度、可解释性以及应用范围的要求。针对上述问题,提出了一种基于块对角化表示的多视角字典对学习方法(Block-Diagonal Representation based Multi-View Dictionary-Pair Learning,BDR-MVDPL),该方法通过引入字典对学习模型获得包含更多对分类有用的信息的表示系数,并通过显式约束使其具有块对角化结构,保证了编码系数矩阵的判别性;然后采用特征融合的方式将所有视角的编码系数进行串联,并将串联后的编码系数回归到对应的标签向量上,使多视角数据的多样性信息和数据相关性能够同时被利用;最后,该算法将字典学习与分类器学习整合到一个框架中,采用迭代求解的方式,交替更新字典对和分类器,使所提方法能够自动完成分类。3个多特征数据集上的实验结果表明,与主流的多视角字典学习算法相比,所提算法在保持低复杂度的同时具有更高的分类准确率。     

面向乳腺病理图像分类的非相干字典学习及稀疏表示算法

针对乳腺病理图像分类,提出一种非相干字典学习及其稀疏表示算法.首先针对不同类别的图像,基于在线字典学习算法分别学习各类特定的子字典;其次利用紧框架建立一种非相干字典学习模型,通过交替投影优化字典的相干性、秩与紧框架性,从而有效地约束字典的格拉姆矩阵与参考格拉姆矩阵的距离,获得判别性更强的非相干字典;最后采用子空间旋转方法优化非相干字典的稀疏表示性能.利用乳腺癌数据集BreaKHis进行实验的结果证明,该算法所学习的非相干字典能平衡字典的判别性与稀疏表示性能,在良性肿瘤与恶性肿瘤图像分类上获得了86.0%的分类精度;在良性肿瘤图像中的腺病与纤维腺瘤的分类上获得92.5%的分类精度.     

流形结构化半监督扩展字典学习的旋转设备故障诊断

针对有标签数据不足及传统故障诊断模型判别性差的问题,本文提出一种流形结构化半监督扩展字典学习(MS-SSEDL)的故障诊断方法.首先,为改善缺少有标签数据而导致模型的识别性能较差问题,在MS-SSEDL模型中提出无标签数据重构误差项,利用无标签数据学习置信度矩阵,从而学习得到扩展字典以增强字典学习的表示性.然后,为增强MS-SSEDL模型的判别性,通过保存数据的流形结构,学习数据中内在几何信息的稀疏表示,增强信号表示能力及字典判别性.最后,在数字图像、轴承故障及齿轮故障公共数据集的实验表明所提MS-SSEDL方法比其他先进方法的识别性能更优越.     

基于原子Fisher判别准则约束字典学习算法

为了提高字典的判别性能,提出基于原子Fisher判别准则约束的字典学习算法AFDDL。首先,利用特定类字典学习算法为每个原子分配一个类标,计算同类原子和不同类原子间的散度矩阵。然后,利用类内散度矩阵和类间散度矩阵的迹的差作为判别式约束项,促使不同类原子间的差异最大化,并在最小化同类原子间差异的同时减少原子间的自相关性,使得同类原子尽可能地重构某一类样本,提高字典的判别性能。在AR、FERET和LFW三个人脸数据库和USPS手写字体数据库中进行实验,实验结果表明,在四个图像数据库中,所提算法在识别率和训练时间方面均优于类标一致的K奇异值分解（LC-KSVD）算法、局部特征和类标嵌入约束的字典学习（LCLE-DL）算法、支持矢量指导的字典学习（SVGDL）算法和Fisher判别字典学习算法;且在四个数据库中,该算法也比稀疏表示分类（SRC）和协同表示分类（CRC）取得更高的识别率。     

改进标签一致KSVD字典学习的人脸识别算法

针对噪声污染、光照变化等复杂环境下人脸图像识别问题,提出一种改进标签一致KSVD字典学习的人脸识别算法。该算法通过改变标签一致KSVD算法的字典更新方式,用主成分分析算法分解误差项,用最大特征值对应的特征向量修改字典原子。通过字典学习过程得到原子与类别标签对应的判别性字典。目标函数综合了重建误差、稀疏编码误差和分类误差。最后,在分类阶段利用学习到的字典和分类器参数对测试样本进行分类。在有光照变化的Extend Yale B人脸库、表情变化以及遮挡影响的AR人脸库上分别取得了99.01%和97.94%的平均识别率。同时,在有噪声存在的情况下,该算法具有较好的鲁棒性。     

基于分类的M近邻判别性低秩字典学习算法

针对稀疏编码学习的字典过大而导致字典冗余和计算复杂的问题,提出了一种M近邻判别性低秩字典学习( MLR)算法。该算法首先引入低秩表示,去除字典的噪声,使同类字典原子之间具有更强的线性相关性,可增强字典的紧凑性和纯粹性,提高字典的质量。然后用K-奇异值分解( KSVD)算法更新字典,保持字典的表示性能,获取最优的稀疏解。在分类中,结合M近邻思想,可得到与测试样本能量相近的字典原子,增强其聚类能力,并能提高分类的精确度。基于扩展的YaleB和AR人脸数据库上的实验结果表明,该方法用较小的字典得到更好的分类性能,并优于对比的算法。     

融合字典学习的小样本人脸鉴别

基于稀疏表示的人脸鉴别方法通过提高字典的判别力来提高识别准确率,本文针对小样本训练,提出一种新的融合字典学习方法.首先利用Fisher判别准则及LBP金字塔进行数据预处理;其次提出新的融合字典学习模型,该模型由公共字典、类别特色字典及扰动字典三部分构成,分别提取数据共性、不同类别数据的特殊性以及异常情况下的数据扰动性;最后根据融合字典模型提出一种新的分类器,并在AR、YALE、CMU-PIE、LFW人脸数据库进行实验,结果表明本文算法具有更高的识别率和有效性.     

判别性双向协同表示的图像识别算法

基于协同表示的分类(CRC)以其卓越的协同能力成为人脸分类领域的一个突破。然而在实际应用中,通常只提供很少甚至是单个人脸图像来进行人脸识别,这导致了CRC无法很好地处理光照、表情、姿态和遮挡等问题。针对该问题,提出一种判别性双向协同表示的图像识别算法(DB-CRC)。首先通过引入判别式字典学习(FDDL)模型学习得到一个结构化字典,使得每个特定类的子字典对相关类的样本具有良好的表示能力,由此,较大的类间离散度和较小的类内离散度使得重构误差和编码系数都具有判别性;然后将学习得到的稀疏编码系数作为测试样本数据进行双向表达,建立快速逆向表示模型,利用双向表示策略估计每个测试样本与结构化字典之间的双向重构残差信息;最后利用竞争融合方法对来自双向表示模型的重构残差进行加权排名,实现最终的人脸分类。在AR、PIE、LFW等通用人脸数据库上的实验结果验证了该算法的有效性,特别是对小样本问题的鲁棒性。     

基于多任务联合判别稀疏表示的人脸识别

针对人脸识别中由于姿态、光照及噪声等影响造成的识别率不高的问题,提出一种基于多任务联合判别稀疏表示的人脸识别方法。首先提取人脸的局部二值特征,并基于多个特征建立一个联合分类误差与表示误差的过完备字典学习目标函数。然后,使用一种多任务联合判别字典学习方法,将多任务联合判别字典与最优线性分类器参数联合学习,得到具有良好表征和鉴别能力的字典及相应的分类器,进而提高人脸识别效果。实验结果表明,所提方法相比其他稀疏人脸识别方法具有更好的识别性能。     

基于改进字典学习算法的人脸识别

为了提高基于稀疏表示的人脸识别速度和对图像的噪声、遮挡、损坏的鲁棒性,提出了拓展的稀疏表示模型和D-KSVD(Discrimination K-SVD)的人脸识别算法。在原始的稀疏表示模型中添加了残差向量作为系数修正向量,使得拓展的稀疏表示模型具有更强的鲁棒性。针对字典学习中只包含表示能力没有包含类别信息的问题,在字典学习中添加了稀疏编码和分类器参数约束项,在字典学习的过程中同时更新稀疏编码和分类器参数,使字典中包含很好的表示能力和判别分类能力,用其稀疏编码系数进行人脸识别分类时能获得更好的识别性能。     

Learning group-based dictionaries for discriminative image representation

Dictionary learning is a critical issue for achieving discriminative image representation in many computer vision tasks such as object detection and image classification. In this paper, a new algorithm is developed for learning discriminative group-based dictionaries, where the inter-concept (category) visual correlations are leveraged to enhance both the reconstruction quality and the discrimination power of the group-based discriminative dictionaries. A visual concept network is first constructed for determining the groups of visually similar object classes and image concepts automatically. For each group of such visually similar object classes and image concepts, a group-based dictionary is learned for achieving discriminative image representation. A structural learning approach is developed to take advantage of our group-based discriminative dictionaries for classifier training and image classification. The effectiveness and the discrimination power of our group-based discriminative dictionaries have been evaluated on multiple popular visual benchmarks.     

基于类标一致和局部特征约束的字典学习算法

为了提高字典学习算法的分类性能,提出基于原子的类标一致和局部特征约束的字典学习算法（LCLCDL）。利用原子和训练样本的类标设计判别稀疏矩阵,并构造类标一致模型作为判别式项,促使同类训练样本对应的编码系数尽可能地相似。利用原子和编码系数矩阵的行向量（Profiles）构造局部特征模型作为判别式项,使其继承训练样本的结构特征。实验结果表明LCLCDL算法比5个稀疏编码和字典学习算法可取得更高的分类性能。     

基于Profiles的Fisher判别约束字典学习算法

为了增强编码系数的判别性能,提出编码系数矩阵行向量（Profiles）的Fisher判别字典（Profiles of fisher discriminative dictionary learning,PFDDL）学习算法。首先,根据Profiles能反映原子在字典学习中的使用情况,提出一种自适应的原子类标构造方法。然后,利用Profiles与原子间的一一对应关系,设计Profiles的Fisher判别准则作为判别式项,使得同类原子对应Profiles的类内散度尽可能小,不同类原子对应Profiles的类间散度尽可能大,促使字典中的同类原子尽量表示同类训练样本,提高编码系数的判别性能。在3个人脸和1个手写字体数据库上的实验结果表明,提出的算法比其他稀疏编码和字典学习算法能取得更高的分类性能。     

基于流形学习的极端学习机及其在人脸识别中的应用

极端学习机以其快速高效和良好的泛化能力在模式识别领域得到了广泛应用,然而现有的ELM及其改进算法并没有充分考虑到数据维数对ELM分类性能和泛化能力的影响,当数据维数过高时包含的冗余属性及噪音点势必降低ELM的泛化能力,针对这一问题本文提出一种基于流形学习的极端学习机,该算法结合维数约减技术有效消除数据冗余属性及噪声对ELM分类性能的影响,为验证所提方法的有效性,实验使用普遍应用的图像数据,实验结果表明本文所提算法能够显著提高ELM的泛化性能。     

基于核字典学习的图像分类

航拍图像往往具有场景复杂、数据维度大的特点,对于该类图像的自动分类一直是研究的热点。针对航拍原始数据特征维度过高和数据线性不可分的问题,在字典学习和稀疏表示的基础上提出了一种结合核字典学习和线性鉴别分析的目标识别方法。首先学习核字典并通过核字典获取目标样本的稀疏表示,挖掘数据的内部结构;其次采用线性鉴别分析,加强稀疏表示的可分性;最后利用支持向量机对目标进行分类。实验结果表明,与传统基于子空间特征提取的算法和基于字典学习的算法相比,基于核字典学习与鉴别分析的算法分类性能优越。     

基于判别性解析字典与分类器学习的模式分类

稀疏表示（Sparse Representation,SR）和字典学习（Dictionary Learning,DL）已被广泛用于编码特征数据并有助于模式分类。现有方法通常使用[l1/l2]范数或每类使用特定字典来强制SR的类判别能力,但由此产生的类判别能力有限。在这项工作中,提出使用训练集作为训练样本的SR的综合字典,因为它为每类数据提供了最自然的特定字典。训练集的类信息可用于增强SR的判别能力：精确块对角线结构,意味着每个数据只能由同类中数据表示。为了使测试阶段容易,在训练集的判别SR的监督下学习解析字典和线性分类器。一旦学习了解析字典和分类器,测试阶段就非常简单并且高效。称之为判别分析字典与分类器学习（Discriminative Analysis Dictionary and Classifier Learning,DADCL）。大量实验表明,该方法具有较好的分类性能。     

局部感知的类限制极限学习机

极限学习机(ELM)由于高效的训练方式被广泛应用于分类回归,然而不同的输入权值在很大程度上会影响其学习性能。为了进一步提高ELM的学习性能,针对ELM的输入权值进行了研究,充分利用图像局部感知的稀疏性,将局部感知的方法运用到基于自动编码器的ELM(ELM-AE)上,提出了局部感知的类限制极限学习机(RF-C₂ELM)。通过对MNIST数据集进行分类问题分析实验,实验结果表明,在具有相同隐层结点数的条件下,提出的方法能够获得更高的分类精度。     

基于蚁群优化的极限学习机选择性集成学习算法

针对现有极限学习机集成学习算法分类精度低、泛化能力差等缺点,提出了一种基于蚁群优化思想的极限学习机选择性集成学习算法。该算法首先通过随机分配隐层输入权重和偏置的方法生成大量差异的极限学习机分类器,然后利用一个二叉蚁群优化搜索算法迭代地搜寻最优分类器组合,最终使用该组合分类测试样本。通过12个标准数据集对该算法进行了测试,该算法在9个数据集上获得了最优结果,在另3个数据集上获得了次优结果。采用该算法可显著提高分类精度与泛化性能。     

面向类别不平衡数据的主动在线加权极限学习机算法

针对在样本类别分布不平衡场景下,现有的主动学习算法普遍失效及训练时间过长等问题,提出采用建模速度更快的极限学习机,即ELM(Extreme Learning Machine)作为主动学习的基分类器,并以加权ELM算法用于主动学习过程的平衡控制,进而在理论上推导了其在线学习的过程,大幅降低了主动学习的时间开销,并将最终的混合算法命名为AOW-ELM算法。通过12个基准的二类不平衡数据集验证了该算法的有效性与可行性。     

Deep locality-sensitive discriminative dictionary learning for semantic video analysis

Video semantic analysis (VSA) has received significant attention in the area of Machine Learning for some time now, particularly video surveillance applications with sparse representation and dictionary learning. Studies have shown that the duo has significantly impacted on the classification performance of video detection analysis. In VSA, the locality structure of video semantic data containing more discriminative information is very essential for classification. However, there has been modest feat by the current SR-based approaches to fully utilize the discriminative information for high performance. Furthermore, similar coding outcomes are missing from current video features with the same video category. To handle these issues, we first propose an improved deep learning algorithm—locality deep convolutional neural network algorithm (LDCNN) to better extract salient features and obtain local information from semantic video. Second, we propose a novel DL method, called deep locality-sensitive discriminative dictionary learning (DLSDDL) for VSA. In the proposed DLSDDL, a discriminant loss function for the video category based on sparse coding of sparse coefficients is introduced into the structure of the locality-sensitive dictionary learning (LSDL) method. After solving the optimized dictionary, the sparse coefficients for the testing video feature samples are obtained, and then the classification result for video semantic is realized by reducing the error existing between the original and recreated samples. The experiment results show that the proposed DLSDDL technique considerably increases the efficiency of video semantic detection as against competing methods used in our experiment.