稀疏限制的增量式鲁棒非负矩阵分解及其应用

针对鲁棒非负矩阵分解（RNMF）的运算规模随训练样本数量逐渐增多而不断增大的问题，提出一种稀疏限制的增量式鲁棒非负矩阵分解算法。首先，对初始数据进行鲁棒非负矩阵分解；然后，将其分解结果参与到后续迭代运算；最后，在对系数矩阵增加稀疏限制的情况下与增量式学习相结合，使目标函数值在迭代求解时下降地更快。该算法在节省运算时间的同时提高了分解后数据的稀疏度。在数值实验中，将所提算法与鲁棒非负矩阵分解算法、稀疏限制的鲁棒非负矩阵分解（RNMFSC）算法进行了比较。在ORL和YALE人脸数据库上的实验结果表明，所提算法在运算时间和分解后数据的稀疏度等方面均优于其他两个算法，并且还具有较好的聚类效果，尤其在YALE人脸数据库上当聚类类别数为3时该算法的聚类准确率达到了91.67%。     

一种有监督的线性降维人脸识别算法

保局投影（LPP）忽略了数据的类别标记信息且鲁棒性较差,为此,提出一种线性判别投影（LDP）算法。引入类问权重矩阵和类内权重矩阵,使各流形间的分离性最大,局部子流形的内在紧致性最小,同时通过一种鲁棒的类内处理方式使算法对outlier数据具有鲁棒性。在ORL、AR和ExtendedYaleB人脸数据集上进行实验,结果表明,与PCA、LDA、LPP、LSDA和LPDP算法相比,该算法的最佳平均识别率较高,分别可达95．3％、93．64％和96．28％,证明了算法的有效性和可靠性。     

卷积鲁棒主成分分析

鲁棒主成分分析（RPCA）是一种经典的高维数据分析方法,可从带噪声的观测样本中恢复出原始数据。但是,RPCA能工作的前提是目标数据拥有低秩矩阵结构,不能有效处理实际应用中广泛存在的非低秩数据。研究发现,虽然图像、视频等数据矩阵本身可能不是低秩的,但它们的卷积矩阵通常是低秩的。根据这一原理,提出一种称为卷积鲁棒主成分分析（CRPCA）的新方法,利用卷积矩阵的低秩性对原始数据的结构进行约束,从而实现精确的数据恢复。CPRCA模型的计算过程是一个凸优化问题,通过乘子交替方向法（ADMM）来进行求解。通过对合成数据向量以及真实数据图片、视频序列进行实验,验证了该方法相较于其他算法如RPCA、广义鲁棒主成分分析（GRPCA）以及核鲁棒主成分分析（KRPCA）在处理数据非低秩问题上优越性。     

基于样本加权的格拉斯曼平均算法

格拉斯曼平均子空间对应着高斯数据的主成分,解决了PCA的扩展性问题,但算法假定样本的贡献取决于样本的长度,这可能导致离群点对算法的干扰较强。为此,利用无监督学习数据的局部特性或监督学习中样本的类别信息建立样本的权重,从而提出一种基于样本加权的格拉斯曼平均的算法,在UCI数据集和ORL人脸数据库上的实验结果表明,新算法有好的鲁棒性并且其识别率比已有方法提高1%~2%。     

一种半监督对抗鲁棒模型无关元学习方法

元学习期望训练所得的元模型在学习到的“元知识”基础上利用来自新任务的少量标注样本，仅通过较少的梯度下降步骤微调模型就能够快速适应该任务。但是，由于缺乏训练样本，元学习算法在元训练期间对现有任务过度训练时所得的分类器决策边界不够准确，不合理的决策边界使得元模型更容易受到微小对抗扰动的影响，导致元模型在新任务上的鲁棒性能降低。提出一种半监督对抗鲁棒模型无关元学习（semi-ARMAML）方法，在目标函数中分别引入半监督的对抗鲁棒正则项和基于信息熵的任务无偏正则项，以此优化决策边界，其中对抗鲁棒正则项的计算允许未标注样本包含未见过类样本，从而使得元模型能更好地适应真实应用场景，降低对输入扰动的敏感性，提高对抗鲁棒性。实验结果表明，相比ADML、R-MAML-TRADES等当下主流的对抗元学习方法，semi-ARMAML方法在干净样本上准确率较高，在MiniImageNet数据集的5-way 1-shot与5-way 5-shot任务上对抗鲁棒性能分别约提升1.8%和2.7%，在CIFAR-FS数据集上分别约提升5.2%和8.1%。     

基于全局与局部相似性测度的非刚性点集配准

非刚性点集配准算法中，能否找到正确的对应关系对配准结果起着至关重要的作用，而通常两个点集中的对应点除了距离比较接近之外还具有相似的邻域结构，因此提出基于全局与局部相似性测度的非刚性点集配准算法。首先，使用一致性点漂移（CPD）算法作为配准框架，采用高斯混合模型对点集进行建模。然后，对全局局部混合距离进行改进，形成全局与局部相似性测度准则。最后，采用期望最大化（EM）算法迭代地求解对应关系和变换公式：在迭代初期局部相似性所占比重较大，从而能够尽快地找到正确的对应关系；随着迭代的进展全局相似性比重逐渐增大，从而确保得到较小的配准误差。实验结果表明，与薄板样条鲁棒点匹配（TPS-RPM）算法、高斯混合模型点集配准（GMMREG）算法、基于L₂E估计的鲁棒点匹配算法（RPM-L2E）、基于全局局部混合距离与薄板样条的点集配准算法（GLMDTPS）和CPD算法相比，所提算法的均方根误差（RMSE）分别下降了39.93%、42.45%、32.51%、22.36%和11.76%，说明该算法具有较好的配准效果。     

基于自步学习的鲁棒多样性多视角聚类

目的 大数据环境下的多视角聚类是一个非常有价值且极具挑战性的问题。现有的适合大规模多视角数据聚类的方法虽然在一定程度上能够克服由于目标函数非凸性导致的局部最小值,但是缺乏对异常点鲁棒性的考虑,且在样本选择过程中忽略了视角多样性。针对以上问题,提出一种基于自步学习的鲁棒多样性多视角聚类模型（RD-MSPL）。方法 1）通过在目标函数中引入结构稀疏范数L_2,1来建模异常点;2）通过在自步正则项中对样本权值矩阵施加反结构稀疏约束来增加在多个视角下所选择样本的多样性。结果 在Extended Yale B、Notting-Hill、COIL-20和Scene15公开数据集上的实验结果表明：1）在4个数据集上,所提出的RD-MSPL均优于现有的2个最相关多视角聚类方法。与鲁棒多视角聚类方法（RMKMC）相比,聚类准确率分别提升4.9%,4.8%,3.3%和1.3%;与MSPL相比,准确率分别提升7.9%,4.2%,7.1%和6.5%。2）通过自对比实验,证实了所提模型考虑鲁棒性和样本多样性的有效性;3）与单视角以及多个视角简单拼接的实验对比表明,RD-MSPL能够更有效地探索视角之间关联关系。结论 本文提出一种基于自步学习的鲁棒多样性多视角聚类模型,并针对该模型设计了一种高效求解算法。所提方法能够有效克服异常点对聚类性能的影响,在聚类过程中逐步加入不同视角下的多样性样本,在避免局部最小值的同时,能更好地获取不同视角的互补信息。实验结果表明,本文方法优于现有的相关方法。     

基于自适应邻域的鲁棒多视图聚类算法

针对现存的基于自适应邻域的多视图聚类算法没有考虑噪声和共识图信息损失的问题,提出一种基于自适应邻域的鲁棒多视图聚类（RMVGC）算法。首先,为了避免噪声和异常值对数据的影响,通过鲁棒主成分分析模型（RPCA）从原始数据中学习多个干净的低秩数据;其次,用自适应邻域学习直接融合多个干净的低秩数据来得到一个干净的共识关系图,从而减少图融合过程中的信息丢失。实验结果表明,所提RMVGC算法的标准化互信息（NMI）在MRSCV1、BBCSport、COIL20、ORL和UCI digits数据集上比目前流行的多视图聚类算法分别提升了5.2、1.36、27.2、4.66和5.85个百分点。同时,该算法保持了数据局部结构,增强了对原始数据的鲁棒性,提高了关系图质量,在多视图数据集上具有较好的聚类性能。     

基于鲁棒的余弦欧氏距离度量降维的图像检索方法

为解决主成分分析（PCA）无法处理非线性数据集以及鲁棒性差的问题,提出一种鲁棒的余弦-欧氏距离度量的降维方法（RCEM）。该方法利用余弦度量（CM）能够处理离群点的特点来提取数据的局部几何特征,并利用欧氏距离能够很好地保持样本的方差信息的特点来刻画数据集的全局分布,在保留数据局部信息的同时实现了局部和全局的统一,提高了局部降维算法的鲁棒性,同时避免了局部小样本问题。实验结果显示,与角度优化全局嵌入（AOGE）方法相比,在Corel-1000数据集下检索查准率提高了5.61%,相比不降维时检索时间减少了42%。结果表明,RCEM算法能在不降低图像检索精度的同时提高图像检索的效率,可以有效应用于基于内容的图像检索（CBIR）。     

基于主动学习不平衡多分类AdaBoost算法的心脏病分类

针对不平衡分类中小类样本识别率低问题,提出一种基于主动学习不平衡多分类AdaBoost改进算法。首先,利用主动学习方法通过多次迭代抽样,选取少量的、对分类器最有价值的样本作为训练集;然后,基于不确定性动态间隔的样本选择策略,降低训练集的不平衡性;最后,利用代价敏感方法对多分类AdaBoost算法进行改进,对不同的类别给予不同的错分代价,调整样本权重更新速度,强迫弱分类器"关注"小类样本。在临床经胸超声心动图（TTE）测量数据集上的实验分析表明：与多分类支持向量机（SVM）相比,心脏病总体识别率提升了5.9%,G-mean指标提升了18.2%,瓣膜病（VHD）识别率提升了0.8%,感染性心内膜炎（IE）（小类）识别率提升了12.7%,冠心病（CAD）（小类）识别率提升了79.73%;与SMOTE-Boost相比,总体识别率提升了6.11%,G-mean指标提升了0.64%,VHD识别率提升了11.07%,先心病（CHD）识别率提升了3.69%。在TTE数据集和4个UCI数据集上的实验结果表明,该算法在不平稳多分类时能有效提高小类样本识别率,并且保证其他类别识别率不会大幅度降低,综合提升分类器性能。     

全局判别与局部稀疏保持HSI半监督特征提取

针对高光谱图像存在“维数灾难”的问题，提出一种全局判别与局部稀疏保持的高光谱图像半监督特征提取算法（GLSSFE）。该算法通过LDA算法的散度矩阵保存有类标样本的全局类内判别信息和全局类间判别信息，结合利用半监督PCA算法对有类标和无类标样本进行主成分分析，保存样本的全局结构；利用稀疏表示优化模型自适应揭示样本数据间的非线性结构，将局部类间判别权值和局部类内判别权值嵌入半监督LPP算法保留样本数据的局部结构，从而最大化同类样本的相似性和异类样本的差异性。通过1-NN和SVM两个分类器分别对Indian Pines和Pavia University两个公共高光谱图像数据集进行分类，验证所提特征提取方法的有效性。实验结果表明，该GLSSFE算法最高总体分类精度分别达到89.10%和92.09%，优于现有的特征提取算法，能有效地挖掘高光谱图像的全局特征和局部特征，极大地提升高光谱图像的地物分类效果。     

基于最大间隔准则的鲁棒多流形判别局部图嵌入算法

针对现有的多流形人脸识别算法大多直接使用带有噪声的原始数据进行处理，而带有噪声的数据往往会对算法的准确率产生负面影响的问题，提出了一种基于最大间距准则的鲁棒多流形判别局部图嵌入算法（RMMDLGE/MMC）。首先，通过引入一个降噪投影对原始数据进行迭代降噪处理，提取出更加纯净的数据；其次，对数据图像进行分块，建立多流形模型；再次，结合最大间隔准则的思想，寻求最优的投影矩阵使得不同流形上的样本距离尽可能大，同时相同流形上的样本距离尽可能小；最后，计算待识样本流形到训练样本流形的距离进行分类识别。实验结果表明，与表现较好的最大间距准则框架下的多流形局部图嵌入算法（MLGE/MMC）相比，所提算法在添加噪声的ORL、Yale和FERET库上的分类识别率分别提高了1.04、1.28和2.13个百分点，分类效果明显提高。     

鲁棒的加权核主成分分析算法

为减弱离群点对数据处理的影响, 提出了一种鲁棒的加权核主成分分析算法。利用核函数将样本投影到核空间, 在核空间构建一个样本加权重建误差最小模型, 最大限度地提取数据中的非线性信息并降低离群点样本的干扰。在Yale人脸库和UCI数据集上的实验表明, 该方法具有很好的识别率, 尤其对离群点样本具有较好的鲁棒性。     

面向多视图聚类的低秩张量表示学习

针对现有鲁棒图学习忽略多视图间的互补信息和高阶相关性问题,提出一种面向多视图聚类的低秩张量表示学习（LRTRL-MVC）算法。利用鲁棒主成分分析的思想,在去除噪声的干净数据上计算各视图的鲁棒图和转移概率矩阵,然后构建一个包含各视图马尔可夫转移概率矩阵的张量,采用基于张量奇异值分解的核范数来确保目标张量的低秩性质。利用迭代最优化算法求解,将求得的低秩张量作为马尔可夫谱聚类算法的输入得到最终聚类结果。在4个不同类型的公开标准数据集BBCSport、NGs、Yale和MSRCv1上进行实验并与相关的最好多视图聚类算法进行对比,结果表明在3个聚类度量标准下,所提算法的聚类结果均高于其他对比算法。     

基于迁移孪生非负矩阵分解的静脉识别算法

针对某一静脉图像数据集下获得的识别算法对于其他数据集缺少普适性的问题，提出了一种具有迁移性的孪生非负矩阵分解（NMF）模型。首先，通过采用两个结构相同且参数共享的NMF模型实现了对源数据集中带有相同标签静脉图像的有监督学习；然后，通过使用最大均值差异约束降低了不同数据集之间静脉特征的差异性，即将源数据集中的知识迁移至目标数据集中；最后，基于余弦距离实现静脉图像的匹配。实验结果表明，所提的识别算法不仅可以在源数据集下上获得较高的正确识别率，而且仅利用目标数据集中的少量静脉图像便可使得在目标数据集上的平均错误接受率（FAR）与平均错误拒绝率（FRR）分别降低至0.043与0.055。此外，所提算法平均0.56 s的识别时间可以满足识别的实时性要求。     

基于张量核范数与3D全变分的背景减除

针对常用背景减除方法忽略前景时空连续性的问题，以及动态背景对前景提取的干扰问题，基于张量鲁棒主成分分析（TRPCA）提出了一种改进的背景减除模型。该模型利用改进的张量核范数对背景进行约束，加强了背景的低秩性，保留了视频的空间信息；然后用3D全变分（3D-TV）对前景进行正则化约束，考虑了目标在时空上的连续性，有效地抑制了动态背景和目标移动对前景提取造成的干扰。实验结果表明，所提算法能有效地分离视频中的前景和背景，且与高阶鲁棒主成分分析（HoRPCA）、带有新核范数的张量鲁棒主成分分析（TRPCA-TNN）和基于克罗内克基的鲁棒主成分分析（KBR-RPCA）等方法相比，综合评判指标F-measure值均处于最优或次优状态。由此可见，所提算法有效地提高了前景背景分离的准确度，抑制了复杂天气和目标移动对前景提取的干扰。     

基于非凸低秩分解判别的叠加线性稀疏人脸识别

目的 针对因采集的人脸图像样本受到污染而严重干扰人脸识别及训练样本较少（小样本）时会由于错误的稀疏系数导致性能急剧下降从而影响人脸识别的问题,提出了一种基于判别性非凸低秩矩阵分解的叠加线性稀疏表示算法。方法 首先由γ范数取代传统核范数,克服了传统低秩矩阵分解方法求解核范数时因矩阵奇异值倍数缩放导致的识别误差问题;然后引入结构不相干判别项,以增加不同类低秩字典间的非相干性,达到抑制类内变化和去除类间相关性的目的;最后利用叠加线性稀疏表示方法完成分类。结果 所提算法在AR人脸库中的识别率达到了98.67±0.57%,高于SRC（sparse representation-based classification）、ESRC（extended SRC）、RPCA（robust principal component analysis）+SRC、LRSI（low rank matrix decomposition with structural incoherence）、SLRC（superposed linear representation based classification）-l₁等算法;同时,遮挡实验表明,算法对遮挡图像具有更好的鲁棒性,在不同遮挡比例下,相比其他算法均有更高的识别率。在CMU PIE人脸库中,对无遮挡图像添加0、10%、20%、30%、40%的椒盐噪声,算法识别率分别达到90.1%、85.5%、77.8%、65.3%和46.1%,均高于其他算法。结论 不同人脸库、不同比例遮挡和噪声的实验结果表明,所提算法针对人脸遮挡、表情和光照等噪声因素依然保持较高的识别率,鲁棒性更好。     

基于鲁棒主成分分析的人脸子空间重构方法

子空间方法是人脸识别中的经典方法,其基本假设是人脸图像处于高维图像空间的低维子空间中.但是,由于光照变化、阴影、遮挡、局部镜面反射、图像噪声等因素的影响,使得子空间假设难以满足.为此,提出一种基于鲁棒主成分分析的人脸子空间重构方法.该方法将人脸图像数据矩阵表示为满足子空间假设的低秩矩阵和表征光照变化、阴影、遮挡、局部镜面反射、图像噪声等因素的误差矩阵之和,利用鲁棒主成分分析法求解低秩矩阵和误差矩阵.实验结果表明,文中方法能够有效地重构人脸图像的低维子空间.     

基于低秩表示中稀疏误差的可变光照和局部遮挡人脸识别

可变光照和有遮挡人脸识别是人脸识别问题中的一个难点。受到鲁棒主成分分析法(RPCA)和稀疏表示分类法(SRC)的启发,提出一种基于低秩表示(LRR)中稀疏误差图像的可变光照有遮挡人脸识别算法。在训练阶段,利用LRR计算每类人脸低秩数据矩阵,在此基础上求解每类人脸图像低秩映射矩阵,通过各类低秩映射矩阵将未知人脸图像投影得到每类下的低秩数据矩阵和稀疏误差矩阵,为了有效提取稀疏误差图像中的鉴别信息,分别对稀疏误差图像进行边缘检测和平滑度分析,设计了基于两者加权和的类别判据。在Extended Yale B和AR两个数据库上进行了详细的实验分析,实验结果与其它算法相比较有明显提高,证实了所提算法的有效性和鲁棒性。     

耦合先验拉普拉斯坐标的半监督图像分割算法

针对传统半监督图像分割方法难以精确分割分散或细小区域的缺陷,提出了一种耦合标签先验和拉普拉斯坐标模型的半监督图像分割算法。首先,扩展拉普拉斯坐标（LC）模型,通过引入标签先验项进一步精确表征未标记像素点与已标记像素点之间的关系。然后,基于矩阵方程的求导优化,有效估计像素属于标签的后验概率,以实现图像目标分割的任务。得益于标签先验的引入,所提算法对分散或细小区域的分割更加鲁棒。最后,在多个公开的半监督分割数据集上实验结果表明,相比拉普拉斯坐标算法,所提算法的分割准确率获得了显著提升,验证了所提算法的有效性。