非负低秩图嵌入算法

现有的非负矩阵分解方法(NMF)还存在一些不足之处。一方面,NMF方法直接在高维原始图像数据集上计算它的低维表示,而实际上原始图像数据集的有效信息常常隐藏在它的低秩结构中;另一方面,NMF方法还存在对噪声数据和不可靠图敏感以及鲁棒性差的缺点。为了解决这些问题,提出了一种非负低秩图嵌入算法(NLGE),该算法同时考虑了原始图像数据的几何信息和有效低秩结构,使得其鲁棒性有了进一步的提高。此外,还给出了一种求解NLGE算法的迭代规则,并进一步证明了该求解算法的收敛性。最后,在ORL、CMU PIE、YaleB和USPS数据库上的实验结果表明了NLGE算法的有效性。     

基于空间约束低秩图的人脸识别

低秩表示能够很好地揭示隐藏在数据中的全局结构信息并且对噪声具有很强的鲁棒性。基于图嵌入维数约简理论框架,提出了一种人脸识别算法,其利用低秩表示模型构建数据低秩图。此外,在低秩模型中引入数据空间约束项,构建一种具有空间约束的低秩图以提高识别效果。在ORL和PIE标准人脸数据库上进行实验,同传统的识别算法相比,结果显示所提出的算法在识别率和对噪声的鲁棒性上具有更好的表现。     

基于低秩稀疏图的结构保持投影算法

在图嵌入理论框架下,能够较好地揭示数据本质特性的图在一些维数约简方法中起到关键性的作用。基于稀疏表示和低秩表示方法,构建了一种低秩稀疏图,能够同时揭示数据的局部结构信息和全局结构信息。然后,利用图嵌入理论方法使这些特性在线性投影的过程中得以保持不变,从而学习出高维数据有效的低维嵌入。在标准的人脸和手写数字数据集(ORL,Yale,PIE,MNIST)上进行实验,同传统的图嵌入方法比较,结果表明了算法的有效性。     

F范数度量下的鲁棒张量低维表征

张量主成分分析(Tensor principal component analysis, TPCA)在彩色图像低维表征领域得到广泛深入研究,采用F范数平方作为低维投影的距离度量方式,表征含离群数据和噪声图像的鲁棒性较弱.L₁范数能够抑制噪声的影响,但所获的低维投影数据缺乏重构误差约束,其局部表征能力也较弱.针对上述问题,利用F范数作为目标函数的距离度量方式,提出一种基于F范数的分块张量主成分分析算法(Block TPCA withF-norm,BlockTPCA-F),提高张量低维表征的鲁棒性.考虑到同时约束投影距离与重构误差,提出一种基于比例F范数的分块张量主成分分析算法(Block TPCA with proportional F-norm, BlockTPCA-PF),其最大化投影距离与最小化重构误差均得到了优化.然后,给出其贪婪的求解算法,并对其收敛性进行理论证明.最后,对包含不同噪声块和具有实际遮挡的彩色人脸数据集进行实验,结果表明,所提算法在平均重构误差、图像重构与分类率等方面均得到明显提升,在张量低维表征中具有较强的鲁棒性.     

非负局部约束低秩子空间聚类算法

在低秩表示算法的基础上,提出了一个新模型。新模型构建了揭示数据内在特征联系的亲和度图以实现聚类任务。首先,根据矩阵分解原理对原始数据重新生成数据字典,在算法初始输入时筛除部分噪声。其次,利用数据间的稀疏性加强局部约束,为给定的数据向量构建非负低秩亲和度图。亲和度图中边的权重由非负低秩稀疏系数矩阵获得,系数矩阵通过每个数据样本作为其他数据样本的线性组合完成构建,如此获得的亲和度图显示了数据的子空间结构,同时表现局部线性结构。与现存的子空间算法相比,非负局部约束低秩子空间算法在聚类效果上有明显的提升。     

基于低秩表示的鲁棒回归模型

现有的线性回归方法不能有效处理噪声和异常数据。针对这一问题,结合低秩表示和鲁棒回归方法构建模型LR-RRM。利用低秩表示方法以有监督的方式检测数据内的噪声和异常值,从原始数据的低维子空间中恢复数据干净部分,并将其应用于线性回归分类,从而提升回归性能。在Extend YaleB、AR、ORL和PIE人脸数据集上的实验结果表明,与标准线性回归、基于鲁棒主成分分析和低秩表示的线性回归模型相比,该模型在4种原始数据集以及添加随机噪声后的数据集上分类准确率和鲁棒性均较优。     

多重约束非负矩阵分解的非平稳噪声语音增强

低信噪比非稳态噪声环境中的语音增强仍是一个开放且具有挑战性的任务. 为了提高传统的基于非负矩阵分解(nonnegative matrix factorization, NMF)的语音增强算法性能, 同时考虑到语音信号的时频稀疏特性和非稳态噪声信号的低秩特性, 本文提出了一种基于多重约束的非负矩阵分解语音增强算法(multi-constraint nonnegative matrix factorization speech enhancement, MC–NMFSE). 在训练阶段, 采用干净语音训练数据集和噪声训练数据集分别构建语音字典和噪声字典. 在语音增强阶段, 在非负矩阵分解目标函数中增加语音分量的稀疏性约束和噪声信号的低秩性约束条件, MC–NMFSE能够更好地从带噪语音中获得语音分量的表示, 从而提高语音增强效果. 通过实验表明, 在大量不同非平稳噪声条件和不同信噪比条件下, 与传统的基于NMF的语音增强方法相比, MC–NMFSE能获得较低的语音失真和更好的非稳态噪声抑制能力.     

低秩稀疏图嵌入的半监督特征选择

目的 特征降维是机器学习领域的热点研究问题。现有的低秩稀疏保持投影方法忽略了原始数据空间和降维后的低维空间之间的信息损失,且现有的方法不能有效处理少量有标签数据和大量无标签数据的情况,针对这两个问题,提出基于低秩稀疏图嵌入的半监督特征选择方法（LRSE）。方法 LRSE方法包含两步：第1步是充分利用有标签数据和无标签数据分别学习其低秩稀疏表示,第2步是在目标函数中同时考虑数据降维前后的信息差异和降维过程中的结构信息保持,其中通过最小化信息损失函数使数据中有用的信息尽可能地保留下来,将包含数据全局结构和内部几何结构的低秩稀疏图嵌入在低维空间中使得原始数据空间中的结构信息保留下来,从而能选择出更有判别性的特征。结果 将本文方法在6个公共数据集上进行测试,对降维后的数据采用KNN分类验证本文方法的分类准确率,并与其他现有的降维算法进行实验对比,本文方法分类准确率均有所提高,在其中的5个数据集上本文方法都有最高的分类准确率,其分类准确率分别在Wine数据集上比次高算法鲁棒非监督特征选择算法（RUFS）高11.19%,在Breast数据集上比次高算法RUFS高0.57%,在Orlraws10P数据集上比次高算法多聚类特征选择算法（MCFS）高1%,在Coil20数据集上比次高算法MCFS高1.07%,在数据集Orl64上比次高算法MCFS高2.5%。结论 本文提出的基于低秩稀疏图嵌入的半监督特征选择算法使得降维后的数据能最大限度地保留原始数据包含的信息,且能有效处理少量有标签样本和大量无标签样本的情况。实验结果表明,本文方法比现有算法的分类效果更好,此外,由于本文方法基于所有的特征都在线性流形上的假设,所以本文方法只适用于线性流形上的数据。     

基于干净数据的流形正则化非负矩阵分解

现有的非负矩阵分解（NMF）算法往往基于欧氏距离来设计目标函数,对噪声比较敏感。为了增强算法的鲁棒性,提出一种基于干净数据的流形正则化非负矩阵分解（MRNMF/CD）算法。在MRNMF/CD算法中,把低秩约束、流形正则化和NMF技术无缝地融为一体,使算法性能较为优异。首先,通过添加低秩约束,MRNMF/CD可以从噪声数据中恢复干净数据,并获得数据的全局结构;其次,为了利用数据的局部几何结构信息,MRNMF/CD把流形正则化融入目标函数中。此外,还提出了一种求解MRNMF/CD的迭代算法,并从理论上分析了该求解算法的收敛性。在ORL、Yale和COIL20数据集上的实验结果表明,MRNMF/CD算法比现有的k-means、主成分分析（PCA）、NMF和图正则化非负矩阵分解（GNMF）算法具有更好的识别准确性。     

多重约束非负矩阵分解的非平稳噪声语音增强（英文）

低信噪比非稳态噪声环境中的语音增强仍是一个开放且具有挑战性的任务.为了提高传统的基于非负矩阵分解(nonnegative matrix factorization,NMF)的语音增强算法性能,同时考虑到语音信号的时频稀疏特性和非稳态噪声信号的低秩特性,本文提出了一种基于多重约束的非负矩阵分解语音增强算法(multi-constraint nonnegative matrix factorization speech enhancement,MC–NMFSE).在训练阶段,采用干净语音训练数据集和噪声训练数据集分别构建语音字典和噪声字典.在语音增强阶段,在非负矩阵分解目标函数中增加语音分量的稀疏性约束和噪声信号的低秩性约束条件,MC–NMFSE能够更好地从带噪语音中获得语音分量的表示,从而提高语音增强效果.通过实验表明,在大量不同非平稳噪声条件和不同信噪比条件下,与传统的基于NMF的语音增强方法相比,MC–NMFSE能获得较低的语音失真和更好的非稳态噪声抑制能力.     

基于L21范式的多图正则化非负矩阵分解方法

针对非负矩阵分解方法对原始数据的单图约束导致的结果未知性大、满足需求单一,以及大多非负矩阵分解方法存在对噪声、离群点较敏感导致的稀疏度和鲁棒性较差等问题,提出基于L21范式的多图正则化非负矩阵分解方法。采用L21范式,提升分解结果的稀疏度和鲁棒性。构建多图约束的算法模型更好地保持数据的流形结构。构建目标函数并给出乘性迭代规则。通过在多个数据库上的实验表明,该方法在识别效果上有明显的提升。     

基于核技巧和超图正则的稀疏非负矩阵分解

针对传统的非负矩阵分解（NMF）应用于聚类时,没有同时考虑到鲁棒性和稀疏性,导致聚类性能较低的问题,提出了基于核技巧和超图正则的稀疏非负矩阵分解算法（KHGNMF）。首先,在继承核技巧的良好性能的基础上,用L_2,1范数改进标准非负矩阵分解中的F范数,并添加超图正则项以尽可能多地保留原始数据间的内在几何结构信息;其次,引入L_2,1/2伪范数和L_1/2正则项作为稀疏约束合并到NMF模型中;最后,提出新算法并将新算法应用于图像聚类。在6个标准的数据集上进行验证,实验结果表明,相对于非线性正交图正则非负矩阵分解方法,KHGNMF使聚类性能（精度和归一化互信息）成功地提升了39%~54%,有效地改善和提高了算法的稀疏性和鲁棒性,聚类效果更好。     

Non-negative and sparse spectral clustering

Spectral clustering aims to partition a data set into several groups by using the Laplacian of the graph such that data points in the same group are similar while data points in different groups are dissimilar to each other. Spectral clustering is very simple to implement and has many advantages over the traditional clustering algorithms such as k-means. Non-negative matrix factorization (NMF) factorizes a non-negative data matrix into a product of two non-negative (lower rank) matrices so as to achieve dimension reduction and part-based data representation. In this work, we proved that the spectral clustering under some conditions is equivalent to NMF. Unlike the previous work, we formulate the spectral clustering as a factorization of data matrix (or scaled data matrix) rather than the symmetrical factorization of the symmetrical pairwise similarity matrix as the previous study did. Under the NMF framework, where regularization can be easily incorporated into the spectral clustering, we propose several non-negative and sparse spectral clustering algorithms. Empirical studies on real world data show much better clustering accuracy of the proposed algorithms than some state-of-the-art methods such as ratio cut and normalized cut spectral clustering and non-negative Laplacian embedding.     

结合空间光谱预处理和约束非负矩阵分解的高光谱图像混合像元分解

目的 混合像元问题在高光谱遥感图像处理分析中普遍存在,非负矩阵分解的方法被引入到高光谱图像解混中。本文提出结合空间光谱预处理和约束非负矩阵分解的混合像元分解流程。方法 结合空间光谱预处理的约束非负矩阵分解,如最小体积约束、流行约束等,通过加入邻域的空间和光谱信息进行预处理获得更优的预选端元,从而对非负矩阵分解的解混结果进行优化。结果 在5组不同信噪比的模拟数据实验中,空间预处理（SPP）和空间光谱预处理（SSPP）均能够有效提高约束非负矩阵分解（最小体积约束的非负矩阵分解和图正则非负矩阵分解）的解混结果,其中SPP在不同信噪比的情况下都能优化约束非负矩阵分解的结果,而SSPP在低信噪比的情况下,预处理效果更佳。利用美国内华达州Cuprite矿区数据进行真实数据实验,SPP提高了约束非负矩阵分解的解混精度,而SSPP在复杂场景下,解混精度更佳。模拟数据和真实数据的实验均表明,空间光谱预处理能够有效地提高约束非负矩阵分解的解混精度,特别是对于信噪比较低的情况下,融合空间和光谱信息对噪声有很好的鲁棒性。结论 本文对约束非负矩阵分解的解混算法添加空间光谱预处理,利用高光谱遥感数据的空间和光谱信息,优化预选端元,加入空间光谱预处理的非负矩阵解混实验流程,在复杂场景情况下,对噪声具有较好的鲁棒性。     

图正则化非负矩阵分解的异质网社区发现

挖掘数据网络中有价值的、具有稳定性的社区,对网络信息的获取、推荐及网络的演化预测具有重要的价值。针对现有异质网络聚类方法难以在同一维度有效整合网络中异质信息的问题,提出了一种基于图正则化非负矩阵分解的异质网络聚类方法。通过加入图正则项,将中心类型子空间和属性类型子空间的内部连接关系作为约束项,引入到非负矩阵分解模型中,从而找到高维数据在低维空间的紧致嵌入,成功消除了异质节点之间的部分噪声,同时,对反映不同子网络共有潜在结构的共识矩阵进行优化,有效整合异质信息,并且在降维过程中较大限度地保留了异质信息的完整性,提高了异质网络聚类方法的精度,在真实世界数据集上的实验结果也验证了该方法的有效性。     

时空RPCA在复杂场景下的运动目标检测

在复杂动态背景下,鲁棒主成分分析模型(RPCA)容易将背景中动态背景误判为前景运动目标,导致运动目标检测精度不高。为解决该问题,提出一种基于非凸加权核范数的时空低秩RPCA算法。使用非凸加权核范数替代传统的核范数进行低秩约束,在观测矩阵上通过拉普拉斯特征映射得到时空图拉普拉斯矩阵,将得到的时空图拉普拉斯矩阵嵌入低秩背景矩阵以保持背景对噪声和离群值的鲁棒性。实验结果表明,所提模型在复杂场景中能较准确检测出运动目标。     

基于多视图矩阵分解的聚类分析

在计算机视觉和模式识别领域，随着多源信息越来越多，图像的描述方法也越来越丰富，多视图学习方法能更充分利用这种多源信息，进而提高聚类的准确率.因此，本文提出了两种基于多视图学习的方法:MultiGNMF和MultiGSemiNMF方法.该方法是在矩阵分解的基础之上，结合以往多视图学习的框架准则，并利用了样本的局部结构形成的.MultiGNMF和MultiGSemiNMF算法不仅能学习视图间的互补信息，同时能保持样本的空间结构.但是，MultiGNMF算法只适用于非负的特征矩阵.因此，考虑到SemiNMF算法相对于NMF算法具有更大的扩展性，结合多视图学习的框架，本文又提出了多视图学习的MultiGSemiNMF算法.实验结果证实了这两种方法有较好的性能.