基于L1/2范数约束增量非负矩阵分解的SAR目标识别

增量非负矩阵分解(INMF)随目标样本增加逐渐更新分解模型,能够有效解决NMF算法的计算代价随样本增加而成倍增长的问题。然而INMF在使NMF具备增量学习能力的同时,并未考虑NMF分解矩阵的稀疏性对识别性能的提升作用。针对上述问题,提出基于L1/2范数约束的增量非负矩阵分解(L1/2-INMF)算法,并应用于SAR目标识别。L1/2-INMF采用L1/2范数实时约束增量过程中的NMF分解矩阵,能够在不增加计算复杂度的同时,提升识别性能。针对MSTAR数据集的仿真实验结果表明,提出的L1/2-INMF能够解决传统非负矩阵分解方法计算代价随样本增加而增加的问题。     

L1范数约束正交子空间非负矩阵分解

针对非负矩阵分解（NMF）相对稀疏或局部化描述原数据时导致的稀疏能力和程度比较弱的问题,提出了L1范数约束正交子空间非负矩阵分解方法.通过将L1范数约束引入到正交子空间非负矩阵分解的目标函数中,提升了分解结果的稀疏性.同时给出累乘迭代规则.在UCI、ORL和Yale三个数据库上进行的实验结果表明,该算法在聚类效果以及稀疏表达方面优于其他算法.     

利用正则化矩阵分解技术的多视图聚类方法

为了解决具有多种特征属性的多媒体数据（多视图数据）挖掘问题,在非负矩阵分解（NMF）算法的基础上,提出了一种多视图正则化矩阵分解算法（MRMF）,该算法使用了多元非负矩阵分解技术,同时使用[L2,1]范数描述矩阵分解的损失函数,并采用多视图流形正则化对矩阵分解进行正则化约束。与现有的一些数据聚类或多视图聚类算法相比,提出的MRMF算法不易受到原始数据中噪声的影响,而且能够充分考虑到不同视图在聚类中所具有不同权重的问题,能够对多视图数据进行较为准确的聚类。MRMF算法的有效性在一些经典的公开数据集上进行了验证,并取得了较好的聚类精度。     

图正则化稀疏判别非负矩阵分解

非负矩阵分解是一种流行的数据表示方法,利用图正则化约束能有效地揭示数据之间的局部流形结构。为了更好地提取图像特征,给出了一种基于图正则化的稀疏判别非负矩阵分解算法（graph regularization sparse discriminant non-negative matrix factorization,GSDNMF-L_2,1）。利用同类样本之间的稀疏线性表示来构建对应的图及权矩阵;以L_2,1范数进行稀疏性约束;以最大间距准则为优化目标函数,利用数据集的标签信息来保持数据样本之间的流形结构和特征的判别性,并给出了算法的迭代更新规则。在若干图像数据集上的实验表明,GSDNMF-L_2,1在特征提取方面的分类精度优于各对比算法。     

鲁棒结构正则化非负矩阵分解

现有的非负矩阵分解方法既忽略数据的非局部结构,又难以有效应对噪声和野值点。为了解决上述问题,提出一种新的用于聚类的鲁棒结构正则化非负矩阵分解算法。所提出的算法分别构建一个近邻图和一个最大熵图描述数据的局部结构和非局部结构,并使用L_2,1范数代价函数尝试解决噪声问题,从而学习到鲁棒具有判别力的表征。给出一个最优的迭代算法求解两个非负因子,该优化算法的收敛性已被理论和实验证明。在七个图像数据集上的聚类实验结果表明,所提出的算法在无噪声和有噪声情况下聚类均优于其他主流方法。     

混合非凸非光滑正则化约束的模糊图像盲复原

为能够复原出高质量的清晰图像,提出一种混合正则化约束的模糊图像盲复原方法。首先,根据模糊核的稀疏性,采用L₀范数的正则项对模糊核进行稀疏约束,以提高模糊核估计的准确性;然后,根据图像梯度的稀疏性,采用混合一阶和二阶图像梯度的L₀范数对图像梯度进行正则化约束,以保留图像边缘信息;最后,由于所提出的混合正则化约束模型本质上是非凸非光滑优化问题,通过交替方向乘子法对模型进行求解,并在非盲反卷积阶段采用L₁范数数据拟合项和全变分的方法复原清晰图像。实验结果表明,所提方法能够复原出更加清晰的细节和边缘信息,复原结果的质量更高。     

用于独立特征学习的稀疏非负矩阵分解算法

为了防止特征的共适应性,提出利用余弦相似度来减少潜在特征之间的相关性,从而提高非负矩阵分解（non-negative matrix decomposition,NMF）的独立特征学习能力。此外,为了使得分解后的矩阵具有较好的稀疏性,提出在传统NMF模型中引入◢L◣▼2,1/2▽稀疏约束,增强了算法的局部学习能力和稳健性。因此,潜在特征中的语义信息更加明显,潜在空间的表示更具有判别性。在fetch_20newsgroups数据集上对文档聚类的实验结果表明,提出的INMF算法在一系列评价指标上效果都优于传统的NMF、SNMF等算法模型。     

基于邻近交替线性化的稀疏非负矩阵分解算法

结合稀疏约束与邻近交替线性化(PALM),提出稀疏非负矩阵分解算法(SNMF_PALM)。将非凸的平滑剪切绝对偏差函数作为稀疏正则项,获得逼近L0范数的最佳凸松弛,并利用PALM算法对非凸问题进行求解,得到SNMF_PALM算法的局部稳定最优解。在人脸数据库上将SNMF_PALM算法与SNMF、NMF算法进行实验对比,结果表明SNMF_PALM算法具有更好的聚类性能。     

鲁棒自适应对称非负矩阵分解聚类算法

对称非负矩阵分解SNMF作为一种基于图的聚类算法,能够更自然地捕获图表示中嵌入的聚类结构,并且在线性和非线性流形上获得更好的聚类结果,但对变量的初始化比较敏感。另外,标准的SNMF算法利用误差平方和来衡量分解的质量,对噪声和异常值敏感。为了解决这些问题,在集成学习视角下,提出一种鲁棒自适应对称非负矩阵分解聚类算法RS³NMF(robust self-adaptived symmetric nonnegative matrix factorization)。基于L_2,1范数的RS³NMF模型缓解了噪声和异常值的影响,保持了特征旋转不变性,提高了模型的鲁棒性。同时,在不借助任何附加信息的前提下,利用SNMF对初始化特征的敏感性来逐步增强聚类性能。采用交替迭代方法优化,并保证目标函数值的收敛性。大量实验结果表明,所提RS³NMF算法优于其他先进的算法,具有较强的鲁棒性。     

基于超图正则化非负Tucker分解的图像聚类算法

针对非负张量分解应用于图像聚类时忽略了高维数据内部几何结构的问题,在经典的张量非负Tucker分解的基础上,添加超图正则项以尽可能多地保留原始数据的内在几何结构信息,提出一种基于超图正则化非负Tucker分解模型HGNTD。通过构造超图刻画数据内部样本间的高阶关系,提高几何结构描述的准确性,针对超图正则化非负张量分解模型,基于交替非负最小二乘法,设计快速有效的超图正则化非负Tucker分解算法求解所给模型,证明算法在非负的条件下是收敛的,最终将算法应用于图像聚类。在Yale和COIL两个常用公开数据集上的实验结果表明,相对于k-means、非负矩阵分解、图正则化非负矩阵分解、非负Tucker分解和图正则化非负Tucker分解等算法,超图正则化非负Tucker分解算法聚类准确度提升了8.6%~11.4%,归一化互信息提升了2.0%~7.5%,具有更好的聚类效果。     

基于稀疏和正交约束非负矩阵分解的高光谱解混

针对基于非负矩阵分解（NMF）的高光谱解混存在的容易陷入局部极小值和受初始值影响较大的问题，提出一种稀疏和正交约束相结合的NMF的线性解混算法SONMF。首先，从传统的基于NMF的高光谱线性解混方法出发，分析高光谱数据本身的理化特性；然后，结合丰度的稀疏性和端元的独立性两个方面，将稀疏非负矩阵分解（SNMF）和正交非负矩阵分解（ONMF）两种方法结合应用到高光谱解混当中。模拟数据和真实数据实验表明，相比顶点成分分析法（VCA）、SNMF和ONMF这三种参考解混算法，所提算法提高了线性解混的性能；其中，评价指标光谱角距离（SAD）降低了0.012~0.145。SONMF能够结合两种约束条件的优势，弥补传统基于NMF线性解混方法对高光谱数据表达的不足，取得较好的效果。     

基于非凸全变差正则的核磁共振图像重构算法

针对于核磁共振（MR）图像重构中由于欠采样导致的重构图像不够完整、边缘模糊以及噪声残留等问题,提出了一种基于L₂正则的非凸全变差正则重构模型。首先,以Moreau包络和最小最大凹罚函数为工具构造L₂范数的非凸正则;然后,将其应用于全变差正则上来构造各向同性的非凸全变差正则稀疏重构模型。所提的非凸正则可以有效地避免凸正则中对较大非零元欠估计现象,能够更有效地重构目标的边缘轮廓;同时,在一定条件下可以保证目标函数的整体凸性,从而最后可以利用交替方向乘子法（ADMM）对模型进行求解。仿真实验对若干MR图像在不同的采样模板和采样率下进行了重构。实验结果均表明,与几种典型的图像重构方法相比,所提模型性能更优,相对误差明显降低,峰值信噪比（PSNR）有明显改善,较经典的L₁非凸正则重构模型提升了大约4 dB,并且重构后的图像视觉效果显著提升,有效地保留了原始图像的边缘细节。     

基于有监督双正则NMF的静脉识别算法

为使提取的静脉图像特征具有较好的聚类特性以更利于正确识别,提出了一种基于有监督非负矩阵分解的识别算法。首先,对静脉图像进行分块处理,通过融合所有的子图像特征形成静脉的原始特征;其次,采用特征的稀疏性与聚类属性双正则项,对原始的非负矩阵分解模型进行改进;然后,基于梯度下降法对改进的非负矩阵分解模型进行求解,实现对原始特征的降维与优化;最后,利用最近邻算法对新的特征进行匹配,从而获得识别结果。实验结果表明,对于3种静脉样本数据库,所提识别算法的错误接受率与错误拒绝率分别可以达到0.02与0.03;此外,其2.89s的识别时间可以满足实时性要求。     

基于行列式和稀疏性约束的NMF的欠定盲分离方法

非负矩阵分解（NMF）要求分解得到的左矩阵为列满秩,这限制了它在欠定盲分离（UBSS）中的应用。针对此问题,提出基于带行列式和稀疏性约束的NMF的欠定盲分离算法——DSNMF。该算法在基本NMF的基础上,对NMF得到的左矩阵进行行列式准则约束,对右矩阵进行稀疏性约束,平衡了重构误差、混合矩阵的唯一性以及分离信号的稀疏特性,实现了对混合矩阵和源信号的欠定盲分离。仿真结果表明,在源信号稀疏性较好和较差两种情况下,DSNMF都能取得良好的分离效果。     

基于迭代框架的主动链接选择半监督社区发现算法

针对非负矩阵分解（NMF）半监督社区发现方法随机选择先验约束,导致提升相同性能需要更多约束信息的问题,提出一种基于迭代框架的主动链接选择半监督社区发现算法——ALS_GNMF。在迭代框架下,首先,主动选择不确定性高且对社区划分指导性强的链接对作为先验信息;其次,为主动选择的链接对增加must-link约束,增强社区间连接,生成先验矩阵;同时,增加cannot-link约束,减弱社区间连接,修改邻接矩阵;最后,将先验矩阵作为正则项,加入基于NMF的最优化目标函数,并融合网络拓扑结构信息,以期用较少的先验信息,达到较高的社区发现准确性和鲁棒性。实验结果表明,ALS_GNMF算法在真实网络及人工网络上,相同的先验比例下,性能比未采用迭代框架和主动策略的NMF半监督社区发现方法有更大的提升,且在结构不清晰的网络中表现稳定。     

基于非负矩阵分解的双重约束文本聚类算法

提出一种基于非负矩阵分解(NMF)的双重约束文本聚类算法。在正交三重NMF模型中,加入文本空间的成对约束信息和词空间的类别约束信息,将不同的特征词项进行分类。利用迭代规则对原始的词-文档矩阵进行分解,获得文本聚类结果。与多种传统半监督文本聚类算法的对比结果表明,该算法具有较高的聚类精度,能提供更准确和有效的聚类结果。     

基于干净数据的流形正则化非负矩阵分解

现有的非负矩阵分解（NMF）算法往往基于欧氏距离来设计目标函数,对噪声比较敏感。为了增强算法的鲁棒性,提出一种基于干净数据的流形正则化非负矩阵分解（MRNMF/CD）算法。在MRNMF/CD算法中,把低秩约束、流形正则化和NMF技术无缝地融为一体,使算法性能较为优异。首先,通过添加低秩约束,MRNMF/CD可以从噪声数据中恢复干净数据,并获得数据的全局结构;其次,为了利用数据的局部几何结构信息,MRNMF/CD把流形正则化融入目标函数中。此外,还提出了一种求解MRNMF/CD的迭代算法,并从理论上分析了该求解算法的收敛性。在ORL、Yale和COIL20数据集上的实验结果表明,MRNMF/CD算法比现有的k-means、主成分分析（PCA）、NMF和图正则化非负矩阵分解（GNMF）算法具有更好的识别准确性。     

基于加权核非负矩阵分解的短文本聚类算法

对互联网产生的大量短文本进行聚类分析具有重要的应用价值,但由于短文本存在特征稀疏和特征难以提取的问题,导致传统的文本聚类算法难以有效处理该问题。为了解决该问题,利用非负矩阵分解（NMF）模型提出基于加权核非负矩阵分解（WKNMF）的短文本聚类算法。该算法通过核方法的映射关系将稀疏特征空间映射到高维隐性空间,从而可以充分利用短文本中的隐性语义特征进行聚类;另外,利用核技巧简化高维数据的复杂运算,并通过迭代更新规则不断地动态调整短文本的权重向量,从而可以区分不同短文本对聚类的重要性。在真实的微博数据集上进行了相关实验,结果表明WKNMF算法比K均值、隐含狄利克雷分布（LDA）、NMF和自组织神经网络（SOM）具有更好的聚类质量,准确度和归一化互信息分别达到了66.38%和66.91%。