面向时序数据的矩阵分解

研究一类特殊的矩阵分解问题:对由多个对象在一组连续时间点上产生的数据构成的矩阵R,寻求把它近似地分解为两个低秩矩阵U和V的乘积,即R≈U^T×V.有为数众多的时间序列分析问题都可归结为所研究问题的求解,如金融数据矩阵的因子分析、缺失交通流数据的估计等.提出了该问题的概率图模型,进而由此导出了其约束优化模型,最终给出了模型的求解算法.在不同的数据集上进行实验验证了该模型的有效性.     

基于联合概率矩阵分解的上下文广告推荐算法

上下文广告与用户兴趣及网页内容相匹配,可增强用户体验并提高广告点击率.而广告收益与广告点击率直接相关,准确预测广告点击率是提高上下文广告收益的关键.目前,上下文广告推荐面临如下问题:(1) 网页数量及用户数量规模很大;(2) 历史广告点击数据十分稀疏,导致点击率预测准确率低.针对上述问题,提出一种基于联合概率矩阵分解的因子模型AdRec,它结合用户、广告和网页三者信息进行广告推荐,以解决数据稀疏时点击率预测准确率低的问题.算法复杂度随着观测数据数量的增加呈线性增长,因此可应用于大规模数据.     

基于时序模型和矩阵分解的推荐算法

时间序列数据是一种数据属性随时间变化的高维数据类型,反映了用户兴趣的动态变化。基于时序数据的推荐系统利用用户的行为时间提高推荐的准确性,但是不适用于大规模数据集的推荐任务,矩阵分解方法是处理高维数据集时常用的降维方法。为此,提出一种基于时序模型和矩阵分解的推荐算法。基于该方法,首先利用矩阵分解提取原始时序数据的特征,然后通过时序模型挖掘特征的趋势,最后根据预测的特征得到预测结果并进行推荐。实验结果表明：所提出的算法与已有的推荐算法相比,在均方根误差(Root Mean Square Error, RMSE)和平均准确率(Mean Average Precision, MAP)两个指标上均有较好表现,且适用于大规模数据的推荐任务。     

基于张量分解的多维数据填充算法

在多维数据分析和处理中,经常会出现部分数据丢失或者部分数据未知的情况,如何利用已知数据的潜在结构对这些缺失数据进行填充是一个亟待解决的问题。目前对于缺失数据填充的研究大多是针对矩阵或者向量形式的低维数据,而对于三维以上高维数据填充的研究则很少。针对该问题,提出一种基于张量分解的多维数据填充算法,利用张量分解中CP分解模型的结构特性和分解的唯一性,实现对多维数据中缺失数据的有效填充。通过实验对以三维形式存储的部分数据缺失图像进行填充修复,并与CP-WOPT算法进行比较,结果表明,该算法具有较高的准确度以及较快的运行速度。     

基于GPU的稀疏矩阵Cholesky分解

稀疏矩阵Cholesky分解是求解大规模稀疏线性方程组的核心算法,也是求解过程中最耗时的部分.近年来,一系列并行算法通过图形处理器(GPU)获得了显著的加速比,然而,由于访存的不规则性以及任务间的大量数据依赖关系,稀疏矩阵Cholesky分解算法在GPU上的计算效率很低.文中实现了一种新的基于GPU的稀疏矩阵Cholesky分解算法.在数据组织方面,改进了稀疏矩阵超节点数据结构,通过超节点合并和分块控制计算粒度;在计算调度方面,将稀疏矩阵Cholesky分解过程映射为一系列的数据块任务,并设计了相应的任务生成与调度算法,在满足数据依赖性的前提下提高任务的并行性.实验结果表明,该算法能够显著提高稀疏矩阵Cholesky分解算法在GPU上的实现效率,在单个GPU上获得了相对4核CPU平台2.69~3.88倍的加速比.     

基于评分相似性的群稀疏矩阵分解推荐算法

如何提高系统的推荐精度,是当前推荐系统面临的重要问题。对矩阵分解模型进行了研究,针对评分数据的群结构性问题,提出了一种基于评分相似性的群稀疏矩阵分解模型（SSMF-GS）。首先,根据用户的评分行为对评分数据矩阵进行分群,获得相似用户群评分矩阵;然后,通过SSMF-GS算法对相似用户群评分矩阵进行群稀疏矩阵分解;最后,采用交替优化算法对模型进行求解。所提模型可以筛选出不同用户群的偏好潜在项目特征,提升了潜在特征的可解释性。在GroupLens网站上提供的MovieLens数据集上进行仿真实验,实验结果表明,所提算法可以显著提高预测精度,平均绝对误差（MAE）及均方根误差（RMSE）指标均表现出良好的性能。     

一种基于云模型数据填充的算法

协同过滤推荐技术是现如今电子商务系统中最重要的技术之一.针对目前协同过滤推荐技术中存在的因数据极度稀疏而导致相似性度量不准,推荐质量严重受到影响的问题,利用云模型在定性知识表示及定性、定量知识转换时的作用,提出一种基于云模型的数据填充算法,它利用相似用户计算目标用户评分缺失项.利用经典实验数据进行验证比较,结果表明,即使在用户评分数据极端稀疏的情况下,利用此算法对数据进行填充之后,再采用传统的协同过滤推荐算法能取得较理想的推荐质量,从一定程度上解决了推荐系统中普遍存在的稀疏性问题.     

基于slope one算法改进评分矩阵填充的协同过滤算法研究

为解决协同过滤算法中的数据稀疏性问题,提出了一种改进的协同过滤算法。该算法使用slope one算法计算出来的评分预测值来填充评分矩阵中的未评分项目,然后在填充后的用户-项目评分矩阵上通过基于用户的协同过滤方法给出推荐。利用slope one算法计算出来的评分预测值作为回填值,既能降低评分矩阵的稀疏性,也保证了回填值的多样性,从而减少均值、中值等单一填充值造成的推荐误差。在MovieLens-1M数据集上对本文改进算法和协同过滤算法及均值中心化处理的算法作五折交叉实验,结果表明,基于评分预测值填充数据后的协同过滤算法有效的缓解了数据稀疏性问题,并且有更好的推荐效果。     

基于联合概率矩阵分解的移动社会化推荐

利用移动设备上下文、移动社会化网络等信息进一步提高推荐系统的预测准确率,并缓解可能存在的数据稀疏性和冷启动问题,已经成为移动推荐系统的主要任务。采用基于矩阵分解的因子分析方法,结合用户、服务和用户社会化网络信息进行服务推荐,可以缓解数据稀疏性和冷启动问题;同时,为了增加信任矩阵密度,引入间接信任关系,提出了一种符合移动社会化网络特点的信任度计算方法,该方法仅利用移动社会化网络结构信息构建信任矩阵,从而减少用户对信任关系的主动标识。实验结果表明,引入间接信任关系能够提高预测精度,同时 比传统的协同过滤算法和已有的一些矩阵分解方法具有更好的预测准确率,特别是在评分数据稀疏的情况下。     

改进的使用非负矩阵分解的隐私保护分类方法

针对现有的基于非负矩阵分解的隐私保护数据挖掘方法中,不区分样本的重要性的不同,对所有样本都进行同样强度扰动的问题进行改进。提出了一种结合样本选择的基于非负矩阵分解的隐私保护分类方法。该方法使用样本选择将原始样本区分为重要的和不重要的两类。在对数据进行扰动时,使用现有的基于非负矩阵分解的方法对所有样本进行扰动。随后利用非负矩阵分解的聚类性质,对不重要的样本进行附加扰动。实验表明,该方法在保持数据可用性的同时,可以对隐私信息提供更好的保护。     

Robust watermarking based on DWT and nonnegative matrix factorization

This paper presents a novel blind robust digital image watermarking scheme using nonnegative matrix factorization (NMF) in DWT domain. Firstly, the original image is transformed into some subband coefficients using discrete wavelet transformation (DWT), and then a Gaussian pseudo-random watermark sequence is embedded in the factorized decomposition coefficients using NMF. Because of the multiresolution decomposition for DWT and physically meaningful factorization for NMF, the proposed scheme can achieve good robustness, which is also demonstrated in the following experiments.     

融合标签相似度的差分隐私矩阵分解推荐算法

推荐系统需要利用到大量的用户行为数据,这些数据极有可能暴露用户的喜好,给人们关心的隐私问题带来巨大的挑战。为保证推荐精度与用户隐私,提出一种结合差分隐私与标签信息的矩阵分解推荐模型。该模型首先将标签信息加入到项目相似度的计算过程;随后融入到矩阵分解推荐模型中提高推荐精度;最后运用随机梯度下降法求解模型最优值。为解决用户隐私问题,将拉普拉斯噪声划分成两部分,分别加入项目相似度与梯度求解过程中,使得整个推荐过程满足ε-差分隐私,并在一个真实的数据集上分析验证算法的有效性。实验表明,提出的方法能在保证用户隐私的情况下,仍具有较高的推荐精度。     

非负矩阵分解降维的入侵检测方法

直接对高维网络连接数据进行处理会出现维数灾难问题,因此,需要对其进行维数约简。非负矩阵分解不仅能对高维数据进行降维,而且使矩阵在分解后的所有分量均为非负值,符合网络连接数据的语义特征。将其应用到入侵检测中,把高维数据投影到低维可视空间上,用散点来表示网络连接记录,通过观察散点所处位置来判断其所属类别,实现入侵检测的可视化。实验验证了这种入侵检测方法的有效性。     

基于非平滑非负矩阵分解语音增强

针对非负矩阵分解稀疏性不够,通过引入平滑矩阵调节字典矩阵和系数矩阵的稀疏性,提出基于非平滑非负矩阵分解语音增强算法。算法通过语音和噪声的先验字典学习构造联合字典矩阵;然后通过非平滑非负矩阵分解更新带噪语音在联合字典矩阵下的投影系数实现语音增强;同时通过滑动窗口法实时更新先验噪声字典。仿真结果表明,该算法相对非负矩阵分解语音增强算法和MMSE算法具有更好的抑制噪声能力。     

基于多视角非负矩阵分解的人体行为识别

提出一种基于多视角非负矩阵分解的视角不变特征提取方法用于融合多视角信息并进行人体行为识别。通过提取每个视频帧的时空描述符,有效描述了视频场景中的运动和形态信息;为了解决观测角度改变对识别的影响,在不同视角下构建基于时空描述符的时空矩阵,并利用多视角非负矩阵分解构建多视角的目标函数以得到融合了多视角信息的共识矩阵;计算共识矩阵的最大相关系数进行人体行为分类。该方法在WVU数据集、i3Dpose数据集上进行了验证,并与其他方法进行比较,结果表明了该方法在行为识别方面的有效性。     

基于矩阵分解的DeepWalk链路预测算法

现有的链路预测方法的数据来源主要是基于邻居、路径和随机游走的方法,使用的是节点相似性假设或者最大似然估计,尚缺少基于神经网络的链路预测研究。基于神经网络的一些研究表明,基于神经网络的DeepWalk网络表示学习算法可以更加有效地挖掘到网络中的结构特征,已有研究证明DeepWalk等同于分解目标矩阵。因此,提出了一种基于矩阵分解的DeepWalk链路预测算法（LPMF）。该算法首先基于矩阵分解的DeepWalk算法分解得到网络的表示向量;然后通过余弦相似度计算每对节点之间的相似度,构建目标网络的相似度矩阵;最后利用相似度矩阵,在三个真实的引文网络中进行链路预测实验。实验结果表明,提出的链路预测算法性能优于现存的20余种链路预测算法。这充分表明了LPMF能够有效地挖掘网络中节点之间的结构关联性,而且在实际网络的链路预测中能够发挥出较为优异的性能。     

融合矩阵补全与深度矩阵分解的推荐算法

深度矩阵分解采用深层非线性映射,从而突破了矩阵分解中双线性关系影响推荐系统性能的瓶颈,但它没有考虑用户对未评分项目的偏好,且对于稀疏性较高的大规模数据其推荐性能不具有优势,为此提出一种融合矩阵补全与深度矩阵分解的推荐算法.首先通过矩阵补全模型将原始评分矩阵中的未知元素进行填补,然后依据补全后的矩阵,利用深度学习模型分别构建用户和项目潜在向量.最后,在MovieLens和SUSHI数据集上进行测试,实验结果表明,与深度矩阵分解相比,所提算法显著地提高了推荐系统的性能.     

动态学习的非负矩阵分解算法

对现有增量型非负矩阵分解算法存在的一些缺陷进行改进,给出了一个基于误差判断的增量算法有效性准则.在此基础上,利用增加样本前的非负矩阵分解结果进行增量分解初始化,提出了一种新的动态非负矩阵分解算法.在多个数据集上的实验结果表明该算法可以实现对基矩阵和编码矩阵的即时更新,且具有较低的计算复杂度,在处理动态数据集时,还可有效识别噪声点,是一个有效的动态分解算法.