基于知识图谱嵌入与多神经网络的序列推荐算法

循环神经网络在序列推荐中占有重要地位,但在推荐中,用户的行为序列远比自然语言处理中的句子或计算机视觉中的图像要复杂得多。单一的循环神经网络结构难以充分地挖掘用户偏好,因此提出一种新型的序列推荐算法,同时考虑序列的时间信息以及内容信息。主要分为2个部分：改进的项目嵌入和序列偏好学习。首先,提出一种融合知识图谱的项目嵌入方法,用于生成高质量的项目向量;其次,提出一种卷积神经网络结合长短时记忆神经网络的序列建模方法。更进一步地提出一个基于注意力的框架,动态地结合用户的兴趣点。在公开数据集MovieLens10M上与传统方法以及现有的同类型方法进行了比较。实验结果表明,所提算法在推荐评价指标平均倒数排名MRR@N以及召回率Recall@N上有显著的提升,验证了该算法的有效性。     

基于多维上下文感知图嵌入模型的兴趣点推荐

近些年来,兴趣点推荐系统已经逐渐成为移动推荐系统领域的研究热点之一.多种因素联合建模的方法逐渐深入,如时间、空间、序列、社会化和语义信息被引入统一模型,以建模多维情景下的用户偏好.其中,嵌入学习模型作为一种有效的多因素联合建模方法,在移动推荐领域有较好的性能.然而,多数嵌入学习的模型只是简单地将显式因素,如时间戳、项目、区域、序列等嵌入到相同的空间,由于缺乏对用户和项目的语义特征的深层次挖掘,在用户签到极端稀疏时,难以精准获取用户偏好.鉴于此,提出一种多维上下文感知的图嵌入模型——MCAGE.在MCAGE中,利用主题模型提取用户和项目间的潜在语义特征,并重新定义了一系列图的节点及关联规则,设计了更有效的用户偏好公式,以此提升刻画移动用户偏好的精准度.最后,通过在真实数据集上的实验分析,证明了该模型具有更好的推荐性能.     

基于生成对抗模型的序列推荐算法

针对传统序列推荐算法时间信息和项目内容信息运用不充分的问题,该文提出基于生成对抗模型的序列推荐算法。通过生成对抗模型将序列建模与时间、内容信息建模分离,充分挖掘用户项目交互的序列信息和项目内容信息。运用卷积神经网络作为生成对抗模型的生成器,捕获用户项目交互的序列模式。运用注意力机制作为生成对抗模型的判别器,捕获交互序列的时间信息和项目内容信息。针对传统序列推荐算法时间信息建模不充分的问题,提出一种改进的时间嵌入方式,充分建模用户项目交互关于时间的周期性模式。利用生成对抗模型同时建模用户的稳定偏好和动态偏好,提升推荐系统的用户体验,并在公开数据集MovieLens-1M和Amazon-Beauty上与现有的优秀算法做比较。实验证明,该文所提出的算法在评价指标HR@N和NDCG@N上较基线方法均有一定提升。     

利用门控网络构建用户动态兴趣的序列推荐模型

在推荐系统中,现有多数序列推荐方法将用户行为视为一个时间有序的序列进行用户兴趣建模,用户兴趣的动态变化导致模型难以从用户行为序列中捕捉准确的用户兴趣信息。针对该问题,同时考虑到项目间成对的共现模式应作为交互信息的补充,提出利用门控网络构建用户动态兴趣的序列推荐模型DCGN。使用门控线性单元捕获交互序列中的用户兴趣,利用带有注意力权重的门控循环网络学习用户的动态兴趣。在此基础上,对用户交互项目间的共现模式进行建模,与用户兴趣信息以及用户信息进行融合后输入深度神经网络,得到最终推荐结果。在ML100K、Amazon 5-Elect、Retailrocket 3个公开数据集上进行实验,使用精确率、归一化折损累积增益和命中率进行性能评估,结果表明,DCGN模型较NARM、GRU4Rec、NLR等主流序列推荐模型性能更优,其归一化折损增益和精确率在Retailrocket数据集上平均提升1.9%和1.22%,在Amazon 5-Elect数据集上平均提升0.82%和1.05%,在ML100K数据集上平均提升0.36%和0.31%。     

基于双通道轻量图卷积的序列推荐算法

传统基于图神经网络的序列推荐算法,在构图阶段忽略了其他用户序列中项目的转换关系,针对这一问题,提出了一种基于双通道轻量图卷积的序列推荐算法。首先,为目标用户找到其邻居用户序列,将目标用户序列和得到的邻居序列合并成一个有向序列图,充分利用了用户之间潜在的协作信息。然后,通过双通道轻量图卷积,分别对2种序列进行信息传播,每个通道通过指数分母的形式组合每一层的信息,融合2个通道得到的嵌入生成最终的项目嵌入。最后,对得到的项目嵌入通过后几项取平均的方式提取短期偏好,再通过引入挤压激励网络的多头自注意力机制提取长期偏好,整合长短期偏好得到用户的最终偏好。在2个公开数据集Beauty和MovieLens-20M上进行充分的实验并验证了算法的有效性。     

面向会话推荐的注意力图神经网络

面向会话的推荐方式起源于无法获得用户历史数据的应用场景,它是通过匿名会话来预测用户的行为.现有面向会话的推荐方法,虽然可以准确获得项目嵌入和考虑项目的复杂转换,但不能从多维度提取会话序列中隐藏的用户的长期兴趣和短期偏好,造成推荐性能低.该文引入注意力机制,提出一种多头注意力机制和软注意力机制有机结合的新机制,并据此提出面向会话推荐的注意力图神经网络.该注意力机制通过给不同的输入数据赋予不同权重,实现对当前推荐任务更为关键的信息的聚焦,以此从不同角度提取用户的兴趣和偏好.该模型在电商数据集上进行实验,与已有的基准模型相比,该文所提模型在各项评论指标上均有显著提升.在Dgeca数据集上,P@20可达61.77%,充分表明了所提方法的有效性.     

知识增强的图神经网络序列推荐模型

现有基于图神经网络的序列推荐模型大多仅关注用户与项目交互的结构性信息,序列偏好的学习仅涉及项目交互顺序,缺乏项目自身的内容信息,并且未有效利用用户信息及挖掘项目之间更深层的语义关系。提出一种知识增强的图神经网络序列推荐模型KGGNN,引入知识图谱,并结合用户交互数据构建协同知识图谱,学习得到项目语义关联辅助信息以及用户关联辅助信息。将交互序列构建成有向序列图,利用门控图神经网络以及用户关联辅助信息学习序列中项目节点的结构性信息。通过注意力机制组合项目向量作为全局序列偏好,将最近交互的项目作为当前兴趣偏好,融合两者形成最终序列偏好,并结合项目语义关联辅助信息进行模型预测。在Amazon-Book、Last-FM、Yelp2018这3个公开数据集上的实验结果表明,辅助信息能有效提升序列推荐的准确性,该模型在命中率（HIT@K）和归一化折损累计增益（NDCG@K）2个指标上相较于GRU4Rec、NARM、SASRec等模型均有显著提升。当评估指标K值选取10时,与KGSR模型相比,其HIT@10指标在3个数据集上分别提升12.9%、4.5%、6.9%,NDCG@10指标在3个数据集上分别提升...     

融合自注意力机制与长短期偏好的序列推荐模型

针对现有的序列推荐算法仅利用短期顺序行为进行推荐,而没有充分考虑用户的长期偏好和项目之间更深层次的联系等问题,提出一种融合自注意力机制与长短期偏好的序列推荐模型(combines self-attention with long-term and short-term recommendation,CSALSR)。该模型首先建模用户和项目的潜在特征表示,将用户短期交互序列中的项目成对编码为三向张量,然后经过自注意力机制模块并使用卷积神经网络(convolutional neural network,CNN)从用户的顺序模式中提取项目间更深层次的联系。同时考虑用户的长期偏好,将相似用户的嵌入作为补充增强用户表征。在MovieLens-1M和Gowalla数据集上,实验结果表明提出的方法在准确率precision@N、召回率recall@N、均值平均精度(mean average precision,MAP)上优于其他方法。     

小波卷积增强的对比学习推荐算法

推荐算法是一种用于解决信息过载问题的方法,序列化推荐通过建模用户购买的物品序列预测下一个物品。现有的序列化推荐算法通常忽视用户行为序列中的噪声、跨序列信息和物品间的组合依赖等问题,导致推荐性能受限。为此,提出一种小波卷积增强的对比学习推荐算法WCLR。利用数据的内在相关性获得自监督信号,并根据预训练的方法来增强数据表示。给出3个辅助的自监督学习任务,利用信息最大化原理学习属性、物品、序列与邻居序列的相关性,通过互信息最大化提供一种统一的方式描述不同类型数据间的相关性。由于小波卷积网络能提取物品的组合依赖,降低用户交互序列中的噪声,设计一个多核小波卷积模块,通过多尺寸用户序列多方面捕获用户的潜在兴趣,将自监督学习和小波卷积融入到推荐算法模型中,降低序列数据稀疏性和噪声,提高推荐精度。在LastFM、Beauty和Toys 3个数据集上的实验结果表明,与8个序列化推荐模型相比,WCLR算法的命中率、归一化折损累计增益和平均倒数秩分别提升了3.30%、1.47%和2.17%。     

基于改进胶囊网络的会话型推荐模型

针对现有的会话型推荐模型难以从简短的会话中捕获项目之间的依赖关系的问题,在考虑了复杂的项目交互和动态的用户兴趣变化后,提出了一种基于会话型推荐的改进胶囊网络（SR-ECN）模型。首先,利用图神经网络（GNN）处理会话序列数据,以得到每个项目嵌入向量;然后,利用胶囊网络的动态路由机制,从交互历史中聚合高级用户的偏好;此外,所提模型引入自注意力网络进一步考虑用户和项目的潜在信息,从而为用户推荐更合适的项目。实验结果表明,在Yoochoose数据集上,所提模型的召回率和平均倒数排名（MRR）均优于SR-GNN(Session-based Recommendation with GNN)、TAGNN(Target Attentive GNN)等所有对比模型,与基于无损边缘保留聚合和快捷图注意力的推荐（LESSR）模型相比,所提模型的召回率和MRR分别提升了0.92和0.45个百分点,验证了改进胶囊网络对用户兴趣偏好提取的有效性。     

一种基于用户播放行为序列的个性化视频推荐策略

本文针对在线视频服务网站的个性化推荐问题,提出了一种基于用户播放行为序列的个性化推荐策略.该策略通过深度神经网络词向量模型分析用户播放视频行为数据,将视频映射成等维度的特征向量,提取视频的语义特征.聚类用户播放历史视频的特征向量,建模用户兴趣分布矩阵.结合用户兴趣偏好和用户观看历史序列生成推荐列表.在大规模的视频服务系统中进行了离线实验,相比随机算法、基于物品的协同过滤和基于用户的协同过滤传统推荐策略,本方法在用户观看视频的Top-N推荐精确率方面平均分别获得22.3%、30.7%和934%的相对提升,在召回率指标上分别获得52.8%、41%和1065%的相对提升.进一步地与矩阵分解算法SVD++、基于双向LSTM模型和注意力机制的Bi-LSTM+Attention算法和基于用户行为序列的深度兴趣网络DIN比较,Top-N推荐精确率和召回率也得到了明显提升.该推荐策略不仅获得了较高的精确率和召回率,还尝试解决传统推荐面临大规模工业数据集时的数据要求严苛、数据稀疏和数据噪声等问题.     

融合上下文信息的深度推荐模型

目前,在基于文档信息的推荐任务中,传统基于文档的混合推荐算法仍依赖于浅层的线性模型,当评分数据变得庞大且复杂时,其推荐性能往往不太理想。针对此问题,提出一种深度融合模型(DeepFM),该模型能够在完全捕获文本信息的同时也能很好地处理复杂且稀疏的评分数据。DeepFM由两个并行的神经网络组成,其中一路神经网络使用多层感知器提取评分矩阵的行向量信息从而获得用户的潜在特征向量,另一路则使用MLP和卷积神经网络(CNN)共同建模从而提取额外有关项目的文本信息得到项目潜在特征向量。最后,通过构建融合层将用户特征向量和项目特征向量进行融合得出预测评分。实验结果表明,DeepFM在MovieLens数据集和亚马逊数据集上的性能优于主流的推荐模型。     

基于注意力门控神经网络的社会化推荐算法

针对社会化推荐算法中存在的推荐准确率不高的问题,提出了一种多头注意力门控神经网络（MAGN）算法。具体来说,采用门控神经网络对输入的用户和用户-朋友对进行融合得到联合嵌入,利用注意力记忆网络来获取不同朋友在不同方面对用户的影响,利用多头注意力来获取在不同方面对用户影响程度偏高的几位朋友。采用门控神经网络将朋友影响和用户自身兴趣偏好进行混合,继而基于混合兴趣偏好对项目进行推荐。在两个公开真实数据集上进行实验进一步验证了所提方法的有效性。     

一种结合时间因子聚类的群组兴趣点推荐模型

推荐系统本质上是一种信息检索工具,它检索出有用信息并推荐给特定的用户.组推荐系统通过不同的融合策略融合群组偏好,支持群组用户访问当前的热门兴趣点.传统组推荐模型没有将时间因子对用户选择兴趣点的影响计算在内,且传统协同过滤推荐算法往往对数据的稀疏性较为敏感.本文提出一个混合推荐模型(AGRT),综合K-均值聚类算法和隐语义模型(LFM)技术,将其应用于群组兴趣点.考虑到用户在不同时间点的不同兴趣偏好,AGRT利用K-means算法对用户数据集合基于时间点聚类,划分为不同的簇,在与当前推荐时间最为接近的用户数据簇上进行兴趣点推荐,采用LFM隐语义模型对用户数据进行矩阵分解,通过将分解矩阵再次相乘获得用户对未评分地点的评分数据,解决用户数据稀疏性的问题.实验结果表明,AGRT模型在低相似度(随机)群组和高相似度群组评测条件下下较文献[3]中提出的HAaB提高了5. 19%和2. 06%,具有有效的改进.     

基于时空循环神经网络的下一个兴趣点推荐方法

下一个兴趣点推荐已经成为基于位置的社交网络(location-based social networks,LBSNs)中一个重要任务。现有的模型没有深入考虑相邻签到兴趣点之间的转移时空信息,无法对用户访问下一个兴趣点的长短时间偏好和远近距离偏好进行有效建模。本文通过对循环神经网络(recurrent neural network, RNN)进行扩展,提出一个新的基于会话的时空循环神经网络模型(sesson-based spatial-temporal recurrent neural network, SST-RNN)用于下一个兴趣点推荐。该模型通过设置时间转移矩阵和空间转移矩阵分别对用户的时间和空间偏好信息进行建模,综合考虑连续签到兴趣点的序列信息、时空信息以及用户偏好进行下一个兴趣点推荐。通过在2个真实公开的数据集上进行实验,结果显示本文提出的SST-RNN模型的推荐效果比主流的推荐模型有显著提升。在Foursquare和CA数据集上,ACC@5评价指标分别提升了36.38%和13.81%,MAP评价指标分别提升了30.72%和17.26%。     

融合多头自注意力的问答社区专家推荐算法

专家推荐是在线问答社区的研究热点之一,但现有的算法大多关注用户的静态兴趣和问题信息的匹配,忽视了对用户的动态兴趣表征信息的有效捕捉,从而导致推荐的准确度不足。针对上述问题,提出了融合多头自注意力的问答社区专家推荐算法。首先,构造由卷积神经网络和注意力机制组成的问题编码器,来处理目标问题和用户历史回答问题,提取对应的问题表征;其次,将用户历史回答问题序列当作时间序列,利用多头自注意力机制学习序列中所蕴涵的动态兴趣表征,结合用户的静态兴趣表征,获取用户的综合兴趣表征;最后,将目标问题表征和用户综合表征进行相似性计算产生推荐结果。利用来自知乎问答社区的真实数据进行了不同参数配置及不同算法的对比实验,实验结果表明该算法性能要明显优于目前较流行的深度学习专家推荐算法。     

融合社交关系和标签信息的混合新闻推荐算法

针对传统新闻推荐的数据稀疏性和用户的兴趣爱好快速变化问题,提出了一种融合社交关系和标签信息的混合新闻推荐算法。首先,该算法充分利用社交网络中的社交关系和标签信息;然后使用概率主题模型(latent Dirichlet allocation,LDA)对用户兴趣进行建模;最后采用基于内容与协同过滤相结合的混合推荐算法来完成新闻推荐。实验结果表明,所提算法与已有的推荐算法相比较,在精确度上提升了10.7%、平均倒数排名上(mean reciprocal rank,MRR)提升了4.1%,在归一化折损累计增益(normalized discounted cumulative gain,NDCG)上提升了10%。该算法可在一定程度上提高新闻推荐算法的精度及推荐质量。