融合知识图谱与注意力机制的产学合作推荐研究

针对产学合作数据稀疏导致推荐精准性和解释性不高问题,提出了一种基于融合知识图谱与领域感知注意力机制的产学合作推荐模IUCR-SKG,旨在为企业用户推荐合适的科研团队,促进产学合作效率。首先构建了产学合作知识图谱和合作关系图,然后合并异构图并使用RotatE技术优化嵌入表示,接着采用基于注意力机制的领域融合方法扩展用户实体,最后使用多层感知机循环叠加结构预测企业用户和科研团队发生合作的概率。以“人工智能AI”领域为例,所提出的模型性能相较于基准模型均有显著提升,且注意力机制将邻域信息融合,扩展了企业用户的合作关系,使得推荐效果相较其他注意力机制的嵌入算法效果也得到一定的改善。     

基于知识图谱共同邻居排序采样的推荐模型

知识图谱作为辅助信息可以有效缓解传统推荐模型的冷启动问题。但在提取结构化信息时,现有模型都忽略了图谱中实体之间的邻居关系。针对这一问题,该文提出一种基于共同邻居排序采样的知识图谱卷积网络(KGCN-PN)推荐模型,该模型首先基于共同邻居数目对知识图谱中的每个实体邻域进行排序采样;其次利用图卷积神经网络沿着图谱中的关系路径将实体自身信息与接收域信息逐层融合;最后将用户特征向量与融合得到的实体特征向量送入预测函数中预测用户与实体项目交互的概率。实验结果表明该模型在数据稀疏场景下相较其他基线模型性能均获得了相应提升。     

基于对象特征组合联合知识图谱的推荐系统

目前主流的推荐系统模型需要在获取到足够多的数据时才有良好的表现,当获取的数据稀疏时推荐结果精确度较差;同时,把新加入推荐系统的项目推送给潜在用户以及获取新用户的兴趣点也都需要更好的解决方案.提出了一种基于对象特征组合联合知识图谱的推荐系统模型OCKG(Recommender System based on Object Feature Combination Embedded and Knowledge Graph).该模型以用户和项目为对立对象,通过用户和项目多维信息分别嵌入获取到相关性标签,加以训练得到同类共通性;同时,对嵌入后的的标签进行权重处理,将不同属性特征传播到知识图谱中以增强模型学习迁移能力,对推荐结果按照相关性紧密进行横向和纵向排位,从而实现推荐结果的预测.使用两个不同的公开数据集进行了对比实验,证明了该模型在稀疏数据和冷启动下推荐的有效性.实验结果表明,合理的特征组合以及控制知识图谱上的传播强度提升了模型的推荐性能,增强了模型鲁棒性.     

融合知识图谱和协同过滤的电源推荐算法

推荐系统是解决信息过载、提高信息获取效率的有效手段.为解决电影推荐过程中数据稀疏和冷启动对推荐系统的负面影响,本文提出一种融合知识图谱和协同过滤的电源推荐算法.首先利用原始数据集和开发知识库构建电影知识图谱,采用TransHR模型从电影信息的多关系中学习电影的内涵语义知识,将其嵌入到一个低维向量空间中;然后,依据电影的...     

基于用户行为及知识传播的图神经网络推荐系统

协同过滤算法存在数据稀疏和冷启动问题,当前的推荐方法普遍引入知识图谱来缓解协同过滤算法的缺陷,但这些方法大都专注于利用知识图谱来构建用户及物品的特征表示,忽略了对用户交互信息的有效利用。本文提出了一种基于用户行为和知识图谱的推荐方法,该方法由交互传播以及知识传播两部分组成。前者通过图神经网络,利用用户-物品交互图来构建用户物品的高阶交互特征;后者利用知识图谱中传播得到相关实体来补充对物品的描述。在两个基准数据集上的大量实验表明,相对于基线模型,本文提出的基于用户行为及知识传播的图神经网络推荐系统具有较好的推荐效果以及泛化能力。     

考虑多层次潜在特征的个性化推荐模型

个性化推荐已成为解决信息过载的最有效手段之一,也是海量数据挖掘研究领域的热点技术。然而传统推荐算法往往只使用用户对物品的评分信息,而缺少对用户与物品潜在特征的综合考虑。基于因子分解机、宽神经网络、交叉网络和深度神经网络的融合,提出一种新的考虑多层次潜在特征的模型,可以提取用户与物品的浅层潜在特征、低阶非线性潜在特征、线性交叉潜在特征以及高阶非线性潜在特征。在4个常用的数据集上的实验结果表明,考虑用户与物品多层次潜在特征可以有效提高个性化推荐的预测精度。最后,研究了嵌入层维度以及神经元数量等因素对新模型预测性能的影响。     

融合用户和商品评论的双通道CNN推荐算法

基于评分矩阵的推荐模型目前被广泛应用,虽达到一定推荐精度,但忽略了评论中大量能够反映用户兴趣爱好的语义信息,且数据稀疏性问题依然存在。针对上述问题,提出融合用户评论和商品评论的双通道CNN推荐算法(C-DCNN)。首先将用户和商品评论文本矢量化为词向量,再分别使用两个CNN网络对用户和物品进行特征提取,最后在共享层通过点积项将用户和物品的抽象特征映射到同一特征空间,从而预测出用户对特定商品的评分。在Amazon,Yelp,Beer三组公共数据集上进行实验,结果表明该模型在不同数据集上的MSE都比其他基准算法更小,且有效缓解了数据稀疏性问题。     

基于潜在因子模型的跨领域信息推荐算法

互联网环境下,不同领域中多源异构信息对象的交互融合使用户面临大数据环境下的信息选择困境,传统的信息推荐算法已很难适应跨领域的信息推荐服务.综合分析了不同领域内用户对信息对象的评价数据,基于潜在因子模型抽取了不同领域中某一用户聚类集合对某一信息对象聚类集合评分模式的跨领域共性特征和单领域个性特征,进而通过传递、共享跨域共性特征信息的方式缓解了目标领域的数据稀疏性问题,提高了跨域信息推荐的准确度.     

异质社交网络中多通道特征融合的好友推荐模型

合理有效的好友推荐算法对于社交网络的发展和扩张有重大的意义。然而随着社交网络的复杂化和异质化,传统推荐系统中协同过滤推荐方法不能满足需求。针对异质社交网络中存在着大量的内容相关信息这一特点,根据好友推荐的需求,提出了多通道特征融合的好友推荐模型。该模型对用户相关的多维特征进行挖掘与利用,包括显性特征(如用户profile,用户tag,社交关系等)和隐性特征(如用户重要度,挖掘用户标注发现其领域兴趣等),并进一步将这些内容相关的多特征融合到协同排序算法中进行学习训练。实验结果表明,随着多个内容特征的逐步融合,算法的MAP值稳步提高,最终相对未融合的协同排序方法提高了12%,并在一定程度上的解决了冷启动问题,提高了好友推荐的多样性。     

基于MI聚类的个性化推荐算法研究

针对传统协同过滤推荐算法推荐效率低下,以及其在数据稀疏性和冷启动方面的不足,文中提出基于MI聚类的个性化推荐算法,该算法在协同过滤推荐的基础上,引入多示例形式的用户评分信息模型,用包来表示用户基本信息与历史行为数据,并通过相似度分层次加权对用户的未知项目评分进行预测,最终得出推荐项。实验仿真表明本文算法的准确度和召回率明显优于已有的算法,并且有效地缓解了冷启动和数据稀疏问题。     

基于图神经网络的视频推荐系统

提出了一种基于图神经网络的视频推荐模型,将用户的视频观看序列型行为建模为图结构,用结点代表用户与视频,用边代表行为,引入两种类型的向量传播方法分别对用户的长期兴趣与短时兴趣进行建模。其中,通过用户结点与视频结点的双向传播刻画长期兴趣,借助视频结点切换关系的单向传播刻画短时兴趣,并通过多层向量传播实现对图上高阶邻接信息的捕捉。在一个真实世界的视频网站观看数据集上的实验表明,提出的方法与现有最佳方法相比,其推荐精准度得到了有效提升。进一步的实验表明,该方法能够有效缓解数据稀疏性的问题。     

结合时空注意力机制和自适应图卷积网络的骨架行为识别

针对骨架行为识别对时空特征提取不充分以及难以捕捉全局上下文信息的问题,研究了一种将时空注意力机制和自适应图卷积网络相结合的人体骨架行为识别方案。首先,构建基于非局部操作的时空注意力模块,辅助模型关注骨架序列中最具判别性的帧和区域;其次,利用高斯嵌入函数和轻量级卷积神经网络的特征学习能力,并考虑人体先验知识在不同时期的影响,构建自适应图卷积网络;最后,将自适应图卷积网络作为基本框架,并嵌入时空注意力模块,与关节信息、骨骼信息以及各自的运动信息构建双流融合模型。该算法在NTU RGB+D数据集的两种评价标准下分别达到了90.2%和96.2%的准确率,在大规模的数据集Kinetics上体现出模型的通用性,验证了该算法在提取时空特征和捕捉全局上下文信息上的优越性。      

Application of graph neural network and feature information enhancement in relation inference of sparse knowledge graph

At present, knowledge embedding methods are widely used in the field of knowledge graph (KG) reasoning, and have been successfully applied to those with large entities and relationships. However, in research and production environments, there are a large number of KGs with a small number of entities and relations, which are called sparse KGs. Limited by the performance of knowledge extraction methods or some other reasons (some common-sense information does not appear in the natural corpus), the relation between entities is often incomplete. To solve this problem, a method of the graph neural network and information enhancement is proposed. The improved method increases the mean reciprocal rank (MRR) and Hits@3 by 1.6% and 1.7%, respectively, when the sparsity of the FB15K-237 dataset is 10%. When the sparsity is 50%, the evaluation indexes MRR and Hits@10 are increased by 0.8% and 1.8%, respectively.     

基于三元采样图卷积网络的半监督遥感图像检索

该文提出了一种基于三元采样图卷积网络的度量学习方法,以实现遥感图像的半监督检索。所提方法由三元图卷积网络(TGCN)和基于图的三元组采样(GTS)两部分组成。TGCN由3个具有共享权重的并行卷积神经网络和图卷积网络组成,用以提取图像的初始特征以及学习图像的图嵌入。通过同时学习图像特征以及图嵌入,TGCN能够得到用于半监督图像检索的有效图结构。接着,通过提出的GTS算法对图结构内隐含的图像相似性信息进行评价,以选择合适的困难三元组(Hard Triplet),并利用困难三元组组成的样本集合对模型进行有效快速的模型训练。通过TGCN和GTS的组合,提出的度量学习方法在两个遥感数据集上进行了测试。实验结果表明,TGCN-GTS具有以下两方面的优越性：TGCN能够根据图像及图结构学习到有效的图嵌入特征及度量空间;GTS有效评估图结构内隐含的图像相似性信息选择合适的困难三元组,显著提升了半监督遥感图像检索效果。     

一种基于多任务学习的科学文献推荐算法

传统推荐算法通过主题模型或者词语向量化的平均值对文本内容进行映射。针对现有方法不能充分利用文本信息或忽略词序信息这一问题,文中面向科学文献,提出了一种多任务学习推荐方法。该方法基于多任务学习框架,设计编码器并搭建了GL模型。该模型被训练为内容推荐与文本元数据预测的组合,可改善传统协同过滤的稀疏性问题,使得协同过滤模型正则化。最后,分别在公开数据集与私有数据集上进行了评估测试,结果表明所提方法性能优于现有的经典方法。     

基于二分网络的用户聚类电影推荐系统构建

针对已经存在的推荐算法中数据的稀疏性问题,提出一种基于聚类算法的二分图信任网络构造算法,通过聚类技术把项目评分相似的用户聚集起来,形成若干个用户群组,在每个群组内部通过二分图建立连接,利用信任机制在群组内部和群组间建立连接,进而构造出推荐系统.实验是在MovieLens数据集上进行的,采用平均绝对误差(MAE)为评测指标,验证了方法的有效性,从而得出该系统使得数据稀疏性对最终推荐结果的负面影响变小.     

FedCDR: Privacy-preserving federated cross-domain recommendation

Cross-Domain Recommendation (CDR) aims to solve data sparsity and cold-start problems by utilizing a relatively information-rich source domain to improve the recommendation performance of the data-sparse target domain. However, most existing approaches rely on the assumption of centralized storage of user data, which undoubtedly poses a significant risk of user privacy leakage because user data are highly privacy-sensitive. To this end, we propose a privacy-preserving Federated framework for Cross-Domain Recommendation, called FedCDR. In our method, to avoid leakage of user privacy, a general recommendation model is trained on each user's personal device to obtain embeddings of users and items, and each client uploads weights to the central server. The central server then aggregates the weights and distributes them to each client for updating. Furthermore, because the weights implicitly contain private information about the user, local differential privacy is adopted for the gradients before uploading them to the server for better protection of user privacy. To distill the relationship of user embedding between two domains, an embedding transformation mechanism is used on the server side to learn the cross-domain embedding transformation model. Extensive experiments on real-world datasets demonstrate that our method achieves performance comparable with that of existing data-centralized methods and effectively protects user privacy.     

知识图谱与数据应用——智能推荐

知识图谱技术是新兴的互联网技术,具有较好的前瞻性和较强的技术先进性,有着广泛的应用前景。知识图谱技术提供从“关系”的角度分析问题的能力,可以对数据进行深度挖掘,将自然语言转化为计算机语言,最大限度地展示数据的价值,可以服务于智能搜索、智能推荐、风险预警、智能运营、智能客服、舆情监测、设备预警等业务,大幅地提高企业生产效率。研究了综合聚类算法、SVD分解算法、基于商品的协同顾虑推荐算法、基于用户的协同顾虑推荐算法和商品相似度算法等,结合推荐策略提出了基于知识图谱数据应用的智能推荐系统。证明了以知识图谱作为基础工具的数据应用的可实施性和可部署性,能够全面满足用户在互联网平台的获取信息的需求。