基于词表示模型的领域文献数据可视分析方法

随着科学技术的发展,科研文献数量越来越大,如何从海量文献信息中找出特定领域的研究主题、有影响力的学者和高水平论文是一个巨大的挑战。为此提出一种基于词表示模型的领域文献数据可视分析方法,首先利用词嵌入模型 word2vec 向量化推荐领域相关的关键词,根据这些词向量之间的近似度筛选出领域相关的论文;然后应用 BERTopic 模型从领域论文摘要中提取主题;基于 PageRank 算法计算论文影响力,应用综合考虑作者署名顺序、发表论文数量和论文影响力的作者影响力评价方法 Author-Rank 计算作者的影响力;最后使用多视图协同和交互的可视化方法帮助研究人员从领域的主题词频、主题演变、文献影响力和引用关系、作者影响力等多个角度对特定领域进行快速理解和分析。将该方法应用于食品安全领域的文献数据分析,应用结果和用户测试说明了其有效性。     

结合属性信息的二分网络表示学习

现有的网络表示学习算法主要是针对同质网络或异质网络设计的,而忽略了在推荐系统、搜索引擎和问答系统等领域出现的二分网络的特殊特征以及这类网络所携带着的非常丰富的属性信息。为了解决上述问题,提出了一种结合属性信息的二分网络表示学习方法(ABNE)。该方法首先将连边分解成邻居节点间的间接关系集,嵌入显式关系,接着通过余弦相似性引入并定义节点的属性相似度矩阵,并将其作为权重矩阵的一部分指导有偏随机游走,从而嵌入隐式关系和属性信息。最后通过一个联合优化框架得到同时携带网络结构信息和属性信息的节点表示向量。在四个真实公开数据集上进行了推荐任务,并与其他现有方法进行比较,实验结果表明该算法的优越性和合理性。     

融合知识感知和时间感知的用户偏好网络

在知识感知推荐领域,基于嵌入传播的方式可以挖掘知识图谱的结构化信息,也能够获取n跳实体间的语义信息,但随着传播范围的增加,嵌入传播方式会丢失部分结构化信息,且以这种方式所获得的用户向量表示是粗粒度的,不能充分表征用户的偏好。针对以上问题,提出了一种融合知识感知和时间感知的用户偏好网络(FKTUPN)。首先在嵌入层生成知识图谱的一阶嵌入向量,同时单独为用户偏好进行细粒度的建模;然后用随机游走的方式划分时间槽,进行时间上下文编码,获取图结构的上下文信息,并将该结构化信息嵌入到关系向量中;随后通过知识感知注意力机制区分嵌入表示的贡献并递归传播;最终在预测层中聚合不同传播层次的用户和项目表示,将两种表示相乘后得到推荐结果。实验表明,该模型在Amazon-book、Last-FM以及Yelp三个数据集上的recall@20、NDCG@20指标得分均高于对比的基线模型,细粒度的用户偏好表示以及结构化信息的充分利用能够有效提高推荐的准确度。     

基于网络表示学习的论文影响力预测算法

基于图的随机游走算法在预测论文影响力时,仅利用学术网络的全局结构信息而未考虑局部结构信息,对预测准确率造成影响。针对该问题,提出一种基于异构学术网络表示学习和多变量随机游走的论文影响力预测算法。通过构建异构学术网络表示模型,将网络中的论文、作者和期刊/会议等不同类型的节点表征到同一个低维向量空间中,同时保留网络的局部结构信息,将节点的向量相似度应用于多变量随机游走方法,实现对论文影响力的准确预测。在AMiner网站公开数据集上的实验结果表明,相比于PageRank、FutureRank等算法,该算法的预测准确性较高。     

层次标签引导的属性网络嵌入

网络嵌入是在保持网络性质不变的前提下,将节点转换为低维向量,以便下游任务的求解.现有网络嵌入方法的研究大多关注于网络结构、节点属性信息或单层次标签信息等方面.然而,许多真实世界的网络节点通常具有丰富的层次标签信息,这些层次标签信息对获取高效的网络嵌入具有重要价值.由于不同层次的标签之间的信息很难相互关联或继承,如何合理利用层次标签信息进行网络嵌入,获得更高效的向量表示是亟待研究的问题.针对上述问题,提出了一种新的基于层次标签的属性网络嵌入框架(HLANE),该框架利用层次注意力机制将层次标签信息融入网络嵌入中.HLANE框架首先通过现有的网络嵌入方法获取结构和/或属性信息初始化节点的嵌入向量.然后通过层次注意力机制层建立多层次标签的父节点和子节点之间的联系,并依此指导网络节点初始化嵌入向量在不同层次的学习,最终生成网络节点的多层次嵌入向量表示.在真实数据集上的实验表明,与对比算法相比,HLANE框架具有更好的网络节点嵌入表示.     

关联文本信息的网络表示学习推荐算法

通过基于随机游走的网络表示学习算法得到节点的低维嵌入向量,进而将其应用于推荐系统是推荐领域很流行的研究方向.针对当前基于随机游走的网络表示学习算法仅着重考虑了网络结构特性而忽略文本信息的问题,提出一种关联文本信息的网络表示学习推荐算法.首先在随机游走阶段,考虑到了节点文本间的相似度,联合结构和文本信息对下一游走节点进行筛选;然后在网络表示学习部分融合文本信息,引入注意力矩阵,对文本信息矩阵中的向量进行加权表示;最后将生成的节点向量应用于推荐系统.在实验部分,将所提算法与常见的3种算法在两个数据集上进行对比分析,并对所提算法进行了参数敏感性分析.实验结果表明所提算法在AUC评价指标上的性能优于另外3种算法,可见该算法在个性化推荐中的有效性.     

基于多层次多视角的图注意力Top-N推荐方法

推荐系统是当前数据挖掘领域的研究热点,海量数据的涌现促使多源信息融合的推荐方法得到极大的关注。但是,现有的基于异质信息融合的推荐方法在进行特征表示时往往忽略了用户和项目之间的交互信息以及元路径之间的相互影响。因此,考虑到属性节点嵌入和结构元路径的不同视角,提出了一种多层次图注意力的网络推荐方法。该方法通过构建不同的元路径,将多源信息网络结构粒化为多个独立的粗粒度网络,然后基于图注意力机制结合局部节点属性嵌入,来分别学习用户和项目的潜在特征,最终给出融合后的细粒度网络推荐。在现实大规模数据集上进行横向和纵向评测,实验结果表明该方法能够有效地提升推荐性能。     

一种改进的个性化查询引文推荐方法

为充分利用文本内容的上下文信息，结合图模型及查询向量的构建方法，提出一种融合查询内容信息的个性化引文推荐方法。通过三种论文信息构建三层图模型，并在不同层上设置不同参数，调整节点向不同层次的跳转概率；利用word2vec技术构建的查询向量，可以有效利用文本上下文内容信息，使相似的文章在距离上更加接近，进而对候选文章进行评分预测与论文推荐。在Association of Computational Linguistics Anthology Network数据集上进行计算分析，相同查询下与原有的方法相比在recall@N上平均提高约7%，在NDCG@N上平均提高约11%。实验结果表明该方法可以使引文推荐的质量得到有效的提升，能够获得较好的推荐效果。     

基于异质用户网络嵌入的服务推荐方法研究

服务推荐过程中,为充分利用用户标签标注关系与用户的社交关系信息,提升推荐结果的准确性,提出一种基于异质用户网络嵌入的方法,通过将用户节点映射为一个低维的向量,再利用得到的用户向量进行协同推荐。在公开数据集Delicious上进行了实证分析,实验结果表明,相对已有的2个方法,该方法的推荐精度可分别提高18.1%和16.6%,且发现在学习用户表征向量时,节点之间的直接关系与"朋友的朋友"关系对表示用户节点结构信息同等重要;同时,推荐过程中为目标用户返回的相似用户在25个最为适宜。     

基于深度学习的异质信息网络表示学习方法综述

万物依存而在，现实世界中的实体之间存在着各种不同的关联关系，如人与人之间的关系可以构成社交网络，学者通过共同发表论文、引用文献构成引文网络。同质网络将节点和边抽象为单一类型，但是这会造成大量的信息丢失。为了更大程度地保证信息的完整性和丰富性，有研究者提出了异质信息网络的概念，即包含多种类型节点和边的网络模式。将异质信息网络中的拓扑结构和语义信息嵌入到低维向量空间中，下游任务能够利用异质信息网络中的丰富信息进行机器学习或数据挖掘任务。文中总结了近年来基于深度学习模型的异质信息网络表示学习方法的研究成果，同时聚焦两类关键问题——异质信息网络语义自动提取和动态异质信息网络的表示学习方法，列举了异质信息网络表示学习新的应用场景，并展望了异质信息网络的未来发展趋势。     

基于全局注意力机制的属性网络表示学习

属性网络不仅具有复杂的拓扑结构,其节点还包含丰富的属性信息.属性网络表示学习方法同时提取网络拓扑结构和节点的属性信息来学习大型属性网络的低维向量表示,在节点分类、链路预测和社区识别等网络分析技术方面具有非常重要和广泛的应用.文中首先根据属性网络的拓扑结构得到网络的结构嵌入向量;接着通过全局注意力机制来学习相邻节点的属性信息,先用卷积神经网络对节点的属性信息作卷积操作得到隐藏向量,再对卷积的隐藏向量生成全局注意力的权重向量和相关性矩阵,进而得到节点的属性嵌入向量;最后将结构嵌入向量和属性嵌入向量连接得到同时反映网络结构和节点属性的联合嵌入向量.在3个真实数据集上,将提出的新算法与当前的8种知名网络表示学习模型在链路预测和节点分类等任务上进行比较,实验结果表明新算法具有良好的属性网络表示效果.     

基于社团多特征融合嵌入表示的时序链路预测方法

时序动态网络在静态网络基础上综合了时间属性的概念,包含了网络结构的复杂性、动态性等内涵,是研究复杂网络链路预测问题的较优思维对象,因在现实世界中具有较高应用价值而备受关注。目前大部分传统方法研究对象仍局限于静态网络,存在对网络时域演化信息利用不充分、时间复杂度较高等问题。结合社会学理论,提出一种基于社团多特征融合嵌入表示的时序链路预测方法,该方法的核心思想是通过分析网络动态演化特性,在社团范围内学习节点的嵌入表示向量,融合多特征以衡量节点间连边的生成概率。利用网络集体影响力的方法对节点和连边的权值进行计算,基于集体影响的连边权值进行社团划分,将网络划分为若干个社团子图,得到基于集体影响的相似性指标。在社团范围内,利用有偏的随机游走,结合梯度优化的Skip-gram方法获取所有节点的嵌入表示向量,得到基于社团范围游走的相似性指标。融合节点的集体影响、社团范围节点的多个中心性特征和学习到的节点表示向量,得到多特征融合的相似性指标,3 种新指标都可以用于衡量节点之间形成连边的概率。对比基于移动平均、嵌入表示、图神经网络等经典时序链路预测方法,在 6 个真实数据集上的实验结果表明,所提基于社团多特征融合的方法在 AUC评价标准下取得更优的预测性能。     

融合文本主题的异构网络学术刊物推荐方法

学术大数据的高速膨胀为学术工作者高效选择有效学术信息带来了巨大挑战，运用学术刊物推荐以应对学术信息过载是主流方式之一。此研究专门解决如何为论文手稿高效推荐合适投稿期刊这一问题。引入学术异构信息网络，融合论文文本主题信息，提出一种新的学术刊物推荐方法（SCVR）。借助主题模型建模论文摘要和标题等文本内容提取主题信息，指导不同类型节点映射到多主题特征空间；将元路径上下文信息聚合到目标节点，形成了多跳元路径下节点的多主题表示；将不同元路径下形成的节点向量进行融合，实现每个节点多元元路径下的多主题表示。SCVR利用节点文本内容和网络结构学习节点多主题表示，完成学术刊物推荐。在两个真实学术数据集上的测试发现，提出了一种基于异构信息网络且融合文本主题信息的学术刊物推荐方法，在相同条件下，SCVR的推荐效果比仅基于异构信息网络的推荐结果在Precision和NDCG上平均提高了2.7%，且比经典学术刊物推荐方法平均高了19%，说明SCVR在学术刊物推荐领域有更优良的性能。     

利用多粒度属性网络表示学习进行引文推荐

引文推荐(CR)聚焦于智能化地产生与查询文章相关的文献列表,对科学研究具有重要价值.引文推荐有关于文章的语义信息和结构信息,近年来,基于网络表示学习(NRL)的引文推荐获得广泛关注.但现有研究使用单粒度网络来建模引文推荐问题,存在计算复杂度高、内存消耗大的弊端.为克服这个挑战,提出一种基于多粒度属性网络表示学习的引文推荐算法(CR-HANRSL),可以大大提升网络表示学习效率并同时兼顾文章的语义和结构特征.首先,根据文章结点属性的语义关联度和作者关系反复将网络粗化成更小的网络,并在每次粗化后都让超结点融合子结点的文本属性为粗化后的网络计算语义连边.随后,利用单粒度网络表示学习方法学习粗化后的网络特征表示并通过学习图卷积神经网络,对原网络的表示进行细化.最后,融合文章间多模态特征表示相似度产生推荐列表.在AAN和DBLP两个数据集上的实验结果表明提出的方法可以在学习高质量网络特征表示的前提下大大提升网络表示学习效率.     

融合双端注意力网络的知识图谱推荐算法

知识图谱在推荐算法中的应用有效增强了推荐结果的可解释性，但仍缺乏对用户-物品交互信息的关注。针对目前已有的知识图谱推荐算法忽略用户端与物品端的差异而无法有效地提取用户与物品信息的问题，提出了融合双端注意力网络的知识图谱推荐算法（double end knowledge graph attention network,DEKGAN）。首先根据用户端与物品端两者不同的需求设计两种注意力网络，在用户端是将用户的浏览记录输入到知识图谱中不断扩展用户的潜在兴趣，通过基于用户的注意力网络对三元组内部信息进行计算以更准确地获取用户的嵌入表示向量；在物品端是将物品信息输入到知识图谱内中不断获取与用户喜好有关的物品信息，使用基于用户偏好的注意力网络指定更准确的传播方向，然后将两端注意力网络中获取到的邻域信息聚合生成物品的嵌入表示向量，最终获取用户对物品的喜好概率。通过在数据集MovieLens-1M和Book-Crossing中进行实验，采用AUC、F1、precision和recall指标进行评估，结果证明与其他基准算法相比推荐的准确性和可解释性有显著的提升。     

基于用户网络嵌入的民宿房源推荐方法

随着民宿行业的迅速发展,在线民宿订房系统开始流行起来。让用户在海量房源信息中快速找到所需房源是订房系统中待解决的问题。针对房源推荐中用户冷启动与数据稀疏性的问题,提出基于网络嵌入法的房源个性化推荐（UNER）方法。首先通过用户在系统中的历史行为数据及标签信息构建两类用户网络;然后基于网络嵌入法将网络映射至低维向量空间中,得到用户节点的向量表示并通过用户向量计算用户相似度矩阵;最后依据该矩阵为用户进行房源推荐。实验数据来源于贵州"水东乡舍"民宿订房系统。实验结果表明,相对于基于用户的协同过滤算法,所提方法的综合评价指标（F1）提升了20个百分点,平均正确率（MAP）提升11个百分点,体现出该方法的优越性。     

基于动态二分网络表示学习的推荐方法

构建用户—项目交互网络并学习其表征是一种有效的推荐方法。已有的方法大多将交互网络视为静态同质网络,忽略了交互时序性和节点异质性的影响。针对这一问题,提出一种基于动态二分网络表示学习的推荐方法,首先构建时序加权二分网络;然后将用户节点和项目节点分别映射到不同的向量空间以保留网络的异质性,选择图卷积网络来聚合节点的一阶和高阶邻居信息;最后使用多层感知机学习两类节点嵌入的非线性关系并进行top-N推荐。在Amazon和Taobao数据集上的实验结果表明,该方法在HR和NDCG推荐指标上均显著优于相关的基于静态、异质网络表示学习的方法。     

基于多头注意力机制的半监督卷积网络嵌入

网络嵌入旨在综合利用网络特性来学习节点的低维向量.然而,传统的网络嵌入方法不能全面考虑外部信息,通常只关注一种属性而忽略其他属性,或者分别学习不同属性的表示.对此提出一种基于多头注意力机制的半监督卷积网络嵌入模型(SMAC).利用近年来在自然语言处理中广泛应用的多头注意机制与多层图卷积神经网络,将外部信息与结构信息以半监督的方式结合起来,在一个统一的框架中联合优化.通过在真实数据上的对比实验,验证了该模型能够获得较好的节点向量表示,具有优于对比算法的性能.     

基于非递减时序随机游走的动态异质网络嵌入

网络嵌入是将高维网络映射到低维向量空间的一种表示学习方法.目前,人们对动态同质网络嵌入和静态异质信息网络嵌入已经开展了一些研究,但动态异质网络上的嵌入研究仍然较少,如果直接应用静态网络嵌入或动态同质网络嵌入方法来解决动态异质网络嵌入问题,会由于忽略网络的动态或异质特性而导致严重的信息丢失.因此,提出一种基于时间和类别约束随机游走的动态异质网络嵌入方法TNDE.该方法引入类别约束,能够解决动态异质网络中由于异质特性带来的语义信息保留问题.不同于其他动态网络中的时序随机游走,该方法采用非递减的时间约束来增量式地进行随机游走,能够解决网络同时具备动态和异质特性而引入的强语义局部结构上的边时间戳一致的挑战,避免游走时出现时间戳陷入的问题.通过对实时变化的增量游走和嵌入学习,TNDE提供了一种高效的在线表示学习算法.在3个真实数据集上的实验结果表明:该方法在不同特性的网络中具有良好的通用性.与目前最先进方法相比,能够得到下游链路预测和节点分类任务中2.4％～92.7％的准确度提升,显著提高了嵌入质量,并在保证良好嵌入质量的前提下,缩短算法运行时间12.5 ％～99.91％.     

融合画像和文本信息的轻量级关系图注意推荐模型

针对当前基于图神经网络的推荐系统受数据稀疏影响推荐效率不高的问题,提出融合画像和文本信息的轻量级关系图注意推荐模型(LightRGAN)。首先,利用用户画像和项目画像初始化用户和项目的嵌入表示。其次,引入评论、项目描述和项目类型作为辅助信息,并通过基于多头注意力机制的文本嵌入网络挖掘同一用户评论集和描述集中文本之间的潜在联系。然后,通过融合注意力机制的轻量级关系图卷积网络学习用户和项目的嵌入表示。最后,对各层嵌入表示加权求和并通过预测网络计算匹配分数。在三个公开数据集上的实验结果表明LightRGAN的效果优于多个现有的基线模型,评估指标HR@20、NDCG@20较最优基线模型最少提升了2.58%、2.37%。