融合连边符号语义信息的网络表示学习算法

为融合连边符号语义信息提升网络表示学习质量,针对现有算法处理复杂连边符号语义信息能力较弱问题,提出一种融合连边符号语义信息的网络表示学习算法,将包含正负关系的连边符号语义信息引入网络表示学习过程。首先,该算法设计基于三层感知机的关系预测模型刻画节点间不同类型的上下文链接关系;然后,引入随机游走策略实现上下文链接采样以适应大规模网络场景训练需求。在三个数据集中实验表明,该算法能够有效建模节点间不同类型的上下文链接关系,挖掘其中包含的复杂语义信息,相比目前最优的SIDE方法,所提算法的性能分别提高了0.31%、1.3%和1.85%。     

结合属性信息的二分网络表示学习

现有的网络表示学习算法主要是针对同质网络或异质网络设计的,而忽略了在推荐系统、搜索引擎和问答系统等领域出现的二分网络的特殊特征以及这类网络所携带着的非常丰富的属性信息。为了解决上述问题,提出了一种结合属性信息的二分网络表示学习方法(ABNE)。该方法首先将连边分解成邻居节点间的间接关系集,嵌入显式关系,接着通过余弦相似性引入并定义节点的属性相似度矩阵,并将其作为权重矩阵的一部分指导有偏随机游走,从而嵌入隐式关系和属性信息。最后通过一个联合优化框架得到同时携带网络结构信息和属性信息的节点表示向量。在四个真实公开数据集上进行了推荐任务,并与其他现有方法进行比较,实验结果表明该算法的优越性和合理性。     

基于矩阵分解的DeepWalk链路预测算法

现有的链路预测方法的数据来源主要是基于邻居、路径和随机游走的方法,使用的是节点相似性假设或者最大似然估计,尚缺少基于神经网络的链路预测研究。基于神经网络的一些研究表明,基于神经网络的DeepWalk网络表示学习算法可以更加有效地挖掘到网络中的结构特征,已有研究证明DeepWalk等同于分解目标矩阵。因此,提出了一种基于矩阵分解的DeepWalk链路预测算法（LPMF）。该算法首先基于矩阵分解的DeepWalk算法分解得到网络的表示向量;然后通过余弦相似度计算每对节点之间的相似度,构建目标网络的相似度矩阵;最后利用相似度矩阵,在三个真实的引文网络中进行链路预测实验。实验结果表明,提出的链路预测算法性能优于现存的20余种链路预测算法。这充分表明了LPMF能够有效地挖掘网络中节点之间的结构关联性,而且在实际网络的链路预测中能够发挥出较为优异的性能。     

基于自编码器的多视图属性网络表示学习模型

现有的大多数网络表示学习方法很难兼顾网络中丰富的结构信息和属性信息,导致其后续任务,如分类、聚类等的效果不佳。针对此问题,提出一种基于自编码器的多视图属性网络表示学习模型（AE-MVANR）。首先,将网络的拓扑结构信息转化为拓扑结构视图（TSV）,通过计算节点间相同属性共现频率来构造属性结构视图（ASV）;然后,在两个视图上分别利用随机游走算法得到若干节点序列;最后,经过自编码器训练得到的序列,从而得到融合了结构信息和属性信息的节点表示向量。在几个真实数据集上进行了分类、聚类任务的大量实验,结果表明,所提AE-MVANR优于常用的仅基于网络结构的和同时基于网络结构信息及节点属性信息的网络表示学习方法,具体来说该模型的分类准确率最高提升43.75%,而其聚类结果的标准化互信息（NMI）和轮廓系数（Silhouette Coefficient）指标最高增幅分别为137.95%和1 314.63%,戴维森堡丁指数（DBI）最大降幅达45.99%。     

基于密集连接卷积神经网络的链路预测模型

现有的基于网络表示学习的链路预测算法主要通过捕获网络节点的邻域拓扑信息构造特征向量来进行链路预测，该类算法通常只注重从网络节点的单一邻域拓扑结构中学习信息，而对多个网络节点在链路结构上的相似性方面研究不足。针对此问题，提出一种基于密集连接卷积神经网络（DenseNet）的链路预测模型（DenseNet-LP）。首先，利用基于网络表示学习算法node2vec生成节点表示向量，并利用该表示向量将网络节点的结构信息映射为三维特征数据；然后，利用密集连接卷积神经网络来捕捉链路结构的特征，并建立二分类模型实现链路预测。在四个公开的数据集上的实验结果表明，相较于网络表示学习算法，所提模型链路预测结果的ROC曲线下方面积（AUC）值最大提高了18个百分点。     

一种保留社区结构信息的网络嵌入算法

现有网络嵌入算法大多只保留网络的微观结构信息,忽略了网络中普遍存在的社区结构信息。为提高网络表示质量,提出一种保留社区结构信息的网络嵌入算法PCNE。通过最大化节点之间的一阶和二阶相似性,对网络的微观结构进行建模,同时通过分解可反映网络社区结构信息的社区结构嵌入矩阵,对网络的社区结构信息进行建模。将构建的2个模型融合到统一的联合非负矩阵分解框架中,结合相似度矩阵和社区隶属度矩阵得到融合社区结构信息的节点表示向量。在5个真实公开数据集上进行节点分类实验,结果表明,与DeepWalk、Node2vec、LINE算法相比,PCNE可使Micro-F1值提升0.96%~13.1%,验证了算法的有效性。     

网络表示学习算法的分析与验证

网络表示学习算法是社交网络分析领域的一个热点问题。该文旨在研究现有的各种网络表示学习算法,并分析各类算法在不同结构的网络数据中的性能,对3大类别、共10种网络表示学习算法在8个网络上进行了网络节点的多标签分类以验证算法的性能,以此来全面评价各类算法的效果、效率和应用范围。实验结果表明,DeepWalk这种流行的深度学习算法在各种类型的网络中有着稳定而较好的效果。而基于矩阵分解算法的应用,则受限于其较高的空间复杂度。     

融合全局和局部信息的端到端边分类方法

边分类是图挖掘和社交网络分析中的一个重要研究方向。然而，现有边分类方法往往通过聚合连边端点的表示来间接提取边的特征，且设计为非端到端的学习方式，会造成较大的信息损失。针对上述问题，该文提出一种融合全局和局部信息的边分类模型EGLec(end-to-end Model with global and local Information Fusion for edge classification),将边特征提取和边分类过程建模成端到端的训练方式。首先，根据网络中所有节点对边的权重构建边的全局信息。其次，结合图自编码器和深度自编码器，分别提取网络的结构特征和边全局信息的深层语义特征，以生成连边的结构嵌入和全局特征嵌入。最后，融合结构嵌入和全局特征嵌入得到最终的连边表示以用于边分类。在三个真实数据集上的对比实验验证了该文所提出模型可显著提高边分类性能。     

融合深度神经网络和张量分解的地点推荐算法

为提高利用张量分解技术进行基于位置社交网络的地点推荐的推荐性能,提出一种利用张量分解技术且融合神经网络的地点推荐算法。融合多层感知机和长短期记忆网络基于张量分解技术建模用户的签到行为,将学习到的用户偏好表示馈送到推荐生成器和推荐判别器组成的对抗生成网络中,通过对抗训练学习最佳用户偏好表示用于推荐。基于真实数据集的实验验证了该算法的有效性和高效性。     

保持Motif结构的网络表示学习*

随着信息技术的广泛应用,网络在人们日常的生活中变得无处不在。网络表示学习算法是最近研究网络的一个热门领域,它旨在保留网络拓扑结构信息的同时,将网络映射到一个潜在、低维度的向量空间。网络Motif,在网络分析中具有重要的意义,然而之前提出的网络表示学习算法绝大多数只考虑了节点的邻域属性或邻近性,而忽略了节点的Motif结构信息。因此,基于上述考虑,提出了算法"保持Motif结构的网络表示学习",使得在学习网络节点向量表示时能够更加侧重地考虑网络Motif的结构。算法首先计算出基于Motif的网络权重矩阵;接着求得网络中每个节点的基于Motif的个性化PageRank预估值;最后进行MotifWalk得到游走路径,从而能够运用Word2Vec模型来得到网络的向量表示。通过与三个经典的网络表示算法比较,发现在稠密以及Motif结构丰富的网络中,提出的算法表现得更好。     

FP-CNNH:一种基于深度卷积神经网络的快速图像哈希算法

在大数据时代,图像检索技术在大规模数据上的应用是一个热门的研究领域。近年来,大规模图像检索系统中, 图像哈希算法 由于具备提高图像的检索效率同时减少储存空间的优点而受到广泛的关注。现有的有监督学习哈希算法存在一些问题,主流的有监督的哈希算法需要通过图像特征提取器获取人为构造的图像特征表示,这种做法带来的图像特征损失影响了哈希算法的效果,也不能较好地处理图像数据集中语义的相似性问题。随着深度学习在大规模数据上研究的兴起,一些相关研究尝试通过深度神经网络进行有监督的哈希函数学习,提升了哈希函数的效果,但这类方法需要针对数据集人为设计复杂的深度神经网络,增大了哈希函数设计的难度,而且深度神经网络的训练需要较多的数据和较长的时间,这些问题影响了基于深度学习的哈希算法在大规模数据集上的应用。针对这些问题,提出了一种基于深度卷积神经网络的快速图像哈希算法,该算法通过设计优化问题的求解方法以及使用预训练的大规模深度神经网络,提高了哈希算法的效果,同时明显地缩短了复杂神经网络的训练时间。根据在不同图像数据集上的实验结果分析可知, 与现有的基准算法相比,提出的算法在哈希函数训练效果和训练时间上都具有较大的提高。     

基于图注意力网络表示学习的协同过滤推荐算法

针对传统的基于模型的协同过滤推荐算法未能有效利用用户与项目的属性信息以及用户之间与项目之间的关系结构信息, 本文提出一种基于图注意力网络表示学习的协同过滤推荐算法. 该算法使用知识图谱表示节点的属性特征信息和节点间的关系结构信息, 并在用户和项目的同质网络上进行节点的图注意力网络表示学习, 得到用户和项目的网络嵌入特征表示, 最后构建融合网络嵌入信息的神经矩阵分解模型获得推荐结果. 本文在Movielens数据集上与相关算法进行对比实验, 实验证明该算法能优化模型的推荐性能, 提高推荐的召回率HR@K和归一化折损累计增益NDCG@K.     

基于深度学习的多交互混合推荐模型

传统的推荐系统中，基于矩阵分解的协同过滤方法只考虑单一的评分信息，而且作为浅层模型无法学习到更深层次的特征信息。提出一种基于深度学习的多交互混合推荐模型，通过深度学习模型融合更多的辅助信息作为输入，能够缓解数据的稀疏性问题；利用多层交互的非线性网络结构去学习更抽象、稠密的深层次特征表示；通过对用户和项目的隐表示进行多次内积交互获得不同层次的特征表示结果；聚合所有的交互结果进行预测。在Movieles latest 100K数据集上进行实验，采用[RMSE]指标进行评估，结果表明所提模型在推荐效果上有所提升。     

一种基于前向无监督卷积神经网络的人脸表示学习方法

当前基于深度卷积神经网络的人脸表示学习方法需要利用海量的有标注的人脸数据。在实际应用中,精确标注人脸的身份非常困难。因此,提出了一种基于前向无监督卷积神经网络的人脸表示学习方法。其中,基于K-means聚类获取训练样本虚拟标签,再利用线性判别分析进行卷积核学习。提出的网络结构简单有效,训练阶段不需要反向传递,训练速度显著优于有监督的深度卷积神经网络。实验结果表明,提出的方法在真实条件下的人脸数据集LFW和经典的Feret数据集上取得了优于当前主流的无监督特征学习方法和局部特征描述子的性能。     

联合嵌入式多标签分类算法

现有的一些多标签分类算法,因多标签数据含有高维的特征或标签信息而变得不可行.为了解决这一问题,提出基于去噪自编码器和矩阵分解的联合嵌入多标签分类算法Deep AE-MF.该算法包括两部分:特征嵌入部分使用去噪自编码器对特征空间学习得到非线性表示,标签嵌入部分则是利用矩阵分解直接学习到标签空间对应的潜在表示与解码矩阵.Deep AE-MF将特征嵌入和标签嵌入的两个阶段进行联合,共同学习一个潜在空间用于模型预测,进而得到一个有效的多标签分类模型.为了进一步提升模型性能,在Deep AE-MF方法中对标签间的负相关信息加以利用.通过在不同数据集上进行实验证明了提出Deep AE-MF方法的有效性和鲁棒性.     

基于深度学习特征字典的单帧图像超分辨率重建

在基于字典的单帧图像超分辨率重建算法中,依赖人工浅层特征设计的字典表达图像特征能力有限。为此,提出基于深度学习特征字典的超分辨重建方法。该算法首先利用深度网络进行高、低分辨率训练样本图像深层次特征学习;然后,在稀疏字典超分辨框架下联合训练特征字典;最后,输入单帧低分辨率图像并利用该字典实现超分辨率重建。理论分析表明,引入深度网络提取图像深层次特征并用于字典训练,对低分辨率图像的高频信息补充更加有利。实验证明,与双三次插值以及基于一般人工特征字典的超分辨重建算法相比,本文算法的主观视觉和客观评价指标均高于对比算法。     

小样本问题下培训弱教师网络的模型蒸馏模型

针对深度神经网络在图像识别中存在的训练数据不足,以及多模型蒸馏中存在的细节特征丢失和蒸馏计算量大的问题,提出一种小样本问题下培训弱教师网络的模型蒸馏模型。首先通过集成学习算法中的引导聚集（Bagging）算法培训弱教师网络集,在保留图像数据集细节特征的同时进行并行计算以提升网络生成效率;然后融合知识合并算法,并基于弱教师网络特征图形成单个高质量、高复杂度的教师网络,从而获得细节重点更突出的图像特征图;最后在目前先进的模型蒸馏基础上提出了针对组合特征图改进元网络的集成蒸馏模型,该算法在减少了元网络训练计算量的同时实现了小样本数据集对目标网络的训练。实验结果表明,所提模型在准确率上相较于单纯以优质网络为教师网络的蒸馏方案有6.39%的相对改进;比较自适应增强（AdaBoost）算法训练教师网络再加以蒸馏得到的模型和集成蒸馏模型的模型准确率,二者相差在给定误差范围内,而集成蒸馏模型比AdaBoost算法的网络生成速率提升了4.76倍。可见所提模型能有效提高目标模型在小样本问题下的准确率和训练效率。