基于注意力机制的多粒度匹配的表情识别模型

面部表情自动识别技术已在人工智能领域受到广泛使用。然而,由于姿态变化和遮挡,人脸表情识别中的一个关键挑战是提取细粒度特征的方法。文章提出一种基于注意机制的多粒度匹配模型,特别地,在多粒度匹配模块中部署了多粒度模块和关注度估计模块。通过多粒度模块将细节图像划分为多个细粒度局部区域,并计算局部特征的关注度权重来构造全局特征。图像细节处理模块用于获取原始图像的细节特征。在CK+和Fer2013上进行了大量实验,结果证明了本文方法的有效性。     

基于BiGRU和残差图注意力网络的股票价格预测模型

高效、准确的股票价格预测能帮助投资者合理规划交易方式,提高投资收益。针对现有股票价格预测模型的准确率不高、投资收益率低等问题,提出一种结合双向门控循环单元(BiGRU)和残差图注意力网络(ResGAT)的股票价格预测模型(BiGRU-ResGAT)。首先,通过结合注意力机制的时间滑动窗口方法(TSWMCAM)动态计算不同股票之间的关联系数,构建表征股票之间关联关系的股票图结构;然后,使用BiGRU捕获股票在时序上的长距离依赖信息;最后,利用ResGAT对股票的时序特征与股票间的关联特征进行深度挖掘和融合,并对股票价格进行预测。在上海证券交易所主板市场498支股票上的价格预测结果显示,与支持向量机(SVM)、门控循环单元(GRU)、复合模型(CNN-LSTM)和关系股票排序模型(RSR)相比,BiGRU-ResGAT在股票测试集上平均绝对误差(MAE)分别降低79.53%、63.20%、48.17%、33.19%,均方根误差(RMSE)分别降低80.23%、66.22%、53.99%、29.99%,决定系数(R-Squared)分别提升23.34%、15.22%、9.54%、4.84%;...     

基于多粒度生成对齐网络的行人重识别

针对行人重识别(re-ID)中背景簇、遮挡、视点变化和姿态变化等因素的负面影响,提出了一种新的算法,称为多粒度融合生成对齐网络(MLFGAN)．首先,提出身份(Identity, ID)不变的姿态标准化生成对抗网络(IIPN)来生成8种标准姿态的行人图像;然后,通过全局对齐网络实现图像对齐,利用局部对齐网络进行精细化行人匹配,用多粒度特征融合来整合不同粒度的信息,防止小尺度鉴别性信息丢失．MLFGAN能够有效地提取有区分性和鲁棒性的行人嵌入表示,其有效性在Market1501和DukeMTMC-reID等广泛使用的数据集上得到了清楚的验证．     

基于多粒度一致性邻域的多标记特征选择

多标记学习广泛应用于图像分类、疾病诊断等领域,然而特征的高维性给多标记分类算法带来时间负担、过拟合和性能低等问题.基于多粒度邻域一致性设计相应的多标记特征选择算法:首先利用标记空间和特征空间邻域一致性来粒化所有样本,并基于多粒度邻域一致性观点定义新的多标记邻域信息熵和多标记邻域互信息;其次,基于邻域互信息构建一个评价候...     

基于分层注意力循环神经网络的司法案件刑期预测

为了解决刑期预测任务准确率较差的问题,提出一种基于多通道分层注意力循环神经网络的司法案件刑期预测模型.该模型对传统的循环神经网络模型进行了改进,引入了BERT词嵌入、多通道模式和分层注意力机制,将刑期预测转化为文本分类问题.模型采用分层的双向循环神经网络对案件文本进行建模,并通过分层注意力机制在词语级和句子级两个层面捕获不同词语和句子的重要性,最终生成有效表征案件文本的多通道嵌入向量.实验结果表明:对比现有的基于深度学习的刑期预测模型,本文提出的模型具有更高的预测性能.     

基于多光谱通道注意力和双向特征融合的乳腺肿块检测

乳腺钼靶X线摄影是诊断乳腺疾病的有效手段,计算机辅助诊断系统在乳腺肿块检测中起着重要作用,针对检测过程中易出现漏检、误检导致精度不理想的情况,提出了一种改进的RetinaNet乳腺肿块检测算法.首先,在RetinaNet的基础上对特征提取部分进行改进,在每个残差块中引入多光谱通道注意力机制,使网络能更加关注到目标区域;然后,在特征融合部分,以两种不同方式添加一条自底向上的路径,并通过横向连接最终实现深浅层特征的双向融合,加快浅层信息流通,使得到的特征信息更加丰富.实验表明：改进后的算法在乳腺钼靶图像的肿块检测中具有良好的检测效果,既减少了漏检率,平均精度也提升了3.2%,并且相比其他出色的检测算法,也具有一定的优势.     

基于自注意力机制的多特征融合槽抽取模型

在任务型人机对话系统中,槽抽取任务是至关重要的一个环节.为了提高槽抽取模型的识别准确率,该文提出了一种利用自注意力机制融合文本的多特征维度特征的方法.该方法在常规的双向长短期记忆模型(Bi-directional long short-term memory,Bi-LSTM)和条件随机场(Conditional ran...     

基于多层交叉注意力融合网络模型的人脸图像情感分析

目前大多数人脸图像情感分析方法只单方面关注图像整体或局部来构建视觉情感特征表示,忽略了二者在情感表达上的协同作用。针对此问题,提出了一种多层交叉注意力融合网络情感分析方法。该方法首先利用特征相关性分析实现最大化类的可分性;其次通过多层交叉注意力网络中的多个不重叠的注意力区域来提取整体和局部的信息;然后将整体与局部提取的注意力图进行融合,来共同训练图像情感分类器并进行情感分析。实验结果表明,提出的方法在真实数据集RAFDB上的情感分类准确率达到了88.53%,优于现有其他方法,验证了该方法的有效性与优越性。     

基于卷积图神经网络的多粒度表示学习框架

卷积图神经网络（Convolutional Graph Neural Network,ConvGNN）以其强大的表达能力被广泛应用于社交网络、生物网络等领域的网络表示学习中,多粒度网络表示学习已被证明能够改善已有网络嵌入方法的性能,但目前尚缺乏以改善ConvGNN性能为目标的框架.针对此问题,提出一种基于ConvGNN的多粒度网络表示学习框架M-NRL,分为四个模块：粒化模块、训练模块、推理模块和融合模块.粒化模块构造从细到粗的多粒度网络并保留不同粒度节点的属性和标签信息,训练模块在最粗粒度的网络上以端到端的方法训练任意一种ConvGNN并优化其模型参数,推理模块使用优化后的ConvGNN推理出不同粒度网络的节点表示,融合模块采用注意力权重聚合不同粒度的节点表示以产生最终的节点表示.在四个公开引文网络数据集上进行的半监督节点分类任务验证了M-NRL的有效性,实验结果表明,MNRL不仅能加速现有ConvGNN的训练,还可以增强其最终的表示质量.     

基于双向门控循环单元的5-甲基胞嘧啶位点预测

5-甲基胞嘧啶（5-methylcytosine, m5C）是一种重要的转录后修饰,大量证据表明,m5C在许多生物学过程中起着至关重要的作用.准确鉴定m5C位点有助于更好地了解其生物学功能.为此提出了一个名为pm5C-BGRU的模型,该模型通过拼接独热编码（One-hot encoding）和核苷酸化学性质（nucleotide chemical property, NCP）进而对RNA序列进行特征提取,并基于双向门控循环单元（Bidirectional Gated Recurrent Unit, BiGRU）来识别m5C位点.将该方法在人类、小鼠和拟南芥三个物种的m5C数据集上进行建模和测试,并对照已有的预测模型进行评估.结果表明,pm5C-BGRU在交叉验证和独立数据集测试中均取得优异效果,该模型有望成为鉴定m5C位点的有力工具.     

基于注意力机制多特征融合的虚假信息检测

在虚假信息识别任务中,面对图文结合的虚假内容,基于单模态的模型难以进行准确识别.社交媒体中的虚假信息为吸引关注和迅速传播的目的,会使用夸张的词汇煽动读者的情绪.如何将情感特征引入多模态虚假信息检测模型进行多特征融合,并准确地识别虚假信息是一个挑战.为此,本文提出了基于注意力机制多特征融合的虚假信息检测方法(att-MFNN).该模型中先将文本特征和情感特征基于注意力机制融合,再与视觉特征组成多模态特征送入虚假信息识别器和事件分类器中.通过引入事件分类器学习不同事件中的共同特征,提高新事件的识别性能.att-MFNN在微博和推特(Twitter)数据集的准确率达到了89.22%和87.51%,并且F₁、准确率、召回率指标均优于现有的模型.     

多粒度PPI网络描述模型及其蚁群优化的功能模块检测方法

针对蚁群算法在大规模蛋白质相互作用(protein-protein interaction,PPI)网络中进行功能模块检测所暴露的时间性能方面的不足,提出了一种基于多粒度描述和蚁群优化的快速求解算法。首先,从粒度计算的角度,给出了一种新的多粒度PPI网络描述模型;然后,基于该模型,设计了融合功能和结构信息的粒度划分,粗粒度的蚁群寻优,解的还原与优化3个阶段的求解过程。在大规模PPI网络上的实验表明:算法在保证检测质量的同时,能显著降低利用蚁群算法进行功能模块检测的求解时间,而且与近年来的一些经典算法相比在检测精度上也具有一定的优势。     

基于卷积神经网络和双向门控循环单元网络注意力机制的情感分析

传统的情感分析方法不能获取全局特征,以及否定词、转折词和程度副词的出现影响句子极性判断.在深度学习方法基础上提出了基于卷积神经网络和双向门控循环单元网络注意力机制的短文本情感分析方法.将情感积分引入卷积神经网络,利用情感词自身信息,通过双向门控循环网络模型获取全局特征,对影响句子极性的否定词、转折词和程度副词引入注意力...     

BiGRU结合注意力机制的文本分类研究

随着信息时代的发展,文本包含的信息量越来越多,而同一段文本可以隶属于不同的类别,为了提升多标签文本分类任务的准确率,提出了一种基于ALBERT预训练、双向GRU并结合注意力机制的改进的多标签文本分类模型——BiGRU-Att模型.在百度发布的中文事件抽取数据集上进行实验,该模型的识别准确率达到了99.68％,相对比较组的BiLSTM-Att、LSTM-Att、BiGRU、BiLSTM、LSTM等模型的测试结果,准确率更高,性能更优.实验结果表明,改进的BiGRU-Att模型能有效提升多标签文本分类任务的准确率.     

基于时空图注意力神经网络的交通道路拥塞和异常预测

为全面捕获交通路网的时空特性,分析路况的复杂多变性,实现道路拥堵和突发情况的高效准确预测,研究提出一种时空图注意力神经网络模型,通过将道路网络建模成一系列随时间变化的图,利用图注意力机制(graph attention network, GAT)关注路网图关键节点的空间特性并捕获动态的全图空间特征,再利用门控循环单元(gated recurrent neural network, GRU)充分捕获相邻路网图的时间相关性并降低模型冗余,提升了对道路拥堵和异常情况的预测准确率。采用PEMSD数据集进行实验。结果表明,所提方法与对比模型相比准确率与召回率均优于现有方法,有效提升了交通异常预测精度。     

基于Attention机制的链接预测算法

针对社会网络中链接预测问题,提出了基于注意力(Attention)机制的链接表示及其预测算法.基于待预测节点的共邻关系构建其链接局部网络,设计了基于紧密游走的网络拓扑序列化方法.采用双向循环神经网络(Bi-RNN)对链接序列进行向量编码,以充分挖掘序列相关节点间的上下文依赖信息.通过Attention机制对链接中的节点进行关注和加权,强化重要节点对链接预测任务的贡献,实现链接拓扑特征的自动提取与准确分类预测.实验结果表明,在4种不同类型的社会网络数据集中,该算法的准确率和运算效率都有较大提高且普适性较强.     

基于题目关联知识的试题难度预测研究

为保障考试的公平性和客观性,需在测试前获取试题难度参数.提出一种基于题目关联知识的试题难度预测模型(MR-ABNN).首先,构建文本信息摘要抽取模型,获取题目的关联知识来丰富题干的上下文;然后利用加入注意力机制的双向循环神经网络模型挖掘试题文本信息的逻辑关系,限定语句对问题的难度贡献来实现试题难度的自动评估;最后在大学...     

融合注意力机制的刀具磨损预测方法

刀具的磨损状态影响着工件表面质量与加工稳定性,故实现其磨损量的准确监测对于保证加工可靠性、维持生产加工连续性具有积极作用．为进一步提高刀具磨损预测模型的泛化性能和准确度,提出一种融合注意力机制的多尺度卷积双向门控循环(multiscale convolutional bidirectional gated recurrent unit-attention,MSCBGRU-A)神经网络的刀具磨损预测方法,其由特征拓展模块、多尺度卷积模块、双向GRU模块、注意力模块、回归模块组成．首先,将切削力、声发射、振动信号作为输入信号,输入信号通过多尺度卷积模块获得多个尺度的刀具磨损输出特征图,将多个卷积通道输出的特征图输入到连接层进行首尾和层叠两种方式的连接来获得两种输出数据．然后,将两种输出数据分别输入到双向GRU模块与注意力模块,通过双向GRU模块学习输出特征图动态变化来获取时序特征,通过注意力模块对多尺度卷积神经网络的输出进行权值分配,强化对刀具磨损预测结果贡献度更大的特征．最后,通过回归模块对磨损值进行预测．经过对比实验引入混合域注意力机制的基于卷积块的注意力机制(convolutiona...