面向目标情感分析的双重图注意力网络模型

目标情感分析旨在分析评论文本中不同目标所对应的情感倾向。当前,基于图神经网络的方法使用依存句法树来融入依存句法关系,一方面,此类方法大多忽略了依存关系缺乏区分度的事实;另一方面,未考虑依存句法树提供的依存关系存在目标与情感词关系缺失的问题。为此,提出双重图注意力网络模型。该模型首先使用双向长短期记忆网络得到具有语义信息的词节点表示,然后根据依存句法树在词节点表示上构建句法图注意力网络,实现依存句法关系重要程度的区分,更有效地建立目标与情感词之间的关系,进而得到更准确的目标情感特征表示;同时根据句子的无向完全图构建全局图注意力网络来挖掘目标与情感词缺失的关系,进一步提升模型的性能。实验结果表明,与现有模型对比,双重图注意力网络模型在不同数据集上的准确率与宏平均F1值均取得了更好结果。     

基于关系门控图卷积网络的方面级情感分析

在方面级情感分析任务中，现有方法难以有效利用句法关系类型且性能依赖依存解析的准确性，为此提出注意力增强的关系门控图卷积神经网络（ARGCN）模型.该模型将双向长短时记忆（BiLSTM）网络学习得到的句子顺序特征与依存概率矩阵相结合构建单词图；利用关系门控图卷积神经网络（RG-GCN）和注意力增强网络（AAN）分别从单词图和句子的顺序特征中获取方面词的情感特征；拼接RG-GCN和AAN的输出作为方面词最终的情感特征.在数据集SemEval 2014、 Twitter上进行对比实验和消融实验，结果表明ARGCN模型可以有效地利用关系类型，减小依存解析准确性对模型性能的影响，更好地建立方面词和意见词的联系，模型准确率优于所有基线模型.     

基于卷积神经网络的FrameNet框架消歧研究

针对当前FrameNet框架下的词义消歧准确率较低的问题,采用卷积神经网络应用于FrameNet框架进行框架消歧研究.该模型依托依存句法分析树排序选出待消歧词的6个邻接单词节点,并选择单词词义、父节点词义、单词词性、单词依存分析类型作为消歧特征,使用Softmax函数作为全连接层分类器,通过输出待消歧词可激活的各框架概率选出概率值最高的作为激活框架,从而判定待消歧词词义.实验结果表明,该模型在FrameNet框架的消歧准确率较高于条件随机场等其他普遍算法,各目标词的准确率较为稳定,通过该模型切实提升了FrameNet框架消歧的准确率.     

基于依存关联分析的情感词扩展

无扩展的情感词识别方法对于倾向容易发生演化的社区媒体信息的召回率很低.基于此,提出了一种基于依存关联分析的情感词扩展识别方法,首先对文本进行新词和短语发现;再对句子的依存树进行剪枝和归并;然后按照给定的策略进行情感词和评价对象的扩展;最后得到情感词扩展的识别结果.该方法能同时扩展具有直接依存关系和间接依存关系的情感词. 实验结果表明该方法有效.     

基于自注意力与图卷积网络的方面级情感分析

针对以往大多数方面级情感分析研究中方面词与上下文交互信息缺失,无法充分利用语义信息等问题,提出一种基于自注意力与图卷积网络结合的方面级情感分析模型。为了提高模型的语义表示能力,一方面利用多头自注意力机制,获取文本长距离依赖关系,与依存关系类型矩阵结合,计算融合位置信息和关系类型信息的权重矩阵,输入图卷积网络获取文本特征表示;另一方面设计了文本-方面注意力层,增强方面与上下文的交互,输入图卷积网络获取方面特征表示;最后连接2个向量,完成情感分析任务。在2个开放数据集中,所提模型的整体性能优于其他对比模型。     

基于条件随机场的日语依存分析

日语依存关系解析是日语句子解析的一项基本技术。提出了一种基于条件随机场的日语依存分析方法,并充分使用了上下文信息和功能词出现信息作为新特征。在京都大学文本语料库上的实验结果表明,本文提出的日语依存分析方法是有效的,依存关系正确率、句子正确率分别达到了89.26%和45.90%。     

融合标签语义嵌入和图卷积的短文本特征扩展及分类方法

针对短文本长度过短、关键词偏少和标签信息利用不足造成的分类过程中面临特征稀疏和语义不明确的问题,提出了融合标签语义嵌入的图卷积网络模型。首先,在传统的术语频率和逆文档频率算法基础上,提出了融合单词所属文本的类间、类内分布关系的全局词频提取算法。其次,利用融合标签嵌入的方法,将每条训练文本与相对应的标签引入到同一个特征空间内,通过筛选聚合提取更能突显文本类别的近义词嵌入,作为文本图的文档节点的嵌入表示。最后,将文本图输入到图卷积神经网络学习后,获得的特征与预训练模型提取文本上下文的特征相融合,提升短文本的分类质量以及整个模型的泛化能力,在4个短文本数据集MR、web＿snippets、R8和R52上对本文模型和14个基线算法进行了对比实验,结果表明本文提出的模型相比于对比模型具有更优的结果,在识别精度、召回率以及F₁值上有着更好的表现。     

基于BERT与注意力机制的方面级隐式情感分析模型

在方面级情感文本中存在部分不含情感词的评论句，对其情感的研究被称为方面级隐式情感分析.现有分析模型在预训练过程中可能会丢失与方面词相关的上下文信息，并且不能准确提取上下文中深层特征.本文首先构造了方面词感知BERT预训练模型，通过将方面词引入到基础BERT的输入嵌入结构中，生成与方面词信息相关的词向量；然后构造了语境感知注意力机制，对由编码层得到的深层隐藏向量，将其中的语义和句法信息引入到注意力权重计算过程，使注意力机制能更加准确地分配权重到与方面词相关的上下文.对比实验结果表明，本文模型的效果优于基线模型.     

基于注意力与双通道网络的方面级情感分析

针对方面级情感分析任务不能充分兼顾句法全面性与语义关联性,且大多数研究中使用的图卷积仅考虑信息自上而下的传播,忽略了信息自下而上的聚合等问题,本文提出了基于注意力与双通道网络的情感分析模型.该模型在扩展依存表示的同时使用自注意力获取具有语义关联的信息矩阵,使用双通道网络结合全局句法与语义关联信息,双通道网络分别侧重于自上而下传播的语义特征与自下而上聚合的结构特征.通道内的图卷积输出会与信息矩阵进行交互注意力起到残差互补的作用,然后通过平均池化完成通道内的任务.最后将基于语义与基于结构的决策融合得到最终的情感分类特征.实验结果表明该模型在三个公开数据集上的准确率与F1值均有提升.     

利用句法模式从术语词典中抽取语义关系

提出了一种基于句法模式的语义关系抽取方法,用于从术语词典中抽取语义关系.该方法以句法模式为中心,结合了自然语言处理技术和统计的思想,充分利用术语词典文档中的句法信息,通过抽取包含着语义关系信息的句法模式,并将其与词典文本进行近似匹配以达到抽取语义关系的目的.实验结果表明,该方法可以有效地从术语词典中抽取多种语义关系.     

一种面向目标的情感极性分析方法

面向目标的情感分析是细粒度情感分析的重要任务之一,旨在预测句子中给定目标实体的情感极性.当前大多数研究方法忽略了句法结构信息,在情感判别时往往会关注无关词汇,从而使分类性能下降.为此,设计了一种新的引入句法结构的模型,该模型利用双向预训练编码器和作用于依存句法树的图卷积网络分别捕获文本的上下文信息和句法结构信息,并使用多头注意力机制进行信息聚合得到目标的情感分类表征.此外,还将该模型与现有的领域自适应方法相结合,同时向模型中引入领域知识和句法结构知识,进一步提升了模型效果.在几个常用的标准数据集上的实验结果表明了上述模型的有效性.     

基于NRC和多模态残差神经网络的肺部肿瘤良恶性分类

针对深度卷积神经网络训练时的网络退化、特征表达能力不强等问题,提出一种基于非负表示分类和多模态残差神经网络的肺部肿瘤(residual neural network-non negative representation classification, resnet-NRC)良恶性分类方法。使用迁移学习将预训练残差神经网络模型初始化参数;分别用CT、PET和PET/CT 3个模态的数据集训练残差神经网络,提取全连接层的特征向量;采用非负表示分类器(non-negative representation classification, NRC)对特征向量进行非负表示,求解非负系数矩阵;利用残差相似度进行肺部肿瘤良恶性分类。通过AlexNet、GoogleNet、ResNet-18/50/101模型进行对比试验,试验结果表明,ResNet-NRC分类效果优于其它模型,且特异性和灵敏度等各项评价指标也较高,该方法具有较好的鲁棒性和泛化能力。     

基于NRC和多模态残差神经网络的肺部肿瘤良恶性分类

针对深度卷积神经网络训练时的网络退化、特征表达能力不强等问题,提出一种基于非负表示分类和多模态残差神经网络的肺部肿瘤(residual neural network-non negative representation classification, resnet-NRC)良恶性分类方法。使用迁移学习将预训练残差神经网络模型初始化参数;分别用CT、PET和PET/CT 3个模态的数据集训练残差神经网络,提取全连接层的特征向量;采用非负表示分类器(non-negative representation classification, NRC)对特征向量进行非负表示,求解非负系数矩阵;利用残差相似度进行肺部肿瘤良恶性分类。通过AlexNet、GoogleNet、ResNet-18/50/101模型进行对比试验,试验结果表明,ResNet-NRC分类效果优于其它模型,且特异性和灵敏度等各项评价指标也较高,该方法具有较好的鲁棒性和泛化能力。     

基于深度强化学习的文本实体关系抽取方法

从文本大数据中快速准确地抽取文本的实体关系信息是构建知识图谱的关键.针对目前主流的远程监督关系抽取方法常常忽略实体对的类型信息和句子语法信息的问题,该文提出了一种基于深度强化学习的文本实体关系抽取方法.首先,利用结合实体周围词注意力机制的双向长短期记忆网络作为句子编码的第一个模块;然后,在此基础上加入实体类型嵌入模块,...     

基于全信息自然语言理解的语音识别后文本处理

将全信息(自然语言的语法、语义和语用信息)自然语言理解应用到可靠语音功能的研究中，提出在语音识别之后增加一个全信息自然语言理解的文本后处理功能，通过深入分析词语的语法信息（位置、识别稳定度）、语义信息（语句目标含义）和语用信息（语境和谐度）对语音识别结果语句进行评估、检错和纠错，最终输出优化语句。实验结果表明，增加全信息自然语言理解后处理可使识别正确率获得较好改善。     

基于全信息自然语言理解的语音识别后文本处理

将全信息(自然语言的语法、语义和语用信息)自然语言理解应用到可靠语音功能的研究中，提出在语音识别之后增加一个全信息自然语言理解的文本后处理功能，通过深入分析词语的语法信息（位置、识别稳定度）、语义信息（语句目标含义）和语用信息（语境和谐度）对语音识别结果语句进行评估、检错和纠错，最终输出优化语句。实验结果表明，增加全信息自然语言理解后处理可使识别正确率获得较好改善。     

基于查询与内容的文档表示模型

在信息检索中,文档表示模型的优劣是影响检索性能的重要因素之一.根据全信息理论,认识论信息是语法信息、语义信息和语用信息的三位一体.当前主流的文档表示模型主要利用语法和语义信息,造成语用信息的缺失,成为改善检索性能的瓶颈.该文提出了一种整合用户查询行为与文档内容的文档表示模型,将用户隐性反馈的语用信息和文档自身的语义、语法信息相结合,动态调整索引库关键词权重,从而提高信息检索的查全率和查准率.