基于Bert预训练模型的虚假新闻文本检测

虚假新闻剥夺了人们获取真相的权利,也给社会和国家带来了许多危害。文中以虚假新闻文本为例,分析和验证了多种预训练语言模型在虚假新闻文本分类上的分类效果。经实验证明,相较于其他语言模型,Bert预训练语言模型取得了较好的结果,预测准确率为86.97%,召回率为88.12%,F1值为87.54%。     

卷积深度神经网络在基于文档的自动问答任务中的应用与改进

基于文档的自动问答,尤其是语义匹配,其目标是计算两个文本之间的相似度。这是自然语言处理中的典型任务,并且用以衡量对自然语言的理解程度。深度学习方法得益于可以自动化地学习到给定任务的最优特征表示,在许多研究中取得成功,也包括文本匹配。针对基于文档的自动问答,提出一个基于卷积深度神经网络的语义匹配模型,以便对每一对问题和文档提取特征,并据此计算它们的得分。通过问题和文档之间的交互计算,利用重叠词等文本特征,在中文开放域上的自动问答任务中取得的实际效果证明了该模型的有效性。     

自然语言处理技术的重要性研究

伴随信息技术飞速发展自然语言处理概念应运而生,主要用以支持信息系统完成语言处理任务,使信息技术可以为更多人提供便利服务,自然语言处理技术应用价值随之凸显。文章通过探析自然语言处理技术重要性,以期提高该技术应用质量。     

基于多注意力长短时记忆的实体属性情感分析

属性情感分析是细粒度的情感分类任务。针对传统神经网络模型无法准确构建属性情感特征的问题，提出了一种融合多注意力和属性上下文的长短时记忆（LSTM-MATT-AC）神经网络模型。在双向长短时记忆（LSTM）的不同位置加入不同类型的注意力机制，充分利用多注意力机制的优势，让模型能够从不同的角度关注句子中特定属性的情感信息，弥补了单一注意力机制的不足；同时，融合双向LSTM独立编码的属性上下文语义信息，获取更深层次的情感特征，有效识别特定属性的情感极性；最后在SemEval2014 Task4和Twitter数据集上进行实验，验证了不同注意力机制和独立上下文处理方式对属性情感分析模型的有效性。实验结果表明，模型在Restaurant、Laptop和Twitter领域数据集上的准确率分别达到了80.6%、75.1%和71.1%，较之前基于神经网络的情感分析模型在准确率上有了进一步的提高。