| 基于Transformer和多通道卷积神经网络的情感分析研究 |
| |
| 引用本文： | 霍帅,庞春江.基于Transformer和多通道卷积神经网络的情感分析研究[J].计算机科学,2021,48(z1):349-356. |
| |
| 作者姓名： | 霍帅 庞春江 |
| |
| 作者单位： | 华北电力大学(保定) 河北 保定071003;云南电网有限公司电力科学研究院研究生工作站 昆明 650217;华北电力大学(保定) 河北 保定071003 |
| |
| 摘 要： | 文本情感分析是自然语言处理的经典领域之一.文中提出了一种基于transformer特征抽取器联合多通道卷积神经网络的文本情感分析的模型.该模型使用transformer特征提取器在传统Word2vector,Glove等方式训练的静态词向量的基础上来进行单词的分层、动态表示,针对特定数据集采用Fine-Tuning方式来进行训练有效提升了词向量的表征能力.多通道卷积神经网络考虑了不同大小范围内词序列之间的依赖关系,有效进行特征抽取并达到降维的目的,能够有效捕捉句子的上下文语义信息,使模型捕获更多的语义情感信息,提升文本的语义表达能力,通过Softmax激活函数达成情感倾向分类的目标.模型分别在IMDb和SST-2电影评论数据集上进行实验,测试集上准确率达90.4％和90.2％,这明所提模型较传统词嵌入结合CNN或RNN的模型在分类精确度上有了一定程度的提升.
|
| 关 键 词： | 情感分类 特征提取器 Transformer 多通道卷积神经网络 |
Research on Sentiment Analysis Based on Transformer and Multi-channel Convolutional Neural Network |
| |
| HUO Shuai,PANG Chun-jiang.Research on Sentiment Analysis Based on Transformer and Multi-channel Convolutional Neural Network[J].Computer Science,2021,48(z1):349-356. |
| |
| Authors: | HUO Shuai PANG Chun-jiang |
| |
| Abstract: | |
| |
| Keywords: | |
| 本文献已被 万方数据 等数据库收录！ |
|
