基于双向注意力和类生成器的小样本文本分类 |
| |
引用本文: | 王婷,朱小飞,唐顾.基于双向注意力和类生成器的小样本文本分类[J].小型微型计算机系统,2023(12):2744-2751. |
| |
作者姓名: | 王婷 朱小飞 唐顾 |
| |
作者单位: | 重庆理工大学计算机科学与工程学院 |
| |
基金项目: | 国家自然科学基金项目(62141201)资助; |
| |
摘 要: | 在小样本文本分类领域中,查询集和支持集的特征提取是影响分类结果的关键之一,但以往的研究大多忽略了两者之间存在匹配信息且在各自的信息提取中忽略了特征间的重要性程度不同,因此提出了一种新的小样本分类模型.模型结合GRU的全局信息提取能力和注意力机制的局部细节学习能力对文本特征进行建模,同时采用双向注意力机制来获取支持样本与查询样本间的交互信息,并创新性的提出“类生成器”用以区分同类样本间的不同重要性同时生成更具判别性的类别表示.此外,为了获得更为清晰的分类界限,还设计了一个原型感知的正则化项来优化原型学习.模型在2个小样本分类数据集上进行了实验,均取得了比目前最优基线模型更好的分类效果.
|
关 键 词: | 小样本学习 度量网络 双向注意力 文本分类 |
|
|