句法依存引导的自注意力机制的中文分词

在前人工作的基础上, 提出句法依存引导的自注意力机制以融合句法依存知识去提升中文分词的性能, 使得自注意力机制只关注那些对当前字符的分词标签有句法依存影响的字符, 学习它们对于当前字符的影响程度, 另外, 该文根据句法依存树对引导后的自注意力机制进行位置编码. 实验结果表明, 模型相较于baseline取得了性能上的提升, 同时模型对未登录词的识别能力也有所提升.