神经语言模型在框架排歧中的应用

在使用神经网络语言模型进行汉语框架排歧实验时,可选取词、词+词性、随机embedding矩阵及与词相对应的embedding矩阵作为特征,在2077条句子的语料上进行框架排歧实验,在给定数据集下,随着embedding矩阵迭代次数的增加,准确率也增大,当迭代次数达到7000万时,准确率最大,然后随着迭代次数的增加,准确率有减小的趋势,最后趋于稳定。把词的embedding矩阵作为特征提高框架排歧的准确率,进一步说明,深度学习在自然语言处理中的应用与仅有词及词+词性特征的若干模型对比中,词的分布式表示是有一定作用的。     

基于回溯法的中文分词技术

本文基于经典算法回溯法,对中文分词进行在研究与比对,发现我们的实验结果优于当下的双向LSTM模型、以及CRF条件随机场的数据,将中文分词难点问题未登录词和歧义词的识别提高了1%。     

基于自然语言处理技术的智能配电网调度优化方法研究

由于历史电力数据中许多不确定性特征被忽略，造成调度优化方案无法解决电网节点电压越限，为此提出一种基于自然语言处理技术的智能配电网调度优化方法。采用包含注意力机制的编码器-解码器框架，并利用自然语言处理技术深入挖掘电网历史运行数据，获取负荷参数特征；在此基础上，建立一个优化调度模型，其中考虑有功调度成本最低的目标；为了求解这个优化调度模型，采用改进的随机搜索和启发式搜索算法，通过这些方法，得到一个最优的智能配电网调度方案。算例结果表明，使用所提出的调度优化方法后，智能配电网节点电压保持在0.95～1.05 pu的优质电压范围内，并且电压越上限的情况完全消失。     

基于大数据技术网络舆情分析系统

互联网的快速发展使每位公民都能对社会热点、焦点问题发表言论，进而形成了网络舆情。而网络舆情的监测与分析越发依赖大数据分析技术系统。本文针对实时的热点话题进行舆情分析系统研究，开发出一套针对热点话题进行情感分析的舆情分析系统，该系统采用定向爬虫技术、自然语言分析处理技术、Django框架、web开发等技术。不仅可以帮助大众更好了解热点话题的舆论导向，而且能帮助相关部门检测舆情走势，控制舆情程度并给出明确的信息依据。     

基于深度学习的电信运营商网络投诉工单智能分类技术研究

本文基于自然语言处理技术和深度学习算法，挖掘运营商投诉工单中结构化和非结构化内容的语义特征规律，构建了面向运营商网络投诉派单场景的大规模多标签智能分类模型TBF。本文使用包括编码器模块和解码器模块的端到端框架构建模型。编码器模块使用嵌入层将输入数据中的原始字段转化成向量表示后，使用文本卷积神经网络和双向长短期记忆网络分别对不同数据类型字段的向量表示进行特征抽取并使用前馈神经网络进行特征融合。解码器模块是多层感知机分类器组成的分类器链结构，用来接收编码器模块的融合结果并预测输出各层级投诉类别标签，从而实现对网络投诉工单的智能分类，达到节约人力成本、提升派单质效的数智化转型目的。通过在运营商实际生产环境中的测试和应用，取得了较为满意的效果，成功助力运营商的客户满意度改善。     

基于ERC Roberta的提示学习实现对话情感识别

使用Transformer架构的预训练模型进行对话情感识别时，用传统的微调分类方法难以充分考虑对话文本的语序和结构特征。而且情感对话分类任务与预训练任务不匹配。而使用提示学习方法可通过重建下游任务缩小情感对话分类任务与预训练任务之间的差距。因此，提出一种将提示学习与Roberta模型相融合的对话情感识别(PERC Roberta)模型。利用该模型通过文本掩码预测任务学习对话的语序和结构特征；然后通过提示学习重建下游任务，进一步激发学习到的丰富对话知识。将该模型在2个对话情感识别公共数据集上进行了实验，实验结果表明，PERC Roberta模型比其他模型具有更好的分类效果。此外，消融实验的对比结果也证明了所提模型的有效性。     

动态

一款名叫InAIR的产品,在Kickstarter众筹平台募集资金超过15．8万美元,其可接收当前正在播放的影视节目数据,借助自然语言处理和其他专利技术进行处理．将网络和社交媒体上的相关内容直接呈现在电视屏幕上。科幻电影《少数派报告》中描述的场景有走进现实生活的可能．     

基于上下文词语同现向量的词语相似度计算

词语的语义相似度是词语间语义相似紧密的一种数量化表示。提出一种词语的语义相似度计算方法 ,利用上下文词语同现向量来描述词语的语义知识 ,在此基础上 ,使用 min/ max的方法计算词语之间的语义相似度。实验结果表明 ,该方法能够比较准确地反映词语之间的语义关系 ,为词语间的语义关系提供一种有效度量。