基于BERT的灾害三元组信息抽取优化研究

为从网络媒体文本中快速、准确提取灾害三元组信息,利用自然语言处理(NLP)技术,研究灾害三元组信息抽取应用及其算法优化。通过双向编码器表示(BERT)预训练语言模型,应用于地质灾害三元组信息提取的实例中,针对模型由于底层多头注意力(MHA)机制会导致“低秩瓶颈”问题,对此,通过增大模型key-size对其进行优化。结果表明：所提方法能够显著提升从新闻报道等文本中提取地质灾害种类、发生地点、发生时间等关键信息的容错率及精准率;可得到对地质等灾害空间分布情况和趋势的分析,进而为预案编制、应急资源优化配置、区域监测预警等灾害应急管理工作提供科学分析和决策信息支持。     

融合主题模型与注意力机制的情感分析方法

随着深度学习技术的深入研究,越来越多的深度神经网络模型被运用于情感分析任务。针对现有模型不能较好地表征词语的上下文信息,且存在数据稀疏与特征不明显等问题,提出了一种基于主题模型和注意力机制的情感分类方法,通过LDA模型提取主题特征,并将主题特征和文本特征融合在一起。为了捕获文本情感极性转变的语义信息,从而抽取出文本的最佳情感极性,该方法采用基于CBOW方式的Word2vec模型训练词向量,将带有主题特征的词嵌入矩阵通过Bi-LSTM神经网络模型获取文本的上下文信息,结合注意力机制进一步提取文本信息,再通过softmax线性函数输出积极情感和消极情感的概率。结果表明,该方法在情感分析(NLPCC-SCDL)评测任务的中文数据集上取得了较好的分类效果。     

环球要刊

美国Safety+Health2022年1月刊人工智能在安全领域的应用人工智能进入生活后,在安全领域也有了具体应用。人工智能嵌入视频设备,可识别个体防护装备的佩戴情况和人机交互情况,配合可穿戴设备,还能绘制风险地图,监测作业人员位置和疲劳度。自然语言处理能分析事故报告和安全文档,通过语言判断人的情绪。     

基于环境保护视角的村镇建设政策内容变迁研究

2006年以来中国村镇建设的两大环境保护热点工作——"绿色改造"和"美丽乡村"建设,并且政府关注点逐渐由农村基建转变为重视人居环境和人文资源的保护和传承。而从新农村到美丽乡村这一升级也可以反映政府部门在乡村建设的环保约束上有着越来越深入的理解,政策驱动下的环境保护及绿色生态建设目前已经成为村镇建设的核心。     

基于自然语言处理和机器学习的疑似土壤污染企业识别

针对污染场地识别的精准性不高、科学性不足、全面性不够和数据共享难度大等问题,以南方某地级市为研究区,借助大数据平台,基于自然语言处理和机器学习,通过引入摘要中热词权重构建改进型朴素贝叶斯模型,并对兴趣点(POI)数据进行中类行业预测和污染企业识别。结果表明,与随机森林算法和XGBoost算法相比,朴素贝叶斯算法的性能最佳;企业名称+经营范围构建有语义词汇库后,朴素贝叶斯算法的准确率、召回率和综合评价指标(F₁)值得到大幅提升,分别提高了0.23、0.23和0.23;采用权重1.27和平滑参数α为1.10后,建立了改进型朴素贝叶斯模型,实现了行业类别预测,相应的准确率、召回率和F₁值分别为0.63、0.62和0.63;识别出研究区中26个疑似土壤污染行业有关1774家企业。改进型朴素贝叶斯模型能够有效地预测疑似土壤污染企业,具有较好的准确率与召回率,能够为场地污染识别与风险管控实践提供理论依据和设计参数。     

一种改进的灾害新闻3要素提取方法研究*

为提取灾害性新闻中的基本要素,迅速掌握灾害事件信息和发展趋势,将目标分类和命名实体识别（named entity recognition,NER）相结合,提出改进的灾害新闻3要素提取方法。构建滑动窗检测器搭载不同的分类模型,实现对新闻文本的灾害主题识别与时空位置要素范围判定,结合命名实体识别完成对时空位置要素的精准提取,并以灾害事故信息文本为例进行测试。研究结果表明:通过在火灾、地震和滑坡新闻中进行数据集中测试,发现本文方法相较于LSTM,BILSTM,BILSTM-CRF提取效果更优;本文方法可对大量灾害性新闻的灾害3要素进行识别提取,对灾害信息进行时空规律分析,研究结果可在灾害应急响应中发挥重要作用。     

人工智能技术现状剖析

从1956年达特茅斯会议提出AI开始,AI的研究经历几次沉浮。在一次次的高潮和低谷的交替中,不可否认的是,AI无论是在理论还是实践中都取得了长足的进步。尤其是近期以深度学习为代表的AI技术取得了突破性的进展,在计算机视觉、机器学习、自然语言处理、机器人技术方面取得了巨大的进步,深刻改变了我们的生活。在这次变革中,实验室的成果很快就可以进入工业界,这在以往的技术发展史上是非常罕见的。2016年5月国家发展改革委员会等四部门联合下发《互联网+AI三年行动实施方案》,李克强总理的政府报告中也提到了AI产业发展,中国科学技术部"科技创新2030重大项目"将增加"AI2.0",AI已经上升为国家战略。面对AI的热潮,我们应该如何理解现状?如何看待其进步?又如何理解其功能和限制?本文将从AI的核心理论基础、当前存在的一些问题以及未来可能发展的方向等诸多方面对AI做介绍。     

基于半监督卷积神经网络的文本情感分类

针对情感分析需要标注大量高质量的训练集来提高模型的准确率,以及卷积神经网络无法充分利用句子中特有的情感信息,提出了一种基于多通道半监督卷积神经网络的情感分析模型。该模型通过重构卷积神经网络的损失函数以及不改变网络的结构来实现模型的半监督学习。同时,模型针对情感分析任务中特有的情感信息来构建文本输入矩阵以及将句子不同特征信息结合形成不同的网络输入通道,使模型在训练过程中从多方面的特征表示来学习输入句子的情感信息。并在COAE 2014和IMDB数据集上进行试验,验证了所提出方法的有效性。     

基于双向门控循环单元和双重注意力的实体关系抽取

实体关系抽取在文本信息抽取中起着关键的作用。针对卷积神经网络出现文本数据特征丢失,循环神经网络梯度消失与长期依赖等问题,提出了一种基于双向门控循环单元和双重注意力的命名实体关系抽取方法。采用基于中文汉字n元笔画信息的词向量训练模型cw2vec和双向门控循环单元的方法,通过前向和后向传播的方式解决因遗忘而丢失句子特征信息的问题,再加入句子级别和字级别的注意力机制提高模型的精确度。实验表明,相比无注意力或单重注意力机制的方法,使用cw2vec模型训练的词向量库加上双向门控循环单元和双重注意力模型的准确率有所提高。