自然语言生成综述*

自然语言生成是人工智能和计算语言学的分支,是生成可理解文本的计算机系统。从系统的健壮性、复用性和独立性出发,详细介绍了由内容规划、微观规划和表层生成三个基本模块构成的经典管道模型,并着重分析了内容确定、结构构造、优化聚合、选词、提交生成表达式、内容实现、结构实现以及有关生成关键技术和系统建模等核心内容,最后提出了当前NLG的发展趋势和研究热点。     

基于深度学习的文本到图像生成方法综述

文本到图像生成方法采用自然语言与图像集特征的映射方式,根据自然语言描述生成相应图像,利用语言属性智能地实现视觉图像的通用性表达。基于卷积神经网络的深度学习技术是当前文本到图像生成的主流方法,为系统地了解该领域的研究现状和发展趋势,按照模型构建及技术实现形式的不同,将已有的技术方法分为直接图像法、分层体系结构法、注意力机制法、周期一致性法、自适应非条件模型法及附加监督法共六类。分别对这些方法进行总结归纳和讨论,论述其构建思路、模型特点、优势及局限性,并对主要的评价指标开展分析对比,最后讨论该技术在模型方法、评价方法和技术改进等方面面临的挑战及未来展望。     

知识增强的自然语言生成研究综述

自然语言生成(Natural Language Generation, NLG)任务是自然语言处理(Natural Languge Processing, NLP)任务中的一个子类,并且是一项具有挑战性的任务。随着深度学习在自然语言处理中的大量应用,其已经变成自然语言生成中处理各种任务的主要方法。自然语言生成任务中主要有问答任务、生成摘要任务、生成评论任务、机器翻译任务、生成式对话任务等。传统的生成模型依赖输入文本,基于有限的知识生成文本。为解决这个问题,引入了知识增强的方法。首先介绍了自然语言生成的研究背景和重要模型,然后针对自然语言处理归纳介绍了提高模型性能的方法,以及基于内部知识(如提取关键词增强生成、围绕主题词等)和外部知识(如借助外部知识图谱增强生成)集成到文本生成过程中的方法和架构。最后,通过分析生成任务面临的一些问题,讨论了未来的挑战和研究方向。     

自然语言生成系统的实现技术分析

自然语言生成（NaturalLanguageGeneration）是自然语言处理两大域之一，国外许多学者都在致力于NLG技术的研究。本文主要介绍有关文本自动生成器的实现技术。首先简单的阐述文本自动生成的三大主要任务；其次，具体描述四种常用的生成器实现技术及其优缺点；最后，文章谈到了一个具体实例的实现模型。     

自然语言生成系统的多视图体系结构

在Reiter的流水线体系结构基础上,LynneCahill、ChristyDoran等人建立了RAGS(ReferenceArchitectureforGenerationSystem),它的目的是为自然语言生成(NLG)系统定义一个参考体系结构,但它是一个半模型,未能完整地描述生成系统。文章在RAGS的基础上提出了自然语言生成系统体系结构多视图方法,从功能、系统、技术三个视图方向对NLG系统体系结构进行了较为完整的描述。     

基于抽取的高考作文生成

机器人自动写作是人工智能和自然语言处理领域重要的研究方向,然而传统的自动写作方法主要针对体育新闻、天气预报等较短的段落级文本进行研究,并没有对篇章级文本自动生成技术进行深入地建模.针对这一问题,我们着重研究面向高考作文的篇章级文本生成任务.具体而言我们提出了一种基于抽取式的高考作文生成模型,即先进行抽取再利用深度学习排序方法进行段落内部的文本组合生成.通过实际专家评测,我们所生成的作文能够达到北京高考二类卷平均分数,具有一定的实际应用价值.     

耦合单词与句子级文本特征的图像对抗级联生成

文本生成图像旨在根据自然语言描述生成逼真的图像，是一个涉及文本与图像的跨模态分析任务。鉴于生成对抗网络具有生成图像逼真、效率高等优势，已经成为文本生成图像任务的主流模型。然而，当前方法往往将文本特征分为单词级和句子级单独训练，文本信息利用不充分，容易导致生成的图像与文本不匹配的问题。针对该问题，提出了一种耦合单词级与句子级文本特征的图像对抗级联生成模型(Union-GAN),在每个图像生成阶段引入了文本图像联合感知模块(Union-Block),使用通道仿射变换和跨模态注意力相结合的方式，充分利用了文本的单词级语义与整体语义信息，促使生成的图像既符合文本语义描述又能够保持清晰结构。同时联合优化鉴别器，将空间注意力加入到对应的鉴别器中，使来自文本的监督信号促使生成器生成更加相关的图像。在CUB-200-2011数据集上将其与AttnGAN等多个当前的代表性模型进行了对比，实验结果表明，Union-GAN的FID分数达到了13.67,与AttnGAN相比，提高了42.9%,IS分数达到了4.52,提高了0.16。     

基于文本句法的文本生成模型

本文引用语言学及符号学理论, 综合自然语言文本生成所涉及的知识, 构造了计算机文本生成的理论模型。文中探究了文本句法中的微观整合性和宏观整合性以及它们对文本生成的作用。这个以文本结构模型和文本意义模型为主体的文本生成理论框架,为进一步的计算机语言生成研究提供了方法依据。     

自然语言生成技术及其应用实例

自然语言生成是自然语言自理的两大领域之一。国外许多学者都在致力于ＮＬＧ技术的研究。本文主要介绍有关自动生成器的实现方法。本文主要介绍有关文本自动生成器的实现方法。首先简单地阐述文本自动生成的三大主要任务，其次，具体描述四种常用的生成器实现技术及其优缺点。最后，文章谈到了一个具体实例－－天气预报自动生成系统的实现模型。     

基于序列到隐写序列的约束型自然语言信息隐藏方法

已有的基于文本生成的无约束型自然语言信息隐藏方法主要利用不同的文本生成模型在秘密信息的控制下实现隐写文本的生成,它们生成的隐写文本质量较好且嵌入容量高.但这些方法大都局限于生成短隐写文本,整体的文本质量和句间语义相关性会随着句子长度增加而急剧下降.与无约束型方法不同,已有的约束型自然语言信息隐藏方法能针对特定场景实现长文本生成任务下的信息隐藏,具有更高的语言隐蔽性和安全性.为提高约束型方法面对各类应用场景的普适性,本文提出了一种通用的序列到隐写序列模型框架,该框架包含语言编码器和隐写器两部分,能实现从一种约束信息序列到另一种隐写文本序列的变换.以摘要生成为例,本文以序列到隐写序列模型为基本框架,提出了一种新颖的约束型自然语言信息隐藏方法.该方法在语言编码器中引入注意力优化单元以提升特征学习性能,在隐写器中融合复制机制和新设计的基于多候选优化的自适应隐写编码方法,使得隐写器可以根据候选单词序列的概率分布情况和待嵌入的秘密信息自适应地选择不同的输出优化策略,通过输出多个候选序列以及仅在嵌入时刻选择合适位置嵌入信息的方式来提高隐写文本质量.实验结果表明,本文提出的方法能够通过优化语言编码器和...     

可解释的知识图谱推理方法综述

近年来,以深度学习模型为基础的人工智能研究不断取得突破性进展,但其大多具有黑盒性,不利于人类认知推理过程,导致高性能的复杂算法、模型及系统普遍缺乏决策的透明度和可解释性。在国防、医疗、网络与信息安全等对可解释性要求严格的关键领域,推理方法的不可解释性对推理结果及相关回溯造成较大影响,因此,需要将可解释性融入这些算法和系统中,通过显式的可解释知识推理辅助相关预测任务,形成一个可靠的行为解释机制。知识图谱作为最新的知识表达方式之一,通过对语义网络进行建模,以结构化的形式描述客观世界中实体及关系,被广泛应用于知识推理。基于知识图谱的知识推理在离散符号表示的基础上,通过推理路径、逻辑规则等辅助手段,对推理过程进行解释,为实现可解释人工智能提供重要途径。针对可解释知识图谱推理这一领域进行了全面的综述。阐述了可解释人工智能和知识推理相关概念。详细介绍近年来可解释知识图谱推理方法的最新研究进展,从人工智能的3个研究范式角度出发,总结了不同的知识图谱推理方法。提出对可解释的知识图谱推理研究前景和未来研究方向。     

人工智能的逆向工程——反向智能研究综述

在大数据时代,人工智能得到了蓬勃发展,尤其以机器学习、深度学习为代表的技术更是取得了突破性进展.随着人工智能在实际场景中的广泛应用,人工智能的安全和隐私问题也逐渐暴露出来,并吸引了学术界和工业界的广泛关注.以机器学习为代表,许多学者从攻击和防御的角度对模型的安全问题进行了深入的研究,并且提出了一系列的方法.然而,当前对机器学习安全的研究缺少完整的理论架构和系统架构.从训练数据逆向还原、模型结构反向推演、模型缺陷分析等角度进行了总结和分析,建立了反向智能的抽象定义及其分类体系.同时,在反向智能的基础上,将机器学习安全作为应用对其进行简要归纳.最后探讨了反向智能研究当前面临的挑战以及未来的研究方向.建立反向智能的理论体系,对于促进人工智能健康发展极具理论意义.     

深度学习模型可解释性研究综述

深度学习技术以数据驱动学习的特点,在自然语言处理、图像处理、语音识别等领域取得了巨大成就。但由于深度学习模型网络过深、参数多、复杂度高等特性,该模型做出的决策及中间过程让人类难以理解,因此探究深度学习的可解释性成为当前人工智能领域研究的新课题。以深度学习模型可解释性为研究对象,对其研究进展进行总结阐述。从自解释模型、特定模型解释、不可知模型解释、因果可解释性四个方面对主要可解释性方法进行总结分析。列举出可解释性相关技术的应用,讨论当前可解释性研究存在的问题并进行展望,以推动深度学习可解释性研究框架的进一步发展。     

忆阻及其应用研究综述

忆阻由蔡少棠教授从对称性角度预言提出,自惠普实验室2008年制作出第一款忆阻开始, 其已成为自动化等相关领域最热门研究方向之一. 本文回顾了忆阻的起源,探讨了忆阻的分类及其制造技术,分析了忆阻的多个数学模型和仿真模型以及仿真模型的实现方法, 总结了忆阻在人工神经网络、保密通信、存储器、模拟电路、人工智能计算机、生物行为模拟等方面的研究现状, 并对其应用前景进行展望.     

深度学习模型可解释性的研究进展

深度学习在很多人工智能应用领域中取得成功的关键原因在于,通过复杂的深层网络模型从海量数据中学习丰富的知识。然而,深度学习模型内部高度的复杂性常导致人们难以理解模型的决策结果,造成深度学习模型的不可解释性,从而限制了模型的实际部署。因此,亟需提高深度学习模型的可解释性,使模型透明化,以推动人工智能领域研究的发展。本文旨在对深度学习模型可解释性的研究进展进行系统性的调研,从可解释性原理的角度对现有方法进行分类,并且结合可解释性方法在人工智能领域的实际应用,分析目前可解释性研究存在的问题,以及深度学习模型可解释性的发展趋势。为全面掌握模型可解释性的研究进展以及未来的研究方向提供新的思路。     

大尺度大脑模型：相关理论，建模策略与典型模型

利用计算神经科学原理或图论对大脑进行建模得到的大尺度大脑模型,在脑科学研究和人工智能等方面有着极大的研究意义和应用价值。合理的大尺度大脑模型将对探索和理解大脑工作的内在机制以及大脑神经系统相关疾病的成因有很大帮助,也将大大推动人工智能领域由当前的弱人工智能向强人工智能迈进。因此,大尺度大脑模型的相关研究在过去十年间受到国内外学者的广泛关注。通过查阅大量关于大尺度大脑模型的研究文献,并对其相关研究进行回顾、归纳、分析和总结,报告了大尺度大脑模型的研究现状。给出了大尺度大脑模型的明确定义,归纳总结了大尺度大脑模型的多个范畴,同时介绍了研究大尺度大脑模型所需了解的相关基础理论;归纳了大尺度大脑模型的有效构建策略,回顾了迄今为止国内外具有代表性的几个大尺度大脑模型的详细建模方法及应用;总结了大尺度大脑模拟领域目前存在的不足和遇到的困难,展望了大尺度大脑模型将来可能的发展趋势和应用方向。     

The use of computational intelligence in intrusion detection systems: A review

Intrusion detection based upon computational intelligence is currently attracting considerable interest from the research community. Characteristics of computational intelligence (CI) systems, such as adaptation, fault tolerance, high computational speed and error resilience in the face of noisy information, fit the requirements of building a good intrusion detection model. Here we want to provide an overview of the research progress in applying CI methods to the problem of intrusion detection. The scope of this review will encompass core methods of CI, including artificial neural networks, fuzzy systems, evolutionary computation, artificial immune systems, swarm intelligence, and soft computing. The research contributions in each field are systematically summarized and compared, allowing us to clearly define existing research challenges, and to highlight promising new research directions. The findings of this review should provide useful insights into the current IDS literature and be a good source for anyone who is interested in the application of CI approaches to IDSs or related fields.     

Construction of cultural industry development factor model based on factor analysis,artificial intelligence and big data

The rapid development of the level of social informatization has allowed the content related to computer science to advance with the times and have derived two fields of big data and artificial intelligence. Specifically, the theory and methods of artificial intelligence themselves provide key support for big data. On the other hand, big data also provides auxiliary means for the research and analysis of artificial intelligence. Artificial intelligence will become the mainstream development trend of the future society, and the application of big data technology under the background of artificial intelligence will also be systematic in many fields. This paper analyzes the internal and external factors in the development of cultural industry by means of econometric research methods and big data and artificial intelligence, principal component analysis, factor analysis and multiple regression analysis, establishes the model of cultural industry development factors, breaks through the traditional research methods, analyzes the impact of the core, foundation, environment, kinetic energy, efficiency, potential and other factors on the comprehensive index of the development of cultural industry, and analyzes the comparative advantages and development trend of cultural industry in all provinces and municipalities of China. In this paper, the "three elements" model is comprehensively demonstrated by quantitative and qualitative methods, which solves the problem of lack of qualitative and quantitative research methods in cultural industry.     

工业人工智能发展方向

本文结合工业自动化和信息技术在工业革命中的作用以及制造与生产全流程决策、控制以及运行管理的现状和智能化发展方向的分析, 提出了发展工业人工智能的必要性. 通过对人工智能技术的涵义、发展简史和发展方向的分析以及自动化与人工智能研究与应用的核心目标、实现方式、研究对象与研究方法等方面的对比分析, 提出了工业人工智能技术的涵义. 通过对工业人工智能和工业自动化的研究对象与研究目标对比分析, 提出了工业人工智能的研究方向和研究思路与方法.     

神经网络与非线性模式数据挖掘研究

论述了人工智能技术在数据挖掘领域应用的一些理论进展。非线性模式的规则提取是数据挖掘的一个主要任务，然而，目前有效的方法却很少。着重论述了一个专用于对非线性模式数据进行数据挖掘的模型，并且给出了简要的算法和一个例子。