基于文本层级结构的图像描述生成算法

针对现有图像描述生成算法在解码阶段由于语言模型结构简单,解码表达能力较弱,容易造成语义缺失的问题,引入有序长短时记忆网络(ON-LSTM),改进现有模型解码器,构建双层LSTM架构,显式的提取描述文本层级结构,解码出更丰富的语义特征。在MSCOCO数据集上进行训练和测试,实验结果表明,改进的算法能够生成更加符合自然语言习惯的描述语句。     

一种面向目标的情感极性分析方法

面向目标的情感分析是细粒度情感分析的重要任务之一,旨在预测句子中给定目标实体的情感极性.当前大多数研究方法忽略了句法结构信息,在情感判别时往往会关注无关词汇,从而使分类性能下降.为此,设计了一种新的引入句法结构的模型,该模型利用双向预训练编码器和作用于依存句法树的图卷积网络分别捕获文本的上下文信息和句法结构信息,并使用多头注意力机制进行信息聚合得到目标的情感分类表征.此外,还将该模型与现有的领域自适应方法相结合,同时向模型中引入领域知识和句法结构知识,进一步提升了模型效果.在几个常用的标准数据集上的实验结果表明了上述模型的有效性.     

基于生成对抗网络的图像风格迁移

生成对抗网络（Generative Adversarial Network,GAN）可以生成和真实图像较接近的生成图像.作为深度学习中较新的一种图像生成模型,GAN在图像风格迁移中发挥着重要作用.针对当前生成对抗网络模型中存在的生成图像质量较低、模型较难训练等问题,提出了新的风格迁移方法,有效改进了BicycleGAN模型实现图像风格迁移.为了解决GAN在训练中容易出现的退化现象,将残差模块引入GAN的生成器,并引入自注意力机制,获得更多的图像特征,提高生成器的生成质量.为了解决GAN在训练过程中的梯度爆炸现象,在判别器每一个卷积层后面加入谱归一化.为了解决训练不够稳定、生成图像质量低的现象,引入感知损失.在Facades和AerialPhoto&Map数据集上的实验结果表明,该方法的生成图像的PSNR值和SSIM值高于同类比较方法.     

基于生成对抗网络的对抗防御系统

针对不断更新的对抗攻击,提出一个基于生成对抗网络的防御系统。系统利用生成对抗网络不断生成新的对抗样本,反复训练模型以增强其鲁棒性。具体过程为将预先训练的卷积神经网络和外部GAN(conditional GAN:Pix2Pix)相结合,自动流水线式地推断对抗样本和干净样本之间的转换关系,并合成新的对抗样本。根据分辨得到的反馈结果不断调节生成对抗网络中的生成器和判别器,以增强其性能,而新合成的对抗样本被用来加强迭代管道中的防御模型。最后通过实验证明了该系统的有效性。     

基于样本均衡与特征交互的通信网络故障预测方法

通信网络故障预测数据集样本不均衡,影响故障预测的准确性,对此,提出了基于样本均衡与特征交互的通信网络故障预测方法. 首先,将基于Wasserstein距离的梯度惩罚生成对抗网络(WGAN-GP)用于生成新的少数类样本,解决了告警数据集中存在的样本不均衡问题,并提出了嵌入记忆向量的特征生成卷积神经网络(M-FGCNN)模型. 利用多层感知器和卷积神经网络加强特征间的交互,将告警领域专家经验与因子分解机模型结合生成新的告警特征;在模型的嵌入矩阵中加入记忆向量并改进了模型的损失函数,增强了模型的记忆性. 在样本不均衡的公开数据集上进行实验的结果表明,引入WGAN-GP模型的方法比已有的样本均衡方法能生成质量更好的新数据. M-FGCNN模型比其他深度学习模型具有更好的通信网络故障预测性能.     

基于深度学习的车身网络KWP2000协议漏洞挖掘

为实现无需协议的任何结构知识进行网络安全漏洞检测,基于深度学习生成对抗式神经网络(generative adversarial nets, GAN),提出对车身网络关键字协议2000 (keyword protocol 2000, KWP2000)漏洞挖掘的方法。选用前向反馈网络作为生成模型,支持向量机作为判别模型。利用神经网络模型训练生成KWP2000协议数据的测试用例数据,再利用这些测试用例数据对KWP2000进行模糊测试。通过试验发现目标协议KWP2000的超长错误、编码错误等漏洞。试验研究表明,该模糊测试方法提高了效率和安全性。     

基于BERT与注意力机制的方面级隐式情感分析模型

在方面级情感文本中存在部分不含情感词的评论句，对其情感的研究被称为方面级隐式情感分析.现有分析模型在预训练过程中可能会丢失与方面词相关的上下文信息，并且不能准确提取上下文中深层特征.本文首先构造了方面词感知BERT预训练模型，通过将方面词引入到基础BERT的输入嵌入结构中，生成与方面词信息相关的词向量；然后构造了语境感知注意力机制，对由编码层得到的深层隐藏向量，将其中的语义和句法信息引入到注意力权重计算过程，使注意力机制能更加准确地分配权重到与方面词相关的上下文.对比实验结果表明，本文模型的效果优于基线模型.     

基于ERC Roberta的提示学习实现对话情感识别

使用Transformer架构的预训练模型进行对话情感识别时，用传统的微调分类方法难以充分考虑对话文本的语序和结构特征。而且情感对话分类任务与预训练任务不匹配。而使用提示学习方法可通过重建下游任务缩小情感对话分类任务与预训练任务之间的差距。因此，提出一种将提示学习与Roberta模型相融合的对话情感识别(PERC Roberta)模型。利用该模型通过文本掩码预测任务学习对话的语序和结构特征；然后通过提示学习重建下游任务，进一步激发学习到的丰富对话知识。将该模型在2个对话情感识别公共数据集上进行了实验，实验结果表明，PERC Roberta模型比其他模型具有更好的分类效果。此外，消融实验的对比结果也证明了所提模型的有效性。     

融合词汇翻译概率的汉越神经机器翻译方法

神经机器翻译通过序列到序列的学习对翻译任务进行建模,目前使用注意力机制的神经机器翻译方法在多种语言对上都取得了很好的效果,但是在训练数据比较小的情况下(如汉语-越南语)神经机器翻译模型的性能并不理想.此外如何将统计机器翻译与神经机器翻译进行融合也是一个值得研究的问题.本文分析了记忆网络和神经机器翻译的特点,利用记忆网络对词汇翻译概率进行存储,将词汇翻译概率转化为向量表示,并与神经机器翻译模型进行融合,提出基于记忆网络融合词汇翻译概率的方法,并据此对神经机器翻译的解码进行指导.实验表明记忆网络是一种可行的翻译知识融合方式,并且在神经机器翻译模型中融入词汇翻译概率可以一定程度上解决训练数据小时模型训练不充分的问题.     

融合特征编码的面部表情编辑技术

为解决当前连续面部表情生成模型易在表情密集区域产生伪影、表情控制能力较弱等问题,该文对GANimation模型进行了研究改进,提高对表情肌肉运动单元AU控制的准确度。在生成器的编码和解码特征层之间引入多尺度特征融合(MFF)模块,以长跳跃连接的方式将得到的融合特征用于图像解码。在生成器的解码部分中加入一层逆卷积,便于MFF模块添加,更加高效合理。在自制的数据集上与原网络进行对比实验,表情合成的准确度和生成的图像质量分别提高了1.28和2.52,验证了该算法在生成图像没有模糊和伪影存在的情况下,面部表情编辑能力得到加强。     

融合知识图谱的医疗领域命名实体识别

为了改善通用预训练模型不适应医疗领域的命名实体识别任务这一不足,提出了一种融合医疗领域知识图谱的神经网络架构,该架构利用弹性位置和遮盖矩阵使预训练模型计算自注意力时避免语义混淆和语义干扰,在微调时使用多任务学习的思想,利用回忆学习的优化算法使预训练模型均衡通用语义表达和目标任务的学习,最终得到更为高效的向量表示并进行标签预测。实验结果表明：本文提出的命名实体识别架构在医疗领域上取得了优于主流预训练模型的效果,在通用领域也有较为良好的效果。该架构避免了重新训练针对某个领域的预训练模型和引入额外的编码结构从而精简了计算代价和模型大小。此外,通过消融实验对比,医疗领域对于知识图谱的依赖程度较通用领域依赖程度更大,这说明在医疗领域中融合知识图谱方法的有效性。通过参数分析,证明本文使用回忆学习的优化算法可以有效控制模型参数的更新,使模型可以保留更多的通用语义信息并得到更符合语义的向量表达。本文也通过实验分析说明了所提方法在实体数量少的种类上具有更优的表现。     

中文聊天机器人原型系统的设计

探讨了中文聊天机器人原型系统的设计方式,提出了采用中文分词与关键词语匹配算法。从中文句子中抽取关键词,形成规则库与规则树。聊天时,采用带回溯的深度优先算法,找到最佳匹配路径,给出回答。     

Chinese text semantic representation for text classification

Text representation based on word frequency statistics is often unsatisfactory because it ignores the semantic relationships between words, and considers them as independent features. In this paper, a new Chinese text semantic representation model is proposed by considering contextual semantic and background information on the words in the text. The method captures the semantic relationships between words using Wikipedia as a knowledge base. Words with strong semantic relationships are combined into a word-package as indicated by a graph node, which is weighted with the sum of the number and frequency of the words it contains. The contextual relationship between words in different word-packages is stated by a directed edge, which is weighted with the maximum weight of its adjacent nodes. The model retains the contextual information on each word with a large extent. Meanwhile, the semantic meaning between words is strengthened. Experimental results of Chinese text classification show that the proposed model can express the content of a text accurately and improve the performance of text classification. Compared to Support Vector Machines, Text Semantic Graph-based Classification can improve the efficiency by 7.8％, reduce the error rate by 1/3, and show more stability.     

PAD情感空间内人工情感建模及人机交互实验

针对未来仿人机器人与人类长期共存将会带来的机器人对人的心理影响以及个性化匹配问题,在PAD(Pleasure、Arousal、Dominance)三维情感空间内,建立一种更具普遍性的人工情感计算模型.人工情感模型总体框架分为外部事件检测及处理、情绪响应向量生成及修正和情绪离散化三部分.提出一种有效的外界刺激三维标注方法;建立可对外界刺激进行自主情绪响应的情感计算模型,并将性格和心情模型引入其中,实现个性化的情绪响应;提出一种情绪响应向量离散化方法,并在具体情绪种类的基础上建立情绪强度计算式;根据情感模型所产生的情绪种类及强度,建立机器人的表情合成及语音回答模型,在HF robot-III型仿人头像机器人平台上进行人-机器人情感交互实验.语音对话和表情状态迁移实验结果表明:所建立的人工情感模型可针对外界刺激自主地产生个性化情绪响应,有效模拟人类情绪的变化过程.     

条件约束下的自我注意生成对抗网络

为了解决生成对抗网络中因生成图像的特征信息表示不足而导致生成效果特征不明显、图像的关键特征信息模糊的问题, 提出了一种条件自我注意生成对抗网络的图像生成方法。该网络结合自我注意生成对抗网络的优点,向生成器和判别器中添加附加条件特征,明确指示模型生成对应的标志性类别信息,将数据的具体维度与语义特征关联起来,用这种方法提取其中的生成模型,使生成特定类型的图像的特征表示更加贴合原始数据分布。实验结果表明,所提出的方法在CelebA和MNIST数据集上的弗雷歇距离值相比较于自我注意生成对抗网络分别约提高了1.26和2.47。验证了所提出的方法相比较于其他的监督类生成模型可以有效地提升图像的质量效果以及多样性,并且可以有效地加快网络的收敛速度。     

ICAI系统中自动答疑策略与机制探讨

针对智能型教学课件（ICAI）中答疑子系统，提出了推理策略、解析机、推理机与知识的表达组织形式等设计构想。探讨了系统关于语义分析、知识管理、关联规则挖掘、行为跟踪等问题。简要地分析了解析机、推理机、知识库的工作原理和答案的演译过程。     

基于本体的海军军械保障知识库构建研究

针对当前海军军械保障领域知识资源定义不一致,以及由于资源及信息管理系统分散、异构现象而导致的知识难以共享的问题,引入本体方法进行海军军械保障领域知识表示研究,提出了海军军械保障知识库的构建方法,具体研究了海军军械保障领域本体、领域知识模型以及海军军械保障知识库的层次架构。     

具有热集成精馏流程的综合——一种知识与算法相结合的方法

基于对精馏、精馏流程以及热集成特性的分析,本文提出了将知识与算法相结合的方法用于合成具有热集成的精馏流程。将问题的求解分成三个层次来完成：即初始流程及基本结构的产生,精馏系统内的热集成以及精馏子系统与过程系统的热集成。其中包含对简单塔、复杂塔以及各种热集成精馏结构的处理,包括：热泵、热偶、多效、中间换热器等。知识与算法的有机结合使得按照本方法能够产生最优的具有热集成的精馏流程。并能够直接产生设计者所需的流程的设备及操作参数     

基于逻辑的数据模型中非递归规则的求值

基于关系数据库的知识库实现方法中，使用谓词逻辑的知识表示是一种良好的方法。本文讨论了一个实际的知识构造模型ＢＡＮＫＬＯＧ中非递归规则的求值解法。