基于Bi-LSTM-CRF网络的语义槽识别

自然语言理解任务的主要目标是运用自然语言处理的相关方法,对用户发出的语句进行解析,转化成结构化的语义表示.本文重点研究了基于语义槽抽取的自然语言理解方法.在基于语义槽抽取的自然语言理解任务中,任务的输入是用户的指令型语句,输出为指令的语义槽实体标注序列,如出发日期、出发地点等,故可将语义槽抽取任务看作类似于命名实体识别任务,以序列标注任务的方法解决.本文研究提出了基于Bi-LSTM-CRF模型的语义槽抽取方法,在英文语料ATIS上进行了实验.实验结果表明,基于Bi-LSTM-CRF网络的方法相比于传统机器学习的基准方法,结果得到了大幅度的提升.对于模型识别的结果,研究中采用F1值进行评价.     

基于注意力机制改进的LSTM空战目标意图识别方法

空战对抗过程中的目标状态数据呈现时序性、多维性等特征,为进一步提升目标意图识别的准确率,提出了一种基于改进注意力机制的长短期记忆网络(LSTM)目标识别方法,将空战可能出现的目标意图识别当成一个多分类问题处理。该方法首先通过目标实时的状态数据,生成特征序列;接着采用注意力机制提升目标的特征学习能力,增强空战过程中的主要目标状态特征表示,得到具有权值分配的特征向量;最后利用LSTM网络对目标特征向量进行训练,通过softmax层实现目标意图的识别。仿真实验表明,该方法利用注意力机制有效增强目标的特征学习,进一步提升了LSTM网络的识别精度,具有一定的科学性和有效性。     

基于特征关系依赖网络的小样本学习方法

小样本学习任务旨在仅提供少量训练样本的情况下完成对测试样本的正确分类.基于度量学习的小样本学习方法通过将样本映射到嵌入空间中,计算样本间距离得到相似性度量以预测类别,但仅对样本特征进行独立映射,而忽略了对整个任务的观察,同时在小样本场景下通过传统方法计算的原型与期望原型存在偏差,导致在查询集上泛化性较低.针对上述问题,提出了特征关系依赖网络(FRDN).特征关系依赖网络包含两个模块:首先使用关系挖掘模块充分挖掘任务中样本的类内与类间关系,将其作为自注意力值对类簇进行调整,以获得判别性更高的任务自适应嵌入空间,计算初始原型;随后使用偏差抑制模块对初始原型进行校正,得到在查询集上泛化性更高的优化原型,进一步提高模型的分类准确率.在MiniImagenet数据集上,该方法1-shot分类准确率59.17%,5-shot准确率74.11%,分别超过传统度量学习方法6.13%与2.83%;在CUB数据集上分别提升9.3%和2.74%.     

面向图像语义分割任务的多级注意力蒸馏学习

传统的蒸馏学习仅通过大网络对轻量网络进行单向蒸馏,不但难以从轻量网络的学习状态中得到反馈信息,对训练过程进行优化调整,同时还会限制轻量网络的特征表达能力.本文提出结合自身多级注意力上下文信息进行自我学习优化的方法(MAD,Multi Attention Distillation),以自监督的方式使自身成熟的部分约束不成熟部分,即浅层可以从深层中提取有用的上下文信息,让浅层特征学习高层特征的表达,从而提升网络的整体表达能力.使用轻量级网络ERFNet,DeepLab_V3在两个不同任务的数据集CULane、VOC上进行验证.实验结果表明,MAD可以在不增加推理时间的前提下,提升网络的特征提取能力,使ERFNet在CULane任务的F,-measure指标提升2.13,DeepLab_V3在VOC任务的mIoU指标提升1.5.     

基于多模态生成对抗网络和三元组损失的说话人识别

为了挖掘说话人识别领域中人脸和语音的相关性,该文设计多模态生成对抗网络(GAN),将人脸特征和语音特征映射到联系更加紧密的公共空间,随后利用3元组损失对两个模态的联系进一步约束,拉近相同个体跨模态样本的特征距离,拉远不同个体跨模态样本的特征距离。最后通过计算公共空间特征的跨模态余弦距离判断人脸和语音是否匹配,并使用Softmax识别说话人身份。实验结果表明,该方法能有效地提升说话人识别准确率。     

一种基于联合任务学习的SAR图像目标检测方法

在基于深度学习的SAR图像目标检测中,为了降低SAR图像中噪声等特性对特征学习的干扰,提高检测方法中识别和定位任务的交互性,采用了联合任务检测方法。该方法利用联合任务网络,使识别和定位任务在尽可能共用特征的同时保留各自的特殊性,从而提升两个子任务对特征学习的监督能力。此外,该方法还利用联合任务学习方法,在锚框选择和损失函数计算中,同时考虑识别和定位任务的可靠程度,从而提升训练效果。公开数据集上的实验结果证明了该方法的有效性。     

基于少样本学习和知识迁移的继电保护压板状态识别

针对变电站中保护压板开关状态自动识别问题,本文提出了一种基于少样本学习和知识迁移的压板开关状态识别模型,使用残差网络提取图像特征,基于度量方法计算查询图像与支持图像之间的相似度,在此基础上使用KNN实现压板开关状态的分类识别。本文将残差网络在公用数据集上预训练的模型直接迁移到基于少样本学习的压板开关状态的识别任务,并研究了KNN算法中不同的最近邻个数对压板开关状态分类结果的影响。本文方法可在图像样本少的情况下实现压板开关状态的识别。实验结果表明,在支持图像的样本数为30时,图像识别精度达到99.49%。相比于其他大样本的分类方法,本文提出的利用少量样本的分类方法能够实现令人满意的分类效果,提高了图像分类的效率。     

一种优化孪生网络的小样本辐射源个体识别方法

针对信号辐射源个体识别小样本难以稳定收敛、识别准确率不足的问题,提出了一种基于优化孪生网络模型进行小样本辐射源个体识别的方法,分析了通过孪生网络实现不同类别样本对特征向量距离增大、相同类别样本对特征向量距离减小的弹簧模型,达到小样本训练损失函数的快速收敛的目的,并结合交叉熵实现损失函数优化,从而提升了小样本个体识别的准确率和稳定性。试验结果表明,针对每类不大于10个训练样本集的通信电台所提方法能够达到88%以上个体识别准确率。     

小样本条件下基于数据增强和WACGAN的雷达目标识别算法

目前小样本条件下高分辨距离像雷达目标识别算法存在识别率较低、识别率稳定度较差等问题,对此,本文提出了基于数据增强和加权辅助分类生成对抗网络（Weighted Auxiliary Classifier Generative Adversarial Networks,WACGAN）的雷达目标识别算法.该算法首先根据雷达目标散射特性,通过时间镜像数据增强方法扩充数据集,然后将扩充数据集输入WACGAN,通过自动选择高质量的生成样本,使判别器在标签样本监督学习的基础上得到进一步优化,最后直接利用判别器实现对雷达目标的有效识别.仿真实验结果表明,本文算法在不增加识别时间的基础上,有效提高了小样本条件下对雷达目标的识别率和识别稳定度.     

基于注意力机制和双向GRU模型的雷达HRRP目标识别

针对雷达高分辨距离像(HRRP)目标识别问题,传统方法只考虑样本的包络信息而忽略了距离单元间的时序相关性,该文提出了一种基于注意力机制的双向自循环神经网络模型。该模型将时域的HRRP数据通过滑窗分为正反两个序列,并将其分别通过两个相互独立的GRU网络进行特征提取,然后将同时刻提取到的特征进行拼接,从而利用了距离像双向的时序信息。考虑到不同时刻的序列对目标分类的重要性不同,通过注意力机制自适应地对各时刻隐层特征赋予不同的权值,最后根据加权求和后的隐层特征进行目标的识别与分类。实测数据实验结果表明,该文所提方法可以有效完成高分辨距离像的目标识别问题,并且在数据发生一定的时序偏移情况下,仍然可以准确找到目标区域。