深度学习在细粒度图像识别中的应用综述

深度学习技术在多种视觉任务中表现出优异的性能,特别是深度学习技术的发展大大促进了细粒度图像识别任务的进步.细粒度图像识别的目的在于正确识别子对象类别,例如鸟类中的不同子类别.由于细粒度图像数据通常需要具有专家知识才能够进行有效识别与标注,获取难度比较高,同时,由于细粒度类别直接具有小的类间差异性和大的类内差异性特点,需要模型能够捕捉到细微的有区分性的局部特征,这两方面原因导致这项任务极具挑战性.首先,介绍了深度学习技术的重要发展历程、细粒度图像识别任务的特点和挑战.随后,介绍了基于深度学习的细粒度识别方法的3种类型,包括基于定位-分类子网络的方法、基于端到端的特征编码方法和利用外部辅助信息的细粒度图像识别方法,并选择有代表性的工作给予了详细的介绍.最后,在常用数据集上比较了相关工作的性能,对细粒度图像识别任务进行了总结和展望.     

基于混合特征提取的细粒度图像识别方法

由于细粒度图像类内差异大、类间差异小的特点,导致其识别具有较大的难度,针对该问题,提出了一种基于混合特征提取的细粒度图像识别方法。借助混合增强(Mixup)思想混合卷积神经网络中间层,提取类内和类间的特征信息,并通过非局部模块加强模型提取特征的能力。同时,为了降低Mixup方法引入的噪声和歧义,设计了与训练过程耦合的多损失函数。该模型在广泛使用的公开细粒度图像数据集CUB-200-2011和Stanford Cars上分别达到了87.4%和93.8%的识别精度,与多个基线方法相比有显著的性能提升。     

基于用户点击数据的细粒度图像识别方法概述

近年来,细粒度图像识别逐渐成为计算机视觉领域的研究热点.由于不同类别图像间的视觉差异小、语义鸿沟问题严重,传统的基于视觉特征的细粒度图像识别性能往往不尽人意.针对这些挑战,目前许多学者都在研究基于用户点击数据的图像识别.本文围绕点击数据在图像识别中数据预处理、特征提取和模型构建3大模块中的应用,总结了已有的基于点击数据的识别算法及最新的研究进展.     

深度学习研究综述

为了提升视条件而定的深度卷积网络（conditional deep learning network,CDLN）的分类准确率,提出一种多分类器联合训练的方法.在训练网络时将多个分类器的输出误差同时进行反向传播,以校正网络权重.以LeNet-5、AlexNet为基础构造神经网络CDLN-L和CDLN-A,以MNIST、CIFAR-100和Pascal Voc数据集为实验样本进行实验,网络的分类准确率均得到提升,最高提升了4.39%.实验表明,提出的联合训练方法能够提升CDLN的分类准确率.

     

深度森林研究综述

深度森林算法首次开启了非神经网络结构的深度学习模式,并因具有非微分形式基学习器和无须大量训练数据的优良特性,已经成为工业界和学术界的重要研究方向,因此,对现有深度森林算法进行归纳和总结,综述了其主要结构及特点.首先,介绍深度森林结构及其性质;接着,将目前深度森林的研究分为引入特征工程、改进表征学习、修改基学习器、修改层级结构和引入权重配置等5个方向进行分析和总结;然后,介绍深度森林算法在不同领域中的最新应用现状,并给出深度森林算法所面临的挑战及未来研究方向;最后,对本文工作进行总结.     

深度学习研究综述

鉴于深度学习在学术界和工业界的重要性,依据数据流向对目前有代表性的深度学习算法进行归纳和总结,综述了不同类型深度网络的结构及特点.首先介绍了深度学习的概念;然后根据深度学习算法的结构特征,概述了前馈深度网络、反馈深度网络和双向深度网络3类主流深度学习算法的网络结构和训练方法;最后介绍了深度学习算法在不同数据处理中的最新应用现状及其发展趋势.可以看到:深度学习在不同应用领域都取得了明显的优势,但仍存在需要进一步探索的问题,如无标记数据的特征学习、网络模型规模与训练速度精度之间的权衡、与其他方法的融合等.     

基于深度学习的变压器图像识别系统

针对变压器型号多、图像复杂,以及传统基于机器学习的人工设计特征的方法不能对大规模变压器图像准确分类等问题提出了基于深度学习的变压器图像识别系统直接对原始图像进行"端对端"的学习。为实现变压器图像的准确分类,提出了改进VGG-16卷积神经网络的变压器图像识别模型。在VGG-16模型的基础上,重新构建了全连接层,针对原有的SoftMax分类器,采用3标签的SoftMax分类器进行替换,以实现网络结构优化,并通过迁移学习共享V GG-16模型卷积层和降采样层的权值参数。通过构建变压器图像的训练集和测试集对改进模型进行了训练,并进行性能测试。结果表明,与深度神经网络、卷积神经网络模型相比,改进VGG-16模型具有更好的效果,识别误差达到了9.17%,并实现了对3种变压器的准确区分。     

基于深度卷积神经网络的羽绒图像识别

由于图像中羽绒形态及其多样性,传统的图像识别方法难以正确识别羽绒分拣图像中的羽绒类型,其识别精度也难以达到实际生产的要求.为解决上述问题,构造了一种用于羽绒类型识别的深度卷积神经网络,并对其权值初始化方法进行了改进.首先利用视觉显著性模型提取羽绒图像的显著部分,然后将图像的显著部分输入到稀疏自动编码器中进行训练,得到一组符合数据集统计特性的卷积核集合.最后采用Inception及其变种模块实现深度卷积神经网络的构造,通过增加网络深度来提高网络的识别精度.试验结果表明,用所构造的深度卷积神经网络对羽绒图像识别的精度较传统卷积神经网络的提高了2.7%,且改进的权值初始化方法使网络的收敛速度提高了25.5%.     

基于深度学习的电力设备红外图像识别

电力设备的安全运行是保证电力系统长期稳定工作的重要基础,因此需要对电力设备的运行状态进行实时监测。实现对电力设备实时监测的关键是对电力设备进行准确的识别和定位。传统的图像检测算法受环境和复杂背景的影响,无法对电力设备进行准确的定位和识别。基于深度学习的目标检测在电力设备运行状态实时监测中具有更广阔的发展前景。针对电力设备红外图像的识别提出了基于Faster R-CNN识别方法。实验结果表明,该方法准确率高,能够准确定位和识别红外图像中的电力设备。     

面向图像识别的深度学习VLIW处理器设计

为了适应航空航天领域高分辨率图像识别和本地化高效处理的需求,解决现有研究中计算并行性不足的问题,在对深度卷积神经网络模型各层计算优化的基础上,设计了一款可扩展的多处理器簇的深度学习超长指令字(VLIW)处理器体系结构。设计中采用了特征图和神经元的并行处理,基于VLIW的指令级并行,多处理器簇的数据级并行以及流水线技术。FPGA原型系统测试结果表明,该处理器可有效完成图像分类和目标检测应用;当工作频率为200 MHz时,处理器的峰值性能可以达到128 GOP/s;针对选取的测试基准,该处理器的计算速度至少是CPU的12倍,是GPU的7倍;对比软件框架运行结果,处理器的测试精度的平均误差不超过1%。     

深度聚类算法研究综述

聚类分析是挖掘数据内在结构的关键技术,在大数据时代,人们面对的数据通常具有规模大、维度高、结构复杂等特点,直接应用传统聚类算法往往会失效.深度学习凭借层次化非线性映射能力使得大规模深度特征提取成为可能,因此基于深度学习的聚类(深度聚类)算法迅速成为无监督学习领域的研究热点.该文旨在对深度聚类的研究现状进行归纳和总结.首先,从神经网络结构、聚类损失和网络辅助损失3个角度介绍深度聚类的相关概念;然后,根据网络的结构特点对现有的深度聚类算法进行分类,并分别对每类方法的优势和劣势进行分析和阐述;最后,提出好的深度聚类算法应具备的三要素:模型的可扩展性、损失函数的鲁棒性和特征空间的平滑性,并从这3个方面分别阐述未来可能的研究方向.     

一种耦合深度信念网络的图像识别方法

针对网络层数增加带来的梯度消失问题,提出了一种耦合深度信念网络的图像识别方法．该方法将“跨层”连接引入到深度信念网络中并应用于图像识别．给出了耦合深度信念网络的结构示意图及其参数更新方法,并在相同数据集和网络层数情况下比较了具有最佳参数的深度信念网络与最佳参数的耦合深度信念网络的识别性能,分析了“跨层”连接中主、次线耦合比例对网络性能的影响,且与几种经典的深度学习方法进行了对比．实验结果显示,耦合深度信念网络在收敛速度与识别精度上均优于深度信念网络．同时,相比于经典的深度网络,文中所提方法获得了良好的识别性能．这说明采用“跨层”耦合方式可有效缓解深度信念网络训练过程中出现的梯度消失问题,提高网络的识别性能．     

本体和深度学习融合的在线评论细粒度情感分析

为了解决细粒度情感识别效果欠佳和深度学习方法可解释性差等问题,提出一种将本体与深度学习融合的细粒度情感分析模型。在模型中,将领域本体与卷积神经网络相融合,以识别文本中的显式和隐式主题。同时,将情感词典、双向长短时记忆网络和注意力机制相结合,用于分析在线评论文本的细粒度情感。实验结果表明,与其他方法相比,所提的细粒度情感分析方法在准确率、召回率和F1值等方面均具有一定的优势。     

基于双向特征金字塔和深度学习的图像识别方法

图像物体识别与检测(图像识别)是计算机视觉领域的一个基础性任务.近年来,深度神经网络等推进了图像物体识别的发展.多尺度问题是图像识别的难点问题之一.引入特征金字塔是解决图像多尺度物体识别的有效途径之一.然而,现有基于特征金字塔的方法大多采用自上而下的语义特征信息融合方式,无法提升大尺度物体识别的精确率.为解决该问题,提...     

基于深度神经网络的关系抽取研究综述

关系抽取作为信息抽取领域近年来的研究热点,从宏观上可具体分为基于流水线的关系抽取、联合抽取和远程监督等,其中各个类别的关键性问题并不相通。近年来深度神经网络因其强大的语义表征能力,逐渐取代传统的机器学习成为关系抽取的基本模型,又可根据抽取方法细分为基于特征、卷积神经网络和注意机制模型等的关系抽取任务。随着数据规模的不断增大,自动高效地从文本中抽取结构化信息并构建知识库具有重大意义,关系抽取的研究和发展更具有必要性。文章对深度学习模型在各类关系抽取任务中的应用进行系统性评述,先主要介绍了常用的语料集及其规模、构建方式等;然后介绍深度神经网络在基于流水线的关系抽取和联合抽取任务中的具体应用,并描述两类任务的重难点问题。最后,文章认为迁移学习和小样本学习在基于深度神经网络的关系抽取研究中更具挑战性和普遍性。     

深度学习在肺炎检测中的研究综述

针对专业影像医生每天因阅览大量胸片所导致的视觉疲劳,会在一定程度上影响医生的诊断,从而出现假阳率过高、 误诊漏诊等问题。 为了减少这类情况的出现, 近年来大量研究将深度学习技术应用于医学影像辅助诊断方面以减轻医生负担、 提高医院检测工作效率。本文对比了深度学习中几种常用的卷积神经网络模型, 并且总结了几个比较大型的肺炎公开数据集, 然后以肺炎检测为综述对象, 从传统方法和深度学习方法两个方面和分类、 目标检测两个角度, 详细分析了近年来国内外的研究现状、 取得成果以及所面临的问题,并给出相关建议。     

基于深度学习的人体解析研究综述

人体解析的任务是对图片中人物进行像素级识别,将人体各部位和衣物配饰进行归类。该文从基础技术、数据集和评价标准、技术现状3个方面概述了基于深度学习的人体解析技术。首先,介绍了人体解析涉及的基础技术:卷积神经网络、语义分割。其次,从图像数量、类别数目、优缺点等角度,对比了人体解析领域的8种主流数据集;并介绍了4种常用的评价指标。最后,介绍了4种具有代表性的基于深度学习的人体解析方法:基于特征增强、基于人体结构、基于多任务学习、基于生成对抗网络,并归纳了实例人体解析的解决方案,提出了一些尚待发掘的研究思路。     

基于深度学习的推荐算法研究综述

深度学习技术是机器学习领域的一个研究热点,已被深入研究并广泛应用于许多领域. 推荐系统是缓解信息过载的重要技术,如何将深度学习融入推荐系统,利用深度学习的优势从各种复杂多维数据中学习用户和物品的内在本质特征,构建更加符合用户兴趣需求的模型,以提高推荐算法的性能和用户满意度,是深度学习应用于推荐系统的主要研究任务. 对基于深度学习的推荐算法研究和应用现状进行了综述,讨论并展望了深度学习应用于推荐系统的研究发展趋势.     

基于SVM的深度学习分类研究综述

深度学习是机器学习领域一种新的多层神经网络,现已成为国内外学者的研究热点。本文首先论述了深度学习算法的发展历史和研究现状,介绍了几种目前流行的深度学习模型。接着综述了支持向量机的理论基础和深度学习结合支持向量机的混合模型。最后在MNIST和Fashion-MNIST数据集上进行仿真实验,证明了该混合模型的优越性能。