基于注意力机制的数控机床热误差深度学习预测方法

为提高热误差预测精度和鲁棒性,提出一种基于注意力机制和深度学习网络的数控机床热误差预测模型。采用数据转化策略,将数控机床原始温度数据转化为温度图像,直接作为深度学习网络的输入;提出一种基于注意力机制的温度敏感点识别网络,根据温度测点与热误差关联程度,赋予各温度测点不同的权值,避免了温度测点的人为选取弊端;建立12层深度CNN学习预测网络,利用其强大的图像特征学习能力,挖掘温度图像与热误差的非线性映射关系,无需对温度关键点进行预选择,保留了更多的热误差与机床温度特征关系,显著提高了模型预测精度。为了提高热误差模型的精度与泛化能力,引入Dropout正则化方法和Adam优化算法,对深度卷积神经网络的结构与参数进行了优化。该方法在针对G460L型数控车床的热误差验证中表现出较高的预测精度。通过与BP神经网络和多元回归等传统热误差模型进行对比,深度卷积神经网络框架下的热误差模型在泛化性指标上表现更优。     

基于深度学习的地基云分类技术研究进展

深度学习的自动学习特征和精确的预测能力使其在地基云分类上获得成功,更复杂更优良的深度学习网络在地基云分类领域得到研究和应用.近两年来一些大规模地基云分类数据集被公布,但还没有文献对这些大数据集进行完整地介绍和使用.本文对深度学习地基云分类领域最新的研究进展进行了详细的概括,并介绍了最新发布的国际标准大规模数据集,最后对几种经典的卷积神经网络深度学习模型在地基云分类上的性能进行了评估,验证了卷积神经网络在地基云分类领域的适用性.     

基于多级特征并联的轻量级图像语义分割

针对当前语义分割算法普遍具有网络结构复杂和计算开销巨大的问题,为了综合提高语义分割算法实时性和精确度,提出计算高效的基于多级特征并联网络（LSSN）的轻量级图像语义分割网络. 该算法综合考虑网络的参数量、运行速度和性能,能更好地应用到嵌入式设备和可移动设备上. 应用微调的深度卷积神经分类网络作为特征提取网络结构,提取网络不同深浅层语义和位置特征. 提出空洞残差增强模块和深度空洞空间金字塔模块分别处理来自特征提取基准网络的深层特征和浅层特征,并将深浅层特征按特定维度比例以并联的方式进行融合. 所提方法在PASCAL VOC 2012数据集上准确度（平均交并比）为77.13%,与当前具有高性能的语义分割算法和实时语义分割算法相比,能更好地平衡网络的实时性和精确度,具有更优的实用价值和性能效果.     

基于深度学习的行为识别算法综述

人体行为识别一直是计算机视觉研究中的热点.随着近几年人体行为识别在虚拟现实、短视频等方面的广泛应用, 以及深度学习算法的快速发展, 基于深度学习的行为识别算法层出不穷.相较于传统方法, 基于深度学习的行为识别算法具有鲁棒性强、准确率高的优点.基于此, 本文对近年来提出的基于深度学习的行为识别算法进行了梳理, 并对由双流卷积网络和3D卷积网络结构发展而来的行为识别的系列算法进行了重点介绍, 并总结了各种算法的性能和成果, 最后对该领域进行了展望.     

基于深度学习的行为识别算法综述

人体行为识别一直是计算机视觉研究中的热点.随着近几年人体行为识别在虚拟现实、短视频等方面的广泛应用, 以及深度学习算法的快速发展, 基于深度学习的行为识别算法层出不穷.相较于传统方法, 基于深度学习的行为识别算法具有鲁棒性强、准确率高的优点.基于此, 本文对近年来提出的基于深度学习的行为识别算法进行了梳理, 并对由双流卷积网络和3D卷积网络结构发展而来的行为识别的系列算法进行了重点介绍, 并总结了各种算法的性能和成果, 最后对该领域进行了展望.     

一种基于深度卷积网络的鲁棒头部姿态估计方法

针对头部姿态估计方法受特征提取限制导致姿态估计效果不佳的问题,提出使用深度卷积网络自动学习有效特征并进行分类的头部姿态估计方法。首先,利用DCNN非线性映射和自动提取图像结构信息的能力,设计一个深度卷积网络实现对姿态鲁棒特征的提取;然后再将提取的特征用于分类器训练并最终实现头部姿态估计。在Pointing’04和FacePix数据库上的测试结果表明,本文设计的深度卷积网络能有效的进行特征学习,避免了人工设计特征的不足,与现有的基于人工设计特征方法相比,本文方法在两个数据库上达到的预测平均绝对误差分别为4.05〫和2.04〫,充分证实了本文算法的稳定性和可靠性。     

自适应深度卷积神经网络模型构建方法

针对传统卷积神经网络(CNN)模型构建过度依赖经验知识、参数多、训练难度大等缺点,同时鉴于复杂多类问题的CNN模型构建策略的重要价值,提出一种自适应深度CNN模型构建方法.首先,将初始网络模型的卷积层和池化层设置为仅含一幅特征图;然后,以网络收敛速度为评价指标,对网络进行全局扩展,全局扩展后,根据交叉验证样本识别率控制网络展开局部扩展,直到识别率达到预设期望值后停止局部网络学习;最后,针对新增训练样本,通过拓展新支路实现网络结构的自适应增量学习.通过图像识别实验验证了所提算法在网络训练时间和识别效果上的优越性.     

基于深度学习的轮廓检测算法:综述

轮廓检测旨在提取图像中目标与背景环境的分界线,是计算机视觉研究领域中最基本的问题之一.深度学习技术作为直接从数据中学习特征表示的有效方法,近年来启发轮廓检测领域取得了显著的突破.鉴于此,本文就基于深度学习的轮廓检测研究领域的最新发展进行总结,具体包括:轮廓检测任务中采用的卷积神经网络结构,相关训练数据构造、特征压缩、上采样、代价函数和轮廓细化等关键问题,轮廓检测实验中采用的通用数据集和性能评价指标.最后,分析了基于深度学习的轮廓检测算法的挑战和未来研究趋势,以期为该领域的后续研究提供新思路及参考.     

深度学习在时空序列预测中的应用综述

对深度学习模型应用于时空序列预测的最新进展进行总结.首先介绍时空序列数据的属性及类型,并进行相应的实例化与表示.接着针对时空序列数据存在的3个问题分别提出相应的数据预处理方法,对基于传统参数模型、传统机器学习模型以及深度学习模型的时空序列预测方法逐一阐述并对比分析,为研究者选择模型提供指导,之后总结深度学习模型在不同领域内对时空序列预测的应用.最后指出当前研究的不足以及时空序列预测进一步的研究方向.     

基于深度学习特征表示协同过滤算法

在推荐系统中,单一的学习矩阵分解的内积交互或者利用深度神经网络来捕获用户与项目交互,不足以有效地学习用户与项目的潜在特征.针对这一问题,提出一种在显式反馈与隐式反馈基础上,称为基于深度学习特征表示的协同过滤算法(DLFeaCF).该模型首先学习用户与项目的内积与外积交互;然后在内积的基础上,从隐式映射与特征映射两个方面再利用多层感知机(MLP)的非线性交互学习能力去获取用户与项目的全局特征;同时在外积的基础上,利用CNN学习捕获用户与项目的局部特征;最后在融合层组合特征并获得预测分数.在真实的MovieLens数据集上进行实验,表明DLFeaCF模型能获得更好的推荐性能.     

基于受限样本的深度学习综述与思考

深度学习目前依靠大数据和强算力取得了较大进展,但在样本受限情况下的表现差强人意,主要问题在于函数空间(簇)的建构和在数据集受限情况下算法的设计。据此,本文对受限样本下的深度学习进行了分类综述。另外,从目前对大脑的研究来看,人的认知过程在大脑中是分区域的,每个区域担负的功能是不同的,对每个区域功能的学习过程也应该是有差异的。因此,提出了“功能进阶”式的深度学习的设想,试图构建分区分层多种功能模块组成的网络结构,研究“进阶”式的功能模块训练方法,以期探求“仿人学习”的新路径。     

基于深度学习的变压器图像识别系统

针对变压器型号多、图像复杂,以及传统基于机器学习的人工设计特征的方法不能对大规模变压器图像准确分类等问题提出了基于深度学习的变压器图像识别系统直接对原始图像进行"端对端"的学习。为实现变压器图像的准确分类,提出了改进VGG-16卷积神经网络的变压器图像识别模型。在VGG-16模型的基础上,重新构建了全连接层,针对原有的SoftMax分类器,采用3标签的SoftMax分类器进行替换,以实现网络结构优化,并通过迁移学习共享V GG-16模型卷积层和降采样层的权值参数。通过构建变压器图像的训练集和测试集对改进模型进行了训练,并进行性能测试。结果表明,与深度神经网络、卷积神经网络模型相比,改进VGG-16模型具有更好的效果,识别误差达到了9.17%,并实现了对3种变压器的准确区分。     

基于深度学习的不均衡网络数据分类技术研究

在现实网络环境中,数据分布不均衡是普遍现象,也是研究的热点问题。利用传统机器学习算法解决该问题的研究成果较多,综述性研究也较丰富。但当前从深度学习的角度探讨数据不均衡问题已成为新趋势。对此,综述了基于深度学习方法的研究成果。通过对数据不均衡问题进行深入分析,从数据预处理、分类器设计及改进两大方面梳理相关技术路线,包括传统采样方法与深度学习相结合、利用深度学习网络模型合成数据、代价敏感学习、设计端到端模型的方法,最后针对现有研究提出开放性问题。     

基于校正神经网络的视频追踪算法

针对现有基于深度学习的视频追踪算法关注深层特征而忽略浅层特征以及追踪网络没有对每帧追踪结果进行检测的问题,提出基于校正神经网络的视频追踪算法。该算法包含追踪网络和校正网络。在追踪网络中,考虑到深层特征和浅层边缘特征的融合,设计一个多输入的残差网络,学习目标和对应的高斯响应图之间的关系,从而获得目标对象的位置信息。在校正网络中,设计浅层链式判别网络,将两个网络的追踪结果进行比较,根据比较结果对追踪网络进行在线更新。本算法既考虑了深层特征,又避免了细节信息的丢失;同时,对追踪结果进行评判,防止网络更新中延续错误信息。对比试验说明本研究所提的追踪算法比现有的一些追踪方法取得更好的追踪结果。     

基于权重值的竞争深度双Q网络算法

在深度强化学习中,深度Q网络算法存在严重高估动作值问题,使得智能体的表现不尽人意.尽管深度双Q网络和竞争网络结构可以部分缓解高估带来的影响,但引入双Q网络的同时,有时也会低估动作值.本文提出了一种基于权重值的竞争深度双Q网络算法(Weighted Dueling Double Deep Q-Network, WD3QN),把改进的双估计器及竞争网络结构结合至深度Q网络中,将学习到的可能动作值进行加权产生最终动作值,有效减少估计误差.最后,将算法应用于Open AI Gym平台上的CartPole经典控制问题,仿真结果显示:与已有算法对比,本算法有更好的学习效果,收敛性和训练速度均有提升.     

基于小波域ADMM深度网络的图像复原算法

近年来,基于深度学习的方法在图像复原领域展现出了优秀的性能。然而现有大多数深度网络均是通过经验进行网络结构设计,较少在网络设计中考虑结合一些传统方法以提升网络可解释性。针对这一不足,本文对结合图像退化模型的深度学习方法展开研究,提出了一种基于小波域ADMM深度网络的图像复原算法。具体而言,本文首先提出了一种基于小波域ADMM的图像复原方法,该方法在小波域下使用ADMM算法将复原问题分解为一系列子问题。接着,分别对子问题求解,并根据其解的形式帮助进行网络的设计,构建了一个可解释的深度卷积神经网络用于图像复原。实验结果表明,本文提出算法取得了较好的复原结果,不论在视觉效果还是客观评价指标上都优于对比方法。     

分布式深度学习的数据传输压缩机制研究综述

分布式深度学习已经成为深度学习领域最热门的研究之一,越来越庞大的数据模型和算法都依赖分而治之思想来处理。分布式深度学习系统在快速发展中遇到了许多挑战,其中最重要的是如何在分布式环境有限的网络带宽中有效地传输大量数据,以充分利用计算资源高效训练高精度的深度神经网络。针对这个问题,从参数同步、模型聚合和梯度压缩3个角度讨论不同的数据传输压缩技术,分别将其用于交错数据传输、减少数据交换频率以及减小单次传输数据量。最后对分布式深度学习的数据传输压缩机制的未来发展趋势进行了讨论和展望。