基于自编码算法的深度学习综述

深度学习是机器学习的一个分支,开创了神经网络发展的新纪元.自编码算法作为深度学习结构的重要组成部分,在无监督学习及非线性特征提取过程中起到了至关重要的作用.首先介绍自编码算法的基本概念及原理,然后介绍基于自编码算法的改进算法,最后列举了自编码算法在若干领域应用的知名案例和发展趋势.     

基于深度自编码网络的慢速移动目标检测

强杂波背景下的慢速目标检测存在低多普勒频移、杂波干扰严重、鲁棒性不足、特征提取困难与信息利用不充分等问题。为此,提出一种基于深度自编码网络的宽带信号目标检测方法。利用时频变换解析回波信息,通过深度自编码网络算法,在时频域提取针对目标的深度抽象信息进行目标检测,以准确感知环境变化。仿真结果表明,与支持向量机、超限学习机和后向传播神经网络等传统机器学习相比,该方法可以有效感知环境变化,具有较高的鲁棒性和检测性能。     

残差卷积自编码网络图像去噪方法

传统图像去噪模型一般为浅层线性结构,特征提取能力有限,而现有基于深度学习的图像去噪模型存在去噪效率低、泛化能力弱等问题.针对上述缺点,以残差块、批归一化层和自编码器组成的残差卷积自编码块为基本网络结构,提出多功能去噪残差卷积自编码神经网络(DRCAENNm)和去噪残差卷积自编码神经网络(DRCAENN)两种基于深度学习...     

基于堆栈式消噪自编码机的分块目标跟踪

在视觉目标跟踪系统中, 特征的表达和提取是重要的组成部分. 本文提出基于多个自编码机网络相联合的特征提取机, 通过对输入数据进行一定程度的重组, 采用深度学习的理论对其局部特征进行描述并对结果进行联合决策. 结合该网络结构, 本文提出一种融合局部特征的深度信息进行目标跟踪的算法. 将输入图像分块使得大量的乘法运算转化为加法和乘法的混合运算, 相对于全局的特征表达, 大幅降低了运算复杂度. 在跟踪过程中, 目标候选区的各分块权重能够根据相应网络的置信度进行自适应的调整, 提升了跟踪器对光照变化、目标姿态和遮挡的适应. 实验表明, 该跟踪算法在鲁棒性和跟踪速度上表现优秀.     

基于深度自编码网络的高校招生咨询算法

高校招生在线咨询通常采用人工回复或基于关键词匹配的问答系统来处理,常存在人工回复效率低下,问答系统答非所问的问题;此外,咨询文本往往比较简短,文本向量化表示易导致高维稀疏问题。针对上述问题,提出一种基于栈式降噪稀疏自编码网络（SDSAE）的招生咨询算法。首先,利用自编码网络对短文本进行特征提取和降维,引入数据集增强技术和添加噪声技术解决训练样本规模较小且分类不均问题,提高算法的泛化能力;获得短文本低维特征表示后,结合反向传播（BP）算法对文本进行分类。所提算法分类效果优于BP、支持向量机（SVM）、极限学习机（ELM）等算法,能显著提高招生咨询文本的分类效果。     

基于自编码神经网络的半监督联邦学习模型

联邦学习是一种新型的分布式机器学习方法,可以使得各客户端在不分享隐私数据的前提下共同建立共享模型。然而现有的联邦学习框架仅适用于监督学习,即默认所有客户端数据均带有标签。由于现实中标记数据难以获取,联邦学习模型训练的前提假设通常很难成立。为解决此问题,对原有联邦学习进行扩展,提出了一种基于自编码神经网络的半监督联邦学习模型ANN-SSFL,该模型允许无标记的客户端参与联邦学习。无标记数据利用自编码神经网络学习得到可被分类的潜在特征,从而在联邦学习中提供无标记数据的特征信息来作出自身贡献。在MNIST数据集上进行实验,实验结果表明,提出的ANN-SSFL模型实际可行,在监督客户端数量不变的情况下,增加无监督客户端可以提高原有联邦学习精度。     

结合迁移学习模型的卷积神经网络算法研究

针对传统的卷积神经网络算法在训练集与测试集分布不同时分类精度较低且标注成本较高的问题,提出结合迁移学习模型的卷积神经网络算法。使用主成分分析算法对源域数据进行无监督降维,同时结合自编码机算法对目标数据集降维,使源域和目标数据集在低维度下具有相似的特征分布;根据卷积神经网络特征提取的特点,利用JS散度来判别卷积池层能否迁移,并使用初始化的隐藏层补全trCNN模型;使用少量带标注的目标数据集进行训练,完成分类模型的构建。设计实验验证分类模型能够在使用少量标注数据情况下准确地完成分类工作。     

基于BGRU池的卷积神经网络文本分类模型

针对深度学习在处理文本分类问题时存在的适应度小、精确度较低等问题,提出一种采用双向门控循环单元(BGRU)进行池化的改进卷积神经网络模型。在池化阶段,将BGRU产生的中间句子表示与由卷积层得到的局部表示进行对比,将相似度高的判定为重要信息,并通过增大其权重来保留此信息。该模型可以进行端到端的训练,对多种类型的文本进行训练,适应性较强。实验结果表明,相较于其他同类模型,提出的改进模型在学习能力上有较大优势,分类精度也有显著提高。     

基于卷积自编码神经网络的心电信号降噪

心电信号由于在采集过程中会受到外界环境的干扰导致其形态特征被严重淹没,从而对医生的诊断和远程智能分析造成干扰。基于此,提出了一种基于卷积自编码神经网络的心电信号降噪算法。该方法利用自编码器的编码、解码特性,通过卷积的方法构建深层神经网络来学习从含噪心电信号到干净心电信号的端对端映射。卷积层捕获心电信号的细节特征,同时消除噪声;解码部分能够对特征图进行上采样并恢复心电信号细节,从而得到干净的心电信号。实验中采用信噪比和均方根误差为指标,将该方法与小波阈值法、S变换法、BP神经网络法和指导滤波法进行比较。实验结果表明,该降噪方法整体降噪精度更优,同时信号的低频成分也得到了很好的保持。该方法可做到在消除心电信号中复杂噪声的同时完整保留心电信号的形态,为心血管疾病的智能诊断和心电图的特征检测奠定了基础。     

基于Spark的高效并行自动编码机

机器学习中一个非常关键的问题就是如何获取良好的数据特征表示,许多经典的特征提取方法是基于数据间关系或利用简单线性组合降维后得到数据的特征表示。其中深度学习算法在各种学习任务中都可以取得良好的效果,而且可以学到很好的数据特征表示。但现有深度学习算法或模型大多为单机串行实现,不能处理较大规模的数据且运行时间较长。本文设计实现了一种基于Spark分布式平台的高效并行自动编码机,该编码机可以有效地进行特征表示学习,并且利用分布式计算平台Spark对 算法进行加速,优化了对稀疏数据的操作,大大提升了运行效率。本文通过在文本数据特征学习以及协同过滤两个任务上的实验,表明本文所实现的并行自动编码机的有效性和高效性。     

基于改进自编码器的在线课程推荐模型

随着互联网技术的发展以及2020年新冠疫情的爆发, 越来越多的学生选择在线教育. 然而在线课程数量庞大, 往往无法及时找到合适的课程, 个性化智能推荐系统是解决这一问题的有效方案. 本文根据用户在线学习具有明显时序性的特点, 提出一种基于改进自编码器的在线课程推荐模型. 首先, 利用长短期记忆网络改进自编码器, 使得模...     

基于深度神经网络的搜索引擎点击模型构建

随着富媒体展现形式被越来越多地引入搜索交互界面,搜索引擎的结果页面呈异质化和二维模块展现形式,这对传统的点击预测模型提出了巨大的挑战。针对这一情况,我们对实际搜索引擎结果页面的多模态结果进行了分析,构建了一个结合深度神经网络和点击模型的框架,该框架既包含了神经网络的特性,又利用了点击模型的预测能力。我们希望利用这个框架挖掘出多模态信息与文本信息之间的相关性,使之具有描述异质化结果和二维模块展示形式的能力。实验表明,我们的框架相较于传统的点击模型在点击预测性能上有显著提升,但由于搜索引擎的多模态结果内容复杂,仅利用多模态结果的底层特征,即使使用深度神经网络,从中能够挖据出的语义相关性较弱。     

一种基于两阶段深度学习的集成推荐模型

近年来,深度学习技术被广泛应用于推荐系统领域并获得了很大的成功,然而深度学习模型的输入质量对学习结果具有很大影响,稀疏的输入特征向量不仅会增加后续模型训练的难度,而且容易导致学习结果落入局部最优.提出一个基于两阶段深度学习的集成推荐模型：首先,利用具有封闭式参数计算能力的边缘化堆叠去噪自动编码机进行用户和项目高层抽象特征的提取;然后,将得到的用户抽象特征和项目抽象特征进行连接并作为深度神经网络模型的输入向量,通过联合训练的方式进行参数学习和模型优化.此外,为了对低阶特征交互进行建模,推荐模型中还集成了基于原始特征向量的逻辑回归模型.在通用数据集上的大量对比实验研究表明：与当前流行的深度学习推荐方法相比,该方法在推荐精度和召回率方面都有所改善,甚至是在数据稀疏和冷启动的环境下.     

基于卷积神经网络的图像超分辨率重建

单幅图像超分辨率（Super Resolution，SR）重建，是计算机视觉领域的一个经典问题，其目的在于从一个低分辨率图像得到一个高分辨率图像。目前的卷积神经网络重建算法只有三层结构，浅层结构在处理内部结构复杂的数据时，会出现表征能力不足的问题，因此提出了一个基于特征转移的八层卷积神经网络结构来实现图像超分辨率重建。针对不同的测试集，提出的卷积神经网络模型取得了更佳的超分辨率结果，不管是在主观视觉上还是在客观评价指标上均有明显改善，把数据集图像放大3倍时，对于不同算法的对比图像，该算法的峰值信噪比最高，而且在清晰度方面尤其是图像纹理边缘得到了增强。实验结果证明了基于迁移转移的八层卷积神经网络对图像超分辨率重建的有效性，且网络的收敛速度更快，在精细度方面具有更高的优势。     

基于深度神经网络损失函数融合的文本检测

针对基于传统深度神经网络的自然场景文本检测存在检测效果较差、文本边界框检测不准确等缺陷,提出基于损失函数融合的深度神经网络。将损失函数Balanced loss,利用加权的方法与传统深度神经网络进行融合,用于提高文本框边界区域及图像中难检测像素点的损失值,从而约束模型的优化方向,提升模型学习复杂特征的能力。实验结果表明,在自然场景文本检测中所提出方法有效提高了网络的检测准确性。     

基于堆叠降噪稀疏自动编码器的软件缺陷预测

特征提取是软件缺陷预测中的关键步骤,特征提取的质量决定了缺陷预测模型的性能,但传统的特征提取方法难以提取出软件缺陷数据的深层本质特征。深度学习理论中的自动编码器能够从原始数据中自动学习特征,并获得其特征表示,同时为了增强自动编码器的鲁棒性,本文提出一种基于堆叠降噪稀疏自动编码器的特征提取方法,通过设置不同的隐藏层数、稀疏性约束和加噪方式,可以直接高效地从软件缺陷数据中提取出分类预测所需的各层次特征表示。利用Eclipse缺陷数据集的实验结果表明,该方法较传统特征提取方法具有更好的性能。     

基于多神经网络混合的短文本分类模型

文本分类指的是在制定文本的类别体系下,让计算机学会通过某种分类算法将待分类的内容完成分类的过程.与文本分类有关的算法已经被应用到了网页分类、数字图书馆、新闻推荐等领域.本文针对短文本分类任务的特点,提出了基于多神经网络混合的短文本分类模型(Hybrid Short Text Classical Model Base on Multi-neural Networks).通过对短文本内容的关键词提取进行重构文本特征,并作为多神经网络模型的输入进行类别向量的融合,从而兼顾了FastText模型和TextCNN模型的特点.实验结果表明,相对于目前流行的文本分类算法而言,多神经网络混合的短本文分类模型在精确率、召回率和F1分数等多项指标上展现出了更加优越的算法性能.