基于自动编码器组合的深度学习优化方法

为了提高自动编码器算法的学习精度,更进一步降低分类任务的分类错误率,提出一种组合稀疏自动编码器(SAE)和边缘降噪自动编码器(mDAE)从而形成稀疏边缘降噪自动编码器(SmDAE)的方法,将稀疏自动编码器和边缘降噪自动编码器的限制条件加载到一个自动编码器(AE)之上,使得这个自动编码器同时具有稀疏自动编码器的稀疏性约束条件和边缘降噪自动编码器的边缘降噪约束条件,提高自动编码器算法的学习能力。实验表明,稀疏边缘降噪自动编码器在多个分类任务上的学习精度都高于稀疏自动编码器和边缘降噪自动编码器的分类效果;与卷积神经网络(CNN)的对比实验也表明融入了边缘降噪限制条件,而且更加鲁棒的SmDAE模型的分类精度比CNN还要好。     

基于融合型深度学习的滚动轴承亚健康识别算法

深度学习模型增加了隐含层的层数,使得该模型在语音识别、图像视频分类等方面取得了不错的效果;但建立一个适合特定对象的模型需要大量的数据集来训练,而且需要较长时间才能获得合适的权重和偏置,为此提出一种基于深度自动编码器-相关向量机网络模型的滚动轴承亚健康诊断方法。首先,采集滚动轴承振动信号并进行傅里叶变换和归一化处理;其次,设计改进的自动编码器-稀疏边缘降噪自动编码器,结合了稀疏自动编码器和边缘降噪自动编码器的特点;接着建立深度自动编码器-相关向量机网络模型,用有监督的函数对各个隐含层的参数进行微调,并利用相关向量机（RVM）进行训练;最后将得到的分类根据D-S证据理论融合并得出最终的分类结果。实验结果表明所提算法能有效提高滚动轴承"亚健康"状态的识别精度,纠正错误分类。     

用于域适应的多边缘降噪自动编码器

神经网络模型被广泛用于跨领域分类学习。边缘堆叠降噪自动编码器(marginalized stacked denoising autoencoders,mSDA)作为一种神经网络模型,通过对源领域和目标领域数据进行边缘化加噪损坏,学习一个公共的、健壮的特征表示空间,从而解决领域适应问题。然而,mSDA对所有的特征都采取相同的边缘化加噪处理方式,没有考虑到不同特征对分类结果的影响不同。为此,对特征进行区分性的噪音系数干扰,提出多边缘降噪自动编码器(multi-marginalized denoising autoencoders,M-MDA)。首先,利用改进的权重似然率(weighted log-likelihood ratio update,WLLRU)区分出领域间的共享和特有特征;然后,通过计算特征在两个领域的距离,对共享特征和特有特征进行不同方式的边缘化降噪处理,并基于单层边缘降噪自动编码器(marginalized denoising autoencoders,MDA)学习获取更健壮的特征;最后,对新的特征空间进行二次损坏以强化共享特征的比例。实验结果表明,该方法在跨领域情感分类方面优于基线算法。     

稀疏降噪自编码器在IR-BCI的应用研究

针对脑-机接口的特征提取问题,提出了一种基于非监督学习的稀疏降噪自编码器,对刺激诱发的脑电信号进行自主学习,构建原始数据的深层特征表达。该编码器引用稀疏自编码神经网络,通过加入噪声,增强其学习的泛化能力,增加了神经网络的鲁棒性。首先对多导联信号进行重新拼接,输入稀疏降噪自编码器,得到原始数据的稀疏特征表达;然后,采用支持向量机将学习到的特征进行分类;最后,同直接使用最优单通道相对比。实验结果为：稀疏降噪自编码器的分类准确率要优于单通道,表明该方法能够更好地学习到特征,并提高了“模拟阅读”脑-机接口的识别正确率,为脑-机接口系统的特征提取和分类提供了新思路。     

多层降噪自动编码器的心电信号去噪算法

传统的心电信号(ECG)去噪算法在去除线性的、平稳的ECG信号噪声时效果显著,但是在面对非线性、非平稳的ECG信号噪声时去噪效果不理想.为了提高心电信号算法的去噪能力运用了一种基于降噪自动编码器的ECG去噪算法.降噪自动编码器(DAE)具有噪声鲁棒性的特点,可以在信号受到污染的情况下尽可能地恢复数据的原始状态.为了进一步提升降噪自动编码器算法的去噪效果用多个降噪自动编码器堆叠形成深度神经网络对心电信号进行降噪处理.通过实验结果表明:多层降噪自动编码器(SDAE)算法相较于DAE算法和传统的心电信号去噪算法,SDAE算法对非线性、非平稳的信号噪声具有更好的降噪效果,而且保留了原始心电信号绝大部分的细节信息,对噪声具有较强的抗干扰能力,满足了心电信号的去噪要求.     

基于降噪自动编码器及其改进模型的微博情感分析

随着自然语言处理科学的迅猛发展,情感分析作为其重要的一个分支广泛应用于社交网络平台上,尤其是微博由于其传播广泛且蕴含丰富的情感信息而备受学者青睐。为解析微博中表达的情感信息以及深入挖掘其蕴含的潜在感情,本文在降噪自动编码器的深度模型之上研究探索改进了这个深度学习模型。降噪自动编码器的工作特点是在引入噪声的干扰之下实现对原始输入的还原,而其改进模型的优势在于考虑到了噪声的多样性和复杂性,并通过深度学习训练加强模型的原始特征复原能力,以此来克服不可预判的原始输入噪声。后文中通过分别使用SVM、降噪自动编码器模型以及改进的模型做情感分析实验,对比分类效果而得出改进的深度模型对微博文字情感把握更准确而且抗干扰能力及鲁棒性有所提升。     

自编码网络在JavaScript恶意代码检测中的应用研究

针对传统机器学习特征提取方法很难发掘JavaScript恶意代码深层次本质特征的问题,提出基于堆栈式稀疏降噪自编码网络(sSDAN)的JavaScript恶意代码检测方法。首先将JavaScript恶意代码进行数值化处理,然后在自编码网络的基础上加入稀疏性限制,同时加入一定概率分布的噪声进行染噪的学习训练,使得自动编码器模型能够获取数据不同层次的特征表达;再经过无监督逐层贪婪的预训练和有监督的微调过程可以得到有效去噪后的更深层次特征;最后利用Soft max函数对特征进行分类。实验结果表明,稀疏降噪自编码分类算法对JavaScript具有较好的分类能力,其准确率高于传统机器学习模型,相比随机森林的方法提高了0.717%,相比支持向量机(SVM)的方法提高了2.237%。     

融合稀疏因子的情感分析堆叠降噪自编码器模型

基于深度学习的特征抽取是目前数据降维问题的研究热点,堆叠自编码器作为一种较为常用的模型,无法对混有噪声及较稀疏的数据进行良好的特征表达。面向微博情感分析,通过在堆叠降噪自编码器的各隐藏层中加入稀疏因子,来解决样本数据所含噪声和稀疏性对特征抽取的影响。使用COAE评测数据集进行的情感分析实验表明所提模型分类的准确率和召回率都有所提高。     

基于堆叠降噪稀疏自动编码器的软件缺陷预测

特征提取是软件缺陷预测中的关键步骤,特征提取的质量决定了缺陷预测模型的性能,但传统的特征提取方法难以提取出软件缺陷数据的深层本质特征。深度学习理论中的自动编码器能够从原始数据中自动学习特征,并获得其特征表示,同时为了增强自动编码器的鲁棒性,本文提出一种基于堆叠降噪稀疏自动编码器的特征提取方法,通过设置不同的隐藏层数、稀疏性约束和加噪方式,可以直接高效地从软件缺陷数据中提取出分类预测所需的各层次特征表示。利用Eclipse缺陷数据集的实验结果表明,该方法较传统特征提取方法具有更好的性能。     

基于改进降噪自动编码器的点击率预测

点击率(CTR)预测是个性化广告和推荐系统中的一项基本任务. 针对提升点击率预测效果和处理冷启动问题, 本文中提出了一种基于改进降噪自动编码器的点击率预测模型ADVAE (ADditional Variational AutoEncoder),该模型在输入数据加入高斯随机噪声, 利用改进的降噪自动编码器生成新的嵌入特征, 然后分别进行低阶和高阶的特征交互来预测用户点击行为. 该方法可以在数据稀疏以及系统冷启动情况下, 更深层地学习特征嵌入与交叉之间的关系. 该模型关注特征域之间的交互, 动态修复低频数据的特征嵌入, 具有更强的鲁棒性. 此外, 该方法可以动态应用到其他深度学习模型, 具有更高的灵活性. 实验结果表明, 该方法在点击率预测和系统冷启动问题上的性能表现均优于现有方法.     

基于Inception模块的卷积自编码器图像去噪

为了更有效地去除图像中存在的高斯噪声,提出一种结合Inception模块的卷积自编码器图像去噪模型。以完整图像作为输入和输出,利用Inception模块对噪声图像进行去噪,使用改进Inception反卷积模块将去噪图像进行还原,提升模型去噪能力。同时在模型中引入批量归一化(Batch Normalization,BN)和随机失活层(Dropout)有效解决过拟合问题,引入ReLU函数避免模型梯度消失,加速网络训练。实验结果表明,与深度卷积神经网络方法相比,该模型获得了更高的峰值信噪比和结构相似度,其去噪能力更好,视觉效果更佳,具有更好的鲁棒性。     

基于DAE+CNN辐射源信号识别算法

针对利用卷积神经网络进行辐射源信号识别过程中时间复杂度高的问题进行研究,提出一种基于降噪自编码器和卷积神经网络结合的算法。首先对雷达辐射源信号进行短时傅里叶变换,获取时频图像;然后对图像进行灰度和阈值二值化处理,将处理后的图像向量化操作输入到降噪自编码器中,提取降噪自编码器隐藏层特征数据完成降维处理,再重构成图片矩阵输入到卷积神经网络中,利用常用的softmax分类器进行分类识别。通过仿真表明,添加降噪自编码器降维处理后的模型相比较原模型,时间复杂度大幅度下降,在SNR=-6 dB,识别效果能达到80%以上,与利用传统降维方式性能相比,识别效果明显提高。     

基于卷积自编码神经网络的心电信号降噪

心电信号由于在采集过程中会受到外界环境的干扰导致其形态特征被严重淹没,从而对医生的诊断和远程智能分析造成干扰。基于此,提出了一种基于卷积自编码神经网络的心电信号降噪算法。该方法利用自编码器的编码、解码特性,通过卷积的方法构建深层神经网络来学习从含噪心电信号到干净心电信号的端对端映射。卷积层捕获心电信号的细节特征,同时消除噪声;解码部分能够对特征图进行上采样并恢复心电信号细节,从而得到干净的心电信号。实验中采用信噪比和均方根误差为指标,将该方法与小波阈值法、S变换法、BP神经网络法和指导滤波法进行比较。实验结果表明,该降噪方法整体降噪精度更优,同时信号的低频成分也得到了很好的保持。该方法可做到在消除心电信号中复杂噪声的同时完整保留心电信号的形态,为心血管疾病的智能诊断和心电图的特征检测奠定了基础。     

基于多重降噪自编码器模型的top ◢N◣推荐算法

针对传统降噪自编码器（DAE）中加噪操作的随机性影响预测精度的问题,以及数据矩阵忽视用户具体评分信息的问题,提出了一种结合用户评分的多重降噪自编码器（MDAE）。首先,在输入矩阵中引入具体评分信息,增加输入矩阵信息量;其次,为了在获得鲁棒性数据的前提下减轻加噪操作对预测精度的影响,构建了MDAE模型,将经过不同层次降噪得到的预测矩阵结合非降噪预测矩阵得出最终的预测结果;最后,将模型与其他模型在不同数据集上作实验对比。实验结果表明,结合用户具体评分的MDAE模型可以获得更优质的推荐结果。     

基于二维变分模态分解和自适应中值滤波的图像去噪方法*

图像在采集、获取和传输过程中往往夹杂着噪声,针对几种常用方法去噪效果不理想,提出了一种新的图像去噪方法。此方法通过二维变分模态分解将图像分解为一系列不同中心频率的子模态。保留其低频模态,并对其进行自适应中值滤波处理,从而得到其去噪后的图像。实验结果表明,与其他几种常用的去噪方法相比,本文方法在滤除噪声的同时,又能较好地保留图像的边缘细节,图像也获得较好的视觉效果,此外客观评价参数也得到比较明显的改善,随着噪声强度加大去噪效果愈明显。     

带噪语音信号小波去噪算法研究

去噪问题是信号处理中必不可少的问题。滤波作为传统的去噪方法,主要包括线性滤波和非线性滤波。噪声与信号频率重叠,传统方法要想取得良好的去噪效果必须牺牲部分信号。现有的小波模极大值去噪方法虽然有较好的去噪效果,但是该方法计算量大。小波阈值去噪方法更简单,但小波重构后的小波系数与噪声的小波系数存在恒定的偏差。在阈值去噪方法的基础上提出一种改进算法,仿真结果表明该算法在加性高斯白噪声污染下表现出较好去噪效果。     

结合PCA及字典学习的高光谱图像自适应去噪方法

高光谱图像各波段图像噪声分布复杂,传统去噪方法难以达到理想效果。针对这一问题,在主成分分析（PCA）的基础上,结合噪声估计和字典学习,提出一种新的高光谱去噪方法。首先,对原始高光谱数据进行主成分变换得到一组主成分图像并根据能量比重将其划分为清晰图像组和含噪图像组;然后,根据任一波段图像的信息,利用奇异值分解（SVD）对图像进行噪声估计,再将得到的噪声估计方法与K-SVD字典学习去噪算法结合,提出一种具备自适应噪声估计特性的字典学习去噪算法,并将其应用于信息量较小的含噪图像组进行去噪处理;最后,按各主成分图像对应的信息量比例进行加权融合得到最终的去噪图像。通过对模拟与实际高光谱遥感图像的实验表明,与PCA、PCA-Bish、PCA-Contourlet三种去噪方法相比,所提方法去噪后图像的峰值信噪比（PSNR）可以提升1~3 dB,且具有更多的细节信息和更好的视觉效果。     

小波去噪在智能引线键合机图像处理中的应用

针对小波去噪中硬阈值法和软阈值法存在的缺陷,提出了一种新的多尺度自适应阈值选择算法,该方法根据小波变换的特点和噪声信号的3σ,准则,对于不同的小波系数乘以一个与自身小波系数相关的降噪因子.在现有的图像去噪评估算法的基础上,提出了基于图像平滑度和匹配度的去噪效果评估算法.实验结果表明:多尺度自适应阈值选择算法能有效去除图...     

基于改进栈式自编码器的风电机组发电机健康评估

风电机组发电机具有结构复杂、维修困难的特点,为对其进行健康评估,结合去噪自编码器与稀疏自编码器的特点,对传统栈式自编码器模型进行改进,利用模型的重构误差监测风电机组发电机的运行状态。将经离线测试得到的重构误差与在线监测得到的重构误差进行分布差异性比对,通过融合3种差异指标得到风电机组发电机的健康度。利用河北某风场实际数据对健康评估模型进行训练测试,通过实例分析证明该模型能够有效跟踪风电机组发电机的状态变化,具有故障早期识别的作用。