数据不平衡下基于DCGAN和AMCNN的滑动轴承故障诊断方法

目前，针对轴承的故障诊断领域研究中，传统的诊断方法往往过度依赖于信号处理的方式，并且模型的泛化能力较差，而深度学习的方法又面临数据不平衡等问题。因此，提出了一种基于深度卷积生成式对抗网络（Deep Convolutional Generative Adversarial Networks,DCGAN）和注意力机制卷积神经网络（Attention Module Convolutional Neural Network,AMCNN）的轴承诊断方法。首先对信号进行连续小波变换转换为时频图，然后将数据集输入进DCGAN进行对抗训练，生成于原数据分布类似的新样本，解决数据不平衡问题。最后将新数据集输入AMCNN进行学习和分类诊断。实验结果表明，基于该方法的诊断模型较其他算法模型更优，且拥有较快的收敛速度和泛化能力。     

一种不平衡数据下的新型轻量级轴承故障诊断模型

在实际工程场景中,轴承故障数据远少于正常数据,不平衡数据下的轴承故障诊断方法存在参数多、模型复杂的问题。因此,提出了一种由带梯度惩罚的辅助分类瓦瑟斯坦生成对抗网络(auxiliary classier Wasserstein generative adversarial network with gradient penalty,ACWGAN-GP)和神经回路策略故障诊断(neural circuit policy-fault diagnosis,NCP-FD)网络组成的不平衡数据NCP-FD(unbalanced data NCP-FD,UDNCP-FD)模型。首先,将轴承故障信号数据转换为二维时频图,利用不平衡的训练集训练ACWGAN-GP生成高质量故障样本,并将其扩充到原始训练集中;然后,将扩充后的训练集输入到NCP-FD网络中进行学习;最后,将训练好的NCP-FD网络应用于测试集进行故障诊断。实验结果表明,所提模型与其他不平衡数据下的轴承故障诊断模型相比,参数更少,存储空间更小,故障诊断准确率更高。     

基于迁移学习的双层生成式对抗网络

在生成式对抗网络的对抗训练中,目标样本训练集不足会导致模型无法准确学习到对应的特征,但对于需要人工制作、标记的目标样本训练集又很难获取。针对这一问题,提出了基于迁移学习的双层生成式对抗网络模型,在第一层网络中通过伪目标样本让模型学习到目标样本在结构空间的大致分布后,利用迁移学习的思想进行模型迁移,并在第二层网络中根据少量目标样本进行调整。实验中,验证了该模型在中文字体生成与图片框架图转换中的提高,有效地在少量目标样本训练集中训练出更好的模型。     

融合生成对抗网络和朴素贝叶斯皮肤病诊断方法

不同皮肤病间发病率的差异导致了皮肤病数据类不平衡现象,对使用机器学习方法构建高效、准确的皮肤病诊断模型带来了巨大挑战。提出一种融合生成对抗网络(generative adversarial networks,GAN)和朴素贝叶斯的皮肤病二分类诊断方法:在皮肤病数据集上训练朴素贝叶斯二分类器作为诊断器,创新性地使用GAN为前者生成补充训练样本,使其训练集正负类样本达到平衡。针对皮肤病诊断多分类问题,提出一种融合生成对抗网络和朴素贝叶斯的多分类诊断方法:使用GAN和朴素贝叶斯训练皮肤病单病种二分类器,并结合了词频-逆文档频率算法(term frequency-inverse document frequency,TF-IDF),将多个二分类器组合成一个多分类器作为诊断器。与六种诊断方法进行了对比实验,提出的两种皮肤病诊断方法准确率和召回率均有提升。     

自适应对抗学习求解旅行商问题

深度学习为组合优化问题提供了新的解决思路,目前该研究方向多关注于对模型和训练方法的改良,更多的论文引入自然语言处理方向的新模型来加以改进求解效果,而缺乏从实例的数据生成方向来关注模型的泛化能力和鲁棒性。为解决该问题,借鉴对抗学习的思想,针对经典组合优化问题——旅行商问题,从数据生成方向切入研究,设计生成器网络,使用监督学习的方式来产生对抗样本,并将对抗样本加入到随机样本中混合训练,以改善模型对该类问题的泛化性能。同时,依据强化学习训练过程中判别器模型的更新方式提出一种自适应机制,来训练对抗模型,最终得到能够在随机分布样本上和对抗样本上都取得较好结果的模型。仿真验证了所提出方法的有效性。     

基于复合生成对抗网络的对抗样本生成算法研究

对抗样本能够作为训练数据辅助提高模型的表达能力,还能够评估深度学习模型的稳健性.然而,通过在一个小的矩阵范数内扰乱原始数据点的生成方式,使得对抗样本的规模受限于原始数据.为了更高效地获得任意数量的对抗样本,探索一种不受原始数据限制的对抗样本生成方式具有重要意义.鉴于此,提出一种基于生成对抗网络的对抗样本生成模型(multiple attack generative adversarial networks, M-AttGAN).首先,将模型设计为同时训练2组生成对抗网络,分别对原始数据样本分布和模型潜在空间下的扰动分布进行建模;然后,训练完成的M-AttGAN能够不受限制地高效生成带有扰动的对抗样本,为对抗训练和提高深度神经网络的稳健性提供更多可能性;最后,通过MNIST和CIFAT-10数据集上的多组实验,验证利用生成对抗网络对数据分布良好的学习能力进行对抗样本生成是可行的.实验结果表明,相较于常规攻击方法,M-AttGAN不仅能够脱离原始数据的限制生成高质量的对抗样本,而且样本具备良好的攻击性和攻击迁移能力.     

面向样本不平衡的网络安全态势要素获取

针对传统的网络安全态势要素获取模型中,当样本分布不平衡时,占比很少的样本（统称小样本）不能被有效检测,准确识别到每一类攻击样本成为研究热点之一。利用深度学习提出了一种面向样本不平衡的要素获取模型,利用卷积神经网络作为基分类器提取网络数据的深层特征,其次使用GAN生成对抗网络扩充小样本的方法,解决样本分布不均衡问题。在扩充后的平衡数据集上采用迁移学习,加快基分类器到适应于小样本的新分类的训练时间。在NSL-KDD数据集上的实验表明,经过生成对抗网络扩充后的数据集,结合迁移学习有效加快了模型训练收敛速度,并有效提高网络安全态势要素获取的分类精度。     

基于邻域差分滤波生成式对抗网络的数据增强方法

针对工业产品样本缺乏且特征不明显而难以用于深度学习训练的问题,提出一种邻域差分滤波生成式对抗网络数据增强（NDF-GAN）方法。将邻域差分滤波器融合到生成对抗网络中,从样本中提取特征并进行样本重建,对样本进行数据增强。实验表明,提出的方法所生成的样本比现有两种模型质量更高,所生成样本与真实样本混合训练分类模型后获得更好的分类性能。因此,提出的NDF-GAN实现了对工业产品样本的数据增强。     

电静压伺服机构小样本数据故障诊断方法研究

为解决电静压伺服机构(Electro-Hydrostatic Actuator, EHA)小样本故障诊断准确率低的问题,提出了一种基于迁移学习与生成对抗网络相结合的故障诊断方法（Transfer-WDCGAN）。首先用GAN生成与EHA试验数据相似的数据集作为源域,利用迁移学习提取源域和试验数据的共同特征并得到预训练模型;然后将预训练模型与WDCGAN结合进行微调,对电静压伺服机构试验数据进行数据增强;最后分别采用MMD距离和3种故障诊断结果评价指标对文章所提故障诊断方法进行评价。结果表明：相比于WDCGAN数据增强模型,文章所提模型生成样本特征更逼近于真实数据,其中最优故障诊断模型SDAE故障诊断结果准确率由79%提高到了90%。有效解决了基于WDCGAN故障诊断模型过拟合、准确率低的问题。     

基于CNN的改进行人重识别技术

针对行人重识别研究中训练样本的不足,为提高识别精度及泛化能力,提出一种基于卷积神经网络的改进行人重识别方法。首先对训练数据集进行扩充,使用生成对抗网络无监督学习方法生成无标签图像;然后与原数据集联合作半监督卷积神经网络训练,通过构建一个Siamese网络,结合分类模型和验证模型的特点进行训练;最后加入无标签图像类别分布方法,计算交叉熵损失来进行相似度量。实验结果表明,在Market-1501、CUHK03和DukeMTMC-reID数据集上,该方法相比原有的Siamese方法在Rank-1和mAP等性能指标上有近3～5个百分点的提升。当样本较少时,该方法具有一定应用价值。     

基于特征扩展CapsNet的轴承故障诊断模型

基于深度网络的轴承故障诊断模型,其深层次的特征提取往往需要大量的训练样本,诊断模型应用于小样本故障信号时受到限制。利用胶囊网络(CapsNet)在处理小样本数据上的优势,通过扩展故障特征向量和改进预测胶囊迭代约束条件,使网络适用于噪声工况下的轴承故障诊断,提高预测精度。在CapsNet的初级胶囊层引入特征图跨通道约束关系,由原来的通道内约束改进为通道内-通道间混合约束,扩展胶囊特征向量,使其能描述故障信号时间序列中与远距离序列点相关的几何特性,为数字胶囊层预测网络提供更完备的故障特征。同时,利用余弦相似度作为特征向量的度量并为数字胶囊层的迭代筛选提供依据,避免向量模值造成的分类误差。凯斯西储大学(CWRU)轴承数据集实验结果表明,改进的iCapsNet诊断模型泛化性能得到明显提升,在信噪比为0 dB时,预测精度可达到90.9%,相比原CapsNet模型提高了44.8%。     

基于多维特征图知识蒸馏的对抗样本防御方法

计算机视觉领域倾向使用深度神经网络完成识别任务,但对抗样本会导致网络决策异常.为了防御对抗样本,主流的方法是对模型进行对抗训练.对抗训练存在算力高、训练耗时长的缺点,其应用场景受限.提出一种基于知识蒸馏的对抗样本防御方法,将大型数据集学习到的防御经验复用到新的分类任务中.在蒸馏过程中,教师模型和学生模型结构一致,利用模...     

类dropout的具有新型栈式结构的层次支持向量机

基于对抗学习提出一种类dropout的具有新型栈式结构的层次支持向量机(D-S-SVM)。随机抽取一定比例的样本攻击其标签类型使其成为对抗样本,利用支持向量机对包含对抗样本的训练集进行对抗学习生成对抗支持向量机(A-SVM)。通过栈式结构原理逐层级联一定数量的子分类器(即A-SVM)构建D-S-SVM。在该模型中计算子分类器输出误差对输入样本的一阶梯度信息,并结合dropout将部分一阶梯度信息嵌入到原输入样本特征中生成新样本作为下一个子分类器的输入。该模型不仅提供了一种新颖的层次结构级联方式,且实验结果表明它能够逐层提高数据分类精度且具有较强的泛化性能。     

基于随机变分推理贝叶斯神经网络的发电机轴承故障诊断

近年来,许多基于深度学习的方法被用于故障诊断领域,并且取得了良好的效果,但是发电机故障样本数据难以获取,在数据量较少的情况下,基于深度学习的方法存在过拟合现象,导致模型泛化能力差、诊断精度不高.为了解决这一问题,提出一种基于随机变分推理贝叶斯神经网络的故障诊断方法.该方法以贝叶斯推理与随机变分推理为基础,可以根据少量数据得到较为可靠的模型,获得网络各层参数的概率分布,有效解决过拟合的问题.采用证据下限(evidence lower bound, ELBO)派生类函数TraceGraph ELBO进行随机变分推理,解决派生类函数Trace ELBO诊断精度较低的问题.将所提方法应用于发电机轴承的故障诊断,并与其他方法对比,结果表明,所提方法在故障样本数据量较少的情况下具有较高的诊断性能.     

Machine fault diagnosis with small sample based on variational information constrained generative adversarial network

In actual engineering scenarios, limited fault data leads to insufficient model training and over-fitting, which negatively affects the diagnostic performance of intelligent diagnostic models. To solve the problem, this paper proposes a variational information constrained generative adversarial network (VICGAN) for effective machine fault diagnosis. Firstly, by incorporating the encoder into the discriminator to map the deep features, an improved generative adversarial network with stronger data synthesis capability is established. Secondly, to promote the stable training of the model and guarantee better convergence, a variational information constraint technique is utilized, which constrains the input signals and deep features of the discriminator using the information bottleneck method. In addition, a representation matching module is added to impose restrictions on the generator, avoiding the mode collapse problem and boosting the sample diversity. Two rolling bearing datasets are utilized to verify the effectiveness and stability of the presented network, which demonstrates that the presented network has an admirable ability in processing fault diagnosis with few samples, and performs better than state-of-the-art approaches.     

基于GB-AEnet-FL网络的物联网设备异常检测

针对物联网场景下,传统异常检测方法在海量不均衡数据中检测准确率低、数据异构导致模型泛化能力差等问题,提出了基于联邦学习的对抗双编码异常检测网络 （GB-AEnet-FL）的物联网设备异常检测算法。首先,提出了一种基于异常数据的主动特征分布学习算法,主动学习数据的潜在特征分布,通过数据重构扩充异常数据,均衡正负样本比例。其次,在潜在特征层引入了对抗训练机制并添加一致性增强约束和收缩约束,提高特征提取的精度。最后,设计了一种基于动态模型选择的联邦学习算法,比较局部模型与全局模型的置信度评分,动态选择部分联邦体参与,加速模型的聚合,在一定程度上也保护了用户隐私。在四个不同数据集上进行验证,结果显示,所提算法在检测准确度优于传统算法,且泛化能力得到相应提升。     

A bearing fault diagnosis method without fault data in new working condition combined dynamic model with deep learning

Bearing fault diagnosis plays an important role in rotating machinery equipment’s safe and stable operation. However, the fault sample collected from the equipment is seriously absent, which obstacles the establishment of the diagnostic model. In this paper, a novel false-real data synthesis method combined bearing dynamic model with a generated adversarial network is proposed to solve the problem of zero-shot in new condition. Firstly, the bearing dynamic model is constructed to simulate vibration data in different conditions. Secondly, the conversion model is trained by simulation data in different conditions, which will be employed to convert real-world data in the old condition into the conversion data in the new condition. Thirdly, the GAN model is trained by simulation data and real-world data in old condition and finetuned by simulation data and conversion data in the new condition. Finally, simulation data in the new condition are inputted to the finetuned GAN model to obtain generated data in the new condition, and the fault diagnosis model is trained by it. To validate the performance of the proposed method, various comparative experiments are carried out on one rolling bearing dataset. The results indicate that the proposed method can solve the problem of zero-shot in new condition with excellent diagnosis performance.     

一种半监督对抗鲁棒模型无关元学习方法

元学习期望训练所得的元模型在学习到的“元知识”基础上利用来自新任务的少量标注样本，仅通过较少的梯度下降步骤微调模型就能够快速适应该任务。但是，由于缺乏训练样本，元学习算法在元训练期间对现有任务过度训练时所得的分类器决策边界不够准确，不合理的决策边界使得元模型更容易受到微小对抗扰动的影响，导致元模型在新任务上的鲁棒性能降低。提出一种半监督对抗鲁棒模型无关元学习（semi-ARMAML）方法，在目标函数中分别引入半监督的对抗鲁棒正则项和基于信息熵的任务无偏正则项，以此优化决策边界，其中对抗鲁棒正则项的计算允许未标注样本包含未见过类样本，从而使得元模型能更好地适应真实应用场景，降低对输入扰动的敏感性，提高对抗鲁棒性。实验结果表明，相比ADML、R-MAML-TRADES等当下主流的对抗元学习方法，semi-ARMAML方法在干净样本上准确率较高，在MiniImageNet数据集的5-way 1-shot与5-way 5-shot任务上对抗鲁棒性能分别约提升1.8%和2.7%，在CIFAR-FS数据集上分别约提升5.2%和8.1%。     

Series arc fault diagnosis method of photovoltaic arrays based on GASF and improved DCGAN

In recent years, the methods of machine learning are widely investigated to resolve the series arc fault (SAF) diagnosis problem in photovoltaic (PV) arrays. However, owing to the factors such as weak signal characteristics, long algorithm execution time, and sample imbalance in practical applications, these methods may have difficulties of detecting the SAF. To address these problems, a method based on the Gramian angular summation field (GASF) combined with the squeeze and excitation-deep convolution generative adversarial network (SE-DCGAN) is proposed. Firstly, the absolute difference of margin factor (ADMF) of the current signal is calculated to accurately extract the transient current data when the SAF occurs. Thereafter, the GASF is used to convert transient current data into two-dimensional images to amplify the universal characteristics of the SAF. Subsequently, the SE-DCGAN is adopted to augment the GASF images of the SAF to solve the problem of limited SAF samples. Finally, a convolutional neural network (CNN) is trained to identify the SAF. Also, a fusion sample training method is proposed in this research, that is, normal samples of different PV systems are added to the training set to enhance the generalization ability of CNN. The advantages of the proposed method are that the identification of SAF is improved by converting one-dimensional signals into two-dimensional images, and the generalization ability of the detection model is improved by exploiting the common features of SAFs and fusion training. The validity and generalization ability of the proposed method are verified by three datasets under different PV systems. Experimental results reveal that the proposed method can achieve high recognition accuracy for the measured data; moreover, no misjudgments occurred in identifying the interference events such as maximum power point tracking (MPPT) adjustment and irradiance mutation (IM). In addition, the experiments confirm that the fusion training method enables the model more universal and applicable.