基于线性注意力机制的单样本生成对抗网络研究

目前,使用单样本训练生成对抗网络已经成为研究人员关注的重点。但是,网络模型不容易收敛,生成的图像结构易崩塌,训练速度慢等问题依旧亟待解决。研究人员提出在生成对抗网络中使用自注意力模型用以获取样本更大范围的结构,提高生成图像的质量。但是,传统的卷积自注意力模型由于注意力图谱中的信息冗余,容易造成计算资源浪费。提出了一种新的线性注意力模型,在该模型中使用了双重归一化方法来缓解注意力模型对输入特征敏感的问题,并且基于该模型搭建了一种新的单样本生成对抗网络模型。此外,模型还使用了残差网络和光谱归一化方法用于稳定训练,降低了发生崩塌的风险。实验结果表明,相较于使用已有的网络结构,该模型具有训练速度快,生成图像的分辨率高且评价指标改善明显等特点。     

改进 YOLOv5 网络的带钢表面缺陷检测方法

带钢表面缺陷检测已成为保证带钢生产质量的重要环节之一。 针对当前带钢缺陷检测算法精度有待提高等问题,提出 了一种基于 YOLOv5 网络改进的算法模型 MT-YOLOv5。 首先在主干网络中引入 Transformer 自注意力机制,使主干网络更聚焦 于图像全局特征信息的提取;其次采用 T-BiFPN 网络结构,将 Transformer 层与 BiFPN 网络结构相结合,进一步增强了图像浅层 特征信息与深层特征信息的融合;然后引入改进后的轻量化网络 RepVGG 替换主干网络中的部分卷积层,增强主干网络的特征 提取能力;最后增加预测层,检测不同尺度的目标。 实验结果表明,MT-YOLOv5 算法在 NEU-DET 数据集上的均值平均精度 (mAP)达到了 82. 4%,较原 YOLOv5s 算法提高了 5. 3%,检测速度为 65. 4 fps,更好地均衡了检测速度与检测精度。