基于注意力机制—门控循环单元—BP神经网络的智能多工序工艺参数关联预测

鉴于流程制造工序间能质流耦合严重，性能指标影响因素众多，工艺参数时序特征显著，现有制造模式下难以精准预测产品质量，在分析流程制造工艺性能指标多维、强时序、关联耦合特征的基础上，提出一种基于注意力机制—门控循环单元-BP神经网络(Attention AM-GRU-BPNN)的多工序耦合参数关联预测方法。首先采用互信息方法筛选多态异构生产数据作为输入，建立ConvGRU自编码器，通过无监督学习对过程数据、工艺参数、操作参数等进行时序特征提取，同时引入时序注意力机制提取不同工序的耦合关联特征并进行向量嵌入，为不同工序的工艺参数分配注意力权重。在此基础上，设计Attention网络自学习不同时刻下工艺关联特征对质量性能指标的影响差异，再通过门控循环单元网络对重要的关联特征进行增强，并按照时序特征对单工序预测模型进行聚合，实现多工序时序特征融合，最后通过输出层BPNN神经网络精准预测产品工艺质量。实验表明，AM-GRU-BPNN有效提高了预测精度，从多工序角度为生产线工序的加工过程控制提供了依据。     

基于残差自注意力机制的航空发动机RUL预测

针对传统神经网络在多维数据高分辨率特征识别和高精度信号提取方面的缺陷,开展基于残差自注意力机制的剩余使用寿命(RUL)预测算法研究。比较分析卷积神经网络(CNN)和长短期记忆神经网络(LSTM)的结构特性,揭示二者在长序列信息特征关联能力和局部特征提取能力上的局限性。研究自注意力机制,引入双层残差网络抑制误差函数反向传播中扩散性,进而构建了一种卷积记忆残差自注意力机制的深度学习方法。基于上述方法对典型航空涡扇发动机退化实验数据集进行仿真分析,结果表明:所述方法能够有效建立监测数据与发动机健康状态之间的关系,关键评价指标——剩余使用寿命预测的均方误差为225,相比传统自注意力机制均方误差降低了17.9%,验证了所述方法的可行性和有效性。     

基于Autoencoder-BLSTM的涡扇发动机剩余寿命预测

准确预测涡扇发动机的剩余使用寿命,对于合理制定维护策略,降低维护成本具有重要意义。针对发动机状态监测数据样本量大、维度高的特点,提出一种整合自编码神经网络(Autoencoder)和双向长短期记忆(BLSTM)神经网络优势的混合健康状态预测模型,优化涡扇发动机的剩余使用寿命预测。首先利用Autoencoder方法作为特征提取工具,对状态监测数据进行压缩,然后利用BLSTM方法捕捉特征双向长程依赖的特性,构建剩余使用寿命的混合深度学习预测模型。基于通用数据集开展测试比较,结果表明Autoencoder-BLSTM混合模型的预测精度优于现有多层感知机、支持向量回归、卷积神经网络和长短期记忆神经网络等方法,可有力支撑涡扇发动机的健康管理与运维决策。     

基于ALSTM的光伏出力短期预测研究

光伏出力的短期预测有利于电网的调度管理,能提高电力系统的运行效率、经济性和稳定性.结合长短期记忆网络(LSTM)在处理时序数据以及注意力机制(Attention)专注输入数据关键本质特征的优势,构建了注意力机制-长短期记忆网络(ALSTM).基于互信息熵(MIE)方法分析各气象因素与光伏出力关系的重要性,依此构建光伏出...     

融合Mar-G LSTM的流程生产工艺质量预测算法

针对流程生产连续性强、时序耦合复杂等特点,传统神经网络不具备长期记忆能力,且在深层次网络训练时易出现训练参数灾难、梯度爆炸等问题,提出基于马尔可夫优化的融合门控循环单元(GRU)与长短期记忆网络(LSTM)的组合预测模型(Mar-G LSTM)。首先在循环神经网络结构中融入门控机制构建深度LSTM神经网络模型,对流程生产时序数据信息进行选择性记忆,学习时序数据序列的信息依赖,进而解决训练过程中的梯度爆炸问题;同时结合马尔可夫链对GRU-LSTM模型的预测结果进行修正优化,在降低模型的复杂度的情况下进一步提高了模型的预测精度。最后,结合某流程生产线的工艺数据进行分析验证,结果表明,Mar-G LSTM算法在预测精度上较随机森林模型、门控循环单元神经网络模型(GRU)、长短期记忆神经网络模型(LSTM)和卷积神经网络与门控循环单元网络组合模型(CNN-GRU)分别提高了37.42%、21.32%、17.91%和12.56%,所提Mar-G LSTM算法可实现流程生产质量的准确预测,为降低工艺参数调控任务的完成时间提供了思路和实现途径。     

基于1DCNN-LSTM神经网络的Ti-48Al-2Cr-2Nb微铣削表面粗糙度预测

表面粗糙度是衡量微细加工零件表面质量的主要指标,为提高微铣削加工表面粗糙度预测的精准性,提出一种一维卷积-长短期记忆(1DCNN-LSTM)的深度神经网络预测模型.利用一维卷积网络高效的数据处理机制和长短期记忆网络精准的预测能力,有效解决了批量序列数据处理、样本关键特征学习以及小样本数据的表面粗糙度预测精确问题.以主轴...     

考虑转动周期的轴承剩余使用寿命预测EI北大核心

滚动轴承广泛应用于各类旋转机械设备,其健康状况对机器设备的正常运行至关重要,掌握其剩余使用寿命(RUL)可以更好地保证生产活动安全有效的进行。目前,基于深度学习的轴承RUL预测方法均致力于对整体趋势特征的把控,而忽略了对各转动周期间相互依赖特征的挖掘。针对这一问题,提出一种考虑转动周期的轴承RUL预测网络——双通道网络模型。该预测网络使用卷积神经网络(CNN)和双向长短期记忆网络(BiLSTM)来提取轴承振动数据的整体趋势特征,并引入注意力机制来增强模型的特征提取能力。利用基于转动周期的跳越循环神经网络组件来捕捉各转动周期之间的相互依赖模式。通过滚动轴承加速退化实验的数据,验证了所提网络的有效性,并与一些智能算法进行了对比实验,预测精度表现优异。     

基于强化学习算法的水下滑翔机路径跟踪研究

针对洋流影响下水下滑翔机实际路径与预定路径偏差较大的问题，在传统的长短期记忆网络模型的基础上引入注意力机制，建立了具有长短期记忆与注意力机制的神经网络洋流预测模型；利用深度神经网络生成水下滑翔机运动的动态Q表，并通过强化学习算法选择最优运动姿态，同时考虑洋流的影响，构造了基于深度强化学习的水下滑翔机路径跟踪算法。结果表明，基于注意力机制的长短期记忆网络相较于传统的整合移动平均自回归模型与长短期记忆网络，其洋流预测具有更小的均方误差与均方根误差，具有良好的预测能力；相较于传统的PID控制，深度强化学习模型可使水下滑翔机轨迹均方根误差降低50.9%,显著提高了路径跟踪精度。     

基于长短期记忆网络的挖掘机器人 视觉跟踪系统设计

为通过视觉系统向挖掘机器人输入挖掘目标以及解决因运动容易导致挖掘目标丢失的问题,提出一种基于长短期记忆网络的视觉跟踪方法,无需限定特定目标类别,直接从摄像头图像中框选目标,经过Dlib提取特征后,通过训练优化长短期记忆网络来跟踪挖掘目标的位置。针对亮度变化、障碍物遮挡和背景干扰三类常见问题进行长短期记忆网络建模和训练,经图片集模拟测试和实际跟踪测试均显示该网络模型能够有效纠正干扰并稳定输出目标位置。网络模型将神经网络和传统机电控制方法结合,提高视觉跟踪精度,为将神经网络应用于挖掘机智能化进行了初步探索。     

循环神经网络多标签航空图像分类

由于航空图像背景复杂,包含的物体类别多样,航空图像分类任务仍然面临困难。针对传统航空图像多标签分类算法准确率低、泛化性差的问题,本文提出了一种基于循环神经网络多标签航空图像分类方法。首先,采用超像素分割获取图像的低层特征,通过注意力机制生成注意力特征图;接着,采用交叉验证的方式获取最佳的图像尺度,将多尺度注意力特征图嵌入卷积神经网络中对图像进行特征提取;最后,采用改进的双向长短期记忆网络挖掘标签之间的相关性,改进的双向长短期记忆网络增加了输入门到输出门之间的连接,使输入状态可以更好地控制每一内存单元输出的信息,并且将遗忘门和输入门合并成单一的更新门,使得改进的双向长短期记忆网络可以学到更长时期的历史信息。结果显示,在图像变换尺度为1,1.3,2时,模型在UCM多标签数据集上的精确率和召回率分别达到了85.33%和87.05%,F1值达到了0.862。本文方法相比于原始VGGNet16模型,精确率提高了7.25%,召回率提高了8.94%。实验表明,该方法可以有效提高航空图像多标签分类任务的准确率。     

基于注意力机制的滚动轴承故障诊断方法

针对传统故障诊断方法无法自适应选择特征以及难以应对负载变动、噪声干扰的问题，提出一种基于注意力机制的端对端故障诊断方法，通过卷积神经网络(CNN)对原始振动信号进行空间特征提取，基于双向长短时记忆网络(BiLSTM)提取时序特征，利用注意力机制判断BiLSTM各时刻隐藏层状态的重要性并赋予相应的权重，对所有时刻的隐藏层状态进行加权求和，并以Softmax层作为分类器进行故障诊断。利用VALENIAN-PT500实验台采集的数据和公开数据进行实验验证，结果表明，所提方法诊断精度高、泛化性强，在变负载和噪声干扰条件下能保持良好的故障诊断性能。     

基于路图注意力网络的轴承剩余寿命预测方法

图数据构建质量直接关系图数据驱动的轴承剩余寿命预测性能。目前传统方法通常利用不同时刻的多传感数据来构建时空图,来表征监测对象性能状态,但如何在单传感监测应用场景下构建表征轴承性能退化状态的图数据并保证其质量仍是一个开放问题。面向单传感监测应用场景,提出一种基于路图注意力网络的轴承剩余寿命预测方法。首先,计算轴承全生命周期时序振动信号的时域统计特征并构造路图,其中,路图中的边用于连接相邻时刻振动信号;在此基础上,设计一种图注意力长短时记忆网络,用于挖掘路图的图特征(节点、边连接)中隐含的时序振动信号特征和时间依赖关系,从而深层次地反映轴承全寿命退化过程。在轴承全寿命公开数据集上开展验证对比试验,结果表明,该路图构造方式明确了边连接的物理意义,并提高了图数据表征性能;所提出的预测方法能有效捕获表征轴承退化状态的图特征以及时间依赖关系,为解决单传感监测应用场景下的轴承性能退化预测问题提供借鉴。     

基于深度学习方法的航空发动机寿命预测模型

为提高航空发动机剩余寿命（remaining useful life,简称RUL）预测能力,构建了一种注意力机制与长短期记忆网络（long short-term memory,简称LSTM）融合的深度学习模型。首先,分析多元高维的运行参数与RUL之间的协方差相关性,实现数据降维,优化模型权重;其次,利用运行参数的时序退化特性提高模型的回归预测效果。在NASA发动机数据集上实验的均方根误差（root mean square error,简称RMSE）范围为[4.83,13.66],与卷积神经网络（convolutionneuralnetworks,简称CNN）、LSTM和双向长短期记忆网络（bi-directionallongshort-term memory,简称Bi-LSTM）方法相比,极大地提高了预测的准确度,实现了超前预测。合并样本的方法提高了模型的泛化性,对不同类型的发动机RUL预测具有指导意义。     

基于注意力双向循环神经网络的业务流程剩余时间预测方法

现有的基于深度学习的业务流程剩余时间预测方法大多采用传统的长短期记忆循环神经网络构建预测模型,由于传统长短期记忆循环神经网络对序列数据的建模能力有限,导致现有方法的预测效果还有较大提升空间。针对现有方法的不足,提出一个基于注意力双向循环神经网络的业务流程剩余时间预测方法。该方法使用双向循环神经网络对流程实例数据进行建模,同时引入注意力机制自动学习流程实例中不同事件的权重。此外,为了进一步提升学习效果,基于迁移学习的思想设计了一种迭代学习策略,为不同长度的流程实例分别构建剩余时间预测模型,提高了模型的针对性。实验结果表明,所提方法与传统的方法相比具有明显的优势。     

基于长短期记忆网络的滚动轴承寿命预测方法

为解决滚动轴承剩余寿命预测问题,提出一种基于长短期记忆网络(long short-term memory,简称LSTM)的剩余寿命预测方法。首先,从时域、频域及时频域特征中提取特征参数;其次,定义三个评价指标定量评估表征轴承退化过程的特征参数效果,筛选得到退化特征参数集,搭建长短期记忆网络预测模型并以归一化寿命值为标签训练神经网络;最后,用训练好的神经网络实现滚动轴承剩余寿命预测。通过滚动轴承全寿命试验证明,该方法可以准确预测滚动轴承剩余寿命,并与反向传播(back propagation machine,简称BP)神经网络和支持向量回归机(support vector regression machine,简称SVRM)的预测效果对比,验证了提出方法的有效性。     

基于混合智能学习的产品质量预报与诊断

个性化制造正在成为当前产品制造的主导模式。以动态变化的市场需求为背景,针对生产工艺参数与成品质量之间存在的复杂非线性关系,提出了一种基于混合智能学习的质量预报模型(RSKDPM)。该模型以粗糙集与知识神经网络为核心,通过挖掘生产过程蕴含的关联知识,构建知识神经网络,进行产品质量预测。工程试验表明,RSKDPM能通过智能学习,发现生产过程知识,诊断产品质量波动的原因,指导过程参数的调整,最终达到改善产品质量的目的。     

基于足底压力的不规范深蹲姿势识别

深蹲被称为力量训练之王,但不正确的姿势会对人体产生不可逆转的伤害。 提出了一种利用足底压力来检测常见不 正确的蹲姿的方法。 使用带 8 个压力传感器的鞋垫收集了 1 组正确蹲姿和 4 组常见错误蹲姿的数据,提出了对这些连续蹲 姿数据进行分割的算法,并对压力云图进行了分析。 然后设计了 3 组深度神经网络作为分类器,分别是引入注意力机制的 长短期记忆网络( att-LSTM) 、长短期记忆网络(LSTM)和卷积神经网络(CNN) 。 实验结果表明,3 组模型的测试准确率分别 为 90. 2% 、83. 0% 和 79. 8% 。 结果表明,采用引入注意力机制的 LSTM 作为分类算法是一种有效的蹲姿检测方法。     

基于递归熵及长短期记忆神经网络的滚动轴承退化趋势预测

针对滚动轴承退化趋势预测中的特征选择及模型优化问题,提出了基于相空间重构结合长短期记忆神经网络的滚动轴承退化趋势预测方法。首先,在滚动轴承退化特征灰色关联分析的基础上,对滚动轴承运行状态跟踪能力进行量化评估;然后,为统一描述各个特征对轴承退化状态的表征信息,采用谱聚类方法对滚动轴承运行状态进行了准确划分;最后,以滚动轴承正常期的退化指标为基础,采用长短期记忆神经网络预测滚动轴承退化趋势。试验表明,该方法不仅能及时发现轴承运行的衰退时间点,且相比于BP和RBF神经网络具有更高的寿命预测精度。     

气动准零非线性隔振器的刚度特性与参数调控

为解决滚动轴承剩余寿命预测问题,提出一种基于长短期记忆网络（long short-term memory, 简称LSTM）的剩余寿命预测方法。首先,从时域、频域及时频域特征中提取特征参数;其次,定义三个评价指标定量评估表征轴承退化过程的特征参数效果,筛选得到退化特征参数集,搭建长短期记忆网络预测模型并以归一化寿命值为标签训练神经网络;最后,用训练好的神经网络实现滚动轴承剩余寿命预测。通过滚动轴承全寿命试验证明,该方法可以准确预测滚动轴承剩余寿命,并与反向传播(back propagation machine,简称BP)神经网络和支持向量回归机（support vector regression machine,简称SVRM）的预测效果对比,验证了提出方法的有效性。     

基于多模型长短时记忆神经网络的电力负荷预测方法研究

提出了一种基于多模型长短时记忆神经网络(LSTM)的电力负荷预测方法,该方法通过对历史电力负荷日曲线进行密度聚类,根据聚类结果以及历史日期的特征因素训练高斯朴素贝叶斯分类器,进而分类训练神经网络预测的输入,采用长短时记忆神经的深层网络对所述历史时刻的电力负荷数据和日期特征因素进行训练建模,以训练生成深度神经网络负荷预测模型。通过算例仿真,发现该方法相比于典型方法,能够精确预测出对应日期的用电负荷,提升预测效果,同时缩短网络训练时间,提升程序运行速度。