面向交通流预测的双分支时空图卷积神经网络

针对目前交通流预测中未充分考虑到交通流量与密度、交通流量与速度之间的关联性特征信息，以及忽略多尺度时间特征的问题，提出了一种面向交通流预测的双分支时空图卷积神经网络。首先，依据交通数据的周期性，将交通数据划分为近期与周期两种时间粒度的数据输入；其次，在每个输入分支中，先通过关联性门控线性单元(AGLU)提取流量与密度、流量与速度之间的关联性特征信息；然后，通过图卷积层和多尺度时间卷积层提取关联性特征中的空间与时间上下文信息，并采用预测卷积层输出近期、周期双分支预测结果；最后，通过门控机制融合预测结果，从而实现交通流量的准确预测。实验结果表明，所提模型在交通流预测准确性与稳定性方面整体优于其他模型。     

时序行为提名的上下文信息融合方法

在针对视频的人体活动定位和识别领域中,现有的时序行为提名方法无法很好地解决行为特征长期依赖性而导致提名召回率较低.针对此问题,提出了一种上下文信息融合的时序行为提名方法.该方法首先采用三维卷积网络提取视频单元的时空特征,然后采用双向门控循环网络构建上下文关系预测出时序行为区间.针对门控循环单元(GRU)存在参数较多和梯...     

基于双向门控尺度特征融合的遥感场景分类

针对遥感影像数据集的图像在形状、纹理和颜色上存在较大差别,以及因拍摄高度和角度不同存在的尺度差异导致遥感场景分类精度不高的问题,提出利用主动旋转聚合来融合不同尺度的特征,并通过双向门控提高底层特征与顶层特征互补性的特征融合补偿卷积神经网络（FAC-CNN）。该网络利用图像金字塔为原始图像生成不同尺度图像后将其输入到分支网络中来提取多尺度特征,并提出主动旋转聚合的方式来融合不同尺度的特征,使融合后的特征具有方向信息,从而提高模型对不同尺度输入以及不同旋转输入的泛化能力,实现模型分类精度的提升。FAC-CNN比基于VGGNet的注意循环卷积网络（ARCNet-VGGNet）和门控双向网络（GBNet）在西北工业大学遥感场景图像分类数据集（NWPU-RESISC）上准确率分别提升了2.05个百分点与2.69个百分点,在航空影像数据集（AID）上准确率分别提升了3.24个百分点与0.86个百分点。实验结果表明,FAC-CNN能有效解决遥感影像数据集存在的问题,提高遥感场景分类的精度。     

基于并联CNN-SE-Bi-LSTM的轴承剩余使用寿命预测

滚动轴承作为一种机械标准件,广泛应用于各类旋转机械设备,其健康状况对机器设备的正常运行至关重要,掌握其剩余使用寿命(RUL)可以更好地保证生产活动安全有效的进行.针对目前基于深度学习的机器RUL预测方法普遍存在:a)预测性能很大程度依赖手工特征设计;b)模型不能够充分提取数据中的有用特征;c)学习过程中没有明确考虑多传感器数据等缺点,提出了一种新的深度预测网络——并联多个带有压缩激励机制的卷积神经网络和双向长短期记忆网络集成网络(CNN-SE-Bi-LSTM),用于设备的RUL预测.在该预测网络中,不同传感器采集的监测数据直接作为预测网络的输入.然后,在改进的压缩激励卷积网络(CNN-SE-Net)提取空间特征的基础上进一步通过双向长短期记忆网络(Bi-LSTM)提取时序特征,建立起多个独立的可以自动从输入数据中学习高级表示的RU L预测模型分支.最后,将各独立分支学习到的特征通过全连接层并联获得最终的RU L预测模型.通过滚动轴承加速退化实验的数据,验证了所提网络的有效性并与现有的一些改进算法进行了对比实验.结果表明,面对原始多传感器数据,该算法能够自适应地提供准确的RU L预测结果,且预测表现优于现有一些预测方法.     

基于时空相关性的短时交通流量预测方法

新一代智能交通系统的智能出行、交通大数据智能化决策需要精准及时的短时交通流量预测,深度学习通过机器学习技术自身产生特征,可为短时交通流量预测提供解决方法。以深度学习模型为基础,提出一种结合Conv-GRU和Bi-GRU的短时交通流量预测方法,利用卷积-门控循环单元提取交通流量的时空特征,通过双向门控循环单元提取交通流量的周期特征,将提取的特征进行融合得到交通流量的预测值。实验结果表明,该方法能够准确地预测短时交通流量,与Conv-LSTM方法相比,收敛速度较快,具有更短的运行时间。     

采用CNN和Bidirectional GRU的时间序列分类研究

时间序列数据具有非离散性、数据之间的时序相关性、特征空间维度大等特点,当前大多数分类方法需要经过复杂的数据处理或特征工程,未考虑到时间序列具有不同时间尺度特征以及序列数据之间的时序依赖。通过结合卷积神经网络和循环神经网络中的双向门控循环单元,提出了一个新的端对端深度学习神经网络模型BiGRU-FCN,不需要对数据进行复杂的预处理,并且通过不同的网络运算来获取多种特征信息,如卷积神经网络在时序信息上的空间特征以及双向循环神经网络在序列上的双向时序依赖特征,对单维时间序列进行分类。在大量的基准数据集上对模型进行实验与评估,实验结果表明,与现有的多种方法相比,所提出的模型具有更高的准确率,具有很好的分类效果。     

基于CNN-BIGRU-ATTENTION的短期电力负荷预测

电价的实时波动,会对负荷预测精度产生一定影响,增加预测的复杂性.针对这一问题,本文构建基于注意力(AT-TENTION)机制的卷积神经网络(CNN)和双向门控循环单元(BIGRU)混合模型对短期电力负荷进行预测.首先用CNN对负荷及电价数据特征进行抽取;其次,利用BIGRU对潜藏的时序规律进行提取;最后结合ATTENT...     

基于级联时空特征的信息传播预测方法

现有信息传播预测方法对级联序列和拓扑结构独立建模,难以学习级联时序特征和结构特征在嵌入空间的交互表达,造成对信息传播动态演化的刻画不足.因此,文中提出基于级联时空特征的信息传播预测方法.基于社交关系网络和传播路径构建异质图,使用图神经网络学习异质图和社交关系网络节点的结构上下文,引入门控循环单元提取级联时序特征,融合结构上下文和时序特征,构建级联时空特征,进行信息传播的微观预测.在Twitter、Memes数据集上的实验表明,文中方法性能得到一定提升.     

多注意力机制网络的调制识别算法

针对小尺度衰落信道下调制信号识别率低的问题，提出一种基于多注意力机制网络的调制识别算法。提取信号瞬时幅度/相位特征与同相/正交序列构建双通道输入方式，实现多尺度感受野。通过残差密集块提取双通道数据的频域特征，将特征向量融合后送入双向门控循环单元提取时域信息，引入改进卷积注意力机制模块和软注意力机制捕捉信号的关键特征，构建多注意力机制网络对BPSK、QPSK、8PSK、16PSK、PAM4、GMSK、CPFSK、16QAM、64QAM这9种信号进行调制识别。仿真结果表明，信噪比大于10 dB时，9种信号平均识别率达89.2%以上，与其它深度学习算法相比具有更高的识别率，验证了该算法的有效性。     

基于全局和局部特征感知网络的关系提取方法

关系提取旨在从大量的非结构化数据中提取实体对间的关系。目前,大多数神经网络仅考虑单分支信息流,难以获取足够的语义特征来进行关系提取。针对此问题,该文提出一种基于全局和局部特征感知网络的关系提取方法。该方法首先利用自注意力机制和循环神经网络获取单词的相关性时序特征。其次,构建多分支特征感知卷积神经网络,分别获取全局和局部相关性时序特征,避免全局和局部感知的相互影响。进一步地,对这两种特征进行拼接和筛选,以全面表示句子的重要语义特征。最后,结合Softmax分类器实现关系提取。实验结果表明,该文所提方法优于主流的基于卷积神经网络和循环神经网络的关系提取方法,在标准的SemEval-2010 Task 8和KBP37数据集上F₁值分别达到86.1%和64.9%。     

基于多模态深度融合的虚假信息检测

针对虚假信息检测中图片特征提取不充分,以及忽视了单模内关系以及单模与多模之间交互作用的问题,提出一种基于文本和图片信息的多模态深度融合(MMDF)模型.首先,用双向门控循环单元(Bi-GRU)提取文本的丰富语义特征,用多分支卷积?循环神经网络(CNN-RNN)提取图片的多层次特征;然后,建立模间和模内的注意力机制以捕获...     

基于多尺度多模态学习的光球亮点曲线轨迹段检测方法研究

太阳光球亮点近似旋转的曲线运动对研究太阳内部的能量如何传输到日冕层具有重要意义。现有的算法仅能检测光球亮点的全局型曲线运动，因此提出了一种多尺度多模态的深度学习方法来检测光球亮点的全局型和局部型曲线运动。首先，基于双向长短期记忆网络构建了一种多尺度网络模型，用来提取光球亮点的运动轨迹段的多尺度时序特征；然后，采用EfficientNet-B0提取运动轨迹段的空间特征，通过将时序特征和空间特征融合成多模态特征来检测光球亮点各种类型的曲线轨迹段。实验结果表明，所提方法的准确率达到了85.08%,相较于单尺度方法的提升了6.12%,相较于多尺度单模态方法的提升了3.1%。所提方法亦可应用于其他领域的运动类型检测任务中。     

BMBQA:融合MCNN和BiGRU的蛋白质模型质量评估算法

蛋白质模型质量评估是指对计算手段预测出的蛋白质结构进行评分,以选择尽可能接近天然结构的蛋白质模型,这对在蛋白质结构预测中挑选最优的蛋白质模型和在生物医学研究中恰当使用它们起到至关重要的作用.随着3D蛋白质数据的不断增长,基于深度学习的蛋白质模型质量评估方法得到了快速发展,但该领域只探索了深度学习方向较浅层的应用.本文为了探索更精确的质量评估方法,提出了一个基于多尺度卷积(MCNN)和双向门控循环神经网络(BiGRU)的深度模型,预测蛋白质模型的GDT＿TS(Global Distance Test＿Total Score)分数,并将这一方法命名为BMBQA(Quality Assessment Base on MCNN-BiGRU).其中,多尺度卷积神经网络用来提取蛋白质模型中浅层的细节信息以及深层的抽象信息,双向门控循环神经网络用来提取每个残基的长程相互作用信息,通过数据增强来提高深度模型在目标蛋白质中挑选最优蛋白质模型的性能.本文利用CASP13中的数据集与现有的先进方法进行比较,实验结果表明本文方法在4个经典的评价指标中均具有很强的竞争力.     

基于经验模态分解与多分支神经网络的超短期风功率预测

风功率预测是实现风电场监控及信息化管理的重要基础,风功率超短期预测常用于平衡负荷、优化调度,对预测精度有较高的要求。由于风电场环境复杂、风速不确定性因素较多,风功率时序信号往往具有非平稳性和随机性。循环神经网络（RNN）适用于时间序列任务,但无周期、非平稳的时序信号会增加网络学习的难度。为了克服非平稳信号在预测任务中的干扰,提高风功率预测精度,提出了一种结合经验模态分解与多分支神经网络的超短期风功率预测方法。首先将原始风功率时序信号通过经验模态分解（EMD）以重构数据张量,然后用卷积层和门控循环单元（GRU）层分别提取局部特征和趋势特征,最后通过特征融合与全连接层得到预测结果。在内蒙古某风场实测数据集上的实验结果表明,与差分整合移动平均自回归（ARIMA）模型相比,所提方法在预测精度方面有将近30%的提升,验证了所提方法的有效性。     

基于并行双向时间卷积网络和双向长短期记忆网络的轴承剩余使用寿命预测方法

在基于深度学习的轴承剩余使用寿命(RUL)预测方法中,时间卷积网络(TCN)忽略了振动数据中未来时间信息的重要性,长短期记忆网络(LSTM)难以有效地学习振动数据的长时间序列特征.针对以上问题,提出一种基于并行双向时间卷积网络(Bi-TCN)和双向长短期记忆网络(Bi-LSTM)的轴承RUL预测方法.首先,对多传感器数据进行归一化处理,并将每个传感器数据进行通道合并,实现多传感器数据的高效融合;然后,采用Bi-TCN和Bi-LSTM构建并行的双分支特征学习网络,其中Bi-TCN提取数据的双向长时间序列特征, Bi-LSTM提取数据的时间相关特征;同时,设计一种特征融合注意力机制,该机制分别计算Bi-TCN和Bi-LSTM的输出权重,以实现两种网络输出特征的自适应加权融合;最后,融合特征通过全连接层并输出轴承RUL的预测结果.利用西安交通大学轴承数据集和PHM 2012轴承数据集进行RUL预测实验,实验结果表明,与其他先进的预测方法相比,所提出方法可以准确预测更多类型轴承的RUL,同时具有更低的预测误差.     

基于残差网络和门控卷积网络的语音识别研究

由于传统循环神经网络具有复杂的结构,需要大量的数据才能在连续语音识别中进行正确训练,并且训练需要耗费大量的时间,对硬件性能要求很大.针对以上问题,提出了基于残差网络和门控卷积神经网络的算法,并结合联结时序分类算法,构建端到端中文语音识别模型.该模型将语谱图作为输入,通过残差网络提取高层抽象特征,然后通过堆叠门控卷积神经...     

基于尺度相关-双向长短期记忆网络模型的说话人识别

说话人识别通过语音对说话人进行身份认证,然而大部分语音在时域与频域具有分布多样性,目前说话人识别中的卷积神经网络深度学习模型普遍使用单一的卷积核进行特征提取,无法提取尺度相关特征及时频域特征。针对这一问题,提出一种尺度相关卷积神经网络-双向长短期记忆(SCCNN-BiLSTM)网络模型用于说话人识别。通过尺度相关卷积神经网络在每一层特征抽象过程中调整感受野大小,捕获由尺度相关块组成的尺度特征信息,同时引入双向长短期记忆网络保留与学习语音数据的多尺度特征信息,并在最大程度上提取时频域特征的上下文信息。实验结果表明,SCCNN-BiLSTM网络模型在LibriSpeech和AISHELL-1数据集上迭代50 000次时的等错率为7.21%和6.55%,相比于ResCNN基线网络模型提升了25.3%和41.0%。     

基于深度卷积长短时神经网络的视频帧预测

针对视频帧预测中难以准确预测空间结构信息细节的问题，通过对卷积长短时记忆（LSTM）神经网络的改进，提出了一种深度卷积长短时神经网络的方法。首先，将输入序列图像输入到两个不同通道的深度卷积LSTM网络组成的编码网络中，由编码网络学习输入序列图像的位置信息变化特征和空间结构信息变化特征；然后，将学习到的变化特征输入到与编码网络通道数对应的解码网络中，由解码网络输出预测的下一张图；最后，将这张图输入回解码网络中，预测接下来的一张图，循环预先设定的次后输出全部的预测图。与卷积LSTM神经网络相比，在Moving-MNIST数据集上的实验中，相同训练步数下所提方法不仅保留了位置信息预测准确的特点，而且空间结构信息细节表征能力更强。同时，将卷积门控循环单元（GRU）神经网络的卷积层加深后，该方法在空间结构信息细节表征上也取得了提升，检验了该方法思想的通用性。     

基于一维卷积混合神经网络的文本情感分类

针对情感分类中传统二维卷积模型对特征语义信息的损耗以及时序特征表达能力匮乏的问题，提出了一种基于一维卷积神经网络（CNN）和循环神经网络（RNN）的混合模型。首先，使用一维卷积替换二维卷积以保留更丰富的局部语义特征；再由池化层降维后进入循环神经网络层，整合特征之间的时序关系；最后，经过softmax层实现情感分类。在多个标准英文数据集上的实验结果表明，所提模型在SST和MR数据集上的分类准确率与传统统计方法和端到端深度学习方法相比有1至3个百分点的提升，而对网络各组成部分的分析验证了一维卷积和循环神经网络的引入有助于提升分类准确率。     

融入自注意力机制的深度学习情感分析方法

文本情感极性分析是自然语言处理的热点领域,近年来基于中文语料的情感分析方法受到了学术界的广泛关注.目前大部分基于词向量的循环神经网络与卷积神经网络模型对于文本特征的提取和保留能力不足,为此文中引入了多层自注意力机制,提出了一种结合双向门控循环单元(BGRU)和多粒度卷积神经网络的中文情感极性分析方法.该方法首先使用BG...