深度学习的双人交互行为识别与预测算法研究

基于卷积神经网络的双人交互行为识别算法存在提取的深度特征无法有效表征交互行为序列特性的问题,本文将长短期记忆网络与卷积神经网络模型相结合,提出了一种基于深度学习的双人交互行为识别与预测一体化方法。该方法在训练过程中,完成对卷积神经网络和长短期记忆网络模型的参数训练。在识别与预测过程中,将不同时间比例长度的未知动作类别的视频图像分别送入已经训练好的卷积神经网络模型提取深度特征,再将卷积神经网络提取的深度特征送入长短期记忆网络模型完成对双人交互行为的识别与预测。在国际公开的UT-interaction双人交互行为数据库进行测试的结果表明,该方法在保证计算量适当的同时对交互行为的正确识别率达到了92.31%,并且也可完成对未知动作的初步预测。     

基于CNN-WaveNet的滚动轴承剩余寿命预测

为保证设备正常运行并准确预测轴承剩余寿命,提出二维卷积神经网络与改进WaveNet组合的寿命预测模型.为克服未优化的递归网络在预测训练过程中易出现梯度消失问题,该模型引入了WaveNet时序网络结构.针对原始WaveNet结构不适用滚动轴承振动数据情况,将WaveNet结构改进与二维卷积神经网络结合应用于滚动轴承寿命预测.模型利用二维卷积网络提取一维振动序列的特征,随后特征输入WaveNet并进行滚动轴承的预测寿命.改进模型相比于深度循环网络计算效率更高、结果更准确,相比于原始CNN-WaveNet-O模型预测结果更准确.相比于深度长短期记忆网络模型,改进方法预测结果均方根误差降低了11.04％,评分函数降低了11.34％.     

基于ConvLSTM-GRU的公交客流量预测模型

公共交通在城市智能交通系统中发挥着重要的作用,准确的公交客流量预测对智能交通的发展至关重要。为了提高公交客流量预测的准确度,提出一种基于卷积长短期记忆(convolutionallongshort-termmemory,ConvLSTM)网络和门控循环单元(gaterecurrent unit, GRU)算法的预测模型Conv LSTM-GRU,结合公交车客流量、天气特征和气温特征以及节假日特征来预测未来的公交客流量。通过提取不同时段公交客流量之间的相关性并采用编码器-解码器结构来减少递归多步预测中的累积误差,提高了预测精度。最后,将ConvLSTM-GRU模型与反向传播(back propagation, BP)神经网络、长短期神经网络、门控循环单元结构、卷积长短期神经网络和自回归网络5种算法进行比较,结果表明所提模型在预测准确度方面均优于对比算法。     

基于Attention-BiLSTM-LSTM神经网络的短期电力负荷预测方法

短期电力负荷预测是电力系统中的重要问题之一,准确的预测结果可以提高电力市场的灵活性和资源利用效率,对电力系统高效运行具有重要意义.为了提高预测精度,针对电网负荷数据的时序性特征,提出一种基于Attention-BiLSTM-LSTM神经网络的短期电力负荷预测方法.该方法首先针对电力负荷的影响因素(温度、节假日等)提取特征,并使用双向长短期记忆(BiLSTM)神经网络层进行双向时序的特征学习;将双向时序特征作为长短期记忆(LSTM)神经网络层的输入,用LSTM神经网络建模学习时序数据的内部变化规律;使用attention机制计算LSTM隐层状态的不同权重,以对隐层状态进行选择性地关注;结合注意力权重和LSTM神经网络进行负荷预测,最后使用全连接层输出负荷预测结果.使用EUNIT电力负荷数据集进行实验,采用提前单点预测模式,该方法的平均绝对百分比误差(MAPE)达到1.66％,均方根误差(RMSE)达到814.85.通过与单LSTM网络、基于attention机制的LSTM网络(Attention-LSTM)、前馈神经网络(FFNN)、卷积神经网络联合长短期记忆神经网络(CNN-LSTM)等4种典型的负荷预测模型结果对比,验证了Attention-BiLSTM-LSTM神经网络方法更加准确有效.     

基于神经网络和自回归模型的网络流量预测

互联网的急速发展在给人类带来了巨大便利的同时,也使网络中的网络流量出现了爆炸性的增长,预测网络流量对于网络的研究、管理和控制都具有很高的现实指导意义.为了降低减少网络流量数据的预测误差,提出一种基于神经网络和自回归模型的网络流量预测模型——卷积神经网络(CNN)-长短期记忆(LSTM)网络+自回归(AR).通过卷积神经网络和长短期记忆网络结合来同时获取数据的短期局部依赖特征和长期发展趋势,添加历史连接组件将网络流量的周期性考虑在预测中,完成对网络流量中非线性项的处理,利用自回归模型预测线性项,将两部分结果结合得到最终预测值.实验结果表明,对比传统的网络流量预测模型,在最好情况下所提出模型的均方误差(MSE)、均方根误差(RMSE)和平均绝对误差(MAE)分别减小了1.5604、0.1468和0.1405,这说明该模型有更好的预测表现,预测值与实际值的差距更小.     

基于CNN_BiLSTM的长短期电力负荷预测方法

当前电力系统负荷预测中负荷数据受到多种因素影响且多步长预测时精度不高,因此电力负荷预测呈现出非线性、多因素、非平稳态等问题.提出一种基于CNN_BiLSTM混合深度学习网络的长短期电力负荷在线预测方法.首先根据卷积神经网络和双向长短期记忆网络的特点,建立了CNN_BiLSTM负荷预测模型,并将历史负荷与影响因素耦合形成...     

基于时空注意力机制的加油站级客流量预测

加油站是重要的能源供给单位,对加油站站点的下一时段客流量进行精准预测,可为相关资源的调度与分配提供决策支撑。针对加油站级客流量预测问题,结合加油站客流数据的时空特征,提出一种基于注意力机制的时空网络模型。以路网结构建模的站级客流数据为输入,结合卷积神经网络、长短期记忆网络与注意力机制,解决站点间的空间依赖、短期与长期时序依赖以及长期时序依赖中的时间漂移问题,精准预测下一时段的站级客流量。在真实数据集上的实验结果表明,与历史平均模型、长短期记忆网络模型和双向长短期记忆网络模型等基线模型相比,该模型在均方误差（RMSE）、平均绝对误差与平均绝对百分比误差上均有所提升,其中RMSE提升22.89%。     

基于CNN-LSTM的短期风电功率预测

短期风电功率预测对电力系统的安全稳定运行和能源的优化配置具有重要意义。鉴于卷积神经网络(CNN)高效的数据特征提取能力,以及长短期记忆网络(LSTM)描述时间序列长期依赖关系的能力。为了提高短期风电功率预测的精度,设计了一种基于CNN和LSTM的风电功率预测模型。该模型利用卷积神经网络对风电功率、风速、风向数据进行多层卷积和池化堆叠计算,提取风电功率相关数据的特征图谱。为了描述风电功率序列的时序依从关系,将图谱特征信息作为长短期记忆网络的输入信息,计算得到风电功率的预测结果。采用西班牙某风电场的实测数据进行模型预测精度验证。结果表明,该模型较LSTM、Elman模型具有更好的预测性能。     

基于Convolutional-LSTM的蛋白质亚细胞定位研究

蛋白质亚细胞位置预测研究是目前蛋白质组学和生物信息学研究的重点问题之一。蛋白质的亚细胞定位决定了它的生物学功能,故研究亚细胞定位对了解蛋白质功能非常重要。由于蛋白质结构的序列性,考虑使用序列模型来进行亚细胞定位研究。尝试使用卷积神经网络(convolutional neural network,CNN)、长短期记忆神经网络(long short-term memory,LSTM)两种模型挖掘氨基酸序列所包含的信息,从而进行亚细胞定位的预测。随后构建了基于卷积的长短期记忆网络(Convolutional-LSTM)的集成模型进行亚细胞定位。首先通过卷积神经网络对蛋白质数据进行特征抽取,随后进行特征组合,并将其送入长短期记忆神经网络进行特征表征学习,得到亚细胞定位结果。使用该模型能达到0.816 5的分类准确率,比传统方法有明显提升。     

基于CNN-LSTM的多因素时空风速预测

准确的风速预测在风能转换和电力分配中起着至关重要的作用.但是,风的固有间歇性使其难以实现高精度的预测.现有研究方法大都考虑了风速的时间相关性,但忽略了气象因素随空间变化对风速的影响.为获得准确可靠的预测结果,结合卷积神经网络和长短期记忆网络,提出了一种多因素时空风速预测相关(MFSTC)模型.同时,还构建了一种基于三维矩阵的数据表示方法.针对多个站点,利用改进的PCA-LASSO算法提取特征气象要素,然后,采用卷积神经网络建立各个站点之间的空间特征关系,采用长短期记忆网络建立历史时间点之间的时间特征关系,在时空相关性分析的基础上得到最终风速预测结果.在东营气象中心提供的2009–2018共10年的实测风速数据集上进行了实验验证.结果表明,相比于一般预测方法,由MFSTC模型获得的实验结果更加准确,证明了提出方法的有效性.     

基于进化神经网络的短期电网负荷预测算法

本文提出了一种基于进化神经网络的短期电网负荷预测算法。该算法使用改进的人工蜂群算法与BP神经网络融合生成进化神经网络,然后使用改进的人工蜂群算法对进化神经网络的偏置和权重进行优化。该算法将火电历史负荷数据作为输入,使用进化神经网络训练预测模型,预测未来一段时间内的电网负荷。首先,获取历史负荷数据。然后,将获取到的数据输入到进化神经网络模型中进行训练。在训练过程中,采用了改进的人工蜂群算法对进化神经网络对神经网络的权重和偏置进行优化,提高模型的预测精度。人工蜂群算法作为一种全局搜索算法,可以有效地探索模型参数空间,找到最优的模型参数组合,从而提高模型的预测精度。为了验证所提出的负荷预测方法的有效性,我们使用了火电网负荷数据进行了测试。实验结果表明本文提出的进化神经网络在短期电网负荷预测方面表现出了良好的预测精度和实用性。与传统的预测方法相比,该算法的预测误差更小,预测结果更加准确可靠。     

基于改进eRCNN的局部路网交通流预测

针对误差反馈循环卷积神经网络在运用到短时交通流预测时存在仅仅能接收时序误差序列,忽略交通流误差数据中隐含的空间拓扑特征,且在模型初始化时其采用的通用卷积神经网络初始化方法降低了模型训练效率的问题,本文提出一种优化的误差反馈循环卷积神经网络模型,在误差反馈循环卷积神经网络模型基础上根据预测误差数据的时空特性对误差反馈层进行结构强化,能够处理包含简单空间关系的误差序列。同时通过在模型训练的过程中分离模型产生的历史预测误差和训练误差,使得模型构建过程更加高效,加速了模型收敛速度。通过北京市四环道路交通数据的实验表明,优化的误差反馈循环卷积神经网络预测模型在预测精度、构建效率及鲁棒性上均得到有效提高。     

日交通流预测的编码器-解码器深度学习模型研究

精准的日交通流预测是智能交通领域的重要研究内容之一。目前已有的日交通流预测模型大多在短期预测模型的基础上通过多步预测或者多目标预测的方式改进而来。这两种改进方案中,前者对误差的传播更为敏感,而后者则忽视了预测结果的时序关系,导致预测模型精度偏低。提出了一种用于日交通流预测的编码器-解码器深度学习模型,首先将长短时记忆网络（long short-term memory,LSTM）作为编码器-解码器模型的基本单元以提高模型捕捉长期依赖关系的能力,其次引入注意力机制调节编码向量的权重以进一步提高模型的预测精度。新的模型是一种典型的序列到序列预测模型,与传统的序列到点的模型相比更加契合日交通流预测的需求。为验证模型的有效性,取美国5号州际公路西雅图段的实际交通流数据进行实验,实验结果表明,提出的预测模型在平均车流密度大于40?辆/km的时间段中,其预测结果的平均绝对百分比误差（mean absolute percentage error,MAPE）与LSTM、门控循环单元（gated recurrent unit,GRU）、反向传播（back propagation,BP）神经网络、卷积神经网络（convolutional neural network,CNN）、图卷积网络（graph convolution network,GCN）传统预测模型相比,分别减小了19%、20%、25%、16%、25%。     

基于多层融合神经网络模型的短期电力负荷预测方法

针对传统的短期电力负荷预测模型存在的预测精度不高和滞后性的问题,本文提出一种基于卷积神经网络、长短时记忆网络和注意力机制下的混合神经网络模型来进行预测。利用卷积层对多维的电力数据影响特征进行提取,过滤筛选其非重要影响因子,完成电力数据相关特征的映射变换,再通过长短时记忆网络层的循环,对时序性电力数据特征选择性提取,最后利用注意力机制添加重要特征的权重,经Adam算法优化后输出电力负荷预测的结果。依靠GPU强大的算力支撑来解决预测数据时的实时性问题,凭借多融合神经网络的手段来提高其预测精度。经由算例验证,所提出模型真实可靠,预测质量显著优于其他传统模型。     

灰色-神经网络综合预测模型

该文提出一种灰色-神经网络综合预测模型。该模型由背景值构造、加权GM(1,1)模型和神经网络补偿器三部分组成。其建模机理为:首先对于原始数列进行背景值构造,然后构建加权GM(1,1)模型,同时利用神经网络补偿器获得误差补偿信号,则最终的预测值为加权GM模型的输出值加上补偿值。仿真结果验证了所提方法的有效性。     

工业大气污染物浓度的复合自回归网络预测

针对工业园区大气污染管理中预测能力较弱的问题,考虑工业大气污染物的多因素耦合及非线性时序特征,提出一种工业大气污染物浓度预测方法。根据预测指标数值特征,提出复合自回归神经网络（CNAR）。对目标预测指标及影响因素进行关联分析及时序建模,实现对工业大气污染物浓度的短期预测。选用河北省某市大气网格化监测数据进行模型训练与方法验证,实验结果表明CNAR预测模型可对工业大气污染物浓度进行有效预测,效果优于传统自回归神经网络,为工业大气污染防控提供参考依据。     

基于模糊信息粒化与混合神经网络的混沌时间序列预测

为了提高对混沌时间序列预测的精准度,提出了一种基于模糊信息粒化和注意力机制的混合神经网络预测模型。首先对数据进行归一化处理,利用模糊信息粒化对数据的复杂度进行简化;然后将经过相空间重构后的样本输入卷积神经网络(CNN)提取空间特征;再利用长短期记忆神经网络(LSTM)进一步提取时间特征;最后将融合特征传递给注意力机制提取关键特征,得出预测结果。选取Logistic、洛伦兹和太阳黑子混沌时间序列进行实验,并与CNN-LSTM-Att模型、CNN-LSTM模型、FIG-CNN模型、FIG-LSTM模型、CNN模型、LSTM模型、支持向量机(SVM)及误差逆传播(BP)模型进行对比分析。结果表明,所提的预测模型预测精度更高,误差更小。     

交通流量经验模态分解与神经网络短时预测方法

基于经验模态分解（EMD）和神经网络,提出了一种短时交通流量预测方法。通过EMD分解把交通流量分解成不同的模态,利用神经网络对分解后的各分量进行预测,再将预测值累加得到最终的预测结果。利用EMD与神经网络模型对I-800数据库实测交通流量数据进行预测,结果表明该方法具有很高的预测精度,明显优于直接采用神经网络的预测结果。     

一种以神经网络为支撑的地下水位预测方法

鉴于地下水位情况对经济生产建设和人们日常生活的重要性,为解决目前地下水位预测研究中存在的预测精度不高和误差较大的问题,基于Elman神经网络和灰度理论,构建一种GM-Elman模型,并以济源市地下水位为例进行预测.以2014年～2018年该地区地下水位数据为样本,预测出2019年的地下水位情况.分别以GM、Elman和...     

基于VMD与MOGOA-LSTM的短期负荷预测模型

为了提高短期负荷预测的准确度,降低非平稳信号对模型预测造成的影响,提出一种集数据挖掘和多目标优化网络于一体的短期负荷预测模型。该方法将电力负荷数据通过变分模态分解技术分解成若干个不同频率的模态分量,采用相间重构方法动态确定人工神经网络的训练测试比和神经元设置,采用长短期记忆神经网络对各分量进行模型搭建,并在长短期记忆神经网络的基础上加入多目标蝗虫智能优化算法来优化网络内部参数,累加所有分量模型预测的值,实现短期负荷预测。仿真结果表明,与统计学方和混合模型相比,本文提出的模型在短期预测方面的预测精度较高、泛化能力更强。