面向路网交通流态势预测的图神经网络模型

融合了路网结构的交通流态势预测是一个高度非线性化且复杂的时空动态相关性的时序数据预测问题.然而,传统交通流态势预测方法无法建模交通网络中长时间序列数据间的时空相关性.针对交通路网交通流态势预测问题,提出了一种基于图结构的交通流预测深度学习模型.首先,基于图小波变换定义图小波卷积算子,设计了面向路网交通流态势预测的图小波卷积神经网络模块;其次,结合时空注意机制构建了用于道路网络交通流态势预测的时空动态相关性模型,以捕获交通网络的动态时空相关性;最后,采用叠加多层图小波神经网络模块的策略,构建了一种面向路网交通流态势预测的图小波卷积神经网络模型.实验结果表明,该网络模型在数据集上的性能优于现有的基线模型.通过图小波变换矩阵与傅里叶变换矩阵非零元素统计对比实验,发现基于图小波变换定义的卷积运算更具稀疏性.因此,基于图小波变换定义的卷积运算更有助于提升交通流态势预测模型的计算效率.     

基于CNN-XGBoost的短时交通流预测

为准确预测短时交通流,缓解交通拥堵提高交通运行效率,提出一种基于CNN-XGBoost的短时交通流预测方法。结合短时交通流数据的时间相关性和空间相关性,将本路段和邻近路段的历史数据一同作为输入进行预测。利用卷积神经网络(convolutional neural networks,CNN)实现特征提取以减少数据冗余性,提出一种参数经果蝇算法优化的XGBoost模型用于交通流量预测。实例验证结果表明,CNN可对时间和空间结合下的交通流数据进行有效特征提取;相比SVR、LSTM等模型,改进的XGBoost模型下的交通流量预测误差明显减小。     

基于ACGRU模型的短时交通流预测

针对现有交通流预测模型未能充分利用交通流数据的时空特征以实现准确预测的问题,提出一种结合注意力机制的卷积门控循环单元预测模型（ACGRU）。该模型利用卷积神经网络（CNN）和门控循环单元（GRU）提取交通流的时空特征,然后使用注意力机制生成含有注意力概率分布的交通流特征表示,同时利用交通流的周相似性提取周期特征,将所有特征相互融合进行回归预测。在真实交通流数据集上的实验表明,提出的ACGRU模型具有更高的预测精度,预测误差相比其他预测模型平均降低了9%。     

基于CNN-WaveNet的滚动轴承剩余寿命预测

为保证设备正常运行并准确预测轴承剩余寿命,提出二维卷积神经网络与改进WaveNet组合的寿命预测模型.为克服未优化的递归网络在预测训练过程中易出现梯度消失问题,该模型引入了WaveNet时序网络结构.针对原始WaveNet结构不适用滚动轴承振动数据情况,将WaveNet结构改进与二维卷积神经网络结合应用于滚动轴承寿命预测.模型利用二维卷积网络提取一维振动序列的特征,随后特征输入WaveNet并进行滚动轴承的预测寿命.改进模型相比于深度循环网络计算效率更高、结果更准确,相比于原始CNN-WaveNet-O模型预测结果更准确.相比于深度长短期记忆网络模型,改进方法预测结果均方根误差降低了11.04％,评分函数降低了11.34％.     

日交通流预测的编码器-解码器深度学习模型研究

精准的日交通流预测是智能交通领域的重要研究内容之一。目前已有的日交通流预测模型大多在短期预测模型的基础上通过多步预测或者多目标预测的方式改进而来。这两种改进方案中,前者对误差的传播更为敏感,而后者则忽视了预测结果的时序关系,导致预测模型精度偏低。提出了一种用于日交通流预测的编码器-解码器深度学习模型,首先将长短时记忆网络（long short-term memory,LSTM）作为编码器-解码器模型的基本单元以提高模型捕捉长期依赖关系的能力,其次引入注意力机制调节编码向量的权重以进一步提高模型的预测精度。新的模型是一种典型的序列到序列预测模型,与传统的序列到点的模型相比更加契合日交通流预测的需求。为验证模型的有效性,取美国5号州际公路西雅图段的实际交通流数据进行实验,实验结果表明,提出的预测模型在平均车流密度大于40辆/km的时间段中,其预测结果的平均绝对百分比误差（mean absolute percentage error,MAPE）与LSTM、门控循环单元（gated recurrent unit,GRU）、反向传播（back propagation,BP）神经网络、卷积神经网络...     

基于ASTG-CRNN模型的多步长交通流预测

针对交通流预测模型中路网表征结构难以进行刻画和交通流数据中动态时空相关性难以进行建模以及其中时间特征捕获不充分的问题,提出一种基于注意力机制和时空图卷积循环神经网络的交通流预测模型(ASTG-CRNN)。首先,通过定义节点相对邻近度来确定路网表征结构的关系权重;其次,通过在时空维度上引入注意力机制对动态时空相关性进行建模,再采用图卷积捕获交通流数据中的空间特征;最后,采用卷积神经网络和双向门控循环神经单元的组合模块共同捕捉时间特征,从而能更好地表达交通流的时空特性。在两个公开交通流数据集PeMS04和PeMS08上对模型预测效果进行验证,其结果表明,ASTG-CRNN模型的预测结果均优于其它模型,与时空同步图卷积网络模型(STSGCN)相比,在未来1h内预测结果的MAE、RMSE和MAPE在数据集PeMS08上分别降低了2.71、2.69和0.87%。     

基于相空间重构的GQPSO-WNN短时交通流预测

交通流预测有助于减少交通拥堵和交通事故发生。在定量分析交通流变化过程的混沌特性以及可预测性基础上,提出一种基于相空间的GQPSO-WNN的混合预测模型。引入遗传算法,使用混合优化后的量子粒子群算法初始化小波神经网络的各项参数,克服网络因初始值设置不当造成无法收敛或陷入多个局部极小值的问题。由于神经网络输入的随机性,采用重新构建交通流时间序列的相空间技术,用重构后的数据作为输入样本。实验结果表明,与WNN、PSO-WNN预测模型相比,该模型可以更加准确预测交通流,算法收敛性也有明显提高。     

基于卷积神经网络的飞机液压系统故障诊断

现代飞机系统的复杂度和集成度均大幅提升,使得其故障诊断存在难度高和准确率低等特点。采用一维卷积神经网络方法对军用飞机液压系统的故障诊断问题进行了研究,构建了满足多传感器数据分析要求的卷积神经网络模型。考虑到神经网络的输入来自不同的传感器数据序列,各数据序列之间的空间关系不明显,因此,即使网络输入是二维形式,而实际的卷积操作均在一维上进行。通过解决某飞机液压系统的故障诊断问题,证明将标准化后的多传感器数据序列及对应故障模式作为训练样本对卷积神经网络模型进行训练时,采用满足训练要求的网络对飞机液压系统进行故障诊断时具有较高的准确率。     

基于预训练-微调策略的COVID-19预测模型

COVID-19的世界性大流行对整个社会产生了严重的影响,通过数学建模对确诊病例数进行预测将有助于为公共卫生决策提供依据。在复杂多变的外部环境下,基于深度学习的传染病预测模型成为研究热点。然而,现有模型对数据量要求较高,在进行监督学习时不能很好地适应低数据量的场景,导致预测精度降低。构建结合预训练-微调策略的COVID-19预测模型P-GRU。通过在源地区数据集上采用预训练策略,使模型提前获得更多的疫情数据,从而学习到COVID-19的隐式演变规律,为模型预测提供更充分的先验知识,同时使用包含最近历史信息的固定长度序列预测后续时间点的确诊病例数,并在预测过程中考虑本地人为限制政策因素对疫情趋势的影响,实现针对目标地区数据集的精准预测。实验结果表明,预训练策略能够有效提高预测性能,相比于卷积神经网络、循环神经网络、长短期记忆网络和门控循环单元模型,P-GRU模型在平均绝对百分比误差和均方根误差评价指标上表现优异,更适合用于预测COVID-19传播趋势。     

改进卷积输入的端到端普通话语音识别

主流神经网络训练的交叉熵准则是对声学数据的每个帧进行分类优化，而连续语音识别是以序列级转录准确性为性能度量。针对这个不同，构建基于序列级转录的端到端语音识别系统。针对低资源语料条件下系统性能不佳的问题，其中模型使用卷积神经网络对输入特征进行处理，选取最佳的网络结构，在时域和频域进行二维卷积，从而改善输入空间中因不同环境和说话人产生的小扰动影响。同时神经网络使用批量归一化技术来减少泛化误差，加速训练。基于大型的语言模型，优化解码过程中的超参数，提高模型建模效果。实验结果表明系统性能提升约24%，优于主流语音识别系统。     

基于时空图卷积循环神经网络的交通流预测

针对交通流预测模型中路网空间结构刻画和交通流时空特性挖掘不充分的问题,构建一种新型的有向时空图,通过定义节点相对临近度来表征路网结构关系,通过学习邻域节点对预测节点的影响权重来表征节点间时空维度的作用关系,从而能更好表达交通流的时空特性.将时空图作为预测模型的输入,采用图卷积获取交通流数据空间依赖关系,采用门控循环神经...     

基于组合模型的短时交通流预测方法

准确、实时的交通流预测对交通规划、交通管理和交通控制具有重要意义.然而,由于道路网络拓扑结构约束和交通流随时间动态变化的空时相关特性,交通流预测仍然具有挑战性.为了同时捕获交通流的空间和时间相关性,提出一种将图卷积网络(GCN)和门控循环单元(GRU)相结合的组合模型方法.利用GCU能够灵活处理图结构数据的优点来捕捉各个路段的空间特征,继而发挥GRU在处理时间序列方面的优势挖掘交通流的内在时间规律,空时融合后得到最终预测结果.利用美国交通研究数据实验室的高速公路交通数据对该模型进行仿真验证,结果表明,所提出的GCN-GRU组合模型方法具有更高的预测精度,预测结果优于自回归积分滑动平均(ARIMA)模型和GRU模型等基准预测方法.     

基于图卷积网络的短时交通速度预测

交通预测是构建智能交通系统的重要技术,实时准确的交通预测有利于规划路线,提高出行效率。为提高交通速度预测精度,提出一种基于图卷积网络的短时交通速度预测模型。首先对交通速度数据进行时空特征分析,然后结合数据空间特性构造可学习的邻接矩阵来建立图卷积网络,同时考虑到交通数据的时间特性,因此在图卷积的基础上又添加了长短期记忆网络和注意力机制来共同构建预测模型。实验结果表明由于同时考虑了交通速度数据的时空特性,本文模型均方根误差、平均绝对误差和平均绝对百分比误差均小于传统模型和单个模型,验证了提出的模型预测精确度更高。     

基于多时空图卷积网络的交通流预测

交通流预测在交通管理和城市规划的应用中具有重要意义,然而现有的预测方法无法充分挖掘其潜在的复杂时空相关性,为进一步挖掘路网道路网络数据的时空特性以提高预测精度,提出一种多时空图卷积网络(multi-spatial-temporal graph convolutional network,MST-GCN)模型。首先,利用切比雪夫图卷积(ChebNet)结合门控循环单元(GRU)构建时空组件以深度挖掘节点的时空相关性;其次,分别提取周相关、日相关、邻近时间的序列数据,输入三个时空组件以深度挖掘不同时间窗口间的时间相关性;最后,将时空组件与编码器—解码器网络结构(encoder-decoder)融合组建MST-GCN模型。利用加利福尼亚州交通局(Caltrans)性能评估系统中高速公路数据集PEMS04和PEMS08进行实验,结果表明新模型的性能明显优于门控循环单元模型和最近提出的扩散卷积循环神经网络(DCRNN)、时间图卷积网络(T-GCN)、基于注意力机制的时空图卷积神经网络(ASTGCN)和时空同步图卷积网络(STSGCN)模型。     

基于两级筛选机制及深度学习组合模型实现短时交通流预测

准确实时的短时交通流预测对现代交通管理服务体系的构建至关重要.为了充分挖掘并利用不同路段短时交通流交互作用而表现出的时空特性,构建由自相关函数、互相关函数和KNN算法组成的两级筛选机制评估与目标路段的相关性优化路段组合,实现空间信息深度挖掘;提出一种GCN-GRU组合预测模型,利用图卷积网络(GCN)全局处理路段拓扑信息的优势进一步捕捉短时交通流的空间特性,并借助门控循环单元(GRU)对时间信息的长时记忆能力提取其时间特性.利用实测高速公路短时交通流数据进行验证,仿真结果表明,采用两级筛选机制对路段进行有效筛选并引入深度学习组合模型,预测性能明显改善,优于堆栈式自编码网络(SAEs)和GRU等经典模型.     

面向COVID-19疫情预测的图卷积神经网络时空数据学习

目的 当前的疾病传播研究主要集中于时序数据和传染病模型,缺乏运用空间信息提升预测精度的探索和解释。在处理时空数据时需要分别提取时间特征和空间特征,再进行特征融合得到较为可靠的预测结果。本文提出一种基于图卷积神经网络（graph convolutional neural network,GCN）的时空数据学习方法,能够运用空间模型端对端地学习时空数据,代替此前由多模块单元相集成的模式。方法 依据数据可视化阶段呈现出的地理空间、高铁线路、飞机航线与感染人数之间的正相关关系,将中国各城市之间的空间分布关系和交通连接关系映射成网络图并编码成地理邻接矩阵、高铁线路直达矩阵、飞机航线直达矩阵以及飞机航线或高铁线路直达矩阵。按滑动时间窗口对疫情数据进行切片后形成张量,依次分批输入到图深度学习模型中参与卷积运算,通过信息传递、反向传播和梯度下降更新可训练参数。结果 在新型冠状病毒肺炎疫情数据集上的实验结果显示,采用GCN学习这一时空数据的分布特征相较于循环神经网络模型,在训练过程中表现出了更强的拟合能力,在训练时间层面节约75%以上的运算成本,在两类损失函数下的平均测试集损失能够下降80%左右。结论 本文所采用的时空数据学习方法具有较低的运算成本和较高的预测精度,尤其在空间特征强于时间特征的时空数据中有着更好的性能,并且为流行病传播范围和感染人数的预测提供了新的方法和思路,有助于相关部门在公共卫生事件中制定应对措施和疾病防控决策。     

基于生成对抗网络的大规模路网交通流预测算法

对大规模路网交通流进行准确预测,能够应用于区域交通协同控制与管理,提高路网运行效率.针对如何高精度地拟合大规模路网交通流时空分布并对其进行准确预测,提出基于梯度惩罚的Wasserstein生成对抗网络(Wasserstein generative adversarial network with gradient penalty,WGAN-GP)的大规模路网交通流预测算法.根据大规模路网交通流数据特点,为了增加模型对时间相关性和远距离空间相关性特征的抽象能力,采用残差U型网络作为生成器来增加网络深度;采用多重判别器分别从时间和空间特征来对生成数据进行判别,从而提高判别器的判别能力.所提算法能够解决判别型深度学习模型仅能针对路网整体误差最小化,而忽略各交通流观测点预测误差最小化原则的问题,能够更好地满足现实交通场景需求.实验结果表明,所提算法能够有效地学习路网交通流数据内部多因素耦合特性,具有更高的预测精度.     

一种融合时空关联与社会事件的交通流预测方法

交通流预测作为智能交通系统的一个关键问题,是国内外交通领域的研究热点。交通流预测的主要挑战在于交通流数据本身具有复杂的时空关联,且易受各种社会事件的影响。针对这些挑战,提出一种用于交通流预测的深度学习框架。一方面,针对道路网络非欧氏的空间关联以及交通流时序数据的时间关联,设计了一种融合图卷积神经网络和循环神经网络的特征抽取子网络;另一方面,针对社会事件对交通流的潜在影响,设计了一种基于卷积神经网络的社会事件特征抽取子网络。最后,融合时空关联特征抽取子网络和社会事件特征抽取子网络,实现交通流预测模型。为了验证模型的有效性,文中基于真实交通流数据进行了实验。结果表明,所提模型与传统的预测模型相比具有较高的准确度,准确度提高了3%~6%。     

基于动态扩散卷积交互图神经网络的网络流量预测

现有的网络流量预测模型存在着泛化能力弱和预测准确率低等问题,为了解决此问题,提出了一种结合动态扩散卷积模块和卷积交互模块的预测模型。动态扩散卷积模块可以提取网络流量中复杂的空间特征和动态特性,而卷积交互模块则能捕获到流量中的时间特征,两者的有机结合可以有效预测网络中的流量。通过与其他网络流量预测模型在美国能源科学网（ESnet）流量数据上进行对比实验,验证了提出的动态扩散卷积交互图神经网络模型（DDCIGNN）的有效性。实验结果表明,DDCIGNN模型的均方根误差（RMSE）在最好的情况下优化了大约13.0％,说明该模型能够进行更有效的网络流量预测。     

基于多层融合神经网络模型的短期电力负荷预测方法

针对传统的短期电力负荷预测模型存在的预测精度不高和滞后性的问题,本文提出一种基于卷积神经网络、长短时记忆网络和注意力机制下的混合神经网络模型来进行预测。利用卷积层对多维的电力数据影响特征进行提取,过滤筛选其非重要影响因子,完成电力数据相关特征的映射变换,再通过长短时记忆网络层的循环,对时序性电力数据特征选择性提取,最后利用注意力机制添加重要特征的权重,经Adam算法优化后输出电力负荷预测的结果。依靠GPU强大的算力支撑来解决预测数据时的实时性问题,凭借多融合神经网络的手段来提高其预测精度。经由算例验证,所提出模型真实可靠,预测质量显著优于其他传统模型。