基于深度卷积长短时神经网络的视频帧预测

针对视频帧预测中难以准确预测空间结构信息细节的问题，通过对卷积长短时记忆（LSTM）神经网络的改进，提出了一种深度卷积长短时神经网络的方法。首先，将输入序列图像输入到两个不同通道的深度卷积LSTM网络组成的编码网络中，由编码网络学习输入序列图像的位置信息变化特征和空间结构信息变化特征；然后，将学习到的变化特征输入到与编码网络通道数对应的解码网络中，由解码网络输出预测的下一张图；最后，将这张图输入回解码网络中，预测接下来的一张图，循环预先设定的次后输出全部的预测图。与卷积LSTM神经网络相比，在Moving-MNIST数据集上的实验中，相同训练步数下所提方法不仅保留了位置信息预测准确的特点，而且空间结构信息细节表征能力更强。同时，将卷积门控循环单元（GRU）神经网络的卷积层加深后，该方法在空间结构信息细节表征上也取得了提升，检验了该方法思想的通用性。     

Real-time analysis and prediction of shield cutterhead torque using optimized gated recurrent unit neural network

An accurate prediction of earth pressure balance (EPB) shield moving performance is important to ensure the safety tunnel excavation. A hybrid model is developed based on the particle swarm optimization (PSO) and gated recurrent unit (GRU) neural network. PSO is utilized to assign the optimal hyperparameters of GRU neural network. There are mainly four steps: data collection and processing, hybrid model establishment, model performance evaluation and correlation analysis. The developed model provides an alternative to tackle with time-series data of tunnel project. Apart from that, a novel framework about model application is performed to provide guidelines in practice. A tunnel project is utilized to evaluate the performance of proposed hybrid model. Results indicate that geological and construction variables are significant to the model performance. Correlation analysis shows that construction variables (main thrust and foam liquid volume) display the highest correlation with the cutterhead torque (CHT). This work provides a feasible and applicable alternative way to estimate the performance of shield tunneling.     

基于GRU神经网络的测井曲线重构

通过测井曲线解释可以获得地层岩性、电性以及孔渗饱等地层参数，然而，实际应用中时常出现部分测井数据失真或缺失的情况，而重新测井不仅价格昂贵且实现较困难。目前基于传统的线性假设和统计分析的测井曲线重构方法已不能满足储层特征的精细描述要求。门控循环单元（GRU）神经网络是一种适合于解决非线性和时序性问题的新型深度学习算法。基于深度学习的最新成果，提出使用GRU神经网络进行测井曲线重构。该方法兼顾了测井数据之间的非线性映射关系、数据随储层深度变化的趋势及历史数据之间的关联性。对实际资料进行试算，并与多元回归方法结果对比，表明GRU网络模型取得了良好的重构效果，为测井曲线重构提供了一种新的思路。     

基于GCN-GRU的短期时空负荷预测方法

随着城市的快速发展,城市配电系统也进行了快速的扩展。空间负荷预测研究可以指导电力系统的管理与调度,并且其准确性会影响到方案的合理性。首先分析并总结了常用空间负荷预测方法的特点,然后提出了GCN-GRU时空负荷预测模型。GCN-GRU模型充分利用图神经网络在网络拓扑数据方面的优势以及GRU在时间序列建模方面的优势,对电网进行建模,考虑了负荷的空间特性和时间特性,并将影响负荷的因素转换为特征向量进行算法训练,提高了负荷预测的准确度。最后以湖北省某市区电网为研究对象,证明了该方法的有效性。     

Short-Term Traffic Flow Prediction Based on Road Network Topology

Accurate short-term traffic flow prediction plays a crucial role in intelligent transportation system (ITS), because it can assist both traffic authorities and individual travelers make better decisions. Previous researches mostly focus on shallow traffic prediction models, which performances were unsatisfying since short-term traffic flow exhibits the characteristics of high nonlinearity, complexity and chaos. Taking the spatial and temporal correlations into consideration, a new traffic flow prediction method is proposed with the basis on the road network topology and gated recurrent unit (GRU). This method can help researchers without professional traffic knowledge extracting generic traffic flow features effectively and efficiently. Experiments are conducted by using real traffic flow data collected from the Caltrans Performance Measurement System (PEMS) database in San Diego and Oakland from June 15, 2017 to September 27, 2017. The results demonstrate that our method outperforms other traditional approaches in terms of mean absolute percentage error (MAPE), symmetric mean absolute percentage error (SMAPE) and root mean square error (RMSE).     

基于门控循环单元网络与模型融合的负荷聚合体预测方法

随着智能电表的普及,以智能电表数据为基础,可按需求灵活划分不同规模的负荷聚合体并开展预测。由于负荷聚合体规模差异较大,并与用户负荷特性关系密切,传统预测方法不再适用。为此,提出了一种基于门控循环单元(GRU)网络与模型融合的负荷聚合体预测方法。首先,通过分布式谱聚类算法获得负荷特性相近的负荷群体,然后进行分组预测,采用GRU作为元模型,对时间序列进行动态建模,利用随机森林算法融合多个结构不同的GRU网络,实现对负荷群体的预测,最终将各群体预测值求和得到负荷聚合体预测值。算例表明,得益于分组预测、动态时间建模及模型融合技术,所述方法能充分利用不同模型的结构优势,发现时间序列动态规律,在不同时间尺度下预测精度更高,对不同规模的负荷聚合体适用性更强。     

基于Attention-CGRU网络的中文语音情感识别

正确识别语音中包含的情感信息可以大幅提高人机交互的效率.目前,语音情感识别系统主要由语音特征抽取和语音特征分类两步组成.为了提高语音情感识别准确率,选用语谱图而非传统声学特征作为模型输入,采用基于attention机制的CGRU网络提取语谱图中包含的频域信息和时域信息.实验结果表明:在模型中引入注意力机制有利于减少冗余信息的干扰,并且相较于基于LSTM网络的模型,采用GRU网络的模型预测精确度更高,且在训练时收敛更快,与基于LSTM的基线模型相比,基于GRU网络的模型训练时长只有前者的60%.     

Wi-Do:WiFi信号下的高鲁棒人员动作感知模型

人机交互是物联网迈向智能化的重要途径,而人体动作识别已成为智能环境实现的关键环节.由于WiFi具有良好的用户体验和极高的普适性以及低廉的部署成本,基于WiFi的人体运动识别技术从众多交互技术中脱颖而出,已在智能安防、运动保健、老年活跃检测等领域展现了巨大的应用价值.现有的WiFi动作识别工作中,动作识别受人体的运动方向影响严重,为了确保识别精度往往需要固定动作方向,这种方向依赖性对基于WiFi的动作识别技术造成了极大的阻碍.为了克服这一限制,提出一种方向无关的动作识别模型.该模型利用天线分集消除随机的相位偏移,将人体运动在频域上造成的多普勒频移与快速傅里叶变换值作为识别特征,并引入注意力机制的双向GRU(gate recurrent unit)来对运动进行分类识别.该模型将空间特征集成到时间模型中,提升了无线信号对人体动作识别的鲁棒性与准确性.在典型室内环境下的实验结果显示了优越的性能与93%的准确率,验证了该模型优于之前的识别模型.     

基于双重注意力机制和GRU网络的短期负荷预测模型

电力负荷预测对电力系统的部署、规划和运行影响重大,但目前各输入特征对电网负荷情况影响的程度不稳定,且递归神经网络捕获负荷数据的长期记忆能力差,导致预测精度下降。提出一种基于双重注意力机制和GRU网络的预测新模型,利用特征注意力机制自主分析历史信息与输入特征间的关联关系,提取重要特征,并通过时序注意力机制自主选取GRU网络中关键时间点的历史信息,提升较长时间段预测效果的稳定性。在3个公开数据集上的实验结果表明,该模型在预测精度指标上表现良好,对比SVR、KPCA-ELM、DBN、GRU、Attention-GRU、CNN-LSTM、Attention-CNN-GRU模型预测精度分别提高了2.47、1.14、1.93、1.37、1.04、0.74、0.41个百分点。     

基于ATLG混合模型的股票价格预测

股市是金融市场的重要组成部分,对股票价格预测有着重要的意义.同时,深度学习具有强大的数据处理能力,可以解决金融时间序列的复杂性所带来的问题.对此,本文提出一种结合自注意力机制的混合神经网络模型(ATLG).该模型由长短期记忆网络(LSTM)、门控递归单元(GRU)、自注意力机制构建而成,用于对股票价格的预测.实验结果表明:(1)与LSTM、GRU、RNN-LSTM、RNN-GRU等模型相比, ATLG模型的准确率更高;(2)引入自注意力机制使模型更能聚焦于重要时间点的股票特征信息;(3)通过对比,双层神经网络起到的效果更为明显.(4)通过MACD (moving average convergence and divergence)指标进行回测检验,获得了53%的收益,高于同期沪深300的收益.结果证明了该模型在股票价格预测中的有效性和实用性.