强化数据预处理的BLSTNet-CBAM短期电力负荷预测

针对负荷数据复杂性、非平稳性以及负荷预测误差较大等问题,提出一种综合特征构建和模型优化的短期电力负荷预测新方法.首先采用最大信息系数(MIC)分析特征变量的相关性,选取与电力负荷序列相关的特征变量,同时,考虑变分模态分解(VMD)方法容易受主观因素的影响,采用霜冰优化算法(RIME)优化VMD,完成原始电力负荷序列的分解.然后改进长短期时间序列网络(LSTNet)作为预测模型,将其递归层LSTM更新为BiLSTM,并引入卷积块注意力机制(CBAM)进行预测.通过对比实验和消融实验的结果表明:经RIME-VMD优化后,LSTM、GRU、LSTNet模型预测的均方根误差(RMSE)均降低20%以上,显著提高模型预测精度,且能够适应于不同预测模型.所提出的BLSTNet-CBAM模型与LSTM、GRU、LSTNet相比, RMSE分别降低了35.54%、6.78%、1.46%,提高了短期电力负荷预测的准确性.     

利用Bagging算法和GRU模型预测股票价格指数

股价预测对监管部门了解金融市场运行状况和投资者规避股市的高风险具有重要意义。提出了一种基于门控循环（gated recurrent unit,GRU）神经网络和装袋（Bagging）的方法,并将其应用于股指的预测研究。该模型通过Bagging方法处理训练数据集,在模型构建过程中引入随机性,并结合GRU模型预测股价,最终能够降低预测误差,提高预测准确性。通过4个数据集实验结果的对比发现：（1）GRU模型能够较好地预测股指数据,与另外两种单个模型相比,多数情况下具有更小的预测误差;（2）引入Bagging方法的GRU模型具有较强的预测能力,相比于三种基准模型（GRU、ELM、BP）有更小的预测误差和更高的预测稳定度。     

基于改进GRU神经网络的综合能源管控系统优化研究

针对目前综合能源管控系统能耗预测的精度需求,提出一种基于改进GRU神经网络的预测优化方案。首先,考虑到GRU神经网络预测模型中超参数选取的速率直接影响着预测模型的精确度,提出采用鲸鱼优化算法对超参数进行寻优;然后将WOA算法寻优得到的超参数对GRU神经网络进行设置,再利用超参数优化后的GRU神经网络对综合能源负荷进行预测;最后将本算法和传统GRU预测模型及BP神经网络预测模型通过评价指标MAE、MPAE、RMSE进行对比。结果表明,本优化方案平均绝对误差百分比为1.79%,而传统GRU预测模型和BP预测模型的平均绝对误差百分比为3.06%、4.45%。由此得出,采用鲸鱼优化算法对GRU神经网络的改进,使得GRU预测模型更加精准和稳定。     

基于GRU-LSTM组合模型的云计算资源负载预测研究

日益增多的应用部署在云端使得云数据中心的功耗波动剧烈,从而导致云数据中心资源利用率不平衡,高效的负载预测是解决该问题的关键技术。针对目前负载预测模型预测精度低、预测时间长的问题,建立一种基于门控循环单元（GRU）与长短期记忆（LSTM）网络的组合预测模型GRU-LSTM。该模型的网络结构包括3层,第一层采用GRU,利用GRU参数少、易收敛的特点减少模型训练时间,第二、第三层采用LSTM,结合LSTM参数多的优势提高模型的预测精度。在此基础上,对数据集作缺失值处理和标准化处理,使用随机森林算法对原始序列进行特征选择后得到一组新的序列值,将该序列值作为GRU-LSTM组合预测模型的输入,以对云计算资源进行高效预测。在集群公开数据集Cluster-trace-v2018上进行实验,结果表明,与传统的单一预测模型ARIMA、LSTM、GRU以及现有的组合预测模型ARIMA-LSTM、Refined LSTM等相比,GRU-LSTM模型预测结果的均方误差减少6~9,预测时间平均缩短约10%。     

基于SCSO-GRU模型的网络流量预测

网络流量有实时性、不稳定性和时序相关性等特点,传统网络流量预测模型存在泛化能力不强和预测精度低等不足之处。为解决这些不足,本文提出一种结合基于正余弦的群优化（SCSO）算法的GRU神经网络的网络流量预测模型（SCSO-GRU）。首先,介绍SCSO算法的粒子更新原理;然后构建SCSO-GRU神经网络的网络流量预测模型,将SCSO算法用于模型训练,提高训练效果,克服传统GRU神经网络收敛于局部最优的缺点;最后用SCSO-GRU模型进行网络流量预测。实验结果表明,与传统LSTM和GRU模型相比,本文模型具有显著的收敛效果和较好的预测精度,可以更好地刻画网络流量变化趋势。     

基于PSO-GRU神经网络的青椒生长期需水预测

青椒生长期内需水量与气温、气压、相对湿度等因子之间存在复杂的非线性关系,需水量变化呈现出时序性和周期性的规律,为提高青椒生长期日均需水量的预测精度,提出一种PSO-GRU青椒生长期日均需水预测模型。以2014—2018年实验所得的青椒需水和气象环境等数据为数据源,将日均气温、气压、风速等六维数据作为特征集,需水量作为标签,采用GRU神经网络作为需水预测的训练模型,并针对GRU超参数容易陷入局部最优的问题,利用粒子群算法(PSO）优化GRU模型的超参数,通过仿真实验对青椒生长期日均需水量进行预测,并与RNN,LSTM和GRU等模型进行对比,验证PSO-GRU模型的优越性。仿真实验结果表明：PSO-GRU模型的预测精度和拟合效果显著提高,RMSE为0.505,MAE为0.388,MAPE为7.73,R2为0.888。PSO-GRU模型可为制定灌溉计划提供依据,有利于节水灌溉,推动农业种植水利信息化。     

基于时空特征提取的空气污染物PM2.5预测

为了充分挖掘多因素数据间的时空特征信息，解决在多种因素相互影响下不能准确预测PM2.5值的问题，提出了一种融合了局部加权回归的周期趋势分解（Seasonal-Trend decomposition procedure based on Loess, STL）算法、卷积长短期记忆网络（Convolutional Long Short-Term Memory Network, ConvLSTM）和门控循环单元（Gated Recurrent Unit, GRU）的PM2.5预测方法。首先利用STL算法将PM2.5数据进行分解，将分解得到的序列分别与其他因素相融合；搭建ConvLSTM-GRU模型，并利用贝叶斯寻优算法进行超参数寻优；将融合数据传入ConvLSTM网络中进行时空特征提取，再将提取后的特征序列传入GRU网络中进行预测。通过与ConvLSTM-GRU模型、CNN-GRU模型以及GRU模型的预测结果进行比较实验，证明所提模型具有误差小、预测效果好等特点。     

基于正则化GRU模型的洪水预测

针对传统神经网络模型在洪水预测过程中存在准确性低、过拟合等问题,本文以赣江流域外洲水文站每月平均水位为研究对象,提出基于正则化GRU神经网络的洪水预测模型来提高洪水预报精度.选用relu函数作为整个神经网络的输出层激活函数,将弹性网正则化引入到GRU模型中,对网络中输入权重w实施正则化处理,以提升GRU模型的泛化性能,并将该模型应用于外洲水文站每月平均水位的拟合及预测.实验对比表明,弹性网正则化优化后的模型预测拟合程度较高,合格率提高了9.3%,计算出的均方根误差较小.     

修正型果蝇算法优化GRNN网络的尾矿库安全预测

针对尾矿库事故具有随机波动性和非线性的特点,提出采用修正型果蝇优化算法优化广义回归神经网络的尾矿库安全评价模型( MFOA-GRNN)。该方法利用修正型果蝇优化算法的全局寻优特性对广义回归神经网络进行参数优化,同时应用去相关性分析选取尾矿库安全评价指标,实现尾矿库的安全预测。以辽宁本溪南芬尾矿库为研究实例进行拟合预测,实验结果表明,将MFOA方法与GRNN网络有机结合,有利于平滑因子σ的选择,相较于FOA-GRNN模型70%的预测准确度,采用修正型果蝇算法优化的GRNN模型预测准确度高达100%,预测精度更高,适用性更强。     

基于PSO-GRU的锂电池SoC预测

电池荷电状态（State of Charge,SoC）是预防新能源汽车电池过充或过放的重要指标。文章提出一种基于粒子群优化算法-门循环单元（Particle Swarm Optimization-Gate Recurrent Unit,PSO-GRU）的锂电池SoC预测方法。该方法使用粒子群优化算法优化GRU神经网络的超参数，可避免超参数使GRU神经网络训练产生局部最优问题。实验证明，设计方法比只使用GRU神经网络具有更好的预测性能。     

基于学习型人工蜂群算法优化双向GRU的乙烯产率预测

本文针对以乙烯产率为生产指标的预测问题, 基于双向门控循环单元网络(BGRU)建立乙烯产率预测模型,以最小化模型误差为优化目标并提出一种学习型人工蜂群算法 (LABC) 对预测模型进行优化和设计. 在构建BGRU预测模型时, 先对乙烯裂解炉实际生产过程进行分析, 确定影响产率的关键因素并将其作为模型的输入; 再采用LABC对BGRU网络模型的结构、初始权值和阈值、训练比和动量因子进行全面的优化和设计. 在LABC中, 首先根据人工蜂群算法(ABC)特点构建强化学习(RL)框架下的状态集、动作集、奖励函数和最优混合搜索策略, 在此基础上, 提出一种深度双Q网络(DDQN) 来实现最优混合搜索策略, 通过该策略可智能选择合适的搜索动作来执行针对不同状态的局部搜索. 本文通过在标准数据集和实际生产数据上的测试及算法对比, 验证了所提学习型人工蜂群算法优化的双向GRU 网络(LABC BGRU)模型具有预测精度高、适用性强的特性.     

基于信息熵的粮食干燥塔温度预测控制

针对混流式粮食干燥塔生产过程中,物理化学变化复杂,温度变化呈现的非线性和滞后性,难以准确检测的问题,提出了一种基于信息熵的温度预测方法;首先分别采用支持向量机和灰色预测独立建立第一降速段的温度模型;利用加权方法对两种模型进行集成,最后利用信息熵算法,对加权因子进行优化,提升模型的预测精度;运行结果表明干燥后的稻谷含水量与设定值误差从原来的±24.7%,降低至8.5%,验证本方法在实际生产中的有效性。     

融合LSTM-GRU网络的语音逻辑访问攻击检测

为进一步提高语音欺骗检测的准确率,提出一种融合LSTM-GRU网络的语音逻辑访问攻击（语音转换、语音合成）检测方法。融合LSTM-GRU网络是由长短期记忆网络（ Long short-term memory,LSTM）层、门控循环神经单元（Gated recurrent unit,GRU）层、丢弃层、批归一化层和全连接层串联结合的一种混合网络,其中LSTM层可以解决语音序列中的长时依赖问题,GRU层则可降低模型参数量。实验在ASVspoof2019 LA数据集上进行,提取20维的梅尔倒谱系数特征用于模型训练,在测试阶段使用训练好的LSTM-GRU模型对测试集中的语音进行欺骗检测。与GRU网络及LSTM网络的比较结果表明：LSTM-GRU网络在3种网络模型中正确识别率最高,等错误率（Equal error rate, EER）比ASVspoof2019挑战赛所提供基线系统低27.07%,对逻辑访问攻击语音检测的平均准确率达到98.04%,并且融合LSTM-GRU网络具备训练时间短、防止过拟合及稳定性高等优点。结果证明本文方法可有效应用于语音逻辑访问攻击检测任务中。     

基于生成式对抗神经网络的股票预测研究

针对股票价格具有非线性、非平稳的特点,提出一种结合自注意力机制和残差网络的生成式对抗神经网络模型（SAR-GAN）。该模型的生成器（generator）由长短期记忆网络（LSTM）层、自注意力机制层、残差层等构建而成,用于生成所预测股票的价格;判别器（discriminator）用于鉴别生成的股票价格与真实的股票价格。为验证模型良好的泛化性,选取上证指数及不同股票市场的热点行业龙头股票进行预测实验。实验结果表明,与LSTM、GRU、CNN-LSTM、CNN-GRU等模型相比,SAR-GAN模型能不同程度地减少预测误差。     

基于WOA-RBF的温室温度预测研究

温度是温室内作物生长的关键环境因素，准确预测出温室内温度的变化对温室管理有着重要意义。为了提高预测精度，提出了基于鲸鱼优化算法（WOA）优化RBF神经网络的温室温度预测模型，通过鲸鱼优化算法对RBF神经网络的输出层的神经元线性权重、隐藏层的神经元中心点和隐藏层的高斯核宽度进行寻优，得到最优参数，最终得到优化后的输出结果。实验证明，与未优化的RBF神经网络预测模型相比，WOA-RBF神经网络温室温度预测模型得到的结果误差更小，平均绝对误差（MAE），均方误差（MSE）和平均绝对百分比误差（MAPE）分别为0.478、0.346和0.588，与未优化的RBF神经网络预测模型相比分别提升了9.1%、32.7%和18.0%。     

使用改进自编码器的细粒度图像分类研究

针对深度连续聚类算法(Deep Continuous Clustering, DCC)特征提取能力有限,对复杂图像不能提取足够有效细节特征的不足,本文提出一个新的循环卷积自编码器(Recurrent Convolutional Auto-Encoder, R-CAE).自编码器结合门控循环网络GRU和卷积网络CNN构造编码层;同时在门控循环网络GRU部分添加空间域注意力通道,增强网络的特征学习能力.图像信息经过R-CAE自编码器编码后获取细节信息,传入经典卷积神经网络学习特征;当优化结果接近或者达到聚类阈值的时候,获得最终的聚类结果实现分类.训练过程中,模型首先预训练,确定自编码器参数;然后结合编码部分和经典网络学习训练,微调网络参数.本文通过实验证明了改进方法结合DCC在聚类实验中优于大部分经典聚类算法,在针对真实图像的细粒度分类实验中也有显著的进步.     

基于变分模态分解与门控循环单元网络的云资源预测

云供应商为用户提供所需资源,分配不足可能会导致服务质量下降,分配过度则会导致资源浪费,因此准确预测资源使用情况至关重要.由于用户使用云资源的情况各不相同,不确定因素多,时序数据往往伴随着高随机性和非平稳性的特点,增加了预测的难度.为了捕获非平稳性数据更多信息,提高云资源使用情况的预测精度,提出基于变分模态分解(VMD)算法和门控循环单元(GRU)网络的预测模型(VMD_AGRU).首先将原始时序数据通过VMD算法分解成多个相对平稳的模态分量;再将蚁狮优化(ALO)算法集成到GRU模型中去,分别对分解后的本征模态分量进行预测,利用优化算法自适应地选择最优参数;最后整合每个分量的预测结果得到最终的云资源使用情况预测结果.在公开数据集上进行预测,并与未优化的GRU、差分自回归移动平均(ARIMA)和反向神经网络(BPNN)等进行对比.CPU利用率预测的实验结果表明,与并未分解且未优化的GRU模型相比,所提出的模型在预测精度上有48.1％的提升,验证了该方法的有效性.     

基于HHT-LSTM的冬奥会临时设施运行趋势预测方法研究

针对冬奥会延庆赛区临时设施的安全性和可使用性,本文充分结合信号处理算法与深度神经网络,提出了一种由希尔伯特黄变换（Hilbert-Huang transform,HHT）对时序数据进行信号分解和信号特征提取,长短期记忆网络（long short-term memory,LSTM）进行临时设施运行趋势预测2部分构成模型。该模型基于受严寒天气和大客流诱发的看台振动等一系列外因影响所测得的真实振动和倾角数据,实现对设施进行有效的预测,以避免发生安全问题,解决了由于受数据中一些无关特征因素的干扰导致预测准确度低的问题。论文提出的方法与循环神经网络（recurrent neural network, RNN）、门控循环网络（gated recurrent neural network,GRU）、双向RNN和双向GRU等运行趋势预测方法进行比较,验证了本文方法的可行性和有效性,实验结果也说明所提出的模型在此类任务中表现非常出色。     

基于禁忌算法优化神经网络的海洋船舶流量预测

为了有效缓解船舶交通拥堵和提高通航效率,对海洋港口和航道管理提供一个更可靠的数据,设计了一种基于禁忌算法优化神经网络的海洋船舶流量预测的方法。首先,建立了基于禁忌算法优化神经网络的海洋船舶流量预测模型。然后,设计了三层的脊波神经网络结构,提出了采用禁忌算法优化脊波神经网络结构参数的具体方法,从而得到一个初始化的脊波神经网络流量预测模型。然后,采用有标签的训练样本数据集对网络进行训练,将满足误差阈值的训练模型作为最终的预测模型。以某港口为例进行仿真实验,结果表明文中得到的预测结果与真实值较为接近,且与其它方法相比,具有更好的预测效果。     

多任务交互式学习网络的方面情感分析

方面情感分析传统方法采用方面词抽取-情感预测的独立学习模式,未充分利用两模块的联合信息及训练过程中有价值的信息。提出基于消息传递机制的多任务交互式学习网络,模型采用细粒度属性级分类任务和篇章级分类任务联合训练,设计消息传递显式地对任务交互进行建模,通过共享隐藏变量迭代传递信息,有助于特征学习和推理。方面情感分析模块提出词级信息交互机制以及观点词抽取——情感预测信息传递通道,实现双注意力机制;利用池化操作嵌入多层GRU网络实现篇章级任务预测。设计迭代算法在方面级和篇章级任务间交替训练,通过三个数据集上的实验对比,结果表明模型在每个子任务的F1分数、模型整体性能、篇章级任务网络性能上均得到有效提高。