基于IPSO-LSTM神经网络的短期负荷预测

在电网负荷预测方面,LSTM模型有较好的预测精度.但模型参数需要手动设置,网络训练时间长.提出一种改进粒子群算法(IPSO)与长短期记忆网络(LSTM)相结合的预测模型(IPSO-LSTM).利用IPSO对LSTM网络的神经元数,学习率等参数进行优化,自动寻找合适参数,提高预测精度和收敛速度.以某地电力公司的历史负荷数据作为输入数据,迭代训练网络.对比IPSO-LSTM模型和由经验公式所得的LSTM模型的预测结果,发现新模型的MAPE比LSTM网络降低了0.8％,最大相对误差比LSTM网络降低了 4％,收敛速度更快.实验表明所提新模型拥有更高的预测精度和收敛速度.     

基于集成模型的超短时负荷预测方法

精准的短期负荷预测是保证电力系统顺利运行的关键。机器学习算法普及后,为以前难以解决的短期和超短期负荷预测提供了算法支持。鉴于梯度提升决策树（Catboost）、卷积神经网络-长短期记忆网络（CNN-LSTM）、极端随机树（Extratrees）等集成模型处理非线性相关数据效果好,本文将上述3种方法进行组合,构建集成预测模型,使用BP神经网络确定权重系数,通过权重将各种单项预测模型的优点结合在一起,从而起到了更好的预测效果。为了更好地说明本文使用方法的优点,本文采用平均绝对百分比误差（MAPE）和均方根误差、均方误差、拟合优度作为衡量指标,以集成模型与各个单项预测模型作对比,在MAPE 标准下,集成模型比Catboost、CNN-LSTM、Extratrees模型分别降低了1.01个百分点、0.94个百分点、1.19个百分点。     

结合LSTM和自注意力机制的图卷积网络短期电力负荷预测

针对现有电力负荷预测模型建模工作量大、时空联合表征不足、预测精度低等问题,提出了一种结合长短期记忆（LSTM）网络和自注意力机制的图卷积网络（GCN）的短期电力负荷预测模型GCNLS-STLF。首先,利用LSTM和自注意力机制将原始多维时间序列数据转化为包含序列间关联关系的电力负荷图;然后,通过GCN、LSTM和图傅里叶变换（GFT）对电力负荷图进行特征提取;最后,使用全连接层对特征进行重构,并利用残差进行多次预测,以增强原始电力负荷数据的表达能力。在摩洛哥与巴拿马某电站的真实历史电力负荷数据上进行的短期电力负荷预测实验结果显示,与支持向量机（SVM）、LSTM、混合模型CNN-LSTM和基于注意力的CNN-LSTM(CNN-LSTM-attention)等预测模型相比,GCNLS-STLF在摩洛哥全部电力负荷测试集上的平均绝对百分比误差（MAPE）分别降低1.94、0.90、0.49和0.37个百分点;在巴拿马电力负荷测试集上的3月份MAPE分别降低1.39、0.94、0.38和0.29个百分点,6月份MAPE分别降低1.40、0.99、0.35和0.28个百分点。实验结果表明,GC...     

基于ARMA-LSTM组合模型的铁路客流量预测

单一模型在铁路客流量预测中很难同时捕获到数据序列的线性、非线性和周期性等多种特征,从而无法取得很好的预测效果.针对该问题提出基于机器学习的ARMA-LSTM组合模型预测方法.对原始数据进行分析和特征提取;训练LSTM(Long Shot-Term Memory)模型和ARMA(Autoregressive moving average model)模型,分别得到两模型预测结果;通过BP神经网络算法对两模型进行权重优化,得到预测结果.将ARMA-LSTM组合模型与ARMA、LSTM、灰色模型、GM-LSTM组合模型进行对比,预测效果明显优于其他单一模型,预测结果误差(MAPE)降至3.10％ ～10.73％,验证了ARMA-LSTM组合模型在铁路客流量预测中有更高的准确性和更好的适用性.     

基于FOA优化混合核LSSVM的铁路货运量预测

单一核最小二乘支持向量机(LSSVM)在铁路货运量预测中难以准确描述货运量的复杂变化特征,限制了预测精度的提高。针对该问题,提出一种基于果蝇算法(FOA)优化混合核LSSVM的预测方法。以多项式核与径向基核组合的混合核函数作为LSSVM核函数,构建铁路货运量的混合核LSSVM预测模型,同时利用FOA全局寻优能力强、计算速度快等优点优化选择混合核LSSVM参数。以我国铁路货运量为例进行方法验证。结果表明,所提方法的RMSE、MAE、MAPE和THEIL值分别为8433.0、6670.8、0.0180和0.0117,均小于其他模型,FOA算法搜索混合核LSSVM参数的时间为40.2948秒,分别比GA和PSO算法减少了2.6208秒和20.7016秒,适合于铁路货运量的短期预测。     

基于改进粒子群优化算法的灰色神经网络的铁路货运量预测

针对现有铁路货运量预测方法的不足,提出基于改进粒子群优化算法的灰色神经网络（IPSO-GNN）的铁路货运量预测方法,通过IPSO对常规灰色神经网络（GNN）的白化参数进行优化,改善了GNN的不足,保证了预测精度;同时利用灰色关联分析法,计算了铁路货运量和影响因素间的关联度,以最主要的6个关联因素,建立了基于IPSO-GNN的铁路货运量预测模型。仿真实验结果表明,在铁路货运量预测中此模型预测精度优于常规GNN及其他预测方法,说明此预测方法有效可行。     

基于双长短期记忆网络组合的网络货运平台成交定价预测模型

网络货运平台运输服务订单的成交定价的预测结果是平台运营策略和承运人决策的直接体现,显著影响平台效益和承运人市场健康发展。以顺丰速递网络货运平台为例,通过缺失值处理和类别型数据转换进行数据预处理。针对网络货运平台成交定价预测精度问题,设计了基于双长短期记忆网络（LSTM）组合的网络货运平台成交定价预测模型,并采用K-means聚类分析预测结果。双LSTM组合模型相较于LSTM、支持向量回归（SVR）、两者相融合的LSTM-SVR以及基于灰色GM（1,1）和反向传播（BP）组合（GM（1,1）-BP）等模型,平均绝对误差（MAE）、均方误差（MSE）、平均绝对百分比误差（MAPE）最低且R²最高,分别为9.90、402.54、1.48和0.999 97。而K-means聚类分析对预测的订单成交定价进行评级的结果与实际情况一致。实验结果表明,所提出的双LSTM组合模型具备有效性和准确的网络货运平台成交定价预测效果。     

基于NLAPSO．RBF的铁路货运量预测研究

铁路货运量需求预测在国家和区域经济发展规划、运输经营决策中具有重要作用。针对提高预测准确性与收敛速度问题,建立了基于RBF神经网络的预测模型。该模型具有最佳函数逼近性能和全局最优特性,适于预测计算,但有参数确定与优化的难题。提出一种基于非线性学习因子调节的粒子群优化（NLA-PSO）算法应用于RBF神经网络的参数优化,进而提高铁路货运量预测的精度与效率。通过1992--2011年铁路货运量预测的实例验证,将仿真结果与其他算法进行了比对,证明了方法的预测精度与收敛速度均优于其他算法,在铁路货运量预测计算上有效可行。     

基于小波变换和支持向量机的水质预测

提出基于小波变换和支持向量机的水质预测模型。该模型运用小波变换得到水质时间序列在不同尺度下的变化特性,并用改进后的粒子群算法优化回归支持向量机的三个参数,提高了模型预测精度。运用该模型对王江泾自动监测站测得的溶解氧浓度进行了1步预测及2步预测,10组测试样本最高MAPE为4.54%,并用基于BP神经网络的预测结果进行了比较。结果表明,该模型性能良好、预测精度高、简便易行,比基于BP神经网络的模型具有更好的预测效果,为水质预测提供了一种有效的方法。     

改进FA优化LSTM的时序预测模型

为了提高时序预测精度,提出了一种改进萤火虫算法（firefly algorithm,FA）优化LSTM的时序预测模型（GAFA-LSTM）。针对FA因种群多样性弥散陷入局部最优,影响寻优效果的问题,提出了种群多样性增加机制。FA在完成初始化后加入种群多样性的计算;在满足多样性增加机制的条件下,引入自适应多样性增加机制,有效平衡进化过程中对种群多样性的需求;在迭代后期加入自适应游动参数来避免局部震荡。将改进后的FA用于LSTM模型输入参数的优化,以提高LSTM模型输入参数的准确性。实验部分对改进FA进行了改进效果测试,对GAFA-LSTM模型进行了模型验证。结果表明改进FA具有较好的寻优效果,GAFA-LSTM预测模型较其他预测模型拟合程度与预测精度都有不同程度的提高。     

基于SFLA-CNN和LSTM组合模型的水位预测

水文时间序列受降雨量的影响,在变化规律上呈现季节性、非线性的特点。传统单一模型结构简单,对于复杂的非线性水文时间序列具有预测精度较低、不能很好捕捉水文时间序列的复合特征的问题。组合预测模型采用多分类器的思想,能够有效地提高预测准确度,然而在模型参数选择方面需要手工调参,花费时间多且不准确。本文提出一种基于SFLA-CNN和LSTM的组合预测模型：通过随机蛙跳算法SFLA对CNN模型进行参数寻优,得到优化后的SFLA-CNN预测模型;之后利用BP神经网络对SFLA-CNN和LSTM模型的预测值进行非线性组合,获得最终预测结果。在江苏省太湖区域的水位预测实验结果表明,该组合模型与现有模型相比,有效地提高了预测准确率,具有更好的泛化能力。     

AdaBoost_BP神经网络在铁路货运量预测中的应用

为提高BP神经网络预测模型的预测准确性,将AdaBoost算法和BP神经网络相结合,提出了一种AdaBoost_BP神经网络预测模型。将该预测模型应用于我国1999年—2009年铁路货运量的历史统计数据,进行有效性验证,结果表明该模型对铁路货运量预测是有效、可靠的,且具有较高的预测精度,可应用于实际预测。     

消费者偏好预测的深度学习神经网络模型

通过对于人类大脑活动的研究来分析消费者对广告和产品的反应的神经营销正在受到新的关注。针对基于脑电波（EEG）的神经营销，提出了一种基于深度学习神经网络的消费者对产品的偏好预测方法。首先，为了提取消费者EEG的特征，采用短时傅里叶变换（STFT）与双调和样条插值，从多通道脑电信号中得到了5个不同频带的EEG形图视频；然后，提出了一种结合5个三维卷积神经网络（3D CNN）与多层长短期记忆（LSTM）神经网络的预测模型，用于从脑电地形图视频预测到消费者的偏好。与卷积神经网络（CNN）模型和LSTM神经网络模型相比，消费者依赖模型的平均准确度分别提高了15.05个百分点和19.44个百分点，消费者独立模型的平均准确度分别提高了16.34个百分点和17.88个百分点。理论分析与实验结果表明，所提出的消费者偏好预测系统可以以低成本提供有效的营销策略开发和营销管理。     

基于PF-LSTM网络的高效网络流量预测方法

传统网络流量预测模型存在泛化能力弱和预测准确度低等缺点。为解决此问题,提出一种基于长短期记忆（LSTM）循环神经网络的网络流量预测模型。首先,用距离比较和优化组合策略改进粒子滤波算法（PF）的重采样过程;然后搭建PF-LSTM网络的网络流量预测模型,将改进的PF算法用于模型训练,提高其训练速率,克服传统LSTM网络中收敛于局部最优的缺点;最后将提出的模型用于网络流量预测。实验结果表明,相比传统的LSTM模型,提出的PF-LSTM模型具有较好的预测精度和收敛效率,能够更好地描述网络流量的变化趋势。     

基于GRU和XGBoost的矿压显现规律预测

采用光纤传感器监测的光纤频移值对矿压显现规律进行表征的过程中,传感器采集的数据存在缺失现象,无法准确预测矿压显现规律。针对该问题,以千秋煤矿为工程背景,在假设光纤下半部分数据丢失的前提下,引入GRU(门控循环单元)和LSTM(长短期记忆网络)2种预测模型,对缺失的光纤频移值进行对比预测,得出GRU模型的收敛速度优于LSTM模型的收敛速度,说明基于GRU模型的缺失值处理方法较优。将原始完整的光纤频移值转换为可表征矿压显现位置的光纤平均频移变化度,引入XGBoost(极端梯度提升)模型和BP神经网络模型进行对比预测,XGBoost模型能准确预测出测试集中所有出现“尖峰”的位置,而BP神经网络模型只预测出2处“尖峰”位置,说明XGBoost模型的预测效果优于BP神经网络模型的预测效果。将预测出的光纤频移缺失值替换至缺失位置,形成“完整”光纤频移值数据,将该数据转换为光纤平均频移变化度后,采用XGBoost模型进行预测。验证结果表明:LSTM模型及GRU模型均可准确预测出光纤下半部分的数据,且GRU模型准确性较LSTM模型准确性高;使用XGBoost可准确预测出测试集中出现的周期来压;通过GRU模型预测出的缺失数据经整合至缺失位置后,使用XGBoost模型仍可进行有效的矿压预测。     

An optimized long short-term memory network based fault diagnosis model for chemical processes

With the development of the chemical industry, fault diagnosis of chemical processes has become a challenging problem because of the high-dimensional data and complex time correlation caused by the more complex chemical processes and increasing number of equipment. However, the ordinary feedforward neural network cannot solve these problems very well. Therefore, this paper proposes a fault diagnosis model based on the optimized long short-term memory (LSTM) network. Since the number of hidden layer nodes in the LSTM network has a great influence on the diagnosis result, the link of determining the optimal number of hidden layer nodes by the iterative method based on the LSTM network is added. Then the LSTM is optimized to get higher chemical process fault diagnosis accuracy. Finally, through the simulation experiment of the Tennessee Eastman (TE) chemical process, the results verify that the optimized LSTM network has better performance in chemical process fault diagnosis than the BP neural network, the multi-layer perceptron method and the original LSTM network.     

基于布谷鸟搜索优化BP神经网络的网络安全态势评估方法

针对现有基于神经网络的网络安全态势评估方法效率低等问题,提出基于布谷鸟搜索（CS）优化反向传播（BP）神经网络（CSBPNN）的网络安全态势评估方法。首先,根据态势输入指标数和输出态势值确定BP神经网络（BPNN）的输入输出节点数,根据经验公式和试凑法计算出隐含层节点数;然后,随机初始化各层的连接权值和阈值,使用浮点数编码方式将权值与阈值编码成布谷鸟;最后,使用CS算法对权值和阈值进行优化,得到用于态势评估的CSBPNN模型并对其进行训练,将网络安全态势数据输入到CSBPNN模型中,获取网络的安全态势值。实验结果表明,与BPNN和遗传算法优化BP神经网络方法相比,基于CSBPNN的网络安全态势评估方法的迭代代数分别减少943和47且预测精度提高8.06个百分点和3.89个百分点,所提方法具有较快的收敛速度和较高的预测精度。