三种机器学习模型在太湖藻华面积预测中的应用

基于2014—2018年太湖气象水文水质数据与卫星遥感数据,分别采用支持向量机(SVM)、长短记忆神经网络(LSTM)、极端梯度提升树(XGBoost)模型模拟全太湖、贡湖、南部沿岸区、中西北湖区的蓝藻水华(简称藻华)面积。结果表明:(a)XGBoost全太湖与分区藻华面积回归模型模拟效果较好,其次是SVM、LSTM回归模型;不同时间尺度下SVM、XGBoost回归模型对全太湖藻华面积模拟结果偏小,但有效模拟了藻华的发展趋势。(b)XGBoost分类模型在全太湖、中西北湖区模拟准确率较高,优于SVM、LSTM分类模型;在贡湖、南部沿岸区,3种分类模型准确率均较高。(c)以当天、提前1 d的气象水文水质因子作为全太湖与分区藻华面积模型输入,XGBoost回归与分类模型模拟精度较高、稳健性较好,预测应用情景较好。     

LSTM和GRU在城市声音分类中的应用

不同类型的声音对城市居民的身心健康质量影响不同,将城市声音精准的分类有利于对其进行有效的评价,从而促进对城市声音的管理。深度学习在语音识别方面已有所应用,其中循环神经网络(RNN)表现最为突出。由于基本RNN存在明显的梯度消失、网络损耗大、准确率低等问题,应用改进的RNN对城市背景噪声进行分类。采用长短期记忆神经网络(LSTM)和门控循环单元(GRU)神经网络,构建深度循环神经网络模型,通过城市记录的公共数据集UrbanSound8K对搭建的深度神经网络的准确性进行测试分析。模型基于梅尔频率倒谱系数的基准实现,得出的结果与基本RNN相比有明显的提升。     

指数趋势预测的BP-LSTM模型

本文根据股指、股价等数据的时序特征将人工神经网络(ANN)与深度学习中的循环神经网络(RNN)引入股指预测,基于BP神经网络模型与长短期记忆(LSTM)神经网络模型构建了BP-LSTM模型.基于上证指数,本文进行了进行数值实验.结果表明BP-LSTM预测模型的准确率相比传统机器学习模型有明显提升,与普通LSTM模型相比也有较大提升.     

基于LSTM神经网络深度序列机械钻速实时预测

机械钻速是钻井优化、缩短钻井周期的关键因素,传统的机械钻速预测大多是在钻井后进行钻井分析,预测效率和精度低、地层适用性不广。为了以更高效的方法预测得到高精度机械钻速,提出基于长短期记忆(LSTM)神经网络的深度序列机械钻速预测方法。采集实时钻井数据集,使用皮尔逊相关系数衡量各特征之间的相关性,筛选出井深、伽玛射线、地层密度、孔隙压力、井径、钻时、排量、钻井液密度等8个参数。构建LSTM神经网络模型,训练LSTM模型并预测ROP,对预测结果进行分析,并用决定系数(R²)、均方根误差(RMSE)、平均绝对百分比误差(MAPE)等指标对LSTM模型、BP模型和SVM模型性能进行对比分析。结果表明：LSTM模型其R²、RMSE和MAPE的值分别为0.948、1.151和17.075,相较于BP模型和SVM模型,其R²更大,RMSE和MAPE较小,说明LSTM模型预测性能更好。该方法有助于钻井工程师和决策者提前获得钻井信息,从而更好地规划钻井作业,缩短钻井周期,同时为钻井参数预测提供新的途径,能改善以往预测方法在处理复杂地层问题时...     

基于LSTM的短波频率参数预测

针对现有短波通信频率参数预测方法操作繁琐、预测精度不足的缺点,首次提出一种基于长短期记忆型循环神经网络（LSTM RNN）的预测方法。通过对电离层参数f0F2数据的分析,利用LSTM在处理时序相关数据时可以长期记忆网络历史数据的优势,对f0F2值进行预测。对比反向传播神经网络（BPNN）,LSTM将误差降低了7%,并将均方误差控制在2%以下。研究结果表明：基于LSTM搭建的提前预报5天的f0F2值的模型是可行的且比BP神经网络更适合预测电离层的f0F2值。     

基于长短期记忆神经网络模型的共享单车短时需求量预测

共享单车具有很强的流动性和高随机性,为了更加准确地预测某区域内每小时的单车使用数量,通过爬取纽约市Citi Bike共享单车的天气特征数据信息,并分析时间因子、气象因子等对单车需求量的影响;采用长短期记忆(long short-term memory,LSTM)神经网络模型预测共享单车的短期需求量,并与传统的循环神经网络(recurrent neural network,RNN)和BP(back-propagation)神经网络模型预测结果进行比较。实验结果表明:影响单车需求量的主要因素包括温度、节假日、季节以及早晚高峰时间段等因素;与传统BP神经网络算法和循环神经网络RNN算法相比,LSTM鲁棒性高,泛化能力强,且预测结果曲线与真实结果曲线相吻合;预测精度高(精确度为0.860)均方根误差最小(为0.090),误差小。可见LSTM模型可以用来对共享单车的短时需求量进行预测。     

双向LSTM神经网络的航空发动机故障预测

准确的航空发动机故障预测能够为维修决策提供依据,提高装备完好率,避免灾难性故障并最小化经济损失。根据航空发动机传感器数据特点,提出一种基于双向长短期记忆（LSTM）神经网络的故障预测方法,建立故障预测模型,包括数据预处理、网络模型设计、训练与测试,得到在多种工作条件和故障下具有较强泛化能力的神经网络预测模型。使用C-MAPSS数据集对模型进行仿真验证,所提出的双向LSTM故障预测模型通过与RNN、GRU、LSTM时间序列模型对比,误差下降33.58%,得到更高的预测精度,非对称评分下降71.22%,具有更好的适应性。     

航空器爬升与下降阶段4D航迹预测

准确的4D航迹预测可以在冲突探测与解脱、航迹优化和空中交通流量管理等多个领域发挥重要作用。为提高预测的准确性,提出了基于机器学习的航空器4D航迹预测方法。首先,利用爬升阶段提取研究指标,构建循环神经网络(recurrent neural network, RNN)和长短期记忆网络(long short-term memory, LSTM);其次,在下降阶段进行数据维度拓展,构建RNN、LSTM模型进行航迹预测;最后,对各个维度上的预测航迹点和实际航迹点的误差进行分析。仿真结果表明,爬升阶段模型和下降阶段模型对于航空器位置预测准确性高,展现了航迹预测模型的良好鲁棒性。     

基于长短期记忆神经网络的油田注水预测

为解决目前常用的人工智能注水预测无法考虑数据在时间上的相关性问题,通过选取一种基于循环神经网络(RNN:Recurrent Neural Network)改进的长短期记忆(LSTM:Long Short-Term Memory Neural Network)神经网络构建油田注水预测模型.该模型不仅能考虑到注水量和影响因...     

递归神经网络研究综述

递归神经网络(RNN)因具存储特性,可以处理前后输入有关系的序列数据,故广泛应用于文本音频、视频等领域.当输入间隙较大时,RNN存在短期记忆问题,无法处理很长的输入序列,而长短期记忆(LSTM)能很好地处理长期依赖性问题.自LSTM提出以来,几乎所有基于RNNs的令人兴奋的结果都是由LSTM实现的,因此LSTM成为深度...     

基于长短时记忆与多影响因子的滑坡位移动态预测

针对传统滑坡位移预测模型存在对历史数据遗忘的问题,提出了一种基于长短时记忆（LSTM）网络的滑坡位移动态预测模型。首先,将滑坡累计位移分解为趋势项位移与波动项位移,利用多项式拟合预测趋势项位移;然后,通过灰色关联度筛选外界诱发因子并运用LSTM模型预测波动项位移;最后,叠加周期项位移与波动项位移,得到累计位移。以新滩滑坡为例,并与RNN模型以及传统静态神经网络模型BP、ELM进行对比分析,采用平均百分比误差（MAPE）,均方根误差（RMSE）,拟合优度（R2）分别对其进行评价。应用结果表明：相比于传统静态模型,LSTM与RNN均适用于滑坡位移动态预测;对比结果显示,LSTM模型具有较好的预测精度,MAPE与RMSE值分别为1.026%、0.327 mm,拟合优度R2为0.978。     

GA-SVM和神经网络组合模型预测充填钻孔寿命

 充填钻孔是充填料浆从地表输送到井下采场的咽喉工程,是矿山正常运转的保障,因此对矿山充填钻孔使用寿命进行预测十分重要。通过建立支持向量机（SVM）和BP神经网络组合预测模型,用训练集对模型进行训练,以验证集预测值的均方误差作为SVM适应度函数,通过遗传算法（GA）对SVM模型参数进行优化选择,应用优化得到的SVM模型进行预测,并结合BP神经网络进行残差修正,最终得到预测结果。以某矿为例,通过GA得到SVM模型最优参数：适应值（均方误差mse）=0.0111,惩罚系数C=47.0768,核函数参数σ=2.2638。通过优化的SVM模型,对预测集充填钻孔寿命进行预测,经BP神经网络残差修正,预测结果的相对误差均控制在3%左右。对比单一预测模型,组合预测模型预测结果更加理想,精度更高,在类似的预测工程中有良好的推广价值。     

电话交谈语音识别中基于 LSTM-DNN 语言模型的重评估方法研究

近年来,神经网络语言模型的研究越来越受到学术界的广泛关注.基于长短期记忆(long short-term memory,LSTM)结构的深度神经网络(LSTM-deep neural network,LSTM-DNN)语言模型成为当前的研究热点.在电话交谈语音识别系统中,语料本身具有一定的上下文相关性,而传统的语言模型对历史信息记忆能力有限,无法充分学习语料的相关性.针对这一问题,基于LSTM-DNN语言模型在充分学习电话交谈语料相关性的基础上,将其应用于语音识别系统的重评估过程,并将这一方法与基于高元语言模型、前向神经网络(feed forward neural network,FFNN)以及递归神经网络(recurrent neural network,RNN)语言模型的重评估方法进行对比.实验结果表明,LSTM-DNN语言模型在重评估方法中具有最优性能,与一遍解码结果相比,在中文测试集上字错误率平均下降4.1％.     

基于机器学习模型的多层土壤湿度反演

为了获取深层土壤湿度缺测值,采用支持向量机、BP神经网络和随机森林3种机器学习算法,在表层至深层土壤中利用主成分分析法选择与土壤湿度相关性显著的气象因子作为输入数据,建立多层土壤湿度反演模型反演了不同深度的土壤湿度。结果表明:随机森林模型模拟结果更加稳定,反演效果更佳;受气象因子驱动的影响,3种机器学习模型对地表0~10.cm深度内土壤湿度的反演效果更佳,对深层土壤湿度的反演效果随着深度增加而变差;增加表层土壤湿度及不同深度土壤温度作为驱动因子可以有效提高机器学习模型对深层土壤湿度的反演能力。     

LSTM模型在耕地面积预测领域的构建与应用

 长短期记忆（LSTM）模型广泛应用于系统故障、交通流量、股票指数、紧急事件、碳排放、石油产量、农区地下水位等多个领域,均表现了出色的预测性能。为了丰富耕地面积预测方法、提升耕地预测精度,将LSTM模型引入耕地面积预测。选择常用的趋势外推模型、指数平滑模型、灰色模型、移动平均自回归、支持向量机、NAR动态神经网络等6类模型进行对比,并以耕地变化趋势比较复杂的黑龙江省和变化趋势比较单一的辽宁省、吉林省作为案例进行分析,以验证LSTM模型耕地面积预测效果。结果表明,从均方根误差（RMSE）、平均绝对误差（MAPE）这2个指标的综合评价来看, LSTM模型拟合和预测效果均为最优。根据LSTM模型预测, 2018-2030年黑龙江、吉林、辽宁3省的耕地面积将呈持续减少的趋势,耕地减少速度均有放缓之势。