基于LSTM神经网络的短期价格趋势预测

本文主要对LSTM模型结构改进及优化其参数,使其预测股票涨跌走势准确率明显提高,同时对美股周数据及日数据在LSTM神经网络预测效果展开研究.一方面通过分析对比两者预测效果差别,验证不同数据集对预测效果的影响;另一方面为LSTM股票预测研究提供数据集的选择建议,以提高股票预测准确率.本研究通过改进后的LSTM神经网络模型使用多序列股票预测方法来进行股票价格的涨跌趋势预测.实验结果证实,与日数据相比,周数据的预测效果表现更优,其中日数据的平均准确率为52.8%,而周数据的平均准确率为58%,使用周数据训练LSTM模型,股票预测准确率更高.     

Generative adversarial network (GAN) and enhanced root mean square error (ERMSE): deep learning for stock price movement prediction

The prediction of stock price movement direction is significant in financial circles and academic. Stock price contains complex, incomplete, and fuzzy information which makes it an extremely difficult task to predict its development trend. Predicting and analysing financial data is a nonlinear, time-dependent problem. With rapid development in machine learning and deep learning, this task can be performed more effectively by a purposely designed network. This paper aims to improve prediction accuracy and minimizing forecasting error loss through deep learning architecture by using Generative Adversarial Networks. It was proposed a generic model consisting of Phase-space Reconstruction (PSR) method for reconstructing price series and Generative Adversarial Network (GAN) which is a combination of two neural networks which are Long Short-Term Memory (LSTM) as Generative model and Convolutional Neural Network (CNN) as Discriminative model for adversarial training to forecast the stock market. LSTM will generate new instances based on historical basic indicators information and then CNN will estimate whether the data is predicted by LSTM or is real. It was found that the Generative Adversarial Network (GAN) has performed well on the enhanced root mean square error to LSTM, as it was 4.35% more accurate in predicting the direction and reduced processing time and RMSE by 78 s and 0.029, respectively. This study provides a better result in the accuracy of the stock index. It seems that the proposed system concentrates on minimizing the root mean square error and processing time and improving the direction prediction accuracy, and provides a better result in the accuracy of the stock index.

     

基于HP-LSTM模型的股指价格预测方法

股指价格时间序列受到长期和短期不同因素的影响,且具有非平稳、非线性等特点,传统计量模型的预测精度较低。为提高预测精度,一些研究将人工神经网络模型用于金融时间序列预测,取得了比传统计量模型更好的效果。提出了一种融合了HP滤波（Hodrick-Prescott Filter）和LSTM神经网络模型的股指价格预测模型,模型使用HP滤波将股指价格时间序列分解为长期趋势和短期波动,利用LSTM神经网络模型分别学习长期趋势和短期波动序列的特征,并分别进行长期趋势和短期波动预测,将预测结果融合得出股指价格预测结果。实验结果表明,提出的HP-LSTM混合模型不仅可以有效捕捉到股指价格时间序列的长期趋势和短期波动的变化规律,提高了股指价格预测精度,并且长期趋势和短期波动都具有相应的经济含义,提高了模型的可解释性。     

基于改进回声状态神经网络的个股股价预测

当今社会股价预测是研究的热门问题,人们越来越关注对股价预测模型的建立,提高股价预测的精度对股票投资者有实际的应用价值.目前股价的预测方法层出不穷,其中较为典型的有传统的技术分析和ARMA模型等.为了提升预测的精度,同时考虑到股市的非线性,本文提出一种改进的回声状态神经网络的个股股价预测模型,针对回声状态神经网络(ESN)泛化能力不强的特点,应用改进的粒子群算法(GTPSO)对回声状态神经网络(ESN)的输出连接权进行搜索,最终得到最优解,即ESN的最优输出连接权,GTPSO算法概括来说就是在传统粒子群算法(PSO)的基础上引入禁忌搜索算法(TS)中禁忌的思想和遗传算法(GA)中变异的思想,从而降低PSO在学习过程中陷入局部最小值的状况,同时提高PSO搜寻全局的能力.将预测模型用于个股每日收盘价预测中,使用每10天的收盘价预测第11天的收盘价.通过实验验证了模型的正确性,实验证实,该模型拥有较好的预测效果.     

基于模块化回声状态神经网络光伏发电量预测

针对光伏发电的不确定性、间歇性给电力系统并网运行带来的安全问题,提出了一种基于模块化回声状态网络模型对发电量进行预测.首先利用模块化神经网络按季节建立预测子模型,再将子模型按相同日类型进行数据划分后,与平均气温一同作为样本,利用回声状态网络对子模型进行训练和发电量预测,最后集成输出结果.结果表明:此预测模型在日类型相同时预测误差较小,而在日类型不同时预测误差较大,但与ESN和BP预测模型相比均具有更高的预测精度和更快的预测速度.     

基于遗传算法改进的一阶滞后滤波和长短期记忆网络的蓝藻水华预测方法

河湖藻类水华形成过程中所具有的突发性和不确定性,导致对藻类水华爆发预测准确性不高。为解决此问题,以叶绿素a的浓度值作为蓝藻水华演化过程表征指标,提出基于长短期记忆（LSTM）循环神经网络（RNN）蓝藻水华预测模型。首先,用遗传算法改进的一阶滞后滤波（GF）优化算法对数据进行平滑滤波处理;然后,搭建GF-LSTM网络的蓝藻水华预测模型,实现对水华发生的精准预测;最后,以太湖水域梅梁湖区域的采样数据为样本,对预测模型进行检验,并与传统的RNN和LSTM网络进行对比。仿真结果表明,提出的GF-LSTM网络模型平均相对误差控制在16%~18%,而RNN模型的预测平均相对误差为28%~32%,LSTM网络模型的平均相对误差为19%~22%,对采用数据的平滑性处理效果较好,预测精度更高,对样本具有更好的适应性,克服了传统RNN模型在长期训练时出现的梯度消失与梯度爆炸缺点。     

基于BP神经网络的股市预测模型

介绍了神经网络的基本概念,建立BP神经网络模型,以某个股实际收盘价为原始数据样本,对网络进行训练后,对股票价格进行了短期预测,并计算出预测值和实际值的误差.通过实验发现该模型收敛速度快,预测精度高.     

结合HS算法与ESN算法的光伏发电短期出力预测

为提高光伏发电系统短期出力预测的精度,提出了一种和声搜索(Harmony Search,HS)算法与回声状态网络(Echo State Network,ESN)算法相结合的预测模型。该模型以光伏电站的历史发电量数据和气象数据为基础。首先通过相似日选择算法挑选出预测日的相似日,将相似日的气象特征向量和预测日的气象特征向量的差值作为预测模型的输入变量;然后选择训练样本,并用和声搜索算法优化后的回声状态网络模型(HS-ESN)对样本进行训练和预测;最后以甘肃某光伏电站为例进行实例验证。实证分析表明,利用和声搜索算法优化回声状态网络预测模型的储备池参数可有效提高回声状态网络的预测精度,因此该模型具有较好的实用价值。     

基于ATLG混合模型的股票价格预测

股市是金融市场的重要组成部分,对股票价格预测有着重要的意义.同时,深度学习具有强大的数据处理能力,可以解决金融时间序列的复杂性所带来的问题.对此,本文提出一种结合自注意力机制的混合神经网络模型(ATLG).该模型由长短期记忆网络(LSTM)、门控递归单元(GRU)、自注意力机制构建而成,用于对股票价格的预测.实验结果表明:(1)与LSTM、GRU、RNN-LSTM、RNN-GRU等模型相比, ATLG模型的准确率更高;(2)引入自注意力机制使模型更能聚焦于重要时间点的股票特征信息;(3)通过对比,双层神经网络起到的效果更为明显.(4)通过MACD (moving average convergence and divergence)指标进行回测检验,获得了53%的收益,高于同期沪深300的收益.结果证明了该模型在股票价格预测中的有效性和实用性.     

Stock-Price Forecasting Based on XGBoost and LSTM

Using time-series data analysis for stock-price forecasting (SPF) is complex and challenging because many factors can influence stock prices (e.g., inflation, seasonality, economic policy, societal behaviors). Such factors can be analyzed over time for SPF. Machine learning and deep learning have been shown to obtain better forecasts of stock prices than traditional approaches. This study, therefore, proposed a method to enhance the performance of an SPF system based on advanced machine learning and deep learning approaches. First, we applied extreme gradient boosting as a feature-selection technique to extract important features from high-dimensional time-series data and remove redundant features. Then, we fed selected features into a deep long short-term memory (LSTM) network to forecast stock prices. The deep LSTM network was used to reflect the temporal nature of the input time series and fully exploit future contextual information. The complex structure enables this network to capture more stochasticity within the stock price. The method does not change when applied to stock data or Forex data. Experimental results based on a Forex dataset covering 2008–2018 showed that our approach outperformed the baseline autoregressive integrated moving average approach with regard to mean absolute error, mean squared error, and root-mean-square error.     

MULTI-LAYER CORRECTIVE CASCADE ARCHITECTURE FOR ON-LINE PREDICTIVE ECHO STATE NETWORKS

An architecture for on-line learning of time series prediction is presented which uses a series of echo state networks (ESNs). Each ESN learns to predict an error correction term for the previous ESN. This technique is demonstrated to improve prediction accuracy for on-line learning of the Mackey-Glass chaotic oscillator. The results are compared to other architectural configurations to show that the improved performance emerges from sequential ESN error correction. A new recurrent network structure is shown to be a useful simplification of the usual ESN reservoir.     

联合RMSE损失LSTM-CNN模型的股价预测

由于金融市场的复杂性和多变性,当前模型尚不能完全覆盖股票走势影响因素的方方面面,在预测精度方面还存在改进空间。基于此,提出了一种联合RMSE损失LSTM-CNN（long short-term memory-convolutional neural networks）的方法。该方法创新性地通过联合两个模型的RMSE损失函数,融合了LSTM学习长期时间序列依存关系的优点和CNN提取数据中深层特征的优点。在训练数据端通过将同一数据分为两种不同的表现形式,即股票时序数据和股票图像数据,使联合模型中的每个分支发挥最大的作用。为了证明该模型的可行性,建立BP（back propagation）、LSTM、CNN和LSTM-CNN融合模型作为对比。通过浦发银行、沪深300指数和上证综指三个数据集上的实验结果,得出所提联合RMSE损失LSTM-CNN模型,在预测效果上具有良好的可行性和普适性的结论。     

面向预测的长短时神经网络记忆增强机制

基于时序数据建模的长短时神经网络（LSTM）可用于预测类问题。现实场景中,LSTM预测精度往往与输入序列长度相关,有效的历史信息会被新输入的数据淹没。针对此问题,提出在LSTM节点中构建强化门实现对遗忘信息的提取,并与记忆信息按比例选取、融合、输入记忆单元,增加学习过程中的梯度传导能力,使网络对相对较远的信息保持敏感以提升记忆能力。实验采用工业故障数据,当序列长度超过100时,具有强化门机制的改进模型预测误差低于其他LSTM模型。预测精度的差距随序列增加而增大,当序列长度增至200时,改进模型的预测误差（RMSE/MAE）较原模型分别降低了26.98%与35.85%。     

最优组合模型在证券市场预测中的应用研究

研究证券市场预测中的股票价格预测精度问题,股票价格受到政治、经济、投资者心理等多种因素影响,股票价格波动较大,系统具有非线性复杂变化规律,单一预测模型只能反映股票价格变化时段信息,预测精度比较低。为了提高股票价格预测精度,提出一种组合模型的股票价格预测方法。首先分别采用ARIMA、GM、RBF神经网络对股票价格进行预测,然后通过权重值获得最优组合预测模型进行股票价格预测。结果表明,组合预测模型提高了股票价格预测精度,降低了预测误差,克服了单一预测模型在股票价格预测中的缺陷,为股票价格等非线性系统准确性预测提供了参考依据。     

基于CNN-LSTM-PSO的私有云故障检测

有效对私有云系统进行故障检测对于保障IT系统稳定性及开展可靠性信息活动具有重要的实际意义。为此从私有云系统的历史趋势数据出发,将卷积网络(CNN)和长短期记忆(LSTM)循环神经网络结合,提出了基于粒子群优化算法(PSO)的CNN-LSTM-PSO的混合模型,实现对私有云的故障检测。采用X11算法等技术对数据进行预处理,使用CNN网络提取监控指标时序数据的相关特征信息,并通过训练LSTM网络参数建立CNN-LSTM预测模型,设计了PSO算法对预测模型进行参数选优,减小预测误差,并以高斯正态分布确定阈值范围,实现故障的精准检测。通过和传统单一预测模型以及现有的一些组合预测模型的对比,CNN-LSTM-PSO模型预测后结果的均方根误差、平均绝对误差和平均百分比误差都低于其余模型。实验结果验证了模型在预测效果上具备更高的精度和更快的预测速度,在私有云的故障检测中精确性和实时性都具有良好效果。     

MDT-CNN-LSTM模型的股价预测研究

股价预测一直是投资者在股票市场中关注的焦点。近年来,深度学习技术在这一领域得到广泛应用。在融合卷积神经网络（CNN）和长短时记忆网络（LSTM）,构建CNN-LSTM模型的基础上,引入多向延迟嵌入的张量处理技术MDT（mutiway-delay-embedding）,对每日股票因子向量进行因子重构,生成汉克尔矩阵,按时间并排生成汉克尔张量,作为CNN-LSTM模型的输入。利用CNN的卷积与池化对包含因子相关性信息的输入数据提取特征,再将输出的特征矩阵输入到LSTM模型进行关联预测,从而构建了MDT-CNN-LSTM混合模型。选取涉及22个行业的48家公司及12个股票因子进行股价预测,通过从预测精度和时效性两个方面对比实验,显示提出的方法表现优于其他模型,最后选取四类股票指数进行预测,模型效果依旧处于较优水准,验证了引入MDT技术的有效性和可行性。     

基于LSTM的股票价格预测建模与分析

股价波动是一个高度复杂的非线性系统，其股票的调整不是按照均匀的时间过程推进，具有自身的推进过程。结合LSTM（Long Short-Term Memory）递归神经网络的特性和股票市场的特点，对数据进行插值、小波降噪、归一化等预处理操作后，推送到搭建的不同LSTM层数与相同层数下不同隐藏神经元个数的LSTM网络模型中进行训练与测试。对比评价指标与预测效果找到适宜的LSTM层数与隐藏神经元个数，提高了预测准确率约30%。测试结果表明，该模型计算复杂度小，预测准确率有所提高，不仅能在股票投资前对预测股票走势提供有益的参考，还能帮助投资者在对实际股价有了进一步的认知后构建合适的股票投资策略。     

改进粒子群—BP神经网络模型的短期电力负荷预测

为了准确、快速、高效地预测电网短期负荷,提出了改进的粒子群算法(MPSO),并与BP算法相结合,形成改进的粒子群—BP(MPSO-BP)神经网络算法,用此算法训练神经网络,实现了神经网络参数优化,得到了基于MPSO-BP算法的神经网络模型。综合考虑气象、天气、日期类型等影响负荷的因素,进行电网短期负荷预测。算例分析表明,与传统BP神经网络法和PSO-BP神经网络方法相比,该方法改善了BP神经网络的泛化能力,预测精度高,收敛速度快,对电力系统短期负荷具有良好的预测能力。     

基于多元时间序列分析的控制系统执行器故障诊断方法研究

为提高控制系统执行器故障实时诊断的准确率,该文提出一种基于多元时间序列分析的控制系统执行器在线故障诊断方法。首先分析了控制系统执行器故障机理,确定了表征执行器故障的关键信号;其次采用执行器历史数据,建立了时间卷积网络(TCN)在线预测模型,对执行器多通道信号进行在线预测;随后通过长短期记忆网络(LSTM)对多通道残差信号建立了故障分类模型;最后以燃气轮机控制系统执行器半物理试验平台中的电液执行器为例进行了多次重复试验验证。结果表明,基于TCN网络的在线预测模型相比传统循环神经网络(RNN)预测误差较小;基于LSTM网络的故障分类模型准确率较高;通过LSTM网络对多通道残差信号进行故障分类,比对原始故障数据分类故障准确率更高。     

基于深度学习的主机负载在线预测模型研究

数据中心主机负载预测对于数据中心的资源调度和节能具有重要意义,但是目前缺乏一个通用模型以准确预测所有类型数据中心的主机负载情况。为了使主机负载预测模型具有一定的自适应性,提出一种基于深度循环神经网络编码器-解码器的多步在线预测模型。通过线上实时采集的能耗数据进行在线训练,同时设计一个在线监控模块,对模型的预测准确性进行实时监控和调整,使得该模型在不同数据中心中均能获得较准确的预测值。利用Google开源的时长为29天的数据中心主机负载数据集进行实验,结果表明,该模型的预测准确性接近离线训练,其预测性能优于ESN和LSTM模型。