基于改进Self-Attention的股价趋势预测

近年来中国经济发展迅速,相应的,中国的金融市场也迅速发展,受到国内外投资者的关注,因此研究中国金融市场上股票价格趋势对学者、投资者和监管者具有重要的意义.随着量化交易等理念的兴起,越来越多的学者将深度神经网络(DNN)应用于金融领域.虽然近几年DNN在图像、语音以及文本等方面已经取得了极大的成功,但其在金融时间序列预测...     

时间序列预测方法综述

时间序列是按照时间排序的一组随机变量,它通常是在相等间隔的时间段内依照给定的采样率对某种潜在过程进行观测的结果。时间序列数据本质上反映的是某个或者某些随机变量随时间不断变化的趋势,而时间序列预测方法的核心就是从数据中挖掘出这种规律,并利用其对将来的数据做出估计。针对时间序列预测方法,着重介绍了传统的时间序列预测方法、基于机器学习的时间序列预测方法和基于参数模型的在线时间序列预测方法,并对未来的研究方向进行了进一步的展望。     

基于时间序列预测的股票交易决策建议系统

对股票市场特征选择的相关问题进行了研究和讨论。根据震荡盒理论提出一种新的适应于与机器学习相结合的交易边界模型,通过结合基于距离的多核极限学习机(DBMK-ELM)与交易边界模型,构建基于时间序列预测的股票交易决策建议系统,使得在股票交易中能稳定获得较高的收益率并保持较低的投资风险。该系统可以快速地学习股市的历史数据,以适应快速更新的股票价格变化模式。     

基于深度强化学习的金融交易算法研究

交易策略在金融资产交易中具有十分重要的作用,如何在复杂动态金融市场中自动化选择交易策略是现代金融重要研究方向.强化学习算法通过与实际环境交互作用,寻找最优动态交易策略,最大化获取收益.提出了一个融合了CNN与LSTM的端到端深度强化学习自动化交易算法,CNN模块感知股票动态市场条件以及抽取动态特征,LSTM模块循环学习...     

基于近端策略优化与对抗学习的对话生成

对话生成是自然语言处理的重点研究方向,对抗生成网络GAN最近在对话生成领域得到了较好的应用。为了进一步改善对话生成的质量,并且解决GAN训练过程中判别模型返回奖励重复利用率低从而导致模型训练效率低的问题,提出一种基于近端策略优化PPO的对话生成算法PPO_GAN。该算法通过GAN模型生成对话,通过判别模型区分生成的对话与真实的对话。并采用近端策略优化的方法训练GAN,能处理GAN在对话生成时导致的反向传播不可微分的情况,在保证生成模型单调非减训练的同时,通过限制生成模型迭代的梯度使判别模型得到的奖励可以重复利用。实验结果表明,对比于极大似然估计与Adver-REGS等对话生成算法,PPO_GAN算法提高了对话训练的效率并且改善了对话生成的质量。     

基于神经网络集成学习算法的金融时间序列预测

本文在传统神经网络(NN)、循环神经网络(RNN)、长短时记忆网络(LSTM)与门控循环单元(GRU)等神经网络时间预测模型基础上, 进一步构建集成学习(EL)时间序列预测模型, 研究神经网络类模型、集成学习模型和传统时间序列模型在股票指数预测上的表现. 本文以16只A股和国际股票市场指数为样本, 比较模型在不同预测期间和不同国家和地区股票市场上的表现.本文主要结论如下: 第一, 神经网络类时间序列预测模型和神经网络集成学习时间序列预测模型在表现上显著稳健优于传统金融时间序列预测模型, 预测性能提高大约35%; 第二, 神经网络类模型和神经网络集成学习模型在中国和美国股票市场上的表现优于其他发达国家和地区的股票市场.     

基于互信息最大化的意图强化学习方法的研究

强化学习主要研究智能体如何根据环境作出较好的决策,其核心是学习策略。基于传统策略模型的动作选择主要依赖于状态感知、历史记忆及模型参数等,其智能体行为很难受到控制。然而,当人类智能体完成任务时,通常会根据自身的意愿或动机选择相应的行为。受人类决策机制的启发,为了让强化学习中的行为选择可控,使智能体能够根据意图选择动作,将意图变量加入到策略模型中,提出了一种基于意图控制的强化学习策略学习方法。具体地,通过意图变量与动作的互信息最大化使两者产生高相关性,使得策略能够根据给定意图变量选择相关动作,从而达到对智能体的控制。最终,通过复杂的机器人控制仿真任务Mujoco验证了所提方法能够有效地通过意图变量控制机器人的移动速度和移动角度。     

基于强化学习的超参数优化方法

近年来,机器学习算法广泛应用于多个领域.超参数的选择直接影响了算法模型的性能,然而超参数优化过程往往依赖于专业知识和长期经验的积累.为了解决上述问题,本文提出了一种基于强化学习的自动超参数优化方法.该方法将超参数优化问题作为序列决策问题并建模为马尔科夫决策过程,通过使用一个强化学习智能体(agent),自动为机器学习算法选择超参数.该智能体以最大化待优化模型在验证数据集上的准确率为目标,将模型在验证数据集上的准确率作为奖赏值(reward),通过策略梯度算法训练智能体.为了减小训练过程中的方差,我们设计了数据引导池模块.实验将随机森林和XGBoost算法作为优化对象,在五个数据集上与随机搜索、贝叶斯优化、TPE、CM-AES和SMAC五种优化方法进行了对比.实验结果显示,本文所提出的方法在90%的优化任务上表现出更优的性能.同时,我们通过执行一系列消融实验验证了agent结构和数据引导池的有效性.     

基于强化学习的固定翼飞机姿态控制方法

研究基于强化学习的飞机姿态控制方法,控制器输入为飞机纵向和横向状态变量以及姿态误差,输出为升降舵和副翼偏转角度指令,实现不同初始条件下飞机姿态角快速响应,同时避免使用传统PID控制器和不同飞行状态下的参数调节.根据飞机姿态变换特性,通过设置分立的神经网络模型提高算法收敛效率.为贴近实际的固定翼飞机控制,仿真基于JSBSim的F-16飞机空气动力学模型,利用OpenAI gym搭建强化学习仿真环境,以任意角速度、角度和空速作为初始条件,对姿态控制器中的动作网络和评价网络进行训练.仿真结果表明,基于强化学习的姿态控制器响应速度快,动态误差小,并能避免大过载等边界条件.     

基于多元分解的大气污染深度学习预测方法

为了有效地控制和治理大气污染,合理预测污染物在大气中浓度,对于提前采取预防措施、有效管理污染活动发挥着重大作用.针对多变量非线性、复杂的时间序列,以及多因素影响预测浓度的问题,提出一种基于多变量分解的非平稳时间序列深度预测方法.首先,确定主要预测变量,并对主变量进行STL(Seasonal and Trend deco...     

Implementing Temporal-Difference Learning with the Scaled Conjugate Gradient Algorithm

This paper investigates the use of the scaled conjugate gradient (SCG) algorithm in temporal-difference (TD) learning for time series prediction. Special emphasis is given on the implementation details, after examining the theoretical background of the algorithm and the learning methodology and how these could be combined. Simple time series (linear, sinusoidal, etc.) as well as more complex ones, coming from real data, are used to examine the behavior of this novel combination of learning algorithm and methodology. Preliminary experimental results indicate that the implementation as presented in this paper indeed works, but the performance (in terms of learning speed and generalization ability) of TD learning using the SCG algorithm is not as good as expected, at least on the representative problems examined. An attempt to rationalize these results is presented.     

纠正学习策略下LightGBM-GRU模型的股票波动率预测

为提高传统智能算法进行时间序列预测时的精度和解决工程数据问题时的适应性,提出一种纠正学习策略。波动性广泛应用于金融领域,对股票的波动性进行预测具有重要的价值。由于股票价格的时间序列是非线性和非平稳的,预测股票市场波动成为时间序列预测中的难点。本文通过纠正学习策略进行仿真实验,设计出LightGBM-GRU模型,以LightGBM和GRU作为基模型和纠正器,预测3年内126只来自不同行业的股票在未来10 min的波动率,根据RMSPE、MAE、MSE、RMSE等指标表明：即使经典的效果比较好的集成学习模型,也能通过纠正学习策略同时提高精度和泛化能力。本文指出在算法富集和大数据的时代,智能算法的矛盾转变为智能算法通用性有限与工程问题多样性之间的矛盾,纠正学习策略可以为数据仿真提供新思路。     

融合因果注意力Transformer模型的股价预测研究

股票价格预测是金融研究和量化投资共同关注的重点话题;近年来利用深度学习技术揭示股票市场的行情规律成为研究热点。现有股票价格预测深度学习模型多数仅研究时间点数据;这种结构上的缺陷导致其不能反映出特征因子的累积作用对股价的影响。针对此;通过重新设计模型处理时间序列数据;提出一种基于Transformer的股票价格预测模型Stockformer。它通过因果自注意力机制挖掘股票价格与特征因子之间的时序依赖关系;采用趋势增强模块为模型提供序列的趋势特征;同时利用编码器的特定输入为预测提供输入特征的直接先验信息。实验结果表明;Stockformer的预测精度显著优于已有深度学习模型;且相较经典Transformer预测模型的平均绝对误差和均方根误差分别降低了23.2%和25.7%;预测值与真实值更为拟合;通过消融实验分别评估了Stockformer的因果注意力机制、时序特征提取手段以及特定的模型输入的效果及必要性;验证了所提模型的优越性及普适性。     

集成深度强化学习在股票指数投资组合优化中的应用分析

基于集成深度强化学习的投资组合选择是当前量化金融领域的关键技术之一。然而;目前采用上一窗口阶段最优指标决定下一阶段代理的集成滚动窗口方法存在一定的滞后性。为了有效应对这一不足;提出了双层嵌套集成深度强化学习方法。该方法对三种代理（优势演员-评论员、深度确定性策略梯度和近端策略优化）进行两层嵌套模式;第一层集成通过最优化夏普比率进行阶段模型选择;第二层通过加权投票的方法集成三种深度强化学习算法;从单次训练中收集多个模型快照;在训练期间利用这些模型进行集成预测。分别对上证50投资指数和道琼斯指数及其包含的股票进行了投资组合研究;将持有指数被动策略和均值方差投资组合策略作为基线策略。实验采用了投资组合价值、年化回报率、年化波动率、最大回撤和夏普比率等指标作为对比指标。结果表明;所提出的集成方法在实用性和有效性上表现出较好的性能。     

基于矩阵画像的金融时序数据预测方法

针对金融市场中机构交易对股票市场中的散户投资行为具有较强的误导性的现象,提出了一种基于机构交易行为影响的趋势预测方法。首先,利用时间序列的矩阵画像（MP）方法,以股票换手率数据为切入点,构建不同兴趣模式长度下的基于机构交易行为影响的换手率波动知识库;其次,确定待预测股票在兴趣模式长度取何值时的预测结果精确度高;最后,根据该兴趣模式长度下的知识库,预测在机构交易行为影响下的单支股票的波动趋势。为验证趋势预测新方法的可行性和准确性,将其与自回归滑动平均（ARMA）模型和长短时记忆（LSTM）网络这两种预测方法进行对比分析,运用均方根误差（RMSE）与平均绝对百分误差（MAPE）评价指标综合比较3种方法对70支股票的预测结果。实验结果分析表明,与ARMA模型和LSTM网络相比,在70支的股票价格趋势预测上,所提方法有80%以上的股票预测结果更准确。     

混合多机器学习的ICU病人生死预测框架

ICU病人生死预测一直都是医学界的研究热点和难点。数据挖掘的机器学习方法近年来在该领域取得了一定的进展,但依然有很大的发展空间。针对ICU时序数据的高维度和不确定间隔采样特性,提出了不确定间隔采样转化为确定间隔的空采样的思想和相应的处理策略;在此基础上将传统的时间序列聚类与机器学习方法相结合,提出了一个两阶段的混合多机器学习算法框架,使得数据集的高维和不确定性得到了约简,从而可以采用经典的机器学习方法挖掘病人生死知识。在一个公开数据集上的两组实验结果表明,基于该算法框架的ICU病人死亡预测方法对于少数样本的分类效果优于传统方法,弹性时间间隔下的预测效果更好,最优时间间隔的选取可以通过实验效果来验证。     

异构群智感知PPO多目标任务指派方法

现有移动群智感知系统的任务指派主要面向单一类型移动用户展开,对于存在多种类型移动用户的异构群智感知任务指派研究相对缺乏.为此,本文针对异质移动用户,定义其区域可达性,并给出感知子区域类型划分.进而,兼顾感知任务数量和移动用户规模的时变性,构建了动态异构群智感知系统任务指派的多目标约束优化模型.模型以最大化感知质量和最小化感知成本为目标,综合考虑用户的最大任务执行数量、无人机的受限工作时间等约束.为解决该优化问题,本文提出一种基于近端策略优化的多目标进化优化算法.采用近端策略优化,根据种群的当前进化状态,选取具有最高奖励值的进化算子,生成子代种群.面向不同异构群智感知实例,与多种算法的对比实验结果表明,所提算法获得的Pareto最优解集具有最佳的收敛性和分布性,进化算子选择策略可以有效提升对时变因素的适应能力,改善算法性能.