基于时序特征的草图识别方法

草图识别是一项很具有挑战性的工作。目前,大部分草图识别的工作都将草图当作普通的纹理图像,忽视了草图的时序性。因此,文中通过挖掘草图的时序性,将草图笔画按照时间分组。为进一步利用时序特征在草图识别过程中的作用,使用了循环神经网络将笔画分组按照时间序列作为输入,最后使用联合贝叶斯将各个时序下获得的草图特征进行整合,完成草图的识别工作。在公开标准数据集上对所提算法进行了测试,实验结果显示该算法的识别准确率明显高于其他算法。     

基于复合神经网络的学习风格动态分析与研究

近年随着慕课（MOOC）等新兴教育教学手段的快速发展,大量的学习者学习行为可以被系统所记录和分析,从而为个性化教学奠定了重要基础。在Felder-Silverman学习风格模型的理论基础上,通过引入智能分析算法动态地分析和识别学习者学习风格,构建了一套融合了卷积神经网络和循环神经网络的“识别-推理”复合模型,通过学习者的线上学习行为、社区交互行为、学习内容浏览行为、点击拖动行为等学习过程识别其学习行为特征,并使用基于门控循环单元（Gated Recurrent Unit,GRU）的循环神经网络处理和预测其可能的学习风格及对学习内容形式的偏好,以更高效地为学习者提供适应于其学习风格的学习内容和路径,优化学习体验,为大规模、个性化和高质量的下一代学习平台提供技术支撑。     

基于CNN词根形态选择模型的改进蒙汉机器翻译研究

随着科学技术的发展,以循环神经网络为基础的机器翻译方法由于翻译质量更好而逐渐取代统计机器翻译方法,特别是在国际大语种之间的互译方面,RNN在对语料编码时能够提取更好的特征,这对翻译质量好坏至关重要。然而在蒙古语这类小语种的翻译方面,由于语料不足导致的数据稀疏和RNN模型训练梯度消失等问题,很难从语料中充分获取语义关系,因此该文提出一种基于卷积神经网络CNN(convolutional neural network)的蒙汉机器翻译方法,在对源语料编码时利用池化层获取语义关系,并根据蒙古语构词特点得到句子的语义信息,再通过融合全局注意力机制的GRU循环神经网络将编码过后的源语言解码为汉语。实验结果表明,该方法在翻译准确率和训练速度两方面均优于RNN基准机器翻译方法。     

面向消化内科辅助诊疗的生成式对话系统

社会的高速发展带给群众的压力越来越大,由于工作压力和自身问题,越来越多的人饮食不规律且不健康,导致患有消化系统疾病的人群日益扩大,而在身体刚出现异样时,大部分人会首先选择在网上寻找信息帮助,由于传统搜索引擎的局限性,过程耗时,且因为消化内科疾病的多样性,用户很难准确获取相关信息.针对这一问题,考虑到对话系统作为一种较为高级的信息检索系统,能够根据用户的输入及时返回相关有效信息,本文探索了一种适用于消化科领域的生成式对话系统,通过支持向量机分类与主动学习相结合,在多个医学网站获取消化内科的专业问诊对话语料,人工与统计相结合构建消化内科疾病、药品和症状专业词典,改善传统分词工具在消化内科领域分词效果,在提高分词效果的基础上,使用Encoder与Decoder多层结构和门控循环单元GRU结合的方式,加入注意力机制,提出结合颠倒输入、键值对向量和Word2Vec向量的模型加强训练法,从而获得最终的消化内科生成式问答系统.实验结果表明,分词的准确率比传统方式高,且得出的对话模型能够有效的生成与问句相关的答句,提高对话系统的回答准确率.     

面向短时地铁客流量预测的混合深度学习模型

城市交通客流量精准预测是智能交通系统的重要环节,是有效管控交通、规划最佳出行线路的关键。目前城市交通客流量短时预测研究主要集中在利用深度学习模型进行时空特征的提取,忽略了对模型优化的研究。针对短时地铁客流量预测存在的问题,提出一种混合深度学习模型ResGRU_Metro,将卷积神经网络、残差单元和门控循环单元相结合,捕获流量数据的时空特征。针对深度学习模型常用的损失函数难以对交通客流量峰值进行精准预测的问题,引入面向短时交通流量预测的加权平方误差,根据交通客流量的大小为预测误差赋予不同权重,并加大对交通客流量峰值处误差的惩罚,使神经网络在反向传播时更加关注峰值处的预测和误差,从而提升交通客流量峰值的预测精度。此外,通过耦合天气、空气质量等外部因子,改善模型的整体预测性能,增强模型的稳定性。实验结果表明,相比LR、PSVR、CNN等典型的预测模型,ResGRU_Metro模型有更高的预测精度,能够准确预测交通客流量的峰值。     

基于NN-Attention的中文短文本摘要

在以往的Attention模型中, 只采用了Bidirectional-RNN, BRNN对上下文信息是有效的, 但是无法提取文本的高维特征, 所以引入了CNN. 因为基于矩阵变换的Attention模型无法对CNN抽取的特征进行表征, 所以采用全连接神经网络对Attention模型进行改进, 提出了NN-Attention. 为了加速模型的训练, 采用的循环神经网络为GRU. 实验采用CSTSD数据集, 并用TensorFlow完成模型的构建. 实验结果表明, 该模型在CSTSD数据集中可以较好地实现文本摘要的自动生成.     

基于GRU-NN模型的短期负荷预测方法

目前基于统计分析和机器学习的预测方法难以同时兼顾负荷数据的时序性和非线性特点。文中提出了一种基于GRU-NN模型的短期电力负荷预测方法。该方法基于深度学习思想处理不同类型的负荷影响因素,引入门控循环单元(GRU)网络处理具有时序性特点的历史负荷序列,建模学习负荷数据内部动态变化规律,其输出结果与其他外部影响因素(天气、日类型等)融合为新的输入特征,使用深度神经网络进行处理,整体分析特征与负荷变化的内在联系,最后完成负荷预测。以美国某公共事业部门提供的公开数据集和中国某地区的负荷数据作为实际算例,该方法预测精度分别达到了97.30%和97.12%,并与长短期记忆神经网络、多层感知机以及GRU神经网络方法进行对比,实验结果表明所提方法具有更高的预测精度和更快的预测速度。     

结合深度学习和分解算法的股票价格预测研究

针对股票价格预测问题,实现对非平稳、非线性股票价格序列的预测,提出一种结合深度学习和分解算法的股票价格预测模型。该模型引入自适应噪声的完整集成经验模态分解（CEEMDAN）算法提取股票价格时间序列在时间尺度上的特征,利用注意力机制捕获输入特征参数的权重并结合门控循环单元（GRU）网络进行股票价格预测。实验对苹果、贵州茅台等国内外四家公司的股票价格和上证指数进行预测,结果表明与RNN、LSTM等模型相比,所提模型能有效减少预测误差,提高模型拟合能力。     

基于时空特征融合的网络流量预测模型

随着网络规模的日益增大,实时准确的网络流量预测对流量调度、路由设计等工作至关重要。由于网络流量数据的非线性和不确定性,一些传统方法无法取得较好的预测精度。针对网络流量复杂的时空特征,本文提出一种基于时空特征融合的神经网络(ST-Fusion)进行流量预测。该模型采用编码器-解码器结构。首先,编码器具有时间和空间两个并行的特征通道,联合门限循环网络和自注意力机制提取流量的时序特征,采用图卷积神经网络提取流量的空间特征;然后,将编码器提取的时空特征使用双边门限机制进行特征融合;最后,将融合的结果输入到基于门限循环网络的解码器中依次生成预测结果。本文在3个公开的网络流量数据集(GEANT、ABILENE、CERNET)上进行实验,其评价指标选用MAE、RMSE、ACCURACY、VAR。实验结果表明ST-Fusion方法能够取得更好的预测效果。     

基于时序超图卷积神经网络的股票趋势预测方法

传统的股票预测方法大多基于时间序列模型,忽视了股票之间复杂的关系,并且该关系往往超出成对连接,例如同行业板块内股票或者基金持仓多支股票.针对该问题,提出一种基于时序超图卷积神经网络(HGCN)的股价走势预测方法,根据金融投资事实构造超图模型以拟合股票之间的多元关系,该模型包括两大组件:门控循环单元(GRU)网络和超图卷...