基于自然语言处理的大客户增值服务政策咨询机器人

随着电网建设推进，人工智能技术在电网系统中的成功应用极大程度地减少了人力资源的成本。对于许多需要大量客服人员在线回复的平台，已经出现自动回复代替人工对话的功能。基于现有电力行业政策库及政策咨询人工回复数据，对咨询问题与回复数据进行分词处理，将分词后的句子进行词向量化，利用Tensorflow框架搭建的GRU网络模型对场景对话进行训练，实现需求侧管理增值服务政策咨询智能化回复代替人工的功能。试验证明，智能机器人自动回复功能不仅普及了电力政策，且减轻了客服人员的压力，提升了客户满意度。     

基于GRU与迁移学习的滚动轴承故障诊断

现阶段基于深度学习的故障诊断需要大量的数据,而制作数据集是一项耗时耗力的工作。针对这一缺点,提出一种基于门控循环单元(Gate Recurrent Unit,GRU)与迁移学习的滚动轴承故障诊断方法。该方法利用与目标域特征相似且易获得源域数据的特点训练网络,确定网络结构和参数,冻结经过训练的卷积神经网络(Convolutional Neural Networks,CNN)和GRU,用小样本目标域数据训练该网络,微调全连接层和分类层,达到迁移的目的。实验对比分析表明,基于GRU与迁移学习的滚动轴承故障诊断方法明显优于基于BP神经网络和基于概率神经网络(Probabilistic Neural Network,PNN)方法的故障诊断,能够更加准确地进行故障分类,为小样本数据集下的故障诊断提出了新思路。     

结合深度学习和分解算法的股票价格预测研究

针对股票价格预测问题,实现对非平稳、非线性股票价格序列的预测,提出一种结合深度学习和分解算法的股票价格预测模型。该模型引入自适应噪声的完整集成经验模态分解（CEEMDAN）算法提取股票价格时间序列在时间尺度上的特征,利用注意力机制捕获输入特征参数的权重并结合门控循环单元（GRU）网络进行股票价格预测。实验对苹果、贵州茅台等国内外四家公司的股票价格和上证指数进行预测,结果表明与RNN、LSTM等模型相比,所提模型能有效减少预测误差,提高模型拟合能力。     

基于深度神经网络的个性化混合商品推荐模型

针对推荐系统广泛采用的协同过滤算法存在的稀疏性和冷启动问题,提出了一种基于深度神经网络和动态协同滤波的推荐模型.该模型采用预训练BERT模型结合双向GRU从用户和商品评论中提取隐含特征向量,利用耦合CNN构建评分预测矩阵,通过动态协同滤波融入用户兴趣变化的时间特征.在亚马逊公开数据集上进行实验,结果表明该模型提高了商品评分预测的准确性.     

基于AGRU-GNN的图网络社交推荐算法

在推荐系统中,用户对物品的兴趣是动态变化的,会受用户自身历史行为、朋友历史行为甚至短时热点等多方面因素影响.而如何在推荐系统中对用户的时序兴趣进行描述并提取有效信息,一直以来是推荐算法的一大挑战之一.本文在图神经网络(GNN)推荐算法的基础上,提出一种基于注意力门控循环单元(Attention-GRU)的改进图网络算法,对用户、物品的交互时序历史进行特征建模,于此同时结合社交网络将此时序特征在用户、物品之间传播.算法在Ciao与Epionions数据集上进行了验证,并与其他相关工作进行对比,证明了该模型有效地提取了用户、物品的时序特征,提升了推荐系统的有效性.     

基于GRU网络的电网故障诊断方法研究

为了提高电网故障诊断的效率和准确性,提出一种基于GRU(Gated Recurrent Unit,GRU)网络的单相接地故障诊断模型。南方电网数据验证结果表明,基于GRU网络的电网故障诊断模型能够有效诊断单相接地故障,诊断准确率可以达到91.9%。     

结合GloVe和GRU的文本分类模型

文本分类有着广泛的应用,对其分类算法的研究也一直备受关注。但是,传统文本分类算法普遍存在文本特征向量化维度过高、没有考虑关键词之间语义关系、训练参数过多等问题,这些都将影响到分类准确率等性能。针对这些问题,提出了一种结合词向量化与GRU的文本分类算法。对文本进行预处理操作;通过GloVe进行词向量化,尽可能多地蕴含文本语义和语法信息,同时降低向量空间维度;再利用GRU神经网络模型进行训练,最大程度保留长文本中长距离词之间的语义关联。实验结果证明,该算法对提高文本分类性能有较明显的作用。     

基于NN-Attention的中文短文本摘要

在以往的Attention模型中, 只采用了Bidirectional-RNN, BRNN对上下文信息是有效的, 但是无法提取文本的高维特征, 所以引入了CNN. 因为基于矩阵变换的Attention模型无法对CNN抽取的特征进行表征, 所以采用全连接神经网络对Attention模型进行改进, 提出了NN-Attention. 为了加速模型的训练, 采用的循环神经网络为GRU. 实验采用CSTSD数据集, 并用TensorFlow完成模型的构建. 实验结果表明, 该模型在CSTSD数据集中可以较好地实现文本摘要的自动生成.     

基于PSO-GRU神经网络的青椒生长期需水预测

青椒生长期内需水量与气温、气压、相对湿度等因子之间存在复杂的非线性关系,需水量变化呈现出时序性和周期性的规律,为提高青椒生长期日均需水量的预测精度,提出一种PSO-GRU青椒生长期日均需水预测模型。以2014—2018年实验所得的青椒需水和气象环境等数据为数据源,将日均气温、气压、风速等六维数据作为特征集,需水量作为标签,采用GRU神经网络作为需水预测的训练模型,并针对GRU超参数容易陷入局部最优的问题,利用粒子群算法(PSO）优化GRU模型的超参数,通过仿真实验对青椒生长期日均需水量进行预测,并与RNN,LSTM和GRU等模型进行对比,验证PSO-GRU模型的优越性。仿真实验结果表明：PSO-GRU模型的预测精度和拟合效果显著提高,RMSE为0.505,MAE为0.388,MAPE为7.73,R2为0.888。PSO-GRU模型可为制定灌溉计划提供依据,有利于节水灌溉,推动农业种植水利信息化。     

融合GRU和CNN的轻量级网络入侵检测模型

当前网络流量数据呈现出高维、多态、海量的特点, 这对入侵检测是一个新挑战. 针对传统入侵检测模型中检测效率低、缺乏轻量化考虑等局限性, 提出了一种融合GRU和CNN的轻量级网络入侵检测模型. 首先使用极度随机树删除数据集中的冗余特征; 其次使用GRU进行特征提取. 考虑到数据中的长短期依赖关系, 将所有隐藏层输出作为序列特征信息进行下一步处理; 再通过带有逆残差、深度可分离卷积、空洞卷积等结构的轻量化CNN模型进行空间特征提取; 为了加速模型收敛加入了通道注意力机制. 最后在CIC-IDS2017数据集上的实验表明, 该方法具有优秀的检测性能, 同时也具有模型参数量少、模型体积小、训练时间短、检测时间短等优点, 适用于网络流量的入侵检测工作.