基于跨会话知识图谱的图注意力网络推荐方法

基于会话的推荐方法旨在根据匿名用户行为序列预测下一个项目。然而,现有会话推荐方法多基于当前会话建模用户偏好,忽略了会话间蕴含的语义信息及知识图谱中丰富的实体和关系信息,无法有效缓解数据稀疏性的问题。提出一种基于跨会话信息与知识图谱的图注意力网络推荐方法。通过有效整合跨会话信息和知识图谱中的项目知识构建跨会话知识图谱,利用知识感知的注意力机制计算各邻居节点的重要性分数,以更新项目节点表示,采用门控循环单元和图注意力网络将每个会话表示为该会话的当前偏好和全局偏好的组合。在此基础上,将会话嵌入和项目嵌入拼接后输入到多层感知机,得到目标会话和候选项目的预测分数,从而实现会话推荐。实验结果表明,与GRU4REC、SR-GNN、FGNN等方法相比,该方法在KKBOX和JDATA两个真实数据集上的推荐命中率分别至少提高了8.23和2.41个百分点,能有效增强会话推荐性能。     

融合GRU和CNN的轻量级网络入侵检测模型

当前网络流量数据呈现出高维、多态、海量的特点, 这对入侵检测是一个新挑战. 针对传统入侵检测模型中检测效率低、缺乏轻量化考虑等局限性, 提出了一种融合GRU和CNN的轻量级网络入侵检测模型. 首先使用极度随机树删除数据集中的冗余特征; 其次使用GRU进行特征提取. 考虑到数据中的长短期依赖关系, 将所有隐藏层输出作为序列特征信息进行下一步处理; 再通过带有逆残差、深度可分离卷积、空洞卷积等结构的轻量化CNN模型进行空间特征提取; 为了加速模型收敛加入了通道注意力机制. 最后在CIC-IDS2017数据集上的实验表明, 该方法具有优秀的检测性能, 同时也具有模型参数量少、模型体积小、训练时间短、检测时间短等优点, 适用于网络流量的入侵检测工作.     

基于新型日期映射法和ISGU混合模型的短期电力负荷预测

针对电力负荷非线性、预测条件多样性、预测模型参数设置主观性等问题,提出一种基于强适应性的日均负荷日期映射法、高非线性拟合性能的门控循环单元(Gate Recurrent Unit, GRU)和强搜索性能的改进麻雀搜索算法(Improved Sparrow Search Algorithm, ISSA)相结合的ISSA-GRU(ISGU)混合模型进行短期电力负荷预测(Short-term Load Forecasting, STLF)。首先,利用日均负荷日期映射法对星期-节假日因素进行映射,解决该因素因非数字化导致不易输入预测网络的问题。随后,从诸多相关因素中筛选出高度相关特征值,以此解决预测条件多样性问题。最后,构建GRU网络进行负荷预测,并引入ISSA算法对GRU网络参数进行客观配置。为验证ISGU混合模型的有效性,采用新加坡电力负荷数据进行实验,并将实验结果与现有算法进行比较。实验结果表明,所提方法对STLF具有良好性能,有效提高了STLF统计标准的精度指标。     

面向短时地铁客流量预测的混合深度学习模型

城市交通客流量精准预测是智能交通系统的重要环节,是有效管控交通、规划最佳出行线路的关键。目前城市交通客流量短时预测研究主要集中在利用深度学习模型进行时空特征的提取,忽略了对模型优化的研究。针对短时地铁客流量预测存在的问题,提出一种混合深度学习模型ResGRU_Metro,将卷积神经网络、残差单元和门控循环单元相结合,捕获流量数据的时空特征。针对深度学习模型常用的损失函数难以对交通客流量峰值进行精准预测的问题,引入面向短时交通流量预测的加权平方误差,根据交通客流量的大小为预测误差赋予不同权重,并加大对交通客流量峰值处误差的惩罚,使神经网络在反向传播时更加关注峰值处的预测和误差,从而提升交通客流量峰值的预测精度。此外,通过耦合天气、空气质量等外部因子,改善模型的整体预测性能,增强模型的稳定性。实验结果表明,相比LR、PSVR、CNN等典型的预测模型,ResGRU_Metro模型有更高的预测精度,能够准确预测交通客流量的峰值。     

基于EEMD-GRU网络模型的短期风速预测

为了克服因风速信号固有的震动性、非线性特性引起的预测精度不高的问题, 本文提出了使用集合经验模态分解算法和门控循环单元两种方法相结合的组合模型对风速进行预测. 该模型首先对数据进行归一化处理, 使用孤立森林算法, 剔除异常点, 然后用EEMD (ensemble empirical mode decomposition)方法, 将风速拆分成不同尺度的信号, 消除数据的非平稳性, 将分解得到的相对平稳的分量信号分别送入GRU (gated recurrent unit)模型进行训练, 获得各自的预测结果, 最终风速由所有分量各自预测的结果累加得到. 实验中采用实地采集数据进行实验, 结果证实, EEMD-GRU方法相较于目前主流的EEMD-LSTM、EMD-LSTM等方法, 预测精度有明显提升.     

基于改进GRU的电力大数据分析

针对电力大数据存在冲击数据、无效数据等异常值导致真实规律难以挖掘的问题,提出一种基于改进GRU的电力大数据分析模型。该模型首先分析了异常值导致数据规律失真的情况,提出利用自适应阈值的小波滤波进行数据清洗;其次以单数据周期为分段点对数据进行分段,以各数据段同一时刻的记忆求和均值为标准记忆;最后,根据数据段的质量改进GRU记忆能力,即保留质量好的数据段记忆、删除质量差的数据段记忆。为了验证模型的性能,选择光伏发电数据进行实验,结果表明：本模型在数据质量较高时的预测准确率比ARIMA、LSTM和标准GRU分别提高了61%、30%和25%,数据质量较差时的预测准确率分别提高了76%、16%和11%。     

基于GRU-NN模型的短期负荷预测方法

目前基于统计分析和机器学习的预测方法难以同时兼顾负荷数据的时序性和非线性特点。文中提出了一种基于GRU-NN模型的短期电力负荷预测方法。该方法基于深度学习思想处理不同类型的负荷影响因素,引入门控循环单元(GRU)网络处理具有时序性特点的历史负荷序列,建模学习负荷数据内部动态变化规律,其输出结果与其他外部影响因素(天气、日类型等)融合为新的输入特征,使用深度神经网络进行处理,整体分析特征与负荷变化的内在联系,最后完成负荷预测。以美国某公共事业部门提供的公开数据集和中国某地区的负荷数据作为实际算例,该方法预测精度分别达到了97.30%和97.12%,并与长短期记忆神经网络、多层感知机以及GRU神经网络方法进行对比,实验结果表明所提方法具有更高的预测精度和更快的预测速度。     

结合门循环单元和生成对抗网络的图像文字去除

目的 图像文本信息在日常生活中无处不在,其在传递信息的同时,也带来了信息泄露问题,而图像文字去除算法很好地解决了这个问题,但存在文字去除不干净以及文字去除后的区域填充结果视觉感受不佳等问题。为此,本文提出了一种基于门循环单元(gate recurrent unit,GRU)的图像文字去除模型,可以高质量和高效地去除图像中的文字。方法 通过由门循环单元组成的笔画级二值掩膜检测模块精确地获得输入图像的笔画级二值掩膜;将得到的笔画级二值掩膜作为辅助信息,输入到基于生成对抗网络的文字去除模块中进行文字的去除和背景颜色的回填,并使用本文提出的文字损失函数和亮度损失函数提升文字去除的效果,以实现对文字高质量去除,同时使用逆残差块代替普通卷积,以实现高效率的文字去除。结果 在1 080组通过人工处理得到的真实数据集和使用文字合成方法合成的1 000组合成数据集上,与其他3种文字去除方法进行了对比实验,实验结果表明,在峰值信噪比和结构相似性等图像质量指标以及视觉效果上,本文方法均取得了更好的性能。结论 本文提出的基于门循环单元的图像文字去除模型,与对比方法相比,不仅能够有效解决图像文字去除不干净以及文字去除后的区域与背景不一致问题,并能有效地减少模型的参数量和计算量,最终整体计算量降低了72.0%。     

基于Attention-GRU的短期电价预测

通过分析得出电价与负荷具有相关性,因此在电价预测模型中需要考虑实时负荷的影响。在此基础上针对前馈神经网络不能处理时序数据的缺陷与LSTM神经网络预测速度慢的问题,提出了一种基于Attention-GRU (Attention gated recurrent unit, Attention-GRU)的实时负荷条件下短期电价预测模型。该模型充分利用电价的时序特性,并采用Attention机制突出了对电价预测起关键性作用的输入特征。以美国PJM电力市场实时数据为例进行分析,通过与其他几种预测模型相比,验证了该方法具有更高的预测精度;与LSTM神经网络相比具有更快的预测速度。     

基于PSO算法优化GRU神经网络的短期负荷预测

为了实现高精度的电力系统短期负荷预测,提出了基于粒子群优化(particle swarm optimization,PSO)算法优化门控循环单元(gated recurrent unit,GRU)神经网络的电力系统短期负荷预测模型。首先建立GRU神经网络,GRU神经网络采用了门控循环单元,与采用传统循环单元的传统循环神经网络相比,克服了传统循环神经网络中可能出现的梯度爆炸和梯度消失问题;继而采用具有较强全局优化能力的改进粒子群算法对GRU神经网络参数进行优化,有效提高模型的预测精度。通过实际算例仿真分析,并与传统的GRU神经网络预测模型以及反向传播(back propagation,BP)神经网络预测模型进行对比,验证了所提电力系统短期负荷预测模型具有较好的精度和稳定性。