基于深度学习的中文微博作者身份识别研究

作者身份识别一直在公安行业和文检工作中起着重要的作用。现有的作者语言风格建模过程繁琐、文本特征工程没有普适性。针对此问题,在无须专家进行特征建模的情况下,提出CABLSTM中文微博作者身份识别模型,并在公开微博语料集测试该模型准确度。该模型为最大化提取短文本特征,融合attention机制于CNN中并去除池化层,通过双向LSTM以获取上下文相关信息,身份识别结果通过softmax层进行输出。实验结果表明,该模型在进行中文微博作者身份识别任务中与传统机器学习算法以及TextCNN和LSTM算法相对比,在准确率、召回率、◢F◣值方面都有一定的提升。     

基于改进的深度Q网络结构的商品推荐模型

传统推荐方法存在数据稀疏和特征识别差等问题,为了解决这些问题,根据隐式反馈构建具有时序性的正负反馈数据集。由于正负反馈数据集和商品购买具有强时序性特征,引入长短期记忆（LSTM）网络作为模型构件。考虑用户自身特征和用户动作选择回报由不同的输入数据决定,对竞争架构的深度Q网络进行改进,融合用户正负反馈和商品购买时序性,设计了基于改进的深度Q网络结构的商品推荐模型。模型对正负反馈数据进行区分性训练,对商品购买的时序性特征进行提取。在Retailrocket数据集上,与因子分解机（FM）模型、W&D模型和协同过滤（CF）模型中表现最好的相比,所提模型的准确率、召回率、平均准确率（MAP）和归一化折损累计增益（NDCG）分别提高了158.42%、89.81%、95.00%和67.57%。同时,使用DBGD作为探索方法,改善了推荐商品多样性低的缺陷。     

基于文本筛选和改进BERT的长文本方面级情感分析

方面级情感分析旨在分类出文本在不同方面的情感倾向。在长文本的方面级情感分析中,由于长文本存在的冗余和噪声问题,导致现有的方面级情感分析算法对于长文本中方面相关信息的特征提取不够充分,分类不精准;而在方面分层为粗粒度和细粒度方面的数据集上,现有的解决方案没有利用粗粒度方面中的信息。针对以上问题,提出基于文本筛选和改进BERT的算法TFN+BERT-Pair-ATT。该算法首先利用长短时记忆网络（LSTM）和注意力机制相结合的文本筛选网络（TFN）从长文本中直接筛选出与粗粒度方面相关的部分语句;然后将部分语句按次序进行组合,并与细粒度方面相结合输入至在BERT上增加注意力层的BERT-Pair-ATT中进行特征提取;最后使用Softmax进行情感分类。通过与基于卷积神经网络（CNN）的GCAE（Gated Convolutional Network with Aspect Embedding）、基于LSTM的交互式注意力模型（IAN）等经典模型相比,该算法在验证集上的相关评价指标分别提高了3.66%和4.59%,与原始BERT模型相比提高了0.58%。实验结果表明,基于文本筛选和改进BERT的算法在长文本方面级情感分析任务中具有较大的价值。     

基于LSTM模型的食品安全网络舆情预警研究

近几年,食品安全网络舆情事件数量激增,引起了国家的高度重视。目前的食品安全网络舆情预警指标体系对主题属性和传播扩散指标考虑不全面,未深入考虑舆情自身特性和演化规律,而且目前的网络舆情预警模型也不能很好地考虑舆情不同特征之间的相互联系,导致舆情预警准确率不高。针对以上问题,提出包括主题属性、传播扩散等5个维度的指标体系,并在此基础上提出长短时记忆网络Re-LSTM模型,使用正则化方法约束网络中各单元输入权重并用softsign函数替代tanh激活函数。与其他经典模型对比,所构建的模型不仅能够提高预警准确率,而且还能够更好地避免梯度消失和过拟合问题。     

基于三支决策的序列数据代价敏感分类算法

代价敏感分类区别于一般分类方法,更关注高代价类别的分类准确性而容忍全局分类的准确性。三支决策作为一种代价敏感分类问题的解决思路,缺乏对序列数据的支持。结合LSTM模型处理序列数据的能力,提出一种使用三支决策（3WD）改进的序列数据分类方法。方法经过LSTM网络对原数据进行粗分类;对分类结果进行整体代价评估;最终,对高风险分类进行延迟或拒绝处理。方法在4个数据集上进行了测试,并进行了2组对比实验。实验结果表明:本文方法在不改变LSTM模型的情况下,对LSTM模型的分类结果进行了代价区分。     

基于长短期记忆网络的风电机组齿轮箱故障预测

针对风电齿轮箱状态监测数据的多变量动态时空关联性特点,提出了一种基于长短期记忆(long short-term memory,LSTM)网络的齿轮箱故障预测方法,主要包括离线建模和在线监测两个阶段。首先,以齿轮箱油温为目标预测变量,充分考虑其与其它相关输入变量之间在时空维度上的重要关联信息,对历史监测数据进行训练学习,建立齿轮箱正常运行时的油温监测LSTM模型,通过对预测残差进行评估计算设定相应的检测阈值;然后,将训练好的油温监测LSTM模型用于在线测试,通过模型残差分析和阈值比较实现齿轮箱故障状态的检测和预测;最后,通过风电场测试数据对所提出的方法进行验证。结果表明,相比于其它传统方法,该方法表现出更好的预测性能,能够较早预测故障的发生。     

Cardiac Arrhythmia Disease Classification Using LSTM Deep Learning Approach

Many approaches have been tried for the classification of arrhythmia. Due to the dynamic nature of electrocardiogram (ECG) signals, it is challenging to use traditional handcrafted techniques, making a machine learning (ML) implementation attractive. Competent monitoring of cardiac arrhythmia patients can save lives. Cardiac arrhythmia prediction and classification has improved significantly during the last few years. Arrhythmias are a group of conditions in which the electrical activity of the heart is abnormal, either faster or slower than normal. It is the most frequent cause of death for both men and women every year in the world. This paper presents a deep learning (DL) technique for the classification of arrhythmias. The proposed technique makes use of the University of California, Irvine (UCI) repository, which consists of a high-dimensional cardiac arrhythmia dataset of 279 attributes. In this research, our goal was to classify cardiac arrhythmia patients into 16 classes depending on the characteristics of the electrocardiography dataset. The DL approach in the form of long short-term memory (LSTM) is an efficient technique to deal with reduced accuracy due to vanishing and exploding gradients in traditional DL frameworks for big data analysis. The goal of this research was to categorize cardiac arrhythmia patients by developing an efficient intelligent system using the LSTM DL algorithm. This approach to arrhythmia classification includes classification algorithms along with noise removal techniques. Therefore, we utilized principal components analysis (PCA) for noise removal, and LSTM for classification. This hybrid comprehensive arrhythmia classification approach performs better than previous approaches to arrhythmia classification. We attained a highest classification accuracy of 93.5% with the DL based disease classification system, and outperformed the earlier approaches used for cardiac arrhythmia classification.     

基于声发射和长短时记忆神经网络的端对端燃气高压调压器故障诊断

在燃气输配系统中燃气调压器处于关键位置,及时有效地诊断其故障类型具有重要意义。文章提出了一种基于声发射信号和长短时记忆神经网络的端到端故障诊断方法,直接利用时域声发射信号对调压器的运行状态进行诊断。首先,设计一个二阶巴特沃斯高通滤波器对采集的声发射信号进行预处理;其次,利用长短时记忆网络（LongShort Term Memory networks,LSTMs）的记忆特性,构建长短时记忆网络端到端（e2e-LSTM）故障诊断模型。实验结果表明,该模型根据输入的高压调压站采集的声发射信号,能够以端到端模式一次性地诊断五种高压调压器故障。     

系统日志故障预测中的ELK与LSTM应用与实践

随着业务系统规模不断扩大, 系统结构也变得十分复杂, 常规基于规则的方法已经很难判断多个系统相互作用下的复合型故障, 也难以对潜在故障进行预测. 本文在多业务系统的复杂场景下, 使用ELK平台对日志进行集中化管理, 梳理出复杂系统环境下日志与各业务系统、主机、进程之间的关系, 筛选出系统中直接与故障相关的日志文件, 进而在深度学习框架TensorFlow中使用这些海量数据对LSTM算法模型进行训练, 从而实现对系统的实时故障预测.     

基于演化LSTM神经网络的用户终端睡眠预测模型

用户处于睡眠状态时手机后台自主挂起不必要的系统或应用进程可以有效降低能耗, 因此在不损害用户使用体验的前提下准确判断用户是否处于睡眠状态具有重要意义. 围绕该问题设计了覆盖率和唤醒率作为新的衡量指标, 提出一种基于LSTM神经网络的睡眠预测模型, 结合LSTM神经网络能够较好处理时序特征数据的特点和演化算法能够优化不可导目标函数的特性, 将LSTM神经网络的参数作为差分演化算法的优化参数, 覆盖率和唤醒率的综合目标作为选择函数, 同时在每次迭代中重新评估选择函数使其适应小批量训练法. 实验结果表明, 采用演化算法训练LSTM神经网络得到的预测结果相较于传统分类模型能在低唤醒率时达到更好的覆盖率, 平均提升约5%.