基于群密度的改进果蝇优化算法及在异常检测中的应用

针对传统果蝇算法面临的收敛稳定性差、难以协调全局搜索及局部搜索能力等缺点,提出一种基于群密度的改进果蝇优化算法。首先,借鉴现有算法的优势,将果蝇种群分为搜索果蝇和跟随果蝇,并分别使用两类果蝇进行全局化搜索与局部精细化搜索。然后,为提高算法全局搜索的稳定性,在每次迭代过程中使用基于最优区间回避的分区采样策略更新搜索果蝇的位置;该策略在每次迭代过程中获得表现最优的若干只果蝇以构造最优果蝇组,根据最优果蝇组中果蝇个体在每个维度上的取值范围确定最优区间,并通过对最优区间外的其他区间分区采样以确定搜索果蝇的新位置。最后,为协调算法的全局搜索能力与局部搜索能力,引入群密度的概念,通过计算果蝇群密度并结合相关阈值实现不同种群规模的动态调整。针对典型测试函数的实验结果表明,基于最优区间回避的分区采样策略相对于传统随机函数具有更强的全局优化性能。与传统优化算法相比,本文算法在保证收敛速度的同时获得了较高的寻优精度及稳定性,在综合性能上得到明显提升。在KDDcup99数据集上的异常检测仿真实验结果表明,本文基于分区采样及群密度的果蝇优化算法能有效避免局部最优,在获取异常检测分类器的重要参数最佳取值方面起到一定作用。     

基于用户兴趣词典和LSTM的个性化情感分类方法

微博是一个可以分享生活、发表看法、发泄情感的社交平台,由于数据量大且易于获取,微博数据已被广泛用于网络用户情感分析.传统对微博进行情感预测的研究没有考虑用户的用词喜好、语言风格等个性化因素的影响,使得情感分类结果的准确性不高.首先通过分析用户兴趣特征构建用户兴趣词典,在此基础上提出基于用户兴趣词典的情感分类模型;然后利用长短期记忆网络(Long Short-Term Memory,LSTM)分类准确性高的特点训练一个通用的LSTM分类模型;最后利用支持向量机融合不同模型以得到最终的情感分类结果.实验结果表明,与支持向量机、朴素贝叶斯等传统分类器相比,基于用户兴趣词典与LSTM的个性化情感分类方法在分类精度上有较大提升;与LSTM、循环神经网络等深度学习方法相比,该方法在保证运行效率的前提下能获得更高的分类精度.     

基于深度学习的语言模型研究进展

语言模型旨在对语言的内隐知识进行表示,作为自然语言处理的基本问题,一直广受关注．基于深度学习的语言模型是目前自然语言处理领域的研究热点,通过预训练-微调技术展现了内在强大的表示能力,并能够大幅提升下游任务性能．本文围绕语言模型基本原理和不同应用方向,以神经概率语言模型与预训练语言模型作为深度学习与自然语言处理结合的切入点,从语言模型的基本概念和理论出发,介绍了神经概率与预训练模型的应用情况和当前面临的挑战,对现有神经概率、预训练语言模型及方法进行对比和分析．我们又从新型训练任务和改进网络结构两方面对预训练语言模型训练方法进行详细阐述,并对目前预训练模型在规模压缩、知识融合、多模态和跨语言等研究方向进行概述和评价．最后总结语言模型在当前自然语言处理应用中的瓶颈,对未来可能的研究重点做出展望．     

基于维度分区的果蝇优化新算法

为提高果蝇算法的收敛稳定性,提出了一种基于维度分区的果蝇优化新算法。将果蝇种群均分为两组:跟随果蝇和搜索果蝇。跟随果蝇在全局最优果蝇附近实现精细化局部搜索,而搜索果蝇则将位置向量的每个维度搜索范围划分为若干个区间,通过比较各个区间的最优位置来更新果蝇位置。为加快算法收敛速度,若某搜索果蝇在连续若干次迭代过程中 均 表现最差,则在当前最优果蝇位置附近产生该果蝇的新位置。针对8种典型函数的仿真实验表明:与传统算法相比, 所提算法所需参数较少,收敛稳定性高,并且在收敛精度及收敛速度等方面具有明显优势。     

基于用户兴趣集的在线垃圾邮件快速识别新方法

为在不显著降低垃圾邮件识别精度的同时有效提高邮件识别速度,提出了一种在线垃圾邮件快速识别新方法.首先引入用户正、负兴趣集的概念,结合用户兴趣集及支持向量机对邮件进行分类;然后根据主动学习理论,结合训练集样本密度及改进角度差异方法寻找分类最不确定的样本并推荐给用户进行类别标注;最后将标注后样本及分类最确定性样本加入训练集,并使用样本价值评价新函数淘汰冗余样本以生成新的训练集.实验表明,本文方法的用户标注负担小,垃圾邮件识别精度高、速度快,具有较高的在线应用价值.     

双重驱动的果蝇优化算法及其在PID控制器中的应用

针对工业环境中齿轮箱多故障特征难以选择的问题,结合Fisher Score与最大信息系数(MIC)构建一种新的故障特征优化选择方法.首先,考虑到多故障特征分布不均匀和重叠性问题,采用Fisher Score计算方法构建特征指标重要度排序规则;其次,在考虑冗余特征对有效特征表征的影响基础上,利用最大信息系数构建特征间关联性评价方法,对冗余特征实现更新排序;再次,以分类准确率为判断依据,基于支持向量机理论(SVM)对排序模型进行修正,建立基于Fisher Score与最大信息系数的故障特征优化选择方法;最后,利用UCI标准数据集和实验仿真的齿轮箱故障数据进行实验以验证所提出算法的有效性和工程实用性.仿真实验对比分析表明,与传统的mRMR、reliefF方法相比,所提出的方法特征子集数量适中,准确率更高.     

节点局部Fiedler向量中心性差值社区发现算法

社区结构是复杂网络最重要的一种结构特征。复杂网络中的社区结构研究主要包括社区发现与关键节点发掘两个重要问题。基于节点中心性的社区发现算法可同时进行关键节点发掘与社区发现。针对传统局部Fiedler向量中心性(LFVC)算法存在关键节点识别准确率低,进行社区发现时易出现孤立节点等问题,提出了节点局部Fiedler向量中心性差值社区发现算法(CDDN),设计了新的关键节点识别与边移除策略,并分析了算法性能。选择3种具有代表性的社区发现算法分别在4个真实复杂网络数据集上进行对比实验。实验结果表明,改进的算法既保持了局部中心性度量方法的效率,也防止了错误识别关键节点和关键边对划分结果的负面影响,避免了孤立点所带来的社区结构信息损失,能够快速、准确地发现真实社区。     

基于合群度-隶属度噪声检测及动态特征选择的改进AdaBoost算法

为了提高AdaBoost集成学习算法的数据分类性能,提出基于合群度-隶属度噪声检测及动态特征选择的改进AdaBoost算法. 综合考虑待检测样本与邻居样本的相似度及与不同类别样本集的隶属关系,引入合群度和隶属度的概念,提出新的噪声检测方法. 在此基础上,为了更好地选择那些能够有效区分错分样本的特征,在传统过滤器特征选择方法的基础上提出通用的结合样本权重的动态特征选择方法,以提高AdaBoost算法针对错分样本的分类能力. 以支持向量机作为弱分类器,在8个典型数据集上分别从噪声检测、特征选择及现有方法比较3个方面进行实验. 结果表明,所提算法充分考虑了噪声样本和样本权重对AdaBoost分类结果的影响,相对于传统算法在分类性能上获得显著提升.     

基于事件-词语-特征异质图的微博谣言检测新方法

当前微博谣言检测研究大多基于微博原文、评论内容及其相互关系,忽略了情感特征、语法特征及语言特征等重要因素的影响。为此,该文提出了一种基于事件-词语-特征异质图的微博谣言检测新方法。首先,在传统方法基础上引入情感、语法、心理等方面的知识,提出文本特征的概念以有效挖掘微博事件中蕴含的情感特征、语法特征以及语言特征。然后,综合微博评论、文本词语及文本特征对谣言检测结果的影响,构建用于谣言检测的事件-词语-特征异质图。最后,利用GraphSAGE和异质图注意力网络在节点表达方面的优势提出新的节点信息聚合方法,以此在区分节点类型重要性的同时降低节点集规模带来的影响。实验结果表明,该方法能有效提高微博事件表示的准确性;相对于传统机器学习方法和典型的深度学习方法而言,该方法在谣言检测精度上具有明显优势。     

基于图卷积网络的归纳式微博谣言检测新方法

为了解决传统图卷积神经网络在进行谣言检测时面临的未充分考虑单词语义信息以及池化方法选择困难的问题,提出基于图卷积网络(GCN)的归纳式微博谣言检测新方法. 考虑单词之间的语义关系,结合传统词共现建图方法提出基于词语义相关性的微博事件建图方法,并结合图卷积网络和门循环单元(GRU)实现节点信息聚合;为了有效融合不同节点状态的特征信息,提出基于注意力机制的多池化方法融合策略融合最大池、平均池和全局池以获取最终的图级向量;为了提高微博谣言检测效率,探究微博评论时间对检测结果的影响,获得用于模型训练的最佳评论利用时间阈值. 实验结果表明,本研究方法在给定数据集上的表现普遍优于Text-CNN、Bi-GCN、TextING等典型方法,验证了其在微博谣言检测领域的有效性.