基于随机森林的用户流失预警研究

为了提高客户留存,银行要对流失客户进行预测,将用户召回时间提前,降低客户流失率.首先通过SMOTE算法处理数据集不平衡问题,并参考随机森林特征重要性排序以及皮尔逊相关系数进行特征选取,最后选取特征属性19个,并利用随机森林模型对测试集进行训练,通过网格搜索法寻找最优参数,并利用精准率、召回率、F1和ROC曲线对模型进行评估,得到面积AUC值为0.77,分类效果良好,可以用于预测.     

基于分形SMOTE重采样集成算法圈定区域化探异常

基于分形自相似性理论改进SMOTE算法,实现数据集的均衡化。结合集成学习Adaboost技术更新样本权值,改善非均衡数据的分类性能,并对云南个旧锡铜多金属矿床进行了仿真实验,结果表明新算法预测结果能较好地检测成矿异常,为成矿预测与评价提供新的解决途径。     

不平衡数据下基于PSO-BP算法的输电线路弧垂预测

针对架空输电线路弧垂在计算过程中易受测量数据(温度、风速、档距等参数)影响的问题,提出了基于数据预处理的PSO-BP神经网络弧垂预测模型.对收集数据中部分样本缺失的情况,使用合成少数过采样技术(SMOTE)对不平衡样本进行合成;构建PSO-BP神经网络用于弧垂预测,使用不同工况条件的数据训练网络,实现弧垂预测的目的,并将网络的性能与传统的BP神经网络性能进行对比.实验结果表明,与传统BP神经网络模型相比,本文提出的模型进行弧垂值预测后所得的误差绝对值显著降低.本文提出的模型可以加快训练速度、提高预测精度.     

恶意软件检测中解决样本不平衡问题的策略

互联网技术已经使人们的生活和工作发生了巨大的改变．然而,人们在享受互联网提供的便利的同时,也承受着恶意程序带来的威胁．在数字化时代的今天,与恶意程序的对抗已成为信息领域的焦点．由于恶意软件检测中的恶意软件样本难于获取,同时,标记大量的样本也需要花费大量的人力和物力,所获得的恶意软件样本远远少于正常软件样本,因此各类的训练样本之间存在分布不平衡的分类问题．为了解决该问题,本文提出采用SMOTE过采样方法,通过合理的增加少数类样本来解决样本不平衡问题．     

基于注意力机制和残差网络的恶意代码检测方法

针对目前已有的基于深度学习的恶意代码检测方法提取特征不足和准确率低的问题,提出一种基于注意力机制和残差网络（ResNet）的恶意代码检测方法 ARMD。为了支持该方法的训练,从Kaggle网站获取了47 580个恶意和良性代码的Hash值,并利用VirusTotal分析工具提取每个代码数据调用的API,在此之后将所调用的API整合为1 000个不重复的API作为检测的特征来构造训练样本数据;然后根据VirusTotal的分析结果进行良恶性判定进而标记样本数据,并采用SMOTE增强算法使数据样本均衡化;最后构建并训练注入注意力机制的ResNet,从而实现恶意代码检测。实验结果表明ARMD的恶意代码检测准确率为97.76%,且与目前已有的基于卷积神经网络（CNN）和ResNet模型的检测方法相比,平均精确率至少提高了2个百分点,验证了ARMD的有效性。     

基于CanpoySMOTE和自适应学习的入侵检测方法研究

提出了一种基于Canopy与人工合成少数类别过采样技术（CSMOTE）和自适应增强学习（AdaBoostM1）的入侵检测分类方法,以有效减少入侵检测模型因训练数据集攻击类型不均衡而导致的分类误差,提高分类准确率。通过Canopy聚类消除训练集中的孤立点或噪音点,减少训练集噪声;并在预处理时通过SMOTE增加少数类别的样本数量,构造类间平衡的平衡数据集,然后在平衡数据集上用AdaBoosM1训练得到分类器。与在原始训练集上训练的分类器相比,该方法在保持整体准确率高的情况下,少数类别U2R攻击的准确率提升20%,R2L攻击的准确率提升5%,同时平均漏报率降低9%,实验结果表明该方法可以有效提升少数类别准确率,降低平均漏报率,能有效地解决网络入侵检测少数类误分类问题。     

基于特征优化和BP神经网络的入侵检测方法

为提高网络入侵检测率,提出一个集特征优化和人工神经网络于一体的网络入侵识别发现框架AS-BP.引入SMOTE技术和随机采样技术对数据进行平衡约简处理,解决数据不平衡问题,利用集成方法对网络入侵数据进行重要特征提取,降低数据处理维度,通过优化BP神经网络算法,对网络入侵数据进行判断完成分类.实验结果表明,该方法克服了传统BP神经网络建模时间过长的问题,在不降低其它攻击类型检测率的同时,提高U2R和R2L的检测率,克服了数据集中少数类数据量过少导致的少数类检测率低的问题.将实验结果与其它分类方法进行比较,验证了该方法的准确率、精确率和召回率优于其它方法.     

面向不平衡数据集的SMOTE-SVM交通事件检测算法

针对现实中交通正常运行状态远多于事件状态这一事实,提出了面向不平衡数据集的交通事件检测算法.运用SMOTE (Synthetic Minority Over-sampling Technique)算法重构训练集,使之平衡,以支持向量机(Support Vector Machine,SVM)作为分类器,对交通事件进行检测.使用美国I-880高速公路获取的交通数据进行算法的训练和性能测试.结果表明,基于SMOTE-SVM的交通事件自动检测(Automatic Incident Detection,AID)算法可以提高检测率,减少平均检测时间.     

基于集成学习方法的点击率预估模型研究

由于互联网中积累的广告日志具有数据稀疏、特征量大、正负样本分布极其不均匀等问题,使得人工特征提取费时费力,并且单一预测模型很难得到更好的预测性能。针对这些问题,提出梯度提升树GBDT和Stacking相融合的点击率预测模型GBDT-Stacking。通过引入梯度提升树自动进行特征提取与构造,并结合Stacking集成模型对在线广告点击率进行预测,有效提高了单个预测模型的性能。在真实广告数据集上的实验结果表明,GBDT-Stacking集成模型比对比模型在AUC的取值上至少提升了4%。