基于Xgboost的高炉透气性指数预测模型

高炉透气性指数是高炉监控指标的一项重要参数,及时掌控高炉透气性指数的变化趋势并对其进行准确预测,对辅助操作者保持高炉的稳定顺行十分必要。基于某高炉现场实际生产数据,对原始数据存在异常值、缺失值等问题进行处理。利用Spearman、MIC(最大信息系数)和随机森林特征消除等特征选择方法对标准化后的数据选取特征变量,选用Xgboost模型进行预测。结果表明,Xgboost相较于随机森林和线性回归模型具有较大优势,模型在误差±1.5%范围内的准确率达到94.27%,能够准确预测下一小时透气性指数,及时指导高炉生产,保证高炉稳定顺行。     

基于集成学习的离港航班延误预测方法

为解决稀疏数据对预测模型带来的负面影响,提高以机场为主体的离港航班延误预测效果,提出一种基于Xgboost模型与Logistic模型相集成的离港航班延误预测方法。将Xgboost模型作为特征转换器,把森林中每棵决策树的叶节点作为新特征向量输入到Logistic模型中进行航班延误预测。通过在未经规范化的稀疏数据上和其它预测方法相比,该方法可以显著提高单独预测模型在稀疏数据集上的预测效果,相较于其它机器学习方法预测效果更佳。     

一种基于Xgboost的Skype时间式隐信道检测方法

时间式隐信道利用数据包的包间时延来传递秘密信息,受网络时间特性复杂性的影响,网络隐信道的检测率低且虚警率较高。提出一种利用Xgboost模型的Skype时间式隐信道检测方法。在传统提取Skype时间序列的Markov转移特性、信息熵、包间时延的均值与方差、DCT系数、ε-相似度等特征的基础上,增加峰态、偏态和标准偏差的差值3种特征,以准确了解包间时延分布并进行筛选排查,同时采用五折交叉验证法结合无重复抽样技术,使每次迭代时每个样本点只有一次被划入训练集或测试集,最终通过Xgboost算法进行判决和检测。实验结果表明,与BP神经网络方法相比,该方法检测率更高且虚警率更低。     

小样本下多维指标融合的电商产品销量预测

为突破传统预测方法在小样本数据下电商产品销量预测中精度较低的局限，开展基于集成学习Xgboost的预测模型研究。综合考虑影响电商产品销量的多维指标，包括：在线搜索、在线评论、页面访问、库存与订购量、情绪指数等并利用熵值法融合同类指标。应用Logistic函数和正则修正项，结合贪心算法划分子树，构建基于集成学习Xgboost的电商产品销量预测模型。针对京东商城的联想zuk z2手机产品进行模型检验，并与BP神经网络、SVM支持向量机、BP-SVM组合预测三个模型进行对比，发现融合多维指标的Xgboost预测模型的精度显著提高，为小样本数据下电商产品销量预测提供方法和思路。     

面向用户隐私保护的联邦安全树算法

针对联邦学习算法在用户行为预测中存在的准确率低和运行效率不高等问题，提出一种无损失的联邦学习安全树（FLSectree）算法。首先，通过对损失函数的推导，证明损失函数的一阶偏导数与二阶偏导数为敏感数据，采用特征索引序列的扫描和分裂来返回加密后的最佳分裂点，以保护敏感数据不被泄露；接着，通过对实例空间的更新来继续向下分裂并寻找下一个最佳分裂点，直至满足终止条件后结束训练；最后，利用训练后的结果使得各参与方得到本地算法参数。实验结果表明，FLSectree算法能够在保护数据隐私的前提下有效提高用户行为预测算法的准确率和训练效率，与联邦学习FATE（Federated AI Technology Enabler）框架中的SecureBoost算法相比，FLSectree算法在用户行为预测中的准确率提高了9.09%，运行时间降低了87.42%，训练结果与集中式Xgboost算法一致。     

基于EEMD-Xgboost组合模型的渭北流域月径流序列模拟研究

为提升月径流序列的模拟精度,利用集合经验模式分解（EEMD）析出原始流量数据的模态分量,将极限梯度下降（Xgboost）作为预测函数,构建了基于EEMD-Xgboost的月径流预测模型,并应用EEMD-Xgboost模型训练了黄土坮塬区漆水站1951～1996年月径流序列变化规律,预测了1997～2020年的月径流量。结果表明,与单一Xgboost模型相比,EEMD-Xgboost模型的Nash-Sutcliffe效率(N_NSE)提升了20.27%、均方根误差(R_RMSE)减小了93.23%;且EEMD-Xgboost模型优于EEMD-ELM、EEMD-RF模型(N_NSE分别提高2.30%、3.49%;R_RMSE减小2.64%、11.75%)。EEMD-Xgboost混合模型集合了数据自适应分析与非线性映射的优点,改善了传统单一模型的预测能力。     

基于机器学习的微服务负载均衡算法研究

随着云计算技术的不断发展，微服务体系结构受到了越来越多的关注。由于将大型应用程序分割成细粒度的单一服务在开发和维护方面较为方便，许多大型应用程序已经从单体结构发展为微服务体系结构。在微服务架构中，为了提高微服务的可用性，通常采用集群结构的方式部署微服务实例。针对微服务集群中服务器节点随着任务数量的增加而出现负载不均衡的问题，提出了一种基于Xgboost(Extreme Gradient Boosting)的最短预测响应时间负载均衡算法(Shortest Predictive Response Time, SPRT)。首先选取影响任务响应时间的特征参数，然后使用集成学习预测新任务的响应时间，最终将任务分配给预测响应时间最短的服务器节点，以达到服务器节点之间负载均衡的目的。结果表明，相比其他负载算法，所提负载均衡算法在吞吐量、截止率和平均响应时间上都有一定的提升，而且更适用于高并发环境下的微服务集群。     

基于Stacking集成学习的服装网络直播销量预测

为了解决单一模型对直播销量预测效果不佳的情况，提出利用Stacking集成学习模型对4种单一机器学习模型进行融合。利用Spearman相关性分析和3种树模型的特征贡献度来进行特征选择，选用网格搜索以及贝叶斯优化算法进行模型参数选择。利用抖音直播李维斯品牌牛仔裤品类数据对算法进行实例验证。对比不同组合模型的MAE、MSE、RMSE和SMAPE值，实验证明：选用随机森林、支持向量回归、Xgboost为基学习器，线性回归为元学习器的两层Stacking集成学习模型对服装网络直播销量的预测效果优于单一机器学习模型以及其他组合模型，SMAPE的误差较单一模型最高下降6.97%，最低下降2.53%。