融合遗传算法与XGBoost的玉米百粒重相关基因挖掘

基于RNA-Seq的转录组测序数据特征维度较高,使用传统生信方法寻找表型相关基因需要大量计算资源,且差异分析所得候选基因范围较大,进一步筛选依赖已有的先验知识.针对这一问题,本文提出了融合遗传算法和XGBoost的转录组分析方法—GA-XGBoost,通过融入机器学习算法缩小了后续分析的候选基因范围.在一组高质量玉米数...     

基于金枪鱼群算法优化极限学习机的混凝土抗压强度预测

混凝土抗压强度是建筑结构设计与评价一个重要指标,它直接关乎建筑的质量与安全。为解决现有机器学习模型对其预测存在预测耗时长、精度不够高,不能很好地满足施工现场对混凝土抗压强度预测实时性与准确性要求的问题,提出一套基于新式仿生算法金枪鱼群算法优化极限学习机（TSO-ELM）的混凝土抗压强度预测方法。该方法通过对ELM隐藏层初始参数中的连接权值与偏置值使用TSO进行寻优,有效提升了ELM的预测准确度。在仿真实验部分,通过两组混凝土数据集对ELM的预测速度、TSO的寻优能力、TSO-ELM模型的泛化性逐一进行验证。结果表明,该方法可以有效提高预测的速度与精准度,迭代次数更少,同时具有良好的泛化性,为现场施工及时进行混凝土抗压强度的预测提供了一种新方法。     

基于WOA-XGBoost模型的网络入侵检测

网络入侵检测系统(NIDS)是检测网络攻击和维护网络安全的关键技术之一,是网络安全领域中的重要研究方向;近年来,研究者利用机器学习算法来完成入侵检测任务并取得了很好的成果,但检测效率和精确率有待进一步提升;在对鲸鱼优化算法(WOA)和极限梯度提升算法(XGBoost)的特点进行实验和对比分析的基础上,提出了WOA-XGBoost模型,首先构建基于XGBoost的分类模型,然后利用WOA算法自适应搜索XGBoost的最优参数,最后基于NSL-KDD数据集评估所提出WOA-XGBoost模型的性能;实验结果表明,该模型在分类精确率、准确率、召回率和AP指标方面均优于其他模型如XGBoost、随机森林、Adaboost和LightGBM;该工作也为群体智能优化算法在网络入侵检测中的应用提供了依据。     

基于聚类与机器学习的零售商品销量预测

本文提出一种基于K-means聚类与机器学习回归算法的预测模型以解决零售行业多个商品的销售预测问题,首先通过聚类分析识别出具有相似销售模式的商品从而实现数据集的划分,然后分别在每个子数据集上训练了支持向量回归、随机森林以及XGBoost模型,通过构建数据池的方式增加了用于训练模型的数据量以及预测变量的选择范围.在一家零售企业的真实销售数据集上对提出的模型进行了验证,实验结果表明基于K-means和支持向量回归的预测模型表现最优,且所提出的模型预测效果明显优于基准模型以及不使用聚类的机器学习模型.     

基于shell命令的内部攻击检测

信息系统不仅面临着外部攻击的威胁,同时也面临着来自系统内部的威胁。本文针对系统内部攻击,首先对信息系统的内部威胁和内部攻击进行简要阐述和分析。基于用户操作行为的一般规律,提出几种检测模型,通过对比检测结果找出检测效果好的检测模型。基于SEA公开数据集,采用词袋、TF-IDF、词汇表以及N-Gram几种方法进行特征提取,使用不同的机器学习算法建立检测模型,包括XGBoost算法、隐式马尔可夫和多层感知机(MLP)。结果显示：测试样本采用词袋+N-Gram特征模型和XGBoost学习算法的精确率和召回率较高,检测效果最好。     

基于ADE-Stacking的心力衰竭非计划性再入院风险预测模型

随着人口老龄化加剧,心力衰竭发病率升高,心衰患者的非计划性再入院问题导致患者生存质量降低、医疗成本升高的情况日益严重,因此成为了一个亟待解决的问题。本文针对再入院风险预测问题,提出一种基于ADE-Stacking的心衰患者非计划性再入院风险预测模型,这一模型主要由集成学习算法模型构建与参数优化2部分构成,集成学习算法可以结合多个弱分类器的优势,使模型具有更好的泛化性和准确率,参数优化部分采用自适应收缩因子F改进的差分进化算法寻优,以提高参数寻优性能。使用心力衰竭再入院病人数据集对模型进行训练与测试,结果显示本文所提出的模型优于风险预测模型常用的随机森林、XGBoost、支持向量机等其他机器学习算法。     

一种改进的SVM回归估计算法

支持向量机是一种基于结构风险最小化原理的学习技术,也是一种新的具有很好泛化性能的回归方法。目前,如何设计快速有效的回归估计算法仍然是支持向量机实际应用中的问题之一。文中对标准SVM回归估计算法加以改进,提出一种改进的SVM回归估计算法,并从学习速度和回归估计精度两个方面对提出的改进的SVM回归估计算法与标准SVM回归估计算法进行了比较。实验结果表明,在学习速度与回归估计精度之间取折衷时,文中提出的回归估计算法自由度更大。     

融合XGBoost与SHAP的冠心病预测及其特征分析模型

为了解决冠心病诊断模型中性能无法满足临床应用要求、缺乏可解释性的问题,提出一种融合XGBoost与SHAP的冠心病预测及其特征分析模型。在对数据集进行特征工程的基础上,将处理好的数据集输入XGBoost模型进行训练,并且对模型进行优化,进一步提高了模型的性能表现;其次,与基于SVM、朴素贝叶斯等六种机器学习模型以及八种主流机器学习模型进行实验对比,参数优化后的XGBoost模型在准确率、特异度、F1值和AUC值四个指标上分别达到0.9942、0.9970、0.9941和0.9998,均优于已有模型;最后引入SHAP框架增强模型可解释性,综合四种模型特征重要性排序结果,识别出影响冠心病的重要因素,为医生作出正确的诊断提供决策参考。     

基于多层集成学习的岩性识别方法

岩性识别是油藏地质解释中的关键问题和难点问题,人工智能特别是机器学习技术的发展和应用为岩性识别问题解决提供了新的技术途径。本文利用支持向量机（Support vector machine,SVM）、多粒度级联森林（Multi-grained cascade forest,GCForest）、随机森林（Random forest,RF）以及XGBoost（eXtreme gradient boosting）等机器学习模型建立一个异构多层集成学习模型,该集成学习模型克服了单一模型对数据集要求高、泛化能力差以及识别精度低等缺点。本文分别利用集成模型和单一模型进行了岩性识别实验。实验结果表明,本文集成模型在岩性分类测试集上平均精度达到96.66%,高于SVM的平均精度75.53%、GCForest的平均精度96.21%、随机森林的平均精度95.06%和XGBoost的平均精度95.77%。该集成模型能有效地用于油藏地质分析中的岩性识别和分类任务,适应性强,识别精度高。     

基于BOA-ELM的混凝土抗压强度预测研究

为控制控制混凝土生产成本,在混凝土拌和期限制抗压强度不足的缺陷构建产出,可以有效降低原料的浪费,是节能降耗的关键方法之一。针对混凝土抗压强度的传统测量方法严重滞后的问题,提出了基于贝叶斯优化极限学习机(BOA-ELM)的混凝土抗压强度预测方法。首先,分析了混凝土拌和过程中对抗压强度预测值实时获得的需求。以各物料的用量为分析基础,28天标准养护后混凝土抗压强度值为预测目标,设计了基于极限学习机的强度预测模型。其次,为进一步提高模型的稳定性以及准确行,提出基于贝叶斯优化的极限学习机模型,根据模型超参数的分布特征,以高斯过程作为超参的先验分布,预测误差最小化作为目标,寻找最优的模型超参。最后,在实际施工产生的C50标号混凝土数据集上测试文中模型,并对比分析了其他预测模型和寻优算法。结果表明,结合了贝叶斯优化的极限学习机预测模型相较于经典算法具有更高的预测准确性和模型训练的高效性。     

Dynamic decision support framework for production scheduling using a combined genetic algorithm and multiagent model

Due to the dynamic nature, complexity, and interactivity of production scheduling in an actual business environment, suitable combined and hybrid methods are necessary. This paper takes prefabricated concrete components as an example and develops the dynamic decision support framework based on a genetic algorithm and multiagent system (MAS) to optimize and simulate the production scheduling. First, a multiobjective genetic algorithm is integrated into the MAS for preliminary optimization and a series of near‐optimal solutions are obtained. Subsequently, considering the resource constraints and uncertainties, the MAS is used to simulate complex real‐world production environments. Considering the different types of uncertainty factors, the paper proposes the corresponding dynamic scheduling method and uses MAS to generate the optimal production schedule. Finally, a practical prefabricated construction case is used to validate the proposed model. The results show that the model can effectively address the occurrence of uncertain events and can provide dynamic decision support for production scheduling.     

Ensemble of neural networks with associative memory (ENNA) for estimating software development costs

Companies usually have limited amount of data for effort estimation. Machine learning methods have been preferred over parametric models due to their flexibility to calibrate the model for the available data. On the other hand, as machine learning methods become more complex, they need more data to learn from. Therefore the challenge is to increase the performance of the algorithm when there is limited data. In this paper, we use a relatively complex machine learning algorithm, neural networks, and show that stable and accurate estimations are achievable with an ensemble using associative memory. Our experimental results show that our proposed algorithm (ENNA) produces significantly better results than neural network (NN) in terms of accuracy and robustness. We also analyze the effect of feature subset selection on ENNA’s estimation performance in a wrapper framework. We show that the proposed ENNA algorithm that use the features selected by the wrapper does not perform worse than those that use all available features. Therefore, measuring only company specific key factors is sufficient to obtain accurate and robust estimates about software cost estimation using ENNA.     

基于多孔卷积神经网络的图像深度估计模型

针对在传统机器学习方法下单幅图像深度估计效果差、深度值获取不准确的问题，提出了一种基于多孔卷积神经网络（ACNN）的深度估计模型。首先，利用卷积神经网络（CNN）逐层提取原始图像的特征图；其次，利用多孔卷积结构，将原始图像中的空间信息与提取到的底层图像特征相互融合，得到初始深度图；最后，将初始深度图送入条件随机场（CRF），联合图像的像素空间位置、灰度及其梯度信息对所得深度图进行优化处理，得到最终深度图。在客观数据集上完成了模型可用性验证及误差估计，实验结果表明，该算法获得了更低的误差值和更高的准确率，均方根误差（RMSE）比基于机器学习的算法平均降低了30.86%，而准确率比基于深度学习的算法提高了14.5%，所提算法在误差数据和视觉效果方面都有较大提升，表明该模型能够在图像深度估计中获得更好的效果。     

基于改进多隐层极限学习机的电网虚假数据注入攻击检测

虚假数据注入攻击(False data injection attacks, FDIA)严重威胁了电力信息物理系统(Cyber-physical system,CPS)的状态估计,而目前大多数检测方法侧重于攻击存在性检测,无法获取准确的受攻击位置.故本文提出了一种基于灰狼优化(Gray wolf optimization, GWO)多隐层极限学习机(Multi layer extreme learning machine, ML-ELM)的电力信息物理系统虚假数据注入攻击检测方法.所提方法将攻击检测看作是一个多标签二分类问题,不仅将用于特征提取与分类训练的极限学习机由单隐层变为多隐层,以解决极限学习机特征表达能力有限的问题,且融入了具有强全局搜索能力的灰狼优化算法以提高多隐层极限学习机分类精度和泛化性能.进而自动识别系统各个节点状态量的异常,获取受攻击的精确位置.通过在不同场景下对IEEE-14和57节点测试系统上进行大量实验,验证了所提方法的有效性,且分别与极限学习机、未融入灰狼优化的多隐层极限学习机以及支持向量机(Support vector machine, SVM)相比,所提方...     

Sparse kernel density construction using orthogonal forward regression with leave-one-out test score and local regularization

This paper presents an efficient construction algorithm for obtaining sparse kernel density estimates based on a regression approach that directly optimizes model generalization capability. Computational efficiency of the density construction is ensured using an orthogonal forward regression, and the algorithm incrementally minimizes the leave-one-out test score. A local regularization method is incorporated naturally into the density construction process to further enforce sparsity. An additional advantage of the proposed algorithm is that it is fully automatic and the user is not required to specify any criterion to terminate the density construction procedure. This is in contrast to an existing state-of-art kernel density estimation method using the support vector machine (SVM), where the user is required to specify some critical algorithm parameter. Several examples are included to demonstrate the ability of the proposed algorithm to effectively construct a very sparse kernel density estimate with comparable accuracy to that of the full sample optimized Parzen window density estimate. Our experimental results also demonstrate that the proposed algorithm compares favorably with the SVM method, in terms of both test accuracy and sparsity, for constructing kernel density estimates.     

基于HI-DD-AdaBoost.RT的锂离子动力电池SOH预测

锂离子电池是一个复杂的电化学动态系统,实时准确的健康状态(SOH)估计对电动汽车动力锂电池的维护至关重要,传统建模方法难以实现SOH的在线估算.基于此,从实时评估电池的SOH出发,在增量学习的基础上,选取与电池健康状态相关的指标建立SOH预测模型.考虑到增量学习中的耗时性问题,提出融合滑动窗口技术的HI-DD算法,该算法可以检测概念漂移是否发生,从而指导和确定模型更新位置;设计出HI-DD与AdaBoost.RT结合的模型更新策略,进而提高模型的在线学习性能和预测精度,最后使用CALCE提供的电池老化实验数据对所提出的方法进行验证.结果表明,基于增量学习的HI-DD-AdaBoost.RT预测算法具有较强的在线更新能力和较高的预测精度,能够满足SOH在线预测的实际需求.     

求解不相关并行机调度的一种自适应分布估计算法

针对不相关并行机调度问题, 提出一种基于信息熵的自适应分布估计算法. 根据问题特性, 设计了面向工件机器分配的概率模型及其基于增量学习的更新方式, 学习速率基于信息熵进行调整. 为了增强算法局部寻优能力, 采用基于关键机器的邻域结构进行局部搜索; 同时讨论了信息熵与学习速率的关系, 并探讨了关键参数对算法性能的影响. 基于标准算例的测试结果与算法比较, 验证了学习速率的自适应调整机制以及所提出算法的有效性.     

基于对抗学习的蒙汉神经机器翻译

在机器翻译模型的构建和训练阶段,为了缓解因端到端机器翻译框架在训练时采用最大似然估计原理导致的翻译模型的质量不高的问题,本文使用对抗学习策略训练生成对抗网络,通过鉴别器协助生成器的方式来提高生成器的翻译质量,通过实验选择出了更适合生成器的机器翻译框架Transformer,更适合鉴别器的卷积神经网络,并且验证了对抗式训练对提高译文的自然度、流利度以及准确性都具有一定的作用.在模型的优化阶段,为了缓解因蒙汉平行数据集匮乏导致的蒙汉机器翻译质量仍然不理想的问题,本文将Dual-GAN (dual-generative adversarial networks,对偶生成对抗网络)算法引入了蒙汉机器翻译中,通过有效的利用大量蒙汉单语数据使用对偶学习策略的方式来进一步提高基于对抗学习的蒙汉机器翻译模型的质量.     

Multi-kernel optimized relevance vector machine for probabilistic prediction of concrete dam displacement

The observation data of dam displacement can reflect the dam’s actual service behavior intuitively. Therefore, the establishment of a precise data-driven model to realize accurate and reliable safety monitoring of dam deformation is necessary. This study proposes a novel probabilistic prediction approach for concrete dam displacement based on optimized relevance vector machine (ORVM). A practical optimization framework for parameters estimation using the parallel Jaya algorithm (PJA) is developed, and various simple kernel/multi-kernel functions of relevance vector machine (RVM) are tested to obtain the optimal selection. The proposed model is tested on radial displacement measurements of a concrete arch dam to mine the effect of hydrostatic, seasonal and irreversible time components on dam deformation. Four algorithms, including support vector regression (SVR), radial basis function neural network (RBF-NN), extreme learning machine (ELM) and the HST-based multiple linear regression (HST-MLR), are used for comparison with the ORVM model. The simulation results demonstrate that the proposed multi-kernel ORVM model has the best performance for predicting the displacement out of range of the used measurements dataset. Meanwhile, the ORVM model has the advantages of probabilistic output and can provide reasonable confidence interval (CI) for dam safety monitoring. This study lays the foundation for the application of RVM in the field of dam health monitoring.

     

Potential of soft computing approach for evaluating the factors affecting the capacity of steel–concrete composite beam

Evaluation of the parameters affecting the shear strength and ductility of steel–concrete composite beam is the goal of this study. This study focuses on predicting the future output of beam’s strength and ductility based on relative inputs using a soft computing scheme, extreme learning machine (ELM). Estimation and prediction results of the ELM models were compared with genetic programming (GP) and artificial neural networks (ANNs) models. Referring to the experimental results, as opposed to the GP and ANN methods, the ELM approach enhanced generalization ability and predictive accuracy. Moreover, achieved results indicated that the developed ELM models can be used with confidence for further work on formulating novel model predictive strategy in shear strength and ductility of steel concrete composite. Furthermore, the experimental results indicate that on the whole, the newflanged algorithm creates good generalization presentation. In comparison to the other widely used conventional learning algorithms, the ELM has a much faster learning ability.