有指导机器学习超参数的交叉验证智能优化

不合理的模型超参数会导致有指导机器学习过拟合或欠拟合,文中提出模型超参数的交叉验证智能优化方法:利用交叉验证评价不同参数下的学习性能,在此基础之上构建智能寻优技术路线.实验结果表明:利用交叉验证性目标函数,智能优化算法自适应地根据目标函数和约束求解,可高效、准确地优化学习器超参数.     

机加零件质量预测与工艺参数优化方法

为了有效利用机加零件工艺信息和检测信息,提出基于机器学习算法的质量预测与工艺参数优化方法. 以集成工艺信息和检测信息的基于模型定义（MBD）模型为输入,通过对三维建模软件的二次开发实现参数提取,并建立结构化数据集. 利用多种机器学习分类器构建基于工艺参数与质量分类标签的质量预测模型. 结合信息增益算法对所有工艺参数进行优先级排序,筛选出对质量影响最大的工艺参数;开发质量预测与工艺参数优化工具集,利用梯度提升树模型优化对质量影响最大的工艺参数. 以某航空企业提供的铣削实验数据验证所提出方法的有效性和可靠性. 验证结果表明,该方法能够较好地实现机加零件的质量预测和工艺参数优化.     

基于机器学习的用户窃电行为预测

新型智能电表普及后,为了准确检测出电网中的窃电用户,可以结合机器学习的方法.为此,选择了支持向量机、随机森林和迭代决策树3种机器学习中较常用的大数据算法进行分析,通过不断调整试验数据集的大小,对3种算法的效率和准确率进行测试.对比分析结果发现,随机森林算法运行的时间和数据量的大小基本呈线性关系,效率较高,且准确率稳定在86%以上,表现较好.     

基于Q学习的电网运行断面动态生成方法

电网运行断面是电力系统运行控制的重要手段.面对当前繁多的电网运行断面智能生成方法,如何合理的选择已成为电网运行断面在线生成算法领域研究的重要内容.在此背景下,提出一种基于Q学习的电网运行断面动态生成方法.该方法的主要特征在于训练得到Q学习智能体,根据电网运行特征动态选择电网运行断面生成方法,以便充分利用不同生成方法在不同场景下的算法优势.最后,基于某电网数据构造的算例表明,动态生成方法能够通过优化选择不同场景下的生成算法,提升生成结果的准确率.对于应用样本集,该方法提高准确率近5.2％.     

基于Q学习的电网运行断面动态生成方法

电网运行断面是电力系统运行控制的重要手段.面对当前繁多的电网运行断面智能生成方法,如何合理的选择已成为电网运行断面在线生成算法领域研究的重要内容.在此背景下,提出一种基于Q学习的电网运行断面动态生成方法.该方法的主要特征在于训练得到Q学习智能体,根据电网运行特征动态选择电网运行断面生成方法,以便充分利用不同生成方法在不同场景下的算法优势.最后,基于某电网数据构造的算例表明,动态生成方法能够通过优化选择不同场景下的生成算法,提升生成结果的准确率.对于应用样本集,该方法提高准确率近5.2％.     

基于粒子群优化的生物组学数据分类模型选择

针对生物组学数据普遍存在的高维小样本和样本分布不平衡问题,提出基于粒子群优化分类模型选择算法.该算法中粒子编码由样本平衡模型、特征选择模型和分类模型及超参数构成,粒子种群以达到以生物组学数据最佳分类性能为目标,通过对粒子的速度和位置进行迭代更新,得到模型组合及超参数的最优解.在8组真实生物组学数据集上的实验结果表明,所提模型选择算法能够避免人为选择所带来的主观偏差,提高最佳分类性能和稳定性.     

基于支持向量数据描述的高效异常数据检测算法

为了解决大规模数据中的异常检测问题,提出了基于支持向量数据描述(SVDD)的高效离群数据检测算法。该算法的核心思想为:首先利用SVDD获得包含单类数据的最小球形边界,然后通过该边界对未知样本数据进行分类,并利用最小闭包球算法对SVDD分类器进行优化求解。在UCI机器学习数据集和入侵检测数据集上将该算法与其他离群数据检测算法进行了实验比较,结果表明,该算法不仅获得了更高的检测准确率,而且具有较低的运行时间。     

煤-电双目标下基于有模型强化学习的回转窑工艺参数优化

基于煤-电双目标下回转窑工艺参数优化问题,提出了有模型强化学习的解决方法. 首先,以固定时间间隔为单位对历史工艺参数和运行目标进行数据处理与聚合. 其次,搭建概率神经网络建立回转窑控制参数与影响参数、运行目标值的关系模型,该模型被用作为后期强化学习框架中的奖励模型. 然后,利用基于模型的离线策略优化的强化学习算法构建控制参数推荐智能体,同时优化回转窑生产过程的煤电消耗. 最后,给出一个案例证明所提方法对回转窑工艺参数优化的适应性、高效性.     

车辆颜色和型号识别算法研究与应用

针对目前基于机器学习的车辆颜色和型号识别方法的识别准确率低问题, 提出基于卷积神经网络的车辆颜色和型号识别方法。该方法使用Darknet网络中YOLOv3(You Only LookOnce Version 3)算法对车辆图片的车脸进行检测与定位, 再对车脸区域使用车辆颜色和型号识别算法同时识别车辆颜色和型号, 这是对车辆多属性同时识别的方法, 不同于车辆单一属性识别的方法。在公开车辆数据集(Peking University Vehicle Datasets, PKU-VD)上进行实验, 实验结果表明, 车辆颜色和型号同时识别准确率为93.75%, 车辆颜色单一属性识别准确率为94.98%, 车辆型号单一属性识别准确率98.38%, 明显优于基于机器学习的车辆属性识别算法, 从而验证该算法是可行且有效的。最后将车辆颜色和型号识别技术应用在智能停车场收费系统中。     

基于ABC、XGBoost与迁移学习的入侵检测方法

传统的入侵检测机器学习算法,面对有差异的新旧数据尤其是未知的攻击行为,会出现检测准确率较低、漏检率较高的问题.为此,提出了一种将人工蜂群(ABC)算法、XGBoost模型与迁移学习相结合的ABC-XGBTrl算法.首先通过使用少量有标签的新数据训练初始分类模型,然后将有标签的旧数据中分类正确的部分与少量有标签的新数据合并,用于训练新的迁移分类模型,最终用来检测未使用的新数据.迁移分类模型中的分类算法使用XGBoost,并利用人工蜂群算法优化XG-Boost的参数.采用NSL-KDD数据集进行了测试,结果表明,这种方法比现有的一些经典集成学习算法具有更高的检测准确率.     

基于PSO-ANFIS 改进算法的推理系统平衡性研究

针对粒子群优化(PSO)算法在自适应神经模糊推理系统(ANFIS)中的集成应用,提出对学习神经模型参数、隶属度函数参数进行改进优化的算法。该算法可增强模糊系统的近似精度和可解释性,提高系统的性能,进而发现更好的分类优化规则。算法经4个标准数据库的数据测试,结果表现出更好的性能,获得更好的分类效果,同时降低了系统时间复杂度。     

多源非平衡交通检测数据的异常识别方法

为保证交通检测数据的准确性并服务于实时的交通状态判别和预测,交通大数据采用多种检测源数据协同处理并利用机器学习的方法进行异常识别.异常检测数据的识别主要基于机器学习中AdaBoost方法实现.在算法的训练过程中,为消除单一检测源数据的离群现象,训练数据选取同一路段上多种检测源提供的数据集.在算法的决策过程中,通过代价敏感方法的优势来改进AdaBoost的决策.实验结果表明:基于非均衡特性改进的AdaBoost模型迫使分类器更加关注了待识别的异常样本,增强了AdaBoost决策过程中训练决策树规则的代表性,提高了异常类样本的分类准确率.高速公路实例检测数据集验证了改进算法与相关经典算法的检测准确度、误检率、误警率等指标,其中改进模型与原模型相比,准确率提高了5.547%,误检率减低了6.792%.多种算法的ROC曲线对比表明改进的AdaBoost方法筛选交通检测样本的可靠度更高,可有效调整由非平衡数据导致的分类误差.     

基于耦合信息量法选择负样本的区域滑坡易发性预测

机器学习(Machine Learning, ML)模型预测滑坡易发性时选择合理的负样本对预测结果具有重要影响,现有研究大多从整个研究区或从低坡度等特定属性区内随机选择负样本,这些负样本往往不够准确或以偏概全,降低了易发性制图的可靠性。为解决这一问题,拟提出耦合信息量法(Information Value, IV)的ML模型开展易发性建模。以江西省瑞金市为例,采用IV法将环境因子的属性值转化为对滑坡贡献的信息量值,划定极低和低易发区并从中随机选择出ML模型训练验证用的负样本数据,构建全新的信息量-支持向量机(IV-SVM)、信息量-随机森林(IV-RF)耦合模型并预测瑞金滑坡易发性;进一步与从全区随机选择负样本的单独SVM和RF模型,以及从坡度小于2°的特定属性区内随机选负样本的低坡度SVM和RF模型做对比研究;最后采用Kappa系数和ROC曲线等指标验证和比较建模结果。IV-SVM和IV-RF模型的Kappa系数为0.828和0.9146且对应ROC曲线的AUC值为0.876和0.939,分别高于单独SVM、RF和低坡度SVM、RF模型;同时,IV-SVM和IV-RF模型的易发性概率分布的平均值较小而标准差较大。结果表明：1) IV-SVM和IV-RF模型具有比单独SVM和RF模型,以及低坡度SVM和RF模型更高的滑坡易发性预测精度且更有效的反映了瑞金滑坡易发性分布规律;2) RF模型相较于SVM模型具有更高的预测精度;3) IV-RF等耦合模型能够弥补单独模型存在的负样本采样不准确和低坡度模型对坡度因子区间选择的缺点而提高预测精度更加合适机器学习的滑坡易发性预测建模。总之,本文研究为机器学习预测滑坡易发性的负样本采样方法提供新思路。     

基于支持向量机方法的短时交通流量预测方法

在总结已有多种预测模型的基础上,充分考虑了交通本身所存在的非线性、复杂性和不确定性,提出了一种基于支持向量机的短时交通流量预测模型。实例数据验证结果和基于BP神经网络的预测模型的对比结果表明,该模型在精度、收敛时间、泛化能力、最优性等方面均优于基于BP神经网络的预测模型。     

基于注意力机制的数控机床热误差深度学习预测方法

为提高热误差预测精度和鲁棒性,提出一种基于注意力机制和深度学习网络的数控机床热误差预测模型。采用数据转化策略,将数控机床原始温度数据转化为温度图像,直接作为深度学习网络的输入;提出一种基于注意力机制的温度敏感点识别网络,根据温度测点与热误差关联程度,赋予各温度测点不同的权值,避免了温度测点的人为选取弊端;建立12层深度CNN学习预测网络,利用其强大的图像特征学习能力,挖掘温度图像与热误差的非线性映射关系,无需对温度关键点进行预选择,保留了更多的热误差与机床温度特征关系,显著提高了模型预测精度。为了提高热误差模型的精度与泛化能力,引入Dropout正则化方法和Adam优化算法,对深度卷积神经网络的结构与参数进行了优化。该方法在针对G460L型数控车床的热误差验证中表现出较高的预测精度。通过与BP神经网络和多元回归等传统热误差模型进行对比,深度卷积神经网络框架下的热误差模型在泛化性指标上表现更优。     

基于Parameter Server框架的大数据挖掘优化算法

基于大数据挖掘的实时性要求和数据样本的多样性特征,提出一种面向大数据挖掘的机器学习模型训练优化算法。分析当前算法的迭代计算过程,根据模型向量的改变量将迭代过程分为粗调和微调两个阶段,并发现在微调阶段绝大部分样本对计算结果的影响极小,因此可以在微调阶段不计算此类样本的梯度而直接采用上次迭代的计算结果,从而减小计算量,提升计算效率。试验结果表明,算法在分布式集群环境下可以减小模型训练约35%的计算量,且训练得到的模型准确度在正常范围内,可有效提高大数据挖掘的实时性。     

基于深度学习的手绘草图识别

现有的手绘草图识别方法严重依赖于费时费力的手工特征提取,而经典的深度学习模型主要是为彩色多纹理自然图像设计,用于识别手绘草图时效果不甚理想。本文提出了一种基于深度学习的手绘草图识别方法(Deep-Sketch) ,该算法根据手绘草图缺失颜色、纹理信息的特点,使用大尺寸的首层卷积核取代自然图像识别中常使用的小尺寸首层卷积核,获得更多的空间结构信息。利用训练浅层模型获得的模型参数来初始化深层模型对应层的模型参数,以加快收敛,减少训练时长。加入不改变特征大小的卷积层来加深网络深度等方法以减小错误率。实验结果表明,本文所提出的方法较之其它几种主流的手绘草图识别方法具有良好的正确率,对250类手绘草图识别正确率达到69.2%。     

一类支持向量机的快速增量学习方法

提出一类支持向量机（OCSVM）的快速增量学习方法. 在OCSVM初始分类器的基础上, 添加一个德尔塔函数形成新的决策函数, 实现增量学习的过程. 通过分析德尔塔函数的几何特性, 构造出与OCSVM相似的优化目标函数, 从而求解德尔塔函数的参数. 优化问题能够进一步转化为标准的二次规划(QP)问题, 但是在优化过程中Karush-Kuhn-Tucker（KKT）条件发生很大改变. 根据新的KKT条件, 为QPP提出修正的序贯最小优化（SMO）求解方法. 整个学习过程直接操作初始分类器,仅仅训练新增样本,避免了对初始样本的重复训练, 因此能够节约大量的学习时间和存储空间. 实验结果表明, 提出的快速增量学习方法在时间和精度上均优于其他的增量学习方法．     

基于情景记忆的量子深度强化学习

作为量子机器学习的一个新兴子领域,量子深度强化学习旨在利用量子神经网络构建一个量子智能体,使其通过与环境进行不断交互习得一个最优策略,以达到期望累积回报最大化.然而,现有量子深度强化学习方法在训练过程中需要与经典环境进行大量交互,从而导致大量多次调用量子线路.为此,该文提出了一种基于情景记忆的量子深度强化学习模型,称为...