基于强化学习的模型选择和超参数优化

随着机器学习技术的不断发展,机器学习算法种类的增多以及模型复杂度提高,造成了实践应用中的两大难题:算法模型选择及模型超参数优化。为了实现模型选择和超参数优化的自动处理,该文提出了一种基于深度强化学习的优化方法。利用长短期记忆(LSTM)网络构建一个智能体(Agent),自动选择机器学习算法模型及对应的超参数组合。该智能体以最大化机器学习模型在验证数据集上的准确率为目标,利用所选择的模型在验证数据集上的准确率作为奖赏值(reward),通过强化学习算法不断学习直到找到最优的模型以及超参数组合。为了验证该方法的可行性及性能,在UCI标准数据集上将其与传统优化方法中基于树状结构Parzen的估计方法和随机搜索方法进行比较。多次实验结果证明该优化方法在稳定性、时间效率、准确度方面均具有优势。     

基于鲁棒最小二乘支持向量机的齿轮磨损预测

为了降低包含噪声的现场齿轮磨损数据对最小二乘支持向量机(least squares support vector machine,LSSVM)模型稳健性的影响,采用迭代鲁棒最小二乘支持向量机(iteratively robust least squares support vector machine,IRLSSVM)对齿轮磨损数据进行建模和预报.首先,增加权函数迭代次数以保证建模过程的鲁棒性;然后,将具有全局搜索的耦合模拟退火(coupled simulated annealing,CSA)与局部优化的单纯形法(simplex method,SM)相结合的方法用于优化IRLSSVM模型超参数,进而采用鲁棒交叉验证作为CSA-SM算法拟合目标函数,提高IRLSSVM模型超参数优化过程的鲁棒性;最后,利用K727840ZW变速箱现场齿轮磨损数据进行了数值实验,结果验证了所提出方法的有效性.     

电液比例压力控制系统的PID参数优化

为了解决实际工程中P,I,D最佳参数值快速确定难题,建立了电液比例压力控制系统的数学模型,以收敛时间最短为控制目标,采用单因数法对控制模型进行仿真实验,确定了参数P的最佳值;在保持P值不变条件下,运用函数拟合方法,以超调量最小为控制目标分别确定了参数I和D与超调量增量以及收敛时间的相关性;以超调量最小和收敛时间最短作为优化目标,利用建立的相关性对PID控制器的三个参数进行了调整.仿真结果表明:在以超调量作为优化目标时,积分系数与超调量增量呈四次相关性函数关系;积分系数与收敛时间增量呈五次相关性函数关系;微分系数与超调量增量呈二次相关性函数的关系;微分系数与收敛时间增量呈四次相关性函数关系.     

武器系统费用估算中的特征选择方法研究

针对采用参数法进行武器系统费用估算时,往往需要从大量的特征中选择最优的特征子集,而人工选择特征的方法费时费力的问题,采用粒子群优化算法对支持向量机进行封装的方法选择特征子集,在建模过程中,将特征变量以及支持向量机模型的参数共同组合成待优化的自变量集,采用一体化的优化方法,同时确定最优的特征子集和支持向量机模型的参数;在选择优化目标时,为有效避免出现"过拟合"的情况,将模型的5折交叉验证的预测精确度作为适应度函数,并对实际问题进行验证.结果表明,该方法可以有效滤除无关特征,提高预测精确度.     

基于遗传算法的车道线识别

与传统的经过图像处理的识别方法不同,利用CCD采集的道路灰度图像,采用抛物线模型作为目标函数去拟合车道线,应用遗传算法对抛物线参数进行优化,通过二进制编码、多点交叉及变异等遗传过程,得到各个参数的最优解,从而识别车道线.试验结果表明,本方法能有效消除复杂环境下噪声的不良影响,准确识别车道线,大大提高了识别的实时性.     

一种基于遗传规划的数据拟合方法

把数据拟合建模看作是模型结构和参数的优化搜索过程,将遗传规划和最小二乘法结合起来共同实现数据拟合,该方法是先用遗传规划随机生成待拟合函数的结构,再利用最小二乘法确定参数,然后耦合后生成待拟合的函数,实现模型结构和参数的共同识别.数值仿真表明,该方法得到的函数比传统方法得到的函数的拟合精度要高,且计算精度高.     

基于粒子群算法的Universum SVM参数选择

分类器的模型参数对分类结果有直接影响.针对引入无关样本的Universum SVM算法中模型参数选择问题,采用粒子群优化(particle swarm optimization,PSO)算法对其进行优化.该方法概念简单、计算效率高且受问题维数变化的影响较小,可实现对多个参数同时优选.此外,在PSO中粒子适应度函数的选择是一个关键问题.考虑k遍交叉验证法的估计无偏性,利用交叉验证误差作为评价粒子优劣的适应值.通过舌象样本数据实验,对参数优选前后测试样本识别正确率进行比较,实验结果验证了该算法的有效性.     

基于SCAD-ESN的时间序列预测模型

回声状态网络（ESN）是一种重要的时间序列预测方法,但在训练数据存在噪声或野点情况下,ESN将会出现过拟合问题。针对该问题,提出基于平滑消边绝对偏离罚函数的回声状态网络（SCAD-ESN）模型。不同于在模型中加入岭回归、L₁范数罚函数及小波降噪等常规方法,该模型利用SCAD罚函数对变量进行选择,将小变量置为零以满足变量稀疏性,将大变量直接置为常数,从而能够很好地解决ESN过拟合问题并满足近似无偏估计。对于SCAD罚函数的非凸函数优化问题,提出基于局部二次近似（LQA）的求解方法,将最小角回归（LQR）方法用于SCAD罚函数求解,避免了计算量巨大的问题。使用基于粒子群优化（PSO）的超参数选取方法快速确定平滑消边绝对偏离-回声状态网络模型的超参数,克服利用经验选取超参数时存在的盲目性较大且难以确定整体最优的超参数问题。混沌系统数值仿真和网络流量仿真结果表明,相对于常规模型,该模型能有效地降低测试误差,从而克服过拟合问题。     

基于改进Kriging代理模型的土质边坡稳定可靠度分析方法

提高土质边坡稳定可靠度计算的精度和效率对工程设计具有重要的意义,为此提出了基于改进Kriging代理模型的土质边坡稳定可靠度分析方法。首先采用基于模拟退火的粒子群算法优化Kriging模型相关参数,并以一典型算例验证了该模型的良好函数拟合能力。接着将改进的Kriging模型作为边坡极限状态函数的代理,通过拉丁超立方抽样获得样本点,并由有限差分强度折减法计算样本点对应的响应值,利用基于熵理论的学习函数逐步更新代理模型,直至达到精度要求,进而基于该模型通过蒙特卡洛模拟评估边坡失效概率。最后,以一双层土质边坡问题为例,研究了所提方法的有效性。结果表明:所提方法不仅能够逐步提高计算精度,且极大地降低了计算量,为复杂边坡稳定可靠度问题提供了一种高效的评估方法。     

考虑施工不确定性的斜拉桥张拉方案优化

为了有效解决在斜拉桥施工中各种不确定因素的影响,合理制定索力张拉方案.本文提出了一种基于统计回归和非线性优化的结构可靠度优化方法.利用统计回归拟合得到结构可靠度指标与设计变量之间的拟合函数关系,形成约束函数和目标函数,建立优化模型.为提高计算效率,在拟合之前对影响结果的随机变量进行了可靠度分析和灵敏度分析,筛选出拟合所需的最小样本容量和最小随机随机变量个数.通过对一个刚架模型的可靠度分析,比较了BP神经网络响应面法和多项式响应面法两种拟合方法的优劣性,并确定使用BP神经网络响应面法进行函数拟合,同时验证本文所述方法的可行性.并将该优化方法应用于一座带有水平索的双斜塔斜拉桥,通过优化张拉方案使边墩支座的脱空概率减小至可接受的范围.     

转向节墙式热挤压模结构多目标优化设计

针对传统热挤压模具负载强烈、寿命低下的问题,在综合传统闭式挤压与开式飞边结构优点的基础上,提出挤压模具上的新型飞边结构——阻力墙结构。采用径向基函数近似模型方法结合遗传算法作为组合优化策略对转向节热挤压模具上的阻力墙结构参数开展多目标优化研究,以期找到最优的结构参数组合,充分发挥阻力墙结构在填充性和模具寿命方面的综合性能潜力。首先通过拉丁超立方抽样试验设计,选择了适当的设计参数样本。在对相关核函数拟合效果综合对比的基础上,构建了具有较高精度的以对数路径函数为核函数的径向基函数近似模型。然后将遗传算法引入近似模型进行多目标优化,最终得到了最优的阻力墙参数取值分别为:阻力墙高度h=48 mm,斜度a=0,间隙n=2.5 mm,飞边厚度t=5 mm,桥部宽度b=10 mm。最后通过生产试验验证其正确性。     

煤-电双目标下基于有模型强化学习的回转窑工艺参数优化

基于煤-电双目标下回转窑工艺参数优化问题,提出了有模型强化学习的解决方法. 首先,以固定时间间隔为单位对历史工艺参数和运行目标进行数据处理与聚合. 其次,搭建概率神经网络建立回转窑控制参数与影响参数、运行目标值的关系模型,该模型被用作为后期强化学习框架中的奖励模型. 然后,利用基于模型的离线策略优化的强化学习算法构建控制参数推荐智能体,同时优化回转窑生产过程的煤电消耗. 最后,给出一个案例证明所提方法对回转窑工艺参数优化的适应性、高效性.     

一种用于多分类问题的改进支持向量机

针对非均衡分布的多类分类问题,为提高支持向量机(SVM)算法的性能,提出了一种改进的SVM算法. 将遗传算法(GA)与传统SVM算法结合,构造出一种参数最优的进化SVM(GA-SVM), SVM模型采用径向基函数(RBF)作为核函数,利用格雷码编码方式对SVM算法的模型参数进行遗传编码和优化搜索,将搜索到的优化结果作为SVM的最终模型参数. 在两个不同特性的数据集上进行仿真测试,结果表明,与使用交叉验证策略的简单SVM相比,改进后的GA-SVM算法在多类非均衡问题上明显提高了分类正确率,学习速度也有提高.     

顾及邻点变形因素的改进PSO-SVM模型大坝变形预测

为实现支持向量机模型(SVM)对大坝变形的精准预测,克服模型容易陷入局部最优的缺点,引入多尺度一维的小波分解函数和柯西分布密度函数优化SVM模型,并考虑邻近监测点之间的互扰性,建立了顾及邻点变形因素的改进粒子群优化支持向量机模型。利用粒子群算法(PSO)更新粒子群的速度和位置,组合标准的柯西分布密度函数优化模型的惯性权重,采用多尺度一维的小波分解函数对样本数据进行误差序列的剔除,选取3-fold交叉验证方法进行最佳参数的求解。对顾及邻近点的改进PSO-SVM模型实例进行对比研究,实例表明,顾及邻近点的改进PSO-SVM模型适用于短期样本的预测,在中长期样本情况下拟合精度不佳。设计了长期样本下的对比研究,结果表明,改进的PSO-SVM模型较SVM模型和PSO-SVM模型拟合效果最佳,验证了改进模型在长期样本下的适应性和有效性。     

水文模型参数多目标优化率定及目标函数组合对优化结果的影响

针对水文模型多目标优化中目标函数组合难以合理构造与选取的难题,基于多目标智能优化算法的优化结果,提出了一种简便的不同目标组合优化结果性能比较方法,并以一种日径流预报模型为实例,构造了3组目标函数组合,采用经典多目标优化算法NSGA-II优化率定模型参数,在模型参数优化率定结果的基础上,应用作者提出的目标组合优化结果比较...     

基于响应面模型的跨音速转子叶片气动优化设计研究

为了提高优化设计效率,节约成本,将试验设计方法、响应面近似模型与遗传算法优化方法结合在一起应用于跨音速转子叶片气动优化设计中.首先采用拉丁超立方试验设计方法生成样本点构建目标函数的响应面模型,然后利用遗传算法对响应面模型进行目标寻优,并对优化解进行流场分析验证.为了验证方法的可行性,以NASA rotor37转子叶片前缘积迭线弯与掠优化设计为例,总压损失系数为目标函数进行单目标优化设计,优化后总压损失系数降低了0.528%,总耗时20h,算例结果表明基于响应面近似模型的优化设计方法可用于叶片气动优化中,提高了优化设计效率.     

基于CS-PSO算法的电池储能系统多目标优化运行策略

为了充分发挥储能系统在智能配电网中的积极调节作用,提出了一种统一为成本量纲的电池储能系统多目标优化运行模型。该模型以一个完整调度周期的配电网购电成本、网络损耗费用及电压调节费用均最小为目标函数,以电池储能系统的充/放电功率为控制变量,并确保储能系统在整个调度周期的能量守恒及容量约束。再应用层次分析法计算各子目标权重,化多目标函数为单一综合目标函数。针对所提出的电池储能系统优化运行模型,提出一种改进的混合粒子群优化算法—纵横交叉粒子群优化(CS-PSO)算法。将纵横交叉算子引入粒子群算法,并采用交叉搜索的方法以维护种群多样性,再以电池荷电状态为粒子位置矢量元素,实现完整调度周期内储能系统优化运行策略的求解。最后,对含高渗透率分布式发电单元和电池储能的IEEE34节点算例进行仿真,对比分析了3个单一单目标与本文多目标的优化结果以及3种智能优化算法的计算性能,还分析了储能系统优化运行对系统电压质量的影响。仿真分析结果表明:多目标优化能够充分利用储能系统为配电网提供多种服务,使配电网获得最大综合效益;CS-PSO算法在求解非线性规划问题时具有很好的收敛特性及较高的计算效率,从而验证了所提模型及算法的有效性。     

无侧限抗压强度与轻量土配比参数的非线性回归分析研究

就轻量土的水泥含量、水含量对无侧限抗压强度的关系进行了参数回归分析.以二次非线性回归分析方法对回归方案进行优化计算,选择优化方案.进行了回归假设前提相符性验证和内部交叉验证,观察方案的正确性和预测误差的大小,分析了拟合方程的可靠性.利用该拟合方程,初步分析出轻量土无侧限抗压强度参数关系.利用方程揭示的变量关系,可以从理化参数设计方面来指导商品轻量土的设计和生产,达到提高无侧限抗压强度的目的.     

遗传算法在暴雨公式参数优化中的应用

暴雨强度公式中含有多个参数,用传统方法难以直接优化,或拟合误差较大.以公式均方差最小为目标函数,利用遗传算法优化暴雨公式参数.遗传算法对公式参数的全局随机搜索技术,以及对目标函数的直接操作等优化方法,避免了直接采用解析公式而使用多阶导数和高阶方程的麻烦,提高了公式的精度,优化了暴雨公式参数.通过山东省四个地市的暴雨公式统计,证明了遗传算法的适用性和准确性.     

基于CPSO-LSSVM的陀螺仪故障趋势预测

为了提高最小二乘支持向量机(LSSVM)的学习性能和泛化能力,提出了混沌粒子群优化(CPSO)算法和交叉验证(CV)算法相结合的LSSVM参数寻优方法.CPSO算法将混沌搜索引入到粒子群算法中产生初始混沌粒子,并在粒子运动中不断加入混沌扰动,实现LSSVM参数的自动选取.利用交叉验证误差构造粒子的适应度函数,为参数选择提供评价标准.陀螺仪随机漂移是影响陀螺仪性能可靠性的主要因素,将经过参数寻优的LSSVM用于建立陀螺仪随机漂移的时间序列预测模型,预测值与实际值相差较小,可为陀螺仪的故障趋势预测提供依据.实验结果表明CPSO算法是选取LSSVM参数的有效方法,所建的回归模型具有较高的预测精度.