基于改进ELM的递归最小二乘时序差分强化学习算法及其应用

针对值函数逼近算法对精度及计算时间等要求,提出了一种基于改进极限学习机的递归最小二乘时序差分强化学习算法。首先,将递推方法引入到最小二乘时序差分强化学习算法中消去最小二乘中的矩阵求逆过程,形成递推最小二乘时序差分强化学习算法,减少算法的复杂度及其计算量。其次,考虑到LSTD(0)算法收敛速度慢,加入资格迹增加样本利用率提高收敛速度的算法,形成LSTD(λ)算法,以保证在经历过相同数量的轨迹后能收敛于真实值。同时,考虑到大部分强化学习问题的值函数是单调的,而传统ELM方法通常运用具有双侧抑制特性的Sigmoid激活函数,增大了计算成本,提出采用具有单侧抑制特性的Softplus激活函数代替传统Sigmoid函数,以减少计算量提高运算速度,使得该算法在提高精度的同时提高了计算速度。通过与传统基于径向基函数的最小二乘强化学习算法和基于极限学习机的最小二乘TD算法在广义Hop-world问题的对比实验,比较结果证明了所提出算法在满足精度的条件下有效提高了计算速度,甚至某些条件下精度比其他两种算法更高。     

基于GMM核的LS-SVM真核启动子模型

由于真核启动子DNA序列结构复杂、数据量巨大,启动子序列辨识一直是一个难点。首先对真核启动子序列寡核苷酸位置分布特征进行高斯混合模型建模,能够将出现频率少但重要的基序提取出来。并将高斯混合模型作为真核启动子最小二乘支持向量机分类器中的核函数,将最小二乘支持向量机模型简化为最小二乘模型,计算量减少。辨识结果表明,该算法的辨识精度优于贝叶斯辨识算法,和RBF核LS-SVM相比,辨识精度基本相同,建模时间略有缩短。     

一种引入动量项的小波神经网络软测量建模方法

针对小波神经网络存在收敛速度缓慢且容易陷入局部极小的问题,提出一种参数修正改进算法。首先,输出层神经元函数采用双曲正切函数代替传统的Sigmoid函数;其次,通过在权值调整式中增加动量项的方法选择学习步长,以提高网络学习效率。利用所提改进方法建立催化裂化主分馏塔轻柴油凝点软测量模型,结果表明,改进小波神经网络模型的预测精度和泛化能力优于BP神经网络和小波神经网络模型,对生产有重要的指导意义。     

改进鲸鱼优化算法及其在渣油加氢参数优化的应用

针对智能优化算法在处理非线性优化问题中存在的容易陷入局部最优和收敛精度差等问题,提出了一种基于结合差分进化和精英反向学习的改进鲸鱼算法（DEOBWOA）。该算法引入对立搜索初始化、精英反向学习,并结合差分进化进行变异修正,显著有效地提高WOA算法的收敛精度和收敛速度,提高其跳出局部最优的能力。之后采用8个标准测试函数进行仿真实验,结果表明：DEOBWOA算法与标准WOA、HCLPSO、DE算法相比,全局搜索能力和收敛速度都有较大提升。最后建立了渣油加氢动力学模型,考虑到渣油加氢过程中存在诸多典型的非线性约束问题,以某炼化厂渣油加氢装置为例,应用DEOBWOA对渣油加氢反应动力学模型参数进行优化,结果表明该算法能较好地处理实际工程优化问题。     

用数值方法计算加热器管壁温度

采用最小二乘法将有关表格拟合成曲线方程,以期提高计算速度。用数值分析法建立计算金属油罐换热器管壁温度的数学模型,用对分法取代试算法计算加热器管壁温度,从而提高计算精度和速度。     

基于多分类概率极限学习机的污水处理过程操作工况识别

污水处理过程复杂多变的运行工况以及系统脆弱的抗负荷冲击能力,常常导致污水处理厂运行目标难以实现,有效识别污水操作工况的变化对污水处理过程安全运行和操作优化十分重要。为增强未知样本分类可靠性,在概率极限学习机二分类基础上,将其扩展到多分类概率极限学习机方法(extreme learning machine)。该方法首先采用极限学习机建立污水处理过程实时变量和污水处理过程工况编码之间的预报模型,然后根据类别的输出预报值分别建立每个类训练样本潜在函数的均值,确定所有类的条件概率密度函数,非线性最小二乘辨识条件概率密度函数参数,最后根据贝叶斯原理计算所有类的后验概率,由后验概率最大值判别样本所属类别。以辽宁某城市污水处理厂实时数据为背景进行验证,实验结果表明多分类概率极限学习机分类的可靠性和准确性优于极限学习机分类方法。     

改进鲸鱼优化算法及其在渣油加氢参数优化的应用

针对智能优化算法在处理非线性优化问题中存在的容易陷入局部最优和收敛精度差等问题,提出了一种基于结合差分进化和精英反向学习的改进鲸鱼算法(DEOBWOA)。该算法引入对立搜索初始化、精英反向学习,并结合差分进化进行变异修正,显著有效地提高WOA算法的收敛精度和收敛速度,提高其跳出局部最优的能力。之后采用8个标准测试函数进行仿真实验,结果表明:DEOBWOA算法与标准WOA、HCLPSO、DE算法相比,全局搜索能力和收敛速度都有较大提升。最后建立了渣油加氢动力学模型,考虑到渣油加氢过程中存在诸多典型的非线性约束问题,以某炼化厂渣油加氢装置为例,应用DEOBWOA对渣油加氢反应动力学模型参数进行优化,结果表明该算法能较好地处理实际工程优化问题。     

高分辨率混合模糊神经网络裂缝反演研究

本文提出了对ANF IS模糊神经网络的一种新的学习方法。由于梯度下降法和最小二乘法在训练ANF IS模糊神经网络时,尽管搜索局部极值的能力较强,但容易陷入局部极值,而遗传算法可以很快达到全局最优解附近。本文结合遗传神经网络、梯度下降法和最小二乘法各自的特点,提出一种混合算法,使得神经网络的收敛速度得到加快,精度得到提高。将该算法进行裂缝反演,取得了很好的反演效果。     

ASOS-ELM建模方法及在汽轮机热耗率预测中的应用

针对极限学习机（ELM）不能准确地预测汽轮机热耗率的问题,结合群智能优化算法,提出一种改进的共生生物搜索算法和极限学习机（ASOS-ELM）综合建模的方法。该方法利用改进的共生生物搜索（ASOS）算法优化ELM隐层激活函数的参数,求得最优的ELM模型。再将ASOS-ELM模型应用到热耗率建模中,首先用ELM初始化热耗率预测模型,以输出热耗率的均方根误差（RMSE）作为算法的适应度值,然后通过ASOS算法找到合适的ELM参数,从而得到准确的热耗率预测模型。并将热耗率预测的结果与传统的ELM模型、ASOS算法优化支持向量回归（SVR）模型、改进的粒子群算法（PSO）和基本的共生生物搜索算法（SOS）优化的ELM作对比。结果表明,ASOS-ELM模型在处理复杂的数据模型中,具有精确的预测能力与快速的收敛速度,为汽轮机热耗率建模提供了新思路。     

ASOS-ELM建模方法及在汽轮机热耗率预测中的应用

针对极限学习机(ELM)不能准确地预测汽轮机热耗率的问题,结合群智能优化算法,提出一种改进的共生生物搜索算法和极限学习机(ASOS-ELM)综合建模的方法。该方法利用改进的共生生物搜索(ASOS)算法优化ELM隐层激活函数的参数,求得最优的ELM模型。再将ASOS-ELM模型应用到热耗率建模中,首先用ELM初始化热耗率预测模型,以输出热耗率的均方根误差(RMSE)作为算法的适应度值,然后通过ASOS算法找到合适的ELM参数,从而得到准确的热耗率预测模型。并将热耗率预测的结果与传统的ELM模型、ASOS算法优化支持向量回归(SVR)模型、改进的粒子群算法(PSO)和基本的共生生物搜索算法(SOS)优化的ELM作对比。结果表明,ASOSELM模型在处理复杂的数据模型中,具有精确的预测能力与快速的收敛速度,为汽轮机热耗率建模提供了新思路。     

一种非线性系统在线辨识的选择性递推方法

针对非线性系统的在线辨识, 提出了一种选择性递推岭参数极限学习机方法。首先, 推导了岭参数极限学习机模型节点增加的递推算法, 以有效地更新在线模型。其次, 结合训练模型的相对误差, 提出模型节点递推增加的选择性策略, 以限制模型的复杂度, 获得更简单的递推辨识模型。通过一个典型非线性化工过程的在线辨识, 从多方面比较验证了所提出方法的简单有效, 更适合非线性过程的在线辨识。     

基于核函数的加权极限学习机污水处理在线故障诊断

污水生化处理中的运行故障会引起出水水质不达标、运行费用增高和环境二次污染等严重问题,需要及时准确地对运行故障进行诊断。考虑到污水处理过程运行状态数据的不平衡性造成故障诊断准确率下降,提出了一种基于核函数的加权极限学习机污水处理过程实时在线故障诊断方法。该方法以极限学习机为基础,采用加权的方式处理数据的不平衡特性,通过核函数的非线性映射来提高数据线性可分的程度。仿真实验证明,本文建立的污水处理在线故障诊断模型在线测试精度高,泛化性能好,模型在线更新速度快,能够比较好地满足准确性和实时性,实现对污水处理过程的在线故障诊断。     

即时局部建模在填料塔液泛气速预测的应用

填料塔在工业生产中应用广泛,准确预测填料塔的液泛气速具有重要的应用价值。实际的填料类型多种多样,获取的填料数据也存在差异,单一全局模型的预测效果受到一定的限制。首先给出了岭参数极限学习机模型及其节点增加的递推算法,以有效更新在线模型。结合即时学习方式,提出了局部递推岭参数极限学习机在线建模方法,用于填料塔液泛气速的预测。实验结果表明所提出方法能更充分挖掘数据间的相关信息,预测效果优于相应的全局模型。     

基于极限学习机的汽轮机故障诊断

针对汽轮机故障诊断中出现的多故障识别问题,为有效提高汽轮机多故障诊断的准确率,提出了基于极限学习机的汽轮机故障诊断方法.极限学习机算法在训练时只需设置隐含层神经元个数,从而解决了如神经网络及支持向量机等多参数选取困难的问题,有效地提高了学习机的训练速度.在确定了最优参数的基础上,将极限学习机应用于汽轮机故障诊断模型中,并将极限学习机的故障诊断结果与支持向量机的诊断结果进行对比.结果表明：基于极限学习机的多故障诊断速度及准确率均明显优于支持向量机的诊断结果,对汽轮机故障诊断的实践有非常显著的指导作用.     

基于核极限学习机的快速主动学习方法及其软测量应用

为提高主动学习方法的运行效率和降低人工标记成本，提出一种基于核极限学习机的快速主动学习方法，并将其应用于软测量建模中。首先，采用核极限学习机对无标记样本进行信息评估，将无标记样本的置信度作为样本选择评价准则，选择对改善模型性能最有价值的无标记样本进行标记；其次，充分考虑每次迭代过程的运算信息，引入矩阵反演公式优化样本选择策略，提升迭代过程样本评估的运行效率；最后，应用矩阵相似度理论对迭代过程的已标记样本数据进行信息度量，并将其作为迭代终止依据，以最小的标记代价提升模型性能。将所提方法应用于硫回收过程H₂S和SO₂浓度软测量研究中，仿真结果表明：所提方法不仅标记代价小，而且提高了迭代的快速性，比较全面地提升了主动学习算法的性能。通过开展本研究工作，为少标记样本情况下的软测量技术应用提供了一种新方法。     

基于向量投影的代谢支持向量机乙烯精馏产品质量软测量建模

针对支持向量机(SVM)增量学习过程中易出现计算速度慢、稳定性差的缺陷,提出了一种基于向量投影的代谢支持向量机建模方法.该方法首先运用向量投影算法对训练样本进行预选取来减少样本数量,提高SVM建模速度.然后将新增样本"代谢"原则引入SVM增量学习过程中,以解决因新增样本不断加入而导致训练样本数量"爆炸"的问题.最后将该方法用于乙烯精馏产品质量软测量建模,实验结果表明,与传统SVM和最小二乘支持向量机(LSSVM)相比,向量投影的代谢SVM具有更好的预测结果.     

基于同址训练递推最小二乘支持向量机的分批补料生物反应器中溶氧浓度的非线性广义预测控制(英文)

In this study, Saccharomyces cerevisiae (baker’s yeast) was produced in a fed-batch bioreactor at the optimal dissolved oxygen concentration (DOC) and growth medium temperature. However, it is very difficult to control the DOC using conventional controllers because of the poorly understood and constantly changing dynamics of the bioprocess. A generalized predictive controller (GPC) based on a nonlinear autoregressive integrated moving average exogenous (NARIMAX) model is presented to stabilize the DOC by manipulation of air flow rate. The NARIMAX model is built by an improved recursive least-squares support vector machine, which is trained by an in-place computation scheme and avoids the computation of the inverse of a large matrix and memory reallocation. The proposed nonlinear GPC algorithm requires little preliminary knowledge of the fermentation process, and directly obtains the nonlinear model in matrix form by using iterative multiple modeling instead of linearization at each sampling period. By application of an on-line bioreactor control, experimental results demonstrate the robustness, effectiveness and advantages of the new controller.     

Safe model-based reinforcement learning for nonlinear optimal control with state and input constraints

Safety is a critical factor in reinforcement learning (RL) in chemical processes. In our previous work, we had proposed a new stability-guaranteed RL for unconstrained nonlinear control-affine systems. In the approximate policy iteration algorithm, a Lyapunov neural network (LNN) was updated while being restricted to the control Lyapunov function, and a policy was updated using a variation of Sontag's formula. In this study, we additionally consider state and input constraints by introducing a barrier function, and we extend the applicable type to general nonlinear systems. We augment the constraints into the objective function and use the LNN added with a Lyapunov barrier function to approximate the augmented value function. Sontag's formula input with this approximate function brings the states into its lower level set, thereby guaranteeing the constraints satisfaction and stability. We prove the practical asymptotic stability and forward invariance. The effectiveness is validated using four tank system simulations.