一种改进粒子群算法的混合核ε-SVM参数优化及应用

将径向基核函数和多项式核函数进行线性组合构建了混合核ε-SVM, 克服了单核SVM存在的泛化性能弱、学习能力差等弱点; 为了同时解决普通粒子群算法存在的后期震荡严重、趋同性强和极易陷入局部极小值等问题, 提出了一种改进的PSO算法, 并给出了其数学模型和算法流程。该算法将随机粒子个体极值的追随因子增加至动量项和基本粒子群算法的速度项, 再将增加追随因子后的动量项回植于更新后的速度项, 这样就使得粒子在减缓后期震荡的同时修正了趋同性。通过函数仿真实验和实例验证了所提出的基于改进PSO的混合核ε-SVM算法较其他预测算法具有寻优精度高、收敛速度快、鲁棒性能好和复杂度低等优势。     

支撑向量机的优化算法及实现

本文主要对数据挖掘中分类判别方法进行了研究。在对支撑向量机理论研究的基础上。提出了正交校正共轭梯度法-SVM（CGM-OC-SVM）。该算法是在吸取PRP-SVM算法的优点并改进其缺点基础上提出来的。解决较大规模的随机凸二次规划问题,同时克服了最速下降法-SVM收敛速度慢的特点。并且该算法使用径向基内积函数分类器作为Keme1函数,使算法更具有通用性。并通过程序对该算法进行了实现。     

双正则化参数的L_2-SVM参数选择

寻找支持向量机(SVM)的最优参数是支持向量机研究领域的热点之一。2范数软间隔SVM(L2-SVM)将样本转化成线性可分,在原始单正则化参数L2-SVM的基础上,提出双正则化参数的L2-SVM,获得它的对偶形式,从而确定了最优化的目标函数。然后结合梯度法,提出了一种新的支持向量机参数选择的新方法(Doupenalty-Gradient)。实验使用了10个基准数据集,结果表明,Doupenalty-Gradient方法是可行且有效的。对于实验所用的样本,极大地改善了分类精度。     

Wiener系统的变聚点样条逼近递推贝叶斯算法

为了辨识过程噪声干扰的Wiener非线性系统,提出了一种基于三样条函数逼近的递推贝叶斯算法.众所周知,传统的多项式逼近具有不能外推、高阶易震荡等缺点.为了克服这些缺点,首先利用三样条函数对Wiener系统的非线性反函数进行逼近,在此基础上将待辨识系统参数化为伪线性回归系统.然后把估计到的噪声方差融入算法,接着使用递推贝叶斯算法对参数进行了估计.为了提高三样条函数对非线性反函数的逼近能力,一种基于均值的变聚点选择方法被应用于算法.文中还对算法的收敛性进行了分析,并用数值仿真和案例建模验证了算法的有效性.     

用蛙跳算法优化RBF神经网络参数的研究

针对径向基函数（Radial Basis Functions,RBF）神经网络结构参数确定问题,提出了一种基于蛙跳算法优化RBF神经网络参数的新方法。将RBF神经网络参数组成一个多维向量,作为蛙跳算法中的参数进行优化。以适应度函数为标准,在可行解空间中搜索最优解,并对蛙跳算法进行了改进。非线性函数逼近实验结果表明,该优化算法相对标准遗传优化算法、粒子群优化算法有较小的均方误差,具有更好的逼近能力。     

正交泛函网络函数逼近理论及算法

基于正交函数的概念和特性,提出一种正交泛函网络新模型,给出了正交泛函网络学习算法.该算法是借助于正交函数性质和Lagrange乘数法做辅助函数,对泛函参数学习过程归结为求解一组线性方程组的过程.最后,通过函数逼近算例计算机仿真结果表明,该算法十分有效,具有模型简单、逼近精度高等特点.     

一种分布式智能推荐系统的设计

为提高支持向量回归算法的学习能力和泛化性能,提出了一种优化支持向量回归参数的混合选择算法.根据训练样本的规模和噪声水平等信息,确定支持向量回归参数的取值范围,用实数编码的免疫遗传算法搜索最佳参数值.混合选择算法具有较高的精度和效率,在选择支持向量回归参数时,不必考虑模型的复杂度和变量维数.仿真实验结果表明,该算法是选择支持向量回归参数的有效方法,应用到函数逼近问题时具有优良的性能.     

支持向量回归参数的混合选择

为提高支持向量回归算法的学习能力和泛化性能，提出了一种优化支持向量回归参数的混合选择算法。根据训练样本的规模和噪声水平等信息，确定支持向量回归参数的取值范围，用实数编码的免疫遗传算法搜索最佳参数值。混合选择算法具有较高的精度和效率，在选择支持向量回归参数时，不必考虑模型的复杂度和变量维数。仿真实验结果表明，该算法是选择支持向量回归参数的有效方法，应用到函数逼近问题时具有优良的性能。     

Approximate optimal control with εerror bound

近似动态规划方法求解非线性系统最优控制,需要迭代无限步才能得到最优控制律．本文提出了一种ε-近似最优控制算法,选择ε误差限,通过自适应迭代不断逼近哈密顿-雅可比-贝尔曼（HJB）方程的解,应用神经网络实现在有限步迭代后得到带ε误差限的近似最优控制律．计算机仿真结果表明了该算法的有效性．     

基于相对熵函数准则的BP算法

提出一种改进的BP算法,并对改进算法中的参数选择进行了讨论。改进后的算法用于XOR问题的学习及函数逼近问题。结果表明,改进后的BP算法可显著地提高网络的学习速度和逼近精度。     

利用模糊逻辑系统实现函数逼近的仿真研究

针对不确定性非线性系统，基于Wang L X提出的模糊辨识器的设计原理,给出了基于模糊逻辑系统实现函数逼近的方法，该方法通过采用中心平均模糊消除器和隶属函数，实时地调整参数来实现未知函数、尤其是非线性函数的逼近。通过适宜选择初始参数可使模糊逻辑系统在任意精度上逼近真实系统。该文给出了实现函数逼近的具体算法、步骤和程序流程，并利用MATLAB语言编写了实现函数逼近的通用程序，在工程中可利用此通用程序实现对未知作用函数的近似估算，具有一定的工程实际使用价值。实例仿真取得了良好的效果。     

基于差异演化的ε-SVRM参数优化

参数优化是ε-支持向量回归机研究领域的重要问题,其本质是一个优化搜索的过程.基于差异演化算法在求解优化问题上的有效性,提出了以差异演化算法寻优技巧的ε-支持向量回归机参数优化方法.将该算法应用于受噪声影响的标准函数,与采用遗传算法、蚁群算法、粒子群算法对支持向量机进行优化的仿真实验结果对比表明由DE算法所确定的ε-支持向量回归机具有较好的预测性能.     

分布参数系统边界控制的Haar小波算法

由于分布参数系统通常由偏微分方程描述,采用解析法求解分布参数系统最优边界控制问题,是非常难以解决的.正交函数逼近的方法在分布参数系统控制方面,已经取得了较好的效果.Haar小波作为正交基函数,利用小波的一些运算及变换矩阵,将分布参数系统转化为集总参数系统,再求其逼近解.仿真示例验证了所提出的算法是非常有效的.该方法为分布参数系统的控制算法提出了一条新的解决方案.     

基于RBF神经网络的回归树学习算法

介绍了一种新的非参数回归RBF神经网络学习算法,该算法将RBF神经网络与回归树结合起来使用。回归树的基本思想是通过递归分割将输入空间划分为两部分,对函数进行逼近。由于每一次划分都与轴平行,因此可以用输入分向量满足的不等式来描述每一次划分,从而输入空间就变成了一个用超矩形构成的回归树(二叉树)。回归树的结点可以很容易地转换为径向基函数,通过对回归树结点的访问,可以选择出使网络达到最优的基函数集,形成最终的网络。该算法可以应用到函数逼近、图像处理等各方面。     

基于小波变换的线性定常分布参数系统最优逼近控制

借助于正交函数逼近方法研究了线性定常分布参数系统的最优控制问题,将Haar小波正交基应用于分布参数系统的最优控制,获得了性能较好的最优控制逼近算法.仿真实例说明了算法的有效性.     

基于状态聚类的非参数化近似广义策略迭代增强学习算法

为解决当前近似策略迭代增强学习算法普遍存在计算量大、基函数不能完全自动构建的问题,提出一种基于状态聚类的非参数化近似广义策略迭代增强学习算法(NPAGPI-SC).该算法利用二级随机采样过程采集样本,利用trial-and-error过程和以样本完全覆盖为目标的估计方法计算逼近器初始参数,利用delta规则和最近邻思想在学习过程中自适应地调整逼近器,利用贪心策略选择应执行的动作.一级倒立摆平衡控制的仿真实验结果验证了所提出算法的有效性和鲁棒性.     

带ε误差限的近似最优控制

近似动态规划方法求解非线性系统最优控制, 需要迭代无限步才能得到最优控制律. 本文提出了一种ε–近似最优控制算法, 选择ε误差限, 通过自适应迭代不断逼近哈密顿– 雅可比– 贝尔曼(HJB)方程的解, 应用神经网络实现在有限步迭代后得到带ε误差限的近似最优控制律. 计算机仿真结果表明了该算法的有效性.     

L2-SVM下的短文本情感分类动态CNN模型

为了解决情感分类文本稀疏、传统方法过分依赖情感词典和人工设定特征工程等问题,提出一种基于L2-SVM和动态卷积神经网络的LDCNN模型。该模型采用不同于经典CNN模型的L2-SVM目标函数,解决了参数优化过程梯度弥散现象。通过真实网络评论数据集与经典方法的定量对比,实现了LDCNN模型准确率的大幅提升,并通过调整惩罚系数获得了最佳模型性能。     

时变非线性分布参数控制系统的小波辨识算法

基于正交函数逼近理论,在Haar小波正交规范基的基础上,总结并推导出了其积分运算矩阵、微分运算矩阵、乘积运算矩阵及其运算性质,并应用于一类时变非线性分布参数系统的辨识.借助于正交小波函数逼近方法对分布参数系统进行辨识,经正交小波逼近变换转化为代数矩阵方程,因此该方法可以不考虑初始条件和边界条件,较其他辨识方法要简单得多.该算法简单、计算量小、简化了分布参数系统辨识的求解过程,应用在分布参数系统辨识中不失为一种有效的分析方法.     

点模型的局部几何重建和光线跟踪

在每个点附近重建一个二次多项式函数曲面逼近原点模型,并根据逼近误差将每个重建曲面限制在称为ε置信邻域的范围内,从而形成一个ε面元.这些面元逼近原点模型表面,而且误差处处小于ε,可用于计算光线和点模型的交点.实验结果表明,文中算法速度快、逼近程度好、绘制质量高,能够自适应不同采样密度的模型.