基于惩罚似然优化模型的本体稀疏向量计算算法

通过稀疏向量的学习来得到本体函数,利用方向导数计算来得到惩罚似然优化模型的最优解,进而得到本体稀疏向量.将该算法应用于植物学领域PO本体和仿生机器人领域本体,同时将实验结果与已有算法的结果作对比,结果表明本算法对植物学领域的相似度计算和仿生机器人领域本体映射的建立有较高的效率.     

本体稀疏向量衰减迭代计算策略

在生物学和医学等领域的工程应用中,往往涉及海量数据的处理和计算.在此背景下,稀疏向量学习算法被引入到这些计算中,旨在提取重要的特性信息,减少计算量.随着本体在基因学等领域的广泛应用,发现本体概念数学化后,其对应向量的维度会异常的高,再加上本体图庞大的规模使得计算量大大增加.出于有效解答此类工程计算问题的需要,考虑本体框架下的稀疏向量学习优化算法.用分解本体稀疏向量的方法得到可求导的新优化模型,通过核参数γ递减过程中断点的估计,以及衰减率的调节得到对应的本体稀疏向量迭代求解算法.通过实验验证了新算法可用于本体相似度计算和本体映射的构建.     

本体稀疏向量迭代计算算法

用机器学习方法得到本体函数时,需要将每个本体概念所对应的信息用一个p维向量来表示。在很多应用背景下,由于p值很大而导致计算量庞大。通过稀疏向量的学习来得到本体函数,利用块方法设计一种迭代计算算法进而得到稀疏向量。将该算法应用于生物基因GO本体和物理教育本体,并将实验结果与已有算法的结果作对比,验证了算法在生物基因领域的相似度计算和在物理教育学领域建立本体映射上有较高的效率。     

一个新的零模非凸代理函数及其应用研究

基于带平滑削边绝对偏离(Smoothly Clipped Absolute Deviation, SCAD)函数和弹性网络(Elastic Net)函数,提出了一个零模非凸代理函数(EN-SCAD函数),该代理函数是弹性网络函数与一个连续可微凸函数的差,因此是一个凸差(Difference of Convex, DC)函数;然后,将EN-SCAD函数应用于稀疏线性回归问题,建立了EN-SCAD非凸代理模型,在适当的限制强凸条件下得到该模型的稳定点与真实稀疏向量之间的统计误差界;其次,根据EN-SCAD非凸代理模型设计了一个多阶段凸松弛算法,并得到了该算法产生的迭代点列与真实稀疏向量之间的统计误差界;最后,将基于EN-SCAD非凸代理模型设计的算法与自适应弹性网络凸松弛方法的数值效果进行比较,数值实验结果表明：当采样矩阵的列向量具有强相关性时,基于EN-SCAD非凸代理模型的算法产生的估计误差小于自适应弹性网络凸松弛方法产生的估计误差。     

基于对偶理论的本体稀疏向量学习算法

作为一种语义计算和结构化信息存储模型,本体已被广泛应用于生物、物理、地理信息系统等多个领域.在本体学习算法中,本体图顶点所对应的概念信息用一个多维向量来表示.但在大部分应用背景下,顶点之间的相似度取决于少部分分量.基于对偶理论得到本体稀疏向量的计算方法,将该算法应用于数学本体和大学本体,通过P@N准备率来说明算法的效率.     

一个新的稀疏支持向量机模型

文章探讨了一新的稀疏支持向量机模型,该算法在标准支持向量机中增加一个对损失向量的约束用于控制支持向量的数目从而提高稀疏性.由于增加该约束使得优化问题变为非凸的,文中用较弱的约束替代原约束并得其对偶问题.经实验表明新提出的该模型比标准模型更为稀疏.     

基于非凸上界的ranking模型构造算法

现有的ranking算法均通过最小化原目标函数的凸上界构造ranking模型,得到的模型不够精确.为此,文中提出一种基于非凸上界的ranking算法.该算法首先给出一个基于多类支持向量机(SVM)的框架,然后定义面向NDCG的目标函数,在此基础上设计一个比现有的凸上界更为紧凑的非凸上界逼近原目标函数;针对上界函数的非凸非光滑,提出使用凹-凸过程进行凸逼近,并采用割平面算法进行求解;最后,通过在基准数据集上的实验对该算法进行验证,并与现有算法进行对比.结果表明,相比现有的基于凸上界的ranking算法,文中算法得到的模型不但更为精确,而且更加稳定.     

利用支持向量机的摩擦模型参数辨识

以Tustin摩擦模型为参数辨识对象,提出一种基于支持向量机算法的摩擦模型参数辨识的方法.构建训练样本并选取适当的支持向量机模型,选择具有较好泛化能力的径向基核函数和具有稀疏性特点的ε不敏感损失函数,以求解最优化问题,得到最优解.以某直流电机高精度位置伺服系统为对象,用辨识得到的参数估计值设计摩擦力矩的补偿环节,对系统进行补偿,仿真结果表明,算法的辨识精度比较高.     

基于优化最小化的加强稀疏性的稀疏信号恢复算法

针对稀疏信号恢复算法对稀疏性约束不强的问题,提出了一种基于加强稀疏性非凸函数的稀疏信号恢复算法.通过分析收缩函数和惩罚函数的关系,提出一种新的具有加强稀疏性的非凸的惩罚函数,利用优化最小化(majorization-minimization,MM)方法构造非凸函数的凸上界,并对目标函数的凸部分和凸上界进行迭代求解,实现了对稀疏信号的加强恢复.相较于现存的基于非凸惩罚函数的稀疏信号恢复算法,本算法具有不受参数干扰和梯度方向包含目标函数非凸部分的优势.将提出的算法应用于稀疏无线信道的估计,仿真结果表明,该算法在噪声环境下可以使用更少的导频,取得更准确的信道估计结果.     

基于ramp损失函数的原空间支持向量机

针对传统支持向量机对噪声敏感的问题,给出一种基于不对称形式的二次不敏感控制型ramp损失函数的支持向量回归机,采用凹凸过程优化和光滑技术算法,将非凸优化问题转化为连续且二次可微的凸优化问题,利用有限步终止的Amijo-Newton优化算法,求解所建立的优化模型,并分析了算法的收敛性.该算法不仅可以保持支持向量的稀疏性,而且还可以控制训练样本中的异常值.实验结果表明,该模型保持了很好的泛化能力,无论对模拟数据还是标准数据都具有一定的拟合精度,与标准支持向量机模型相比,不仅能够降低噪声和孤立点的影响,而且也具有较强的鲁棒性.     

一种改进的最小二乘支持向量机算法

最小二乘支持向量机是标准支持向量机的一种扩展,它是支持向量机在二次损失函数下的一种形式.它用等式约束代替不等式约束,求解过程变为解一组等式方程,避免了求解耗时的二次规划问题,但同时也丧失了标准支持向量机的稀疏性,影响了二次学习的效率.针对上述问题,本文提出了一种改进的最小二乘支持向量机增量学习方法.改进的最小二乘支持向量机算法采用自适应剪枝方法对解进行稀疏,根据每次训练得到的分类器性能来设定剪枝阚值和样本增量的大小,如果得到的分类器性能好,剪枝阈值和样本增量就大,反之,剪枝阚值和样本增量就小,从而提高了最小二乘支持向量机训练效率,解决了稀疏性问题.最后,仿真实验表明该算法方案可行.     

带光滑L_(1/2)正则化项的神经网络逆向迭代算法收敛性分析

L1/2正则子比L2正则子更具稀疏性,有更强的剪枝能力;但其非凸、非光滑以及不满足Lipschitz条件的函数性质,使神经网络训练过程易于出现数值振荡现象,并且给收敛性分析带来理论困难。用光滑函数逼近L1/2正则子在克服数值振荡的同时可以保证目标函数具有良好的连续可微性质。针对提出的带光滑L1/2正则化项的逆向迭代神经网络模型,证明了误差函数的单调递减性质及算法的确定型收敛性:弱收敛和强收敛。数值实验表明,新的逆向迭代学习算法较已有算法保证了输入向量序列在训练过程中的稳定性及稀疏性,并有较好的泛化能力。     

基于ε-邻域方法的本体映射算法

概念的语义相似度研究,是知识表示以及信息检索领域中的一个重要内容.将与某概念相关的信息表示为一个向量,用ε-领域方法定义边,用核函数定义边的权值.通过解图正则化模型得到本体映射.实验结果说明该算法是有效的.     

基于稀疏编码和多核学习的图像分类算法

提出了一种基于稀疏编码和多核学习的图像分类算法.首先从图像中提取Dense-SIFT（Dense Scale Invariant Feature Transform）和Dense-SURF（Dense Speeded Up Robust Feature）2种特征,使用稀疏编码对特征点进行处理,得到一系列高维向量,然后对这些高维向量应用max-pooling算法,将图像表示成单个向量.最后,使用改进的多核学习方法对这些向量进行分类,对于不同的特征,使用不同核的组合以达到最好的分类效果.实验结果表明,该算法作为词袋（BoW）模型的改进,能够提高分类准确率.
     

基于BMRM迭代排序方法的本体学习算法

本体作为一种结构化数据存储和表示模型已成为信息检索领域的研究热点,并被应用于生物医学、地理科学、社会科学等诸多领域。提出基于BMRM迭代排序学习方法的本体相似度计算和本体映射算法,利用BMRM迭代得到最优参数向量,由此得到排序函数,将本体图或多本体图中的顶点映射成实数,通过两顶点对应实数间的差值来确定它们对应概念间的相似度。最后,将算法分别作用于GO本体和计算机软件本体,通过实验数据对比说明新算法对特定的应用领域具有较高的效率。     

求解向量广义Nash平衡问题的一个精确罚函数方法(英文)

研究约束向量广义Nash平衡问题,其中所有函数都是凸的.利用精确罚函数技巧,在一定条件下,证明了解这样的约束向量广义Nash平衡问题可以简化为解约束向量Nash平衡问题.     

基于多观测向量的高光谱影像稀疏表达分类

针对传统的高光谱影像稀疏表达分类模型忽略像元间的内部结构关系且运算效率较低,提出多观测向量的稀疏表达模型来研究高光谱影像分类.该模型引入平衡参数来控制各权重系数向量的稀疏度,通过最小化L2范数约束的重构误差来求解所有测试像元的稀疏系数向量.基于两个高光谱数据集,对比5种常规分类器的分类结果来验证提出的方法.实验结果表明,多观测向量的稀疏表达分类模型在计算效率第二的同时能够得到最高分类精度.     

稀疏统计学习及其最新研究进展综述

稀疏性意谓可以仅用少数位于低维子空间的参数(特征变量)近似表示高维空间的复杂物理过程，是实际应用中普遍存在的性质.稀疏统计学习旨在探索高维数据的稀疏性，并进行统计建模和推断.文章综述了基于回归分析的稀疏统计学习模型及其最新研究进展.主要介绍了各类带有凸或非凸正则项的稀疏回归模型，特别是■正则化框架的算法和应用.近10年来，深度学习取得革命性进展，结合传统稀疏统计学习模型与深度神经网络的研究逐渐受到了广泛的关注.文章主要介绍了基于稀疏建模的深度学习方法和数据驱动的稀疏统计分析方法，前者包括深度网络展开等，后者则包括深度哈希学习及深度典型相关分析.最后，文章进行了总结，并展望了未来可能的研究方向.     

成对排序本体学习算法

本体作为一种结构化数据模型已广泛应用于知识表示和信息处理,并成为近几年计算机领域的研究热点.提出基于成对排序学习方法的本体相似度计算和本体映射算法,利用Mahalanobis距离函数得到计算模型,通过梯度下降策略得到模型的最优解,从而将本体图或多本体图中的顶点对映射成实数来表示它们的相似程度.通过两个实验表明,新算法对特定的应用领域具有较高的效率.     

基于支撑向量机在线学习方法的短期负荷预测

提出了基于支撑向量机在线学习方法的短期负荷预测,该方法克服了传统的支撑向量机负荷预测当训练样本集合改变时为了保证预测精度必需重新进行训练来得到新的回归函数的缺点.充分利用支撑向量机解的稀疏性和前一次的训练结果,提出了递增和递减算法,直接修改原有回归函数的系数来得到新回归函数.实例计算表明,该方法与传统支撑向量机方法相比,具有计算速度快,推广能力强的显著特点,在相同预测精度下,计算速度提高了近两个数量级.