基于L1-范数的最大间距准则

在进行线性投影降维时,由于传统的最大间距准则(Maximum Margin Criterion,MMC)算法基于L2-范数,易于受到野值(outliers)及噪声的影响.该文提出一种基于L1-范数的最大间距准则(L1-norm-based MMC,MMC-L1)降维方法,它充分利用L1-范数对野值及噪声的强鲁棒性以及最大间距准则,提出了一种快速迭代优化算法,并给出了其单调收敛到局部最优的证明.在多个图像数据库上的实验验证了该方法的鲁棒性与高效性.     

利用L∞+L1口范数的多基线相位解缠绕方法

多基线相位解缠绕问题可以转化为求解L1范数优化问题的最优解,然而L1范数多基线相位解缠绕算法存在内存需求量大的问题,且对噪声严重的干涉相位图处理效果不理想.为了减少用线性规划算法解L1范数多基线相位解缠绕时内存需求较大的问题,该文提出用L∞范数的惩罚函数来近似L1范数的惩罚函数以减少优化模型中优化变量的大小,从而将多基线相位解缠绕模型其目标函数变为L∞范数+L1范数的形式,并且优化变量的大小减少了约57％.最后,通过一个噪声严重的实测数据对该文算法进行了验证,实验结果表明,该文提出的方法不仅可以有效地解缠绕质量较好的条纹图,同时对噪声严重区还具有一定的滤波效果.     

基于近似l0范数的稳健稀疏重构算法

针对测量值受噪声污染的稀疏重构问题,本文提出了稳健近似l0范数最小化算法.该算法首先利用反正切函数近似l0范数,然后建立基于近似l0范数的含噪稀疏重构模型,最后通过拟牛顿法求解该模型,并分析了算法的收敛性.数值仿真表明,本文提出的算法重构稀疏向量时需要较少的测量值,且具有较高的计算精度.     

基于L1-范数的二维线性判别分析

为了避免图像数据向量化后的维数灾难问题,以及增强对野值(outliers)及噪声的鲁棒性,该文提出一种基于L1-范数的2维线性判别分析(L1-norm-based Two-Dimensional Linear Discriminant Analysis, 2DLDA-L1)降维方法。它充分利用L1-范数对野值及噪声的强鲁棒性,并且直接在图像矩阵上进行投影降维。该文还提出一种快速迭代优化算法,并给出了其单调收敛到局部最优的证明。在多个图像数据库上的实验验证了该方法的鲁棒性与高效性。     

基于Optuna框架的Lp范数约束下多核支持向量机在违约风险预测中的应用

针对违约数据存在数据量大、维度多、不平衡及噪声大等缺点,提出一种改进的支持向量机方法,即基于Optuna框架的L_p范数约束的代价敏感的多核支持向量机(L_p-Optuna-SVM)。该方法采用成本矩阵对不同预测错误赋予不同数值,通过多核学习引入多核混合核函数组合;同时采用Optuna优化框架对犯错成本、核函数的参数和权重实现了自动化的调优过程;还在核函数权重上引入L_p范数约束,以提高模型对噪声和异常数据的鲁棒性。最后,对4种常用的基础核函数组合的L_p-Optuna-SVM进行探讨,并与单核支持向量机以及K邻近法、逻辑回归、高斯贝叶斯进行对比。结果表明,在给定数据集上,L_p-Optuna-SVM在违约数据上的g-mean和AUC均高于其他算法,并且在加了不同方差的噪声数据集上,该算法整体依旧保持较好的鲁棒性。     

优化重加权L1范数的图像盲复原算法

在单幅运动模糊图像的盲复原问题中,图像中强边缘部分的利用成为模糊核估计的关键所在.为此,本文提出了一种优化重加权L1范数的图像盲复原算法.首先,建立了基于加权L1范数的模糊核盲估计模型,并引入了一种图像平滑模型对权重进行优化估计,从而减少计算权重时受细小结构以及噪声的影响,其次,设计了模糊核盲估计模型求解的迭代收缩阈值数值算法,最后采用了一种基于超拉普拉斯先验的快速图像非盲复原算法对模糊图像进行复原.仿真和实际数据实验结果验证了本文算法的有效性.     

一种变步长最小平均p范数自适应滤波算法

在p稳定分布脉冲噪声背景下,为解决固定步长最小平均p范数(LMP)不能同时满足快收敛速度和低稳态误差的问题,该文提出一种对脉冲噪声具有鲁棒性的变步长最小平均p范数(VSS-LMP)自适应滤波算法.该算法利用改进的变形高斯函数来调节步长,采用移动平均法构造变步长函数,克服了定步长算法稳态误差高及抗噪性能差的问题.VSS-...     

基于L1范数凸包数据描述的多观测样本分类算法

为建立高维空间样本分布的最佳覆盖为目标来实现覆盖分类,该文提出基于L1范数凸包数据描述的多观测样本分类算法。首先对训练集的每个类别以及测试集的多观测样本分别构造凸包模型,这样多观测样本的分类就转化为凸包模型的相似性度量问题。若测试集的凸包模型与训练集无重叠,采用L1范数距离测度进行凸包模型之间的相似性度量;若有重叠,采用L1范数距离测度进行收缩凸包(reduced convex hulls)之间的相似性度量。然后采用最近邻准则作为多观测样本的分类决策。在3个数据库上进行的实验结果,表明该文提出方法对于多观测样本分类具有可行性和有效性。     

小波消噪和蚁群优化支持向量机的网络流量预测模型

针对当前网络流量预测模型精度低的缺点,本文提出了一种新型的小波消噪和蚁群算法优化支持向量机的网络流量预测模型。首先采用小波阈值法对网络流量进行消噪处理;然后将网络流量输入到支持向量机中学习,并采用蚁群算法对支持向量机的参数进行优化,建立网络流量预测模型,最后采用实际网络流量数据进行仿真实验,结果表明,相对于其它网络流量预测模型,本文模型提高了网络流量的预测精度,具有更好的鲁棒性。     

一种改进的分枝定界半监督支持向量机学习算法

分枝定界半监督支持向量机,由于其实现的是全局最优化,因而可以作为其它半监督学习算法的一个基准。针对分枝定界半监督支持向量机中存在的缺陷,提出一种改进的分枝定界半监督支持向量机学习算法。该算法重新对下界的估计进行定义,从而降低了各结点计算下界的时间复杂度;同时利用支持向量机的几何特点确定分枝结点,以提高算法的运算速度。实验分析表明本文提出的算法具有精度高、鲁棒性强等优点。     

Robust L1-norm two-dimensional collaborative representation-based projection for dimensionality reduction

Collaborative representation-based projection (CRP) is a well-known dimensionality reduction technique, which has been proved to have better performance than sparse representation-based projection (SRP) in the fields of recognition and computer vision. However, classical CRP is sensitive to noises and outliers since its objective function is based on L2-norm, and it will suffer from the curse of dimensionality as it is used for images processing. In this paper, a novel CRP model, named L1-norm two-dimensional collaborative representation-based projection (L1-2DCRP) and an efficient iterative algorithm to solve it are proposed. Different from conventional CRP, the optimal problem in our proposed model is a L1-norm-based maximization and the vector data is extended to matrix date. The proposed algorithm is theoretically proved to be monotonously convergent, and more robust to noises and outliers since L1-norm is used. Experimental results on CMU Multi-PIE, COIL20, FERET and ORL face databases validate the effectiveness of L1-2DCRP compared with several state-of-the-art approaches.     

A NEURAL-BASED NONLINEAR L_1-NORM OPTIMIZATION ALGORITHM FOR DIAGNOSIS OF NETWORKS*

Based on exact penalty function, a new neural network for solving the L1-norm optimization problem is proposed. In comparison with Kennedy and Chua's network(1988), it has better properties.Based on Bandler's fault location method(1982), a new nonlinearly constrained L1-norm problem is developed. It can be solved with less computing time through only one optimization processing. The proposed neural network can be used to solve the analog diagnosis L1 problem. The validity of the proposed neural networks and the fault location L1 method are illustrated by extensive computer simulations.     

Spare L1-norm-based maximum margin criterion

Maximum margin criterion (MMC) is a popular method for dimensionality reduction or feature extraction. MMC can alleviate the small size sample (SSS) problem encountered by linear discriminant analysis (LDA) and extract more discriminant vectors than LDA. However, the objective function of MMC is derived from L2-norm, which makes MMC be sensitive to noise and outliers. Besides, the basis vectors of MMC are dense, which makes it hard to explain the obtained features. To address the drawbacks of MMC, in this paper, we propose a novel sparse L1-norm-based maximum margin criterion (SMMC-L1). L1-norm rather than L2-norm is used in the objective function of SMMC-L1. Besides, L1-norm is also used as a lasso penalty to regularize the basis vectors. An iterative algorithm for solving SMMC-L1 is proposed. Experiment results on some databases show the effectiveness of the proposed SMMC-L1.     

一种基于L_∞范式的求解已知旋转相机重建算法

基于多幅图像序列的三维重建过程中,相机模型的坐标统一是非常重要的基础。在已知两两相机之间的相对关系的情况下,将相机模型统一至同一世界坐标系,并恢复特征点的三维坐标。本文给出了一种基于L∞范式的求解已知旋转相机重建方法。给出了一种基于L∞范式的几何结构和运动问题的新框架,并用实验证明了算法能够达到很好的性能。     

基于间隔损失和L1范数调节的特征选择方法研究

特征评价和选择是机器学习和模式识别的重要步骤。为了获得稀疏特征子集,结合间隔损失评估策略和L1范数调节技术来获得一种有效的特征选择方法(MLFWL-L1),并将其应用到RBFSVM分类器。实验中,在UCI数据集上将提出的算法与Simba和ReliefF对比表明,验证所提出的算法是一种有效的特征选择方法。     

基于非负稀疏表示的SAR图像目标识别方法

针对合成孔径雷达(SAR)图像目标识别中存在物体遮挡的情况,该文提出一种基于非负稀疏表示的分类方法。通过分析L0范数和L1范数最小化在求解非负稀疏表示问题上的区别,证明在一定条件下,L1范数最小化方法除了保持解的稀疏性还能得到与输入信号更加相似的原子集合,因此也更加适用于分类问题中。在运动和静止目标获取与识别(MSTAR)数据集上的识别实验结果表明,采用L1范数的非负稀疏表示分类方法能达到较好的识别性能,并且相对传统方法对存在遮挡情况下的识别问题更稳健。     

Robust locality preserving projection based on maximum correntropy criterion

Conventional local preserving projection (LPP) is sensitive to outliers because its objective function is based on the L2-norm distance criterion and suffers from the small sample size (SSS) problem. To improve the robustness of LPP against outliers, LPP-L1 uses L1-norm distance metric. However, LPP-L1 does not work ideally when there are larger outliers. We propose a more robust version of LPP, called LPP-MCC, which formulates the objective problem based on maximum correntropy criterion (MCC). The objective problem is efficiently solved via a half-quadratic optimization procedure and the complicated non-linear optimization procedure can thereby be reduced to a simple quadratic optimization at each iteration. Moreover, LPP-MCC avoids the SSS problem because the generalized eigenvalues computation is not involved in the optimization procedure. The experimental results on both synthetic and real-world databases demonstrate that the proposed method can outperform LPP and LPP-L1 when there are large outliers in the training data.     

基于pinball损失的结构模糊孪生支持向量机

孪生支持向量机通过求解较小的二次规划问题,提高了分类器的性能,然而,该方法主要利用了类间可分的特性,并使用hinge损失函数构建相应的模型,它们并未充分考虑不同类中数据的结构信息以及不同样本对分类的影响,导致该方法对噪声具有较强的敏感性以及重取样的不稳定性.为了进一步提高孪生支持向量机的性能,基于pinball损失函数,将数据集中不同类的结构信息以及不同样本的作用引入到孪生支持向量机中,获得了基于pinball损失的结构模糊孪生支持向量机模型,从理论上导出了基于pinball损失的结构模糊孪生支持向量机算法pin-sftsvm,通过选取人工生成数据集与UCI标准数据集,对pin-sftsvm算法进行了实验,并与tbsvm、s-tsvm和pin-tsvm算法进行了性能比较,表明了提出算法的有效性.