二元裂解算子交替方向乘子法的核极限学习机

凸优化形式的核极限学习机(KELM)具有较高的分类准确率,但用迭代法训练凸优化核极限学习机要较传统核极限学习机的解线性方程法花费更长时间.针对此问题,该文提出一种2元裂解算子交替方向乘子法(BSADMM-KELM)来提高凸优化核极限学习机的训练速度.首先引入2元裂解算子,将求核极限学习机最优解的过程分裂为两个中间算子的优化过程,再通过中间算子的迭代计算而得到原问题的最优解.在22个UCI数据集上所提算法的训练时间较有效集法平均快29倍,较内点法平均快4倍,分类精度亦优于传统的核极限学习机;在大规模数据集上该文算法的训练时间优于传统核极限学习机.     

K插值单纯形法核极限学习机的研究

针对核极限学习机高斯核函数参数选优难,影响学习机训练收敛速度和分类精度的问题,该文提出一种K插值单纯形法的核极限学习机算法。把核极限学习机的训练看作一个无约束优化问题,在训练迭代过程中,用Nelder-Mead单纯形法搜索高斯核函数的最优核参数,提高所提算法的分类精度。引入K插值为Nelder-Mead单纯形法提供合适的初值,减少单纯形法的迭代次数,提高了新算法的训练收敛效率。通过在UCI数据集上的仿真实验并与其它算法比较,新算法具有更快的收敛速度和更高的分类精度。     

基于有序编码的核极限学习顺序回归模型

顺序回归是机器学习领域中介于分类和回归之间的有监督问题。在实际中,许多带有序关系标签的问题都可以被建模成顺序回归问题,因此顺序回归受到众多学者的关注。基于极限学习机(ELM)的算法能有效避免因迭代过程陷入的局部最优解,减少训练时间,但基于极限学习机的算法在顺序回归问题上的研究较少。该文将核极限学习机与纠错输出编码相结合,提出了一种基于有序编码的核极限学习顺序回归模型。该模型有效解决了如何在顺序回归中取得良好的特征映射以及如何避免传统极限学习机中隐层节点个数依赖于人工设置的问题。为验证提出模型的有效性,该文在多个顺序回归数据集上进行了测试,测试结果表明,相比于传统ELM模型,该文提出的模型在准确率上平均提升了10.8%,在数据集上预测表现最优,而且获得了最短的训练时间,从而验证了模型的有效性。     

一种多尺度小波核极限学习机的图像检索仿真

阐述了核极限学习机原理。在此基础上提出了一种多尺度小波核极限学习机,将多尺度小波核作为极限学习机的核函数,测试表明是其一种可实现的极限学习机核。同时在无训练数据分布的空间也具备分类能力,同等条件下高斯核极限学习机却不具备分类能力。在图像检索中应用多尺度小波核极限学习机,实验表明,相比支持向量机学习机分类算法,该分类算法可提高检索精度以及速度,具有优良的性能和一定的应用价值。     

基于LBP与LSSVM的数字图像分类算法

针对数字图像的高精度分类问题,提出了一种新型数字图像分类算法。在该算法中,局部二值模式(Local Binary Patterns,LBP)算子被用于数字图像的LBP图构建LBP图的直方图被用于构建图像样本的特征向量;大量样本的特征向量构建的训练数据集被送入最小二乘支持向量机(Least Squares Support Vector Machines,LSSVM)进行最优分类模型的构建。在测试数据集的分类测试中,对本文所提出算法与传统支持向量机算法、极限学习机算法和Hopfield神经网络方法进行了比较,在宏查准率、宏查全率和分类时间几个典型性能指标的测试方面,本文所提出的LBP-LSSVM算法均表现出了优异的性能。     

一种基于正则优化的批次继承极限学习机算法

极限学习机(ELM)作为一种新型神经网络,具有极快的训练速度和良好的泛化性能。针对极限学习机在处理高维数据时计算复杂度高,内存需求巨大的问题,该文提出一种批次继承极限学习机(B-ELM)算法。首先将数据集均分为不同批次,采用自动编码器网络对各批次数据进行降维处理;其次引入继承因子,建立相邻批次之间的关系,同时结合正则化框架构建拉格朗日优化函数,实现批次极限学习机数学建模;最后利用MNIST, NORB和CIFAR-10数据集进行测试实验。实验结果表明,所提算法具有较高的分类精度,并且有效降低了计算复杂度和内存消耗。     

改进鲸鱼算法优化核极限学习机在水质光谱分析中的应用

为提高水质光谱分析模型的学习速度与预测精度,采用核极限学习机对水质光谱进行建模,并提出一种具有动态惯性权重的改进鲸鱼优化算法对模型进行参数优化。由于极限学习机的输入权值矩阵和偏置是随机生成的,故引入核方法以减小其输出权值矩阵的波动;将鲸鱼优化算法中的惯性权重在非线性递减的基础上引入随机因子,通过动态调整惯性权重以平衡算法的全局搜索能力与局部开发能力。与传统优化模型进行了对比实验,实验结果表明:基于该方法所建模型具有更高的预测精度,而在相同的学习迭代次数下,核极限学习机的运行时间相对于传统算法约下降50%,且改进鲸鱼优化算法能够以更快的收敛速度使模型达到全局最优。     

基于极限学习机算法的图书馆读者借阅行为分析

极限学习机算法适应新鲜样本能力强、学习速率快,为此提出基于极限学习机算法分析图书馆读者借阅行为。但是极限学习机算法输入权重与隐层阈值随机确定,行为分析结果随机性强、可靠程度低,所以采用高适应度值遗传算法确定极限学习机算法的输入权值与阈值。高适应度值遗传算法选择算子复制两份适应度值最优个体、复制一份适应度值较优个体作为遗传种群;交叉算子选取2个适应度值最优新个体开始变异操作;确定算法最优输入权值与阈值后,提取读者借阅行为特征作为训练样本,构建图书馆读者借阅行为分析模型,测试样本代入模型得到读者借阅行为分析结果。经测试,所提方法能准确分析出高校学生频繁借阅、少量借阅等图书借阅行为。     

基于改进极限学习机的数据智能化分析算法设计

针对医疗财务数据的风险,文中提出了一种基于灰狼优化算法改进极限学习机的数据分析方法,实现了对数据风险的精准预测。该算法基于极限学习对数据进行深度挖掘和分析,并在此基础上进行改进,通过灰狼优化算法对极限学习机的权重参数进行优化。通过在真实数据集上与极限学习机进行实验对比,本算法的决定系数R2为0.96,优于极限学习机的0.81,验证了所提算法的有效性。同时,为了进一步验证该文算法的优越性,在实验仿真过程中还与多种机器学习算法进行对比,结果表明文中算法的预测效果更为优越,相比于其中表现最佳的SVM也有了0.06的提升。     

基于蒙特卡罗数据集均衡与鲁棒性增量极限学习机的图像自动标注

针对传统图像标注模型存在着训练时间长、对低频词汇敏感等问题,该文提出了基于蒙特卡罗数据集均衡和鲁棒性增量极限学习机的图像自动标注模型.该模型首先对公共图像库的训练集数据进行图像自动分割,选择分割后相应的种子标注词,并通过提出的基于综合距离的图像特征匹配算法进行自动匹配以形成不同类别的训练集.针对公共数据库中不同标注词的数据规模相差较大,提出了蒙特卡罗数据集均衡算法使得各个标注词间的数据规模大体一致.然后针对单一特征描述存在的不足,提出了多尺度特征融合算法对不同标注词图像进行有效的特征提取.最后针对传统极限学习机存在的隐层节点随机性和输入向量权重一致性的问题,提出了鲁棒性增量极限学习,提高了判别模型的准确性.通过在公共数据集上的实验结果表明：该模型可以在很短时间内实现图像的自动标注,对低频词汇具有较强的鲁棒性,并且在平均召回率、平均准确率、综合值等多项指标上均高于现流行的大多数图像自动标注模型.     

基于人工蜂群算法的支持向量机参数优化及应用

为了解决常用的支持向量机(SVM)参数优化方法在寻优过程不同程度的陷入局部最优解的问题,提出一种基于人工蜂群(ABC)算法的SVM参数优化方法。将SVM的惩罚因子和核函数参数作为食物源位置,分类正确率作为适应度,利用ABC算法寻找适应度最高的食物源位置。利用4个标准数据集,将其与遗传(GA)算法、蚁群(ACO)算法、标准粒子群(PSO)算法优化的SVM进行性能比较,结果表明,本文方法能克服局部最优解,获得更高的分类正确率,并在小数目分类问题上有效降低运行时间。将本文方法运用到计算机笔迹鉴别,对提取的笔迹特征进行分类,与GA算法、ACO算法、PSO算法优化的SVM相比,得到了更高的分类正确率。     

非平衡化标签补全核极限学习机多标签学习

目前众多的研究者通常直接将标签置信度矩阵作为先验知识直接加入到分类模型中,并没有考虑未标注先验知识对标签集质量的影响.基于此,引入非平衡参数的方法,将先验知识获得的基础置信度矩阵进行非平衡化,从而提出一种非平衡化的标签补全的核极限学习机多标签学习算法（KELM-NeLC）：首先使用信息熵计算标签之间的相关关系得到标签置信度矩阵,然后利用非平衡参数方法对基础的标签置信度矩阵进行改进,构建出一个非平衡的标签补全矩阵,最后为了学习获得更加准确的标签置信度矩阵,将非平衡化的标签补全矩阵与核极限学习机进行联合学习,依此解决多标签分类问题.提出的算法在公开的多个基准多标签数据集中的实验结果表明,KELM-NeLC算法较其他对比的多标签学习算法有一定优势,使用统计假设检验进一步说明所提出算法的有效性.     

深度复极限学习机在雷达HRRP目标识别中的应用

传统雷达高分辨一维距离像(High-resolution Range Profile,HRRP)目标识别方法只利用目标幅度信息而丢失其相位信息,这势必会造成信息不完备。为解决此问题,提出将深度极限学习机从实数域扩展到复数域,以有效提取复HRRP序列的深层潜在结构信息。同时为更好地保持数据间的邻域信息,将流形正则化引入到网络模型训练过程中,提出流形正则深度复极限学习机。在雷达暗室测量数据上的实验结果表明,所提算法相比常用的深度学习模型具有更好的识别效果和更快的训练速度,验证了算法的有效性。     

面向大规模噪声数据的软性核凸包支持向量机

现有的面向大规模数据分类的支持向量机（support vector machine,SVM）对噪声样本敏感,针对这一问题,通过定义软性核凸包和引入pinball损失函数,提出了一种新的软性核凸包支持向量机（soft kernel convex hull support vector machine for large scale noisy datasets,SCH-SVM）.SCH-SVM首先定义了软性核凸包的概念,然后选择出能代表样本在核空间几何轮廓的软性核凸包向量,再将其对应的原始空间样本作为训练样本并基于pinball损失函数来寻找两类软性核凸包之间的最大分位数距离.相关理论和实验结果亦证明了所提分类器在训练时间,抗噪能力和支持向量数上的有效性.     

基于SSA ELM和自适应差分进化算法的拉曼放大器设计北大核心CSCD

提出了一种将樽海鞘群算法优化极限学习机与自适应差分进化算法相结合的方法,并利用该方法优化多泵浦拉曼光纤放大器的参数配置。采用极限学习机构建泵浦参数和拉曼增益之间的非线性映射,并利用樽海鞘群优化算法对极限学习机参数进行优化获得最佳模型。对比分析了上述模型与BP神经网络和传统的极限学习机模型在评价指标方面的差异,结果表明本文所提出的模型预测性能较好。为了提高增益平坦性,利用自适应差分进化算法优化泵浦参数,得到最佳的参数配置。仿真结果表明,利用该方法设计出的拉曼放大器达到了预期效果,其目标增益与预测增益的最大误差不超过05dB。该方法为今后拉曼光纤放大器的设计提供了一种新的思路方法。     

基于简约凸壳的一类模糊支持向量机

为解决传统一类支持向量机对噪声数据敏感和不适用于大规模分类等问题,提出了用于大规模噪声环境的基于简约凸壳的一类模糊支持向量机（OC-FSVM-RCH）.OC-FSVM-RCH根据简约凸壳的定义在核空间得到代表正常类数据几何特征的样本,然后基于改进的模糊支持向量域描述算法,使得正常类数据包含在最小超球内,异常数据与超球间隔最大化.OC-FSVM-RCH剔除正常类数据轮廓边缘处的噪声,同时对数据内部的噪声不敏感.实验结果表明了所提算法在性能和训练时间上取得了良好的效果.     

基于SVM及其改进算法的fMRI图像分类性能研究

为了提出一种更适用于分析fMRI图像特征的机器学习算法,引入机器学习近年提出的、具有较好的泛化能力、并能够保证极值解是全局最优解的新方法支持向量机（SVM）算法,具体选择了PSVM、SSVM、LPSVM、NSVM 4种SVM改进算法以及基本SVM算法应用于fMRI图像的分类问题,在MATLAB平台上进行了算法仿真实现。在对各种算法的分类计算时间、分类精确度两个方面进行比较和讨论后,得到PSVM算法在fMRI图像的分类问题上,有较好的综合性能。     

Classifying single-trial EEG during motor imagery by iterative spatio-spectral patterns learning (ISSPL)

In most current motor-imagery-based brain-computer interfaces (BCIs), machine learning is carried out in two consecutive stages: feature extraction and feature classification. Feature extraction has focused on automatic learning of spatial filters, with little or no attention being paid to optimization of parameters for temporal filters that still require time-consuming, ad hoc manual tuning. In this paper, we present a new algorithm termed iterative spatio-spectral patterns learning (ISSPL) that employs statistical learning theory to perform automatic learning of spatio-spectral filters. In ISSPL, spectral filters and the classifier are simultaneously parameterized for optimization to achieve good generalization performance. A detailed derivation and theoretical analysis of ISSPL are given. Experimental results on two datasets show that the proposed algorithm can correctly identify the discriminative frequency bands, demonstrating the algorithm's superiority over contemporary approaches in classification performance.     

Supervised image classification by contextual AdaBoost based on posteriors in neighborhoods

AdaBoost, a machine learning technique, is employed for supervised classification of land-cover categories of geostatistical data. We introduce contextual classifiers based on neighboring pixels. First, posterior probabilities are calculated at all pixels. Then, averages of the log posteriors are calculated in different neighborhoods and are then used as contextual classification functions. Weights for the classification functions can be determined by minimizing the empirical risk with multiclass. Finally, a convex combination of classification functions is obtained. The classification is performed by a noniterative maximization procedure. The proposed method is applied to artificial multispectral images and benchmark datasets. The performance of the proposed method is excellent and is similar to the Markov-random-field-based classifier, which requires an iterative maximization procedure.