一种多尺度小波核极限学习机的图像检索仿真

阐述了核极限学习机原理。在此基础上提出了一种多尺度小波核极限学习机,将多尺度小波核作为极限学习机的核函数,测试表明是其一种可实现的极限学习机核。同时在无训练数据分布的空间也具备分类能力,同等条件下高斯核极限学习机却不具备分类能力。在图像检索中应用多尺度小波核极限学习机,实验表明,相比支持向量机学习机分类算法,该分类算法可提高检索精度以及速度,具有优良的性能和一定的应用价值。     

二元裂解算子交替方向乘子法的核极限学习机

凸优化形式的核极限学习机(KELM)具有较高的分类准确率,但用迭代法训练凸优化核极限学习机要较传统核极限学习机的解线性方程法花费更长时间。针对此问题,该文提出一种2元裂解算子交替方向乘子法(BSADMM-KELM)来提高凸优化核极限学习机的训练速度。首先引入2元裂解算子,将求核极限学习机最优解的过程分裂为两个中间算子的优化过程,再通过中间算子的迭代计算而得到原问题的最优解。在22个UCI数据集上所提算法的训练时间较有效集法平均快29倍,较内点法平均快4倍,分类精度亦优于传统的核极限学习机;在大规模数据集上该文算法的训练时间优于传统核极限学习机。     

二元裂解算子交替方向乘子法的核极限学习机

凸优化形式的核极限学习机(KELM)具有较高的分类准确率,但用迭代法训练凸优化核极限学习机要较传统核极限学习机的解线性方程法花费更长时间.针对此问题,该文提出一种2元裂解算子交替方向乘子法(BSADMM-KELM)来提高凸优化核极限学习机的训练速度.首先引入2元裂解算子,将求核极限学习机最优解的过程分裂为两个中间算子的优化过程,再通过中间算子的迭代计算而得到原问题的最优解.在22个UCI数据集上所提算法的训练时间较有效集法平均快29倍,较内点法平均快4倍,分类精度亦优于传统的核极限学习机;在大规模数据集上该文算法的训练时间优于传统核极限学习机.     

小波核极限学习机分类器

分析了核极限学习机的原理,提出了一种小波核极限学习机,将小波函数做为极限学习机的核函数,证明了它是一种允许的极限学习机核。通过在双螺旋数据上的测试表明,小波核极限学习机在无训练数据分布的空间也具有分类能力,而高斯核极限学习机在没有训练数据分布的空间不具备分类能力。通过在不同的UCI数据集中的测试得出小波核极限学习机具有较高的分类性能。最后将小波核极限学习机应用到了人脸识别问题上,同样取得了优良的性能,说明小波核极限学习机具有一定的应用价值。     

改进鲸鱼算法优化核极限学习机在水质光谱分析中的应用

为提高水质光谱分析模型的学习速度与预测精度,采用核极限学习机对水质光谱进行建模,并提出一种具有动态惯性权重的改进鲸鱼优化算法对模型进行参数优化。由于极限学习机的输入权值矩阵和偏置是随机生成的,故引入核方法以减小其输出权值矩阵的波动;将鲸鱼优化算法中的惯性权重在非线性递减的基础上引入随机因子,通过动态调整惯性权重以平衡算法的全局搜索能力与局部开发能力。与传统优化模型进行了对比实验,实验结果表明:基于该方法所建模型具有更高的预测精度,而在相同的学习迭代次数下,核极限学习机的运行时间相对于传统算法约下降50%,且改进鲸鱼优化算法能够以更快的收敛速度使模型达到全局最优。     

基于有序编码的核极限学习顺序回归模型

顺序回归是机器学习领域中介于分类和回归之间的有监督问题。在实际中,许多带有序关系标签的问题都可以被建模成顺序回归问题,因此顺序回归受到众多学者的关注。基于极限学习机(ELM)的算法能有效避免因迭代过程陷入的局部最优解,减少训练时间,但基于极限学习机的算法在顺序回归问题上的研究较少。该文将核极限学习机与纠错输出编码相结合,提出了一种基于有序编码的核极限学习顺序回归模型。该模型有效解决了如何在顺序回归中取得良好的特征映射以及如何避免传统极限学习机中隐层节点个数依赖于人工设置的问题。为验证提出模型的有效性,该文在多个顺序回归数据集上进行了测试,测试结果表明,相比于传统ELM模型,该文提出的模型在准确率上平均提升了10.8%,在数据集上预测表现最优,而且获得了最短的训练时间,从而验证了模型的有效性。     

基于GA-KELM的复杂路面病害分割算法

针对大多数路面裂缝检测算法对坑洼、松散和车辙等复杂病害分割效果一般,适应较差的问题。提出了一种基于训练样本自动选取与改进的核极限学习机相结合的检测方法。首先使用二维Otsu选取训练样本并提取LBP特征和HOG特征。然后采用遗传算法对核极限学习机中随机给定的输入权值和隐含层偏差进行优化。将降维后得到的特征向量作为特征属性对改进的核极限学习机进行训练。最后用训练好的分类器对路面病害进行检测。经实验证明,该算法与对比实验相比分割精度提高了24.8%,运行时间为4.31s 是一种鲁棒性较强的检测方法。     

小波核极限学习机在人脸识别中的应用

文章提出了一种基于小波核极限学习机(Wavelet Kernel Extreme Learning Machine,WK-ELM)的人脸识别算法。首先,使用2D盖博小波变换对人脸图片进行初步的人脸特征提取。为了从所有提取的特征中选择出与人脸识别相关的、必要的特征,使用主成分分析法(Principal Component Analysis,PCA)对经过初步处理后的图像再进行进一步处理,有效地降低了特征维数。然后使用小波核极限学习机对提取到的图像进行分类。实验证明,小波核极限学习机不仅识别性能高,而且训练速度也优于其他算法。     

多尺度特征融合与极限学习机结合的交通标志识别

针对卷积神经网络只能使用相同尺寸图像和卷积核的网络进行特征提取,导致提取的特征不全面,在交通标志识别中因车载摄像头与交通标志的位置不断变化影响交通标志的识别精度等问题,提出了一种基于多尺度特征融合与极限学习机结合的交通标志识别方法。首先,将预训练适应3种不同尺寸图像的网络模型作为实验的初始模型;然后,融合3个网络模型构建多尺度卷积神经网络,将3个预训练网络的参数级联到融合模型的全连接层,对融合模型的全连接层进行训练,采用随机梯度下降算法更新网络参数;最后,将融合后的模型作为特征提取器提取特征,把提取到的多尺度特征送入极限学习机,实现交通标志识别。实验采用德国交通标志数据库(GTSRB)对算法性能进行测试,实验结果显示,多尺度特征融合与极限学习机结合的网络识别精度为99.23%,识别速度为46ms。相对于预训练的网络,网络的分类精度分别提高了2.35%,3.22%,3.74%。多尺度特征融合能够有效提取交通标志图像的特征信息,极限学习机可以提高分类精度和分类时间,该方法能满足交通标志识别的准确性和实时性的要求。     

TGBA优化核极限学习机的光伏阵列故障诊断

针对核极限学习机(Kernel Extreme Learning Machine,KELM)用于光伏阵列故障诊断时准确率不高的不足,提出了 一种基于 TGBA(Tent Mapping and Gaussian Perturbation Strategy Optimize Bat Algorithm)算法优化核极限学习机的光伏阵列故障诊断方法(TGBA-KELM).首先,建立光伏阵列故障仿真模型,提取光伏阵列故障特征参数;其次,引入Tent映射和高斯扰动策略对蝙蝠算法(Bat Algorithm,BA)进行改进,增加种群多样性,提高了算法的收敛速度和全局寻优能力;再次,利用改进后的蝙蝠算法优化KELM的正则化系数和核函数参数,建立最优的故障诊断模型;最后,采用光伏阵列硬件实验平台收集的故障数据验证了 TGBA-KELM算法的准确性和有效性,并与 ELM(Extreme Learning Machine,ELM)、KELM、BA-KELM、TGBA-ELM、BP(back prop-agation)算法对比,实验结果表明,TGBA-KELM具有更高的故障诊断准确率,可用于光伏阵列故障诊断.     

基于类间距判据的高斯过程分类模型核参数选择方法研究

文中提出了一种基于类间距判据的高斯过程分类(GPC)模型核参数选择方法.将核参数作为自变量,类间距作为因变量,获得类间距随核参数变化的目标函数,然后采用共轭梯度法求取目标函数极值,最终获得核参数的最优值.实验表明,用DBTC作为判据进行核参数选择,分类正确率与原有参数选择方法基本相当,但GPC模型在进行参数选择时的耗时大幅减少,因而模型训练速度得到大幅提升.     

基于人工蜂群算法的支持向量机参数优化及应用

为了解决常用的支持向量机(SVM)参数优化方法在寻优过程不同程度的陷入局部最优解的问题,提出一种基于人工蜂群(ABC)算法的SVM参数优化方法。将SVM的惩罚因子和核函数参数作为食物源位置,分类正确率作为适应度,利用ABC算法寻找适应度最高的食物源位置。利用4个标准数据集,将其与遗传(GA)算法、蚁群(ACO)算法、标准粒子群(PSO)算法优化的SVM进行性能比较,结果表明,本文方法能克服局部最优解,获得更高的分类正确率,并在小数目分类问题上有效降低运行时间。将本文方法运用到计算机笔迹鉴别,对提取的笔迹特征进行分类,与GA算法、ACO算法、PSO算法优化的SVM相比,得到了更高的分类正确率。     

基于多特征融合的红外图像分类研究

针对传统红外图像目标分类方法准确率低的问题,提出了一种用结合多特征融合的粒子群优化(Particle Swarm Optimization, PSO)算法来优化支持向量机(Support Vector Machine, SVM)的方法。该方法采用方向梯度直方图(Histogram of Oriented Gradient, HOG)和局部二值模式(Local Binary Pattern, LBP)两类特征描述红外图像中目标的轮廓特征和局部纹理,从不同的方面展现红外图像的特点,在图像的特征表达上具有一定的互补性。在特征提取后对样本数据进行凸包算法计算,得到一些具有代表性的样本数据,从而提高分类计算效率;在分类模型训练时,采用PSO算法优化SVM,寻找SVM的最优惩罚因子和核参数,从而提高分类模型的准确率。实验结果表明,多特征融合的分类模型的准确率比单一特征的分类模型提高近10%,且经PSO优化的SVM最终模型的分类准确率高达99%。     

基于最优参数搜索的车辆中网识别方法研究

目前国内外车型识别方法中基于中网区域特征的研究较少,且分类识别的效率和精度较低。该文在分析中网格栅区域结构特征、中网窗口形状特征及区域纹理特征的基础上,提出基于最优参数搜索的改进型C参数的支持向量分类(C-SVC)车辆中网分类识别方法,该方法采用双角度约束以提高分类的效率和精度,即一方面设计基于马氏距离和a-原则对样本数据进行优化分选,并结合加权判别算法加快支持向量机的训练测试速度,以提高算法泛化效率;另一方面在核函数参数设定过程中,设计了基于先验知识的迭代最优参数搜索算法,以提高分类器的分类识别精度。实验表明,上述车辆中网识别方法检测准确率达到97.53%,具有精度高、误检率低的优点,同时极大优化分类识别效率,能够满足识别分类的实时性要求。     

用于表示级特征融合与分类的相关熵融合极限学习机

在极限学习机(ELM)网络结构和训练模式的基础上,该文提出了相关熵融合极限学习机(CF-ELM)。针对多数分类方法中表示级特征融合不充分的问题,该文将核映射与系数加权相结合,提出了能够有效融合表示级特征的融合极限学习机(F-ELM)。在此基础上,用相关熵损失函数替代均方误差(MSE)损失函数,推导出用于训练F-ELM各层权重矩阵的相关熵循环更新公式,以增强其分类能力与鲁棒性。为了检验方法的可行性,该文分别在数据库Caltech 101, MSRC和15 Scene上进行实验。实验结果证明,该文所提CF-ELM能够在原有基础上进一步融合表示级特征,从而提高分类正确率。     

A pruning ensemble model of extreme learning machine with $$L_{1/2}$$ regularizer

Extreme learning machine (ELM) as an emerging branch of machine learning has shown its good generalization performance at a very fast learning speed. Nevertheless, the preliminary ELM and other evolutional versions based on ELM cannot provide the optimal solution of parameters between the hidden and output layer and cannot determine the suitable number of hidden nodes automatically. In this paper, a pruning ensemble model of ELM with \(L_{1/2} \) regularizer (PE-ELMR) is proposed to solve above problems. It involves two stages. First, we replace the original solving method of the output parameter in ELM to a minimum squared-error problem with sparse solution by combining ELM with \(L_{1/2}\) regularizer. Second, in order to get the required minimum number for good performance, we prune the nodes in hidden layer with the ensemble model, which reflects the superiority in searching the reasonable hidden nodes. Experimental results present the good performance of our method PE-ELMR, compared with ELM, OP-ELM and PE-ELMR (L1), for regression and classification problems under a variety of benchmark datasets.     

基于非线性核空间映射与人工免疫网络的高光谱遥感图像分类

提出了一种基于非线性核空间映射人工免疫网络的高光谱遥感图像分类算法.根据生物免疫网络基本原理构建了人工免疫网络模型,利用非线性核函数将高光谱训练样本映射到高维空间,完善了人工免疫网络中目标样本核空间相似性分选方法,降低了人工免疫网络识别样本所需的抗体数量,提升了算法的分类精度和运算效率.为了验证算法的有效性,利用两组高光谱遥感数据将多种高光谱分类方法进行了对比实验.实验表明该算法分类精度和算法运算时间上都有较大改善,是一种分类精度更高、运算速度更快的改进型基于人工免疫网络的高光谱遥感图像分类新方法.     

基于神经网络的新型缺陷接地结构优化设计

应用人工神经网络与单纯形优化算法相结合的方法,对一种新型组合式非周期性缺陷接地结构(CNPDGS)进行优化设计.与电磁场数值分析方法相比,以神经网络模型作分析单元,可以在保证精度的基础上大大提高分析速度,因此在优化设计中可用来替代FDTD分析方法作为结构分析的计算单元.本文中以所要求的传输系数为期望日标,以可以使误差函数达到极小化的结构尺寸为输出,经单纯形优化算法寻优,进行该具有双阻带特性CNPDGS的优化设计.仿真设计和实验的对比结果表明了这一方法的有效性.     

基于优化Inception V1的视频火焰超像素检测方法

针对传统火焰检测模型的检测准确度较低和速度慢等问题,提出一种优化的卷积神经网络和超像素分割算法的视频火焰区域检测方法。首先使用火焰图像数据集对模型进行训练和验证,采用卷积核堆叠替换的方法改进Inception模块的结构;其次采用小卷积核替换的方法改进网络的前端结构,并将Focal-Loss函数作为损失函数以提高模型的泛化能力;然后设计InceptionV1模型的参数复杂度优化实验,生成优化的火焰检测网络结构;最后将超像素分割算法提取的火焰超像素语义信息输入优化的InceptionV1模型中,并进一步执行视频火焰区域的定位检测。实验结果表明,所提方法能够增强视频火焰的非线性特征提取能力,火焰检测准确度高于96%,检测速度较原始模型提升2.66倍。