基于粒子群优化的错误最小化极端学习机

极端学习机(ELM)作为一种广义的单隐层前馈神经网络在分类和回归问题中得到广泛的应用,并受到机器学习学者的广泛关注。如何自主的设计极端学习机(ELM)的网络结构是极端学习机研究领域的一个关键问题。那些经典的构造性极端学习机过分着重于单隐层前馈神经网络的准确率而忽视了网络的性能。本文基于错误最小化极端学习机(EM-ELM)和粒子群优化(PSO)算法提出了一种有效的方法优化网络结构。在所提出的算法中,经过粒子群算法优化过的隐层节点一个一个的加入到网络中,重要的是,除了考虑到网络的准确率,相应的极端学习机的隐层输出矩阵的条件值也作为优化的条件之一。在不同数据集上的实验结果证明了本文提出的算法相比其他构造性极端学习机能以更精简的结构获得更高的准确率和更好的泛化性能。     

极端学习四元数小波特征的立体图像质量评价

为了有效、实时地对各种类型失真立体图像质量 进行评价,提出了一种基于极端学习(ELM) 和四元数小波交换(QWT)的无参考(NR)立体图像质量评价方法。首先利用SSI M密度立体匹 配模型生成相关的视差图、差异度可信图和右视图差异补偿图3D映射图;然后分别对左右视 图、视差图和差异度可信图进行 QWT,计算图像QWT第3相位系数相位幅值加权标准差和能量;再计算右视图 差异补偿图统 计特征熵和中值;最后将所提取的所有特征输入到基于核映射ELM 学习,预测失真立体图像 质量。在LIVE 3D图像质量评价数据库上的实验结果表明,本方法与人类主观质量评分具有较好的一致性 。在LIVE 3D图 像质量库I(Phase I)和库II(Phase II)上的斯皮尔曼相关系数(SROCC) 分别达到0.926和0.914     

一种基于正则优化的批次继承极限学习机算法

极限学习机(ELM)作为一种新型神经网络,具有极快的训练速度和良好的泛化性能。针对极限学习机在处理高维数据时计算复杂度高,内存需求巨大的问题,该文提出一种批次继承极限学习机(B-ELM)算法。首先将数据集均分为不同批次,采用自动编码器网络对各批次数据进行降维处理;其次引入继承因子,建立相邻批次之间的关系,同时结合正则化框架构建拉格朗日优化函数,实现批次极限学习机数学建模;最后利用MNIST, NORB和CIFAR-10数据集进行测试实验。实验结果表明,所提算法具有较高的分类精度,并且有效降低了计算复杂度和内存消耗。     

在线极限学习机及其在图像识别中的应用

针对海量图像数据的识别问题,本文提出了在线极限学习机(online optimized ELM,OP-ELM)。OP-ELM以单隐层前馈神经网络(single hidden layer feed forward networks,SLFNs)为基础,固定了隐含节点数以及节点参数,在在线增量学习过程中综合考虑历史数据和新数据,产生全局唯一的最优解,降低了计算资源的需求,继承了极限学习机(Extreme Learning Machine,ELM)学习速度快泛化性能好的优点。因此非常适合于海量图像数据的在线学习问题。在公开图像数据集Caltech4和Scene13上的实验表明,本文提出的方法取得了与前沿离线识别方法性能相当的识别效果,与基于SVM的在线学习方法LA-SVM相比,在参数规模、参数调节以及学习算法效率方面具有明显优势。     

一种稳定的基于极端学习机的纹理分类方法

针对传统基于极端学习机(ELM)的纹理分类方 法容易出现输出不稳定的缺点,本文将线性和非线 性模型进行融合,改进了传统动力学模型。利用ELM能够快速学习的特点,将其作为基分类 器,同时利用 线性吸引子和局部吸引子的迭代,实现多个ELM分类器的最佳融合,以提升学习模型的泛 化能力和稳定 性。利用动力模型实现多分类器的融合有助于寻求多个基分类器之间的一致性,摒弃了基分 类器中判别错 误的样本输出。通过对CUReT纹理数据库的分类结果,与传统纹理分类方法相 比,本文算法的稳定性 和分类准确率都得到了一定程度的提升,取得了理想的分类效果。     

基于SLPP-SHOG的红外图像车辆检测方法

针对红外图像的车辆检测,结合梯度方向直方图(HOG)特征与监督保局投影(SLPP),提出单帧图像车辆检测算法。首先,为增强特征描述能力、提高检测性能,在不增加特征维数的情况下,利用图像分割将区域的轮廓信息、灰度信息融入HOG特征中;其次,针对传统HOG特征维度过高,影响车辆检测效率以及准确率的问题,采用SLPP对提取的SHOG特征进行降维;最后,利用极限学习机(ELM)对样本图像的低维特征进行训练得到ELM分类器,实现车辆检测。本文以实拍红外图像作为实验数据,实验结果显示:针对红外图像的车辆检测,本文算法的检测性能较好,与原始HOG特征相比,本文所提SLPP-SHOG特征的特征维数由1764降至30,检测准确率升高16.03%,F1-measure提高了8.79%,检测时间由5.7 ms降至2.6 ms。     

基于混合卷积自编码极限学习机的RGB-D物体识别

有效学习丰富的表征信息在RGB-D目标识别任务中至关重要,是实现高泛化性能的关键。针对卷积神经网络训练时间长的问题,提出了一种混合卷积自编码极限学习机（HCAE-ELM）结构,包括卷积神经网络（CNN）和自编码极限学习机（AE-ELM）,该结构合并了CNN的有效性和AE-ELM快速性的优点。它使用卷积层和池化层分别从RGB和深度图来有效提取低阶特征,然后在共享层合并两种模型特征,输入到自编码极限学习机中以得到高层次的特征,最终的特征使用极限学习机（ELM）进行分类,以获得更好的快速泛化能力。文中在标准的RGB-D数据集上进行了评估测试,其实验结果表明,相比较深度学习和其他的ELM方法,文中的混合卷积自编码极限学习机模型取得了良好的测试准确率,并且有效地缩减了训练时间。     

基于GA-ELM模型的锂电池SOH预测

针对锂电池健康状态(State of Healthy,SOH)预测精度低的特点,利用遗传算法改进的极限学习机(Extreme Learning Machine,ELM)算法可提高锂电池SOH的预测精度。ELM输入层到隐含层的权值及隐含层单元的阈值随机产生,ELM算法只需设置隐含层单元的数目及隐含层激活函数类型。相比传统BP算法,ELM算法具有学习速率快、泛化性能好等优点。但由于ELM网络输入层到隐含层的权值和隐含层阈值产生的随机性,ELM算法的稳定性较差。ELM算法中引入遗传算法(GA)优化输入层到隐含层的权值和隐含层单元的阈值,该方法可增强ELM算法的稳定性。实验对比了GA-ELM算法与ELM算法、BP算法、RBF算法及SVR算法对锂电池SOH的预测,结果显示GA-ELM算法相比其他算法在预测精度和算法稳定性上均有提升。     

基于计算机辅助检测乳腺肿瘤的图像处理与识别的研究

利用计算机智能方法来检测乳腺肿瘤为良性或恶性实质是对乳腺显微图像的模式识别问题,其可以帮助提前诊断病症,从而提高肿瘤治疗效果。本文系统采用训练速度快、泛化性能好且调整参数少的(Extreme Learning Machine,ELM)算法对乳腺肿瘤特征建立数学模型,并从病例特征库中随机选择500组数据对模型进行训练,然后用剩下的数据测试ELM模型。仿真实验表明,利用ELM算法对乳腺肿瘤进行分类识别比采用BP(Back Propagation)神经网络、LVQ(Learning Vector Quantization)神经网络、决策树方法可以获得更好的性能。     

一种基于最小可察觉失真的立体图像质量客观评价方法

立体图像质量是评价立体视频系统性能的有效途径,而如何利用人类视觉特性对立体图像质量进行有效的评价是目前的研究难点。本文通过分析最小可察觉失真(JND,just noticeable distortion)视觉感知模型,并结合反映图像结构信息的奇异值矢量,提出了一种基于JND的立体图像质量客观评价方法。评价方法由图像质量评价和深度感知评价两部分组成,首先提取反映图像质量和深度感知的特征信息作为立体图像特征信息,然后根据立体图像的不同失真类型情况对其特征进行融合,通过支持向量回归(SVR,support vector Regression)预测得出立体图像质量的客观评价值。实验结果表明,采用本文提出的客观评价方法对立体数据测试库进行评价,在不同失真类型或混合失真评价结果中,Pearson线性相关系数(CC)值均在0.94以上,Spearman等级相关系数(SROCC)值均在0.92以上,符合人眼视觉特性,能够很好地预测人眼对立体图像的主观感知。     

Stereoscopic image quality assessment considering visual mechanism and multi-loss constraints

In this paper, a convolutional neural network (CNN) with multi-loss constraints is designed for stereoscopic image quality assessment (SIQA). A stereoscopic image not only contains monocular information, but also provides binocular information which is as identically crucial as the former. So we take the image patches of left-view images, right-view images and the difference images as the inputs of the network to utilize monocular information and binocular information. Moreover, we propose a method to obtain proxy label of each image patch. It preserves the quality difference between different regions and views. In addition, the multiple loss functions with adaptive loss weights are introduced in the network, which consider both local features and global features and constrain the feature learning from multiple perspectives. And the adaptive loss weights also make the multi-loss CNN more flexible. The experimental results on four public SIQA databases show that the proposed method is superior to other existing SIQA methods with state-of-the-art performance.     

Evolutionary Extreme Learning Machine and Its Application to Image Analysis

Extreme learning machine (ELM) and evolutionary ELM (E-ELM) were proposed as a new class of learning algorithm for single-hidden layer feedforward neural network (SLFN). In order to achieve good generalization performance, E-ELM calculates the error on a subset of testing data for parameter optimization. Since E-ELMemploys extra data for validation to avoid the overfitting problem, more samples are needed for model training. In this paper, the cross-validation strategy is proposed to be embedded into the training phase so as to solve the overtraining problem. Based on this new learning structure, two extensions of E-ELM are introduced. Experimental results demonstrate that the proposed algorithms are efficient for image analysis.     

基于GAN和CNN-ELM的监控图像智能修复及检测方法

针对目前石化危险品装车过程中海量监控视频图像人为处理效率低下、模糊图像识别率低等问题,提出一种基于生成式对抗网络(GAN)和卷积神经网络(CNN)与极限学习机(ELM)相结合的监控模糊图像智能修复及检测方法.首先,使用深度学习网络作为 目标检测框架,利用GAN网络中生成器与判别器间的零和博弈对模糊图像进行复原,得到清晰完整的作业图像;其次,利用CNN自适应学习图像特征的能力,对修复后的图像进行自主特征提取;最后,将提取的图像特征输入ELM分类器中进行目标识别与分类,判断作业过程是否存在违规行为.试验结果表明:所提方法图像修复速度快,视觉效果自然,且目标识别准确率高,具有很好的泛化能力.     

稀疏训练指纹库融合MMPSO-ELM室内可见光定位

为了解决采用极限学习机(ELM)神经网络室内可见光定位方法存在误差较大、网络模型训练时间较长、结果稳定性较差等缺点, 采用稀疏训练指纹库, 融合多目标动量粒子群算法(MMPSO), 结合ELM室内可见光定位方法, 形成MMPSO-ELM方案, 引入动量因子, 避免迭代过程中过度振荡, 加快系统收敛速度。在不同的定位空间内随机选取训练数据集方式, 在测试点数量不同的情况下, 将本方案与后向传播(BP)、ELM以及PSO-ELM 3种定位算法进行了比较。结果表明, MMPSO-ELM方案在20组训练数据条件下, 对80组待定位点进行预测定位, 定位误差最大为0.0225m, 最小误差为0.00093m, 平均定位误差低至0.00143m, 且定位性能受定位空间大小影响较小; MMPSO-ELM可见光定位方案具有定位精度高、速度快、泛化性强等优点。该研究为在室内场所实现快速准确定位提供了理论支撑。     

AdaBoost neural network and cyclopean view for no-reference stereoscopic image quality assessment

Stereoscopic imaging is widely used in many fields. In many scenarios, stereo images quality could be affected by various degradations, such as asymmetric distortion. Accordingly, to guarantee the best quality of experience, robust and accurate reference-less metrics are required for quality assessment of stereoscopic content. Most existing stereo no-reference Image Quality Assessment (IQA) models are not consistent with asymmetrical distortions. This paper presents a new no-reference stereoscopic image quality assessment metric using a human visual system (HVS) modeling and an advanced machine-learning algorithm. The proposed approach consists of two stages. In the first stage, cyclopean image is constructed considering the presence of binocular rivalry in order to cover the asymmetrically distorted part. In the second stage, gradient magnitude, relative gradient magnitude, and gradient orientation are extracted. These are used as a predictive source of information for the quality. In order to obtain the best overall performance against different databases, Adaptive Boosting (AdaBoost) idea of machine learning combined with artificial neural network model has been adopted. The benchmark LIVE 3D phase-I, phase-II, and IRCCyN/IVC 3D databases have been used to evaluate the performance of the proposed approach. Experimental results have demonstrated that the proposed metric performance achieves high consistency with subjective assessment and outperforms the blind stereo IQA over various types of distortion.     

基于支持向量回归的立体图像客观质量评价模型

立体图像质量评价是评价立体视频系统性能的有效途径,而如何利用人类视觉特性对立体图像质量进行有效评价是目前的研究难点。该文根据图像奇异值有较强稳定性的特点,结合立体图像的主观视觉特性,提出了一种基于支持向量回归(Support Vector Regression, SVR)的立体图像客观质量评价模型。该模型通过分析立体图像的视觉特性,提取左右图像的奇异值作为立体图像的特征信息,然后根据立体图像的不同失真类型情况对其特征进行融合,通过SVR预测得到立体图像质量的客观评价值。实验结果表明,采用该文提出的客观评价模型对立体数据测试库进行评价,Pearson线性相关系数值在0.93以上,Spearman等级相关系数值在0.94以上,均方根误差值接近6,异常值比率值为0.00%,符合人眼视觉特性,能够很好地预测人眼对立体图像的主观感知。     

基于分块CNN的多尺度SAR图像目标分类算法

针对合成孔径雷达（Synthetic Aperture Radar, SAR）图像目标分辨率差异大,多尺度SAR图像目标分类准确率不高的问题,提出了一种基于迁移学习和分块卷积神经网络（Convolutional Neural Network, CNN）的SAR图像目标分类算法。首先通过大量与目标域相近的源域数据对分块CNN的参数进行训练,得到不同尺度下的CNN特征提取网络;其次将CNN的卷积和池化层迁移到新的网络结构中,实现目标特征的提取;最后用超限学习机（Extreme Learning Machine, ELM）网络对提取的特征进行分类。实验数据采用美国MSTAR数据库以及多尺度SAR图像舰船目标数据集,实验结果表明,该方法对多尺度SAR图像的分类效果优于传统CNN。     

基于视差空间图的立体图像质量客观评价方法

立体图像质量评价是评价立体视频系统性能的有 效途径,而如何利用人类视觉特性对立体图像质量 进行有效评价是目前的研究难点。本文提出了一种基于视差空间图(DSI) 的立体图像质量客观评价方法。首先, 分别构造原始立体图像和失真立体图像的DSI图;然后,通过三维离散余弦变换(3D-DCT)提取出反映图像质量 和深度感知的特征信息,并采用主成分分析(PCA)进行特征降维,形成立体图像特征信息; 最后,通过支持向量 回归(SVR)建立立体图像特征与主观评价值的关系,从而预测得到立体图像质量的客观评价 值。实验表明, 对于对称立体图像库,Pearson线性相关系数(PLCC)和Spe arman等级相关系数(SROCC)值均达到0.94以上;对于非 对称立体图像库,PLCC和SROCC值分别达到0.94以上。结果表明,本文方法能够很好地预测人眼对立体图像的主观感 知。     

基于极速学习的粗糙RBF神经网络

提出了一种用于训练粗糙RBF神经网络(rough RBF neural networks,R-RBF)的极速学习机(extreme learning machine,ELM)方法,通过引入矩阵的Moore-Penrose逆,将传统的迭代学习方法转换为一种求线性方程的极小范数最小二乘解的方法.实验证明,在训练精度、训练时间上都能够达到非常优越的性能,其泛化精度能够提升50%以上.