基于Jerk流形正则化深度极限学习机的电能质量复合扰动识别

为了有效利用电能质量复合扰动识别中存在的大量难以标注的实测样本,提出了一种基于Jerk流形正则化深度极限学习机(DJRELM)的半监督扰动学习方法. 算法通过堆叠嵌入Jerk流形正则化的极限学习机自编码器(JRELM-AE)实现在复合扰动特征自动提取的同时保持数据内部流形结构. 分类层通过阈值预测极限学习机和Jerk正则化半监督极限学习机的结合将多层网络扩展到多标签半监督分类应用. 实验结果表明:该方法在不同噪声环境下的分类准确率均高于几种基于极限学习机的监督学习、半监督学习算法、传统多层极限学习机和深度卷积神经网络,具有理论意义和实用价值.     

基于聚类核的核极速学习机

传统的神经网络学习算法(如BP算法)需要调整大量的网络参数,例如输入权值以及隐层单元的偏置,而极速学习机只需要设置网络的隐层节点个数,在算法执行过程中不需要调整网络的输入权值,便可以产生唯一的最优解,因此它具有学习速度快且泛化性能好的优点.随着极速学习机的研究发展,核极速学习机的相关理论被提出.核极速学习机是将核函数引入到极速学习机中,可以得到最小二乘解,具有更稳定的泛化性能.本文在核极速学习机的基础上提出了一种基于Bagged聚类核的核极速学习机的分类方法,首先对已有的标记样本和所有的无标记样本采用多次k均值聚类,去构造Bagged聚类核,然后对Bagged聚类核和径向基核进行求和,最终用于核极速学习机的训练中.与传统核极速学习机相比,本文提出的方法可以使用所有的无标记样本,从而尽可能地提高分类的准确率.最后本文通过实验验证了方法的可行性.     

BP神经网络的改进及应用

合理的选择网络结构是BP神经网络研究中一个重要问题.对传统的BP网络结构进行了改进,在确定BP网络的隐层节点个数时给出了BP网络结构的自适应算法,使得隐层节点的选取动态实现,增强了BP神经网络的适应能力.并应用改进后的BP网对高校教学工作水平评估体系进行建模,为高校教学管理决策提供了科学依据.     

基于粒子群优化算法的最优极限学习机

针对极限学习机隐含层神经元个数选取的问题,提出以粒子群优化算法搜索最佳隐含层神经元个数,用极限学习机模型的测试准确率作为粒子群优化算法适应值的方法(PSO-ELM)。基于手写数字数据集digits分别对比了随机设置隐含层神经元个数的极限学习机、用粒子群算法优化的极限学习机输入权重和隐层偏置的极限学习机(PSO-ELM)、传统的BP算法以及SVM算法对手写数字的识别率,对比结果表明,粒子群优化算法得到的隐含层神经元个数在极限学习机中拥有较高的准确率。     

基于多层超限学习机的滚动轴承故障诊断方法

针对目前轴承故障诊断领域存在的海量数据问题及快速学习、实时监测的诊断要求,采用一种多层超限学习机方法对滚动轴承故障数据进行诊断测试。该方法直接学习轴承故障振动时域信号,与传统诊断方法相比,省去了复杂的信号处理过程,更加简便。将多层超限学习机方法的诊断结果分别与单层超限学习机、深度神经网络方法的诊断结果进行比较,多层超限学习机具有明显优势:(1)与单层超限学习机相比,多层超限学习机具有更好地学习和特征提取能力,其诊断准确率可达到98.29%;(2)与深度神经网络相比,多层超限学习机能够在保证较高诊断准确率的前提下,获得较快的训练速度,其训练速度较深度神经网络提高了41倍。结果表明,所采用的方法在滚动轴承故障诊断方面具有很好的效果和应用价值。     

基于仿真样本生成的极速学习机泛化能力改进算法

极速学习机出色的训练速度和泛化能力受到了广泛的关注,已有的针对于提升极速学习机泛化性能的学习算法主要集中于优化其框架结构,增加了模型的复杂度并容易产生过拟合.提出一种基于仿真样本生成策略的极速学习机泛化能力改进学习算法(Extreme Learning Machine Generalization Improvement through Synthetic Instance Generation,SIGELM),该算法不需要修改极速学习机的框架结构(包括输入层权重、隐含层偏置、隐含层节点个数、隐含层节点激活函数类型等),而是利用与训练集中高不确定性训练样本近似同分布的仿真样本优化极速学习机的输出层权重.为了获得符合要求的仿真样本,SIGELM在高不确定性训练样本的邻域内选择能够增加极速学习机训练表现的仿真样本.实验结果证实该算法显著地改进了极速学习机的泛化能力,同时有效地控制了极速学习机的过拟合.     

基于高维空间划分的神经网络分类学习模型

基于高维空间划分的原理，提出了一种非线性神经元CC模型和基于CC模型的神经网络的构造算法。从理论上证明基于CC模型的神经网络的容错性比MP网络要好，而且网络的隐层节点个数远远少于FP网络的隐层神经元个数，对于分类问题其计算复杂性仅为多项式（上界≤O(p^2),p为样本个数。该网络有明确的几何和物理意义，具有持续学习和噪声数据处理能力，适合大规模数据挖掘领域。     

基于流形正则化的在线半监督极限学习机

在基于流形正则化的半监督极限学习机(SS-ELM)的基础上,利用分块矩阵的运算法则,提出了在线半监督极限学习机(OSS-ELM)方法.为避免在实时学习的过程中由于数据累积引起的内存不足,通过对SS-ELM的目标函数的流形正则项的近似,给出了OSS-ELM的近似算法OSSELM(buffer).在Abalone数据集上的实验显示,OSS-ELM(buffer)在线学习的累计时间与所处理的样本个数呈线性关系,同时,9个公共数据集上的实验表明,OSS-ELM(buffer)的泛化能力与SS-ELM的泛化能力的相对偏差在1%以下.这些实验结果说明,OSS-ELM(buffer)不仅解决了内存问题,还在基本保持SS-ELM泛化能力的基础上大幅度提高了在线学习速度,可以有效应用于在线半监督学习当中.     

基于PSO-ELM的双目视觉摄像机标定

针对极限学习机( extreme learning machine,ELM)在隐层节点数较少时标定精度较低的问题,利用粒子群优化算法( particle swarm optimization,PSO)与极限学习机相结合的方法对双目视觉摄像机进行标定。在标定过程中,ELM直接描述图像信息与三维信息之间的非线性关系,然后利用PSO优化ELM的输入权值与隐层阈值。实验结果表明,与ELM相比较,基于粒子群极限学习机( PSO-ELM)的双目视觉摄像机标定方法能仅用较少隐层节点数获得较高精度。     

免振捣粉煤灰混凝土抗压强度的神经网络预测

为了解决免振捣粉煤灰混凝土抗压强度预测问题,采用BP神经网络方法通过免振捣粉煤灰混凝土不同配合比训练网络预测其抗压强度,对于BP网络的隐层节点属于不确定层,采用三层结构的BP网络.但隐含单员个数仍未知。在实验过程中将隐含层的神经单元个数作为一个参数试验,结果表明BP神经网络的隐层节点数目对预测精度有较大影响。通过分析得出采用BP神经网络对免振捣粉煤灰混凝土抗压强度预测是可行的。