基于ATT-CNN的化工装备分类算法

随着化工技术的飞速发展,化工装备在化工产业生产实践中发挥着更加重要的作用,与此同时也对化工装备的精准分类提出了更高要求。为了提高化工装备在化工生产中分类的准确率,提出了一种基于Attention注意力机制和卷积神经网络的化工装备文本分类算法。首先,分别使用卷积神经网络算法的输入层和Attention注意力机制提取化工装备文本特征;其次,将两种算法得到的特征与卷积核进行卷积操作,得到不同权重的输入,最后在分类器中对得到的化工装备文本特征进行分类,得到最终分类结果。通过多算法实验结果表明,该方法相比传统卷积神经网络与机器学习方法在数据挖掘中具有更高的分类准确性,达到了96. 42%,证明ATT-CNN算法在化工装备分类中具有较好的性能。     

基于VGG-19混合迁移学习模型的服饰图片识别

提出了一种基于视觉几何组19(visual geometry group-19,VGG-19)混合迁移学习模型的服饰图片识别算法。该算法对VGG-19模型预训练,将卷积层参数进行迁移,将卷积层输出的特征图输入到稀疏自动编码器(sparse automatic encoder,SAE)中,通过无监督学习获取更优的特征描述,结合softmax分类器使用反向传播算法(back propagation,BP)进行模型参数的微调。在公开的DeepFashion服饰图像数据集上进行测试,实验结果表明,该方法能够增加卷积层的特征提取能力,达到了97.2%的识别率。     

BDCN和U-net边缘生成两阶段修复算法

为了对图像中大面积不规则缺失区域进行合理的结构修复和精细的纹理重构,提出了一种基于双向级联边缘检测网络（BDCN）和U-net残缺边缘生成的两阶段网络图像修复算法.第一阶段首先基于BDCN网络提取边缘,然后基于U-net架构的边缘生成网络用下采样对缺失图像边缘提取特征,再结合上采样的输入信息和下采样各层信息还原图像边缘纹理细节;第二阶段使用空洞卷积进行下采样和上采样,经过残差网络重建细节丰富的缺失图像.在公开数据集上将所提算法与现有经典算法进行对比,实验结果表明,所提算法能得到合理的结构和精细的纹理细节,优于对比算法.     

改进Faster-RCNN的低空小型无人机检测方法

低空空域中小型无人机具有尺度小、数量多等特点,导致其纹理特征难以提取,现有的深度学习经典检测算法对此类目标的检测精度较低。针对该问题,提出一种改进的Faster-RCNN模型。以ResNet50为前置特征提取网络,对原图逐层进行特征提取,得到多层特征图;再对特征图使用双线性差值方法进行上采样,并将各层特征图对应融合;最后输入RPN层进行二分类与边框回归,同时在感兴趣区域层利用soft-nms算法优化冗余锚框,调整待检测物的位置信息,减少漏检情况。实验结果表明,Faster-RCNN算法优化后,在自主采集的无人机数据集上针对小目标的查准率和查全率分别提高了11.2%和27.9%。     

混合PSO优化卷积神经网络结构和参数

为了使卷积神经网络在非经验指导下自动寻得最优连接,并提高其参数优化效率,提出用粒子群优化卷积网络参数,并用离散粒子群优化卷积网络特征图之间连接结构的新方法。先使用粒子群优化所有权值,再采用离散粒子群优化降采样层和卷积层之间特征图连接结构。将该方法用于MNIST数据集和CIFAR-10数据集,实验结果表明,相比其他连接结构的卷积神经网络和其他识别方法,该方法可以有效实现网络结构及参数的优化,加速网络收敛并提高识别准确比。     

一种基于核主成分分析的图像超分辨率算法

测试样本和训练样本集的匹配是基于学习的超分辨率算法中关键问题之一。本文方法通过将低分辨率的观察样本映射到高维的核空间中,实现测试样本和训练样本集的准确匹配,避免了基于学习的超分辨率算法中错误匹配问题,提高生成图像的质量。该算法包括:测试样本对训练样本集进行核主成分分析(kernel principal components analysis, KPCA); 利用距离约束算法得到在输入空间中的原像;最后将新生成的图像块进行重组,得到高分辨率的图像。在USPS数据集上进行的实验验证和对比分析表明：基于KPCA的图像超分辨率方法能够取得较好的超分辨率效果。     

二维卷积非负矩阵分解的初值确定混合算法

为解决二维卷积非负矩阵分解算法存在初值敏感,且传统随机初始化确定的初始值容易使算法收敛到结果相对不好的局部最优值的问题,通过结合K均值聚类、奇异值分解和主成分分析方法,提出了一种适用于二维卷积非负矩阵分解初始值确定的混合算法.首先,利用K均值聚类方法得到聚类中心作为系数矩阵(H矩阵)的初始值,避开了传统初始化不确定系数矩阵带来的分解结果不唯一问题;其次,考虑到相比一维卷积非负矩阵分解算法,二维卷积非负矩阵分解算法的基矩阵(W矩阵)个数更多,利用奇异值分解和主成分分析方法交替产生基矩阵的初始值,克服了单个算法产生的初始化误差问题.在相同参数环境下将本文算法和现有初始化算法的分解收敛性能进行对比实验,结果表明本文算法相比其他同类算法具有更好的分解性能并具有更好的收敛性.进一步加入噪声进行实验,在白噪声为-1 dB～10 dB的不同信噪比环境下,本文算法均能快速实现信号的分离,对于噪声数据具有很强的鲁棒性.采用混合算法确定初值,更有利于实现二维卷积非负矩阵分解的实时性和高性能.     

基于多尺度特征融合的水果图像识别算法研究

水果图像识别是智能采摘系统中最重要的组成部分.针对现阶段水果图像识别过程中存在的漏检和误检现象,为进一步提高识别准确率,研究了基于多尺度特征融合的水果图像识别算法.首先,为避免训练过程中出现欠拟合现象,对Fruits-360中的水果图像进行数据扩充,并进一步灰度归一化处理以减少计算量.随后采用ResNet-50作为骨干网络,并在骨干网络的基础上建立多尺度采样层,使用1×1、3×3和5×5的卷积核在拓宽网络宽度的同时进行特征提取,多尺度网络层整体增加BN层,即在每个卷积层之后都增加BN层.使在ResNet-50提取的原始特征基础上获取语义信息更加丰富的特征图.最后采用梯度下降法优化网络,得到最终的识别模型.实验结果表明,所提算法识别精度高,可准确的对水果图像经识别,识别精度高达99.4％,在相同数据集的情况下,优于目前主流算法,可为水果自动采摘技术提供帮助.     

基于单一神经网络的实时人脸检测

由于人脸尺度多样性使得人脸检测算法在CPU上运行速度受限,提出了一种新的基于单一神经网络的实时人脸检测算法。首先在网络初始卷积层和池化层中设置较大的卷积核尺寸和步长,缩小输入图像尺寸利于实时检测;然后网络将浅层特征图和深层特征图相融合,增强上下文联系和减少重复检测;最后在多个卷积层上预测人脸位置,利用预测框重叠策略,实现多尺度的人脸检测来提升图像中小尺寸人脸的检测精度。在人脸检测数据集基准和野外标注人脸数据集上测试实验结果表明,本文算法模型精度能够达到92.1%和95.4%。与此同时,本文算法在CPU上实现21帧/s的检测速度。     

基于LM算法神经网络的人脸识别

本文主要描述了将通过主成分分析（PCA）算法得到的人脸图像特征矩阵输入到神经网络中进行学习训练,之后输入测试集人脸特征矩阵进行识别判定。通过使用LM算法作为BP神经网络的训练算法并利用Matlab软件进行仿真实验,得到快速、准确的人脸识别系统。实验证明,基于LM算法的BP网络在人脸识别领域具有良好的应用前景。     

指数弹性动量卷积神经网络及其在行人检测中的应用

针对深度卷积神经网络存在规则化参数多、未利用浅层先验知识、参数随机初始化后易导致权值更新梯度弥散及训练早熟等问题,采用PCA非监督学习方式获取导向性初始化参数数值方法,并基于对网络误差的传播分析,提出指数自适应弹性动量参数学习方法.以复杂场景下行人目标为例进行目标检测试验,实验表明:与人工特征检测识别方案及传统深度卷积模型相比,该模型可有效提升目标检测精度,检测速度提升20%以上;与其他动量同源更新机制相比,该算法收敛速度更快,收敛曲线更平滑,泛化能力强,可在不同深度模型均可取得较好检测效果,准确率分别平均提高1.6%,1.8%和6.19%.     

一种基于KPCA的非线性故障诊断方法

介绍了一种非线性故障检测方法———核主元分析法(KPCA),通过核函数来完成非线性变换,将变量由非线性的输入空间转换到线性的特征空间.在特征空间中使用PCA计算主元,构造T2和SPE统计量检测过程故障的发生.提出了一种KPCA贡献图计算方法,根据测量变量和非线性主元的相关性,计算测量变量的贡献量绘制贡献图,用于故障变量的分离.仿真结果表明,KPCA方法可以比PCA方法更加迅速的检测到故障的发生,利用KPCA贡献图可以较好的辨识出故障变量.     

基于注意力机制的卷积神经网络可视化方法

相比于传统机器学习算法,卷积神经网络“端到端” 的黑盒特性使其内部工作机制缺乏透明性和可解释性,导致其在某些安全性要求较高的领域受到一定限制。为此,提出一种基于注意力机制的卷积神经网络可视化方法,用于可视化解释卷积神经网络中间层所学特征。该方法首先将注意力机制添加到网络结构中,跟随网络一起训练;然后,获取训练后模型的最高层特征图,并使用双线性插值将其放大到输入图像大小;最后,将处理后的特征图与输入图像叠加形成热力图,用于定位输入图像的关键区域,实现对卷积神经网络所学特征的理解和解释。在ＣＩＦＡＲ１０ 数据集上实验结果表明,相比于直接对特征图进行可视化,基于注意力机制的可视化方法能够更准确地定位目标的关键特征,从而帮助理解卷积神经网络所学特征。     

基于改进增广拉格朗日乘子法的鲁棒性主成分分析

针对增广的拉格朗日乘子法在求解鲁棒性主成分分析,特别是当数据同时受到稀疏噪声和高斯噪声的干扰时,计算精度会降低,数据降维去噪任务不能很好完成的情况,提出改进的增广拉格朗日乘子法来解决上述问题.一是用基于最优乘子初始化的改进增广拉格朗日乘子法来提高算法的计算精度,二是针对鲁棒性主成分分析,提出一个带高斯噪声的凸优化模型.实验结果表明,本文提出的最优乘子初始化改进算法赋予增广的拉格朗日乘子法一个最优的拉格朗日乘子,从而提高算法的计算精度,而凸优化模型能够清晰地将高斯噪声和稀疏噪声从数据矩阵中分离出去,进而提高数据对高斯噪声的鲁棒性.     

空间金字塔分解的深度可视化方法

针对基于深度卷积神经网络的图像分类模型的可解释性问题,通过评估模型特征空间的潜在可表示性,提出一种用于改善理解模型特征空间的可视化方法.给定任何已训练的深度卷积网络模型,所提出的方法在依据原输入图像使得模型类别得分激活最大化时,首先对反向传播的梯度进行归一化操作,然后采用带动量的随机梯度上升训练策略,反向回传修改原输入图像.引入了通过激活最大化获得的图像可解释性的正则化方法,常规正则化技术不能主动调整模型特征空间的潜在可表示性,结合现有正则化方法提出空间金字塔分解方法,利用构建多层拉普拉斯金字塔主动提升目标图像特征空间的低频分量,结合多层高斯金字塔调整其特征空间的高频分量得到较优可视化效果.通过限制可视化区域,提出利用类别显著性激活图技术加以压制上下文无关信息,可进一步改善可视化效果.对模型学习到的不同类别和卷积层中单独的神经元进行合成可视化实验,实验结果表明提出的方法在不同的深度模型和不同的可视化任务中均能取得较优的可视化效果.     

基于梅尔频谱分离和LSCNet的声学场景分类方法

针对现有频谱分离方法进行声学场景分类研究时其分类准确率不高的问题,提出了一种基于梅尔频谱分离和长距离自校正卷积神经网络(long-distance self-calibration convolutional neural network, LSCNet)的声学场景分类方法。首先,介绍了频谱的谐波打击源分离原理,提出了一种梅尔频谱分离算法,将梅尔频谱分离出谐波分量、打击源分量和残差分量;然后,结合自校正神经网络和残差增强机制,提出了一种长距离自校正卷积神经网络;该模型采用频域自校正算法以及长距离增强机制来保留特征图原始信息,通过残差增强机制和通道注意力增强机制加强了深层特征与浅层特征间的关联度,且结合多尺度特征融合模块,以进一步提取模型训练中输出层的有效信息,从而提高模型的分类准确率;最后,基于Urbansound8K和ESC-50数据集开展了声学场景分类实验。实验结果表明:梅尔频谱的残差分量能够针对性地减少背景噪音的影响,从而具有更好的分类性能,且LSCNet实现了对特征图中频域信息的关注,其最佳分类准确率分别达到90.1%和88%,验证了该方法的有效性。     

基于彩色分量双重鉴别相似性的人脸特征提取

针对当前人脸彩色图像鉴别特征提取方法存在特征鉴别能力低、识别效果差等问题,提出基于彩色分量特征层双重鉴别相似性分析的人脸图像鉴别特征提取方法.通过使用人脸彩色图像中各个彩色分量数据和不同彩色分量数据集之间的相关性进行特征层鉴别相似性分析,并设计了R、G和B三个彩色分量图像数据集鉴别特征提取流程.仿真结果表明:CM-DDSA方法保留了三个彩色分量特征之间的平均相似性,同时在很大程度上提升了特征鉴别能力以及识别效果.     

核心集径向基函数极限学习机

径向基函数极限学习机(radial basis function-extreme learning machine, RBF-ELM)中的两个参数都随机地生成,这导致RBF-ELM算法的不稳定性问题。另外,对于不同的数据集,难于确定隐含层结点的个数。针对RBF-ELM的这两个问题,提出了一种改进算法。首先用核心集方法选择重要的样例,然后用选择的样例初始化中心参数,宽度参数采用随机化方法初始化。该算法不仅可以在一定程度上解决RBF-ELM的不稳定性问题,而且可以确定隐含层结点的个数。试验结果表明:该算法优于RBF-ELM。     

基于二维广义主成分分析的人脸识别

针对人脸识别中的特征提取问题，提出了一种基于二维广义主成分分析（2DIMPCA）的人脸识别方法.有别于传统的人脸识别算法需要将二维人脸图像矩阵压缩成一维向量，该方法直接采用二维图像矩阵来构建方差矩阵，通过在水平和垂直2个方向上顺序执行2次广义主成分分析（IMPCA）运算，消除了人脸图像行和列的相关性，大大压缩了特征的维数.选用二维最小近邻分类法进行分类，计算识别率.在AT&T人脸库以及Yale人脸库上的测试结果表明，与主成分分析（PCA）和IMPCA相比，该方法具有更高的识别率和更快的识别速度.