基于多尺度CNN特征的国画图像分类算法

为了捕获国画图像的局部表现手法而实现风格分类,提出一种基于多尺度卷积神经网络(Convolutional Neural Network, CNN)特征的国画图像分类算法。该算法先对AlexNet网络模型进行改进,得到精简AlexNet网络模型以降低网络深度与参数规模。然后采用非对称空间分块方法对训练样本进行数据扩充,训练具有特征提取能力的CNN网络模型,以提取国画图像的多尺度CNN特征。最后,采用前向搜索选择方法对多尺度CNN特征进行选择降维,再结合支持向量机(Support Vector Machine, SVM)分类器实现国画图像自动分类。对比实验结果表明,多尺度CNN特征较之全局CNN特征分类精度提高了2.12%,且所提算法在分类精度方面均高于其他图像分类方法。     

CNN-SVM模型在抽油机井故障诊断中的应用

针对传统的示功图识别方法对抽油机井进行故障诊断存在人工选取示功图特征,识别准确度低等问题,基于人工智能理论,提出一种卷积神经网络(CNN)和支持向量机(SVM)相结合的示功图智能识别模型。利用卷积神经网络对示功图图像特征自动提取,利用支持向量机根据提取的深层图像特征给出故障诊断结果。结果表明,将CNN与SVM结合用于示功图识别不仅省去了人工选取示功图特征这一环节,而且识别准确度也高达99.71%,测试性能优于其他识别模型。该模型的提出为抽油机井故障的快速准确诊断提供了可行的解决方案,对油田高效作业具有重要意义。     

基于注意力机制的数控机床热误差深度学习预测方法

为提高热误差预测精度和鲁棒性,提出一种基于注意力机制和深度学习网络的数控机床热误差预测模型。采用数据转化策略,将数控机床原始温度数据转化为温度图像,直接作为深度学习网络的输入;提出一种基于注意力机制的温度敏感点识别网络,根据温度测点与热误差关联程度,赋予各温度测点不同的权值,避免了温度测点的人为选取弊端;建立12层深度CNN学习预测网络,利用其强大的图像特征学习能力,挖掘温度图像与热误差的非线性映射关系,无需对温度关键点进行预选择,保留了更多的热误差与机床温度特征关系,显著提高了模型预测精度。为了提高热误差模型的精度与泛化能力,引入Dropout正则化方法和Adam优化算法,对深度卷积神经网络的结构与参数进行了优化。该方法在针对G460L型数控车床的热误差验证中表现出较高的预测精度。通过与BP神经网络和多元回归等传统热误差模型进行对比,深度卷积神经网络框架下的热误差模型在泛化性指标上表现更优。     

面向电力变压器油中溶解气体的卷积神经网络诊断方法

油中溶解气体分析法（Dissolved Gas Analysis,DGA）是判断变压器内部故障的重要方法之一。针对传统基于浅层的机器学习方法在变压器故障诊断中存在的特征提取和泛化能力方面的不足,提出了一种基于卷积神经网络的变压器故障诊断方法。利用网络中的卷积层对油中溶解气体进行特征转换,结合池化层强化重要特征的能力,对故障敏感特征进行提取。通过实验研究了卷积核数目、卷积核大小、池化层、网络深度对模型诊断性能的影响。通过混淆矩阵、ROC曲线和PR曲线对比分析了卷积神经网络模型、支持向量机(Support Vector Machine,SVM) 模型、BP神经网络(Back Propagation Neural Network,BPNN)模型。实验结果表明,卷积神经网络模型的诊断性能更为优秀。     

基于CNN、SVM和迁移学习的轮胎花纹分类

轮胎花纹图像分类在交通事故及刑侦破案取证中具有重要的作用。为了准确地分类轮胎花纹图像,提出了一种基于卷积神经网络(convelutional neural network,CNN)、支持向量机(support vector machine,SVM)和迁移学习的轮胎花纹分类算法。首先对辅助数据库ImageNet进行CNN训练得到初始CNN模型;其次,基于迁移学习思想,利用轮胎花纹图像数据库对初始CNN模型的分类层进行微调训练,得到用于轮胎花纹图像分类的CNN模型;最后,从所得CNN模型的第二个全连接层提取输出的4 096维特征,用该特征对轮胎花纹图像进行基于SVM的图像分类。使用轮胎花纹图像数据库进行分类实验,结果表明,提出算法的分类精度达到93.1%。说明提出算法能够提高轮胎花纹图像的分类准确率。     

卷积神经网络多变量过程特征学习与故障诊断

为提取复杂多变量过程的有效特征,提高故障诊断性能,提出一种基于卷积神经网络（convolutional neural network,CNN）特征学习的多变量过程故障诊断模型. 将高维过程信号归一化处理转为图像信号,多层卷积滤波器与子采样滤波器交替构成的轻量级CNN网络通过多个卷积核与图像进行卷积,采用本地连接和权重共享,滤除过程噪声和干扰信息,从而获得过程数据的高层抽象化表达. 通过Softmax层有监督的微调方式学习故障特征完成故障诊断. 利用以田纳西过程为代表的多变量非线性过程验证了模型的有效性,与经典分类器和近几年流行的深度神经网络进行对比, 结果表明:将高维过程信号转为图像信号输入CNN提高了多变量过程的故障诊断精度;通过t-SNE方法对模型提取的特征进行可视化分析,说明模型强大的特征提取能力;将模型提取的特征作为传统分类器的输入时,故障识别准确率显著提升,进一步说明有效的特征提取有利于提高故障诊断的准确度和可靠性;与无监督学习方式相比,模型通过标签能获取更有效、稳定和抽象化的数据特征.     

基于非监督预训练的结构优化卷积神经网络

针对典型卷积神经网络卷积核由经验设置且网络结构固定不变难以后期再学习的问题,基于稀疏自编码器（Sparse Autoencoder, SAE）和卷积神经网络（Convoutional Neural Network, CNN）,提出新的CNN模型。该模型通过SAE预训练CNN网络的卷积核,提取有效特征;并在典型CNN结构基础上增加一条网络支路,使得后续再学习时只更新支路权值,记忆已有特征并增加新特征。文中模型在MNIST数据集上迭代更新10次网络权值可以使测试识别率达到97.65%;在手写汉字数据集HCL2000中的简单字,中等字,复杂字及相似字上的测试正确率能达93%以上;50个训练样本,250个测试样本时,相似字识别率可达80.36%;比典型CNN及传统手写汉字识别方法更具泛化性。实验表明所提出方法可有效应用于手写字等图像识别应用中。     

基于改进RM界的二次损失函数支持向量机模式选择

半径-间隔界中最小包含球半径R的计算需要求解二次规划问题,增加了算法的计算量。为提高计算效率,提出一种基于改进RM界的二次损失函数支持向量机模式选择。用所有训练样本的最大距离D逼近半径R,用D替换R构成新的RM界,然后基于改进的RM界对二次损失函数支持向量机(L2-SVM)进行模式选择,并用梯度下降法调节最优参数。对算法的分类精度和计算效率进行仿真实验讨论,结果表明,与基于RM界的模式选择相比,虽然该算法的分类精度没有明显改变,但其计算效率至少提高1倍。     

深度连续卷积神经网络模型构建与性能分析

为了提升卷积神经网络特征提取能力,设计了一种基于连续卷积的深度卷积神经网络模型.该模型采用小尺度的卷积核来更细致地提取局部特征,并借助连续的两个卷积层增加模型的非线性表达能力,结合Dropout技术降低神经元之间的相互依赖,利用抑制网络过拟合对模型进行优化.人脸表情、手写数字字符和彩色图像的目标识别实验表明,在图像较为复杂时,该模型在识别的准确性和泛化性能上比手工特征提取方法及一般的2、3层卷积结构具有明显的优势.     

基于卷积神经网络车身颜色识别技术研究

研究车身颜色识别技术可为公安部门打击套牌车辆等交通犯罪行为提供技术支持,并为道路行车安全提供理论依据。文章基于Caffe深度学习框架,提出了一种基于深度卷积神经网络车身颜色识别技术的研究方案,分析了网络层数、迭代次数和学习率对模型的影响,对卷积神经网络CNN模型进行优化,并将优化的网络模型与支持向量机SVM、改进后的HSV模型进行对比分析。结果表明:卷积神经网络最优模型的神经网络层数为8,最大迭代次数为30万,学习率为0.001;支持向量机SVM、改进后的HSV颜色模型及卷积神经网络识别率分别为80.05%、85.25%、90.20%。     

Jamming Recognition Based on Feature Fusion and Convolutional Neural Network

The complicated electromagnetic environment of the BeiDou satellites introduces various types of external jamming to communication links, in which recognition of jamming signals with uncertainties is essential. In this work, the jamming recognition framework proposed consists of feature fusion and a convolutional neural network (CNN). Firstly, the recognition inputs are obtained by prepossessing procedure, in which the 1-D power spectrum and 2-D time-frequency image are accessed through the Welch algorithm and short-time Fourier transform (STFT), respectively. Then, the 1D-CNN and residual neural network (ResNet) are introduced to extract the deep features of the two prepossessing inputs, respectively. Finally, the two deep features are concatenated for the following three fully connected layers and output the jamming signal classification results through the softmax layer. Results show the proposed method could reduce the impacts of potential feature loss, therefore improving the generalization ability on dealing with uncertainties.     

基于模式识别和集成CNN-LSTM的阵发性房颤预测模型

为了适用于长期心电监护和ICU等实时性、数据密集型应用场合,提出可在8 Hz采样频率的1 min心电图（ECG）片段上提前45 min预测阵发性房颤（PAF）发作的实时预测模型. 采用概率符号化模式识别方法,在降采样后的ECG序列上提取出1 min窗口内的模式转移特征,降低模型的计算量和对存储空间的需求,确保实时预测的效果. 提出卷积神经网络（CNN）和长短-期记忆网络（LSTM）的混合模型（CNN-LSTM）,用于提取模式转移特征内隐含的局部空间特征和时间依赖特征. 为了提升模型泛化能力,构建基于CNN-LSTM的集成分类器. 采用Spark Streaming技术完成对ECG流式数据的读、写和计算,实现数据和模型之间的低延迟通信. 所提模型在公开数据集上的准确率、灵敏度和特异度分别为91.26%、82.21%、95.79%. 模型处理总延迟平均为2 s,满足实时PAF预测需求.     

CNN视觉特征的图像检索

卷积神经网络( CNN)是当前图像识别领域的研究热点,利用预训练的CNN网络提取的图像特征展示出了较强的图像识别能力。主要对比分析了传统视觉特征和CNN视觉特征在基于内容图像检索任务中的性能表现,并指出了一些可以值得深入研究的方向。在两个公开数据库(Pascal Sentence和Pascal VOC 2007)的实验尝试表明CNN视觉特征比传统的视觉特征更适用于图像检索。     

Object Recognition Algorithm Based on an Improved Convolutional Neural Network

In order to accomplish the task of object recognition in natural scenes, a new object recognition algorithm based on an improved convolutional neural network (CNN) is proposed. First, candidate object windows are extracted from the original image. Then, candidate object windows are input into the improved CNN model to obtain deep features. Finally, the deep features are input into the Softmax and the confidence scores of classes are obtained. The candidate object window with the highest confidence score is selected as the object recognition result. Based on AlexNet, Inception V1 is introduced into the improved CNN and the fully connected layer is replaced by the average pooling layer, which widens the network and deepens the network at the same time. Experimental results show that the improved object recognition algorithm can obtain better recognition results in multiple natural scene images, and has a higher degree of accuracy than the classical algorithms in the field of object recognition.     

基于改进CNN的阀门泄漏超声信号识别方法

为了检测输气管道阀门泄漏，对改进AlexNet网络结构进行了研究，提出了基于改进卷积神经网络（CNN）的阀门泄漏超声信号识别方法.针对泄漏信号短时稳定的窄带线谱特征，从图像邻域信息密度角度出发，将卷积核形状由图像识别领域通常使用的"正方形"改进为"扁横状".同时，对AlexNet层数进行优化，重新确定卷积核和全连接层神经元数目，并选择小尺寸卷积核，在减少参数量的同时增加网络容量和模型复杂度，防止模型出现过拟合.分别建立二分类和不同泄漏量下的多分类模型，通过输气管道实验平台采集阀门泄漏数据集，生成对应时频图样本，包括不同阀门开度、不同管道压力下的泄漏及背景声信号.结果表明，对比传统的CNN分类模型，改进CNN分类模型在测试集上取得了更高的识别性能.     

基于深度学习的洗衣机异常音检测

基于卷积神经网络框架,提出一种洗衣机异音识别模型,根据卷积神经网络显著特征提取能力和平移不变性,学习洗衣机的异音特征,实现生产线洗衣机的异音自动智能识别。给出完整的过程解决训练数据集的建立、数据样本不平衡等问题。提出一种用于数据增强的网络模型——音频深度卷积生成对抗网络解决训练样本的稀缺性问题。该模型对传统的深度卷积生成对抗网络进行改进,以更好地适应工业音频的生成。利用该模型能够对原始数据进行扩展,生成洗衣机异音增强数据集,在该数据集的基础上进行卷积神经网络训练,经测试准确率达到0.999。利用添加背景噪声信号的数据集测试洗衣机异音识别模型的泛化能力,正确识别率达到0.902,表明该网络在识别洗衣机异音方面具有良好的鲁棒性。     

基于生成式对抗网络和多级小波包卷积网络的水下图像增强算法

为了解决水下图像的雾模糊和偏色问题,针对水下图像成像模型提出基于生成式对抗网络（GAN）和改进卷积神经网络（CNN）的水下图像增强算法. 利用生成式对抗网络合成水下图像,以对配对式水下图像数据集进行有效扩充. 利用多级小波变换,以不丢失特征分辨率的方式对水下图像进行多尺度分解,然后结合卷积神经网络利用紧凑式学习方式对多尺度图像进行特征提取,并利用跳跃连接以防止梯度弥散,克服水下图像的雾模糊效应. 利用风格代价函数学习彩色图像各通道间的相关性,提高模型的色彩校正能力,克服水下图像色彩失真的问题. 实验结果表明,相较对比算法,在主观视觉和客观指标上,本研究所提算法拥有更优秀的综合性能及鲁棒性.     

一种集成卷积神经网络和深信网的步态识别与模拟方法

针对高斯过程的条件受限玻尔兹曼机(Gaussian-based conditional restricted Boltzmann machine, GCRBM)时序模型可以对单一种类的步态时序数据进行很好的预测,但对多类步态时序数据难以识别和预测的问题,提出一种集成卷积神经网络(convolutional neural network, CNN)和深信网(deep belief network, DBN)的步态识别与模拟方法。利用所有类步态数据训练多个不同结构的CNNs模型,利用多类数据训练多个DBNs模型学习低维特征,并通过低维特征训练多个GCRBMs模型。在步态识别与模拟时,CNNs分类器通过投票法确定步态数据的类别;通过识别到的类所对应的DBNs模型低维特征作为对应GCRBMs模型的输入预测目标数据的后期时序低维特征;利用DBNs重构阶段将后期时序低维特征模拟出步态图像。在CASIA系列步态数据集上的试验结果表明:与支持向量机(support vector machine, SVM)、集成DBN和CNN等方法相比,本研究方法的识别率有一定的提高,提出的模型能够根据步态时序预测结果模拟出真实的步态序列图像,证实了模型的有效性。