深度连续卷积神经网络模型构建与性能分析

为了提升卷积神经网络特征提取能力,设计了一种基于连续卷积的深度卷积神经网络模型.该模型采用小尺度的卷积核来更细致地提取局部特征,并借助连续的两个卷积层增加模型的非线性表达能力,结合Dropout技术降低神经元之间的相互依赖,利用抑制网络过拟合对模型进行优化.人脸表情、手写数字字符和彩色图像的目标识别实验表明,在图像较为复杂时,该模型在识别的准确性和泛化性能上比手工特征提取方法及一般的2、3层卷积结构具有明显的优势.     

Method for discrimination of false targets in multistation radar systems based on the deep neural network

For the existing jamming discrimination methods for multistation radar systems,only the single feature of target echo space correlation is utilized as the metric,which leads to insufficient comprehensiveness of feature extraction,so that effectiveness and universality are insufficient for the discrimination algorithm.In this paper,an identification method in multistatic radar systems based on the deep neural network is proposed.This method combines the characteristics of multistatic radar systems cooperative detection technology,which has many available resources and strong scheduling ability in space,time and frequency domain,with the strong model learning and feature representation ability in the process of information processing on the deep neural network,so that it can effectively apply to the field of anti-deception jamming.Full use is made of unknown information about echo data to obtain more multi-dimensional,more comprehensive,more complete and deeper feature differences besides correlation,so as to achieve a better jamming discrimination effect.Simulation results show that the proposed method can effectively reduce the influence of noise and pulse number on the jamming discrimination performance.At the same time,the limitation of the target echo correlation coefficient on anti-jamming technology under nonideal conditions is alleviated,which broadens the boundary conditions of the application process.     

虹膜与眼周深度特征融合网络模型

虹膜识别虽然识别率很高,但单模态识别时存在环境、欺骗攻击等影响,并且对于远距离或移动端、较少约束等场景下,虹膜识别率会大大下降。为解决此问题,采用虹膜和眼周双模态融合识别是较好的思路。为实现精确自适应的融合识别,本文提出新颖的虹膜与眼周深度特征融合网络模型（MultipleFusionNet）。根据特征通道注意力和通道分组注意力的思想,设计出自动权值生成网络,通过网络学习自动获得虹膜与眼周的权值。权值与卷积神经网络生成的虹膜与眼周深度特征加权计算,实现两个模态的深度特征动态精确地融合,从而提高识别准确率。本文网络模型中融合部分可作为通用的深度特征融合模块使用,该模块可灵活地嵌入在任何的CNN主干网络中,轻便且易于实现。在中科院公开的远距离虹膜库图像库CASIA-Iris-Distance和近距离光照变化虹膜图像库CASIA-Iris-Lamp进行了实验验证,实验结果显示,本文的特征融合模型准确率最高为99.56%,采用余弦距离度量的EER值最低为0.0027,优于单模态方法和相关的特征融合方法。计算复杂度方面,参数量和计算量比单模型的两倍少1.5%,计算量只比基准融合方法高1%,表明该融合模型计算复杂度低,具有良好的性能。     

融合局部特征与深度学习的三维掌纹识别

为了探索三维掌纹在生物特征识别领域的应用,基于局部纹理特征和深度学习,提出一种有效的三维掌纹识别方法. 通过曲率特征、形状指数、表面类型分别来描述三维掌纹的局部几何特征,将其作为深度神经网络的输入,完成三维掌纹识别任务. 在香港理工大学的三维掌纹数据库上对不同的几何特征、不同的深度神经网络模型进行全面分析与比较. 三维掌纹识别实验结果表明,与其他三维掌纹识别方法相比较,所提方法的识别率更高,识别时间更短,在实时掌纹识别领域具有较大的应用潜力.     

基于多尺度特征与注意力机制的轴承寿命预测

针对以往剩余使用寿命（RUL）预测方法对轴承退化信息挖掘不充分、忽视不同特征贡献度差异,影响预测准确性的问题,提出基于多尺度特征与注意力机制的轴承RUL预测方法. 在多个尺度下计算轴承原始振动信号的若干时域和频域特征,作为输入特征集. 将多尺度特征集输入到网络中,以注意力模块为不同特征自适应地分配最佳权重,以卷积神经网络（CNN）模块进行深层特征提取与多尺度特征融合,通过前馈神经网络（FNN）模块映射得到RUL预测值. 通过公开的轴承数据集进行实验验证,与其他RUL预测方法相比,所提方法的预测性能更优越.     

基于蚁群算法的行为识别特征优选方法

为了降低特征冗余,提高移动用户行为识别的准确率,提出一种基于蚁群算法的移动用户行为识别加速度信号特征优选方法。首先对样本数据进行预处理,根据特征对不同行为的分类敏感度进行初次优选,降低特征搜索空间的维度;然后利用蚁群算法结合神经网络分类器,以特征的分类准确度为评价准则对特征集合进行了二次优选。实验结果表明,该方法优选出的特征集具有较好的识别性能。     

Convolutional Neural Network Based on Spatial Pyramid for Image Classification

A novel convolutional neural network based on spatial pyramid for image classification is proposed. The network exploits image features with spatial pyramid representation. First, it extracts global features from an original image, and then different layers of grids are utilized to extract feature maps from different convolutional layers. Inspired by the spatial pyramid, the new network contains two parts, one of which is just like a standard convolutional neural network, composing of alternating convolutions and subsampling layers. But those convolution layers would be averagely pooled by the grid way to obtain feature maps, and then concatenated into a feature vector individually. Finally, those vectors are sequentially concatenated into a total feature vector as the last feature to the fully connection layer. This generated feature vector derives benefits from the classic and previous convolution layer, while the size of the grid adjusting the weight of the feature maps improves the recognition efficiency of the network. Experimental results demonstrate that this model improves the accuracy and applicability compared with the traditional model.     

基于ACNN和Bi-LSTM的微表情识别

针对微表情动作幅度小、强度低等缺点,提出了一种基于带有注意力机制的卷积神经网络（ACNN）和双向长短期记忆网络（Bi-LSTM）相结合的神经网络结构。实验采用CASME II数据集,为了减少出现过拟合的风险,首先将预处理后的特征向量经过预训练的VGG16网络提取出基本特征,接着对输出特征进行裁剪,得到带有局部特征的24个微表情识别块和带有整个图片特征的全局特征向量;然后将24个识别块分别经过局部识别块注意力卷积神经网络（BR-ACNN）提取出带有注意力信息的局部特征,将全局特征向量经过全局注意力卷积神经网络（GR-ACNN）提取出带有注意力信息的全局特征;最后,将提取的局部和全局特征,经过Bi-LSTM提取出微表情序列之间的相关性信息。实验结果显示,5折交叉验证平均准确率为0.69,UF1为0.638 2,UAR为0.675 0。CASME II数据集上结果显示,所提算法模型相对OFFApexNet模型,其UF1提高了0.028 1,UAR提高了0.096 9;相对ATNet模型,其UF1提高了0.007 2,UAR提高了0.032 0。     

基于多神经网络分类器的军事目标识别方法研究

对军事目标类型的识别是军事信息处理中的一个重要环节.本文首先对军事目标进行特征提取,以矩和圆度两种不变矩特征向量作为神经网络的输入,分别采用了BP神经网络、自组织竞争网络、Hopfield网络对军事目标进行识别,最后采用了分类器多数投票法对识别结果进行融合,仿真实验结果表明采用多神经网络分类器融合的方法比单一神经网络识别率高,这对提高军事信息处理的准确性具有重要意义.     

基于多学习单元卷积神经网络的雷达辐射源信号识别

现有基于人工提取特征的复杂体制雷达辐射源信号识别方法时效性低,识别准确率不佳. 为此,提出了一种基于多学习单元卷积神经网络的识别方法. 首先对辐射源信号的模糊函数进行高斯平滑,以校正噪声带来的毛刺与畸变;然后提取其正交切片作为进一步的特征提取对象;最后构建多学习单元卷积神经网络,学习和提取正交切片深层、泛在的特征,并通过softmax分类器进行分类识别. 仿真实验结果表明,所提方法在信噪比为-2 dB时对6类典型雷达信号的整体平均识别率均保持在99.86%以上,即便是在-6 dB环境中,雷达信号的识别率也可达到88.50%,在极低信噪比条件下具有良好的性能和可行性.     

基于多级特征并联的轻量级图像语义分割

针对当前语义分割算法普遍具有网络结构复杂和计算开销巨大的问题,为了综合提高语义分割算法实时性和精确度,提出计算高效的基于多级特征并联网络（LSSN）的轻量级图像语义分割网络. 该算法综合考虑网络的参数量、运行速度和性能,能更好地应用到嵌入式设备和可移动设备上. 应用微调的深度卷积神经分类网络作为特征提取网络结构,提取网络不同深浅层语义和位置特征. 提出空洞残差增强模块和深度空洞空间金字塔模块分别处理来自特征提取基准网络的深层特征和浅层特征,并将深浅层特征按特定维度比例以并联的方式进行融合. 所提方法在PASCAL VOC 2012数据集上准确度（平均交并比）为77.13%,与当前具有高性能的语义分割算法和实时语义分割算法相比,能更好地平衡网络的实时性和精确度,具有更优的实用价值和性能效果.     

一种基于改进深度残差收缩网络的恶意应用检测方法

恶意应用的快速增长给移动智能终端带来了巨大的安全威胁,实现恶意应用高精度检测对移动网络信息安全具有重要意义.本文提出一种基于改进深度残差收缩网络的恶意应用检测方法.首先将流量特征预处理成卷积神经网络输入,接着引入通道注意力机制和空间注意力机制,从通道和空间两个维度对样本特征进行加权.然后再引入深度残差收缩网络,自适应滤除样本冗余特征并通过恒等连接优化参数反向传播,减小模型训练和分类的难度,最终实现安卓恶意应用高精度识别.所提方法可避免手工提取特征,能实现高精度分类并且具有一定泛化能力.实验结果表明,所提方法在恶意应用的2分类、4分类和42分类中准确率分别为99.40％、99.95％和97.33％,与现有方法相比,具有较高的分类性能与泛化能力.     

基于深度卷积神经网络的睡眠分期模型

针对现阶段数据和特征决定睡眠分期模型的分类精度上限的问题,提出深度卷积神经网络模型. 在模型主体构建方面,并行卷积网络可以自动学习原始信号的时域特征和频域特征,特征融合网络通过空洞卷积和残差连接进行多特征融合,分类网络基于融合后的特征进行睡眠分期. 利用生成少数类过采样技术（SMOTE）减少类别不平衡对分类效果的影响,结合两步训练法对模型进行优化. 实验使用Sleep-EDF数据集的原始单导脑电信号（Fpz-Cz通道）对模型进行20折交叉验证,得到总体精度和宏F₁分别为86.73%和81.70%. 提出的深度卷积模型在没有任何先验知识的情况下,对脑电信号进行端到端的学习,分类准确率优于传统的深度学习模型.     

基于多尺度通道重校准的乳腺癌病理图像分类

针对乳腺癌病理图像的自动分类问题,提出基于深度学习的分类算法. 通道重校准模型是作用于特征通道的注意力模型,可以利用学习到的通道权重对无用特征进行抑制来实现对特征通道的重校准,以达到更高的分类准确率. 为了使通道重校准的结果更加准确,提出多尺度通道重校准模型,设计卷积神经网络 msSE-ResNet. 多尺度特征通过网络中的最大池化层获得并作为后续通道重校准模型的输入,将不同尺度下学到的通道权重进行融合,可以改善通道重校准的结果. 该实验在公开数据集BreaKHis上开展. 实验结果表明,该网络对良性/恶性乳腺病理图像分类任务达到88.87%的分类精度,可以对不同放大倍数下获取的病理图像具有较好的鲁棒性.     

平移不变模式变换与神经网络

提出了一种适于模式识别的复合网络,它由三个子网:异联想记忆网、二维局域连接神经网、分类网级联而成,其输入为模式的二维自相关系数,输出为预定的编码。这种神经网络与平移不变模式变换相结合,可以有效的进行平移不变模式识别,而且有很好的容错性和抗噪声能力。     

基于PCA的BP神经网络分类器

由于入侵检测处理的多为高维数据,为了提高入侵检测的效率和准确率,提出了一种基于主成分分析(PCA)的特征提取方法,对数据源进行特征降维,将获得的主成分作为BP神经网络的输入进行数据识别.同时介绍了M atlab中相关函数,并与传统入侵检测方法进行了比较.实验结果表明:基于主成分分析的特征提取方法在简化BP神经网络规模的同时,显著提高了入侵检测识别效果.     

基于半监督学习的脑电信号特征提取及识别

针对有监督学习容易造成未标记样本的浪费和手动特征提取容易导致信息丢失的问题,提出一种基于深层堆叠网络（DSN）的半监督特征学习方法,无监督特征学习的过程由多个受限玻尔兹曼机（RBM）的并行训练完成,将训练得到的参数用于DSN的输入权值初始化,再采用批量模式的梯度下降法进行监督微调。将所提方法用于运动想象脑电信号特征提取及识别,实验结果表明本文方法能够充分利用未标记样本中的隐含信息,有效提取脑电信号特征,识别结果优于共同空间模式（CSP）和深度信念网络（DBN）等算法,该方法可用于提高BCI系统中脑电信号的识别准确率。     

基于Attention-BiLSTM的中文命名实体识别

提出一种基于Attention-BiLSTM(attention-bidirectional long short-term memory)深度神经网络的命名实体识别方法。应用BiLSTM神经网络自动学习文本的隐含特征,可以解决传统识别方法存在长距离依赖等问题;引入注意力机制(attention mechanism)对文本全局特征做重要度计算,获取文本局部特征,解决了传统深度学习方法不能充分提取特征的问题;在预训练过程中加入维基百科知识,进一步提升了命名实体识别系统的性能。实验表明,所提方法在SIGHAN 2006 Bakeoff-3评测数据集上获得了优良的识别性能。     

基于深度卷积神经网络的车型识别方法

针对现有车辆车型视觉识别技术中的检测精度不高、难以适应天气环境变化、难以从视频图像中准确提取出用于识别的车辆图像、难以对车辆车型子类进行识别分类、难以兼顾识别精度和检测效率等不足,将深度卷积神经网络引入车辆目标定位、识别和分类（子类）问题中.利用深度卷积神经网络自动完成车型的深度特征学习,在特征图上进行逻辑回归,从道路复杂背景中提取出感兴趣区域;利用softmax分类器训练特征实现车型识别;为了优化softmax在深度卷积神经网络分类过程中出现的类内间距大的问题,引入中心损失函数对softmax损失函数进行优化,提高类间分散性与类内紧密性.在BIT-Vehicle车型数据集中的实验结果显示,提出方法的平均精度为89.67%,检测和识别时间为159 ms;与传统的分类方法相比,识别精度提高约20%,效率提高10倍以上,检测鲁棒性有明显提升;与未改进前的深度卷积神经网络相比,检测精度提高0.6%,速度提高0.29倍.     

基于二维ICA基于二维ICA变换的语音特征提取

独立成分分析 (ICA)方法已经被广泛地应用于语音信号处理中.  讨论了ICA方法在语音信号特征提取中的应用.ICA被应用在对数Mel滤波器组变换域中来代替常用的离散余弦变换，后者被应用来得到Mel倒谱系数(MFCC)特征.我们将应用一种新的方法即二维ICA方法来发掘语音信号的时域跟频域的信息，从而提高语音特征的效率跟噪声鲁棒性.这些特征被用于基于高斯混合模型的说话人识别应用中.仿真结果表明我们得到的时频二维特征优于传统的一维特征.