基于改进卷积及分类器的轻量级人脸表情识别

目前深度学习的表情识别方法存在参数量大、实时性差的问题,提出基于改进卷积与分类器的轻量级人脸表情识别方法。在深度可分离卷积的基础上设计出浅层特征提取模块和轻量化卷积残差模块提取特征信息,然后改进分类器去替换全连接层进行表情分类。最终模型的参数量由11、171、271下降至5、925、288;同时在FER2013数据集和CK+数据集上保持了高达73.76%和97.74%的识别率,性能优于目前流行的ResNet18网络。     

轻量化卷积神经网络技术研究

为了使卷积神经网络模型更好地应用于移动端和嵌入式设备，必须从减少模型参数量和降低计算复杂度两方面入手。首先简要介绍了目前几种流行的解决方法，并详细阐述了六个轻量化卷积神经网络模型，展示了其中应用的不同网络计算方式的计算量和参数量，论述了模型的核心构建模块、整体网络结构和创新之处。分析了各网络以及常规卷积网络在ImageNet数据集上的分类准确度，进而对比各网络实现轻量化的技巧，得出在进行模型设计时采用直接指标替代间接指标的结论。同时发现了残差结构对保证轻量化模型准确率的重要性。最后对轻量化卷积神经网络的发展前景进行了展望。     

面向移动平台的轻量级卷积神经网络架构

针对深度神经网络在移动平台上存在准确度低、过拟合等问题,提出一种轻量级的卷积神经网络架构。将3×3的深度可分离卷积替换SqueezeNet网络模型基本模块Fire中的标准3×3卷积核,并构建SparkNet的网络结构,替换模型卷积得到网络变形结构。实验结果表明,与SqueezeNet网络结构相比,该架构可以提高网络模型的计算速度,有效降低网络模型规模并减少参数数量。     

应用空洞卷积的神经网络轻量化方法#br#

为了深度卷积神经网络能够更好地应用于边缘设备,减少深度神经网络的模型参数量,降低网络复杂度,对于轻量化卷积神经网络的研究日益增多。将常用于多尺度融合的卷积——空洞卷积首次应用于神经网络轻量化领域研究。利用空洞卷积采样与扩大感受野的结构特性,实现了模型参数量的减少与计算复杂度的降低。将空洞卷积单纯作用于残差网络结构,达到轻量化目的,并进一步与逐点卷积结合,提高轻量化效果,形成改进型空洞卷积轻量化方法。为减少准确率衰减,将改进型空洞卷积与普通卷积相融合,提出一种融合型空洞卷积轻量化方法。实验结果表明,改进型空洞卷积轻量化方法具有最显著的轻量化效果,融合型空洞卷积轻量化方法使模型参数量减少同时具有最佳速度与精度的权衡。     

轻量金字塔解码结构的单目深度估计网络

针对单目深度估计网络庞大的参数量和计算量,提出一种轻量金字塔解码结构的单目深度估计网络,可以在保证估计精度的情况下降低网络模型的复杂度、减少运算时间。该网络基于编解码结构,以端到端的方式估计单目图像的深度图。编码端使用ResNet50网络结构;在解码端提出了一种轻量金字塔解码模块,采用深度空洞可分离卷积和分组卷积以提升感受野范围,同时减少了参数量,并且采用金字塔结构融合不同感受野下的特征图以提升解码模块的性能;此外,在解码模块之间增加跳跃连接实现知识共享,以提升网络的估计精度。在NYUD v2数据集上的实验结果表明,与结构注意力引导网络相比,轻量金字塔解码结构的单目深度估计网络在误差RMS的指标上降低约11.0%,计算效率提升约84.6%。     

面向移动端的轻量化卷积神经网络结构

随着移动设备的大量普及,将卷积神经网络应用于移动设备具有极大的实用价值。虽然随着技术的发展,目前移动设备的计算能力和存储资源都有了极大的提高,但是在移动设备上运行卷积神经网络仍然具有很大的挑战。为了解决这个问题,提出了一种轻量化的卷积神经网络结构S-MobileNet。该结构可以显著地减少网络模型的参数量以及降低模型的计算复杂度。为了全面评测S-MobileNet的性能,在CIFAR-10、CIFAR-100和ImageNet等图像分类数据集上进行了相关实验。实验结果表明,所提出的网络结构在保持MobileNetV2同等准确度的前提下,网络模型的参数量较MobileNetV2减少了近1/3,计算复杂度较MobileNetV2降低了近40%。     

基于动态自适应层叠网络的轻量化图像超分辨率重建

轻量化超分辨率网络对安防监控、实时人脸识别等领域具有重要意义。然而,现有超分辨率重建网络以牺牲内存和计算成本为代价提高重建效果,从而限制其在实际场景中的应用。提出基于动态自适应层叠网络的轻量化超分辨率重建网络。利用双路残差块中的深度可分离卷积提取低频特征,并引入像素注意力机制获取更丰富的细节特征,以减少参数量并增强网络的重建能力。将双路残差块中的一部分卷积参数作为动态卷积核的子卷积,并与动态自适应模块共享,利用可学习参数调节共享卷积的权重,增强网络的非线性映射关系,充分提取图像的纹理细节信息。实验结果表明,相比VDSR、CARN、PAN等网络,该网络重建得到的图像纹理更接近原始图像,其参数量仅为传统轻量化网络CARN的1/2,在放大因子为4的Set5数据集上峰值信噪比相比CARN提高0.16 dB。     

交叉连接的少层残差卷积神经网络

最近的研究表明,卷积神经网络的性能可以通过采用跨层连接来提高,典型的残差网络(Res Net)便通过恒等映射方法取得了非常好的图像识别效果.但是通过理论分析,在残差模块中,跨层连接线的布局并没有达到最优设置,造成信息的冗余和层数的浪费,为了进一步提高卷积神经网络的性能,文章设计了两种新型的网络结构,分别命名为C-FnetO和C-FnetT,它们在残差模块的基础上进行优化并且具有更少的卷积层层数,同时通过在MNIST,CIFAR-10,CIFAR-100和SVHN公开数据集上的一系列对比实验表明,与最先进的卷积神经网络对比,C-FnetO和C-FnetT网络获得了相对更好的图像识别效果,其中C-FnetT网络的性能最佳,在四种数据集上均取得了最高的准确率.     

基于YOLOv5改进的轻量化目标检测

针对移动端目标检测算法需要模型参数量与计算量更少、推理速度更快和检测效果更好以及目标检测算法对于小目标误检、漏检及特征提取能力不足等问题, 提出一种基于YOLOv5改进的轻量化目标检测算法. 该算法使用轻量级网络MobileNetV2作为目标检测算法的骨干网络降低模型的参数量与计算量, 通过使用深度可分离卷积结合大卷积核的思想降低网络的计算量与参数量, 并提升了小目标的检测精度. 使用GhostConv来替换部分普通卷积, 进一步降低参数量与计算量. 本文算法在VOC竞赛数据集, COCO竞赛数据集两份数据集上均进行了多次对比实验, 结果表明本文算法相比于其他模型参数量更小、计算量更小、推理速度更快以及检测精度更高.     

融合空洞卷积的轻量化目标检测

为了轻量化模型,便于移动端设备的嵌入,对YOLOv4网络进行了改进.首先,用MobileNetV3作为主干网络,并使用深度可分离卷积替换加强特征提取网络的普通卷积,降低模型参数量;其次,在104×104特征图输出时融合空洞率为2的空洞卷积,与52×52的特征层进行特征融合,获取更多的语义信息和位置信息,细化特征提取能力,提升模型对极小目标的检测性能;最后,将原来的池化层使用3个5×5的Maxpool进行串联,减少计算量,提升检测速度.实验结果表明,在华为云2020数据集上,改进算法的mAP比YM算法提高了2.33%,在公共数据集VOC07+12上, mAP提高了3.12%, FPS比原来的YOLOv4算法提高了一倍多,参数量降低至原来的18%,证明了改进算法的有效性.     

基于加强特征融合的轻量化船舶目标检测

针对基于深度学习的海上船舶目标检测任务中存在检测网络复杂且参数量大、检测实时性差的问题, 提出一种加强特征融合的轻量化YOLOv4算法——MA-YOLOv4. 首先使用MobileNetv3替换主干网络, 引入新的激活函数SiLU并使用深度可分离卷积代替普通3×3卷积降低网络参数量; 其次加入自适应空间特征融合模块加强特征融合; 最后使用MDK-means聚类算法得到适用于船舶目标的锚框, 用Ship7000数据集进行训练和评估. 实验结果表明, 改进算法与YOLOv4相比, 模型参数量降低82%, mAP提高2.57%, FPS提高30帧/s, 能实现对海上船舶的高精度实时检测.     

基于轻量级金字塔网络的种子分选方法研究

针对目前卷积神经网络种子分选方法存在识别精度不高、模型参数量大、推理速度慢且难于部署等问题,提出了基于轻量级金字塔空洞卷积网络的种子分选方法;该网络提出了残差空间金字塔模块,利用不同扩张率的空洞卷积扩大感受野,更有效地提取多尺度特征;再结合深度可分离卷积技术减少模型参数量和计算复杂度;在网络结构中引入轻量级注意力机制模块,利用局部跨通道交互方式关注重要的信息,提高种子关键特征提取能力;实验结果表明,提出网络参数量仅为0.13 M,在玉米和红芸豆数据集上准确率高达96.00%和97.38%,在NVIDIA Quadro板卡上识别单张图片时间仅为4.51 ms,均优于主流轻量级网络MobileNetv2、Shufflenetv2和PPLC-Net等,可以满足工业现场实时识别的要求。     

面向轻量级卷积网络的激活函数与压缩模型

因卷积神经网络参数膨胀,导致模型训练时占用大量的计算资源和存储资源,从而限制其在边缘终端上的应用。依据深度可分离卷积模型MobileNet V1的设计思路,结合自门控函数和ReLU函数的特点,构建一种改进的激活函数和压缩神经网络模型MobileNet-rhs。将ReLU函数和swish函数分别作为分段线性函数,设计激活函数ReLU-h-swish,通过优化卷积单元结构,解决模型训练过程中难以激活部分神经元的问题,以减少特征信息丢失。构建一种剔除卷积核的压缩模型,从模型深处自下而上剔除2ⁿ个卷积核,减少逐点卷积的参数量。在CIFAR-10和CIFAR-100数据集上进行实验,结果表明,引入ReLU-h-swish函数构建MobileNet-rhs模型的Top-1分类准确率为80.38%。相比MobileNet-rhs模型,压缩后MobileNet-rhs模型的参数量减少17.9%,其Top-1分类准确率仅降低2.28个百分点。此外,利用Tensorflow将该模型部署在安卓平台上,实现图像分类相册的应用。     

LRUNet:轻量级脑肿瘤快速语义分割网络

目的 针对目前基于深度学习的脑肿瘤分割算法参数量大、计算复杂和快速性差的问题,提出了一种超轻量级快速语义分割网络LRUNet （lightweight rapid UNet）,在保证分割精度提升的同时,极大地减少了网络的参数量与计算量,达到快速分割的效果。方法 LRUNet网络结构基于UNet,将3D-UNet的通道数减少为原来的1/4,减少原先3D-UNet过多的参数量;将UNet网络中除最后一层外的所有传统卷积变为深度可分离卷积,深度可分离卷积以牺牲极少精度,大大减少网络参数量,实现网络的轻量级;使用空间—通道压缩和激发模块（spatial and channel squeeze&excitation block,scSE）,该模块能够放大特征图中对模型有利的参数的权重,缩小对模型不利参数的权重,提升网络分割的精度。结果 在BraTS 2018（Brain Tumor Segmentation Challenge 2018）数据集上的在线验证结果显示,该模型在全肿瘤、核心区肿瘤和增强区肿瘤分割的平均Dice系数分别为0.893 6、0.804 6和0.787 2。LRUNet与同为轻量级网络的S3D-UNet相比Dice有所提升,但是,参数量仅为S3D-UNet的1/4,FLOPs （floating point operations per second）仅为1/2。结论 与3D-UNet、S3D-UNet和3D-ESPNet等算法相比,LRUNet算法不仅保证精度得到提升,而且极大地减少网络中计算的参数量与计算成本消耗,同时网络模型的预测速度得到很大提升,使得快速语义分割在3维医学图像领域成为可能。     

基于轻量型网络的单载波信号调制识别

针对当前应用深度学习实现数字信号调制识别过程中网络复杂、计算量高、硬件平台要求高的问题, 本文提出了在改进的MobileNetV3轻量级神经网络中使用信号星座图调制识别的方法. 首先, 将接收到的MPSK和MQAM信号转换成星座图像, 将其进行灰度图像提取, 灰度图像增强, 构建星座图的图像数据集, 然后将ResNet中的跨层结构引入MobileNetV3网络, 解决了随着网络层数的增加, 权重减小而导致的梯度消失现象. 最后将星座图数据集用于训练MobileNetV3的轻量型神经网络权重, 对星座图像进行识别. MobileNetV3基于深度卷积可分离和神经架构搜索(network architecture search, NAS)技术在保证识别精度的前提下, 大大降低了参数量和训练时间, 将对于简单信号的调制识别, 轻量型神经网络可以有效简化网络结构, 降低对硬件设备的要求. 仿真结果表明, 针对的调制信号(BPSK、QPSK、8PSK、16QAM、64QAM), 能实现识别率为99.76%的调制识别, 相较于传统应用深度学习实现调制识别的网络, 网络参数量和计算量明显减小.     

MS-Net: A lightweight separable ConvNet for multi-dimensional image processing

As the core technology of deep learning, convolutional neural networks have been widely applied in a variety of computer vision tasks and have achieved state-of-the-art performance. However, it’s difficult and inefficient for them to deal with high dimensional image signals due to the dramatic increase of training parameters. In this paper, we present a lightweight and efficient MS-Net for the multi-dimensional(MD) image processing, which provides a promising way to handle MD images, especially for devices with limited computational capacity. It takes advantage of a series of one dimensional convolution kernels and introduces a separable structure in the ConvNet throughout the learning process to handle MD image signals. Meanwhile, multiple group convolutions with kernel size 1 × 1 are used to extract channel information. Then the information of each dimension and channel is fused by a fusion module to extract the complete image features. Thus the proposed MS-Net significantly reduces the training complexity, parameters and memory cost. The proposed MS-Net is evaluated on both 2D and 3D benchmarks CIFAR-10, CIFAR-100 and KTH. Extensive experimental results show that the MS-Net achieves competitive performance with greatly reduced computational and memory cost compared with the state-of-the-art ConvNet models.

     

基于PWC-Net的多层权值和轻量化改进光流估计算法

针对现有光流估计方法实时性不够的问题,提出轻量化的深度可分离卷积的PWC-Net改进模型(depth separable pyramid, warping and cost volume, DS-PWC)。其改进是将常规二维卷积网络层解耦为深度可分离卷积层,并且DS-PWC在金字塔层增加基于层数的权重系数,从而使得网络结构在不损失精度的情况下大幅减少模型参数量。在训练过程中,使用图像及对象感知数据随机擦除(image and object-aware random erasing, I+ORE)等数据增强技术,进一步提升估计预测结果泛化能力。实验结果表明,在数据集测试DS-PWC模型,在保持质量的同时运行效率达到约58 fps(frame per second)。同时为了验证算法有效性,进行了模型结构和数据增强的消融实验。结果证明了DS-PWC模型的有效性。     

基于轻量级图卷积的人体骨架动作识别方法

视频中的人体动作识别在计算机视觉领域得到广泛关注,基于人体骨架的动作识别方法可以明确地表现人体动作,因此已逐渐成为该领域的重要研究方向之一。针对多数主流人体动作识别方法网络参数量大、计算复杂度高等问题,设计一种融合多流数据的轻量级图卷积网络,并将其应用于人体骨架动作识别任务。在数据预处理阶段,利用多流数据融合方法对4种特征数据流进行融合,通过一次训练就可得到最优结果,从而降低网络参数量。设计基于图卷积网络的非局部网络模块,以捕获图像的全局信息从而提高动作识别准确率。在此基础上,设计空间Ghost图卷积模块和时间Ghost图卷积模块,从网络结构上进一步降低网络参数量。在动作识别数据集NTU60 RGB+D和NTU120 RGB+D上进行实验,结果表明,与近年主流动作识别方法ST-GCN、2s AS-GCN、2s AGCN等相比,基于该轻量级图卷积网络的人体骨架动作识别方法在保持较低网络参数量的情况下能够取得较高的识别准确率。     

改进YOLOv3的矿石输送带杂物检测方法

针对矿石输送带上夹杂的废旧木头、钢钎、塑料导爆管等杂物会对后续选矿设备造成严重破环的问题,提出一种改进YOLOv3的矿石输送带杂物检测方法YOLO-Ore。将轻量级网络Mobilenetv2作为主干特征提取网络,利用深度可分离卷积和逆残差结构,缩减了模型容量,丰富了特征信息;将语义分割网络PSPnet中的金字塔池化模块PPM融入到特征提取过程当中,有效聚合不同尺度的上下文信息;引入注意力机制CBAM,同时在空间维度和通道维度上进行特征增强;对YOLOv3的FPN结构简化,删减参数冗余的卷积层,实现进一步的模型压缩。利用数据增广技术构建矿石杂物数据集,并对所提方法的有效性进行实验对比验证。结果表明,和原YOLOv3算法相比,所提方法YOLO-Ore能够准确快速地检测矿石输送带杂物。