首页 | 官方网站   微博 | 高级检索  
     

基于动量分数阶梯度的卷积神经网络优化方法
引用本文:郭明霄,王宏伟,王佳,李昊哲,杨仕旗.基于动量分数阶梯度的卷积神经网络优化方法[J].计算机工程与应用,2022,58(6):80-87.
作者姓名:郭明霄  王宏伟  王佳  李昊哲  杨仕旗
作者单位:1.新疆大学 电气工程学院,乌鲁木齐 830047 2.大连理工大学 控制科学与工程学院,辽宁 大连 116024 3.大连医科大学 基础医学院,辽宁 大连 116041
摘    要:针对采用传统梯度下降算法训练卷积神经网络收敛速度慢的问题,提出了动量分数阶梯度下降算法。介绍了分数阶微积分的定义,并依据问题描述,通过算法推导,将整数阶梯度下降算法中的动量思想应用到分数阶梯度下降算法中,设计出动量分数阶梯度下降算法。使用测试函数验证算法的收敛性,并分析不同分数阶阶次和动量项系数对算法收敛性的影响。在三个数据集上使用动量分数阶梯度下降算法与传统梯度下降算法、动量梯度下降算法作对比实验,实验数据表明,动量分数阶梯度下降算法可以在不同复杂程度的数据集上,在保证较高分类准确率的前提下,极大提高卷积神经网络的收敛速度,为训练卷积神经网络节省大量时间成本。

关 键 词:卷积神经网络  分数阶  梯度下降  动量  

Convolutional Neural Network Optimization Method Based on Momentum Fractional Order Gradient Descent Algorithm
GUO Mingxiao,WANG Hongwei,WANG Jia,LI Haozhe,YANG Shiqi.Convolutional Neural Network Optimization Method Based on Momentum Fractional Order Gradient Descent Algorithm[J].Computer Engineering and Applications,2022,58(6):80-87.
Authors:GUO Mingxiao  WANG Hongwei  WANG Jia  LI Haozhe  YANG Shiqi
Affiliation:1.School of Electrical Engineering, Xinjiang University, Urumqi 830047, China 2.School of Control Science and Engineering, Dalian University of Technology, Dalian, Liaoning 116024, China 3.College of Basic Medical Sciences, Dalian Medical University, Dalian, Liaoning 116041, China
Abstract:
Keywords:convolutional neural network  fractional order  gradient descent  momentum  
本文献已被 万方数据 等数据库收录!
点击此处可从《计算机工程与应用》浏览原始摘要信息
点击此处可从《计算机工程与应用》下载全文
设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司    京ICP备09084417号-23

京公网安备 11010802026262号