一种改进的基于幂线性单元的激活函数

针对修正线性单元（ReLU）完全丢弃网络中包含有用信息的负激活值问题,基于参数化修正线性单元（PReLU）和指数线性单元（ELU）的研究,提出一种新颖的参数化激活函数幂线性单元（PoLU）。PoLU对输入的负激活部分实施有符号的幂非线性变化,幂函数的参数是可以在CNNs训练过程中自适应学习的;同时像ReLU那样保持正激活部分不变。PoLU可以高效地实现并且灵活地运用到不同的卷积神经网络架构中。在广泛使用的CIFAR-10/100数据库上的实验结果表明,PoLU要优于ReLU和它相对应的激活函数。     

基于改进激活函数的用于台风等级分类的深度学习模型

针对特定任务中深度学习模型的激活函数不易选取的问题,在分析传统激活函数和现阶段运用比较广泛的激活函数的优缺点的基础上,将Tanh激活函数与广泛使用的ReLU激活函数相结合,构造了一种能够弥补Tanh函数和ReLU函数缺点的激活函数T-ReLU。通过构建台风等级分类的深度学习模型Typ-CNNs,将日本气象厅发布的台风卫星云图作为自建样本数据集,采用几种不同的激活函数进行对比实验,结果显示使用T-ReLU函数得到的台风等级分类的测试精度比使用ReLU激活函数的测试精度高出1.124%,比使用Tanh函数的测试精度高出2.102%;为了进一步验证结果的可靠性,采用MNIST通用数据集进行激活函数的对比实验,最终使用T-ReLU函数得到99.855%的训练精度和98.620%的测试精度,其优于其他激活函数的效果。     

ReLU激活函数优化研究

门控循环单元(GRU)是一种改进型的长短期记忆模型(LSTM)结构,有效改善了LSTM训练耗时的缺点.在GRU的基础上,对激活函数sigmoid,tanh,ReLU等性能进行了比较和研究,详细分析了几类激活函数的优缺点,提出了一种新的激活函数双曲正切线性单元(TLU).实验证明:新的激活函数既能显著地加快深度神经网络的训练速度,又有效降低训练误差.     

深度学习模型中不同激活函数的性能分析

近年来,人们为处理众多问题引入了各种类型的神经网络,神经网络取得了巨大的发展。任何神经网络使用的层次结构是线性和非线性函数的组合,其中最常见的非线性层是激活函数,如Logistic Sigmoid、Tanh、ReLU、ELU、Swish和Mish。对深度学习神经网络中的激活函数进行了介绍,并对不同激活函数的输出范围、单调性、平滑性等特点进行了分析。通过在数据集上测试,对现在使用频率较高的激活函数进行了性能测试。对激活函数的分析将有助于进一步地在模型设计中进行选择。     

卷积神经网络中SPReLU激活函数的优化研究

由于激活函数本身的特性,使得卷积神经网络出现了梯度消失、神经元死亡、均值偏移、稀疏表达能力差等问题,针对这些问题,将"S"型激活函数和ReLU系激活函数进行了对比,分别讨论其优点和不足,并结合ReLU、PReLU和Soft-plus三种激活函数优点,提出了一种新型激活函数SPReLU.实验结果表明,SPReLU函数在性能上优于其他激活函数,收敛速度快,能有效降低训练误差,缓解梯度消失和神经元死亡等问题,能够有效地提高文本分类模型的准确性.     

基于改进深度残差网络的低功耗表情识别

为了提高表情识别率并降低表情识别的功耗,提出一种基于改进深度残差网络的表情识别方法。残差学习在解决深度卷积神经网络退化问题、使网络层次大幅加深的同时,进一步增加了网络的功耗。为此,引入具有生物真实性的激活函数来代替已有的整流线性单元(Rectified Linear Units,ReLU)函数, 并将其作为卷积层激活函数对深度残差网络进行改进。该方法不仅提高了残差网络的精度,而且训练出的网络权重可直接作为与该深度残差网络具有相同结构的深度脉冲神经网络的权重。将该深度脉冲神经网络部署在类脑硬件上时,其能够以较高的识别率和较低的能耗进行表情识别。     

基于改进卷积神经网络的电力通信网故障诊断研究

针对当前电力通讯网络故障诊断方法及时性差、准确率低和自我学习能力差等缺陷,提出基于改进卷积神经网络的电力通信网故障诊断方法,结合ReLU和Softplus两个激活函数的特点,对卷积神经网络原有激活函数进行改进,使其同时具备光滑性与稀疏性;采用ReLU函数作为作为卷积层与池化层的激活函数,改进激活函数作为全连接层激活函数的结构模型,基于小波神经网络模型对告警信息进行加权操作,得到不同告警类型和信息影响故障诊断和判定的权重,进一步提升故障诊断的准确率;最后通过仿真试验可以看出,改进卷积神经网络相较贝叶斯分类算法与卷积神经网络具有较高的准确率和稳定性,故障诊断准确率达到99.1%,准确率标准差0.915%,为今后电力通讯网智能化故障诊断研究提供一定的参考。     

基于深度学习的肺部肿瘤图像识别方法

鉴于浅层卷积神经网络难以获取图像深层特征、易过度拟合导致分类效率和精度低的问题,因此,设计一种肺部肿瘤图像的深度学习识别模型。在运用样本扩充和迁移学习的基础上,并对AlexNet卷积神经网络进行改善和提升,在每层网络数据输入之前对数据进行归一预处理,同时使用线性整流函数(ReLU),实现对肺部肿瘤表达性特征地快速获取,输出端经由三层全连接层和softmax算法进行分类。实验结果表明,此方法在网络收敛速率和分类精度方面取得更优性能,比基于AlexNet卷积神经网络分类精度提高5.66%以上,且具备良好的健壮性。     

基于改进sigmoid激活函数的深度神经网络训练算法研究

针对深度神经网络训练过程中残差随着其传播深度越来越小而使底层网络无法得到有效训练的问题,通过分析传统sigmoid激活函数应用于深度神经网络的局限性,提出双参数sigmoid激活函数。一个参数保证激活函数的输入集中坐标原点两侧,避免了激活函数进入饱和区,一个参数抑制残差衰减的速度,双参数结合有效的增强了深度神经网络的训练。结合DBN对MNIST数据集进行数字分类实验,实验表明双参数 sigmoid激活函数能够直接应用于无预训练深度神经网络,而且提高了sigmoid激活函数在有预训练深度神经网络中的训练效果。     

基于ArcReLU函数的神经网络激活函数优化研究

近年来深度学习发展迅猛。由于深度学习的概念源于神经网络,而激活函数更是神经网络模型在学习理解非线性函数时不可或缺的部分,因此本文对常用的激活函数进行了研究比较。针对常用的激活函数在反向传播神经网络中具有收敛速度较慢、存在局部极小或梯度消失的问题,将Sigmoid系和ReLU系激活函数进行了对比,分别讨论了其性能,详细分析了几类常用激活函数的优点及不足,并通过研究Arctan函数在神经网络中应用的可能性,结合ReLU函数,提出了一种新型的激活函数ArcReLU。实验证明,该函数既能显著加快反向传播神经网络的训练速度,又能有效降低训练误差并避免梯度消失的问题。     

联合收割机脱粒滚筒恒速智能控制器设计

研究了轴流式联合收割机的控制问题,给出了联合收割机脱粒滚筒的数学模型,介绍了基于模式识别的智能控制原理,建立了联合收割机脱粒滚筒恒速控制模型,设计了基于模式识别的智能恒速控制器.应用Matlab/Simulink进行了控制器仿真,其结果表明,将基于模式识别的智能控制应用于联合收割机脱粒滚筒的恒速控制,其过渡过程平稳、响应速度快、无超调、无振荡并且无稳态误差.     

计算机辅助课表编排技术的研究

讨论了几种实用的计算机辅助课表编排技术及在实际编排中的应用。应用分析表明，采用分批与或图搜索和分批优化的匈牙利算法相结合的方法，在计算机辅助课表编排中是行之有效的。     

机车空调逆变电源设计

本文讨论的是机车空调逆变电源系统的设计与研究。该电源系统主要是由DC/DC的BOOST升压部分和DC/AC三相逆变部分两部分组成。DC/DC部分所得直流电压通过DC/AC部分逆变成三相交流电,供给空调机组工作。同时,为使电源系统能更可靠的运行,也设计了相应的故障检测、保护等辅助电路。     

Complexity of approximation of 3-edge-coloring of graphs

The problem to find a 4-edge-coloring of a 3-regular graph is solvable in polynomial time but an analogous problem for 3-edge-coloring is NP-hard. To make the gap more precise, we study complexity of approximation algorithms for invariants measuring how far is a 3-regular graph from having a 3-edge-coloring. We show that it is an NP-hard problem to approximate such invariants with an error O(n1−ε), where n denotes the order of the graph and 0<ε<1 is a constant.     

桥面损坏状态评估专家系统探讨

介绍关于桥梁结构损坏状态评估专家系统，在讨论状态评估方法的基础上，重点介绍损坏状态评估因素关系树的建立及各因素状态的模糊表达式等，最后以桥面诊断过程为例介绍系统的构成及诊断流程图，知识表达方式，系统推理过程及工作流程。     

实现三维喷绘的软件系统设计

对三维喷绘软件系统的设计,通过USB 2.0实现与喷绘主板的高速图像数据通信。基于ARM与MCX314的运动控制器实现实时三轴运动控制以及精确的喷头时序控制,论述USB驱动程序和ARM固件的开发。结果表明,该系统具有设计简洁、成本低、可扩展性强和实用性高等特点。     

《数据库系统概论》教学方法探索

针对<敷据库系统概论>课程的教学性质,结合其理论和实践教学并重的教学特点,对该门课程的本科生教学进行了探索.分析该门课程的体系结构和教学中存在的问题,给出了相应的解决办法,对该门课程的教学方法进行了研究、探索和总结.     

石油钻井泵阀体高频淬火温度的自动控制

针对石油钻井泵阀体高频淬火工艺要求，选用红外测温传感器测量石油钻井泵阀体的淬火温度，采用8031单片机自动控制温度，并可随时打印温度值，工件计数值，该系统控制精度高，抗干扰能力强，运行效果良好。     

神华集团数字矿山建设研究

探讨了数字矿山的内涵及特征、神华集团建设数字矿山的意义及目标,得出结论:数字矿山以面向矿山业务为依托,以数据互联互通为原则,以信息的整合、利用为核心,以矿山生产过程自动化为基础,以统一的传输网络平台为框架,以统一的软件平台为手段,以绿色开采技术、装备技术、信息技术为支撑,以标准体系为保障,其建设目标为"安全、绿色、智能、高效"。     

提高地磁传感器方位检测精度的方法

介绍了地磁传达传感器的原理及其信号处理方法，分析了传感器信号出现振荡、零点偏移、信号不对称等问题的成因，并提出了解决办法，使传感器的精度和可靠性得以提高。