基于张量虚拟机的深度神经网络模型加速方法

随着人工智能（AI）技术的蓬勃发展,深度神经网络（DNN）模型被大规模应用到各类移动端与边缘端。然而,边缘端算力低、内存容量小,且实现模型加速需要深入掌握边缘端硬件知识,这增加了模型的部署难度,也限制了模型的推广应用。因此,基于张量虚拟机（TVM）提出一种DNN加速与部署方法,从而实现卷积神经网络（CNN）模型在现场可编程门阵列（FPGA）上的加速,并在分心驾驶分类应用场景下验证了所提方法的可行性。通过计算图优化方法减小了模型的访存和计算开销,通过模型量化方法减小了模型尺寸,通过计算图打包方法将卷积计算卸载到FPGA上执行以提高模型推理速度。与微处理器（MPU）相比,所提方法可使ResNet50和ResNet18在MPU+FPGA上的推理时间分别减少88.63%和77.53%;而在AUC(American University in Cairo)数据集上,相较于MPU,两个模型在MPU+FPGA上的top1推理精度仅下降了0.26和0.16个百分点。可见,所提方法可以降低不同模型在FPGA上的部署难度。     

基于边缘计算的分支神经网络模型推断延迟优化

针对云服务器上深度神经网络（DNN）模型推断任务延迟过高的问题,提出基于边缘计算的分支神经网络部署模型。分析了边缘计算场景中深度神经网络的分布式部署问题,证明该问题是NP-难的。设计了一种基于分支定界思想的部署算法（DBB）,选择合适的边缘计算节点部署模型以减少推断任务的延迟。设计并实现了选择节点退出（SNE）算法,为不同任务选择合适的边缘计算节点来退出推断任务。仿真实验结果表明,与在云端部署神经网络模型的方法相比,基于边缘计算的分支神经网络模型的推断延迟平均降低了36%。     

智慧煤矿中边缘计算任务分配研究

目前智慧煤矿边缘计算中的任务分配大多采用集中式分配算法,划分任务优先级时考虑的因素较单一,且未考虑煤矿网络拓扑的窄长型特征。针对该问题,结合煤矿场景下任务的特点,提出一种基于动态优先级和实时竞价策略的边缘计算任务分配策略。对任务进行分类:一方面,将计算量超过边缘节点计算能力的任务直接上传至云端进行处理;另一方面,将能够在边缘计算层处理的任务按重要程度划分为3个等级:第1等级为环境监控相关任务及工作人员安全操作规程检测相关任务;第2等级为生产过程设备状态监控相关任务;第3等级为其他常规任务。但仅仅按照这3个等级进行任务分配,会导致优先级低的任务被优先级高的任务阻塞。必须考虑任务的紧迫程度,让临近截止时间的任务提高优先级。根据任务的固定优先级、紧迫程度和计算量动态生成优先级并更新任务队列。针对煤矿井下巷道狭长、传输受限等特点,建立任务分配的实时竞价模型,通过边缘节点计算能力、处理时间、能耗和等待时间4个因素确定边缘节点对任务的报价,请求节点将任务传输到2跳范围内处理代价最低且满足任务需求的边缘节点执行,从而完成任务分配。仿真结果表明,所提任务分配策略可将任务分配到算力匹配的边缘节点进行处理,使边缘节点优先处理紧迫且重要的任务,在降低时延和能耗、优化资源分配方面取得了较好的效果。     

基于深度强化学习的智联网汽车感知任务分配

随着智能/辅助/自动驾驶以及电动汽车技术的飞速发展,当前智联网汽车配备越来越多的传感器,拥有越来越强大的计算、存储和通信能力.作为智联网汽车中重要一类,出租车、滴滴等网约车(Mobility-on-demand vehicles)具有城市覆盖规模大和粒度细,以及空闲时间充足的优点.因此,利用这些智联网汽车现有的移动感知...     

边缘计算环境下基于深度学习的目标检测系统

针对云计算模式下图像目标检测效率低的问题,设计一种适用于边缘端设备的目标检测系统。首先,该系统选取了深度学习算法中的Faster R-CNN作为目标检测识别模型,并通过残差模块对网络特征提取层进行剪裁处理。其次,利用一种具有可调锚点框的候选区域提取子网络,通过设置合理大小的卷积滑动窗口,以便更快速的获得建议区域。最后,采用树莓派开发板和因特尔神经计算棒等硬件搭建了完整的目标检测系统。在KITTI数据集上的实验结果表明,该系统取得了良好的检测效果,并在不降低目标检测精度的情况下,获得了更快的识别速度,可以满足离线工作的实时性需求。     

移动边缘计算中基于深度强化学习的计算卸载调度方法

针对移动边缘计算中具有依赖关系的任务的卸载决策问题,提出一种基于深度强化学习的任务卸载调度方法,以最小化应用程序的执行时间。任务调度的过程被描述为一个马尔可夫决策过程,其调度策略由所提出的序列到序列深度神经网络表示,并通过近端策略优化(proximal policy optimization)方法进行训练。仿真实验表明,所提出的算法具有良好的收敛能力,并且在不同环境下的表现均优于所对比的六个基线算法,证明了该方法的有效性和可靠性。     

基于深度强化学习的车辆边缘计算任务卸载方法

车辆边缘计算允许车辆将计算任务卸载到边缘服务器,从而满足车辆爆炸式增长的计算资源需求。但是如何进行卸载决策与计算资源分配仍然是亟待解决的关键问题。并且,运动车辆在连续时间内进行任务卸载很少被提及,尤其对车辆任务到达随机性考虑不足。针对上述问题,建立动态车辆边缘计算模型,描述为7状态2动作空间的Markov决策过程,并建立一个分布式深度强化学习模型来解决问题。另外,针对离散—连续混合决策问题导致的效果欠佳,将输入层与一阶决策网络嵌套,提出一种分阶决策的深度强化学习算法。仿真结果表明,所提算法相较于对比算法,在能耗上保持了较低水平,并且在任务完成率、时延和奖励方面都具备明显优势,这为车辆边缘计算中的卸载决策与计算资源分配问题提供了一种有效的解决方案。     

基于模糊神经网络Sarsa学习的多机器人任务分配

针对动态环境下多机器人任务分配的问题,提出一种基于模糊神经Sarsa学习网络的效用函数模型,将模糊推理系统,神经网络模型与Sarsa学习算法相结合。设计确定了网络的结构、学习算法以及最终效用值的确定步骤。在仿真实验中,利用该模型能快速收敛实现任务分配,并且能不断优化目标和路径。     

移动边缘计算中的端到端任务分配算法

为了提高移动应用程序的运行效率,移动边缘计算将部分任务从终端设备迁移到边缘云中计算来缩减应用程序的运行时间和终端设备的能耗。针对应用程序所需的总代价即能耗和时间两个目标进行了研究,提出一个移动边缘计算模型和基于贪心策略的快速算法（HGA）;构造了一个结合贪心策略的粒子群（HPSO）算法,进一步优化HGA的解。实验结果表明,与传统所有任务只在一个设备上执行和尽可能上传云端执行两种策略相比,提出的HGA总代价分别优化28.5%和9.1%;与HGA相比,HPSO算法总代价减少12.3%;即所提算法能有效减少系统的总代价,更加满足用户需求。     

深度神经网络模型压缩方法综述

在过去十来年中,深度神经网络(DNN)在语音识别、图像识别等大量AI问题中取得了显著成功,在智能物联网等场景中得到了广泛应用.但由于深度神经网络模型具有计算量大、参数量大、存储成本高的特点,限制了其在硬件受限的嵌入式或移动设备上的应用.近年来,学界也提出了多种压缩技术来降低DNN模型的存储成本和计算需求,并在压缩的同时...     

基于Octave卷积的混合精度神经网络量化方法

浮点数位宽的深度神经网络需要大量的运算资源,这导致大型深度神经网络难以在低算力场景(如边缘计算)上部署.为解决这一问题,提出一种即插即用的神经网络量化方法,以压缩大型神经网络的运算成本,并保持模型性能指标不显著下降.首先,基于Octave卷积将输入特征图的高频和低频成分进行分离;其次,分别对高低频分量应用不同位宽的卷积...     

海流环境下多AUV多目标生物启发任务分配与路径规划算法

针对多障碍物海流环境下多自治水下机器人(AUV)目标任务分配与路径规划问题, 本文在栅格地图构建的 基础上给出了一种基于生物启发神经网络(BINN)模型的新型自主任务分配与路径规划算法, 并考虑海流对路径规 划的影响. 首先建立BINN模型, 利用此模型表示AUV的工作环境, 神经网络中的每一个神经元与栅格地图中的位 置单元一一对应; 接着, 比较每个目标物在BINN地图中所有AUV的活性值, 并选取活性值最大的AUV作为它的获 胜AUV, 实现多AUV任务分配; 最后, 考虑常值海流影响, 根据矢量合成算法确定AUV实际的航行方向, 实现AUV路 径规划与安全避障. 海流环境下仿真实验结果表明了生物启发模型在多AUV水下任务分配与路径规划中的有效性.     

基于神经网络与模糊算法图像边缘检测方法*

针对传统图像边缘检测方法中出现毛边、噪边、边缘定位不精确等缺点,提出一种神经网络与模糊算法相结合的检测方法。根据图像特征,将图像分为高频和低频部分分别处理,高频部分适宜用双层网络结构,可以很好地减弱噪声;对于图像低频部分,将模糊理论引入到边缘检测中,能够检测出弱边。最后对检测出的两个图像边缘进行融合,实验结果证明得出的检测效果较好,比传统边缘检测算子所获结果有很大改善。     

基于最小费用网络流的快速扩散制造任务分配算法*

针对武器装备快速扩散制造环境下的任务分配问题,提出了一种基于最小费用网络流的任务分配方法。本方法以完成任务的时间及费用最少为目标,首先计算出各个零件的最大产量,其次根据零件最大产量计算出产品的最大产量;然后根据产品最大产量反算出各个零件的分配产量,针对每个步骤提出了相应的计算方法;最后,以航空发动机压气机机匣中的某级机匣壳体和静子叶片为例,给出了算法验证。实例表明,该方法在解决扩散制造任务分配上是合理的、实用的。     

基于多准则的动态任务分配算法的研究

针对目前任务分配算法考虑的因素往往比较固定,可扩展性和灵活性较差等缺点,提出一种基于多准则的动态任务分配算法,对任务参与者的实时情况的跟踪和分析更加精确,对任务的分配更均衡;并给出了详细的任务分配的形式化表示,各评估指标之间相互独立,增强了算法的可扩展性。另外,提出采用计时器的方法来实现推拉式结合的任务分配机制,增强了算法的灵活性,既可以按照员工对任务感兴趣程度去自主选择工作项,又可以保证系统在没有员工自主选择任务项正常运转,在不影响工作正常执行的情况下使工作流管理系统的任务分配更加人性化。     

深度卷积神经网络的汽车车型识别方法

针对现有汽车车型识别方法计算量大、提取特征复杂等问题,提出一种基于深度卷积神经网络的汽车车型识别方法。该方法借助于深度学习,对经典的卷积神经网络做出改进并得到由多个卷积层和次抽样层构成的深度卷积神经网络。根据五种车型的分类结果,表明该方法在识别率方面较传统方法有明显的提高。实验还研究了网络层数、卷积核大小、特征维数对深度卷积神经网络的性能和识别率的影响。     

基于模糊熵和BP神经网络的彩色图像边缘检测

在RGB颜色空间中,分别提取R、G、B三个分量并计算R、G、B三个分量的组合V,通过引入模糊熵,构造出4个基于模糊熵的信息测度分量来定量描述彩色图像的边缘特征,并将4个测度分量组成一个整体的特征向量,计算训练图像的特征向量作为样本对BP网络进行训练,然后将训练的BP网络直接用于边缘检测。该方法充分考虑了颜色空间中各颜色分量以及它们之间的相关性;BP网络的结构和训练都比较简单;实验表明,改进方法具有较强的细节保持能力,对弱边缘具有较强的检测能力。     

社会网络下分配众包任务的真实机制

众包平台上出现了越来越多的宏任务,而这些宏任务需要工人的专业技能和团队的集体贡献。社会网络为社会工作者之间的合作提供了一个可用的平台。事实上,很少有研究关注众包工人之间的社会网络。在社会网络下的众包任务分配问题是NP难问题,并且社会网络中会存在参与者为了提高自己的效用而谎报要价的情况,因此提出一种社会网络下分配众包任务的真实机制（TMC-SN）。在社会网络下的众包任务分配问题被模拟成一个拍卖,其中任务请求者是买家,工人是卖家,众包平台充当拍卖者。为了找出最合适的团队,TMC-SN从边际贡献和团队凝聚力两个方面来衡量工人对团队的适应性。理论分析证明,TMC-SN具有真实性、个体理性、预算平衡等经济属性。实验结果表明,TMC-SN在社会福利方面具有一定的优势,并且能够提升工人的效用。     

基于卷积神经网络的加密流量分类方法

针对传统加密网络流量分类方法准确率较低、泛用性不强、易侵犯隐私等问题,提出了一种基于卷积神经网络的加密流量分类方法,避免依赖原始流量数据,防止过度拟合特定应用程序的字节结构。针对网络流量的数据包大小和到达时间信息,设计了一种将原始流量转换为二维图片的方法,直方图中每个单元格代表到达相应时间间隔的具有相应大小数据包的数量,不依赖数据包有效载荷,避免了侵犯隐私;针对LeNet-5卷积神经网络模型进行了优化以提高分类精度,嵌入Inception模块进行多维特征提取并进行特征融合,使用1*1卷积来控制输出的特征维度;使用平均池化层和卷积层替代全连接层,提高计算速度且避免过拟合;使用对象检测任务中的滑动窗口方法,将每个网络单向流划分为大小相等的块,确保单个会话中训练集中的块和测试集中的块没有重叠,扩充了数据集样本。在ISCX数据集上的分类实验结果显示,针对应用流量分类任务,准确率达到了95%以上。对比实验结果表明,训练集和测试集类型不同时,传统分类方法出现了显著的精度下降乃至失效,而所提方法的准确率依然达到了89.2%,证明了所提方法普适于加密流量与非加密流量。进行的所有实验均基于不平衡数据集,...     

基于强化学习的移动边缘计算任务卸载方法

最佳卸载策略直接影响移动计算任务卸载的时延与能耗,因此提出基于强化学习方法的移动边缘计算任务卸载方法。首先对移动设备的计算任务卸载形式展开具体分析,并基于分析结果获取计算任务卸载能量消耗、发射功率、传输速率等相关参数值,以此建立移动边缘计算任务卸载模型。最后基于建立的卸载模型结合Q-Learning算法对计算任务实施强化学习,找出计算任务的最佳卸载策略,从而实现移动边缘计算任务的实时卸载。实验结果表明,使用强化学习方法开展移动边缘计算任务卸载时,卸载能耗低、时延小。