面向文本分类的多头注意力池化RCNN模型

针对经典循环卷积神经网络（RCNN）在池化层采用的最大池化策略较为单一,会忽略除最突出特征外的其他特征,影响分类精度的问题,提出基于多头注意力池化的循环卷积神经网络（MHAP-RCNN）模型。多头注意力池化可以充分考虑各特征对分类的贡献,且能在训练过程中动态优化,有效缓解最大池化的单一性问题。在三个公开的文本分类数据集上进行实验,结果表明与经典RCNN及其他各模型相比,提出的模型具有更好的文本分类性能。     

基于卷积神经网络的实时车辆检测

为了解决对于尺度变换较大车辆及遮挡车辆检测性能不足的问题,提出了一种实时车辆检测模型。针对车辆检测算法对于尺度敏感的问题,通过使用深度残差网络作为特征提取层,构建特征金字塔网络用于多尺度检测;利用软化非极大抑制线性衰减置信得分解决车辆遮挡问题,从而降低车辆的漏检率;同时对模型进行通道级裁剪缩减模型参数规模,节省计算资源,提高模型检测速度。在VOC数据集上进行实验,结果表明,提出的方法在检测精度和检测速度上均获得较高的性能。在检测精度上,达到87.6%的准确率,相较于YOLOv3提升了3.7个百分点,相较于SSD提升了9.8个百分点;在检测速度上,每秒检测帧数达到42 f/s,实现了车辆的实时检测。特别地,将模型应用于环境复杂的Apollo数据集,相较于YOLOv3具有更好的鲁棒性。     

基于词共现与图卷积的文本分类方法

针对文本分类任务中标注数量少的问题,提出了一种基于词共现与图卷积相结合的半监督文本分类方法。模型使用词共现方法统计语料库中单词的词共现信息,过滤词共现信息建立一个包含单词节点和文档节点的大型图结构的文本图,将文本图中邻接矩阵和关于节点的特征矩阵输入到结合注意力机制的图卷积神经网络中实现了对文本的分类。实验结果表明,与目前多种文本分类算法相比,该方法在经典数据集20NG、Ohsumed和MR上均取得了更好的效果。     

改进卷积神经网络在互感器故障诊断中的应用

低压电流互感器作为电网中的关键设备,已经得到广泛使用。低压电流互感器故障诊断的在线检定也显得十分重要。提出了一种改进的全局平均池化的一维卷积神经网络（1DCNN-SVM）故障诊断模型应用于低压电流互感器在线检定。该方法改进了传统卷积神经网络（CNN）模型的结构,引入全局平均池化而不是全连接网络结构,并在测试阶段使用支持向量机（SVM）替代Softmax函数。通过进行实验分析,将所提的方法与传统的CNN进行实验对比,实验结果表明所提方法在训练时间、测试时间以及模型的测试精度等方面的表现都比传统的CNN结构模型要好。     

基于异质信息网络表示学习与注意力神经网络的推荐算法

推荐系统能够有效解决信息过载等问题,得到了国内外众多学者的广泛关注.真实世界中的应用场景往往可以建模成异质信息网络,因此基于异质信息网络表示学习的推荐算法成为了近年来的研究热点.然而,当前的研究工作仍然存在异质信息提取缺乏深度、节点的复杂关系发掘不充分等问题.为解决这些问题,文中提出了基于异质信息网络表示学习与注意力神经网络的推荐算法.首先,提出了保持语义关系与结构拓扑的异质信息网络表示方法;然后,设计了基于元路径的随机游走策略来获取异质信息网络中的节点序列,对序列过滤并生成用户和项目在不同元路径下的表示向量;最后,设计了基于注意力神经网络的推荐算法,将上述向量输入注意力神经网络,深入挖掘表示向量之间的关系以实现有效的推荐.在两个真实数据集上进行实验并与3种主流的算法进行比较,结果表明,所提算法在MAE与RMSE这2个推荐指标方面都有提升,最高提升了8.9％.     

基于LSTM神经网络的声纹识别

声纹识别利用说话人生物特征的个体差异性,通过声音来识别说话人的身份.声纹具有非接触、易采集、特征稳定等特点,应用领域十分广泛.现有的统计模型方法具有提取特征单一、泛化能力不强等局限性.近年来,随着人工智能深度学习的快速发展,神经网络模型在声纹识别领域崭露头角.文中提出基于长短时记忆(Long Short-Term Memory,LSTM)神经网络的声纹识别方法,使用语谱图提取声纹特征作为模型输入,从而实现文本无关的声纹识别.语谱图能够综合表征语音信号在时间方向上的频率和能量信息,表达的声纹特征更加丰富.LSTM神经网络擅长捕捉时序特征,着重考虑了时间维度上的信息,相比其他神经网络模型,更契合语音数据的特点.文中将LSTM神经网络长期学习的优势与声纹语谱图的时序特征有效结合,实验结果表明,在THCHS-30语音数据集上取得了84.31％的识别正确率.在自然环境下,对于3 s的短语音,该方法的识别正确率达96.67％,与现有的高斯混合模型和卷积神经网络方法相比,所提方法的识别性能更优.     

基于图卷积神经网络的完全图人脸聚类

人脸聚类是根据不同身份对人脸图像进行分组的方法,主要用于人脸标注和图像管理等领域.针对现有方法中存在大量冗余数据的问题,文中使用一种基于完全图约束和上下文关系进行链接预测的方法.该聚类算法基于图卷积神经网络进行链接预测,结合完全图约束筛选数据,同时在预测的过程中对链接关系进行不断的更新.实验结果显示,结合完全图约束的人脸聚类方法能够在减少冗余数据、加快运行速度的同时,提升聚类的准确率,从而提高聚类的整体效果.     

基于手机传感器轨迹的路面地物检测方法

针对传统路面地物信息采集方法存在的数据采集周期长、成本高等问题,提出了一种基于手机传感器轨迹的城市路面地物检测方法.利用手机记录车辆行驶过程中各传感器数据的变化,分析经过姿态校正后的加速度数据,研究加速度变化与路况之间的联系,构建BP神经网络模型,并使用已采集数据对模型进行训练,以识别路面地物.实验结果表明,基于手机传感器轨迹的路面地物检测方法具有快速准确地检测路面地物信息的能力,且地物检测准确率大于85％,能够较为准确地检测路面地物,文中基于手机姿态传感器对手机加速度传感器姿态进行了实时矫正,利用手机垂直于路面的加速度变化检测路面地物,因此所提方法具有手机加速度传感器姿态无关性,此外,所提方法对硬件设备要求低、数据采集效率高,降低了路面地物信息采集的成本,具有广泛的应用前景.     

大规模在线协作学习分组方法及应用研究

学习孤独感问题是造成MOOC课程学习完成率低的原因之一,构建与学习者学习特征相适应的协作学习小组,可以有效解决学习孤独感问题。利用自编码神经网络提取在线学习者的关键特征,根据同质分组原则,利用模糊C均值算法对在线学习者进行迭代分组,使在线学习者从独自学习转变为以团队的形式进行协作学习,从而改善在线学习者的学习体验,降低学习孤独感。以edX平台上选择计算机科学与编程入门课程的19?846名在线学习者为实验对象,进行在线协作学习分组。实验结果表明,基于该分组方法,每个小组内学习者都有较高的同质性,可以很好地解决学习孤独感问题。     

基于卷积神经网络的脑肿瘤分割方法综述

脑肿瘤自动分割对脑肿瘤诊断、手术规划和治疗评估中起着重要的作用。然而,由于脑病变结构的高可变性,组织边界模糊,以及数据有限和类不平衡等问题,导致其仍面临巨大的挑战。目前,大部分分割依赖手工,耗时耗力,易受主观影响,寻求一种高效的自动分割方法非常具有研究意义。介绍了脑肿瘤分割的研究背景、意义和难点,并概述了其发展历程;从数据和结构优化两方面详细描述基于脑肿瘤分割的卷积神经网络,简介脑分割常用的数据集和性能指标;分析了2017至2019年的BraTs挑战赛中排名靠前的算法性能,并讨论分析卷积神经网络应用于脑肿瘤分割的发展趋势。