基于NRC和多模态残差神经网络的肺部肿瘤良恶性分类

针对深度卷积神经网络训练时的网络退化、特征表达能力不强等问题,提出一种基于非负表示分类和多模态残差神经网络的肺部肿瘤(residual neural network-non negative representation classification, resnet-NRC)良恶性分类方法。使用迁移学习将预训练残差神经网络模型初始化参数;分别用CT、PET和PET/CT 3个模态的数据集训练残差神经网络,提取全连接层的特征向量;采用非负表示分类器(non-negative representation classification, NRC)对特征向量进行非负表示,求解非负系数矩阵;利用残差相似度进行肺部肿瘤良恶性分类。通过AlexNet、GoogleNet、ResNet-18/50/101模型进行对比试验,试验结果表明,ResNet-NRC分类效果优于其它模型,且特异性和灵敏度等各项评价指标也较高,该方法具有较好的鲁棒性和泛化能力。     

深度置信网络对孤立性肺结节良恶性的分类

针对肺部CT图像中孤立性肺结节(SPN)良恶性分类问题,寻求能够有效表示SPN图像的特征,通过适合的分类器实现对SPN良恶性的准确判别。由SPN图像的多分辨率直方图得到768维的特征空间,并将该类特征用于支持向量机(support vector machine,SVM)分类器进行训练,最后取得了令人满意的分类效果。结合深度学习领域中相关知识,将深度置信网络(deep belief network,DBN)用于SPN良恶性分类任务当中。将从肺部CT图像中分割出的SPN图像规整化作为DBN的输入,进行无监督训练;用带有良恶性类标的SPN图像对网络进行微调得到最终的DBN模型;用训练好的DBN模型在测试图像集上进行分类。在实验中选择肺结节患者480例,提取600个SPN图像作为实验数据。将新提出的DBN模型与基于纹理特征和多分辨率直方图特征的SVM模型进行对比,在不考虑医学象征的情况下,DBN模型的识别准确率高达86%,较SVM分类器的分类性能有了显著提升。     

基于卷积神经网络的肺结节分类方法研究

为了提高肺结节自动恶性分类模 型的性能,提出一种肺结节良恶性分类算法。首先,将3维肺结节CT图像作为模型输入;然后将双路径网络与卷积神经网络模型结合用于提取CT图像特征。其中,残差连接用于捕获更多高层和语义信息,密集连接用于降低模型的复杂度。在Luna16数据集上的实验结果表明,该算法的ROC可以达到90％,算法性能优于同类型算法性能。     

基于水平集方法的肿瘤图像识别

图像处理在计算机辅助医疗诊断系统中有着广泛的应用,本文在水平集方法的基础上,提出了一种肿瘤图像识别方法。首先,采用改进的水平集方法对肿瘤图像进行分割,获得肿瘤轮廓特征;其次,提取肿瘤的轮廓特征参数,对贝叶斯分类器进行训练,然后用训练的分类集进行肿瘤良恶性分类识别。通过对CT图像的肝脏肿瘤进行良恶性诊断,显示所开发的计算机辅助诊断系统是有效的。     

机器学习算法诊断PET/CT纵膈淋巴结性能评估

评估4种主流典型的机器学习方法（随机森林、支持向量机、AdaBoost、反向传播人工神经网络）对（¹⁸F-FDG） PET/CT影像中非小细胞肺癌纵膈淋巴结良恶性进行诊断分类的性能.先从168例病人的PET/CT影像中分割出1 397个淋巴结,对每个淋巴结提取出13种图像特征（D_short、area、volume、HU_mean（2D or 3D）、HU_contrast（2D or 3D）、SUV_mean（2D or 3D）、SUV_max（2D or 3D）、SUV_std（2D or 3D））;将提取出的13种图像特征进行组合,得到4种组合变量（“All features”、“High AUC features”、“Doctor's features”、“3D features”）;在4种组合变量下,分别从敏感性、特异性以及ROC曲线下的区域面积（AUC_ROC）3个方面对随机森林、支持向量机、AdaBoost、反向传播人工神经网络定量地进行诊断性能评估.评估结果显示,4种分类器分割结果的敏感性为77%~84%,特异性为81%~84%,AUC_ROC为0.86~0.90.在显著性（p<0.001）条件下对比发现,虽然机器学习方法的特异性略低于人类专家,但是敏感性显著优于人类专家.研究结果表明,三维图像特征及PET/CT影像组合特征可以显著提高AUC_ROC.基于上述研究结果可以得出结论,虽然4种机器学习方法在（¹⁸F-FDG） PET/CT影像的非小细胞肺癌纵膈淋巴结的良恶性诊断中展现了不错的敏感性,但它们的特异性有待进一步提高,在未来需要尝试多种分类方法进行联合实验,使用更高级的机器学习方法如深度学习进行进一步的研究.     

基于SVM分类的云集群失败作业主动预测方法

提出了一种使用支持向量机（SVM）模型预测作业终止状态的方法.以Google数据集为研究对象,首先分析作业终止状态的影响因素,提出使用作业的静态特征和动态特征作为终止状态分类的特征向量,选择SVM模型主动预测终止状态;然后从特征向量和分类模型2个层面对准确率、假负率、精确度指标进行验证.特征向量实验结果表明,基于静态和动态特征的SVM预测模型比单独使用静态特征和动态特征,分别提高0.94%、-0.01%、1.35%和9.08%、-1.36%、10.91%.分类模型的比较结果显示,SVM分类预测方法比传统的神经网络模型、朴素贝叶斯模型、逻辑回归模型的预测效果好.     

基于梅尔频谱分离和LSCNet的声学场景分类方法

针对现有频谱分离方法进行声学场景分类研究时其分类准确率不高的问题,提出了一种基于梅尔频谱分离和长距离自校正卷积神经网络(long-distance self-calibration convolutional neural network, LSCNet)的声学场景分类方法。首先,介绍了频谱的谐波打击源分离原理,提出了一种梅尔频谱分离算法,将梅尔频谱分离出谐波分量、打击源分量和残差分量;然后,结合自校正神经网络和残差增强机制,提出了一种长距离自校正卷积神经网络;该模型采用频域自校正算法以及长距离增强机制来保留特征图原始信息,通过残差增强机制和通道注意力增强机制加强了深层特征与浅层特征间的关联度,且结合多尺度特征融合模块,以进一步提取模型训练中输出层的有效信息,从而提高模型的分类准确率;最后,基于Urbansound8K和ESC-50数据集开展了声学场景分类实验。实验结果表明:梅尔频谱的残差分量能够针对性地减少背景噪音的影响,从而具有更好的分类性能,且LSCNet实现了对特征图中频域信息的关注,其最佳分类准确率分别达到90.1%和88%,验证了该方法的有效性。     

神经网络信息融合技术在控制系统故障诊断中的应用

针对钢管修磨控制系统中存在的常见故障,构造了神经网络信息融合中心。对来自多传感器的残差信号进行了预处理和离散小波变换,提取其细节系数作为神经网络的故障特征向量,使用改进BP算法对神经网络分类器训练以进行相应的故障模式识别。仿真结果表明,基于神经网络的信息融合技术用于控制系统的故障诊断是可行的和有效的。     

基于PCA降维和优化核参数SVM的电能质量扰动分类

首先对采样信号用db4小波进行10层的多分辨分解,提取扰动信号各层能量与标准信号的能量差作为特征向量;然后用PCA对特征向量进行降维,取3维数据作为分类的特征向量,并将训练集采用交叉验证的方法自适应选择最优参数,并构造训练集模型;最后将测试集数据代入训练集模型进行分类测试.测试结果表明,在PCA降维后可以实现扰动的分类:分辨率高;抗噪能力强;适用于电能质量扰动的分类.     

用于图像分类的卷积神经网络中激活函数的设计

为了提高图像分类效果,针对卷积神经网络中常用激活函数relu在x负半轴的导数恒为零,导致训练过程中容易造成神经元“坏死”以及现有组合激活函数relu-softplus在模型收敛情况下学习率过小导致收敛速度慢的问题,提出新的组合激活函数relu-softsign. 分析激活函数在训练过程中的作用,给出激活函数在设计时需要考虑的要点;根据这些要点,将relu和softsign函数于x轴正、负半轴进行分段组合,使其x负半轴导数不再恒为零;分别在MNIST、PI100、CIFAR-100和Caltech256数据集上,与单一的激活函数和relu-softplus组合激活函数进行对比实验. 实验结果表明,使用relu-softsign组合激活函数提高了模型分类准确率,简单有效地缓解了神经元不可逆“坏死”现象;加快了模型的收敛速度,在复杂数据集上该组合函数的收敛性能更好.     

基于多尺度通道重校准的乳腺癌病理图像分类

针对乳腺癌病理图像的自动分类问题,提出基于深度学习的分类算法. 通道重校准模型是作用于特征通道的注意力模型,可以利用学习到的通道权重对无用特征进行抑制来实现对特征通道的重校准,以达到更高的分类准确率. 为了使通道重校准的结果更加准确,提出多尺度通道重校准模型,设计卷积神经网络 msSE-ResNet. 多尺度特征通过网络中的最大池化层获得并作为后续通道重校准模型的输入,将不同尺度下学到的通道权重进行融合,可以改善通道重校准的结果. 该实验在公开数据集BreaKHis上开展. 实验结果表明,该网络对良性/恶性乳腺病理图像分类任务达到88.87%的分类精度,可以对不同放大倍数下获取的病理图像具有较好的鲁棒性.     

基于深度卷积神经网络的睡眠分期模型

针对现阶段数据和特征决定睡眠分期模型的分类精度上限的问题,提出深度卷积神经网络模型. 在模型主体构建方面,并行卷积网络可以自动学习原始信号的时域特征和频域特征,特征融合网络通过空洞卷积和残差连接进行多特征融合,分类网络基于融合后的特征进行睡眠分期. 利用生成少数类过采样技术（SMOTE）减少类别不平衡对分类效果的影响,结合两步训练法对模型进行优化. 实验使用Sleep-EDF数据集的原始单导脑电信号（Fpz-Cz通道）对模型进行20折交叉验证,得到总体精度和宏F₁分别为86.73%和81.70%. 提出的深度卷积模型在没有任何先验知识的情况下,对脑电信号进行端到端的学习,分类准确率优于传统的深度学习模型.     

Deep learning model for micro-motion classification of cone targets

To overcome the shortcomings of traditional micro-motion classification of spatial cone targets, such as manual construction, feature extraction, and lack of generality, intelligence and poor classification performance under strong noise, a new network model combining a convolutional neural network and a bidirectional long short-term memory network is proposed. The network combines the residual network, inception network and bidirectional long short-term memory network into an integrated network. By increasing the depth and width of the network to mine the abstract features of higher dimensions, the classification accuracy of the network can be improved. The reasoning ability of the bidirectional long short-term memory network can improve the fault tolerance of the network, and the advantages of time series classification and the jumping bypass branch structure of the residual network can also reduce parameter redundancy and speed up network training. Simulation results show that the network model not only achieves faster intelligent classification, but also improves the accuracy of ResNet-18 and GoogLeNet models by 5% and 4% respectively, thus verifying the validity and generalization ability of the model.     

基于注意力时序网络的非侵入式负荷分解

非侵入式负荷分解的本质是根据已知的总功率信号分解出单一的负荷设备的功率信号.目前基于深度学习模型大多存在网络模型负荷特征提取不充分、分解精度低、对使用频率较低的负荷设备分解误差大等问题.本文提出一种注意力时序网络模型(Attention Recurrent Neural Network,ARNN)实现非侵入式负荷分解,它将回归网络与分类网络相结合来解决非侵入式负荷分解问题.该模型通过RNN网络实现对序列信号特征的提取,同时利用注意力机制定位输入序列中重要信息的位置,提高神经网络的表征能力.在公开数据集Wiki-Energy以及UK-DALE上进行的对比实验结果表明,本文提出的深度神经网络在所有考虑的实验条件下都是最优的.另外,通过注意力机制和辅助分类网络能够正确检测设备的开启或关闭,并定位高功耗的信号部分,提高了负荷分解的准确性.     

基于BERT的复合网络模型的中文文本分类

针对自然语言在语句结构上有着较强的前后依赖关系,提出一种基于BERT的复合网络模型进行中文新闻分类。首先利用BERT的基于注意力机制的多层双向transformer特征提取器获得字词以及句子之间更加全局的特征关系表达。然后将所得数据输入门结构更加简单的双向门控循环神经网络层将特征增强的同时减少时间代价,加强数据特征的选取精确度。最后将不同权重的文本特征信息输入softmax函数层进行新闻分类。通过在cnews新浪新闻数据集上进行实验,获得97.21%的F1值,结果表明所提特征融合模型较其他模型分类效果更好。     

多尺度SE-Xception服装图像分类

应用当前较新颖且分类性能靠前的卷积神经网络Xception作为基础网络结构,尝试采用多尺度的深度可分离卷积来提升模型特征信息的丰富度,在模型中嵌入SE-Net模块增强有用特征通道,减弱无用特征通道. 实验结果表明：提出的多尺度SE-Xception模型在2种噪声程度不同的服装数据集中均取得不错表现;ACS数据集的平均分类准确率为78.34%,分别高于VGG-16、ResNet-50和Xception模型8.52%、4.81%、3.69%;验证了多尺度SE-Xception模型具有更好的特征提取能力,能够提取到更多的服装信息,从而提高服装图像分类效果,一定程度上解决了特征尺度单一、信息丰富度低的问题.     

一种多尺度嵌套卷积神经网络模型

卷积神经网络模型要求训练图像与测试图像在空间尺度上一致.为弱化这一限制,对卷积层特征提取器进行多尺度改进,提出了一种尺度不变卷积神经网络模型,以自动适应输入图像在平面空间上的尺度变化.同时,将多层Maxout网络嵌入新模型中,以进一步提高特征提取能力,提高图像识别与分类的准确性.实验测试结果表明,该模型提高了传统卷积神经网络模型的尺度不变性和分类精度.