Fully fuzzy supervised classification of land cover from remotely sensed imagery with an artificial neural network

Mixed pixels are a major problem in mapping land cover from remotely sensed imagery. Unfortunately, such imagery may be dominated by mixed pixels, and the conventional hard image classification techniques used in mapping applications are unable to appropriately represent the land cover of mixed pixels. Fuzzy classification techniques can, however, accommodate the partial and multiple class membership of mixed pixels, and be used to derive an appropriate land cover representation. This is, however, only a partial solution to the mixed pixel problem in supervised image classification. It must be reognised that the land cover on the ground is fuzzy, at the scale of the pixel, and so it is inappropriate to use procedures designed for hard data in the training and testing stages of the classification. Here an approach for land cover classification in which fuzziness is accommodated in all three stages of a supervised classification is presented. Attention focuses on the classification of airborne thematic mapper data with an artificial neural network. Mixed pixels could be accommodated in training the artificial neural network, since the desired output for each training pixel can be specified. A fuzzy land cover representation was derived by outputting the activation level of the network's output units. The activation level of each output unit was significantly correlated with the proportion of the area represented by a pixel which was covered with the class associated with the unit (r>0.88, significant at the 99% level of confidence). Finally, the distance between the fuzzy land cover classification derived from the artificial neural network and the fuzzy ground data was used to illustrate the accuracy of the land cover representation derived. The dangers of hardening the classification output and ground data sets to enable a conventional assessment of classification accuracy are also illustrated; the hardened data sets were over three times more distant from each other than the fuzzy data sets.     

高分辨卫星图像卷积神经网络分类模型

目的 卫星图像往往目标、背景复杂而且带有噪声,因此使用人工选取的特征进行卫星图像的分类就变得十分困难。提出一种新的使用卷积神经网络进行卫星图像分类的方案。使用卷积神经网络可以提取卫星图像的高层特征,进而提高卫星图像分类的识别率。方法 首先,提出一个包含六类图像的新的卫星图像数据集来解决卷积神经网络的有标签训练样本不足的问题。其次,使用了一种直接训练卷积神经网络模型和3种预训练卷积神经网络模型来进行卫星图像分类。直接训练模型直接在文章提出的数据集上进行训练,预训练模型先在ILSVRC（the ImageNet large scale visual recognition challenge）-2012数据集上进行预训练,然后在提出的卫星图像数据集上进行微调训练。完成微调的模型用于卫星图像分类。结果 提出的微调预训练卷积神经网络深层模型具有最高的分类正确率。在提出的数据集上,深层卷积神经网络模型达到了99.50%的识别率。在数据集UC Merced Land Use上,深层卷积神经网络模型达到了96.44%的识别率。结论 本文提出的数据集具有一般性和代表性,使用的深层卷积神经网络模型具有很强的特征提取能力和分类能力,且是一种端到端的分类模型,不需要堆叠其他模型或分类器。在高分辨卫星图像的分类上,本文模型和对比模型相比取得了更有说服力的结果。     

Modified differential evolution based fuzzy clustering for pixel classification in remote sensing imagery

The problem of classifying an image into different homogeneous regions is viewed as the task of clustering the pixels in the intensity space. In particular, satellite images contain landcover types some of which cover significantly large areas, while some (e.g., bridges and roads) occupy relatively much smaller regions. Detecting regions or clusters of such widely varying sizes presents a challenging task. A modified differential evolution based fuzzy clustering technique, is proposed in this article. Real-coded encoding of the cluster centres is used for this purpose. Results demonstrating the effectiveness of the proposed technique are provided for several synthetic and real life data sets as well as for some benchmark functions. Different landcover regions in remote sensing imagery have also been classified using the proposed technique to establish its efficiency. Statistical significance tests have been performed to establish the superiority of the proposed algorithm.     

基于粒子群优化的深度神经网络分类算法

针对神经网络分类算法中节点函数不可导,分类精度不够高等问题,提出了一种基于粒子群优化(PSO)算法的深度神经网络分类算法.使用深度学习中的自动编码机,结合PSO算法优化权值,利用自动编码机对输入样本数据进行编解码,为提高网络分类精度,以编码机本身的误差函数和Softmax分类器的代价函数加权求和共同作为PSO算法的评价函数,使编码后的数据更加适应分类器.实验结果证明:与其他传统的神经网络相比,在邮件分类问题上,此分类算法有更高的分类精度.     

改进卷积神经网络在遥感图像分类中的应用

针对传统卷积神经网络（CNN）稀疏网络结构无法保留全连接网络密集计算的高效性和实验过程中激活函数的经验性选择造成结果不准确或计算量大的问题,提出一种改进卷积神经网络方法对遥感图像进行分类。首先,利用Inception模块的不同尺度卷积核提取图像多尺度特征,然后利用Maxout模型学习隐藏层节点的激活函数,最后通过Softmax方法对图像进行分类。在美国土地使用分类数据集（UCM_LandUse_21）上进行的实验结果表明,在卷积层数相同的情况下,所提方法比传统的CNN方法分类精度提高了约3.66%,比同样也基于多尺度深度卷积神经网络（MS_DCNN）方法分类精度提高了2.11%,比基于低层特征和中层特征的视觉词典等方法分类精度更是提高了10%以上。因此,所提方法具有较高的分类效率,适用于图像分类。     

基于时频域的卷积神经网络运动想象脑电信号识别方法

针对目前运动想象脑电（EEG）信号识别率较低的问题，考虑到脑电信号蕴含着丰富的时频信息，提出一种基于时频域的卷积神经网络（CNN）运动想象脑电信号识别方法。首先，利用短时傅里叶变换（STFT）对脑电信号的相关频带进行预处理，并将多个电极的时频图组合构造出一种二维时频图；然后，针对二维时频图的时频特性，通过一维卷积的方法设计了一种新颖的CNN结构；最后，通过支持向量机（SVM）对CNN提取的特征进行分类。基于BCI数据集的实验结果表明，所提方法的平均识别率为86.5%，优于其他传统运动想象脑电信号识别方法；同时将该方法应用在智能轮椅上，验证了其有效性。     

基于一维卷积混合神经网络的文本情感分类

针对情感分类中传统二维卷积模型对特征语义信息的损耗以及时序特征表达能力匮乏的问题，提出了一种基于一维卷积神经网络（CNN）和循环神经网络（RNN）的混合模型。首先，使用一维卷积替换二维卷积以保留更丰富的局部语义特征；再由池化层降维后进入循环神经网络层，整合特征之间的时序关系；最后，经过softmax层实现情感分类。在多个标准英文数据集上的实验结果表明，所提模型在SST和MR数据集上的分类准确率与传统统计方法和端到端深度学习方法相比有1至3个百分点的提升，而对网络各组成部分的分析验证了一维卷积和循环神经网络的引入有助于提升分类准确率。     

卷积神经网络和深度置信网络在SAR影像冰水分类的性能评估

目的 海冰分类是海冰监测的主要任务之一。目前基于合成孔径雷达SAR影像的海冰分类方法分为两类：一类是基于海冰物理特性与SAR成像特征等进行分类,这需要一定的专业背景;另一类基于传统的图像特征分类,需要人为设计特征,受限于先验知识。近年来深度学习在图像分类和目标识别方面取得了巨大的成功,为了提高海冰分类精度及海冰分类速度,本文尝试将卷积神经网络（CNN）和深度置信网络（DBN）用于海冰的冰水分类,评估不同类型深度学习模型在SAR影像海冰分类方面的性能及其影响因素。方法 首先根据加拿大海冰服务局（CIS）的冰蛋图构建海冰的冰水数据集;然后设计卷积神经网络和深度置信网络的网络架构;最后评估两种模型在不同训练样本尺寸、不同数据集大小和网络层数、不同冰水比例的测试影像以及不同中值滤波窗口的分类性能。结果 两种模型的总体分类准确率达到93%以上,Kappa系数0.8以上,根据分类结果得到的海冰区域密集度与CIS的冰蛋图海冰密集度数据一致。海冰的训练样本尺寸对分类结果影响显著,而训练集大小以及网络层数的影响较小。在本文的实验条件下,CNN和DBN网络的最佳分类样本尺寸分别是16×16像素和32×32像素。结论 利用CNN和DBN模型对SAR影像海冰冰水分类,并进行性能分析。发现深度学习模型用于SAR影像海冰分类具有潜力,与现有的海冰解译图的制作流程和信息量相比,基于深度学习模型的SAR影像海冰分类可以提供更加详细的海冰地理分布信息,并且减小时间和资源成本。     

面向运动想象脑电图识别的镜卷积神经网络

目的 脑电图（electroencephalogram,EEG）是一种灵活、无创、非侵入式的大脑监测方法,广泛应用于运动想象脑机接口系统中,运动想象脑电图识别精度是决定系统性能的关键因素。然而由于脑电图采集时间长、个体差异大等原因,导致单个受试者可用于模型训练的样本数量少,严重影响了卷积神经网络在脑电图识别任务中的表现。为此,本文提出一种镜卷积神经网络（mirror convolutional neural network,MCNN）模型,使用集成学习与数据扩增方法提高运动想象脑电图识别精度。方法 在训练阶段,基于源脑电通过互换左右侧脑电通道构造镜像脑电,并与源脑电一起用于源卷积网络训练,有效扩增了训练样本;在预测阶段,复制已训练源卷积网络作为镜像卷积网络,将测试集中的源脑电输入源卷积网络,构造的镜像脑电输入镜像卷积网络,集成源卷积网络与镜像卷积网络输出的类别预测概率,形成最终类别预测。结果 为了验证模型的有效性和通用性,基于3种不同运动想象脑电图识别卷积网络模型分别构造镜卷积网络,并在第4届脑机接口大赛2a与2b数据集上进行实验验证。实验结果与原始模型相比,运动想象四分类和二分类准确率分别平均提高了4.83%和4.61%,显著提高了识别精度。结论 本文面向运动想象脑电图识别,提出了镜卷积神经网络模型,通过集成学习与数据扩增方法提高运动想象识别精度,有效改善了运动想象脑机接口性能。     

PSO优化BP神经网络的混沌时间序列预测

针对于BP神经网络预测模型,收敛速度慢,精度较低,容易陷入局部极小值等缺点,提出了一种改进粒子群优化BP神经网络预测模型的算法。在该算法中,粒子群采用改进自适应惯性权重和改进自适应加速因子优化BP神经网络预测模型的初始权值和阈值,然后训练BP神经网络预测模型并预测。将该算法应用到几个典型的混沌时间序列预测。实验结果表明,该算法明显提高BP神经网络预测模型的收敛速度和预测模型的精度,减少陷入局部极小的可能。     

一类0/1优化问题融合神经网络的粒子群算法

将局部寻优能力极强的人工Hopfield神经网络算法融合到粒子群优化算法的搜索过程中,提出解决一类0/1优化问题融合神经网络的混合粒子群优化算法。在该算法中依粒子群当前全局最优个体为初始态激活神经网络,生成一个局部最优态,用这个局部最优态代替粒子群当前全局最优个体,增强了算法的局部寻优能力,通过数值试验证明该算法是有效的。     

基于模糊角分类的神经网络用户兴趣模型分类算法

用户兴趣描述文件的快速分类是个性化搜索引擎的关键技术,提出了一种模糊角分类神经网络模型,该模型能接受用户兴趣描述文件的实向量输入,克服了角分类神经网络（CC4）对二进制输入的要求。模糊角分类神经网络模型根据用户信息所落入的k最近邻的样本泛化空间来进行分类,随着k值的增大,其分类效果趋近于贝叶斯分类算法。     

用于肺炎图像分类的优化卷积神经网络方法

目前,卷积神经网络（CNN）开始应用在肺炎分类领域。针对层数较浅、结构较为简单的卷积网络对肺炎识别的准确率难以提高的情况,采用深度学习方法,并针对采用深度学习方法时常常需要消耗大量的系统资源,导致卷积网络难以在用户端部署的问题,提出一种使用优化的卷积神经网络的分类方法。首先,根据肺炎图像的特征,选择具有良好图像分类性能的AlexNet与InceptionV3模型;然后,利用医学影像特点对层次更深、结构更加复杂的InceptionV3模型进行预训练;最后,通过知识蒸馏的方法,将训练好的"知识"（有效信息）提取到AlexNet模型中,从而实现在减少系统资源占用的同时,提高准确率的效果。实验数据表明,使用知识蒸馏后,AlexNet模型的准确率、特异性与灵敏度分别提高了4.1、7.45、1.97个百分点,且对图像处理器（GPU）占用相比InceptionV3模型减小了51个百分点。     

基于图编码网络的社交网络节点分类方法

针对如何融合节点自身属性以及网络结构信息实现社交网络节点分类的问题,提出了一种基于图编码网络的社交网络节点分类算法。首先,每个节点向邻域节点传播其携带的信息;其次,每个节点通过神经网络挖掘其与邻域节点之间可能隐含的关系,并且将这些关系进行融合;最后,每个节点根据自身信息以及与邻域节点关系的信息提取更高层次的特征,作为节点的表示,并且根据该表示对节点进行分类。在微博数据集上,与经典的深度随机游走模型、逻辑回归算法有以及最近提出的图卷积网络算法相比,所提算法分类准确率均有大于8%的提升;在DBLP数据集上,与多层感知器相比分类准确率提升4.83%,与图卷积网络相比分类准确率提升0.91%。     

基于改进的QPSO训练BP网络的网络流量预测*

为了提高网络流量预测的精度,采用一种改进的QPSO算法训练BP神经网络对网络流量数据的时间序列进行建模预测。针对标准的QPSO算法不可避免地出现早熟的不足,提出一种新的基于参数自适应的QPSO算法,较好地避免了粒子群的早熟,提高了算法的全局收敛性能。仿真实验结果表明,与PSO训练的BP网络、QPSO训练的BP网络作为预测模型相比,该模型具有更高的预测精度及很好的稳定性。     

基于卷积神经网络的图像分类算法综述

卷积神经网络（CNN）是目前基于深度学习的计算机视觉领域中重要的研究方向之一。它在图像分类和分割、目标检测等的应用中表现出色,其强大的特征学习与特征表达能力越来越受到研究者的推崇。然而,CNN仍存在特征提取不完整、样本训练过拟合等问题。针对这些问题,介绍了CNN的发展、CNN经典的网络模型及其组件,并提供了解决上述问题的方法。通过对CNN模型在图像分类中研究现状的综述,为CNN的进一步发展及研究方向提供了建议。     

基于多特征和深度神经网络的维吾尔文情感分类

针对传统机器学习的情感分类方法存在长距离依赖问题、深度学习存在忽略情感词库的弊端,提出了一种基于注意力机制与双向长短记忆网络和卷积神经网络模型相结合的维吾尔文情感分类方法。将多特征拼接向量作为双向长短记忆网络的输入捕获文本上下文信息,使用注意力机制和卷积网络获取文本隐藏情感特征信息,有效增强了对文本情感语义的捕获能力。实验结果表明,该方法在二分类和五分类情感数据集上的◢F◣▼1▽值相比于机器学习方法分别提高了5.59%和7.73%。     

改进PSO优化神经网络算法的人体姿态识别

为了提高人体姿态的识别精度,提出一种基于改进的粒子群优化(PSO)神经网络的人体姿态识别算法.采用加速度传感器获取加速度信息,并在常用特征集的基础上,加入离散系数和曲线积分两种新特征作为神经网络的输入;在利用PSO神经网络参数的同时,通过控制概率,自适应地对粒子进行遗传操作,增强粒子跳出局部极小值的能力;采用训练后的神经网络对6种人体姿态进行识别.实验结果表明:该算法收敛速度和全局寻优能力得到了提高,与其他经典算法相比识别精度更高.     

Training pattern replication and weighted class allocation in artificial neural network classification

In some image classifications the importance of classes varies, and it is desirable to weight allocation to selected classes. Often the desire is to weight allocation in favour of classes that are abundant in the area represented by an image at the expense of the less abundant classes. If there is prior knowledge on the distribution of class occurrence, this weighting can be achieved with widely used statistical classifiers by setting appropriate a prioriprobabilities of class membership. With an artificial neural network, the incorporation of prior knowledge is more problematic. An approach to weight class allocation in an artificial neural network classification by replicating selected training patterns is presented. This investigation focuses on a series of classifications in which some classes were more abundant than others, but the same number of training cases were available for each class. By replicating the training patterns of abundant classes the representation of the abundant classes in the training set is increased, reflecting more closely the relative abundance of the classes in an image. Significant increases in classification accuracy were obtained by replicating the training patterns of abundant classes. Furthermore, in comparison against a discriminant analysis for the classification of synthetic aperture radar imagery, the results showed that training pattern replication could be used to weight class allocation with an effect similar to that of incorporating a prioriprobabilities of class membership into the discriminant analysis, and resulted in a significant 20.88%, increase in classification accuracy. This increase in classification accuracy was obtained without any new information, but was the result of making fuller use of what was available.     

基于自组织增量神经网络的码书产生方法在图像分类中的应用

针对基于码书模型的图像分类方法忽略图像的拓扑信息及增量学习导致分类精度有限的问题,提出了基于自组织增量神经网络(SOINN)的码书产生方法。首先回顾了常见的码书编码方式;其次改进了基本的码书模型,利用SOINN自动产生聚类数目和保留数据拓扑结构的两项能力,寻找更有效的单词和设计更有效的编码方式,产生更合适的码书。实验结果显示在不同样本数和不同规模码书下分类精确度相对同类算法有最高将近1%的提升。该结果表明基于SOINN的码书产生方法显著提高了图像分类算法的精度,该方法还可以更高效、更准确地运用于各种图像分类任务。