基于主动学习的图像分类技术：现状与未来

图像分类作为计算机视觉领域中的重要研究方向之一，应用领域非常广泛.基于深度学习的图像分类技术取得的成功，依赖大量的已标注数据，然而数据的标注成本往往是昂贵的.主动学习作为一种机器学习方法，旨在以尽可能少的高质量标注数据达到期望的模型性能，缓解监督学习任务中存在的标注成本高、标注信息难以大量获取的问题.主动学习图像分类算法根据样本选择策略，从未标记样本数据集合中选择出信息量丰富，对分类模型训练贡献更高的样本进行标注，以更新已标注训练数据池，如此循环直至满足给定的停止条件或模型标注预算耗尽.本文对近年来提出的主动学习图像分类算法进行了详细综述，并根据所用样本数据处理及模型优化方案，将现有算法分为三类：基于数据增强的算法，包括利用图像增广来扩充训练数据，或者根据图像特征插值后的差异性来选择高质量的训练数据；基于数据分布信息的算法，根据数据分布的特点来优化样本选择策略；优化模型预测的算法，包括优化获取和利用深度模型预测信息的方法、基于生成对抗网络和强化学习来优化预测模型的结构，以及基于Transformer结构提升模型预测性能，以确保模型预测结果的可靠性.此外，本文还对各类主动学习图像分类算法...     

同伦方法在图像稀疏去噪中的应用

本文在深入研究稀疏表示和字典学习理论的基础上,建立了图像去噪模型并提出一种新的图像去噪算法。该算法采用同伦方法学习字典,充分利用了同伦方法收敛速度快以及对信号的恢复准确度高的特点。之后利用 OMP 算法求出带噪图像在该字典下的稀疏表示系数,并结合稀疏去噪模型实现对图像的去噪。实验结果显示本文算法在不同的噪声环境下具有较好的去噪效果,同时在与 K-SVD 算法关于收敛速度比较的实验中,实验结果充分显示了使用同伦算法学习字典在收敛速度上的优势。      

哈希快速多标记学习算法

本文针对多标记学习耗时大、很难处理大规模数据的问题,提出了一种哈希快速多标记学习算法（HFMLL）,该算法将哈希算法与多标记学习算法结合,采用局部敏感哈希算法快速获得每个样本的近邻样本,并通过最小独立置换的MinHash算法快速找到每个标记的相关标记,根据其近邻样本及相关标记的信息,运用最大后验概率准则来预测新样本的标记集。实验表明HFMLL 算法在保持较高分类性能的情况下,算法速度明显优于目前的多标记算法,可以广泛应用于大规模的数据集。      

基于低秩表示的鲁棒判别特征子空间学习模型

特征子空间学习是图像识别及分类任务的关键技术之一,传统的特征子空间学习模型面临两个主要的问题。一方面是如何使样本在投影到特征空间后有效地保持其局部结构和判别性。另一方面是当样本含噪时传统学习模型所发生的失效问题。针对上述两个问题,该文提出一种基于低秩表示(LRR)的判别特征子空间学习模型,该模型的主要贡献包括:通过低秩表示探究样本的局部结构,并利用表示系数作为样本在投影空间的相似性约束,使投影子空间能够更好地保持样本的局部近邻关系;为提高模型的抗噪能力,构造了一种利用低秩重构样本的判别特征学习约束项,同时增强模型的判别性和鲁棒性;设计了一种基于交替优化技术的迭代数值求解方案来保证算法的收敛性。该文在多个视觉数据集上进行分类任务的对比实验,实验结果表明所提算法在分类准确度和鲁棒性方面均优于传统特征学习方法。     

基于Tri-Training算法的中文电子病历实体识别研究

半监督学习是一种结合监督学习与无监督学习的学习方法,通过利用未标记数据,提高标记数据所建立模型的效果,目的是减少传统的机器学习任务中对大量标注数据的需求、降低人工成本.在中文电子病历实体识别领域,由于缺少足够的标注数据,且医学文本专业性较强、人工标注成本高,可以利用半监督学习方法,提升少量标注数据的训练效果.本文介绍了中文电子病历实体识别的研究背景和半监督学习的相关研究,并应用改进后的Tri-Training算法,提升中文电子病历实体识别模型的效果.     

基于增强自适应原型重构模型的小样本图节点分类

现实中存在着许多图结构数据，但是在应用场景中时常面临着标注数据短缺的问题。由于图结构的独特性，传统的小样本学习方法无法直接迁移到非欧几里得空间的图领域。同时，适用于大规模标注数据集的图表示算法发展迅速，但是缺乏对标注数据极端匮乏情况下的处理。因此，将小样本学习算法和图表征算法进行高效融合才能有效解决图有关的小样本问题。基于此，提出了一种图小样本学习模型增强自适应原型重构模型(Enhanced Self-adaptive Prototype Rebuilt, ESPR),通过图网络编码器获得丰富的节点表征，改进了原始原型网络的框架中不可学习的无参数原型提取方式；引入自注意力机制进行自适应的原型学习与重构，实现了噪声抑制，并在4个公开图数据集上进行了实验。结果表明，所提出的模型在准确率和F1值上显著超过了Meta-GNN和GPN等经典模型。     

主动学习半监督聚类入侵检测算法

针对聚类的入侵检测算法误报率高的问题,提出一种主动学习半监督聚类入侵检测算法.在半监督聚类过程中应用主动学习策略,主动查询网络中未标记数据与标记数据的约束关系,利用少量的标记数据生成正确的样本模型来指导大量的未标记数据聚类,对聚类后仍未能标记的数据采用改进的K-近邻法进一步确定未标记数据的类型,实现对新攻击类型的检测.实验结果表明了算法的可行性及有效性.     

基于深度卷积神经网络的低剂量CT肺部去噪

为了降低低剂量CT肺部噪声对肺癌筛查后期诊断的影响,该文提出一种基于深度卷积神经网络的低剂量CT肺部去噪算法。以完整的CT肺部图像作为输入,池化层对输入图像进行降维处理;批规范化解决随着网络深度的增加性能降低的问题;引入残差学习,学习模型中每一层的残差,最后输出去噪图像。与经典去噪算法实验结果对比,所提方法在解决去噪方面达到了很好的滤波效果,同时也较好地保留了肺部图像的细节信息,大大优于传统的去噪算法。     

面向复杂网络的异构网络表示学习综述

异构信息网络包含丰富的节点信息和链接信息,具有复杂异质性、高稀疏性、属性高维性等特性,这些特性给网络表示学习任务带来了巨大的挑战。异构网络表示学习通过在嵌入过程中将多样化的异质信息和结构信息进行有效融合,学习得到更有利于下游机器学习任务的低维特征向量。从异构网络表示学习方法的研究粒度出发,对近年的研究现状进行了比较全面的分析和讨论。首先探讨网络表示学习的产生动机,阐述了近年的异构网络表示学习的研究历程;然后对具有代表性的算法模型进行分类讨论,归纳其主要的研究内容和所使用的嵌入技巧。最后给出了未来工作中异构网络表示学习可能的研究方向和比较有价值的研究内容。     

基于深度学习的低照度图像增强方法

在低照度环境下采集的图像往往亮度不足,导致在后续视觉任务中难以有效利用。针对这一问题,过去的低照度图像增强方法大多在极度低光场景中表现失败,甚至放大了图像中的底层噪声。为了解决这一难题,本文提出了一种新的基于深度学习的端到端神经网络,该网络主要通过空间和通道双重注意力机制来抑制色差和噪声,其中空间注意力模块利用图像的非局部相关性进行去噪,通道注意力模块用来引导网络细化冗余的色彩特征。实验结果表明,与其他主流算法相比,本文方法在主观视觉和客观评价指标上均得到了进一步提高。     

Kernel dictionary learning based discriminant analysis

Sparse representation based classification (SRC) has been successfully applied in many applications. But how to determine appropriate features that can best work with SRC remains an open question. Dictionary learning (DL) has played an import role in the success of sparse representation, while SRC treats the entire training set as a structured dictionary. In addition, as a linear algorithm, SRC cannot handle the data with highly nonlinear distribution. Motivated by these concerns, in this paper, we propose a novel feature learning method (termed kernel dictionary learning based discriminant analysis, KDL-DA). The proposed algorithm aims at learning a projection matrix and a kernel dictionary simultaneously such that in the reduced space the sparse representation of the data can be easily obtained, and the reconstruction residual can be further reduced. Thus, KDL-DA can achieve better performances in the projected space. Extensive experimental results show that our method outperforms many state-of-the-art methods.     

基于深度学习的酒标分割研究

红酒图像中的酒标区域含有重要的红酒品类信息,而对酒标区域的定位与分割可以有效去除背景区域对图像匹配算法的干扰。传统图像分割算法大多基于局部图像特征和人工设计规则,对噪声较为敏感,并且难以应对大规模数据的处理。针对传统算法的不足,本文首先构造了一个大规模酒标分割数据集,然后提出了一种基于深度学习的酒标分割方法。我们构造了一个基于残差网络的语义分割模型,并且在模型中加入跨层连接,实现低层特征和高层特征的有效融合,使得分割的边缘细节更加清晰和准确。另外,我们采用了带孔卷积金字塔池化结构整合多尺度信息,在增大模型感受野的同时使得模型适应不同尺度的酒标区域。在我们构造的酒标数据集上的实验结果表明,本文提出的酒标分割网络能够进行实时的酒标图像分割,并且达到了相当高的分割准确率。      

SVM及其鲁棒性研究

多数人脸识别方法是利用大量正确标记的训练样本来学习精度足够高的识别模型。收集人脸图像并对其进行正确的标记会耗费大量的人力、物力,为了给已有的图像进行标注,研究者进行了大量的工作,但由于多种原因,标记的图像不一定全部正确,称这种标记错误为类别噪声。文中针对含类别噪声的人脸识别问题,指出SVM适用于这类问题,并通过分析位于不同位置的样本对分类的影响从理论上解释了SVM对噪声具有鲁棒性的原因。在SVM基础上,删除一定比例的被判定为噪声的样本后,鲁棒性能有所提高。PubFig数据集上的量实验验证了SVM及改进算法在含类别噪声学习中的有效性。     

A novel semi-supervised canonical correlation analysis and extensions for multi-view dimensionality reduction

Canonical correlation analysis (CCA) is an efficient method for dimensionality reduction on two-view data. However, as an unsupervised learning method, CCA cannot utilize partly given label information in multi-view semi-supervised scenarios. In this paper, we propose a novel two-view semi-supervised learning method, called semi-supervised canonical correlation analysis based on label propagation (LPbSCCA). LPbSCCA incorporates a new sparse representation based label propagation algorithm to infer label information for unlabeled data. Specifically, it firstly constructs dictionaries consisting of all labeled samples; and then obtains reconstruction coefficients of unlabeled samples using sparse representation technique; at last, by combining given labels of labeled samples, estimates label information for unlabeled ones. After that, it constructs soft label matrices of all samples and probabilistic within-class scatter matrices in each view. Finally, in order to enhance discriminative power of features, it is formulated to maximize the correlations between samples of the same class from cross views, while minimizing within-class variations in the low-dimensional feature space of each view simultaneously. Furthermore, we also extend a general model called LPbSMCCA to handle data from multiple (more than two) views. Extensive experimental results from several well-known datasets demonstrate that the proposed methods can achieve better recognition performances and robustness than existing related methods.     

一种基于伪标签的半监督少样本学习模型

如何将带有大量标记数据的源域知识模型迁移至带有少量标记数据的目标域是少样本学习研究领域的热点问题.针对现有的少样本学习算法在源域数据与目标域数据的特征分布差异较大时存在的泛化能力较弱的问题,提出一种基于伪标签的半监督少样本学习模型FSLSS（Few-Shot Learning based on Semi-Supervised）.首先,利用pytorch深度学习框架建立一个关系型深度学习网络,并使用源域数据对网络进行预训练;然后,使用此网络对目标域数据进行分类预测,将分类概率最大的类标签作为数据的伪标签;最后,利用目标域的伪标签数据和源域的真实标签数据对网络进行混合训练,并重复伪标签标记与混合训练过程.实验结果表明,相对于现有主流少样本学习算法,FSLSS模型有更好的泛化能力及知识迁移效果.     

Modeling and Stimulating Node Cooperation in Wireless Ad Hoc Networks

In wireless networks, cooperation is necessary for many protocols, such as routing, clock synchronization, and security. It is known that cooperator nodes suffer greatly from problems such as increasing energy consumption. Therefore, rational nodes have no incentive to cooperatively forward traffic for others. A rational node is different from a malicious node. It is a node that makes the best decision in each state (cooperate or non‐cooperate). In this paper, game theory is used to analyze the cooperation between nodes. An evolutionary game has been investigated using two nodes, and their strategies have been compared to find the best one. Subsequently, two approaches, one based on a genetic algorithm (GA) and the other on learning automata (LA), are presented to incite nodes for cooperating in a noisy environment. As you will see later, the GA strategy is able to disable the effect of noise by using a big enough chromosome; however, it cannot persuade nodes to cooperate in a noise‐free environment. Unlike the GA strategy, the LA strategy shows good results in a noise‐free environment because it has good agreement in cooperation‐based strategies in both types of environment (noise‐free and noisy).     

代价敏感的半监督Laplacian支持向量机

代价敏感学习是机器学习领域的一个研究热点.在实际应用中,数据集往往是不平衡的,存在着大量的无标签样本,只有少量的有标签样本,并且存在噪声.虽然针对该情况的代价敏感学习方法的研究已取得了一定的进展,但还需要进一步的深入研究.为此,本文提出了一种基于代价敏感的半监督Laplacian支持向量机.该模型在采用无标签扩展策略的基础上,将考虑了数据不平衡的错分代价融入到Laplacian支持向量机的经验损失和Laplacian正则化项中.考虑到噪声样本对决策平面的影响,本文定义了一种样本依赖的代价,对噪声样本赋予较低的权重.在7个UCI数据集和8个NASA软件数据集上的实验结果表明了本文算法的有效性.     

一种利用机器学习优化MIMO窃听信道天线选择的方法

为保障多输入多输出窃听信道系统中信息传输的保密性,提出了一种基于机器学习的天线选择方案。首先利用机器学习解决分类问题准确率高、处理大数据高效这一优势,设计了基于奇异值分解的特征值提取、基于信干噪比的标签赋值方案,建立了k最近邻分类器和逻辑回归分类器选择最优天线最大化保密性能(可达保密速率和保密中断概率)。与传统天线选择方案相比,所提方案获得了几乎一致的保密性能,并且大幅降低了系统的选择复杂度和误比特率。     

一种基于可信度估计单元的图像分类噪声抑制深度学习策略

近年来，深度学习越来越关注噪声抑制的研究.本文提出了一种噪声抑制深度学习策略，该策略通过构建噪声无感网络（Noise Unaware Network，NUN）和可信度估计单元（Reliability Estimation Gate，REG）来处理训练数据含有噪声的情况.通过对每个样本的可信度进行评估，调节其在训练时的权重，从而降低标签噪声对网络训练的影响.随着模型的迭代更新，标签可信数据的权重将会逐渐变大，而噪声数据的权重将会被抑制.本文通过在多个标注数据集上的实验验证了所提出的噪声抑制深度学习策略的有效性.     

一种基于全局和局部标记相关性的多标记分类算法

多标记学习用于处理一个示例同时与多个类别标记相关的问题.在多标记学习中,标记相关性能够显著提升学习算法的性能.大多数现有的多标记学习算法在利用标记的相关性时,要么只使用被所有示例所共享的全局标记相关性,要么就使用局部标记相关性,它们认为不同簇中的示例应该存在不同的标记相关性.本文中,我们提出了一种同时利用全局和局部标记相关性的多标记学习算法,从而为学习进程提供更全面的标记信息.在计算全局和局部标记相关性时,我们使用了余弦相似性来获取不同标记之间的正相关性和负相关性,这样有助于我们进一步实现更可靠的多标记学习.我们在多种类型的数据集上进行了广泛的对比实验来验证所提算法的有效性.实验结果表明,该算法显著优于大多数对比算法,展现出其在多标记学习中的突出性能.