基于批归一化统计量的无源多领域自适应方法

为解决传统的领域自适应方法训练期间源域数据并不总是可用这一问题,提出一种无源多领域自适应方法,有效完成当存在领域漂移现象时的图像分类任务。通过最小化源域和目标域数据的批归一化统计量距离减小域之间的分布差异,解决因无法访问源域数据而无法显式对齐源域与目标域的问题;采用基于近邻聚合策略的伪标签分类器辅助生成更加准确的伪标签,提高模型预测的准确性;通过学习最优的融合权重,将多个自适应后的源域模型进行有效融合。构建基于批归一化统计量的无源多领域自适应模型。性能对比试验和消融试验结果表明,与多个基线模型相比,本研究方法预测准确性提高0.6%～3.7%。     

面向特征生成的无监督域适应算法

针对无标签高维图像分类问题,常用的深度网络在无标签的情况下难以产生好的分类结果。为此,提出一种面向特征生成的无监督域适应模型(Feature-GAN),它以一种无监督的方式在特征层面学习从一个域到另一个域转换,将源域图像特征映射为目标域图像特征并保持标签信息,生成的带标签特征可用于目标域特征的分类训练。该模型在复杂图像域适应上避免了图像本身的生成过程,而专注于特征生成,易训练且稳定性高。实验表明,该方法可以广泛应用于复杂图像分类的场景,相比于传统基于样本生成的无监督域适应算法,该算法在精确度、收敛速度以及稳定性上均有提高。     

语义网自适应学习系统中领域本体的构建

为了学习者适应学习系统,创建相关学科的领域本体,发挥语义网的作用。根据学生的个性特征和学习进程动态地呈现教学内容,更好地满足学习者的需要,提出了基于语义网构建的自适应学习系统,为人们的学习提供了非常有效的支持。在描述自适应学习系统、语义网和本体相关知识的基础上,以一门课程为例进行了领域本体创建的实践,为自适应学习的实现奠定了基础。     

基于对比学习的双分类器无监督域适配模型

针对深度域适配问题中冗余信息导致模型性能不佳的问题, 提出基于对比学习的双分类器域适配模型. 该模型基于双分类器对抗理论, 首先, 将输入数据增强2次以获得2个视角的特征, 通过将不同视角的特征输入不同的分类器提高分类器的多样性; 其次, 将双分类器方法和对比学习思想结合, 使模型能够捕获数据的高层语义表征, 减少不同类特征的混淆程度; 最后, 通过设立标签分布对齐正则项引导边界样本正确分类. 实验结果表明, 双分类器间的对比损失能提取数据中的有效信息, 从而提升模型性能.

     

金字塔原型对齐的轻量级小样本语义分割网络

小样本图像语义分割任务是计算机视觉领域一个有挑战性的问题,其目标是利用现有一张或几张带有密集分割注释的图片来预测未见类图像的分割掩码.针对该任务,提出了一个基于金字塔原型对齐的轻量级小样本图像语义分割网络.首先,该网络在MobileNetV2网络的深度可分离卷积和逆残差结构基础上,通过金字塔池化模块进行提取特征,保持高维度和低维度的信息,获得不同尺度的特征.同时通过在支持集原型和查询集之间进行相互对齐,使得网络能够从支持集中学到更多的信息,充分利用支持集的信息进行反馈.基于PASCAL-5i数据集的大量实验结果表明,提出的网络结构的均值在1-way 1-shot和1-way 5-shot上分别为49.5％和56.6％,与先进的主流小样本语义分割网络PANet相比分别对应提高了1.4％和0.9％,网络参数量为3.0 MB,相比PANet减小了11.7 MB,同时浮点计算量显著减少,证明了该网络在小样本图像语义分割中的有效性和高效性.     

面向轴承智能诊断的多领域深度对抗迁移网络

针对不同工况下轴承监测数据分布差异性导致的诊断精度下降问题,基于深度学习与迁移学习,提出一种多领域深度对抗迁移网络,用于变工况下轴承的智能诊断。将不同工况下的样本集视作属于不同的领域,在特征提取时利用深度残差网络将轴承源域的训练数据与目标域的测试数据映射到高维特征空间,提取监测数据高层抽象的特征表示;设计多领域对抗模块,以支持多故障模式的轴承样本在不同领域对抗模块上进行对抗迁移训练,保障源域与目标域数据在特征空间中的分布有效对齐;在利用源域数据训练故障分类器时引入标签平滑约束,增强故障识别的泛化能力,将源域故障诊断知识迁移到目标域数据的故障信息识别,实现变工况下的轴承智能诊断。利用变工况下的齿轮箱轴承故障数据集与电机轴承数据集对提出方法进行验证,结果表明：相比其他方法,提出的新方法考虑了轴承监测数据的多故障模式结构,更好地提取了领域不变特征,提升了变工况下轴承故障的识别精度。     

基于自适应多分辨率特征学习的CNV分型网络

为解决不同脉络膜新生血管(choroidal neovascularization, CNV)类型间较小区分性带来的分型难度和光学相干断层扫描(optical coherence tomography, OCT)图像中噪声对分型精度的影响,提出自适应多分辨率特征学习的CNV分型方法,其包含多分辨率特征学习和自适应特征选择模块。在多分辨率特征学习模块中,融合具有不同类型CNV细节信息的底层特征和具有语义信息的高层特征,同时引入渐进式的训练方式增强特征表示能力。在自适应特征选择模块中,通过引入注意力机制,对最后分型起关键作用的特征进行增强,进一步提升特征的区分性。在自建的CNV数据集上进行试验,试验结果表明,评价指标上的测试评分分别为91.3%、86.6%、89.2%和90.6%。提出的自适应多分辨率特征学习的CNV分型方法优于现有的其他分类方法。     

深度监督对齐的零样本图像分类方法

针对零样本图像分类中属性向量的类别区分性差及对可见类别产生分类偏好的问题,提出一种深度监督对齐的零样本图像分类（DSAN）方法. DSAN构造类语义的全局监督标记,与专家标注的属性向量联合使用以增强类语义间的区分性.为了对齐视觉空间和语义空间的流形结构,采用视觉特征和语义特征分类网络分别学习2种空间特征的类别分布,并且无差异地对齐两者的分布.利用生成对抗网络的原理消除特征间的本质差异,以按位加的方式合并视觉特征和类语义特征,并利用关系网络学习两者间的非线性相似度.实验结果表明,DSAN在CUB、AWA1和AWA2数据集上对可见类别和未见类别的调和平均分类准确率比基线模型分别提高了4.3%、19.5%和21.9%;在SUN和APY数据集上,DSAN方法的调和平均分类准确率分别比CRnet方法高1.4%和2.2%,这些结果证明所提方法的有效性.     

融合领域相关度与上下文信息的无监督窄域实体识别方法

针对细分领域实体识别所面临的实体规模受限、语料样本相对缺乏的挑战,提出了一种融合领域相关度与上下文信息的、无监督的窄域实体识别方法.首先,融合词频及上下文信息,设计了术语-语料库相关性假设,并利用对数似然比计算假设的可能性,获得候选实体的领域区分度;在此基础上,基于候选实体的中心词在语料库中的相对领域占比,构建领域依存度函数,识别候选实体的领域倾向性;最后,绑定领域区分度和领域依存度,计算候选实体的领域相关度,选择领域相关度大于阈值的候选实体作为被识别的窄域实体.实验结果表明:该方法在减少识别过程人工干预的同时能有效提升窄域实体识别的准确率.     

小样本下基于深度学习的声呐图像分类研究

水下环境复杂多样,使得声呐成像模糊难以人工提取特征,同时声呐图像不易获取,数量远少于光学图像,导致了小样本情况下声呐图像分类网络的训练过拟合现象明显,识别准确率低。基于所建立的声呐图像数据集进行预处理后,提出一种改进的带有类别偏好的标签平滑正则化方法,对训练数据的标签进行优化,减轻网络的自信程度,并基于迁移学习中微调的方法利用光学图像对网络参数进行预训练和冻结,融合以上方法构建了一种小样本下的分类网络模型。仿真实验结果表明,优化后的网络模型取得了最佳分类识别准确率,有效抑制了过拟合现象,能够在小样本下实现精确分类声呐图像。     

基于知识蒸馏的自适应多领域情感分析

提出一种自适应多领域知识蒸馏框架,有效地加速推理和减小模型参数同时确保模型性能,采用知识蒸馏方法对情感分析问题进行研究。针对每个特定领域进行知识蒸馏,模型蒸馏涉及词嵌入层蒸馏、编码层蒸馏(注意力蒸馏、隐藏状态蒸馏)、输出预测层蒸馏等多个方面;针对不同领域,学生模型保持相同的编码器,即共享权重,通过不同的领域特定输出层拟合不同的教师模型。在多个公开数据集上的试验结果表明,单领域知识蒸馏使得模型准确度平均提升2.39%,多领域知识蒸馏使得模型准确度平均提升0.5%。与单领域的知识蒸馏相比,该框架增强了学生模型的泛化能力,提升了性能。     

基于特征映射的半监督文本分类算法

针对已标记数据与未标记数据分布不一致可能导致半监督分类器性能降低的不足,提出了一种基于特征映射的半监督文本分类算法.首先通过不同的特征选择方法,分别在训练集的已标记数据、未标记数据以及测试集数据中选取各自的特征集,并初始化特征的权值;在此基础之上,分别建立已标记数据与未标记数据、已标记数据与测试集数据、未标记数据与测试集数据之间的映射函数,并利用这3个特征映射函数重新计算特征的权重;最后利用期望最大比(expectation maximization,EM)算法进行半监督文本分类.在标准数据集上的实验结果表明:提出的算法是有效的.     

基于最优传输特征选择的医学图像分割迁移学习

在无监督领域自适应迁移学习过程中,域无关特征导致模型分割性能下降,而目前并没有针对迁移学习分割模型有效的特征选择方法。为解决该问题,提出了一个基于最优传输的迁移学习通用特征选择模块,可以应用到多种无监督领域自适应图像分割模型中。该模块利用分割准确性加权最优传输选择两个域的最优样本子集,再将样本子集特征进行熵正则化最优传输,得到两个域特征相似性降序列表来去掉域无关特征。将通用特征选择模块应用到三种无监督领域自适应模型中解决新冠肺炎图像分割问题,均在一定程度上提升了模型性能。     

一种改进的生成对抗网络在朱金木雕图像修复中的应用

针对朱金木雕图像纹理丰富难以用简单超分辨率方法修复的问题,提出了一种改进的生成对抗网络方法。依据深度残差模型、子像素卷积模型及截断的预训练视觉几何组19 (Visual Geometry Group 19, VGG 19)模型,把输入的低分辨率图像转化为高分辨率图像,并利用原始图像的特征图计算内容损失;应用判别网络判别图像的真实性并计算对抗损失,不断反馈这两种损失来更新模型;通过迁移学习将预训练得到的参数迁移到朱金木雕数据集上,经过少量训练后得到新模型。实验结果表明：使用改进的生成对抗网络得到的峰值信噪比（FPSNR）与结构相似性（FSSIM）指标均值分别为22.546 9和0.675 9,使用其他方法得到FPSNR与FSSIM指标的均值分别为9.835 5和0.100 4。使用改进的生成对抗网络获得图片纹理更丰富,在指标和图像效果上更优。     

基于无负样本损失和自适应增强的图对比学习

针对图对比学习方法中对输入图进行随机增强和须利用负样本构造损失的问题,提出基于无负样本损失和自适应增强的图对比学习框架.该框架利用输入图中节点度的中心性进行自适应增强以生成2个视图,避免随机增强对重要的节点和边进行删除从而影响生成视图的质量,以提高框架的鲁棒性.利用相同权重编码器网络得到2个视图的嵌入矩阵,无须进行指定.利用基于互相关的损失函数指导框架学习,该损失函数不依赖于非对称神经网络架构,无须用负样本构造损失函数,从而避免在图的情况下难以定义的负样本变得更具有挑战性,以及负样本构造损失会增大计算和存储负担的问题.所提框架在3个引文数据集上进行节点分类实验,结果表明,其在分类准确性方面优于很多基线方法.     

基于域对抗网络和BERT的跨领域文本情感分析

跨领域文本情感分析时,为了使抽取的共享情感特征能够捕获更多的句子语义信息特征,提出域对抗和BERT(bidirectional encoder representations from transformers)的深度网络模型。利用BERT结构抽取句子语义表示向量,通过卷积神经网络抽取句子的局部特征。通过使用域对抗神经网络使得不同领域抽取的特征表示尽量不可判别,即源领域和目标领域抽取的特征具有更多的相似性;通过在有情感标签的源领域数据集上训练情感分类器,期望该分类器在源领域和目标领域均能达到较好的情感分类效果。在亚马逊产品评论数据集上的试验结果表明,该方法具有良好的性能,能够更好地实现跨领域文本情感分类。     

一种结构自适应免疫抗体竞争网络的非监督图像分割

提出一种新的结构自适应免疫抗体竞争网络,无须预先设定聚类数目,实现了完全非监督的图像分割．基于自组织特征映射神经网络的基本概念,提出一个新的免疫抗体邻域概念,增强了网络的鲁棒性．根据大脑皮层长期记忆的形成原理提出一个长期记忆因子,提高了算法收敛的速度．为了抑制噪声抗原对抗体网络的影响,提出3种抗体死亡操作．以上这些改进措施可使生成的抗体网络更好地反映抗原的分布特征,得到自适应的网络结构．将此算法用于合成纹理图像、遥感图像和合成孔径雷达图像的分割,都取得了较好的分割结果．     

一种ReliefF特征估计方法在无监督流形学习中的应用

针对流形学习存在的对噪声敏感、易受缺失值影响问题以及现实世界数据的结构复杂性和稀疏程序大等问题,提出引入ReliefF特征估计,即应用ReliefF在流形学习中。实验分4种情况进行:一是不使用特征提取方法;二是仅使用ReliefF特征估计方法;三是仅使用有代表性的局部线性嵌入算法;四是使用改进算法。结果表明,改进算法得到的分类准确率分别比单纯使用ReliefF特征估计方法和局部线性算法都要高。     

基于迁移学习的乳腺肿瘤组织病理图像分类研究

乳腺癌是一种严重危害人体健康的恶性肿瘤,准确的诊断对于预防和治疗乳腺癌至关重要。相比人工检测的方法,计算机辅助检测系统更为高效省时。研究基于迁移学习方法,在微调Alexnet模型的基础上采用基于核的支持向量机（SVM）作为分类器构建了Alexnet-SVM模型,使用该模型对BreakHis数据库中的乳腺肿瘤组织病理图像分类。为了进一步提高模型的分类准确率,使用GA、GWO、Grid三种算法对SVM的核参数进行了优化。结果表明,经过GA算法优化过后的SVM对BreakHis数据库中不同放大倍数（40,100,200,400）下的乳腺肿瘤组织病理图像平均分类准确率分别达到97.51%、97.65%、97.68%和97.12%。相比目前已有的深度神经网络模型,所提出的模型分类准确率更高。研究结果对于乳腺癌的早期诊断具有重要的临床应用价值。     

基于特征细化的多标签学习无监督行人重识别

针对无监督行人重识别中行人特征表达不充分以及训练过程产生噪声标签等问题,提出了一种基于特征细化的多标签学习无监督行人重识别方法。首先,为提高网络对关键区域信息的利用能力,设计多尺度通道注意力模块(Multi-scale channel attention module, MCAM),嵌入ResNet50网络的不同层来构建特征细化网络,并利用该网络对输入图像通道维度上的关键信息进行强化和关注,以获得更丰富的特征信息;其次,为降低训练过程中产生的噪声标签对网络的负面影响,设计多标签学习模块(Multi-label learning module, MLM),通过该模块进行正标签预测以生成可靠的伪标签;最后,利用多标签分类损失和对比损失进行无监督学习。在数据集Market-1501和DukeMTMC-reID上进行实验,结果表明该方法在这两个数据集上的平均精度均值分别达到82.8%和70.9%,首位命中率分别达到92.9%和83.9%。该方法使用注意力机制强化图像的特征信息,并通过正标签预测减少噪声标签,有效提升了无监督行人重识别的准确率,为无监督行人重识别领域提供了更鲁棒的方法。