双输入双任务注意力网络融入噪声标签纠正机制的人脸美丽预测

人脸美丽预测是研究让计算机具有与人相似的人脸美丽预测能力的前沿课题,目前存在监督信息不足、模型易受噪声标签影响等问题。多任务注意力网络（Multi-Task Attention Network,MTAN）利用单个数据库的多种标签类型数据进行监督训练,但忽略了多个仅有一种标签类型的数据库进行多任务训练时效果不佳的问题;同时,未考虑噪声标签对MTAN的影响。噪声标签纠正机制通过比较最大预测概率和标签对应预测概率,来纠正噪声标签。为此,本文结合MTAN,提出双输入双任务注意力网络（Dual-Input Dual-Task Attention Network,DIDTAN）,并融入噪声标签纠正机制。其中,DIDTAN能同时利用两个单标签类型人脸美丽数据库的监督信息,从而解决监督信息不足;而该网络融入噪声标签纠正机制,解决了噪声标签的影响,进而提高了人脸美丽预测准确率。DIDTAN将MTAN中任务共享的批量归一化层（Batch Normalization,BN）扩展为不同任务特定的BN层;引入神经辨别性降维（Neural Discriminative Dimensionality Reducti...     

结合局部二值模式和卷积神经网络的人脸美丽预测

卷积神经网络(Convolution Neural Network,CNN)用于人脸美丽预测,能学习到深层次的特征表达,但提取的是全局特征,忽略了人脸的局部信息,因此,泛化能力不强。为此,本文提出一种结合局部二值模式(Local binary pattern , LBP)和卷积神经网络的人脸美丽预测算法。首先,利用数据增强技术扩大数据库规模;其次,将LBP纹理图像和原始灰度图像进行通道融合;再采用1×1卷积操作进行通道特征图的线性组合,从而实现网络跨通道的信息整合,提升人脸美丽预测精度。基于大规模亚洲女性人脸美丽数据库(Large Scale Asian Female Beauty Database, LSAFBD)的实验结果表明,该算法在分类和回归预测中均取得了较好效果,优于其他模型的人脸美丽预测算法;表明在卷积神经网络中加入纹理图像能有效提升人脸美丽预测精度。      

一种基于自监督学习的人脸美丽预测方法

人脸美丽预测是研究如何让计算机判断人脸美丽的前沿课题,随着深度学习的不断进展,已经取得了一定效果。然而,基于深度学习的人脸美丽预测需要大量的训练数据和昂贵的人脸美丽标注。因此,如何在少样本条件下取得较好效果,仍有待深入研究。自监督学习可在上游任务中利用无标注数据来学习较好的特征,从而能在下游任务中降低对标注数据的依赖。为此,本文将自监督学习应用于人脸美丽预测,采用批次内对象识别和多视图特征聚类。其中,批次内对象识别通过给每批次不同样本分配独立的伪标签来学习特征,使得网络有区分每个样本对象的能力。多视图特征聚类首先将人脸图像进行多次数据增强;再经过编码器,得到人脸属性特征;最后通过自监督约束使人脸属性特征聚合在一起。基于大规模亚洲人脸美丽数据库（Large Scale Asia Facial Beauty Database, LSAFBD）和SCUT-FBP5500数据库的实验结果表明,本文所提方法降低了模型对有标注数据的依赖,提高了预测准确率,在少样本条件下优于以Resnet18为基线的有监督学习方法,准确率高于常规自监督学习方法,可广泛应用于目标检测和图像分类等领域。     

深度PCANet模型的人脸美丽预测

深度卷积神经网络（Deep Convolution Neural Network, DCNN）在人脸识别、图像分类和目标检测领域已取得较好效果,并得到广泛应用;但是,在人脸美丽预测中却存在拟合效果欠佳、网络训练难度大等问题。深度PCANet模型,将深度主元分析网络（Principal Component Analysis Network,PCANet）作为特征提取器;采用无监督预训练提取网络参数,具有网络训练时间短、图像特征提取快等特点,能有效避免DCNN存在的问题。为此,本文将深度PCANet引入人脸美丽预测,对训练集图像采用多尺度预处理,训练深度PCANet。该模型可提取人脸图像的结构性全局特征,采用特征增强方法可生成更具表征能力的特征;运用线性支持向量机（Support Vector Machine, SVM）和随机森林（Random Forest, RF）回归器进行训练和预测。基于SCUT-FBP人脸美丽数据库的实验结果表明,深度PCANet模型具有结构简单、特征提取快和无需网络调参优化等特点;选择合适的图像尺度与采用特征增强方法可提高人脸美丽评价结果,证明了所提方法的有效性和可行性。      

基于知识流和迁移学习的负荷预测

在万物互联、全面感知、智能决策的大数据信息化时代,大数据信息的采集、大量信号的处理等仍存在数据冗余、计算量大、成本高、不及时和无特征性的缺点。通过迁移学习方法,利用基于权重影响因子进行信息融合的知识流动体系,为物联感知系统提供协助分析并简化计算。在物联感知系统采用迁移学习加数据融合的知识流动方式,以地区用电功率部分数据做短期负荷预测的仿真计算,分析用户用电行为影响因子,训练得到影响因子最佳权重分配,为用电耗率预判提供依据。结果表明,通过该方式,能够清晰辨别用电行为特征,并根据用电特征预判用电耗能。     

基于双激活层深度卷积特征的人脸美丽预测研究

目前,人脸美丽预测存在数据规模小、分类难度大、深度特征研究不足等问题.为此,本文提出基于双激活层深度卷积特征的人脸美丽预测研究的解决方案.首先,采用数据增强和人脸对齐方法来增加训练集的样本数量和提高数据库的数据质量.其次,提出一种双激活层改进CNN模型,使其更适合人脸美丽预测应用.实验结果表明,本文所提方法在分类和回归预测方面均大幅度优于传统人脸美丽预测方法;同时,在主流的CNN模型中取得了较好的实时性和准确性,基于2000测试集的分类准确率达到61.1%,回归相关度达到0.8546.因此,双激活层在深层人脸美丽特征学习中发挥了重要作用,可广泛应用于人脸图像识别与处理.     

基于多任务学习时间卷积网络的路网短时交通速度预测

短时路网交通速度预测是智能交通系统的重要技术。基于深度学习,文章提出了一种多任务学习时间卷积网络（Multi-Task Learning Temporal Convolutional Network,MTL-TCN）,用于预测路网层面的短时交通速度。以广州市路网交通速度数据为数据源展开对比实验,结果表明MTL-TCN模型优于经典方法和深度学习方法。     

一种结合帧级特征预测的多任务学习声纹确认方法

目前主流的声纹确认算法通常采用有监督、区分性的训练方式得到神经网络模型,如卷积神经网络（Convolutional Neural Network,CNN）、长短时记忆网络（Long-Short-Term Memory Network,LSTM）等,再利用该神经网络模型提取语音中包含个性化信息的声纹模型向量,从而进行相同人或不同人的声纹相似性比对。文章提出一种结合帧级特征预测的多任务学习训练方式,额外增加对帧级特征进行预测的神经网络模型分支,通过联合训练达到提高声纹确认算法性能的目的。在基准VoxCeleb三个测试集合上开展的实验结果表明,本文提出的方法可以有效提升声纹确认算法性能。     

基于知识蒸馏与改进ViT网络的花卉图像细粒度分类

由于自然条件下拍摄的花卉图像背景复杂,而且其存在类内差异性大和类间相似性高的问题,现有主流方法仅依靠卷积模块提取花卉的局部特征难以实现准确的细粒度分类。针对上述问题,本文提出了1种高精度、轻量化的花卉分类方法(ConvTrans-ResMLP),通过结合Transformer模块和残差MLP(multi-layer perceptron)模块实现对花卉图像的全局特征提取,并在Transformer模块中加入卷积计算使得模型仍保留提取局部特征的能力;同时,为了进一步将花卉分类模型部署到边缘设备中,本研究基于知识蒸馏技术实现对模型的压缩与优化。实验结果表明,本文所提出的方法在Oxford 17、Oxford 102和自制的Flowers 32数据集上的准确率分别达98.62%、97.61%和98.40%;知识蒸馏后本文的轻量化模型的大小约为原来的1/18,而准确率仅下降2%左右。因此,本研究能较好地提升边缘设备下花卉细粒度分类的效率,对促进花卉培育的自动化发展具有切实意义。     

基于迁移学习的在线铅酸蓄电池容量预测方法研究

为了提高基站、机房等场景下蓄电池组的使用寿命,针对蓄电池组长期处于浮充状态无法实时监测测量电池容量的问题,利用迁移学习的思想,将实验室中蓄电池组充放电数据与现网中蓄电池组的在线浮充数据建立起联系,从而预测现网中蓄电池组中各个电池的容量。最后通过实验验证了该方法的有效性,使实时监测在线蓄电池容量变为了可能。     

面向多任务学习的改进十字绣网络在人脸美丽预测中的研究

目前,人脸美丽预测研究面临模型泛化能力欠佳、数据量不足、以及易于过拟合等问题。十字绣网络(Cross-Stitch Network)通过激活多个网络,进行端到端的学习,自动决定共享层,但忽略了图像信息主次问题。因此,本文对十字绣网络进行改进,将其部分层网络更换为自注意力(Self-Attention)模块与长短时记忆(Long Short Term Memory,LSTM)模块,从而实现层与层之间、模块与模块之间的参数共享。首先,进行图像预处理,包括统一尺寸、人脸对齐、图像增强、归一化和图像剪裁等;其次,初始化构建的改进十字绣网络,并将层与层之间的共享称之为“微共享”,将模块与模块之间的共享称之为“模块共享”;最后,对训练模型进行测试。实验结果表明,采用改进十字绣网络,人脸美丽预测取得63.95%的准确率,高于常规方法最高准确率;为多任务学习提供了一种新思路。      

A MIMO Channel Prediction Scheme Based on Multi-Task Learning

Wireless Personal Communications - This paper proposes a multi-input multi-output (MIMO) channel prediction scheme using multi-task learning algorithm. Based on the spatially correlated MIMO...     

Unconstrained Facial Beauty Prediction Based on Multi-scale K-Means

Facial beauty prediction belongs to an emerging field of human perception nature and rule. Com-pared with other facial analysis tasks, this task has shown its challenges in pattern recognition and biometric recog-nition. The algorithm of presented facial beauty prediction requires burden landmark or expensive optimization pro-cedure. We establish a larger database and present a novel method for predicting facial beauty, which is notably supe-rior to previous work in the following aspects: 1) A large-scale database with more reasonable distribution has been established and utilized in our experiments; 2) Both female and male facial beauties are analyzed under unconstrained conditions without landmark; 3) Multi-scale apparent fea-tures are learned to represent facial beauty which are more expressive and require less computation expenditure. Ex-perimental results demonstrate the accuracy and efficiency of the presented method.     

Digital Twin-Assisted Knowledge Distillation Framework for Heterogeneous Federated Learning

In this paper, to deal with the heterogeneity in federated learning(FL) systems, a knowledge distillation(KD) driven training framework for FL is proposed, where each user can select its neural network model on demand and distill knowledge from a big teacher model using its own private dataset. To overcome the challenge of train the big teacher model in resource limited user devices, the digital twin(DT) is exploit in the way that the teacher model can be trained at DT located in the server with...     

基于迁移学习的软件缺陷预测

传统软件缺陷预测方法在解决跨项目缺陷预测过程中适应能力不足,主要是因为源项目和目标项目之间存在不同的特征分布.为了解决这个问题,提出一种新的加权贝叶斯迁移学习算法,算法首先收集训练数据和测试数据的特征信息,然后计算特征差异,将不同项目数据之间差异转化为训练数据权重,最后基于这些权重数据建立预测模型.在8个开源项目数据集上进行实验比较,实验结果表明与其他方法相比本文方法显著提高跨项目缺陷预测性能.     

Prediction of Protein Subcellular Localization Based on Microscopic Images via Multi-Task Multi-Instance Learning

Protein localization information is essential for understanding protein functions and their roles in various biological processes. The image-based prediction methods of protein subcellular localization have emerged in recent years because of the advantages of microscopic images in revealing spatial expression and distribution of proteins in cells. However, the image-based prediction is a very challenging task, due to the multi-instance nature of the task and low quality of images. In this paper,...     

基于多任务学习的立体匹配算法

引入辅助任务信息有助于立体匹配模型理解相关知识,但也会增加模型训练的复杂度。为解决模型训练对额外标签数据的依赖问题,提出了一种利用双目图像的自相关性进行多任务学习的立体匹配算法。该算法在多层级渐进细化过程中引入了边缘和特征一致性信息,并采用循环迭代的方式更新视差图。根据双目图像中视差的局部平滑性和左右特征一致性构建了损失函数,在不依赖额外标签数据的情况下就可以引导模型学习边缘和特征一致性信息。提出了一种尺度注意的空间金字塔池化,使模型能够根据局部图像特征来确定不同区域中不同尺度特征的重要性。实验结果表明:辅助任务的引入提高了视差图精度,为视差图的可信区域提供了重要依据,在无监督学习中可用于确定单视角可见区域;在KITTI2015测试集上,所提算法的精度和运行效率均具有一定的竞争力。