稀疏表示的特征选择方法在人脸性别和种族识别中的应用

针对人脸性别和种族识别中出现的特征冗余问题,提出一种基于稀疏表示的特征选择方法 SRFS(Sparse Representation based Feature Selection),构建了以区分类别为核心的特征选择框架模型。该模型将样本的特征空间的线性组合映射到不同类标所标记的类别,利用截断牛顿迭代法求解模型的非负稀疏解,进而通过稀疏值从特征空间中选择类区分度大且信息丰富的特征子集。通过实验,与一些比较经典的特征选择方法 Fisher Score、mRMR进行比较,验证了该方法的有效性,能够选择有效的特征,不仅降低特征的维数,而且获得了较高的识别率。     

基于核稀疏表示的特征选择算法*

为了解决高维数据在分类时导致的维数灾难,降维是数据预处理阶段的主要步骤。基于稀疏学习进行特征选择是目前的研究热点。针对现实中大量非线性可分问题,借助核技巧,将非线性可分的数据样本映射到核空间,以解决特征的非线性相似问题。进一步对核空间的数据样本进行稀疏重构,得到原数据在核空间的一种简洁的稀疏表达方式,然后构建相应的评分机制选择最优子集。受益于稀疏学习的自然判别能力,该算法能够选择出保持原始数据结构特性的"好"特征,从而降低学习模型的计算复杂度并提升分类精度。在标准UCI数据集上的实验结果表明,其性能上与同类算法相比平均可提高约5%。     

基于特征正则稀疏关联的无监督特征选择方法

针对高维无标签数据中的特征冗余问题,提出一种基于特征正则稀疏关联的无监督特征选择方法 （FRSA）。建立特征选择模型:利用Frobenius范数建立损失函数项表示特征之间的关联关系,对特征权重矩阵施加L₁稀疏正则化约束。设计一种分治-收缩阈值迭代算法对目标函数进行优化。根据特征权重评估每个特征的重要性,选择出具有代表性的特征。在6个不同类型的标准数据集上与目前常用的无监督特征选择方法进行对比实验,实验结果表明,所提方法的性能优于其它无监督特征选择方法。     

基于低秩稀疏评分的非监督特征选择

在处理高维数据过程中,特征选择是一个非常重要的数据降维步骤。低秩表示模型具有揭示数据全局结构信息的能力和一定的鉴别能力。稀疏表示模型能够利用较少的连接关系揭示数据的本质结构信息。在低秩表示模型的基础上引入稀疏约束项,构建一种低秩稀疏表示模型学习数据间的低秩稀疏相似度矩阵;基于该矩阵提出一种低秩稀疏评分机制用于非监督特征选择。在不同数据库上将选择后的特征进行聚类和分类实验,同传统特征选择算法进行比较。实验结果表明了低秩特征选择算法的有效性。     

基于自适应稀疏监督典型相关分析的特征选择

特征选择旨在识别高维数据最具信息性的特征,以实现高维数据的低维表示。稀疏监督典型相关分析模型利用样本的监督数据,通过提取具有最大相关性的稀疏典型向量实现特征选择。但是,为了求解方便,该模型一般把优化目标从典型变量的相关系数组合简化为协方差组合,此简化将导致较大的特征选择偏差。针对这一问题,提出一种新的基于自适应稀疏监督典型相关分析的特征选择模型。该模型引入一组自适应权重系数,有效解决了“两两协方差的不公平组合”问题,提高了模型的特征选择能力。实验结果验证了模型的有效性和特征选择的准确性。     

基于稀疏矩阵结构的特征选择算法现状研究

在信息时代,数据获取方式简单快捷,使得数据量呈指数型增长。然而这些数据往往是多源高维的,增加了模型的复杂度,容易造成模型过拟合,并且数据中存在的冗余特征会降低模型分类精度。特征选择算法旨在通过去除不相关、冗余或嘈杂的特征,从原始特征中选择一小部分最有效特征,达到降维的效果。目前特征选择算法种类繁多,其中,基于稀疏矩阵结构的特征选择算法由于具有模型简单易懂和易求解的特点而被学者们广泛关注。本文归纳总结了基于稀疏矩阵结构的特征选择算法分类,重点介绍了鲁棒特征选择模型和多视图特征选择模型。首先,介绍了基于稀疏矩阵结构的特征选择算法基本框架;然后,介绍了基于稀疏矩阵结构的一般模型、鲁棒特征选择模型、多视图的特征选择模型,比较了它们在解决目前特征选择算法研究难点中存在的优势和不足;最后,对基于稀疏矩阵结构的特征选择算法进行了总结。文章阐明了理论研究中存在的问题和难点,探讨了基于稀疏矩阵结构的特征选择算法发展思路。     

稀疏回归和流形学习的无监督特征选择算法

针对无标签高维数据的大量出现,对机器学习中无监督特征选择进行了研究。提出了一种结合自表示相似矩阵和流形学习的无监督特征选择算法。首先,通过数据的自表示性质,构建相似矩阵,结合低维流形能够表示高维数据结构这一流形学习思想,建立一种考虑流形学习的无监督特征选择优化模型。其次,为了保证选择更有用及更稀疏的特征,采用◢l◣▼2,1▽范数对优化模型进行约束,使特征之间相互竞争,消除冗余。进而,通过变量交替迭代对优化模型进行求解,并证明了算法的收敛性。最后,通过与其他几个无监督特征算法在四个数据集上的对比实验,表明所给算法的有效性。     

基于稀疏化神经网络的浮选泡沫图像特征选择

针对泡沫特征复杂繁多不利于建模控制的问题,提出一种基于稀疏化神经网络的泡沫图像特征选择方法.相较于大部分稀疏模型以线性回归模型作为损失函数的情况,选择以更为贴近实际工业过程非线性特点的神经网络模型作为损失函数,并加入L2,1范数约束以起到特征选择的效果;此方法根据泡沫特征建立解决矿物品位回归问题的特征选择方法,并采用近...     

基于稀疏贝叶斯模型的特征选择

通过采用稀疏贝叶斯推理方法,设计出可同时进行学习最优分类器与选取最优特征子集的特征选择概率分类向量机算法。该算法是对概率分类向量机特征选择的扩展,可提高其在高维数据集上的性能。通过选取零均值的高斯分布作为先验,在模型中起到正则项的作用,同时在核函数和特征中引入稀疏,得到泛化性更好的分类模型。在高维度和低维度数据集中的实验结果表明,该算法同时具有较好的分类和特征选择能力。     

专家系统在大型工业过程中的应用

本文论述了大型工业过程领域中应用专家系统的必要性,专家系统技术在此领域面临的新问题,介绍了解决这些问题的方法和发展方向.     

基于免疫文化算法的故障特征选择方法

提出了一种新的文化算法,基于免疫克隆选择原理改进了文化算法的种群空间,同时设计了一种新的历史知识及其影响函数。为了去除工业中故障诊断过程中的冗余变量,实现数据降维,提高故障诊断性能,将该免疫文化算法应用到故障特征选择当中,提出了一种封装式的特征选择方法。该方法利用抗体种群进行全局搜索,通过文化算法的信念空间保留历代最优个体,并对UCI数据集的高维数据进行特征子集选择。将该方法应用到TE过程故障诊断中,结果表明,相比于直接使用高维数据进行故障诊断,该算法有效降低了特征空间的维数,提高了分类精度。     

一种基于快速特征选择的故障诊断方法

针对故障诊断中数据存在噪声和高维的缺点,使用一种快速特征提取方法对故障数据进行降维,该方法以特征信号的均值和方差作为其权重衡量的依据。利用支持向量机的模式分类功能,构造了基于特征提取的多故障分类器。实例表明,在保证诊断效果的情况下,该方法实现了数据降维,降低了运算复杂度。     

基于数据和知识的工业过程监视及故障诊断综述

从复杂工业过程所可能具有的过程特性及数据存取过程中引入的数据特性分析出发,综述了具有复杂数据特性的工业过程的多元统计监视方法,并分别讨论了基于数据和基于知识方法进行故障诊断的优势、进展、适用范围及二者结合的可能.最后探讨了这一领域中值得进一步研究的问题和可能的发展方向.     

基于粗糙集的故障诊断特征提取

故障的特征提取对于进行准确可靠的诊断非常重要。而实际的故障诊断数据样本的分类边界常常是不确定的,并且故障与征兆之间的关系往往也是不确定的。粗糙集理论是处理模糊和不确定性问题的新的数学工具。论文将粗糙集理论引入到故障诊断特征提取,提出了一种基于粗糙集的故障诊断特征提取方法。并通过两个故障诊断实例对该方法进行了验证。结果表明:在有效地保持故障诊断分类结果的情况下,该方法可以提取出最能反映故障的特征,从而为粗糙集在故障诊断中的深入应用打下了基础。     

一种基于投影的特征选择方法

以轴承故障诊断为应用背景,基于低维投影能够反映原高维数据某些特征的思想,提出了一种基于投影的特征选择方法。该方法利用遗传算法找到最能反映样本分类特性的投影方向,并利用该方向剔除与投影值无关的特征指标,克服了传统特征选择方法在高维空间中计算复杂的缺点,有效避免了"维数灾难"。仿真结果表明,该方法能够在不降低投影值类别特性的情况下,有效降低样本数据维数,完成特征选择,提高了分类效率及准确率。     

Sensor selection for fault diagnosis in uncertain systems

ABSTRACT

Finding the cheapest, or smallest, set of sensors such that a specified level of diagnosis performance is maintained is important to decrease cost while controlling performance. Algorithms have been developed to find sets of sensors that make faults detectable and isolable under ideal circumstances. However, due to model uncertainties and measurement noise, different sets of sensors result in different achievable diagnosability performance in practice. In this paper, the sensor selection problem is formulated to ensure that the set of sensors fulfils required performance specifications when model uncertainties and measurement noise are taken into consideration. However, the algorithms for finding the guaranteed global optimal solution are intractable without exhaustive search. To overcome this problem, a greedy stochastic search algorithm is proposed to solve the sensor selection problem. A case study demonstrates the effectiveness of the greedy stochastic search in finding sets close to the global optimum in short computational time.     

低秩约束的非线性属性选择算法

针对高维的数据中往往存在非线性、低秩形式和属性冗余等问题,提出一种基于核函数的属性自表达无监督属性选择算法——低秩约束的非线性属性选择算法（LRNFS）。首先,将每一维的属性映射到高维的核空间上,通过核空间上的线性属性选择去实现低维空间上的非线性属性选择;然后,对自表达形式引入偏差项并对系数矩阵进行低秩与稀疏处理;最后,引入核矩阵的系数向量的稀疏正则化因子来实现属性选择。所提算法中用核矩阵来体现其非线性关系,低秩考虑数据的全局信息进行子空间学习,自表达形式确定属性的重要程度。实验结果表明,相比于基于重新调整的线性平方回归（RLSR）半监督特征选择算法,所提算法进行属性选择之后作分类的准确率提升了2.34%。所提算法解决了数据在低维特征空间上线性不可分的问题,提升了属性选择的准确率。     

新颖的判别性特征选择方法

作为数据预处理的一种常用的手段,特征选择不仅能够提高分类器的分类性能,而且能增加对分类结果的解释性。针对基于稀疏学习的特征选择方法有时会忽略一些有用的判别信息而影响分类性能的问题,提出了一种新的判别性特征选择方法——D-LASSO,用于选择出更具有判别力的特征。首先D-LASSO模型包含一个L₁-范式正则化项,用于产生一个稀疏解;其次,为了诱导出更具有判别力的特征,模型中增加了一个新的判别性正则化项,用于保留同类样本以及不同类样本之间几何分布信息,用于诱导出更具有判别力的特征。在一系列Benchmark数据集上的实验结果表明,与已有方法相比较,D-LASSO不仅能进一步提高分类器的分类精度,而且对参数也较为鲁棒。     

改进的核费舍判别分析法应用于故障诊断

化工过程采样数据具有强非线性和噪声,针对化工过程状态监控的问题,提出一种改进的核费舍判别分析法（KFDA）的故障诊断算法。首先采样数据经过小波变换方法去除噪声,去除噪声后的数据进行KFDA建模,然后在建模同时采用特征向量选择（FVS）算法降低复杂性。Tennessee Eastman process实验结果表明了该算法的有效性,同时该算法加强了KFDA故障诊断的准确性,并明显地减少了存储空间和运算时间。     

基于TE-DS的半监督化工过程故障诊断方法

针对现有基于深度学习的化工过程故障诊断方法通常需要完备的标签数据才能构建故障诊断模型等局限,提出一种基于时间集成—双重学生模型(temporal ensembling-dual student, TE-DS)的半监督化工过程故障诊断方法。该方法首先以双重学生模型为基础,通过分类项约束、稳定性约束和一致性约束条件指导相互训练,有效地缓解了误差累积情况的发生;然后利用时间集成(temporal ensembling)将多个先前网络评估的预测集成作为一致性正则化对象,达到缓解预测值噪声、降低模型训练时间的目的,以提高分类性能,实现故障诊断;最后通过田纳西—伊斯曼(Tennessee-Eastman)化工过程基准数据进行故障诊断实验,验证提出方法的有效性和可行性,并与BNLSTM、DCNN和MCLSTM等有监督方法进行比较,证明了TE-DS算法对故障诊断的优越性。