非线性偏最小二乘建模方法及在近红外光谱建模上的应用

偏最小二乘算法(PLS)是常用的线性光谱建模方法。针对汽油在线调合中具有非线性特点的辛烷值、干点等属性应用PLS方法建立模型误差较大问题,本文提出了残差-递阶偏最小二乘的建模方法,该方法对已经提取成分后的自变量中剩余的信息再提取主成分,并将该主成分作为新的自变量参与回归建模。仿真验证结果表明:残差-递阶偏最小二乘方法建立的模型中验证集的样本数据误差均在正负0.2之间。残差-递阶偏最小二乘方法与偏最小二乘、递阶偏最小二乘叫-PLS)两种方法比较,残差-递阶偏最小二乘建立的模型有的更高的精度和模型适应性。     

二维非负偏最小二乘在人脸识别中的应用

传统的基于统计的子空间学习算法如主成分分析,通过学习只能得到一系列特征脸,忽略了人脸识别中重要的局部信息（如眼睛、鼻子）。而利用到类别信息的算法如线性判别分析,也会因为小样本问题而有所影响。为了解决这些问题,结合二维偏最小二乘与非负矩阵分解的非负性思想提出二维非负偏最小二乘(Two-Dimensional Nonnegative Partial Least Squares,2DNPLS)算法。其核心思想是在提取人脸特征时加入了非负性约束,使得2DNPLS不仅拥有偏最小二乘算法加入类别信息带来的分类效果,还保留了图像矩阵的内部结构信息,而且还使得到的基矩阵具有非负的局部的可解释性。在ORL,Yale人脸库中的实验结果表明,该算法从时间上和识别率上均优于人脸识别的主流算法。     

基于偏最小二乘法与支持向量机的人脸识别

该文认为在人脸识别中,偏最小二乘回归方法作为一种新的降维方法,在处理小样本问题时具有明显优势,而主元分析方法作为一种传统的降维方法在选择分量时没有考虑类信息,因而有可能忽略掉重要的分类信息。支持向量机（SVM）模式识别方法具备良好的分类性能和鲁棒性。该文提出了一种基于偏最小二乘与支持向量机的人脸识别方法。利用偏最小二乘回归分析对人脸图像进行降维和特征提取,再利用支持向量机对特征向量进行分类识别。ORL人脸库的仿真结果证明偏最小二乘回归方法比主元分析方法更有效。     

模式识别在烟草化学中的过拟合现象研究

烟草化学建模过程中,化学成分间的多重共线性是常见的问题,使用偏最小二乘判别分析可以有效克服这一问题,但是模型容易出现过拟合的现象,即模型的构建效果好,但是预报能力差。本文选取湖南烟区3个种植大区,即湘南、湘中、湘西北种植的53种不同烟叶,使用偏最小二乘判别分析建立了烟叶主要化学指标与地区大类之间的模型,但是由于变量过多以及噪声的干扰,模型的预报精度差,偏最小二乘判别分析方法出现了过拟合现象,模型的稳健性受到破坏。本文采用了多种模式识别的方法,逐步筛选变量,准确提取出特征变量9个,对产地变量有更好的解释能力,并能够有效地在模型预测的过程中避免变量间的多重共线性以及仪器检测的噪声干扰,建立了有效的烟叶一产地识别模型。模型预报的准确率由未筛选变量之前的75%提高到87.5%,模型的稳健性得到很大提高,改善了模型的过拟合现象。     

融合softmax的偏最小二乘法及中药数据分析研究

偏最小二乘判别分析（partial least squares discriminant analysis,PLS-DA）是一种线性分类方法,不能充分表达数据之间的非线性关系,难以适应非线性数据的分类识别。针对该问题,结合softmax回归能够表达非线性特征,提出融合softmax回归的偏最小二乘判别分析算法（PLS-S-DA）。为了验证PLS-S-DA对非线性数据的有效性,以准确率、运行时间、查准率、查全率和◢F◣▼1▽-score为评价指标,采用四组UCI数据集和中药寒热药性数据集测试PLS-S-DA的性能,并与PLS-DA等五种分类算法对比。结果表明,对具有非线性特征的数据,PLS-S-DA相比于其他算法有更高的准确率,并对寒药和热药有更强的识别能力。     

基于PLS的信息特征压缩算法

提出了基于偏最小二乘(PLS)方法的信息特征压缩算法．较主成分分析(PCA)方法,该算法具有简单、稳健、易于定性解释等优点,对于多重共线性资料,尤其当解释变量多,而样本量少时很有效．由于在考虑压缩数据矩阵X的信息的同时,顾及了与目标矩阵Y的最大相关性等优点,使之更符合实际．数值实例研究表明,文中算法是可行的、有效的,为模式识别的信息特征压缩提供了一种新的研究方法．     

偏最小二乘判别分析结合F-score用于蛋白质组学质谱数据的特征筛选(英文)

提出了一种基于偏最小二乘判别分析和F-score的特征筛选方法,并将其用于蛋白质组学质谱数据分析。该方法主要包含3个步骤:(1)用LIMPIC算法对原始数据进行预处理;(2)计算每个变量的F-score值并将所有变量按F-score值降底的顺序排列;(3)采用偏最小二乘判别分析交互检验按前向选择法选择最佳变量子集。用本方法对一组结肠癌数据进行分析,最终从原始的16331个质荷比变量中选择了8个特征质荷比作为潜在的生物标记物。用所选择的特征对独立测试集的样本进行判别,其灵敏度和特异性分别达到了95.24%和100%。结果表明,所提出的方法可用于蛋白质组学质谱数据的特征筛选及样本分类。     

OPLS在非线性偏最小二乘回归模型的应用

为了解决隐含潜变量回(implicit non-linear latent variable regression,INLR)建模方法中加入自变量的非线性项使系统中出现了与因变量y无关的信息或者噪音的问题,提出了基于正交投影(orthogonal projection to latent structures,OPLS)方法,时INLR数据进行预处理.OPLS算法能有效去除预测矩阵中与因变量y无关的信息,在不影响INLR建模效果的同时减少有意义的成分,改善了模型的解释性和真实性.模拟实验结果表明,改进后算法的建模效果优于INLR、偏最小二乘回归(partial least squares regression,PLSR)算法得到的模型.     

基于DEA优化的偏最小二乘回归在谐波责任分离中的应用

在分析了偏最小二乘计算回归的方法原理基础上,提出了偏最小二乘计算回归的改进算法,即采用数据包络分析法(DEA)对数据进行分析处理,除去少数不相关信息数据,从而使得回归结果精度更高。     

基于偏最小二乘的鱼类超微弱发光建模方法研究

针对鱼类超微弱发光信息建模中存在的信息降维、多重相关性和非线性问题, 提出了一种基于变量筛选与双层多项式非线性偏最小二乘的多维信息建模方法。该方法用偏最小二乘方法进行变量筛选, 然后采用双层多项式非线性偏最小二乘方法实现对多维信息的非线性建模。检测应用的结果表明, 该方法与偏最小二乘方法相比, 可以在少用拟合自变量的情况下, 预测准确度分别提高了562%和247%, 实现了对多维信息的有效降维与非线性建模, 以及鱼类超微弱发光的准确检测。     

PLS-LSSVM模型在锌净化中的应用

在锌净化除钴过程中,生产数据存在噪声且变量间具有多重相关性,从而难以准确预测钴离子浓度。为此,采用偏最小二乘方法去除数据中的噪声,降低各参数间的多重相关性。通过为不同时期的样本数据赋予不同的权值,提高了最小二乘支持向量机(LSSVM)模型预测的准确性。利用改进的粒子群优化算法优化选择LSSVM模型的惩罚因子和核函数参数,以避免人为选择参数的盲目性。仿真结果表明,PLS- LSSVM模型的预测精度高于偏最小二乘回归和LSSVM。     

偏最小二乘回归分析与特征融合在图像识别中的应用

为了更有效地进行图像识别,对同一模式的不同特征进行融合是有效途径。讨论了偏最小二乘法及其改进算法、特征融合方法在图像识别中的应用。首先讨论了偏最小二乘法的基本原理和非迭代偏最小二乘法、基于共轭正交的偏最小二乘法用于特征抽取的原理和特点,给出了三种特征融合方法,在ORL与Yale人脸库上的实验结果表明进行对用PLS抽取的特征融合后可以有效地进行图像识别。     

基于偏最小二乘的支持向量机多分类方法

该文提出了一种基于偏最小二乘（PLS）的支持向量机（SVM）多分类方法,该算法利用偏最小二乘思想对样本进行预处理,消除了样本属性之间的相关性,而且得到的综合属性与类信息的相关程度达到最大。通过实验可以看出,该方法不仅可以减少用支持向量机进行分类过程中的支持向量数目,而且当样本属性较多时,可以提高一定的识别率。     

基于改进偏最小二乘法的多模态过程故障检测方法

针对传统的数据驱动方法偏最小二乘法（PLS）中存在的多模态数据故障检测效果不佳的问题,提出了一种新的故障检测方法——基于局部近邻标准化（LNS）的PLS（LNS-PLS）。首先,利用LNS方法对原始数据进行高斯化处理,在此基础上建立PLS的监控模型,确定T²和平方预测误差（SPE）的控制限;其次,对测试数据同样进行LNS标准化处理,再计算出测试数据的PLS监控指标来进行过程监视及故障检测,解决了PLS中无法处理多模态的问题。将所提方法应用于数值例子和青霉素生产过程,并将其测试结果与主成分分析（PCA）、K最近邻（KNN）、PLS等方法进行对比分析。实验结果表明,所提方法的故障检测效果优于PLS、KNN、PCA,该方法在分类及多模态过程故障检测方面有较高的准确性。     

一种广义最小二乘支持向量机算法及其应用

最小二乘支持向量机(LS SVM)是处理不可分样本集情况下模式分类的有效工具,但是该算法在处理很多实际分类问题时,表现出了一定的局限性。为了进一步增强最小二乘支持向量机的推广能力,提出一种通用的广义最小二乘支持向量机算法,并且把这种新算法首先应用到雷达一维距离像的识别中,实验表明新的算法能取得更好的识别效果。     

二维共轭正交偏最小二乘分析及图像识别应用

偏最小二乘（PLS）是一种有效的图像特征抽取方法。不同于其他的多元数据分析方法,PLS综合了PCA与CCA的优点,抽取对样本具有最佳解释能力的成分。讨论了偏最小二乘法建模思想及非迭代算法、共轭正交算法和基于2D特征抽取时的算法原理和特点,以及PLS用于图像识别时类隶属矩阵的构造。在ORL与Yale人脸库上的实验结果表明用2DCOPLS抽取的特征进行图像识别的效果更好,更稳定。     

基于自适应核边际费希尔分析的人脸识别算法

为解决人脸识别中的维数灾难问题,提出一种基于自适应核边际费希尔分析的人脸识别算法。在考虑图像流形结构的基础上给出与图像数据相关的自适应核函数,采用核边际费希尔分析对高维人脸图像进行非线性降维,利用最小二乘支持向量机在降维后的低维特征空间中进行分类识别。实验结果表明,该算法的识别性能优于其他常用的人脸识别算法。     

基于偏最小二乘回归的鲁棒性特征选择与分类算法

提出一种基于偏最小二乘回归的鲁棒性特征选择与分类算法（RFSC-PLSR）用于解决特征选择中特征之间的冗余和多重共线性问题。首先,定义一个基于邻域估计的样本类一致性系数;然后,根据不同k近邻（kNN）操作筛选出局部类分布结构稳定的保守样本,用其建立偏最小二乘回归模型,进行鲁棒性特征选择;最后,在全局结构角度上,用类一致性系数和所有样本的优选特征子集建立偏最小二乘分类模型。从UCI数据库中选择了5个不同维度的数据集进行数值实验,实验结果表明,与支持向量机（SVM）、朴素贝叶斯（NB）、BP神经网络（BPNN）和Logistic回归（LR）四种典型的分类器相比,RFSC-PLSR在低维、中维、高维等不同情况下,分类准确率、鲁棒性和计算效率三种性能上均表现出较强的竞争力。     

基于非线性迭代PLS的人脸识别算法

主成分分析(PCA)是一种无监督的线性降维方法,能有效地提取模式的类内特征,当样本之间出现高度相关性或多重相关性时,PCA提取的主成分解释能力不够。鉴于PCA的缺点,采用一种有监督的鉴别特征提取法——偏最小二乘(PLS),在保留输入变量的最大信息条件下,先在输入和输出变量组中建立模型,再用非线性迭代法提取类间特征,直至隐变量收敛。在ORL人脸库和Yale人脸库中实验结果表明,该算法具有有效性。