自适应局部线性嵌入算法

局部线性嵌入算法（LLE）因其较低的计算复杂度和高效性适用于很多降维问题,新的自适应局部线性嵌入（ALLE）算法对数据进行非线性降维,提取高维数据的本质特征,并保持了数据的全局几何结构特征,对比实验结果表明了该算法对于非理想数据的降维结果均优于LLE算法。     

一种在源数据稀疏情况下的数据降维算法

流形学习方法是根据流形的定义提出的一种非线性数据降维方法,主要思想是发现嵌入在高维数据空间的低维光滑流形。从分析基于流形学习理论的局部线性嵌入算法入手,针对传统的局部线性嵌入算法在源数据稀疏时会失效的缺点,提出了基于局部线性逼近思想的流形学习算法,并在S-曲线上采样测试取得良好降维效果。     

一种基于核的半监督局部线性嵌入方法

在局部线性嵌入算法中,标签价值没有得到充分体现。针对该问题,提出一种基于核的半监督局部线性嵌入方法。考虑到欧氏距离容易破坏流形结构,将原始数据映射到高维核空间,利用高维空间中的核距离代替欧氏距离,采用半监督标签信息调整距离矩阵,通过调整后的距离矩阵对数据结构进行线性重建,从而提高算法的降维性能。在标准数据集、人脸库、字符库等数据上进行实验,结果表明,与传统局部线性嵌入算法相比,该方法的辨识率提高了2%     

改进的有监督的局部线性嵌入算法及实验演示

流形学习方法中的LLE算法可以将高维数据在保持局部邻域结构的条件下降维到低维流形子空间中．并得到与原样本集具有相似局部结构的嵌入向量集合。LLE算法在数据降维处理过程中没有考虑样本的分类信息。针对这些问题进行研究,提出改进的有监督的局部线性嵌人算法（MSLLE）,并利用MatLab对该改进算法的实现效果同LLE进行实验演示比较。通过实验演示表明,MSLLE算法较LLE算法可以有利于保持数据点本身内部结构。     

LLE方法的分类与研究

对于低维数据的分类很常见, 但是对于高维数据的分类却不多, 主要是因为维度太高. 尤其对于分布不均匀的样本集, 传统的局部线性嵌入算法易受到近邻点个数的影响, 为了克服这一问题, 提出改进距离的局部线性嵌入算法. 通过实验表明, 改进距离的局部线性嵌入算法能使原来的样本集尽可能的分布均匀, 从而降低近邻点个数的取值对局部线性嵌入的影响, 在保证分类准确的前提下, 达到了有效缩短时间的目的.     

基于自适应近邻参数的局部线性嵌入

局部线性嵌入算法是一种有效的非线性降维方法。文中提出一种自适应的局部线性嵌入方法。该方法通过分析数据集中任意样本所在局部区域的线性重构误差,确定该局部区域的近似线性块,然后根据位于此局部线性块上的样本来选择局部线性嵌入的近邻参数。实验结果表明,在不同的数据集上,采用多个评价标准,自适应的局部线性嵌入方法相比普通的局部线性嵌入方法,取得更好的结果。     

一种半监督局部线性嵌入算法的文本分类方法*

针对局部线性嵌入算法（LLE）应用于非监督机器学习中的缺陷,将该算法与半监督思想相结合,提出了一种基于半监督局部线性嵌入算法的文本分类方法。通过使用文本数据的流形结构和少量的标签样本,将LLE中的距离矩阵采用分段形式进行调整;使用调整后的矩阵进行线性重建从而实现数据降维;针对半监督LLE中使用欧氏距离的缺点,采用高斯核函数将欧氏距离进行变换,并用新的核距离取代欧氏距离,提出了基于核的半监督局部线性嵌入算法;最后通过仿真实验验证了改进算法的有效性。     

基于局部线性嵌入算法的柴油机故障诊断研究

为提高柴油机故障诊断准确率和效率,提出了改进局部线性嵌入算法的柴油机诊断系统。应用小波包能量谱分析方法提取某柴油机振动信号的特征值,将提取的高维特征向量映射到低维空间上,能将高维特征向量进行优化,即特征值的二次提取。该改进算法可模糊化近邻点k的选择,从而提高计算的速度,并应用SOM-BP神经网络进行故障识别。实验表明,经过局部线性嵌入算法的特征值优化,能减少SOM-BP神经网络的输入节点,可在一定程度上提高故障识别的效率和准确率。     

一种新的电力系统短期负荷预测方法

针对电力系统短期负荷特性,提出了基于局部线性嵌入（Linear Local Embed,LLE）和支持向量机（Support Vector Machine,SVM）技术的短期负荷预测模型。该模型利用LLE算法对负荷样本的数据挖掘知识,得到了高维输入样本的低维映射,最后利用具有非线性拟合、泛化能力强的SVM进行回归。     

基于局部线性嵌入的免疫检测器优化生成算法

网络安全已上升到国家安全战略层面,入侵检测技术是其重要的组成部分,已得到广泛关注.在基于免疫的入侵检测研究中,针对传统实值否定选择算法不利于高效分析数据而造成的检测器生成速度慢、检测效率低等问题,引入局部线性嵌入算法,借鉴其能对高维数据进行映射降维的特点,提出一种基于局部线性嵌入的免疫检测器优化生成算法,利用局部线性嵌入对高维数据预处理优化降维,并结合实值否定选择算法生成检测器.将该算法用于检测模型,从而提升检测器的生成速率,并可保证生成的检测器高效地处理高维数据.该算法在降维前后可保证样本的局部线性结构不变,具有可变参数少、计算时间短的特点.实验结果表明,所提出算法在显著提高检测器生成速率和对数据检测效率的基础上,检测性能也表现出很好的水平.     

基于Gabor小波和局部线性嵌入的人脸识别

提出了一种新的人脸识别算法。该算法采用Gabor小波和一种新颖的方式来提取人脸特征,利用局部线性嵌入（Locally Linear Embedding,LLE）算法来实现数据的非线性降维处理,最后训练基于欧式距离的最近邻分类器进行分类判决。在ORL人脸库中与PCA方法、Gabor小波+PCA方法和直接的LLE算法进行了实验比较,实验结果表明,提出的Gabor小波+LLE的方法具有更优的性能。     

局部线性嵌入算法及其稳定性实现

局部线性嵌入(locally linear embedding,LLE)算法是一种非常有效的非线性数据降维算法,广泛应用于机器学习、数据挖掘、模式识别等领域。它通过两次局部最小化实现对高维数据的非线性降维。首先给出了LLE算法关键步骤的理论实现,然后对LLE算法降维效果进行验证,最后在非均匀采样数据集上,分别验证了LLE算法的邻域点稳定性和数据点采样稳定性,有效地验证了LLE算法作为非线性降维算法的良好性能。     

改进的多流形LLE学习算法

流形学习已成为机器学习和数据挖掘领域的研究热点。比如,算法LLE（Locally Linear Embedding）作为一种非线性降维算法有很好的泛化性能,被广泛地应用于图像分类和目标识别,但其仅仅假设了数据集处于单流形的情况。MM-LLE（Multiple Manifold Locally Linear Embedding）学习算法作为一种考虑多流形情况的改进算法,依然存在几点不足之处。因此,提出改进的MM-LLE算法,通过任意两类间的局部低维流形组合并构建分类器来提高分类精度;同时改进原算法计算最佳维度的方法。通过与算法ISOMAP、LLE以及MM-LLE比较分类精度,实验结果验证了改进算法的有效性。     

一种改进的局部线性嵌套算法

局部线性嵌套(LLE)算法对近邻个数较敏感,无法处理稀疏数据源。针对该问题提出一种基于改进距离和联合优化的LLE算法。将Conformal-IsoMap中度量数据间距离的方法引入到LLE,并对原算法的2个优化过程进行联合优化。在SwissRoll曲线采样数据和MINST手写数字字符数据库上的实验结果验证了该算法的有效性。     

基于局部超平面的流形奇异值点去除算法

局部线性嵌入算法通常用于高维流形数据降维,具有结构简单、不易陷入局部极小值、能保持局部几何结构不变的特点,但它对噪声和干扰奇异值点非常敏感。为此,提出基于局部超平面的流形奇异值点去除算法,将样本点的邻域投影到超平面空间,使干扰奇异值点投影远离流形样本点投影,而流形样本点投影则表现为聚集特征,同时找出邻域中所有远离聚集中心的样本点作为干扰奇异值点。仿真实验结果验证了该算法的正确性和有效性。     

Guided Locally Linear Embedding

Nonlinear dimensionality reduction is the problem of retrieving a low-dimensional representation of a manifold that is embedded in a high-dimensional observation space. Locally Linear Embedding (LLE), a prominent dimensionality reduction technique is an unsupervised algorithm; as such, it is not possible to guide it toward modes of variability that may be of particular interest. This paper proposes a supervised variation of LLE. Similar to LLE, it retrieves a low-dimensional global coordinate system that faithfully represents the embedded manifold. Unlike LLE, however, it produces an embedding in which predefined modes of variation are preserved. This can improve several supervised learning tasks including pattern recognition, regression, and data visualization.     

基于组合方法的人脸识别算法研究

该文试探一种加权融合流形学习的方法进行人脸识别,该算法通过Haar小波和局部线性嵌入（LLE）加权融合的方式来进行人脸识别。首先通过Haar小波变换对人脸图像进行一级分解,得到四个子图;然后利用LLE算法对四个子图降维处理,并加权融合;最后利用支持向量机（SVM）进行分类判决。通过在ORL库中进行实验,结果表明,该文提出的Haar＋LLE识别效率比单独使用主成分分析（PCA）和LLE更高效。     

Dimensionality reduction for computer facial animation

This paper describes the usage of dimensionality reduction techniques for computer facial animation. Techniques such as Principal Components Analysis (PCA), Expectation-Maximization (EM) algorithm for PCA, Multidimensional Scaling (MDS), and Locally Linear Embedding (LLE) are compared for the purpose of facial animation of different emotions. The experimental results on our facial animation data demonstrate the usefulness of dimensionality reduction techniques for both space and time reduction. In particular, the EMPCA algorithm performed especially well in our dataset, with negligible error of only 1-2%.