模糊核聚类的自适应算法

针对模糊聚类算法在样本特征不明显时不能取得很好的聚类效果，以及现有的模糊聚类算法需要事先确定聚类数，随机性强、容易陷入局部最优等弱点，将核函数和有效性函数引入到模糊聚类中，提出了模糊核聚类的自适应算法,此方法在性能上比经典的聚类算法有了较大的改进,取得了更好的聚类效果,实验结果证实了该方法的有效性和可行性.     

一种基于模糊核聚类的谱聚类算法

谱聚类是对样本拉普拉斯矩阵的特征向量进行聚类,不局限于原始数据的分布形状,可收敛于全局最优解,但不能准确反映样本间的实际关系,而模糊核聚类可利用模糊数学理论确定样本间的模糊关系。为此,在调整相似度度量函数和距离度量函数的基础上,将模糊核聚类融合到谱聚类算法中,提出SC-KFCM算法,利用模糊划分改进谱聚类中的硬划分,根据特征向量间的相似性和关联程度建立模糊隶属关系并对样本进行聚类,从而弥补谱聚类中硬划分部分对聚类结果造成的影响。实验结果表明,SC-KFCM算法在不同分布特点及维数的数据集上均取得了较稳定的聚类结果和较高的聚类精度。     

初始聚类中心优化的加权最大熵核FCM算法

针对传统基于最大熵模糊 C 均值聚类算法（MEFCM）仅适用于球状或椭圆状聚类,为了解决数据分布混乱以及高度相关难以划分的情形,引入 Mercer 核函数,使原来没有显现的特征突现出来,从而使聚类效果更好。然而在实际问题中,大多数样本集的样本数据都存在着重要性（权重）不同的现象,主要针对样本集中各个数据的不同重要程度来设计加权方法,同时为了克服聚类算法对初始聚类中心选取的敏感性这一弱点,提出了一个初始聚类中心优化的加权最大熵核模糊聚类算法（WKMEFCM）。通过实验验证,该算法与原MEFCM算法比较,其聚类结果更加稳定、准确,从而达到更好的聚类划分效果。     

Gauss诱导核模糊c均值聚类算法

针对核模糊聚类算法优异的非线性表达能力,提出一种Gauss诱导核模糊c均值聚类算法(GIKFCMs)。首先,基于核目标函数和梯度法,得到特征空间聚类中心表达式,并通过内积运算得到聚类中心与样本的核矩阵表达式。其次,取核目标函数中的核函数为Gauss核函数,并利用梯度法得到输入空间聚类中心表达式。最后将聚类中心与样本的核矩阵代入输入空间聚类中心表达式中,从而得到GIKFCMs核聚类中心计算方法,同时得到相应的GIKFCMs核聚类算法。研究GIKFCMs算法的相关性质,分析算法的收敛性和初始化约束。GIKFCMs算法克服了原有核聚类算法在收敛性与初始化约束方面的缺陷。通过仿真实验验证了该算法的有效性。     

多核模糊聚类

针对单核聚类的性能局限性问题,提出将高斯核、Sigmoid核以及多项式核等多种核组成一种新的多核函数,并利用于模糊核进行聚类。高斯核在聚类中有广泛应用,同时Sigmoid核在神经网络中被证明具有很好的全局分类性能。将不同的核函数组合起来的多核函数将结合各种核函数的优点,其聚类性能优于利用单核的模糊核聚类（KFCM）,实验结果表明了该方法的有效性。     

一种基于聚类核的半监督支持向量机分类方法

为了在标记样本数目有限时尽可能地提高支持向量机的分类精度,提出了一种基于聚类核的半监督支持向量机分类方法。该算法依据聚类假设,即属于同一类的样本点在聚类中被分为同一类的可能性较大的原则去对核函数进行构造。采用K-均值聚类算法对已有的标记样本和所有的无标记样本进行多次聚类,根据最终的聚类结果去构造聚类核函数,从而更好地反映样本间的相似程度,然后将其用于支持向量机的训练和分类。理论分析和计算机仿真结果表明,该方法充分利用了无标记样本信息,提高了支持向量机的分类精度。     

基于量子遗传算法的XML聚类方法

主要用模式分析的核方法与量子遗传算法相结合研究XML聚类,提出了一种基于量子遗传算法混合核聚算法的XML文档聚类新方法。该方法先对XML文档约简,以频繁标签序列建立向量空间核的核矩阵,用高斯核函数求解初始聚类和聚类中心,然后用初始聚类中心构造量子遗传算法的初始种群,通过量子遗传算法与核聚算法相结合求得全局最优解的聚类。实验结果表明,使用该算法的聚类比改进的核聚算法、K均值算法等单一方法具有良好的收敛性、稳定性和更高的全局最优。     

基于聚类算法的支持向量回归建模的新策略

针对支持向量机对时变的样本集采用单一模型建模困难的问题，提出了一种新的学习策略．首先，使用自组织映射(SOM)神经网络和k-means聚类算法对初始样本集合进行聚类．然后，针对每个聚类数据集合，通过最优加权组合不同核函数的支持向量回归模型建立最终的模型．实验表明，采用这种学习策略的建模精度要优于单一支持向量回归建模方法．     

基于遗传算法的Mercer核聚类方法

结合Mercer核函数和遗传算法,提出一种新的基于遗传算法的Mercer核聚类方法.利用Mercer核函数将输入样本空间非线性映射到新的高维特征空间,可以显现样本的特征差异,提高算法的收敛速度和分类能力,而结合遗传算法可以得到近似最优解.仿真实验和在纺织品质量评估中的应用验证算法的可行性和有效性.     

一种基于核的快速可能性聚类算法

传统的快速聚类算法大多基于模糊C均值算法（Fuzzy C-means,FCM）,而FCM对初始聚类中心敏感,对噪音数据敏感并且容易收敛到局部极小值,因而聚类准确率不高。可能性C-均值聚类较好地解决了FCM对噪声敏感的问题,但容易产生一致性聚类。将FCM和可能性C-均值聚类结合的聚类算法较好地解决了一致性聚类问题。为进一步提高算法收敛速度和鲁棒性,提出一种基于核的快速可能性聚类算法。该方法引入核聚类的思想,同时使用样本方差对目标函数中参数η进行优化。标准数据集和人造数据集的实验结果表明这种基于核的快速可能性聚类算法提高了算法的聚类准确率,加快了收敛速度。     

基于增量式最大方差展开的水下控制系统故障诊断

对于复杂工业系统的故障诊断,由于非线性的存在,使得利用核函数的多元统计方法存在因核函数选择不同导致诊断结果不同的问题.本文采用最大方差展开的方法,作为一种流形学习方法,该方法在处理非线性数据时通过学习确定核矩阵,因而无需人为选择核函数.针对该方法难以对新增数据进行处理,本文提出了最大方差展开的增量式改进方法,利用正常样本进行学习建模,对检测样本通过增量的方式降维构造出低维空间,在该空间中构造监控统计量来完成故障的检测.最后,本文将该方法应用在水下控制系统的故障诊断中,通过仿真分析验证了该方法应用的有效性.     

A support vector machine with a hybrid kernel and minimal Vapnik-Chervonenkis dimension

We present a mechanism to train support vector machines (SVMs) with a hybrid kernel and minimal Vapnik-Chervonenkis (VC) dimension. After describing the VC dimension of sets of separating hyperplanes in a high-dimensional feature space produced by a mapping related to kernels from the input space, we proposed an optimization criterion to design SVMs by minimizing the upper bound of the VC dimension. This method realizes a structural risk minimization and utilizes a flexible kernel function such that a superior generalization over test data can be obtained. In order to obtain a flexible kernel function, we develop a hybrid kernel function and a sufficient condition to be an admissible Mercer kernel based on common Mercer kernels (polynomial, radial basis function, two-layer neural network, etc.). The nonnegative combination coefficients and parameters of the hybrid kernel are determined subject to the minimal upper bound of the VC dimension of the learning machine. The use of the hybrid kernel results in a better performance than those with a single common kernel. Experimental results are discussed to illustrate the proposed method and show that the SVM with the hybrid kernel outperforms that with a single common kernel in terms of generalization power.     

基于核聚类的机动多目标数据关联问题研究

针对新型作战样式条件下空中多机动目标密集回波的数据关联问题,采用核学习方法和K-均值聚类相结合的算法,即基于核的K-均值聚类来解决此问题.该方法的主要思想是,将原空间中的样本通过一个非线性映射,映射到高维的核空间中,以突出各类样本之间的特征差异,然后在核空间中进行K-均值聚类.仿真结果表明,该方法有效提高了密集回波环境下系统跟踪机动多目标的关联精度和可靠性.     

基于多种核函数的SVM在垃圾邮件过滤中的应用

采用TF-IDF和Bernoulli两种模型构造邮件向量,首先详细测试了CHI降维策略对线性支持向量机进行邮件分类的影响。将基于核函数的支持向量机引入到垃圾邮件过滤中,对基于线性核、多项式核和径向基核的支持向量机在邮件分类中的准确率和训练时间进行了比较,分析了训练样本不平衡对分类的影响,并从理论上对实验结果进行了分析,实验结果证明基于径向基核函数的SVM分类器对垃圾邮件有较好的过滤效果。     

A wavelet extreme learning machine

Extreme learning machine (ELM) has been widely used in various fields to overcome the problem of low training speed of the conventional neural network. Kernel extreme learning machine (KELM) introduces the kernel method to ELM model, which is applicable in Stat ML. However, if the number of samples in Stat ML is too small, perhaps the unbalanced samples cannot reflect the statistical characteristics of the input data, so that the learning ability of Stat ML will be influenced. At the same time, the mix kernel functions used in KELM are conventional functions. Therefore, the selection of kernel function can still be optimized. Based on the problems above, we introduce the weighted method to KELM to deal with the unbalanced samples. Wavelet kernel functions have been widely used in support vector machine and obtain a good classification performance. Therefore, to realize a combination of wavelet analysis and KELM, we introduce wavelet kernel functions to KELM model, which has a mix kernel function of wavelet kernel and sigmoid kernel, and introduce the weighted method to KELM model to balance the sample distribution, and then we propose the weighted wavelet–mix kernel extreme learning machine. The experimental results show that this method can effectively improve the classification ability with better generalization. At the same time, the wavelet kernel functions perform very well compared with the conventional kernel functions in KELM model.     

基于模糊松弛约束的外观缺陷多核学习技术

为了满足当前工业生产中对产品外观缺陷检测的精度及实时的要求,提出一种基于模糊松弛约束多核学习的产品外观缺陷检测方法（FRC-MKL）。该方法对各类外观缺陷的样本图像进行特征提取,采用模糊约束理论求解组合核函数中各核函数的权重,通过给每个核函数划定一个模糊权重得到组合核函数,实现了将该组合核函数作为分类器的核函数进行缺陷的学习分类。实验结果表明,利用模糊松弛约束和多核技术可以提高产品外观缺陷的检测精度并且在实地检测中可以更好地满足外观缺陷的实时检测。     

基于PCA和SVM的管道腐蚀超声内检测

为了有效地对不同深度的局部腐蚀缺陷超声波信号进行分类识别,根据腐蚀缺陷信号样本数量较少的特点,提出了一种基于主成分分析(PCA)和支持向量机(SVM)的超声波腐蚀缺陷信号识别方法.该方法采用经验模态分解法对腐蚀缺陷信号进行分解,提取各本征模式分量的时域无量纲参数,利用主成分分析消除原始特征集中的冗余信息,降低每一个特征之间的相关性,实现腐蚀缺陷信号特征参数的降维.在PCA进行特征优化后,将支持向量机的多类分类应用于缺陷分类过程中.将腐蚀缺陷原始特征集和经主成分分析优化后的特征集,分别用于支持向量机的训练和测试,且选择不同的核函数构造支持向量机分类器.实验结果表明,基于主成分分析和支持向量机的方法可以有效地对超声波腐蚀缺陷深度信号分类.     

Isosurfaces Over Simplicial Partitions of Multiresolution Grids

We provide a simple method that extracts an isosurface that is manifold and intersection‐free from a function over an arbitrary octree. Our method samples the function dual to minimal edges, faces, and cells, and we show how to position those samples to reconstruct sharp and thin features of the surface. Moreover, we describe an error metric designed to guide octree expansion such that flat regions of the function are tiled with fewer polygons than curved regions to create an adaptive polygonalization of the isosurface. We then show how to improve the quality of the triangulation by moving dual vertices to the isosurface and provide a topological test that guarantees we maintain the topology of the surface. While we describe our algorithm in terms of extracting surfaces from volumetric functions, we also show that our algorithm extends to generating manifold level sets of co‐dimension 1 of functions of arbitrary dimension.     

一种基于各向异性高斯核核惩罚的PCA特征提取算法

提出了一种基于各向异性高斯核核惩罚的主成分分析的特征提取算法.该算法不同于传统的核主成分分析算法.在非线性数据降维中,传统的核主成分分析算法忽略了原始数据的无量纲化.此外,传统的核函数在各维度上主要由一个相同的核宽参数控制,该方法无法准确反映各维度不同特征的重要性,从而导致降维过程中准确率低下.为了解决上述问题,首先针对现原始数据的无量纲化问题,提出了一种均值化算法,使得原始数据的总方差贡献率有明显的提高.其次,引入了各向异性高斯核函数,该核函数每个维度拥有不同的核宽参数,各核宽参数能够准确地反映所在维度数据特征的重要性.再次,基于各向异性高斯核函数建立了核主成分分析的特征惩罚目标函数,以便用较少的特征表示原始数据,并反映每个主成分信息的重要性.最后,为了寻求最佳特征,引入梯度下降算法来更新特征惩罚目标函数中的核宽度和控制特征提取算法的迭代过程.为了验证所提出算法的有效性,各算法在UCI公开数据集上和KDDCUP99数据集上进行了比较.实验结果表明,所提基于各向异性高斯核核惩罚的主成分分析的特征提取算法比传统的主成分分析算法在9种公开的UCI公开数据集上准确率平均提高了4.49%.在KDDCUP99数据集上,所提基于各向异性高斯核核惩罚的主成分分析的特征提取算法比传统的主成分分析算法准确率提高了8%.     

基于动态参数的函数空间学习最优核映射

核函数方法可挖掘出高精度快速印刷品图像间的非线性分布规律,而挖掘能力由所选择的核函数及其参数来决定。这两者的学习与选择同样是核函数理论继续发展与实际应用需要迫切解决的问题。针对印刷品智能检测这一特定背景,提出了一种新的基于优化问题的从具有动态参数的函数空间中学习核函数及参数的方法,以此来使核函数方法达到最优性能。与传统的计算方法不同之处在于其核函数空间中的核参数是连续变化的,这使学习的范围得到一个维度上的扩展。实验结果显示,结合理论分析的迭代算法仅需要10次迭代便可得到统计最优的核函数及参数,利用学习到的核函数计算的复原误差是统计最小的。