一种基于L2范数的软核感知机

感知机只能解决线性可分问题。支持向量机中的L2范数软边缘算法可以将线性不可分问题转化为线性可分问题。基于这一事实,提出一种基于L2范数的软核感知机(SoftKernelPerceptron,SKP),将感知机算法直接用于求解L2范数软边缘算法决定的线性可分问题。通过使用核技巧,得到一种普适的非线性分类方法。实际数据库的测试结果表明,SKP算法能够有效地解决非线性问题,并且继承了感知机运算简单速度快的优点。     

基于相似压缩的近似线性SVM

为了解决模式识别中的近似线性可分问题,提出了一种新的近似线性支持向量机(SVM).首先对近似线性分类中的训练集所形成的两类凸壳进行了相似压缩,使压缩后的凸壳线性可分;基于压缩后线性可分的凸壳,再用平分最近点和最大间隔法求出最优的分划超平面.然后再通过求解最大间隔法的对偶问题,得到基于相似压缩的近似线性SVM.最后,从理论和实证分析两个方面,将该方法与线性可分SVM及推广的平分最近点法进行了对比分析,说明了该方法的优越性与合理性.     

多分类问题的凸包收缩方法

在最大边缘线性分类器和闭凸包收缩思想的基础上,针对二分类问题,通过闭凸包收缩技术,将线性不可分问题转化为线性可分问题。将上述思想推广到解决多分类问题中,提出了一类基于闭凸包收缩的多分类算法。该方法几何意义明确,在一定程度上克服了以往多分类方法目标函数过于复杂的缺点,并利用核思想将其推广到非线性分类问题上。     

二进神经网络中的汉明球突及其线性可分性

对于二进神经网络,剖析其神经元的逻辑意义对网络的规则提取是十分重要的, 而目前每个神经元所表达的线性结构的逻辑意义仍没有完全解决, 一部分线性函数的结构及其逻辑意义尚不明确. 本文在寻找线性可分结构的过程中,提出了汉明球突的概念, 给出其是否线性可分的判定方法,并得到二进神经元与线性可分的汉明球突等价的充要条件, 从而建立了判别线性可分的汉明球突的一般方法,并通过实例验证了该方法的有效性.     

一种改进的线性SVM

对模式分类中的近似线性可分问题提出了一种新的近似线性支持向量机（SVM）：先对近似线性分类中的训练集所形成的两类凸壳进行了相似变形,使变形后的凸壳线性可分,再用平分最近点和最大间隔法求出理想的分划超平面,然后再通过求解最大间隔法的对偶问题得到基于相似压缩的近似线性SVM。此外,还从理论和实证分析两个方面将该方法与线性可分SVM及已有的近似线性可分SVM进行了对比分析,说明了该方法的优越性与合理性。     

基于支持向量机的分段线性学习方法

1.引言包括感知器、神经网络等在内的学习方法都是基于经验风险最小(ERM)原则的,而在实际的基于小样本的学习系统中,这些学习方法在经验风险最小的情况下并不能保证期望风险最小化。对于线性不可分情况不能给出是否分段线性可分的可靠信息。如果简单地引入非线性变换,则容易导致过学习现象。这显然不是我们所希望的。     

软间隔组合凸线性感知器设计

组合凸线性感知器是用来构造分片线性分类器的一个通用理论框架。对于凸可分和叠可分情况,分别使用支持凸线性感知器算法和支持组合凸线性感知器算法将两类样本分开。在此基础上,文中提出一种软间隔的组合凸线性感知器设计方法。该方法首先映射原空间数据到高维特征空间,然后利用K均值算法将其中一类样本聚类成多个簇,并在每一簇与另一类样本间构造凸线性感知器,最后集成组合凸线性感知器。该方法能解决原感知器模型不适用非叠可分数据的问题,并且在一定程度上简化模型结构,在保证分类精度的前提下,提高泛化能力。实验结果证实文中方法的有效性,同其它分片线性分类器的对比也说明了它的优势。     

线性分类中基于感知器的子网分析法研究

为解决一层感知器对线性不可分矢量分类的限制,提出了一种基于一隐层感知器神经网络模型的子网分析方法。子网分析法网络构造严格精确但预处理较复杂,适合于低维矢量的分类,不会产生错分。用三维线性不可分矢量验证了这种方法的可行性。     

基于Naive Bayes的CLIF-NB 文本分类学习方法

针对Naive Bayes方法中条件独立性假设常常与实际相违背的情况，提出了CLIF_NB文本分类学习方法，利用互信息理论，计算特征属性之间的最大相关性概率，用变量集组合替代线性不可分属性，改善条件独立性假设的限制，并通过学习一系列分类器，缩小训练集中的分类错误，综合得出分类准确率较高的CLIF_NB分类器．     

一种新的海量数据分类方法

使用支持向量机对非线性可分数据进行分类的基本思想是将样本集映射到一个高维线性空间使其线性可分。文章则基于Jordan曲线定理,提出了一种通用的基于分类超曲面的分类法,它是通过直接构造分类超曲面,根据样本点关于分类曲面的围绕数的奇偶性进行分类的一种新分类判断算法,不需作升维变换,不需要考虑使用何种核函数,而直接地解决非线性分类问题。对数据分类应用的结果说明:基于分类超曲面的分类法可以有效地解决非线性数据的分类问题,并能够提高分类效率和准确度。