动态加权最小二乘支持向量机

提出一种基于动态加权最小二乘支持向量机（LS—SVM）的时间序列预测方法．动态加权LS—SVM能够跟踪时变非线性系统的动态特性,适合于系统辨识和时间序列预测;同时采用鲁棒方法确定权系数,以减小噪声的影响．将动态加权LS-SVM算法应用于工业PTA氧化过程中的4-CBA浓度预测,结果显示,动态加权LS—SVM预测精度高,能够有效减小噪声的影响．     

最小二乘隐空间支持向量机

在隐空间中采用最小二乘损失函数,提出了最小二乘隐空间支持向量机（LSHSSVMs）．同隐空间支持向量机（HSSVMs）一样,最小二乘隐空间支持向量机不需要核函数满足正定条件,从而扩展了支持向量机核函数的选择范围．由于采用了最小二乘损失函数,最小二乘隐空问支持向量机产生的优化问题为无约束凸二次规划,这比隐空间支持向量机产生的约束凸二次规划更易求解．仿真实验结果表明所提算法在计算时间和推广能力上较隐空间支持向量机存在一定的优势．     

增量式剪枝最小二乘支持向量机的时间序列预测

根据分块矩阵计算公式和支持向量机核函数矩阵本身特点,在增量式最小二乘支持向量机算法的基础上,通过引入剪枝方法改善最小二乘支持向量机的稀疏性,并将这种方法应用于时间序列预测,试验表明这一方法在预测精度及速度上具有一定的优越性。     

最小二乘双支持向量回归机

提出了一个最小二乘双支持向量回归机,它是在双支持向量回归机基础之上建立的,打破了标准支持向量回归机利用两条平行超平面构造ε带的思想。事实上,它是利用两条不一定平行的超平面构造ε带,每条超平面确定一个半ε-带,从而得到最终的回归函数,这使该回归函数更符合数据本身的分布情况,回归算法有更好的推广能力。另外,最小二乘双支持向量机只需求解两个较小规模的线性方程组就能得到最后的回归函数,其计算复杂度相对较低。数值实验也表明该回归算法在推广能力和计算效率上有一定的优势。     

最小二乘支持向量机算法研究

1 引言支持向量机(SVM,Support Vector Machines)是基于结构风险最小化的统计学习方法,它具有完备的统计学习理论基础和出色的学习性能,在模式识别和函数估计中得到了有效的应用(Vapnik,1995,1998)。支持向量机方法一方面通过把数据映射到高维空间,解决原始空间中数据线性不可分问题;另一方面,通过构造最优分类超平面进行数据分类。神经网络通过基于梯度迭代的方法进行数据学习,容易陷入局部最小值,支持向量机是通过解决一个二次规划问题,来获得     

最小二乘支持向量机用于水量预测

针对标准支持向量机建模时间长的缺点,为了城市用水量准确预测,需建立有效的预测模型.采用的最小二乘支持向量机基于结构风险最小化,并在支持向量机的基础上,将求解二次规划问题转化线性方程组,采用径向基核函数,使最小二乘支持向量机模型的待定参数比标准支持向量机少,可大大加快建模速度,同时还采用了人工免疫系统的自适应动态克隆选择算法,在寻优过程中能够准确、快速地搜索最小二乘支持向量机的最优参数.把上述模型用于城市日用水量预测,具有学习速度快.也具有良好的非线性建模和泛化能力,而且预测精度较高.     

大型呼叫中心人工呼入量的最小二乘支持向量机模型

通过分析大型呼叫中心人工呼入量的数据特点, 文中将呼入量分解为日呼入量与相应时间段呼入量, 利用最小二乘支持向量机(LS-SVM)的原理, 建立日呼入量与时间段呼入量两个时间序列预测模型. 实验仿真证明, 采用该方法建立的日呼入量与时间段呼入量预测模型, 在回归和预测方面都可以得到满意的结果. 通过与神经网络预测模型的对比分析, LS-SVM总体上优于人工神经网络的预测效果.     

稀疏最小二乘支持向量机及其应用研究

提出一种构造稀疏化最小二乘支持向量机的方法．该方法首先通过斯密特正交化法对核矩阵进 行简约,得到核矩阵的基向量组;再利用核偏最小二乘方法对最小二乘支持向量机进行回归计算,从而使最 小二乘向量机具有一定稀疏性．基于稀疏最小二乘向量机建立了非线性动态预测模型,对铜转炉造渣期吹炼 时间进行滚动预测．仿真结果表明,基于核偏最小二乘辨识的稀疏最小二乘支持向量机具有计算效率高、预 测精度好的特点．     

一种基于最小二乘支持向量机的预测控制算法

针对工业过程中普遍存在的非线性被控对象，提出一种基于最小二乘支持向量机建模的预测控制算法．首先，用具有RBF核函数的LS-SVM离线建立被控对象的非线性模型；然后，在系统运行过程中，将离线模型在每一个采样周期关于当前采样点进行线性化，并用广义预测算法实现对被控系统的预测控制．仿真结果表明了该算法的有效性和优越性．     

最小二乘支持向量机建模及应用

在白酒酿制过程中,淀粉的利用率是一个重要而又难测的质量参数.工业多采用化学分析法进行测量,但是该方法需要离线测量,且存在耗时长、误差大的缺陷.针对此问题,提出粒子群优化最小二乘支持向量机回归方法实现淀粉利用率的在线预测.根据酿酒发酵过程的离线数据,建立最小二乘支持向量机回归模型,采用粒子群算法对模型参数进行优化.仿真结果表明,所提方法建立的模型对于淀粉利用率的预测具有较高的预测精度及泛化能力,是一种解决淀粉利用率难测问题的好方法.     

融合小波变换与贝叶斯LS SVM的网络流量预测*

为了提高网络流量预测的精度,研究了一种融合小波变换与贝叶斯LSSVM的网络流量预测方法。首先将原始流量数据时间序列进行小波分解,并将分解得到的近似部分和各细节部分分别单支重构到原级别上;对各个重构后的序列分别用最小二乘支持向量机进行预测,将贝叶斯证据框架应用于最小二乘支持向量机模型参数的选择;将各个预测结果重构后得到对原始序列的预测结果。对比实验表明,该模型不仅具有较快的运行速度,而且具有较高的预测精度。     

一种稀疏最小二乘支持向量机

针对最小二乘支持向量机缺乏稀疏性的问题,提出了一种基于边界样本的最小二乘支持向量机算法。该算法利用中心距离比来选取支持度较大的边界样本作为训练样本,从而减少了支持向量的数目,提高了算法的速度。最后将该算法在4个UCI数据集上进行实验,结果表明：在几乎不损失精度的情况下,可以得到稀疏解,且算法的识别速度有了一定的提高。     

基于免疫优化多输出最小二乘支持向量机及其应用*

传统的支持向量机是一种两类问题的判别方法, 不能直接应用于多类分类问题。为了解决这个问题,提出了一种免疫优化多输出最小二乘支持向量机方法。该方法利用免疫算法来优化最小二乘支持向量机的参数。将该方法应用于污水生化处理过程建模及语音情感识别,仿真结果表明,该方法具有更高的精度。     

An edge detection scheme based on least squares support vector machine in a contourlet HMT domain

In this paper, we have presented a new and effective edge detection scheme based on least squares support vector machine (LS-SVM) classification in a contourlet Hidden Markov Tree Model (contourlet HMT). First, the input noisy image is decomposed into coarser and finer coefficients using a contourlet HMT transform to derive an efficient multiscale and multidirectional image representation. Second, the feature vector is performed through spatial regularity in a contourlet HMT domain, and the coarser coefficients classified using LS-SVM classifier into two classes: noise coefficients and edge coefficients. Next, all noisy contourlet HMT coefficients are well denoised by the BayesShrink method.Finally, the denoised coefficients and edge coefficients are fused using the weighted average rule, and the inverse contourlet HMT is applied to obtain the edge image.Experimental results demonstrate that our scheme can attain improved performance over state-of-the-art edge detection approaches, both qualitatively and quantitatively. Tests were performed on several images from the Berkeley dataset corrupted with Gaussian noise and on other images such as a cameraman, pepper and medical images. The results illustrate that the performance of the proposed scheme is stable.     

Robust digital watermarking in PDTDFB domain based on least squares support vector machine

Geometric distortion is known as one of the most difficult attacks to resist, for it can desynchronize the location of the watermark and hence causes incorrect watermark detection. It is a challenging work to design a robust image watermarking scheme against geometric distortions. Based on the least squares support vector machine (LS-SVM) geometric distortions correction, we propose a new image watermarking scheme in shiftable complex directional pyramid (PDTDFB) domain with good visual quality and reasonable resistance toward geometric distortions in this paper. Firstly, the PDTDFB decomposition is performed on the original host image. Then, the corresponding lowpass subband is divided into small blocks. Finally, the digital watermark is embedded into host image by modulating the selected lowpass PDTDFB coefficients in small blocks. The main steps of digital watermark detecting procedure include: (1) the PDTDFB decomposition is performed on the test images, and some low-order Gaussian–Hermite moment energy of highpass subbands are computed, which are regarded as the effective feature vectors; (2) the appropriate kernel function is selected for training, and a LS-SVM training model can be obtained; (3) the watermarked image is corrected with the well trained LS-SVM model; and (4) the digital watermark is extracted from the corrected watermarked image. Experimental results show that the proposed image watermarking is not only invisible and robust against common image processing operations such as filtering, noise adding, and JPEG compression etc, but also robust against the geometrical distortions.     

基于改进的最大后验概率矢量量化和最小二乘支持向量机集成算法

针对目前说话人识别系统的效率问题,采用集成算法的策略,提出一种新的说话人识别系统框架。首先,考虑到传统的最大后验概率矢量量化(VQ-MAP)算法中只关注平均矢量而不考虑权重的问题,提出了改进的VQ-MAP算法,使用加权平均向量来代替平均向量;然后,由于支持向量机(SVM)算法相对耗时,故采用最小二乘支持向量机(LS-SVM)替代SVM算法;最后,在说话人识别系统中,利用改进的VQ-MAP算法所得参数集作为LS-SVM的训练样本。实验结果表明,基于改进的VQ-MAP和LS-SVM的集成算法,与传统的SVM算法相比,在均使用径向基函数(RBF)核函数时,对40人样本数据建模时间上减少接近40%;在阈值为1,测试语音时长为4 s时,与传统的VQ-MAP和SVM算法相比,误识率降低了1.1%,误拒率降低了2.9%,识别率提高了3.9%;在阈值为1,测试语音时长为4 s时,与传统的VQ-MAP和LS-SVM算法相比,误识率降低了3.6%,误拒率降低了2.7%,识别率提高了4.4%。结果表明,集成算法能够有效提高算法识别率,明显减少运算时间,同时降低误识率和误拒率。     

一种新的最小二乘支持向量机稀疏化算法

普通的最小二乘支持向量机(LS-SVM)稀疏化算法在处理有些常见的模式识别问题时,随着训练样本的删减,识别率下滑很快,往往达不到稀疏化的目的。针对这种情况,提出了一种新的LS-SVM稀疏化算法来弥补这种不足,从而使得LS-SVM稀疏化算法体系更加完善。将新算法应用到雷达一维距离像的识别中,实验结果证明了新算法的有效性。     

Multi-category laplacian least squares twin support vector machine

In this paper, we have formulated a Laplacian Least Squares Twin Support Vector Machine called Lap-LST-KSVC for semi-supervised multi-category k-class classification problem. Similar to Least Squares Twin Support Vector Machine for multi-classification(LST-KSVC), Lap-LST-KSVC, evaluates all the training samples into “1-versus-1-versus-rest” classification paradigm, so as to generate ternary output {?1, 0, +1}. Experimental results prove the efficacy of the proposed method over other inline Laplacian Twin Support Vector Machine(Lap-TWSVM) in terms of classification accuracy and computational time.     

基于AdaBoost算法的加权二乘向量回归机

针对二乘向量机(LS-SVM)对所有样本误差惩罚相同、预测精度不高的问题,提出了一种基于AdaBoost模型的二乘向量回归机。该算法使用多个二乘向量机按照某种学习规则协调各二乘向量机的输出,同时根据回归精度,建立各二乘向量机中每一个样本的误差惩罚权重,以突出样本的惩罚差异性,提高算法的泛化性能。实验结果表明,提出的算法提高了二乘向量回归机的预测精度,优化了学习机的性能。