基于AP二次聚类的神经网络集成算法研究

为了提高个体神经网络精度及差异度进而提高神经网络集成(Neural Network Ensemble,NNE)的泛化性能,提出了一种基于二次聚类的神经网络集成方法。首先对所有样本进行聚类,得到第一次聚类样本子集;然后对每一类样本子集进行二次聚类,得到每一子类的样本子集,通过Affinity Propagation(AP)聚类使得"类内相似,类间相异"的准则最大化,类内样本能够反映真实的数据分布;最后按照排列组合的方式,从二次聚类的每个样本子集中选取一类样本构成训练集来构造一个个体神经网络。这样从不同类中选择样本集构造的个体神经网络差异性较大,既能使数据的规模较小,又能反映真实的数据分布,用这种方法产生的个体神经网络进行集成具有较高的性能。仿真实验表明,该方法能够取得较好的性能。     

传感器网络中基于分布式压缩的数据聚合方法

针对基于压缩数据采集的数据聚合需要高效的路由转发树协议,以便更好地采集到从传感器节点到sink节点的编码数据,提出了一种新型高效节能的分布式压缩数据收集方法。该方法中每个传感器节点均可独自寻找父节点,并构建一部分路由树,无需利用中心节点来构建所有转发树,从而允许每个传感器节点对转发树的构建和维护做出局部决策。仿真实验结果表明,相比传统的压缩数据收集方法,新方法的复杂性较低并且开销降低近50%。     

基于自适应Nyström采样的大数据谱聚类算法

面对结构复杂的数据集,谱聚类是一种灵活而有效的聚类方法,它基于谱图理论,通过将数据点映射到一个由特征向量构成的低维空间,优化数据的结构,得到令人满意的聚类结果.但在谱聚类的过程中,特征分解的计算复杂度通常为O(n³),限制了谱聚类算法在大数据中的应用.Nyström扩展方法利用数据集中的部分抽样点,进行近似计算,逼近真实的特征空间,可以有效降低计算复杂度,为大数据谱聚类算法提供了新思路.抽样策略的选择对Nyström扩展技术至关重要,设计了一种自适应的Nyström采样方法,每个数据点的抽样概率都会在一次采样完成后及时更新,而且从理论上证明了抽样误差会随着采样次数的增加呈指数下降.基于自适应的Nyström采样方法,提出一种适用于大数据的谱聚类算法,并对该算法的可行性和有效性进行了实验验证.     

局部保持对支持向量机

多面支持向量机(multiple surface support vector machine,MSSVM)分类方法作为传统支持向量机(support vector machine,SVM)的拓展在模式识别领域成为新的研究热点之一,然而已有的MSSVM方法并没有充分考虑到训练样本之间的局部几何结构以及所蕴含的判别信息.因此将保局投影(locality preserving projections,LPP)的基本思想引入到MSSVM中,提出局部保持对支持向量机(locality preserving twin support vector machine,LPTSVM).LPTSVM方法不但继承了MSSVM方法具有的异或(XOR)问题处理能力,而且充分考虑样本间的局部几何结构,体现样本间所蕴含的局部判别信息,从而在一定程度上提高了分类精度.主成分分析(principal component analysis,PCA)方法克服了LPTSVM奇异性问题,保证了LPTSVM方法的有效性.非线性情况下,通过经验核映射方法构造了非线性LPTSVM.在人造数据集和真实数据集上的测试表明LPTSVM方法具有较好的泛化性能.     

加权光滑CHKS孪生支持向量机

针对光滑孪生支持向量机(smooth twin support vector machines,简称STWSVM)采用的Sigmoid 光滑函数逼近精度低和STWSVM 对异常点敏感的问题,引入一种性能更好的光滑函数——CHKS 函数,提出了光滑CHKS孪生支持向量机模型(smooth CHKS twin support vector machines,简称SCTWSVM).在此基础上,根据样本点的位置为每个训练样本赋予不同的重要性,以降低异常点对非平行超平面的影响,提出了加权光滑CHKS 孪生支持向量机(weighted smooth CHKS twin support vector machines,简称WSCTWSVM).不仅从理论上证明了SCTWSVM 具有严凸性和任意阶光滑的性能,而且在数据集上的实验结果表明,相对于STWSVM,SCTWSVM 可以在更短的时间内获得更高的分类精度,同时验证了WSCTWSVM 的有效性和可行性.     

基于Shannon熵的因子特征提取算法

现存的数据提取算法,大都以方差贡献率作为评价准则,来衡量特征提取的效果.然而方差贡献率注重的是样本相关矩阵特征值的性质,并不能顾及到信息的度量问题.文中将Shannon信息熵理论引入提取算法,定义类概率、类信息函数,通过计算累计信息贡献率来确定提取特征维数,提取效果可以从信息论的角度评价.将此理论与因子分析(FA)结合...     

支持向量机研究进展

基于统计学习理论的支持向量机((Support vector machines, SVM)以其优秀的学习能力受到广泛的关注。但传统支持向量机在处理大规模二次规划问题时会出现训练时间长、效率低下等问题。对SVM训练算法的最新研究成果进行了综述,对主要算法进行了比较深入的分析和比较,指出了各自的优点及其存在的问题,并且着重介绍了目前研究的新进展—模糊SVM和粒度SVM。接着论述了SVM主要的两方面应用—分类和回归。最后给出了今后SVM研究方向的预见。     

基于广泛激活深度残差网络的图像超分辨率重建

为了得到更好的图像评价指标，均方误差损失是大多数现有的与深度学习方法结合的图像超分辨率技术都在使用的目标优化函数，但大多数算法构建出来的图像因严重丢失高频信息和模糊的纹理边缘而不能达到视觉感受的需求。针对上述问题，本文提出融合感知损失的广泛激活的非常深的残差网络的超分辨率模型，通过引入感知损失、对抗损失，并结合平均绝对误差组成新的损失函数，通过调整不同损失项的权重对损失函数进行优化，提高了对低分率图像的特征重构能力，高度还原图像缺失的高频信息。本文选取峰值信噪比(peak signal-to-noise ratio, PSNR)和结构相似度(structural similarity, SSIM)两个国际公认的评判指标作为客观评判标准，更换数据集进行实验分析、结果对比，在主观视觉上直观观察效果，结果从不同角度证明本文方法性能较对比模型有所提升，证明了引入感知损失后，模型更好地构建了低分辨率图的纹理细节，可以获得更好的视觉体验。     

基于深度图正则化矩阵分解的多视图聚类算法

针对现实社会中由多种表示或视图组成的多视图数据广泛存在的问题,深度矩阵分解模型因其能够挖掘数据的层次信息而备受关注,但该模型忽略了数据的几何结构信息.为解决以上问题,本文提出基于深度图正则化矩阵分解的多视图聚类算法,通过获取每个视图的局部结构信息和全局结构信息在逐层分解中加入两个图正则化限制,保护多视图数据的几何结构信...     

基于SCEC的信息特征压缩算法

对交互熵理论进行了研究，提出了对称交互熵的概念，并论证了它是一种距离测度，可以用以度量两个随机变量的差异程度，我们把它作为信息特征压缩的类别可分性判据，称之为对称交互熵判据(SCEC)，建立了基于SCEC的信息特征压缩算法．模拟应用表明，提出的算法是一种有效的、可靠的算法，为模式识别理论的研究提供了一种新的数据压缩方法．