基于牛顿梯度优化的弹性多核学习

已有稀疏多核学习(MKL)模型在产生核函数权重稀疏解时容易导致信息丢失且泛化能力差,且基于梯度下降法的MKL在接近最优解时收敛速度慢.建立了基于支持向量机(SVM)的弹性多核学习(EMKL)模型并给出了一种基于牛顿梯度优化的EMKL(NO-EMKL).模型在MKL的目标函数中引入弹性项,并设计了基于二阶牛顿梯度下降法的优化算法.实验结果表明:算法不仅具有更好的分类精度,还具有较快的收敛速度.     

利用稀疏自编码的局部谱聚类映射算法

传统谱聚类算法直接对原始数据建立高斯核邻接矩阵后再对数据进行聚类,并未考虑数据的深层次特征以及数据的邻域流形结构,并且仅进行单一聚类,针对以上三点不足,提出了利用稀疏自编码的局部谱聚类映射算法(LSCMS),通过对数据进行预处理,利用稀疏自编码提取能反映原始数据本质的深层次特征,并以此替代原始数据;对每个数据利用其邻域进行线性重构,以重构权值代替高斯核函数建立邻接矩阵.LSCMS在聚类同时将数据映射到聚类指标上进而协调聚类指标.在UCI数据集、手写数据集、人脸数据集上的实验结果表明:算法优于现有的聚类算法.     

特征聚类自适应变组稀疏自编码网络及图像识别

由于缺乏先验信息,组Lasso模型在训练时仅是基于组数参数对单元进行均匀、连续、固定的分组,缺乏分组依据,容易造成变量组结构的有偏估计。为此,提出特征聚类自适应变组稀疏自编码网络模型,在迭代过程中使用特征聚类法来改变隐层单元的分组,使得分组能够随着特征的收敛而自适应地发生改变,从而更好地实现变量组结构的估计。实验表明,该模型能够很好地捕捉训练过程中出现的组相关信息,并在一定程度上提高图像的分类识别率。     

鲁棒联合稀疏不相关回归

常见的无监督特征选择方法考虑的只是选择具有判别性的特征,而忽略了特征的冗余性,并且没有考虑到小类问题,故而影响到分类性能.基于此背景,提出鲁棒不相关回归算法.首先,对不相关回归进行研究,使用不相关正交约束,以便找出不相关但具有判别性的特征,不相关约束使得数据结构保持在Stiefel流形中,使模型具有封闭解,避免了传统的...     

基于PCNN和非线性滤波万有引力的医学图像融合

为了更好地满足现代医学临床诊断和治疗的需要,提高医学图像的融合质量,提出在提升小波变换的基础上,结合脉冲耦合神经网络（PCNN）和像素点的非线性滤波万有引力的医学图像融合方法。低频子系数采用基于区域灰度均值的融合规则;高频子系数采用自适应PCNN的融合规则,将像素的非线性滤波万有引力作为简化的PCNN模型中的链接强度,使PCNN能够自适应调节链接强度的大小,并根据点火矩阵确定高频子系数。实验结果表明,该方法得到的融合图像比其他融合方法保留了更多的边缘细节信息,各项评价指标均有所提高,有更好的融合性能。     

二维主成分分析方法的推广及其在人脸识别中的应用

提出了分块二维主成分分析(分块2DPCA)的人脸识别方法。分块2DPCA方法先对图像矩阵进行分块,对分块得到的子图像矩阵直接进行鉴别分析。其特点是:能方便地降低鉴别特征的维数;可以完全避免使用矩阵的奇异值分解,特征抽取方便;与2DPCA方法相比,使用低维的鉴别特征矩阵,而达到较高(至少是不低)的正确识别率。此外,2DPCA是分块2DPCA的特例。在ORL和NUST603人脸库上的试验结果表明,所提出的方法在识别性能上优于2DPCA方法。     

改进的Dropout正则化卷积神经网络

针对深度卷积神经网络(CNN)中出现的过度拟合的问题,给出了一种改进的结构,训练阶段采用Dropout正则化,测试阶段采用了模型平均方法且同时考虑了保留概率和池化区域内单元值所占概率.仿真实验表明:在MNIST手写数据库和CMU—PIE的部分图像库中,相同迭代次数及CNN结构下新算法均优于其他方法,不仅能够得到更好的识别率而且更能防止过拟合的问题.     

基于内容的加权粒度序列推荐算法

为了提高个性化推荐系统的准确率,提出了一种基于内容的加权粒度序列推荐算法。通过分析项目属性关系将项目粒度化,计算每个粒度的贡献度得到项目特征矩阵。再根据用户行为信息生成用户粒度序列并进行粒度映射,利用Apriori算法提取出用户偏好矩阵。最后将项目特征矩阵和用户偏好矩阵做乘积运算,其结果代入改进的sigmoid函数中进行喜好概率预测,从而完成Top-N项目推荐。实验选取MovieLens数据集,结果表明基于内容的加权粒度序列的推荐算法准确率达到72.27%,高于当前流行的推荐算法;在效率方面,推荐时间少于相同用户数量下的协同过滤推荐算法;综合测度评分为0.393,充分验证了算法的整体性能优于其他推荐算法。     

一种AP算法的改进:M-AP聚类算法

Affinity Propagation(AP)聚类算法将所有数据点作为潜在的聚类中心,在相似度矩阵的基础上通过消息传递进行聚类.与传统聚类方法相比,对于大规模数据集,AP是一种快速、有效的聚类方法.但是AP算法在聚类结构复杂的(非团状)数据集上得到的效果并不是很好.因此,在AP的基础上加入一个merge过程,将AP算法改进为M-AP算法,可以有效地解决这种问题.而当样本数目比较大时,将CVM压缩算法融入其中,可以有效地解决大样本问题.