改善BP网络用于建立FCC产品收率预测模型过程中稀疏样本…

针对ＢＰ人工神经网络用于ＦＣＣ产品收收率预测模时稀疏点吻合性较差的问题，提出了（１）先对样本在空间用聚类地进行定位，确定那些是稀疏点、孤和病点；（２）弧点用于训练；（３）剔除病点；（４）加大稀疏点对目标函的权重改善稀疏点样本的吻合性，提高了模型的适应性和精度。     

基于KNN算法的改进的一对多SVM多分类器

针对传统支持向量机（SVM）多分类一对多算法存在的运算量大、耗时长、数据偏斜以及对最优超平面附近点分类易出错问题,提出了一种改进方法。将数据空间分为密集区和稀疏区,各类中密集点归于密集区,其余归于稀疏区。将每类中密集点连同它附近的点用于训练得到相应的SVM分类器。在测试阶段,对密集区的待测样本用传统的一对多判别准则来做类别预测;对稀疏区的待测样本则采用K近邻（KNN）算法。数值实验结果表明,改进的算法在耗时和分类精度上都优于原算法,对解决一对多算法存在的问题有较好的成效。     

基于混合采样的不平衡数据集算法研究

针对不平衡数据集分类效果不理想的问题，提出了一种新的基于混合采样的不平衡数据集算法（BSI）。通过引进“变异系数”找出样本的稀疏域和密集域，针对稀疏域中的少数类样本，提出了一种改进SMOTE算法的过采样方法（BSMOTE）；对密集域中的多数类样本，提出了一种改进的欠采样方法（IS）。通过在六种不平衡数据集上的实验表明，该算法与传统算法相比，取得了更高的G-mean值、F-value值、AUC值，有效改善了不平衡数据集的综合分类性能。     

改进稀疏表示算法在人脸识别中的应用

人脸识别的主要难度在于，受到光照变化、表情变化以及遮挡的影响，会使得采集的不同人的人脸图像具有相似性。为有效解决基于稀疏表示的分类算法（Sparse Representation-based Classification，SRC）在人脸训练样本不足时会导致识别率降低和稀疏表示求解效率较低的问题，提出了基于判别性低秩分解与快速稀疏表示分类（Low Rank Recovery Fast Sparse Representation-based Classification，LRR_FSRC）的人脸识别算法。利用低秩分解理论得到低秩恢复字典以及稀疏误差字典，结合低秩分解和结构不相干理论，训练出判别性低秩类字典和稀疏误差字典，并把它们结合作为测试时所用的字典；用坐标下降法来求解稀疏系数以提高了计算效率；根据重构误差实现测试样本的分类。在YALE和ORL数据库上的实验结果表明，提出的基于LRR_FSRC的人脸识别方法具有较高的识别率和计算效率。     

基于结构自相似性和形变块特征的单幅图像超分辨率算法

针对单幅图像超分辨率（SR）复原样本资源不足和抗噪性差的问题，提出一种基于结构自相似和形变块特征的单幅图像超分辨率算法。首先，该方法通过构建尺度模型，尽可能地扩展搜索空间，克服单幅图像超分辨率训练样本不足的缺陷；接着，通过样例块的几何形变提升了局限性的内部字典大小；最后，为了提升重建图片的抗噪性，利用组稀疏学习字典来重建图像。实验结果表明：与Bicubic、稀疏字典学习（ScSR）算法和基于卷积神经网络的超分辨率（SRCNN）等优秀字典学习算法相比，所提算法可以得到主观视觉效果更为清晰和客观评价更高的超分辨率图像，峰值信噪比（PSNR）平均约提升了0.35 dB。另外所提算法通过几何形变的方式扩展了字典规模和搜索的准确性，在算法时间消耗上平均约减少了80 s。     

一种基于主成分分析的异常点挖掘方法

在对现有异常点挖掘算法分析的基础上，给出了一种异常点挖掘的新方法一基于主成分分析方法，该方法先用基于密度的聚类算法进行聚类，然后把不包含在任何聚类中的周围稀疏的样本对象用主成分分析（PCA）方法进行检验，确定是否为异常点，并通过实验数据验证了算法的可行性和有效性。     

一种基于联合学习的家庭日常工具功用性部件检测算法

对工具及其功用性部件的认知是共融机器人智能提升的重要研究方向.本文针对家庭日常工具的功用性部件建模与检测问题展开研究，提出了一种基于条件随机场（Conditional random field，CRF）和稀疏编码联合学习的家庭日常工具功用性部件检测算法.首先，从工具深度图像提取表征工具功用性部件的几何特征；然后，分析CRF和稀疏编码之间的耦合关系并进行公式化表示，将特征稀疏化后作为潜变量构建初始条件随机场模型，并进行稀疏字典和CRF的协同优化:一方面，将特征的稀疏表示作为CRF的随机变量条件及权重参数选择器；另一方面，在CRF调控下对稀疏字典进行更新.随后使用自适应时刻估计（Adaptive moment estimation，Adam）方法实现模型解耦与求解.最后，给出了基于联合学习的工具功用性部件模型离线构建算法，以及基于该模型的在线检测方法.实验结果表明，相较于使用传统特征提取和模型构建方法，本文方法对功用性部件的检测精度和效率均得到提升，且能够满足普通配置机器人对工具功用性认知的需要.     

基于自监督学习的社交网络用户轨迹预测模型

针对当前用户轨迹数据建模中存在的签到点稀疏性、长时间依赖性和移动模式复杂等问题,提出基于自监督学习的社交网络用户轨迹预测模型SeNext,对用户轨迹进行建模和训练来预测用户的下一个兴趣点（POI）。首先,使用数据增强的方式来丰富训练数据样本,以解决数据不足及个别用户足迹太少导致的模型泛化能力不足的问题;其次,将循环神经网络（RNN）、卷积神经网络（CNN）和注意力机制分别用于当前轨迹和历史轨迹的建模中,以此从高维稀疏的数据中提取有用的表示,用来匹配用户过去最相似的移动方式。最后,通过结合自监督学习并引入对比损失优化噪声对比估计（InfoNCE）,SeNext在潜在空间学习隐含表示来预测用户的下一个POI。实验结果表明,在纽约数据集上,SeNext比最新的VANext（Variational Attention based Next）模型的预测准确度在Top@1上提高了11.10%左右。     

航段截尾油耗数据的区间估计方法

对航段截尾油耗数据进行区间估计时，数据分布的稀疏性及非正态性会导致传统基于单因素的油耗估计区间难以建立。针对上述问题，提出基于分类和沙普利加性解释（classification and Shapley additive explanations,C-SHAP）的改进分位数回归森林区间估计（quantile regression forest,QRF）方法。通过C-SHAP方法，筛选全航程和各飞行阶段特征得到最优输入特征集；采用随机过采样算法增加训练集中截尾油耗样本的权值，提高QRF模型的估计性能；通过QRF估计给定上、下限油耗条件分位数，构建估计区间。实验结果表明，该方法的特征选择合理、估计区间质量较高。     

基于稀疏张量判别分析的人体行为识别

在模式识别中,如何在提取关键特征的同时对样本进行降维与识别是研究的热点之一。在局部Fisher判别分析（LFDA）的基础上,结合张量表示和稀疏分析,本文提出一种基于稀疏张量的特征提取方法：稀疏张量局部Fisher判别分析（STLFDA）。该方法把张量局部Fisher判别分析（TLFDA）算法中特征分解问题转化为线性回归问题,并用弹性网络解决线性回归中的特征选择问题,既满足了张量局部Fisher判别分析的目标,又保证了得到的投影矩阵的稀疏性。通过在Weizmann人体行为数据库上的实验,表明了稀疏张量局部Fisher判别分析（STLFDA）算法的有效性。     

Learning extremely shared middle-level image representation for scene classification

Learning middle-level image representations is very important for the computer vision community, especially for scene classification tasks. Middle-level image representations currently available are not sparse enough to make training and testing times compatible with the increasing number of classes that users want to recognize. In this work, we propose a middle-level image representation based on the pattern that extremely shared among different classes to reduce both training and test time. The proposed learning algorithm first finds some class-specified patterns and then utilizes the lasso regularization to select the most discriminative patterns shared among different classes. The experimental results on some widely used scene classification benchmarks (15 Scenes, MIT-indoor 67, SUN 397) show that the fewest patterns are necessary to achieve very remarkable performance with reduced computation time.     

基于K-SVD的最大似然稀疏表示体域网动作分类算法

为有效提高体域网动作分类性能,本文提出了一种基于K-SVD的最大似然稀疏表示体域网动作分类算法. 该算法首先基于K-SVD优化学习算法,将不同动作模式训练样本按其所属类别分组优化训练,避免各类样本数据训练时相互干扰,得到不同动作模式类别所属的子字典,然后将其拼合构成一个完整字典,准确稀疏表示测试样本,最后基于最大似然稀疏模型准确估计稀疏表示系数残差,并得到测试样本所属类别. 实验结果表明,本文所提算法能够获得最优字典,基于最大似然稀疏表示可准确估计测试动作样本稀疏表示残差. 所提算法识别率明显优于传统稀疏表示动作分类算法,可有效提高体域网动作模式分类性能.     

基于稀疏表示的多标记学习算法

为解决多标记数据的分类问题,提出基于稀疏表示的多标记学习算法。首先将待分类样本表示为训练样本集上的稀疏线性组合,基于l¹-最小化方法求得最稀疏的系数解。然后利用稀疏系数的判别信息提出一个计算待分类样本对各标记的隶属度的方法。最后根据隶属度对标记进行排序,进而完成分类。在Yeast基因功能分析、自然场景分类和web页面分类上的实验表明,该算法能够有效解决多标记数据的分类问题,与其它方法相比取得更好的结果。     

基于稀疏特征迁移的语音情感识别

为了解决语音情感识别系统中训练数据和测试数据来自不同数据 库所引起的识别率降低的问题,提出了一种基于稀疏特征迁移的语音情感识别方法。通过引入稀疏编码获取情感特征在不同数据库条件下的共同稀疏表示;同时引入最大区分差异（Maximum mean discrepancy, MMD）来衡量不同数据库条件下稀疏表示分布之间的距离,并将其作为稀疏编码目标函数的约束条件,从而获得较为鲁棒的稀疏特征。实验结果表明,相比传统语音情感识别方法,基于稀疏特征迁移的语音情感识别方法显著提高了跨库条件下的情感识别率。     

基于字典学习和拓展联合动态稀疏表示的SAR目标识别

提出了一种基于字典学习和拓展联合动态稀疏表示的合成孔径雷达(Synthetic aperture radar, SAR)图像的目标自动识别(Automatic target recognition, ATR)方法.首先, 在图像预处理时, 分割出目标区域和目标遮挡地面形成的阴影区域, 将这两个区域的信息结合起来能更好地表示图像.其次, 将字典学习方法LC-KSVD (Label consistent k-singular value decomposition)引入到训练阶段中, 分别学习目标区域和阴影区域的特征字典, 而不是直接将所有训练样本作为固定字典.最后, 在测试阶段提出了拓展联合动态稀疏表示算法, 使图像数据中的两个特征共享相似但不完全相同的稀疏模式, 还可处理图像噪声遮挡损坏问题.标准数据集上的实验结果表明, 该方法使不同类别更具区分性, 有效地提高了SAR图像的目标识别准确度.     

Dictionary learning based sparse coefficients for audio classification with max and average pooling

Audio classification is an important problem in signal processing and pattern recognition with potential applications in audio retrieval, documentation and scene analysis. Common to general signal classification systems, it involves both training and classification (or testing) stages. The performance of an audio classification system, such as its complexity and classification accuracy, depends highly on the choice of the signal features and the classifiers. Several features have been widely exploited in existing methods, such as the mel-frequency cepstrum coefficients (MFCCs), line spectral frequencies (LSF) and short time energy (STM). In this paper, instead of using these well-established features, we explore the potential of sparse features, derived from the dictionary of signal atoms using sparse coding based on e.g. orthogonal matching pursuit (OMP), where the atoms are adapted directly from audio training data using the K-SVD dictionary learning algorithm. To reduce the computational complexity, we propose to perform pooling and sampling operations on the sparse coefficients. Such operations also help to maintain a unified dimension of the signal features, regardless of the various lengths of the training and testing signals. Using the popular support vector machine (SVM) as the classifier, we examine the performance of the proposed classification system for two binary classification problems, namely speech–music classification and male–female speech discrimination and a multi-class problem, speaker identification. The experimental results show that the sparse (max-pooled and average-pooled) coefficients perform better than the classical MFCCs features, in particular, for noisy audio data.     

基于类标感知的KNN分类算法

许多传统分类算法都以训练数据和测试数据具有相同或至少非常相似的分布为前提,但是在实际应用中,该前提很难得到保证,这降低支持向量机等传统分类算法的分类精度.因此,文中提出基于类标感知的KNN分类算法(CA-KNN).CA-KNN给出稀疏表示模型,基于任何测试数据都可使用训练数据集进行稀疏表示的假设.CA-KNN可有效利用数据集上的类标信息,提升稀疏表示的准确性.引入KNN的最近邻分类思想,进一步提升CA-KNN的泛化能力,并且从理论上证明CA-KNN分类器与最小误差的Bayes决策规则关联.实验和理论分析的结果表明,CA-KNN具有较好的分类性能.     

基于低秩子空间投影和Gabor特征的稀疏表示人脸识别算法

目前的人脸识别算法常常忽视训练过程中噪声的影响,特别是在训练数据和待测数据都受到噪声污染的情况下,识别性能会明显下降。针对含有光照变化、伪装、遮挡及表情变化等较大噪声的人脸识别问题,提出了一种基于低秩子空间投影和Gabor特征的稀疏表示人脸识别算法。该算法首先通过低秩矩阵恢复算法得到训练样本的潜在低秩结构和稀疏误差结构;然后利用主成分分析法找到低秩结构的Gabor特征所在低秩子空间的变换矩阵;再通过变换矩阵将所有样本的Gabor特征向量投影到低秩子空间上,在该低秩子空间上使用稀疏表示分类算法进行最终的分类识别。在Extend Yale B和AR数据库上的实验表明,新算法具有较高的识别率和较强的抗干扰能力。     

基于Dropout的改进卷积神经网络模型平均方法

针对深度卷积神经网络（CNN）中的过拟合问题，提出一种基于Dropout改进CNN的模型预测平均方法。首先，训练阶段在池化层引入Dropout，使得池化层单元值具有稀疏性；然后，在测试阶段将训练时池化层Dropout选择单元值的概率与池化区域各单元值所占概率相乘作为双重概率；最后，将提出的双重概率加权的模型平均方法应用于测试阶段，使得训练阶段池化层Dropout的稀疏效果能够更好地反映到测试阶段池化层上，从而使测试错误率达到与训练的较低错误率相近的结果。在给定大小的网络中所提方法在MNIST和CIFAR-10数据集上的测试错误率分别为0.31%和11.23%。实验结果表明：仅考虑池化层对结果的影响，所提方法与Prob.weighted pooling和Stochastic Pooling方法相比具有更低的错误率，表明池化层Dropout使得模型更具泛化性，并且池化单元值对于模型泛化具有一定帮助，能够更有效避免过拟合。     

联合判别性低秩类字典与稀疏误差字典学习的人脸识别

目的 由于受到光照变化、表情变化以及遮挡的影响,使得采集的不同人的人脸图像具有相似性,从而给人脸识别带来巨大的挑战,如果每一类人有足够多的训练样本,利用基于稀疏表示的分类算法（SRC）就能够取得很好地识别效果。然而,实际应用中往往无法得到尺寸大以及足够多的人脸图像作为训练样本。为了解决上述问题,根据基于稀疏表示理论,提出了一种基于联合判别性低秩类字典以及稀疏误差字典的人脸识别算法。每一类的低秩字典捕捉这类的判别性特征,稀疏误差字典反映了类变化,比如光照、表情变化。方法 首先利用低秩分解理论得到初始化的低秩字典以及稀疏字典,然后结合低秩分解和结构不相干的理论,训练出判别性低秩类字典和稀疏误差字典,并把它们联合起来作为测试时所用的字典;本文的方法去除了训练样本的噪声,并在此基础上增加了低秩字典之间的不相关性,能够提高的低秩字典的判别性。再运用l₁范数法（同伦法）求得稀疏系数,并根据重构误差进行分类。结果 针对Extended Yale B库和AR库进行了实验。为了减少算法执行时间,对于训练样本利用随机矩阵进行降维。本文算法在Extended Yale B库的504维每类32样本训练的识别结果为96.9%。在无遮挡的540维每类4样本训练的AR库的实验结果为83.3%,1 760维的结果为87.6%。有遮挡的540维每类8样本训练的AR库的结果为94.1%,1 760维的结果为94.8%。实验结果表明,本文算法的结果比SRC、DKSVD（Discriminative K-SVD）、LRSI（Low rank matrix decomposition with structural incoherence）、LRSE+SC（Low rank and sparse error matrix+sparse coding）这4种算法中识别率最高的算法还要好,特别在训练样本比较少的情况下。结论 本文所提出的人脸识别算法具有一定的鲁棒性和有效性,尤其在训练样本较少以及干扰较大的情况下,能够取得很好地识别效果,适合在实际中进行应用。