Similarity-based classification of sequences using hidden Markov models

Hidden Markov models (HMM) are a widely used tool for sequence modelling. In the sequence classification case, the standard approach consists of training one HMM for each class and then using a standard Bayesian classification rule. In this paper, we introduce a novel classification scheme for sequences based on HMMs, which is obtained by extending the recently proposed similarity-based classification paradigm to HMM-based classification. In this approach, each object is described by the vector of its similarities with respect to a predetermined set of other objects, where these similarities are supported by HMMs. A central problem is the high dimensionality of resulting space, and, to deal with it, three alternatives are investigated. Synthetic and real experiments show that the similarity-based approach outperforms standard HMM classification schemes.     

HMM在手写数字结构信息建模中的应用

针对传统隐马尔可夫模型（HMM）在识别对象时没有有效利用所识别对象的结构信息,提出了一种基于原图像分块的HMM。这种模型利用原图像的各个分块作为状态,因此具有相应的拓扑结构,可以为所识别对象的结构信息建模。为了增强模型的描述能力与精确性,采用二阶HMM,引入了终止状态,将其应用在手写数字识别中。考虑到手写数字的结构特点与模型的拓扑结构,提出了一种提取手写数字笔画特征的方法,即根据叉点提取各个笔段的特征向量。对MNIST字库进行测试,平均识别率为95.7%。     

基于隐马尔可夫模型的多摄像头人体对象的目标识别

在非重叠多摄像机系统的人体对象目标识别中,针对基于单幅图片的识别算法不能较好处理对象表观和视角变化的问题,提出基于人体图像序列的算法。该算法用隐马尔可夫模型(HMM)融合多幅图片的特征,先考虑人体结构的约束,将人体图像在垂直方向上划分为多个相等的图像区域;然后采用多层阈值分割算法提取区域代表性颜色特征(SRC)和标准差特征(SSV);再用每个人体对象的多幅图片提取的特征数据集训练该对象的连续密度HMM;最后利用训练的模型实现人体对象的目标识别。该方法在两个公开数据集上进行的实验都获得了较高的识别率,提高了对摄像头视角变化、低分辨率的鲁棒性,且简单易实现。     

一种基于奇异值分解和隐马尔可夫模型的人脸识别方法

提出了一种新的基于隐马尔可夫模型的人脸识别方法，这种方法采用奇异值分解抽取人脸图像特征作为观察序列，减少了数据的存储量和计算量，并提高了识别率，实验结果同其它两种基于隐马尔可夫模型的方法进行了比较。     

A novel statistical generative model dedicated to face recognition

In this paper, a novel statistical generative model to describe a face is presented, and is applied to the face authentication task. Classical generative models used so far in face recognition, such as Gaussian Mixture Models (GMMs) and Hidden Markov Models (HMMs) for instance, are making strong assumptions on the observations derived from a face image. Indeed, such models usually assume that local observations are independent, which is obviously not the case in a face. The presented model hence proposes to encode relationships between salient facial features by using a static Bayesian Network. Since robustness against imprecisely located faces is of great concern in a real-world scenario, authentication results are presented using automatically localised faces. Experiments conducted on the XM2VTS and the BANCA databases showed that the proposed approach is suitable for this task, since it reaches state-of-the-art results. We compare our model to baseline appearance-based systems (Eigenfaces and Fisherfaces) but also to classical generative models, namely GMM, HMM and pseudo-2DHMM.     

基于隐马尔可夫模型的主观句识别

文本情感倾向分析是意见挖掘和情感文摘中的一个重要环节,而在情感倾向分析中涉及到的是主观性文本,这就需要进行主客观文本分类。当前的主客观文本分类方法主要是基于特征词典的概率统计方法,并没有考虑特征之间的语法与语义关系。针对该问题,该文提出一种基于隐马尔可夫模型(HMM)的主观句识别方法。该方法首先从训练语料中抽取具有明显分类效果的七类主客观特征,然后每个句子应用HMM进行特征角色类别标注,并依据标注的结果计算句子的权重,最终识别主观句。该方法在第六届中文倾向性分析评测任务中能够有效地识别主观句。     

Optimized discriminative transformations for speech features based on minimum classification error

Feature extraction is an important component of pattern classification and speech recognition. Extracted features should discriminate classes from each other while being robust to environmental conditions such as noise. For this purpose, several feature transformations are proposed which can be divided into two main categories: data-dependent transformation and classifier-dependent transformation. The drawback of data-dependent transformation is that its optimization criteria are different from the measure of classification error which can potentially degrade the classifier’s performance. In this paper, we propose a framework to optimize data-dependent feature transformations such as PCA (Principal Component Analysis), LDA (Linear Discriminant Analysis) and HLDA (Heteroscedastic LDA) using minimum classification error (MCE) as the main objective. The classifier itself is based on Hidden Markov Model (HMM). In our proposed HMM minimum classification error technique, the transformation matrices are modified to minimize the classification error for the mapped features, and the dimension of the feature vector is not changed. To evaluate the proposed methods, we conducted several experiments on the TIMIT phone recognition and the Aurora2 isolated word recognition tasks. The experimental results show that the proposed methods improve performance of PCA, LDA and HLDA transformation for mapping Mel-frequency cepstral coefficients (MFCC).     

一种基于HMM的场景识别方法

隐马尔科夫模型作为一种统计分析模型,能够通过观测向量序列计算其隐含状态的概率分布密度。提出一种智能空间中基于HMM的场景识别方法,该方法指定系统相关情境信息,确定隐含场景集和观察情境集,采用部分相关情境信息而非全部情境信息作为场景特征参与场景识别,利用HMM对隐含场景间的关系进行建模,设计了基于HMM的场景识别算法。实验结果表明,采用基于HMM的场景识别方法能够获得较高的识别效率。     

基于S-LISSOM模型的人脸识别方法

提出了一种利用视皮层认知模型识别人脸的方法。该方法建立一种简化的感受野切片连接自组织映射简化模型(S LISSOM),模拟人脸图像在大脑视皮层的映射特征,作为隐马尔可夫模型(HMM)的观测向量进行人脸识别。实验结果同其他特征的人脸识别方法进行了比较,该方法更加有效的提取的人脸特征,提高了人脸识别率。     

基于条件随机域的上下文人类动作识别

提出一种新的基于条件随机域和隐马尔可夫模型（HMM）的人类动作识别方法——HMCRF。目前已有的动作识别方法均使用隐马尔可夫模型及其变型,这些模型一个最突出的不足就是要求观察值相互独立。条件模型很容易表示上下文相关性,且可使用动态规划做到有效且精确的推论,它的参数可以通过凸函数优化训练得到。把条件图形模型应用于动作识别之上,并通过大量的实验表明,所提出的方法在识别正确率方面明显优于一般线性结构的CRF和HMM。     

基于小波域隐马尔可夫模型的小波隐写分析

基于精确描述图像小波系数间统计特性的小波域二维隐马尔可夫模型(HMM)参数集合,提出一种针对小波域信息隐藏算法的新型隐写分析技术。通过使用二维HMM对小波系数进行建模,对生成的HMT森林在隐写前后的参数集合构造隐写分类特征,采用SVM分类器进行隐写判别。实验表明该方法适用于小波域隐写术的检测,对小波域QIM、MFP和BPCS隐写有较好的检测性能。     

Using a Discrete Hidden Markov Model Kernel for lip-based biometric identification

In this paper, a novel and effective lip-based biometric identification approach with the Discrete Hidden Markov Model Kernel (DHMMK) is developed. Lips are described by shape features (both geometrical and sequential) on two different grid layouts: rectangular and polar. These features are then specifically modeled by a DHMMK, and learnt by a support vector machine classifier. Our experiments are carried out in a ten-fold cross validation fashion on three different datasets, GPDS-ULPGC Face Dataset, PIE Face Dataset and RaFD Face Dataset. Results show that our approach has achieved an average classification accuracy of 99.8%, 97.13%, and 98.10%, using only two training images per class, on these three datasets, respectively. Our comparative studies further show that the DHMMK achieved a 53% improvement against the baseline HMM approach. The comparative ROC curves also confirm the efficacy of the proposed lip contour based biometrics learned by DHMMK. We also show that the performance of linear and RBF SVM is comparable under the frame work of DHMMK.     

基于拉普拉斯脸和隐马尔可夫的视频人脸识别

提出了一种基于拉普拉斯脸和隐马尔可夫模型的视频人脸识别方法。在训练过程中，采用拉普拉斯脸方法将每一视频序列中的人脸图像映射到拉普拉斯空间，将降维后的特征作为观测值，通过隐马尔可夫模型得到每一训练视频的统计特性和时间动态特性。在识别过程中，用每一个训练视频的隐马尔可夫模型来分析测试视频的时间动态特性，计算出每一训练模型产生该序列的概率，概率最大值所对应的模型就是待识别序列所属的类别。实验结果表明，该方法能够很好地进行视频人脸识别。     

基于HMM和SVM的环境声音分类

提出了一种利用隐马尔可夫模型和支持向量机作为两级分类器的分类方法,实现对语音、杯碟碰撞声、开门和关门声、口哨声以及电话铃声五种环境声音的分类。对于采集和预处理后的环境声音信号,首先在第一级采用HMM模型进行初步分类,找出概率最大的两类,确定每种环境声音最有可能属于的类别,然后采用第二级SVM分类器作出进一步的判断。实验结果表明,相对于单独使用两者中任何一种作为分类器的分类方法,该方法对环境声音的识别具有更高的分类准确性。     

基于HMM-SVM的图像型火焰识别

针对单一的隐马尔科夫模型在图像型火灾探测中误报率偏高的问题,提出了隐马尔科夫模型和支持向量机相结合的图像型火焰识别算法。对捕获到的图像进行运动区域检测和颜色分析,提取疑似火焰区域,利用隐马尔科夫模型计算疑似区域与火焰模型的相似度,并输入到训练好的支持向量机进行二次识别。实验结果表明,与传统单一隐马尔科夫模型相比,该方法可以有效地降低误报率,提高火焰识别准确性。     

SVM和HMM混合模型在人脸识别中的应用

采用支持向量机（SVM）和隐马尔可夫模型（HMM）相结合的方法进行人脸识别。首先对照片中的人脸进行定位,从定位区域提取人脸各个器官的独立基特征,然后使用支持向量机和隐马尔可夫混合模型对定位区域进行人脸识别。利用SVM和HMM结合的优点,取得较高的识别率。     

一种基于DSmT和HMM的序列飞机目标识别算法

针对姿态多变化的飞机自动目标识别中的低识别率问题, 提出了一种基于DSmT (Dezert-Smarandache theory)与隐马尔可夫模型(Hidden Markov model, HMM)的飞机多特征序列信息融合识别算法(Multiple features and sequential information fusion, MFSIF). 其创新性在于将单幅图像的多特征信息融合识别和序列图像信息融合识别进行有机结合.首先, 对图像进行二值化预处理, 并提取目标的Hu矩和轮廓局部奇异值特征; 然后, 利用概率神经网络(Probabilistic neural networks, PNN)构造基本信度赋值(Basic belief assignment, BBA); 接着, 利用DSmT对该图像的不同特征进行融合,从而获得HMM的观察值序列;再接着, 利用隐马尔可夫模型对飞机序列信息融合, 计算观察值序列与各隐马尔可夫模型之间的相似度, 从而实现姿态多变化的飞机目标自动识别;最后, 通过仿真实验, 验证了该算法在飞机姿态发生较大变化时, 依然可以获得较高的正确识别率,同时在实时性方面也可以满足飞机目标识别的要求. 另外, 在飞机序列发生连续遮挡帧数τ ≤ 6的情况下, 也具有较高的飞机目标正确识别率.     

隐马尔可夫模型及其最新应用与发展①

隐马尔可夫模型是序列数据处理和统计学习的一种重要概率模型,已被成功应用于许多工程任务中。首先介绍了隐马尔可夫模型的基本原理,接着综述了其在人的行为分析、网络安全和信息抽取中的最新应用。最后对最近提出来的无限状态隐马尔可夫模型的原理及最新发展进行了总结。     

基于隐马尔可夫模型的音乐分类

音乐类型（Genre）是应用最普遍的管理数字音乐数据库的方式,提出一种基于隐马尔可夫模型（Hidden Markov Models,HMMs）的音乐自动分类方案。在考虑传统的音色特征（Timbre）的同时,将另一重要特征节奏（Tempo）也加以考虑,并通过bagging训练两组HMM进行分类,达到了良好的效果。从结构、状态数和混合高斯模型数三个方面进行了参数优化,找到了最佳的HMM参数。在音乐数据集GTZAN上对传统模型和新模型分类效果进行了测试,结果表明考虑了节奏特征的HMM分类效果更佳。