基于隐马尔可夫模型局部最优状态路径的数据重建算法

该文提出了基于隐马尔可夫模型局部最优状态路径的数据重建(LOPDI)算法。该算法假设语音特征矢量是一个L状态隐马尔可夫模型的输出序列,基于局部最优状态路径估计产生语音特征矢量的次最优状态序列,并按最大后验概率准则(MAP)重建出缺失矢量。实验表明,LOPDI算法能够显著提高语音识别系统对加性噪声的鲁棒性。     

融合边界信息的语音样例快速检索

提出了一种融合音素边界信息的语音样例快速检索方法。该方法首先提取查询样例和测试集的音素后验概率;然后,运用层次凝聚聚类算法将音素后验概率序列分段（即音素边界检测）,计算每个分段的平均向量并将其分别组成新查询和新索引,再运用动态时间规整进行语音样例的检索;最后,使用虚拟相关反馈技术对检索结果进行修正。实验结果表明:尽管此方法的检索精度略低于直接运用动态时间规整进行检索的检索精度,但其检索速度大大优于后者,且与其他相关文献提出的方法相比,此方法在检索速度方面也具有明显优势。      

一种全自动的MSTAR SAR目标图像分割方法

狄利克雷过程混合模型(Dirichlet Process Mixture,DPM)作为一种非参数概率统计模型,可以有效应用于SAR图像的非监督分类。文中提出一种全自动的MSTAR坦克SAR图像分割方法。该方法首先基于DPM确定出图像中的类别数目,接着使用马尔科夫随机场(Markov Random Field,MRF)对所得图像类别概率的空间邻域关系进行描述,然后结合标号代价能量优化算法获取最终的分割结果。该方法在不需要人为指定待分割图像类别个数的同时,能较好地保证分割结果的合理性与连贯性。在MSTAR SAR数据上的实验表明了其有效性。     

分布式潜在狄利克雷分配研究综述

作为主题模型中最重要的机器学习模型,潜在狄利克雷分配问题在包括自然语言处理和信息检索等各领域展现出不可替代的地位.求解潜在狄利克雷分配问题主要采用变分推断和马尔科夫链蒙特卡洛两类算法.目前,数据的增长速度早已远超硬件能力的增长速度,因此在大数据时代,分布式平台的使用成为大数据训练的主流解决方案.利用分布式系统加速对潜在狄利克雷的训练和推断,成为相关研究领域的热门问题.本文对分布式潜在狄利克雷分配算法的相关工作进行分类整理和评估,对未来该领域的研究方向具有引导作用.     

基于HMM和PNN的混合语音识别模型

基于隐马尔可夫模型(HMM)和改进后的概率神经网络(PNN)模型提出了一种用于语音识别的混合模型,该模型首先利用HMM生成最佳语音状态序列,然后对最佳状态序列进行时间规整,最后通过PNN神经网络进行分类识别。给出了HMM参数训练及时间规整的算法。实验结果表明这种模型比HMM具有更好的识别效果。     

EM算法在杂波环境下机动目标跟踪中的应用研究

EM(Expectation-Maximization)作为一种迭代求解非完备数据条件下极大似然(后验)参数估计问题的方法,在目标跟踪领域主要应用于被动跟踪及实时性要求不高的目标环境.该文推广了L.A.Johnston的理论成果,推导得出了一种基于AECM(Alternative Expectation ConditionMaximization)方法的杂波环境下实时机动目标跟踪箅法,算法中后验模型概率与关联概率由隐马尔科夫模型滤波计算得到.仿真计算表明,所提算法跟踪精度与IMM-PDA性能相当,算法是有效的.     

基于语速调整和音位属性后验概率的音素识别

基于语音事件检测的自动语音识别是当前研究的热点问题。针对说话人语速变化导致模型适应性差的问题,提出了一种语速自适应调整算法。该算法以语句为单位,采用连续变化的帧长与帧移间隔对语句进行归一化调整,使调整后速率与语料库平均速率一致,减小速率因素对模型训练的影响;另外,通过计算音位属性的后验概率向量间夹角,得到测试集的语速,相比采用训练模型的语速检测方法减轻了系统负担。本文将语速调整算法应用于音位属性的提取,并对音位属性特征进行非线性变换,最后采用隐马尔科夫模型进行建模,实验表明:经过语速调整后,音素的平均持续帧数较为恒定,动态变化范围减小,使得音素识别率提升了1.3%。      

扩频通信与扩频调制技术

本文提出一种用于 CDMA 扩频系统中窄带干扰抑制的基于隐马尔科夫模型的新颖非线性估计算法。所提出的算法组合了一个递归隐马尔科夫模型估计器,一个卡尔曼滤波器和一个递归预测误差参数估计算法。文中说明了所提出的算法的性能不仅优于用于窄带干扰抑制的非线性滤波技术,而且也优于基于交叉耦合期望最大化的算法,并且有更快、更顽健的收敛特性。参17     

基于容积卡尔曼滤波的自适应IMM算法

在目标跟踪中,针对无迹卡尔曼滤波在高维状态下容易出现滤波精度下降甚至发散的问题,提出了一种自适应交互式多模型容积卡尔曼滤波算法。首先,将容积卡尔曼滤波引入到交互式多模型算法中,提高了算法在高维非线性情况下的滤波精度。然后,结合马尔科夫参数自适应思想,在模型概率更新阶段,利用后验信息修正马尔科夫概率转移矩阵,增大匹配模型的转移概率,进一步提高模型之间的切换速度。最后,在目标跟踪仿真中利用"当前"统计模型对算法进行验证,实验结果证明了算法的有效性。     

隐马尔科夫模型修正的交互多模跟踪算法

针对交互式多模型目标跟踪算法中模型转移概率固定对跟踪精度造成的影响,提出了一种隐马尔科夫模型修正的模型转移概率自适应交互多模跟踪算法。该算法通过对跟踪过程建立隐马尔科夫模型,采用Viterbi 算法求解修正系数,在检测到目标运动发生机动性变化时,将修正系数用于交互式多模型算法以达到实时调整模型转移概率的目的。仿真结果表明,该算法的跟踪结果优于传统的交互式多模型算法,具有很好的稳健性、实时性,有效降低了主观因素对跟踪精度造成的影响。     

Infinite hidden Markov models for unusual-event detection in video.

We address the problem of unusual-event detection in a video sequence. Invariant subspace analysis (ISA) is used to extract features from the video, and the time-evolving properties of these features are modeled via an infinite hidden Markov model (iHMM), which is trained using "normal"/"typical" video. The iHMM retains a full posterior density function on all model parameters, including the number of underlying HMM states. Anomalies (unusual events) are detected subsequently if a low likelihood is observed when associated sequential features are submitted to the trained iHMM. A hierarchical Dirichlet process framework is employed in the formulation of the iHMM. The evaluation of posterior distributions for the iHMM is achieved in two ways: via Markov chain Monte Carlo and using a variational Bayes formulation. Comparisons are made to modeling based on conventional maximum-likelihood-based HMMs, as well as to Dirichlet-process-based Gaussian-mixture models.     

Multiresolution image classification by hierarchical modeling withtwo-dimensional hidden Markov models

This paper treats a multiresolution hidden Markov model for classifying images. Each image is represented by feature vectors at several resolutions, which are statistically dependent as modeled by the underlying state process, a multiscale Markov mesh. Unknowns in the model are estimated by maximum likelihood, in particular by employing the expectation-maximization algorithm. An image is classified by finding the optimal set of states with maximum a posteriori probability. States are then mapped into classes. The multiresolution model enables multiscale information about context to be incorporated into classification. Suboptimal algorithms based on the model provide progressive classification that is much faster than the algorithm based on single-resolution hidden Markov models     

A Dynamic Hierarchical Clustering Method for Trajectory-Based Unusual Video Event Detection

The proposed unusual video event detection method is based on unsupervised clustering of object trajectories, which are modeled by hidden Markov models (HMM). The novelty of the method includes a dynamic hierarchical process incorporated in the trajectory clustering algorithm to prevent model overfitting and a 2-depth greedy search strategy for efficient clustering.      

Hidden Markov Models With Stick-Breaking Priors

The number of states in a hidden Markov model (HMM) is an important parameter that has a critical impact on the inferred model. Bayesian approaches to addressing this issue include the nonparametric hierarchical Dirichlet process, which does not extend to a variational Bayesian (VB) solution. We present a fully conjugate, Bayesian approach to determining the number of states in a HMM, which does have a variational solution. The infinite-state HMM presented here utilizes a stick-breaking construction for each row of the state transition matrix, which allows for a sparse utilization of the same subset of observation parameters by all states. In addition to our variational solution, we discuss retrospective and collapsed Gibbs sampling methods for MCMC inference. We demonstrate our model on a music recommendation problem containing 2250 pieces of music from the classical, jazz, and rock genres.     

基于二阶隐马尔可夫模型的文本信息抽取

隐马尔可夫模型是文本信息抽取的重要方法之一.在一阶隐马尔可夫模型中,假设状态转移概率和观察值输出概率仅依赖于模型当前的状态,一定程度降低了信息抽取的精确度.而二阶隐马尔可夫模型合理地考虑了概率和模型历史状态的关联性,对错误信息有更强的识别能力.提出了基于二阶隐马尔可夫模型的文本信息抽取算法;分析了二阶隐马尔可夫模型在文本信息抽取中的有效性;仿真实验表明,新的算法比基于一阶隐马尔可夫模型的算法具有更高的抽取精确度.     

基于隐Markov模型和Bresenham算法的层位追踪法

在探地雷达测量目的中,层位追踪是正确进行地质解释的基础。该文提出一种基于隐Markov模型和Bresenham算法的层位追踪法,该方法通过对探地雷达回波时延的跟踪,初步实现层位边缘检测,在此前提下进一步实现边缘连接,最终完成层位追踪。对实测数据的处理结果表明:该文提出的层位追踪法在追踪精确度上远远优于单纯利用隐Markov模型的层位追踪法。     

一种基于隐马尔可夫模型的IDS异常检测新方法

提出一种新的基于隐马尔可夫模型的异常检测方法,主要用于以shell命令或系统调用为原始数据的IDS。此方法对用户(或程序)行为建立特殊的隐马尔可夫模型,根据行为模式所对应的序列长度对其进行分类,将行为模式类型同隐马尔可夫模型的状态联系在一起,并引入一个附加状态。由于模型中各状态对应的观测值集合互不相交,模型训练中采用了运算量较小的的序列匹配方法,与传统的Baum-Welch算法相比,大大减小了训练时间。根据模型中状态的实际含义,采用了基于状态序列出现概率的判决准则。利用UNIX平台上用户shell命令数据进行的实验表明,此方法具有很高的检测准确性,其可操作性也优于同类方法。     

基于层次隐马尔科夫模型和变长语义模式的入侵检测方法

分析了定长系统调用短序列在入侵检测系统应用中的不足,利用进程堆栈中的函数调用返回地址信息,提出了一种变长短序列的语义模式切分方法,并根据这种变长语义模式之间的层次关系和状态转移特性提出了基于层次隐马尔科夫模型的入侵检测方法.实验结果表明,与传统的隐马尔科夫模型相比,基于层次隐马尔科夫模型的入侵检测方法具有更好的检测效果.     

Application of the Gibbs distribution to hidden Markov modeling inspeaker independent isolated word recognition

A method of integrating the Gibbs distributions (GDs) into hidden Markov models (HMMs) is presented. The probabilities of the hidden state sequences of HMMs are modeled by GDs in place of the transition probabilities. The GDs offer a general way in modeling neighbor interactions of Markov random fields where the Markov chains in HMMs are special cases. An algorithm for estimating the model parameters is developed based on Baum reestimation, and an algorithm for computing the probability terms is developed using a lattice structure. The GD models were used for experiments in speech recognition on the TI speaker-independent, isolated digit database. The observation sequences of the speech signals were modeled by mixture Gaussian autoregressive densities. The energy functions of the GDs were developed using very few parameters and proved adequate in hidden layer modeling. The results of the experiments showed that the GD models performed at least as well as the HMM models     

基于最大熵的隐马尔可夫模型文本信息抽取

文本信息抽取是处理海量文本的重要手段之一.最大熵模型提供了一种自然语言处理的方法.提出了一种基于最大熵的隐马尔可夫模型文本信息抽取算法.该算法结合最大熵模型在处理规则知识上的优势,以及隐马尔可夫模型在序列处理和统计学习上的技术基础,将每个观察文本单元所有特征的加权之和用来调整隐马尔可夫模型中的转移概率参数,实现文本信息抽取.实验结果表明,新的算法在精确度和召回率指标上比简单隐马尔可夫模型具有更好的性能.