二阶隐马尔可夫模型及其在计算语言学中的应用

介绍了在观测噪声和马尔可夫链不相互独立的条件下改进的隐马尔可夫模型(HMM)的结构．在传统的隐马尔可夫模型的基础上研究了改进模型的Baum-Welch算法，并导出了改进模型的参数估计公式．     

基于改进的隐马尔科夫模型的词性标注方法

针对隐马尔可夫(HMM)词性标注模型状态输出独立同分布等与语言实际特性不够协调的假设,对隐马尔可夫模型进行改进,引入马尔可夫族模型。,该模型用条件独立性假设取代HMM模型的独立性假设。将马尔可夫族模型应用于词性标注,并结合句法分析进行词性标注。用改进的隐马尔可夫模型进行词性标注实验。实验结果表明:与条件独立性假设相比,独立性假设是过强假设,因而基于马尔可夫族模型的语言模型更符合语言等实际物理过程;在相同的测试条件下,马尔可夫族模型明显好于隐马尔可夫模型,词性标注准确率从94.642%提高到97.126%。     

基于光流及耦合隐马尔可夫模型的动态手势识别

基于块的相关算法来计算光流，并利用光流跟踪双手的运动．双手的运动轨迹取相邻两点的速度向量，经8方向链码量化后作为观察向量．和直接利用位置信息相比较，提高了识别的鲁棒性．采用耦合隐马尔可夫模型来识别双手动态手势，提出并实现了最大后验概率的训练．对6个双手动态手势的试验表明，耦合隐马尔可夫模型(CHMM)比常规隐马尔可夫模型(HMM)能更有效地对双手动态手势建模．     

基于分层时序模型的步态识别算法

以隐马尔可夫模型和动态纹理模型为代表的动态贝叶斯网是描述步态序列的重要方法,但都存在一些不足之处.提出了一种新的动态贝叶斯网——分层时序模型,该方法采用分段线性逼近非线性和用各段的动态纹理模型作为隐状态,将隐马尔可夫模型和动态纹理模型做了结合,充分发挥了其优势.该方法在CMU Mobo步态数据库和CASIA步态数据库B上做了评估,结果充分显示了分层时序模型的高性能.     

基于因子分析的隐马尔可夫模型

状态输出概率密度为对角协方差矩阵高斯分布的隐马尔可夫模型(HMM-DG)在帧内特征相关建模方面存在缺陷．本文将因子分析方法与HMM-DG的混合高斯建模相结合,提出了一种具有弹性的帧内特征相关隐马尔可夫模型框架一基于因子分析的隐马尔可夫模型(HMM-FA)．并导出了HMM-FA的训练算法．理论分析和仿真实验都表明：在训练数据相同的条件下,HMM-FA的性能优于HMM-DG。     

一类隐马尔可夫模型的若干极限性质

假定隐藏的马尔可夫链为非齐次，研究隐非齐次马尔可夫模型的一些强极限定理．首先在引理中得出了隐非齐次马尔可夫模型的一些性质，从而导出了隐非齐次马尔可夫模型的三元函数一类平均值的强极限定理．作为定理的推论，得到了隐非齐次马尔可夫模型状态出现频率的一类强极限定理．隐马尔可夫模型可应用于弱相依随机变量的建模上，也可用作研究发音过程、神经生理学与生物遗传等方面的工具．     

基于OpenCL的隐马尔可夫模型的GPU并行实现

隐马尔可夫模型(HMM)是建立在马尔可夫链的基础上的统计模型.虽然隐马尔可夫模型是一种计算高效的机器学习模型,但是当处理的数据集规模过于庞大时,分析的时间太长.因此,我们有必要研究隐马尔可夫模型的并行化设计,以提高模型的运算速度.近年来,开放计算语言(OpenCL)的出现,使得设计通用的并行程序成为可能.该文,我们分析了隐马尔可夫模型三类算法的并行特性,并设计基于OpenCL的并行实现.实验结果表明,隐马尔可夫模型在GPU上的并行化实现最高获得了640倍的加速比.     

用动态贝叶斯网络构建协同过滤推荐的新方法

提出了一种基于动态贝叶斯网络的隐马尔可夫协同过滤推荐的新方法。基于隐马尔可夫模型的协同过滤方法模拟用户在浏览网页时的行为,根据用户浏览网页时的行为建立最近邻集合。在基于隐马尔可夫协同过滤推荐技术的基础上,构造基于DBN的推荐模型。当有新类型的数据加入时,用此模型来更新推荐模型。实验表明,此方法具有较高的推荐质量。     

带驻留时间隐马尔可夫模型学习算法的改进

对隐马尔可夫模（hidden Markov model：HMM）的状态驻留时间的概率进行了修订,给出了改进的带驻留时间隐马尔可夫模型的结构,并在传统的隐马尔可夫模型（traditional hidden Markov model：THMM）的基础上讨论了新模型的前向-后向变量,导出了新模型的前向-后向算法的迭代公式,同时也给出了新模型各个参数的重估公式．     

基于隐马尔可夫模型的电力信息系统动态威胁定量分析

针对典型电力信息系统的网络威胁定量评估问题，提出了基于网络入侵检测系统（network intrusion detection syetem，NIDS）报警信息和隐马尔可夫模型的网络威胁动态分析方法HMM-NIDS。该方法充分利用NIDS报警信息，从优先级、严重度、资产值和可信度4个方面分析NIDS报警信息，给出了报警威胁定量描述和分类方法，优化了隐马尔可夫模型中的观测矩阵；基于贝叶斯网络分析攻击成功的可信度，避免NIDS误警信息干扰；基于改进的隐马尔可夫模型，融合得到系统的动态风险量化值。基于Darpa2000实验场景模拟DDoS攻击，通过对比实验，验证了所提方法的有效性和优越性。     

采用数学建模方法对通用分组无线业务网络的性能分析

建立了一个二维连续时间的马尔可夫链模型，描述了通用分组无线业务(GPRS)和语音业务在一定的动态信道分配方案下对有限信道资源的共享。采用一种近似求解方法求得上述马尔可夫链的稳态解，通过数值计算可以估计出GSM／GPRS网络的一些主要性能，如呼叫阻塞率、数据平均传输速率、信道利用率等。计算结果表明，该模型对于估计网络性能是有效的，对于网络优化也具有一定的辅助作用。     

基于改进的隐马尔科夫模型的语音识别方法

针对隐马尔可夫（HMM）语音识别模型状态输出独立同分布等与语音实际特性不够协调的假设以及在使用段长信息时存在的缺陷,对隐马尔可夫模型进行改进,提出马尔可夫族模型。马尔可夫族模型可看作一个数学上由多个马尔可夫链构成的多重随机过程,HMM模型则是双重随机过程,因而,HMM模型可视为马尔可夫族模型的特例。马尔可夫族模型用条件独立性假设取代了HMM模型的独立性假设。相对条件独立性假设,独立性假设是过强假设,因而,基于马尔可夫族模型的语音模型更符合语音实际物理过程。在马尔可夫族语音识别模型中引入状态段长信息,能自动根据语速对语音单元段长进行调整。非特定人连续语音实验结果表明,利用状态段长信息的改进语音识别模型比经典HMM模型的性能明显提高。     

基于隐马尔可夫模型的DNA序列识别

利用隐马尔可夫模型训练中不同结构的DNA序列的L值分布范围不同的特点,对传统多类投票模型进行改进,提出一种优于传统算法的快速训练算法,该算法只需训练出一类隐马尔可夫模型参数.对DNA内含子和外显子序列进行识别,平均识别率达到了90.8%.与支持向量机相比,隐马尔可夫模型在解决多分类问题方面具有优势,不但计算时间少,而且识别率高.     

基于HMM／MLFNN混合结构的说话人辨认研究

将隐马尔可夫模型与人工神经网络相结合既利用ＨＭＭ能够较好地描述动态时间序列又ＡＮＮ静态分类能力强的特点，应用于说话人辨认。本文将一个多层前馈神经网络与ＨＭＭ相结合构成混合模模型，与以往的方法不同。具有所需训练数据量小，推广性能良好的特点。     

基于隐马尔可夫的恐怖事件预测模型

为了对恐怖事件实现早期预警,通过分析恐怖事件的网络结构,构建了恐怖事件的预测模型。利用隐马尔可夫模型与贝叶斯网络方法,通过分析一些先前发生的事件来预测恐怖分子在未来一段时间可能发动的恐怖活动,实现对相关情报的侦测,预防可能发生的恐怖事件。同时,对完备数据与不完备数据条件下的恐怖事件的预测算法进行分析。结果表明,提出的预测方法与使用监测软件得到的结果相近,验证了隐马尔可夫模型的合理性和贝叶斯网络方法的有效性。不足之处在于,监测过程获取的情报信息较少,一定程度上影响了模型结果的精确度。     

基于混合条件模型的Web信息抽取

针对传统Web信息抽取的隐马尔可夫模型对初值十分敏感和在实际训练中极易得到局部最优模型参数,提出了一种最大熵和最大熵马尔可夫模型相结合的条件模型.该方法对输入的Web页面进行解析并构建HTML树,通过计算HTML子树结点的熵定位数据域,允许观察值表示任意重叠特征(像词、大写、HTML标记、语义)和定义状态序列给予观察序列的条件概率实现了Web信息抽取.实验结果表明,新的方法在精确度和召回率指标上比传统隐马尔可夫模型和最大熵马尔可夫模型具有更好的性能.     

图像预测误差域的动态补偿安全隐写算法

为了保证载密图像嵌入大量信息后的高阶统计安全性,该文将图像马尔可夫链模型推广至图像预测误差域,根据动态补偿的原理提出运用于图像预测误差域的二阶统计保持隐写算法。该算法根据隐写对图像预测误差马尔可夫链模型统计分布的改变情况,指导嵌入函数,运用后嵌入的隐秘信息动态补偿前期嵌入对图像二阶统计特性的改变,从而在不损失嵌入容量的情况下提高隐写的统计安全性。实验表明,该隐写算法在较大容量的数据嵌入过程中,能很好保持图像统计特性,提高隐写安全性。     

关于m重隐非齐次马尔可夫模型的混合性

研究了m重隐非齐次马尔可夫模型的混合性.首先给出了m重非齐次马尔可夫链混合性的定义,然后证明了m重非齐次马尔可夫链满足混合性的充分条件,最后将所得结果推广到了m重隐非齐次马尔可夫模型上,为进一步研究多重隐马尔可夫模型提供了理论基础.     

基于广义隐马尔可夫模型的网页信息抽取方法

针对网页所特有的基于版面结构的特点，利用基于视觉的网页分割算法VIPS对网页分块，得到一种新的状态转移序列，取代了传统的状态转移序列。通过二阶Markov链改进广义隐马尔可夫模型（GHMM）的状态转移和输出观测值假设条件，提出了二阶的广义隐马尔可夫模型。最后通过实验说明改进的GHMM对于网页信息抽取有很高的精确率。     

基于改进的隐马尔可夫模型的网页预取

为提高基于隐马尔可夫模型(HMM:Hidden Markov Model)的网页预取精度,对经典隐马尔可夫模型的两个前提假设进行了扩展,推导出新模型中计算观测序列概率的公式.由此构建出可用于网页预取的高阶隐马尔可夫模型,同时为降低高阶隐马尔可夫模型的空间复杂度,给出了构建树状状态空间存储访问序列的算法.介绍了将改进的隐马尔可夫模型应用于网页预取的具体方法,通过对比实验证实该方法的预取准确度提高了7%.