基于互信息的中文姓名识别方法

提出并实现了一个基于互信息的中文姓名识别方法,该方法充分挖掘姓名和其上下文信息的关联程度以及姓名用字之间关联程度的信息,引入互信息对其进行定量的描述;提出中文姓名的上下文互信息、内部互信息等概念,并对其建立了动态评价函数,开放测试结果表明,该方法有效地提高了中文姓名识别的效果,保证了较高的精确率和召回率。     

基于条件互信息下聚类的朴素贝叶斯分类算法

 采用条件互信息来度量任意2个条件属性之间的关联程度,采用互信息度量各条件属性与类属性间的关联程度,以此作为将各条件属性进行聚类的准则,提出一种新的将条件属性进行聚类的分组技术.同时,结合朴素贝叶斯分类算法,构造了改进的朴素贝叶斯分类模型.通过仿真实验表明该文提出的算法具有较好的分类性能.     

动态心电的交互信息及分析技术研究

研究发现,动态心电图RR间期序列的交互信息,与随机运动和周期运动的交互信息明显不同,处于两者之间.1 d中不同时段,患单支冠脉病变、多支冠脉病变和糖尿病病人RR间期交互信息的特征与正常健康人存在差异.同样的情况下,病状越严重,相应RR间期的交互信息越大.     

互信息和核熵成分分析的油中溶解气体浓度建模

针对变压器油中溶解气体浓度的预测问题,提出了一种基于互信息和核熵成分分析(KECA)的油中溶解气体浓度预测建模方法。首先,用标准互信息变量选择方法确定模型的输入变量并对选取的输入变量进行相重构;然后,利用Renyi熵信息测度确定KECA核参数并采用KECA对相空间进行特征提取;最后,以核熵成分作为机器学习极限学习机(ELM)的输入,建立变压器油中溶解气体浓度的预测模型。实验结果表明,与灰色模型、支持向量机、BP神经网络建模方法相比,本文提出的方法能够充分利用油中溶解气体浓度信息,因而具有较优的预测精度和泛化能力。     

基于排序互信息的无监督特征选择

根据排序问题的单调先验知识,无监督学习问题中的观测属性之间也具备单调关系;否则该属性与排序无关,为冗余属性.基于排序互信息反应的两属性之间的单调关系,提出用每个属性与其他属性之间的平均互信息,来衡量每个属性与排序学习的相关程度,具有最高的平均互信息即为排序最相关的属性.     

基于互信息的并行约简

将并行约简理论和信息论相结合，提出了信息论意义下的并行约简概念（原并行约简理论是代数意义下的并行约简），并利用互信息的概念提出了基于互信息的并行约简算法．信息论意义下的并行约简的优点在于：处理不一致数据时可以保留比代数意义下的并行约简更多的分类信息．最后从理论上探讨了信息论并行约简和代数并行约简的一致性和差异性，将两者进行了有机统一．     

基于互信息的差异共表达致病基因挖掘方法

为了挖掘基因表达数据中的差异共表达致病基因模块,提出了基于互信息和最大团相结合的方法.互信息用于度量基因表达谱之间的相互关系,计算任意2条基因表达谱在2种不同样本中的互信息值,得到2个互信息矩阵M1和M2,选定2个阈值T1和T2(T1T2)将矩阵M1和M2二值化,并通过M1和M2中元素的逻辑"与"运算得到图的邻接矩阵,从邻接矩阵挖掘出的最大团则为差异共表达致病基因模块.将该方法应用于Colon数据,选定T1=2.2,T2=1.0,得到6个相互重叠的最大团,实验结果表明,该方法能有效挖掘出差异共表达致病基因模块.     

基于点互信息的全局词向量模型

提出了一种基于点互信息的全局词向量训练模型。该模型为了避免GloVe词向量模型中使用条件概率刻画词语关系时所产生的缺点,使用了另一种相关信息——联合概率与边际概率乘积的比值——来刻画词语间的关系。为了验证模型的有效性,在相同条件下,利用GloVe模型和我们的模型训练词向量,然后使用这2种词向量分别进行了word analogy以及similarity的实验。实验表明,模型的准确率在word analogy的Semantic问题中比GloVe模型表现更好,分别在100维、200维、300维的词向量实验中,准确率提升了10.50%、4.43%、1.02%,而在similarity的实验中,模型准确率提升也达5%~6%。结果表明,模型可以更有效地捕捉词语的语义。     

基于混合互信息的决策树入侵检测

为了提高入侵检测的准确度和速度,针对入侵规则属性相关性的特点,将属性与类间的互信息与属性间的互信息结合,提出了一种新的混合互信息的决策树分类算法.在对此算法进行了算法设计和分析的基础上,将由此算法构造的决策树分类方法对入侵规则进行组织,改变了传统的入侵规则逐条串行检测,以增加预处理时间为代价,提高了数据包的过滤速度和准确度.实验分析表明,应用该算法的入侵检测系统比使用传统方法具有更高的准确率和速度.     

基于互信息与梯度相似性相结合的医学图像配准方法

针对传统互信息配准方法未利用图像空间信息的缺点,提出一种将互信息与梯度相似性结合的医学图像配准方法.待配准图像的每组对应点的梯度相似性包括方向相似性和模值相似性.待配准图像整体梯度相似性系数由各对应点对的梯度相似性之和决定,该系数与传统互信息的乘积作为图像配准的测度.利用2D多模图像分别进行平移、旋转、采样,得到配准函数曲线,并给出具体的配准实例.实验结果表明,该方法比传统互信息有更高的鲁棒性和精度.     

马尔科夫调制泊松点过程的熵率和相互信息率?

显示地导出了一类连续时间参数隐马尔科夫模型-马尔科夫调制泊松点过程(MMPP)的熵率和相互信息率.模拟研究表明这类隐马尔科夫模型参数的最大似然估计的精度和效与观测过程和隐过程之间的相互信息率密切相关.一般地,相互信息率可作为MMPP中各个混合分量广义距离(或差别性)的一个度量.     

人脸识别中基于互信息的特征优选

人脸识别领域中常用Gabor小波系数表示人脸特征.然而,提取的人脸Gabor特征是高维数据,不可避免存在冗余和随机噪声的干扰.为了有效利用Gabor特征进行人脸识别,提出一种新的Gabor特征选取方法.首先计算训练集上的任两张人脸图像的Gabor特征差,生成类内空阃和类外空间.用单个Gabor特征训练筒单两值分类器,以其在类内空间和类外空间的分类错误率作为判据评价该Gabor特征的分类能力.在选取分类错误低的特征的同时还要再评估候选特征与已选特征间的互信息,这样优选出具有无冗余、低误差率的特征.最后对这些优选的Gabor特征进行主成分分析和线性判别分析完成人脸识别.在CAS-PEAL大型人脸数据库上的实验结果表明,所提出的方法不但可大大降低Gabor特征的维数,而且还有效提高了识别精度.     

基于互信息的文本自动摘要

现有的文本自动摘要技术大多是运用向量空间模型将文本作为一个整体进行处理,忽略了段落及段落之间的关联程度,导致提取的摘要不能够全面反映所包含的主题,针对这一问题,文章提出了基于互信息的文本自动摘要方法。该方法利用互信息对文本中词语、句子及段落之间的关联程度进行计算,依据关联程度将整个文本划分成包含不同主题的较小单元,并针对每一单元运用优化的句子权重计算方法进行主题句提取,然后利用主题句生成文本摘要。实验验证了方法的有效性,在自动摘要提取方面取得了良好效果。     

一种新的基于互信息的图像配准方法

针对目前基于互信息图像配准方法中存在的不足,提出结合图像二维信息(如轮廓和边缘)与互信息的图像配准算法.它首先利用小波多尺度积提取两幅图像的特征点及其角度信息,再根据得到的特征点和角度信息,定义了特征点对互信息匹配准则,得到相应的匹配点对.最后进行了仿真实验,并将结果与由相关度、对齐度准则得到的结果进行比较,所提出的算法匹配误差最小.结果表明该算法具有匹配精确、鲁棒性好和效率高等优点.     

基于互信息的语言模型回退平滑算法

针对二元模型,提出了一种基于互信息的回退（MI Back-off）平滑算法．从互信息的角度,分析词之间的搭配关系,根据模型中每个二元对的互信息对其概率进行不同程度的折扣,并利用低阶模型对零概率事件进行补偿,通过极小化困惑度的原则体现新算法的合理性．在不同类别测试集下,该平滑算法与传统Katz平滑算法相比,模型困惑度下降均超过20％。     

基于最大区域互信息量的生物细胞图像分割

针对基于互信息量的阈值分割算法没有考虑像素的空间结构信息以及分割后图像与原图像之间关系的问题,提出了一种基于最大区域互信息量的图像分割算法.以区域互信息量作为目标函数,综合考虑图像各像素的邻域数据以及图像内在空间信息,利用粒子群算法找出图像分割的最佳阈值,克服了基于最大互信息量分割方法的不足.     

基于二次互信息的特征选择算法

将二次互信息(mutual information)用作模式分类问题中特征选择的准则,分析了该准则在再生核希尔伯特空间中的几何意义.在二次互信息准则基础上,提出了基于Parzen窗密度估计和后向删除策略的特征选择算法PW-QMI,同时针对大规模数据集的情况给出了基于高斯混合模型的算法GMM-QMI,以减小算法的计算复杂度.通过与相关度算法和SVM-RFE算法的实验比较,证明了该算法在特征选择问题上具有更为稳定的性能.     

基于互信息的分布式贝叶斯压缩感知

压缩感知理论应用于分布式认知网络中时,由于每个认知用户所处的信道环境差别很大,因此频谱感知的精度相差很大.为了提高感知的精度,提出了一种结合了分布式网络中的数据融合方法和压缩感知理论中的高效的数据处理方式的方法.首先,单个认知用户单独地运用压缩采样(CS)进行频谱的粗略感知,然后通过互信息的计算可以得到两两认知用户之间感知信息的差异,而差异大的两个认知用户之间会产生关联.认知用户的感知信息会按照这种关联进行共享.信息共享后,在每个认知用户端,基于贝叶斯推理的压缩感知恢复会重新进行来更新之前的感知结果.仿真结果表明,在感知精度与感知速率方面,算法性能均有改善.     

物理层抽象中平均互信息的精确计算方法

提出一种比特平均互信息(mean mutual information per bit,MMIB)物理层抽象技术平均互信息计算方法。该方法通过数学推导得到16QAM调制符号上各比特的对数似然比(log-likelihood ratio,LLR)的概率分布,并得到平均互信息计算解析表达式。仿真结果表明,提出的计算方法计算精度要明显好于现有方法,特别是在信噪比较低时,其相对误差仅为现有算法的1/5左右,能明显改善MMIB估计性能。     

物理层抽象中平均互信息的精确计算方法

提出一种比特平均互信息(mean mutual information per bit,MMIB)物理层抽象技术平均互信息计算方法.该方法通过数学推导得到16QAM调制符号上各比特的对数似然比(1og-likelihood ratio,LLR)的概率分布,并得到平均互信息计算解析表达式.仿真结果表明,提出的计算方法计算...