区间值信息系统的启发式属性约简

针对区间值信息系统中的属性约简问题,引入α-极大相容类的概念,定义区间值信息系统的属性间依赖度和信息熵,提出相应属性内(外)重要度的度量方法,给出一种统一的启发式属性约简算法,通过实验验证该算法的有效性,并分析不同相似水平α对约简结果的影响。     

基于条件信息熵的多值信息系统的属性约简

从信息论的角度提出了多值决策信息系统的信息熵和条件信息熵的概念,在此基础上提出了一种属性约简算法,以一种新的形式的属性重要性为启发式信息,减小了知识约简过程中的搜索空间,实验分析表明,该算法能得到多值信息系统的最小约简。     

区间值信息系统的决策属性约简

借助于属性区间值的相似程度在区间值信息系统上定义了一种具有变精度的相容关系,讨论了在这种相容关系下决策区间值信息系统的决策属性约简与决策属性相对约简,并得到了求决策属性约简与决策属性相对约简的具体操作方法。     

不完备决策表属性约简的CIEARAWCC算法

不完备信息系统中的属性约简是粗集理论应用的难点。通过引入信息熵和条件信息熵,对信息系统中属性的必要性进行了定义,提出了一种基于条件信息熵的属性约简启发式算法。通过引入相对正域,有效地解决了不一致系统属性约简过程中产生的冗余属性问题,并分析了该算法的时间复杂度。最后,通过实例说明该算法能得到不完备决策表的最小相对约简。     

决策区间值信息系统的交互相容关系及属性约简

决策区间值信息系统的处理方法在解决实际问题中具有重要意义.定义了区间的相对包含度概念,进而提出区间的交互相似度、决策区间值信息系统的交互相容关系,从而克服了以往区间值信息系统方法忽略区间的交互关系的不足,提高了分类的准确性;讨论了交互相容关系下决策区间值信息系统的属性约简和相对属性约简,并给出了寻找约简和相对约简的具体操作方法.     

区间值属性决策树学习算法*

该文提出了一种区间值属性决策树的学习算法.区间值属性的值域不同于离散情况下的无序集和连续情况下的全序集,而是一种半序集.作为ID3算法在区间值意义下的推广,算法通过一种分割信息熵的极小化来选取扩展属性.通过非平稳点分析,减少了分割信息熵的计算次数,使算法的效率得到了提高.     

新的信息熵属性约简

在粗糙集不确定性度量公式中,模糊熵和模糊度是重要的度量方式。根据粗糙集不确定性度量中模糊熵和新的模糊度公式,提出了在决策信息系统中修正条件信息熵和相对模糊熵的概念,并分别用两种方式证明了熵在属性约简过程中的单调性。然后利用向前添加属性算法进行属性约简,约简结果在RIDAS(roughset based intelligent data analysis system)平台上进行识别率测试,通过实验对比分析了两种新的信息熵与条件信息熵的约简结果,为基于信息熵的属性约简提供了参考。     

粗糙集和信息熵的属性约简算法及其应用

阐述粗糙集理论和信息熵的基本概念,并为寻找属性约简的有效方法,提出一种基于粗糙集和信息熵的属性约简算法。在决策表中添加某个属性引起的互信息变化的大小,以反映该属性的重要性,并求相对约简。研究表明,该算法不仅能得到最优的决策规则,而且能够减少信息系统所需的搜索空间,得到更优的属性约简效果。     

基于多决策值等价类的属性约简

针对决策信息系统属性约简问题,引入条件属性的多决策值等价类概念,给出实现属性约简的必要条件,提出一种基于多决策值等价类的属性约简算法.该算法以单个条件属性的等价类的基为升序,对条件属性进行排序,逐一选择排序后的条件属性合并,直至合并后的条件属性子集的正域为全域,进一步判断其是否独立且不可区分关系与原信息系统的不可区分关系是否相同.当条件满足时,该条件属性子集即为决策信息系统的属性约简.通过实例验证了该算法求解属性约简的有效性.     

基于不完备区间值信息系统的决策粗糙集

在不完备区间值信息系统中,提出一种基于极大相容类的决策粗糙集模型。首先,针对不完备区间值信息系统中属性相似度存在的缺陷,对属性相似度进行改进。其次,在不完备区间值信息系统中,由于容差关系下建立粗糙集模型存在冗余度高、分类精度低的问题,采用极大相容类代替等价类,结合贝叶斯最小风险决策原则,建立决策粗糙集模型。经证明,基于极大相容类建立粗糙集模型可有效提高分类精度。最后,基于正域分布不变的原则提出基于区分矩阵的属性约简算法并将该算法应用于实例。     

Attribute reduction in interval-valued information systems based on information entropies

Interval-valued data appear as a way to represent the uncertainty affecting the observed values. Dealing with interval-valued information systems is helpful to generalize the applications of rough set theory. Attribute reduction is a key issue in analysis of interval-valued data. Existing attribute reduction methods for single-valued data are unsuitable for interval-valued data. So far, there have been few studies on attribute reduction methods for interval-valued data. In this paper, we propose a framework for attribute reduction in interval-valued data from the viewpoint of information theory. Some information theory concepts, including entropy, conditional entropy, and joint entropy, are given in interval-valued information systems. Based on these concepts, we provide an information theory view for attribute reduction in interval-valued information systems. Consequently, attribute reduction algorithms are proposed. Experiments show that the proposed framework is effective for attribute reduction in interval-valued information systems.     

Conditional entropy for incomplete decision systems and its application in data mining

Rough set theory is a useful mathematic tool for dealing with vague and uncertain information. Shannon's entropy and its variants have been applied to measure uncertainty in rough set theory from the viewpoint of information theory. However, few studies have been carried out on information-theoretical measure of attribute importance in incomplete decision system (IDS) considering the relation between decision attribute and condition attributes. In this paper, we introduce the concept of conditional entropy together with entropy and joint entropy in IDSs. By using the new conditional entropy, we propose a measure for attribute importance. Based on the measure, a heuristic attribute reduction algorithm is presented. Some test experiments on real-lift data-sets show the effectiveness of the algorithm. The attribute importance measure and the attribute reduction algorithm can be used in data mining or machine learning for handling incomplete data.     

互信息的序决策信息系统属性约简研究

优势关系粗糙集理论是粗糙集理论有意义的推广,决策信息系统知识约简是粗糙集理论的核心内容之一.通过在协调序决策信息系统中引入条件熵、互信息概念,给出了基于条件熵、互信息的协调序决策信息系统属性约简算法,并通过学生评价决策信息系统验证了该算法的有效性,使协调序决策信息系统的属性约简得到了扩展.在不协调序决策信息系统中引入限定条件熵、限定互信息概念,并给出基于限定互信息的不协调序决策信息系统属性约简算法,为不协调序决策信息系统的属性约简的应用提供了可行的解决方法.     

Approaches to knowledge reduction of covering decision systems based on information theory

In this paper, we propose some new approaches for attribute reduction in covering decision systems from the viewpoint of information theory. Firstly, we introduce information entropy and conditional entropy of the covering and define attribute reduction by means of conditional entropy in consistent covering decision systems. Secondly, in inconsistent covering decision systems, the limitary conditional entropy of the covering is proposed and attribute reductions are defined. And finally, by the significance of the covering, some algorithms are designed to compute all the reducts of consistent and inconsistent covering decision systems. We prove that their computational complexity are polynomial. Numerical tests show that the proposed attribute reductions accomplish better classification performance than those of traditional rough sets. In addition, in traditional rough set theory, MIBARK-algorithm [G.Y. Wang, H. Hu, D. Yang, Decision table reduction based on conditional information entropy, Chinese J. Comput., 25 (2002) 1-8] cannot ensure the reduct is the minimal attribute subset which keeps the decision rule invariant in inconsistent decision systems. Here, we solve this problem in inconsistent covering decision systems.     

基于粒度决策熵的属性约简

近年来,人们越来越关注粗糙集中的属性约简算法,尤其是启发式的约简算法。为了度量属性重要度,人们把各种不同的信息熵模型应用到粗糙集中,同时在信息熵这一理论的基础上得出了许多约简算法,用来解决粗糙集中属性约简的问题。然而,现有的基于信息熵的方法还存在一系列问题。针对这些问题,本文首先将知识粒度与相对决策熵这2个概念结合在一起,从而引入一种新的信息熵模型--粒度决策熵;然后,利用粒度决策熵来度量属性的重要性,并由此得出新的约简算法--ARGDE约简算法;最后,用不同的UCI数据集来做实验,通过与已有的约简算法比较,该算法能够得到更好的实验结果。     

区间直觉模糊连续熵及其多属性决策方法

提出了区间直觉模糊连续熵,并且研究了一种新的处理区间直觉模糊多属性决策问题的方法。基于连续有序加权平均（COWA）算子,给出了区间直觉模糊连续熵的概念,并且证明了区间直觉模糊连续熵满足区间直觉模糊熵的公理化定义的四个条件。在此基础上,针对属性权重信息完全未知的决策问题,通过衡量每一属性所含的信息量来确定属性权重。依据备选方案与理想方案间的加权相关系数,给出了一种新的区间直觉模糊多属性决策方法。实验结果验证了新的决策方法的可行性和有效性。     

一种基于差别矩阵的启发式属性约简算法

为了获得决策系统中更好的相对属性约简,本文提出了一种基于差别矩阵的启发式属性约简算法。该算法以求差别矩阵为基础,不仅考虑了所选择条件属性与决策属性的互信 息,还考虑了其取值的分布情况,从信息论角度定义了一种新的属性重要性度量方法,将其作为启发式信息,最终求得属性约简集。实例表明,算法能够有效地对决策系统进进行约简,获得比较理想的约简结果,同时约简后的决策规则数目较少。