基于熵理论的企业危机预警模型研究

基于熵的最优化原理建立了一种新的企业危机预警模型.首先利用最小判别熵选取企业危机预警特征值;然后提出一种新的聚类算法---极大熵聚类算法,并对预测结果进行分类,判断企业的危机状态.该算法是硬C-均值算法的发展和推广.通过实例分析表明,该模型有效,可行,为企业危机预警提供了一条新的途径.

     

一种基于广义熵的模糊聚类算法

针对熵模糊聚类算法只考虑特殊的加权指数问题,将广义熵引入到模糊聚类的目标函数,获得一种基于广义熵的模糊聚类模型和模糊聚类算法。将核函数引入到该模糊聚类模型中,提出基于广义熵的核模糊聚类算法。实验研究广义熵模糊聚类算法与核模糊聚类算法,证明当使用熵模糊聚类算法对数据聚类时,选取加权指数大于2的值可获得较好的聚类结果,同时参数对核算法的聚类结果有较大的影响。     

基于极大熵的知识迁移模糊聚类算法

针对传统的聚类算法在样本数据量不足或样本受到污染情况下的聚类性能下降问题,在经典的极大熵聚类算法（MEKTFCA）的基础上,提出了一种新的融合历史聚类中心点和历史隶属度这两种知识的基于极大熵的知识迁移模糊聚类算法。该算法通过学习由源域总结出来的有益历史聚类中心和历史隶属度知识来指导数据量不足或受污染的目标域数据的聚类任务,从而提高了聚类性能。通过一组模拟数据集和两组真实数据集构造的迁移场景上的实验,证明了该算法的有效性。     

密度敏感模糊核最大熵聚类算法EI北大核心CSCD

提出一种密度敏感模糊核最大熵聚类算法.该算法首先通过核函数将原始非线性非高斯的数据集转化为核空间数据集,然后利用核函数的相似性抵消不属于该聚类的样本数据在聚类过程中对聚类中心求解的干扰,消除正则化系数对聚类结果的影响,进而抑制传统最大熵聚类算法的趋同性.最后通过引入相对密度项,解决因样本数据在特征空间的分布差异而导致的聚类中心求解偏差问题,从而提高聚类结果的准确性.实验部分,本文讨论了算法参数间的关系以及对聚类结果的影响.通过与传统模糊C均值聚类算法、核模糊C均值聚类算法、最大熵聚类算法、最大熵规范化权重核模糊C均值聚类算法以及其他两种改进最大熵聚类算法的聚类结果进行对比分析,结果表明本文提出的密度敏感模糊核最大熵聚类算法的聚类性能明显优于其他算法.     

基于核的模糊熵聚类算法

Dat Tran等提出的模糊熵聚类算法FEC是模糊C均值聚类算法FCM的一种改进,FEC在FCM的基础上引入熵的概念,对隶属度值分布方面进行算法的优化,但FCM与FEC二者在非线性可分数据处理时表现并不理想。本文提出一种新的基于核的模糊熵聚类算法KFEC,结合模糊熵聚类算法和核聚类算法的优点来增强聚类效果。对比实验表明KFEC能够处理非线性可分的数据的聚类问题,在一定程度上提高了聚类的质量。     

极大熵球面K均值文本聚类分析

提出了一种基于极大熵理论的球面K均值文本聚类算法ME-SPKM。该算法利用了传统文本聚类算法SPKmeans中使用的余弦相似度度量,进而引入极大熵理论构造了适合文本聚类的极大熵目标函数。对文本数据的实验证明了极大熵球面K均值文本聚类算法取得了比传统文本聚类算法更好的聚类效果。     

一种高效的基于联合熵的边界点检测算法

为了快速有效地检测出聚类的边界点,提出一种将网格技术与联合熵相结合的边界点检测算法.该算法中网格技术用于快速查找数据集中聚类边界所在的网格范围,联合熵用于在边界落入的网格范围内准确识别聚类的边界点.实验结果表明.该算法能够在含有噪声点,孤立点的数据集上,有效地检测出聚类的边界,运行效率高.     

熵指数约束的模糊聚类新算法

针对基于模糊C均值聚类(fuzzy C-means,FCM)算法框架的竞争聚集聚类(competitive agglomeration,CA)算法中模糊指数m被限定为2的问题,提出了一种更为普适的模糊聚类新算法.该算法首先在FCM算法框架的基础上引入熵指数约束条件,构造了基于熵指数约束的模糊C均值聚类(entropy index constraint FCM,EIC-FCM)算法,成功地将模糊指数m1的约束条件转换为熵指数0r1的约束条件,经分析该算法具备与经典FCM算法等效的聚类性能.其后进一步在EIC-FCM算法的框架下融入竞争学习机制得到基于熵指数约束的竞争聚集聚类(entropy index constraint CA,EICCA)算法,该算法由于使用(0,1)范围的熵指数约束而不再受到模糊指数仅为2的限制,增强了算法的适应性且更具普适性的特征.在模拟数据集以及UCI数据集上的实验结果同样表明,EICCA方法较之经典的CA算法性能更为优越,参数的选择更为灵活.     

协同极大熵聚类算法

极大熵聚类算法(MEC)是基于信息论的新型聚类算法。以不同子集之间的协同关系为出发点,与信息理论中的极大熵原理相结合,通过构造新的极大熵目标函数来改变传统聚类算法中对整个数据集直接聚类的机制。提出一种基于协同的极大熵聚类算法CMEC,它不仅具有较MEC算法更高的聚类精度和更好的泛化性等特点,较之协同模糊聚类算法还具有更好的物理意义。实验结果表明所提出的CMEC算法具有上述优点,其聚类效果比传统的聚类算法有了很大的提高。     

基于直觉模糊熵的目标函数聚类

针时将模糊聚类扩展为直觉模糊聚类具有的重要的理论和应用价值,研究了直觉模糊熵的基础上,提出了一种基于直觉模糊的聚类目标函数的思想.利用拉格朗日定理推导了目标函数参数求解,并给出了基于直觉模糊熵的聚类算法.通过典型试验表明基于直觉模糊熵的目标函数聚类提高了聚类的准确率,性能优于模糊聚类.     

基于模糊识别与聚类的企业危机预警模型设计

针对企业危机等级分类与识别问题，建立了模糊环境下的日标判别函数．提出了求解不同危机等级的最优模糊聚类中心、最优模糊识别矩阵与最优指标权重的3种模型表达式和相应求解算法．最后用实例验证了该方法的可行性和有效性。     

一种基于客户模糊聚类的知识需求分析方法

提出了一种引入信息熵的改进型模糊C均值聚类算法,用来对企业客户进行模糊聚类,以分析获取客户的知识需求,为客户提供个性化的知识推送服务。通过实验分析,证明了该方法的有效性,从而提高了企业知识推送的及时性和准确性。     

基于启发式约简的虚拟企业知识共享风险预警

从虚拟企业知识共享风险预警的评价标准入手,提出具有层次结构的风险预警评价属性模型。然后,利用粗糙集的基本理论和方法,建立基于启发式属性约简的虚拟企业知识共享风险预警模型框架结构图,并给出基于分辨矩阵的启发式指标属性约简算法,进行指标优化。最后通过实例说明该预警模型的有效性及实用性。     

基于粗糙集和灰色的供应链知识共享风险预警

从分析供应链的重要组织形式—虚拟企业的知识共享风险预警的评价标准入手,提出具有层次结构的风险预警评价属性模型。然后,利用粗糙集和灰色的基本理论和方法,建立基于粗糙集和灰色理论的供应链知识共享风险预警模型框架结构图,并给出其中的基于分辨矩阵的指标属性约简算法,优化评价指标。在此基础上,使用灰色理论对知识共享的风险进行评估。最后通过实例说明该预警模型的有效性及实用性。     

A novel ant-based clustering algorithm using Renyi entropy

Ant-based clustering is a type of clustering algorithm that imitates the behavior of ants. To improve the efficiency, increase the adaptability to non-Gaussian datasets and simplify the parameters of the algorithm, a novel ant-based clustering algorithm using Renyi Entropy (NAC-RE) is proposed. There are two aspects to application of Renyi entropy. Firstly, Kernel Entropy Component Analysis (KECA) is applied to modify the random projection of objects when the algorithm is run initially. This projection can create rough clusters and improve the algorithm's efficiency. Secondly, a novel ant movement model governed by Renyi entropy is proposed. The model takes each object as an ant. When the object (ant) moves to a new region, the Renyi entropy in its local neighborhood will be changed. The differential value of entropy governs whether the object should move or be moveless. The new model avoids complex parameters that have influence on the clustering results. The theoretical analysis has been conducted by kernel method to show that Renyi entropy metric is feasible and superior to distance metric. The novel algorithm was compared with other classic ones by several well-known benchmark datasets. The Friedman test with the corresponding Nemenyi test are applied to compare and conclude the algorithms’ performance The results indicate that NAC-RE can get better results for non-linearly separable datasets while its parameters are simple.     

Predicting the financial crisis by Mahalanobis–Taguchi system – Examples of Taiwan’s electronic sector

In the past researches of financial crisis early-warning model, multiple regression, linear probability model, and multiple discriminate analysis are commonly adopted, all of which have generated good discrimination effects, with over 90% accuracy. Dr. Taguchi, well known for his robust design, has lately brought up a new method – Mahalanobis–Taguchi System (MTS), which is mainly used to conduct multivariate diagnoses and forecasts. This study attempts to use MTS to build up a financial crisis early-warning model for Taiwan’s companies. It chooses both in financial sound judgment and in financial trouble TSE- and OTC-listed electronic companies in 2005 as training set and uses both in financial sound judgment and in financial trouble TSE- and OTC-listed electronic companies in 2006 as testing set to verify the accuracy of this model. There are two phases in our research, in which we firstly use MTS, logistic regression and neural network to establish the financial crisis early-warning model, followed by a comparative analysis of average accuracy rate of financial prediction in the second phase. The result of experiment shows that the accuracy rate of financial crisis early-warning system established by MTS, logistic regression and neural network are 96.1%, 92.3%, and 96.1%, respectively, indicating that MTS provides greater application effect in predicting financial crisis.     

基于改进的粒子群算法和信息熵的知识获取方法

针对粒子群优化算法（PSO）易陷入局部优化的问题,在PSO算法加入交叉变异算子,克服了标准PSO算法易陷入局部最优的不足;并将改进的PSO算法和模糊C 均值聚类相结合,提出了一种新的模糊聚类算法CMPSO FCM,该算法具有良好的搜索能力和聚类效果。进而将聚类得到的属性隶属矩阵用于属性约简,并提出一种基于信息熵的模糊粗糙集知识获取的方法。实验和实例分析表明该方法的正确性和有效性。     

基于改进的最大熵均值聚类方法在文本分类中的应用*

针对传统的文本分类算法存在着各特征词对分类的结果影响相同、分类准确率较低、造成算法时间复杂度增加的问题,提出了一种改进的最大熵C-均值聚类文本分类方法。该方法充分结合了C-均值聚类和最大熵值算法的优点,以香农熵作为最大熵模型中的目标函数,简化分类器的表达形式,然后采用C-均值聚类算法对最优特征进行分类。仿真实验结果表明,与传统的文本分类方法相比,提出的方法能够快速得到最优分类特征子集,大大提高了文本分类准确率。     

Note on the relationship between probabilistic and fuzzy clustering

In this short communication, based on Renyi entropy measure, a new Renyi information based clustering algorithm A is presented. Algorithm A and the well-known fuzzy clustering algorithm FCM have the same clustering track. This fact builds the very bridge between probabilistic clustering and fuzzy clustering, and fruitful research results on Renyi entropy measure may help us to further understand the essence of fuzzy clustering.This work was supported in part by the RGC CERG grant under project HongKong PolyU 5065/98E