熵在BP 神经网络修剪算法中的应用

提出了一种基于熵理论的BP 神经网络结构设计修剪算法．其实质是依据Shannon 熵原理,定义神经 网络隐层节点输出的拟熵,该熵与Shannon 熵对不确定性的描述具有相同的效果,但克服了Shannon 熵固有的缺 点．将神经网络实际输出与期望输出的交叉熵和隐节点输出拟熵作为代价函数,并采用熵周期的策略对网络参数进 行寻优,最后通过删除合并隐层神经元达到简化神经网络结构的目的．通过逼近典型非线性函数进行仿真实验,结 果表明,该修剪算法在保证其逼近性能的同时,可以简化BP 神经网络结构．     

交叉熵方法在车辆路径问题中的应用研究

车辆路径问题已被研究证实为NP 难题,属于经典的复杂组合优化问题。首先建立了带货物权重的随机需求的车辆路径问题的模型;其次针对问题的性质,设计了一种基于交叉熵方法的算法对问题进行求解;最后计算结果验证了所提算法对于解决此类问题的有效性。     

一种结合交叉熵和投影特征的图像匹配算法

基于图像交叉熵的图像匹配方法对于噪声不敏感,并且具有一定的抗几何失真能力,但算法复杂度高,不适合用于实时匹配系统中.而投影变换可将图像的二维灰度降为一维的特征向量,且还具有抗噪性好的特性,因此定义图像的局部交叉投影熵,提出了一种新的图像匹配算法.该算法首先计算模板图的行、列投影;然后计算模板图和实时图的交叉投影熵;最后根据行、列交叉投影矩阵确定出最优匹配坐标.新算法不仅具有较好的抗噪和抗几何失真性能,并且提高了在强光照射及云层遮挡情况下的匹配能力.通过实验仿真并对比局部熵、局部投影熵、局部交叉熵和局部交叉投影熵四种算法的匹配效果,表明该算法不仅匹配效果良好,并且计算速度快,是一种精确而实用的图像匹配方法.     

基于交叉熵算法的PID 控制器设计

交叉熵优化方法是一种新型高效的随机优化算法,算法控制参数简单,鲁棒性强.将交叉熵优化算法用于PID控制器的参数设计,并与基于遗传算法的PID控制器设计进行对比,结果表明,交叉熵优化算法不仅所获结果较优,而且计算复杂度也明显小于遗传算法.     

基于同伦方程的交叉熵BP算法

提出一种建构在同伦方程基础上的交叉熵BP算法,在原有的交叉熵函数基础上,通过同伦方程的参数逐步调节权值,使收敛达到最佳效果.同时其激活函数采用广泛意义的函数,有利于拓展函数使用空间,并结合动量项使收敛效果更佳.实验结果表明,改进后的算法与原始的加动量项算法相比有较好的收敛速度,陷入极小点的几率也大为降低.     

交叉熵相似性度量在水文时间序列匹配中的应用

基于交叉熵的相似度查询算法利用小波变换对数据进行预处理,通过PAA算法对数据进行降维,求得降维后的水位数据的近似概率分布情况。通过交叉熵距离来度量两个序列间的概率分布差异。以鄱阳湖星子站日水位数据为例,验证了基于交叉熵的相似度查询算法在降低时间复杂度的前提下较准确地找出给定时间段相似的水文过程。     

基于对称交叉熵的属性约简算法

针对交叉熵用来度量两个随机变量的差异程度时不满足对称性的问题,提出对称交叉熵的概念．研究在决策表的属性约简过程中决策属性集相对条件属性集对称交叉熵的变化规律,提出基于对称交叉熵的属性约简算法,同时还对其复杂度进行简单分析．实验分析表明,在多数情况下该算法能够得到决策表的最小相对约简．     

基于改进交叉熵算法的伺服电机参数优化设计

针对伺服电机变负载控制问题,提出了一种对自适应模糊PID控制器初始参数优化的改进交叉熵算法。通过运用此方法对伺服电机模糊PID控制器在控制过程中的参数进行优化,证明了该算法在模糊PID控制器应用的过程中具有较好的鲁棒性和兼容性。通过实验,同时与基于ZN算法、遗传算法和交叉熵算法的模糊PID控制结果进行对比,证明改进交叉熵优化算法不但具有较快的响应速度、较好的稳定性、较小的超调和较优的ITASE性能指标,而且其优化过程更为精确简便。     

基于交叉熵的安全Tri-training算法

半监督学习方法通过少量标记数据和大量未标记数据来提升学习性能.Tri-training是一种经典的基于分歧的半监督学习方法,但在学习过程中可能产生标记噪声问题.为了减少Tri-training中的标记噪声对未标记数据的预测偏差,学习到更好的半监督分类模型,用交叉熵代替错误率以更好地反映模型预估结果和真实分布之间的差距,并结合凸优化方法来达到降低标记噪声的目的,保证模型效果.在此基础上,分别提出了一种基于交叉熵的Tri-training算法、一个安全的Tri-training算法,以及一种基于交叉熵的安全Tri-training算法.在UCI(University of California Irvine)机器学习库等基准数据集上验证了所提方法的有效性,并利用显著性检验从统计学的角度进一步验证了方法的性能.实验结果表明,提出的半监督学习方法在分类性能方面优于传统的Tri-training算法,其中基于交叉熵的安全Tri-training算法拥有更高的分类性能和泛化能力.     

脑电熵算法在麻醉监测中的应用

麻醉深度监测在外科手术中的作用极其重要,合理的麻醉可以使患者在无痛觉的情况下进行手术治疗,判断并控制合适的麻醉深度已成为临床迫切需要解决的问题。本文基于脑电信号分析的麻醉深度检测方法的研究,采用一种新型的脑电熵分析方法一通过应用排序熵的快速算法对脑电信号进行了计算机仿真分析与处理,实验结果表明排序熵运算时间较短、效率较高、抗干扰性强、计算精度更准确。     

基于风险因子的信息安全风险评估方法研究

为了减少主观性和客观性因素对于信息安全风险评估的影响,研究了信息安全风险评估的一些主流方法.参考风险评估的基本要素的定义,提出了风险因子的概念和基本要素.对风险因子的基本要素进行了定义和解释说明,设计了一种基于风险因子的风险评估模型.该模型将系统风险分解为若干风险因子,由专家对风险因子的基本要素进行评价,计算出风险因子的风险度.对风险度进行二次模糊化后构造隶属举证,并运用熵系数法求出各个风险因子的权重,进而计算出风险等级.最后给出一个实例证明了模型的科学性和合理性.     

超启发式交叉熵算法求解分布式装配柔性作业车间调度问题

本文针对一类新型两阶段分布式装配柔性作业车间调度问题(DAFJSP),建立问题模型,以最小化最大完工时间为优化目标并提出一种超启发式交叉熵算法(HHCEA)进行求解.首先,设计基于工序序列、工厂分配和产品序列的三维向量编码规则和结合贪婪策略的解码规则,同时提出4种启发式方法以提高初始解的质量.然后,设计高低分层结构的HHCEA,高层为提高对搜索方向的引导性,采用交叉熵算法(CEA)学习和积累优质排列的信息,其中各排列由结合问题特点设计的11种启发式操作(即11种有效的邻域操作)构成;低层为增加在解空间中的搜索深度,将高层确定的每个排列中的启发式操作依次重复执行指定次数并在执行过程中加入基于模拟退火的扰动机制,以此作为一种新的启发式方法执行搜索.最后,通过仿真实验与算法对比验证HHCEA可有效求解DAFJSP.     

基于交叉熵的ITFN的多属性决策方法

针对属性值为直觉梯形模糊数且属性权重完全未知的多属性决策问题,提出了一种基于交叉熵的决策方法。给出期望值的方法将直觉梯形模糊数转化为直觉模糊数,进而提出直觉模糊数的交叉熵等概念及相关性质。基于各方案与正理想方案的总区别信息最小化原则,建立非线性模型,求出属性权重。用实例说明该方法的有效性。     

Multi-criteria decision-making method based on a cross-entropy with interval neutrosophic sets

In this paper, two optimisation models are established to determine the criterion weights in multi-criteria decision-making situations where knowledge regarding the weight information is incomplete and the criterion values are interval neutrosophic numbers. The proposed approach combines interval neutrosophic sets and TOPSIS, and the closeness coefficients are expressed as interval numbers. Furthermore, the relative likelihood-based comparison relations are constructed to determine the ranking of alternatives. A fuzzy cross-entropy approach is proposed to calculate the discrimination measure between alternatives and the absolute ideal solutions, after a transformation operator has been developed to convert interval neutrosophic numbers into simplified neutrosophic numbers. Finally, an illustrative example is provided, and a comparative analysis is conducted between the approach developed in this paper and other existing methods, to verify the feasibility and effectiveness of the proposed approach.     

“软件人”群网络安全风险评估模型的研究

通过对人工智能、“软件人”和网络安全风险评估技术的深入研究,提出一种基于“软件人”群的网络安全风险评估模型,能够动态地反应、评估网络系统的安全性,有效地解决了传统风险评估系统中检测和评估模块不能在网络中动态移动、随需分布,并限制评估速度、效率和应用范围等问题。使风险评估系统结构具有良好的自治性、灵活性、扩展性、适应性、分布式控制和应急响应能力,同时降低对网络系统带宽的依赖程度,提高了系统的服务能力和工作效率。     

基于交叉熵的正态分布区间数多属性决策方法

针对以正态分布区间数为信息环境的多属性决策问题,提出了一种基于交叉熵和得分函数的决策方法。给出利用[3σ]原则将一般区间数转化为正态分布区间数的方法,提出正态分布区间数的交叉熵,熵等概念及相关性质。基于各对象与正理想对象的总区别信息最小化准则,通过建立非线性规划模型求解出了属性权重的公式,研究了正态分布区间数的集结方法和比较方法,给出了一种新的多属性决策途径。分别将所提方法应用于多属性决策和模式识别中,验证了该方法的可行性和简易性。     

信息系统风险评估方法的研究

在信息安全领域,风险评估是建立信息系统安全体系的基础和前提,而风险评估方法对评估的有效性起着举足轻重的作用.风险评估方法有很多种,每种方法都有其不足之处.设计的风险评估方法采用威胁树模型和层次分析法相结合的方式,利用两种评估方法的优势,弥补了单一风险评估方法的不足,旨在探讨一种更有效、更合理、更准确的风险评估方法.     

灰度图像交叉熵阈值法的三维推广

针对现有的灰度图像交叉熵阈值化方法无法有效分割含有混合噪声图像的问题,在图像三维直方图的基础上提出三维交叉熵阈值化算法,同时给出三维交叉熵阈值法的快速递推公式.实验结果表明,三维方法结合了图像中像素的灰度及其局部空间的均值和中值信息,对于含有混合噪声的图像,具有比现有交叉熵阈值化算法更好的分割效果.     

混合交叉熵算法求解复杂零等待流水线调度问题

针对制造行业中广泛存在的一类复杂零等待流水线调度问题,即带序相关设置时间和释放时间的零等待流水线调度问题(NFSSP SDSTs RTs),建立问题的排序模型并提出一种混合交叉熵算法(HCEA)进行求解,优化目标为最小化总提前和延迟时间.首先,设计了一种基于问题性质的快速评价方法,有效降低评价解的计算复杂度.其次,采用...