基于域理论的自适应谐振神经网络研究

提出了一种基于域理论的自适应谐振神经网络算法 FTART,有机结合了自适应谐振理论和域理论的优势 ,以一种独特的方式解决了示例间冲突和分类区域的动态扩展 ,不仅不需要手工设置隐层神经元 ,可以还获得了较快的训练速度和较高的预测精度 .同时还提出了一种可以从训练好的 FTART网络中抽取可理解性好、精度高的符号规则的方法 ,即基于统计的产生测试法 .实验结果表明 ,用该方法抽取的符号规则可以较好地描述FTART的功能.     

快速神经网络分类学习算法的研究及其应用

提出了一种快速神经网络分类学习算法FTART2,该算法结合了自适应谐振理论和域理论的优点,学习速度快、归纳能力强、效率高,用UCI机器学习数据库中的两个数据集对FTART2与目前最流行的BP进行比较测试,实验结果表明前者的分类精度与学习速度均优于后者,还将FTART2算法应用于石油地质储层分析领域,取得了很好的效果。     

域自适应学习研究进展

传统的机器学习假设测试样本和训练样本来自同一概率分布. 但当前很多学习场景下训练样本和测试样本可能来自不同的概率分布. 域自 适应学习能够有效地解决训练样本和测试样本概率分布不一致的学习问题,作为 机器学习新出现的研究领域在近几年受到了广泛的关注. 鉴于域自适应学习技术 的重要性,综述了域自适应学习的研究进展. 首先概述了域自适应学习的基本问 题,并总结了近几年出现的重要的域自适应学习方法. 接着介绍了近几年提出的 较为经典的域自适应学习理论和当下域自适应学习的热门研究方向,包括样例加 权域自适应学习、特征表示域自适应学习、参数和特征分解域自适应学习和多 源域自适应学习. 然后对域自适应学习进行了相关的理论分析,讨论了高效的度 量判据,并给出了相应的误差界. 接着对当前域自适应学习在算法、模型结构和 实际应用这三个方面的研究新进展进行了综述. 最后分别探讨了域自适应学习在 特征变换和假设、训练优化、模型和数据表示、NLP 研究中存在的问题这四个方面 的有待进一步解决的问题.     

FTART2神经网络及其规则抽取研究

本文提出了一种基于域理论的自适应谐振神经网络算法ＦＴＡＲＴ２,算法将自适应谐振理论和域理论的优点有要结合,不需人为设置隐层神经元,学习速度快,精度高。此外,本文不提出了一种从ＦＴＡＲＴ２网络中抽取符号规则的方法。实验结果表明,使用该方法抽取出的符号规则可理解性好,预测精度高,可以很好地描述了ＦＴＡＲＴ２网络的性能。     

ART2wNF及其稳定性——可塑性动态平衡性能分析

稳定性-可塑性两难问题的核心是系统如何在不削弱或忘记已学习模式的同时, 自适应地学习新事物. 目前公认自适应谐振理论(Adaptive resonance theory, ART) 能够部分解决稳定性-可塑性两难问题, 但依然存在学习受样本输入顺序影响大, 且存在学习中心渐变样本时, 带来的所谓模式漂移的问题. 受进化生物学关于人类学习的幼态延续特征的启发, 本文为每个F2层节点配备活跃度指示器λ, 并将其反馈回F1层参与STM(Short term memory) 向量的计算, 使这种新型ART2 网络在行为特征上具备幼态延续的显著特征, 本文称之为ART2wNF (Adaptive resonance theory with neoteny feature).论文从理论上证明算法的可行性, 并通过分析对随机生成样本集合的学习过程, 对比了ART2wNF 算法与常规ART2 网络在可塑性、稳定性方面的差异以及ART2wNF 在克服样本输入顺序影响等方面的优势.     

一个新的在线学习文档分类模型

为了对在线学习文档进行分类,本文根据自适应谐振理论给出了一个半监督学习模糊ART模型(SLFART)及其算法.该算法不仅克服一般半监督学习算法中假设已知数据概率分布的条件,而且还具有非常强的学习新模式和纠正错误的能力.实验结果表明SLFART性能明显优于其它算法.     

一种新型自适应神经网络回归估计算法

结合自适应谐振理论和域理论的优点,针对回归估计问题的特性,提出了一种新型神经网络回归估计算法ＦＴＡＲＴ３．该算法学习速度快、归纳能力强,不仅具有增量学习能力,还克服了ＢＰ类算法需要人为设置隐层神经元的缺陷,直线、下弦、二维墨西哥草帽、三维墨西哥草帽等４个实验表明,ＦＴＡＲＴ３在函数近似效果和训练时间代价上都优于目前常用于因归估计问题的ＢＰ类算法。     

ARTNIDS:基于自适应谐振理论的网络入侵检测系统

分析了现有的入侵检测方法,设计了基于自适应谐振理论的网络入侵检测系统（ARTNIDS）.它采用了一种全新的行为表示方法,即根据网络数据包结构定义网络行为特征变量;利用改进的自适应谐振理论算法,提高了学习效率,使丢包率由15%左右降低到10%以下,实现了无监督和在线实时学习;提出的类似Hamming距离的检测算法,使误报率低于10%.依上述方法构造的原型系统经实验证明能高效地检测出局域网内的入侵行为.     

离散时间非线性系统的数据驱动无模型自适应迭代学习控制

本文基于迭代域的动态线性化方法,提出了一类单入单出离散时间非线性系统的数据驱动无模型自适应迭代学习控制方案.无模型自适应迭代学习控制本质上属于一种数据驱动控制方法,仅利用被控对象的输入输出数据即可实现控制方案的设计.理论分析表明无模型自适应迭代学习控制方案可以保证最大学习误差的单调收敛性.数值仿真和快速路交通控制应用验证了无模型自适应迭代学习控制方案的有效性.     

基于ART2神经网络算法改进的研究

ART2神经网络是按照自适应谐振理论建立的一种自组织、无监督的人工神经网络.通过分析经典自适应谐振神经网络聚类过程,针对传统ART2神经网络模型对分类的不确定性和网络权值模式漂移等不足,提出了基于算法改进的ART2神经网络模型.最后对改进的ART2神经网络进行了仿真,并与经典神经网络所做仿真的结果比较,验证了改进的ART2神经网络结构大大提高了分类的正确率,有效改善了模式漂移现象.降低了空间存储消耗.     

一种新的自适应谐振算法

本文提出了一个综合多种神经网络理论的学习算法ＦＴＡＲＴ（ｆｉｅｌｄｔｈｅｏｒｙ—ｂａｓｅｄａｄａｐｔｉｖｅｒｅｓｏｎａｎｃｅｔｈｅｏｒｙ），它将ＡＲＴ（ａｄａｐｔｉｖｅｒｅｓｏｎａｎｃｅｔｈｅｏｒｙ）算法、ＦｉｅｌｄＴｈｅｏｒｙ和ＡＲＴＭＡＰ等算法的优点有机结合，并以样本在实例空间出现的概率为启发信息修改分类．ＦＴＡＲＴ由于采用了不同于其它算法的冲突解决和动态扩大分类区域的方法，因此取得了较好的效果．本文还对实现ＦＴＡＲＴ算法的结果进行了验证．     

对FTART算法的研究及改进

ＦＴＡＲＴ（ｆｉｅｌｄｔｈｅｏｒｙ－ｂａｓｅｄＡＲＴ）算法结合了ＡＲＴ（ａｄａｐｔｉｖｅｒｅｓｏｎａｎｃｅｔｈｅｏｒｙ）算法、ＡＲＴＭＡＰ算法、域理论的思想，以样本在实例空间中出现的概率为启发信息修改学习中生成的分类，采用了不同于其它算法的解决样本间的冲突和动态扩大分类区域的方法．本文在对ＦＴＡＲＴ算法的研究的基础上进行了改进，使算法在学习连续函数的映射时更加有效．同时给出了算法的测试结果和对测试结果的分析，测试表明，ＦＴＡＲＴ算法在模式识别和连续函数映射的学习方面具有比较好的性能.     

FANNC: A Fast Adaptive Neural Network Classifier

In this paper, a fast adaptive neural network classifier named FANNC is proposed. FANNC exploits the advantages of both adaptive resonance theory and field theory. It needs only one-pass learning, and achieves not only high predictive accuracy but also fast learning speed. Besides, FANNC has incremental learning ability. When new instances are fed, it does not need to retrain the whole training set. Instead, it could learn the knowledge encoded in those instances through slightly adjusting the network topology when necessary, that is, adaptively appending one or two hidden units and corresponding connections to the existing network. This characteristic makes FANNC fit for real-time online learning tasks. Moreover, since the network architecture is adaptively set up, the disadvantage of manually determining the number of hidden units of most feed-forward neural networks is overcome. Benchmark tests show that FANNC is a preferable neural network classifier, which is superior to several other neural algorithms on both predictive accuracy and learning speed. Received 10 February 1999 / Revised 21 June 1999 / Accepted in revised form 11 October 1999     

混合型多概念获取算法的设计及其抗噪音能力

IHMCAP(incremental hybrid multi-concepts acquisit ion procedure)算法将基于概率论的符号学习与神经网络学习相结合,通过引入FTART(field theory-based adaptive resonance theory)神经网络,成功地解决了符号学习与神经网络 学习精度之间的均衡性问题,实现了两种不同思维层次的靠近.该算法采用一种独特的增量学 习机制,当增加新的实例时,只需进行一遍增量学习,调整原结构,不必重新生成判定树和神经 网络,即可提高学习精度,速度快,效率高.同时,这种增量学习机制还可以降低算法对噪音数 据的敏感度,从而使IHMCAP可以应用于实时在线学习任务.     

基于神经网络的肺癌细胞识别方法的研究

细胞识别是图像处理和模式识别领域的一个研究热点,有着十分广泛的应用前景。本文提出了基于神经网络算法FTART2的肺癌细胞识别方法,讨论了FTART2的网络结构、输入矢量的标准化及分类算法。用513个样本对网络进行训练,再用716个样本组成测试集进行测试,实验结果表明:本文提出的基于FTART2的肺癌细胞分类器与基于标准BP的分类器相比,具有学习速度快、分类精度高的特点。     

混合型多概念获取系统的设计与实现

本文主要描述了一个增量式混合型多概念获取系统ＨＭＣＡＳ，它提出了一个基于概率论的符号学习与神经网络学习相结合的学习算法，能从隶属于某个概念集的实例集中归纳出满足用户精度要求的，以浊合型判定树表示的概念描述。在ＨＭＣＡＳ中，符号学习与神经网络学习具有结合紧密的转换灵活等特点，具有较高的学习效率和较强的归纳能力以及增量学习能力。ＨＭＣＡＳ的神经网络学习可选择ＢＰ网络或ＦＴＡＲＴ网络，其推理机制提供了混