用于矢量量化的神经网络竞争学习算法

对典型的竞争学习算法进行了研究和分析，提出了一种基于神经元获胜概率的概率敏感竞争虎法。与传统竞争学习算法只有一个神经元获胜而得到学习不同，ＰＳＣＬ算法按照各种凶的获胜概率并通过对失真距离的调整使每个神经元均得到不同的学习，可以有效地克服神经元欠利用问题。     

均衡竞争神经元获胜机会的方法

竞争型神经网络存在"死点"问题,某些神经元在竞争中可能始终未能获胜而成为"死神经元",不仅造成神经元的浪费,而且造成训练误差偏大,无法达到训练误差的精度要求,不能很好完成它所担负的聚类或分类任务.针对该问题,研究竞争型神经网络的切入点,深入探讨了LVQ神经网络并且通过引入阈值学习规则,均衡神经元获胜的机会,较好地解决了该类网络在遇到"死"点时训练误差偏大的问题,仿真实验结果表明了该方法的有效性.     

自组织映射(SOM)型神经网络的实现

文章讨论了应用于自组织映射型神经网络的训练算法,该算法通过计算获胜神经元来找到最接近输入模式的节点,然后通过对网络连接权值的自组织,训练一个自组织竞争的神经网络,该网络通过一组输入数据可自行训练形成一个神经网络模型.     

基于软竞争机制的对传网络模型及应用

针对传统对传网络(CounterPropagationNetwork,CPN)模型和学习算法存在的问题和不足,提出改进模型及竞争层的改进算法。在竞争层使用软竞争机制得到竞争层的输出,克服传统CPN使用胜者全得竞争机制的弊病,使竞争层中每一个神经元节点能充分发挥作用,参与网络的训练和权值的调整,提高竞争层中神经元的利用率,使网络能实现运用最少的神经元,达到要求的性能。从数值实验的对比看出,由于改进了网络模型和竞争算法,增强了CPN的模拟精度,CPN能更好地逼近模拟函数,提高了CPN的使用效率,网络性能得到了很大的提高。     

自组织映射（S0M）型神经网络的实现

文章讨论了应用于自组织映射型神经网络的训练算法，该算法通过计算获胜神经元来找到最接近输入模式的节点．然后通过对网络连接权值的自组织，训练一个自组织竞争的神经网络，该网络通过一组输入数据可自行训练形成一个神经网络模型，     

基于量子自组织神经网络的Deep Web分类方法研究

针对Deep Web数据源主题分类问题,首先研究了不同位置的特征项对Deep Web接口领域分类的影响,提出一种基于分级权重的特征选择方法RankFW;然后提出一种依赖领域知识的量子自组织特征映射神经网络模型DR-QSOFM及其分类算法,该模型在训练的不同阶段对特征向量和目标向量产生不同程度的依赖,使竞争层中获胜神经元...     

一种改进的人工神经网络模型

提出一种新型人工神经网络模型,称为“基于模式神经元的人工神经网络（Pattern Neuron Based Artificial Neural Network,PNBANN）”。与现有的神经计算网络不同,PNBANN是一种完全基于神经元连接的网络模型。网络中的每一个神经元都唯一代表一种模式,每当接收新模式时,自动建立一个新的连接,把信息存储在网络中;而接收已有的模式时,已有的神经元连接得到加强。当模式神经元的输出达到所设定的感觉阈值时,对应模式的信息被记忆。因此,PNBANN就是不断地接收、存储各种信息,并把感觉足够强的模式记忆下来,这一过程更接近于人脑的学习、记忆过程。实验结果证明,PNBANN学习效率高,在学习新知识时不会影响已有的知识,同时具有很强的识别能力。     

基于一种生长型神经网络的倒立摆控制

针对倒立摆这样的典型控制问题,提出了一种在结构与规模上可生长的神经网络控制方案。网络利用细胞生长结构算法的生长机制,在工作域中实现对刺激信号的自组织模式分类,并可通过新神经元的插入,实现网络规模的生长演化。在输出域中针对控制任务采用强化Hebb学习机制,实现不同的神经元以最佳方式响应不同性质的信号刺激。最后进行了倒立摆的自学习控制的仿真实验,表明在自治地与环境的交互作用中,通过神经网络自身的发育,该方案有效地控制了倒立摆系统。     

基于精细神经元的类脑感知学习模型

大脑如何实现学习以及感知功能对于人工智能和神经科学领域均是一个重要问题.现有人工神经网络由于结构和计算机制与真实大脑相差较大,无法直接用于理解真实大脑学习以及处理感知任务的机理.树突神经元模型是一种对大脑神经元树突信息处理过程进行建模仿真的计算模型,相比人工神经网络更接近生物真实.使用树突神经网络模型处理学习感知任务对理解真实大脑的学习过程有重要作用.然而,现有基于树突神经元网络的学习模型大都局限于简化树突模型,无法完整建模树突的信号处理过程.针对这一问题,提出一种基于精细中型多棘神经元网络的学习模型,使得精细神经网络可以通过学习完成相应感知任务.实验表明,在经典的图像分类任务上,所提模型可以达到很好的分类性能.此外,精细神经网络对于噪声干扰有很强的鲁棒性.对网络特性进行进一步分析,发现学习后网络中的神经元表现出了刺激选择性这种神经科学中的经典现象,表明所提模型具有一定的生物可解释性,同时也表明刺激选择特性可能是大脑通过学习完成感知任务的一种重要特性.     

一种反馈过程神经元网络模型及在动态信号分类中的应用*

针对动态信号模式分类问题,提出了一种反馈过程神经元网络模型和基于该模型的分类方法。这种网络的输入可直接为时变函数,网络的信息传输既有与前馈神经元网络一样的前向流,也有后面各层节点到前层节点的反馈,且可对节点自身反馈输出信息,能直接用于动态信号的模式分类。由于反馈过程神经元网络在对输入样本的学习中增加了神经元输出信息的反馈,可提高网络的学习效率和稳定性。给出了具体学习算法,以时变函数样本集的分类问题为例,实验结果验证了模型和算法的有效性。     

一般化的灰SOM模型及其性能评估

自组织特征映射是Kohonen提出的一种人工神经网络模型，它能把高维的信息数据以有序方式映射到低维空间上，形成一种拓扑意义上的有序图，但其权值的调整仅考虑了学习率及输入模式与获胜神经元及其邻域，却忽略了输入模式分量与全体参与竞争的神经元权值向量间的某种相关关系。Hu等人利用灰关系系数(GRC)的描述方法显式地刻画这种关系。尽管如此，但GRC仍忽略了输入模式与所有参与竞争的神经元权值间的整体描述关系。该文通过在GRC中引入该整体关系，提出了一个一般化的灰关系模型G^2SOM，并将GSOM作为其特例，进而侧重就三种特殊的函数关系进行了性能评估，最后，通过实验验证了G^2SOM的有效性与可行性。     

基于竞争学习网络的中文关键字提取算法

为提高中文关键字的提取准确率,提出一种基于竞争学习网络的中文关键字提取算法。对文章进行分词,得到单个词组或短语,视其为单个神经元,将神经元输入竞争学习网络的输入层,通过竞争层上神经元的相互竞争,获得一个或几个活跃的神经元,使用合并权值及聚类分析方法得到文章的关键字。实验结果表明,该算法提取关键字的平均命中率高于词频-逆文档频率算法和传统的词频算法,鲁棒性较好。     

自组织特征映射神经网络的改进及应用研究

为了提高自组织特征映射(SOM)神经网络学习速度及分类精度,对初始连接权值及竞争层神经元数的确定方法进行改进。提出用聚类方法确定初始权值的新方法,还提出了采用聚类数与邻域之和确定竞争层神经元数的方法,并给出了改进后的SOM分类算法。将改进的SOM网络用于储粮害虫分类,采用留一方法进行分类验证实验。仿真结果表明,改进后的SOM网络在学习速度和分类精度方面都有明显提高,证明了该方法的有效性。     

大脑中神经回路的电位发放比较

通过对大脑神经中存在的四个回路：嗅球网络、小脑皮层、海马结构和丘脑皮层,建立基于解剖的神经元回路模型,对四种神经元回路中神经元的动作电位进行数值模拟,通过外加刺激来研究四种回路的网络特性,得到丰富的发放模式,分析比较这四种回路中信息传递特性,模拟大脑中神经元网络信号传递特性.     

自组织过程神经网络及其应用研究

针对与时间过程有关的模式分类问题，提出了一种自组织过程神经元网络模型．网络由输入层和竞争层组成，其输入和连接权可为与时间有关的函数，输入层结点与竞争层结点实行全互连接．网络提取输入函数所隐含的过程式模式特征，并对其进行自组织，在竞争层将分类结果表现出来．为简化计算，在输入空间中引入函数正交基，将输入函数和网络权函数表示为正交基的展开形式，利用基函数的正交性，使网络权函数的调整非时变化．给出了竞争学习和有教师示教两种学习算法，并以石油地质中沉积微相识别问题为例证明了模型和算法的有效性．     

可生长仿生学习算法在机器人平衡控制中的研究

针对两轮机器人的运动平衡控制问题,提出一种基于Q学习的生长细胞结构(GCS)网络的仿生学习算法;GCS网络除了具有SOM网络的竞争机制外,它还可以通过新神经元的不断生长,自组织地进行演化,Q学习算法是一种无模型强化学习算法,它可以改善学习能力,但是它只适用于状态离散化的控制系统中;将GCS网络的生长特性应用到Q学习算法中,通过网络输出的获胜神经元的信息来优化Q值,实现了状态连续系统的无模型控制,并且在两轮机器人上做了仿真实验;结果表明,当神经元数为12个时,机器人才开始受控,但是机器人本体的倾角振荡角度过大,位移不受控制;当神经元数增加到25个时,机器人本体的倾角在很小的角度范围内波动(大约0.2°),位移大约在0.05m的位置达到平衡,机器人的运动平衡达到了很好的控制效果。     

核自组织映射竞争聚类

基于核方法可在高维特征空间中完成数据聚类,但缺乏对原输入空间聚类中心及结果的直观刻画.提出一种核自组织映射竞争聚类算法.该算法是利用核的特征,导出SOM算法的获胜神经元及权重更新规则,而竞争学习机制依然保持在原输入空间中,这样既解决了当输入样本分布结构呈高度非线性时,其分类能力下降的问题,而且解决了Donald[1]算法导致的特征空间中的获胜神经元在原始输入空间中的原像不存在,而无法对聚类结果利用可视化技术进行解释的问题.实验结果表明,提出的核自组织映射竞争聚类算法在某些数据集中可以获得比SOM算法更好的结果.     

一种生长型神经网络的倒立摆控制方案

针对倒立摆系统,提出了在结构上可生长的神经网络控制方案。网络利用细胞生长结构算法,在工作域中实现对状态变量的模式分类,并通过新神经元的插入实现网络规模的生长演化。在输出域中针对倒立摆控制任务采用强化Hebb学习机制,实现不同的神经元以最佳方式响应不同性质的信号刺激。仿真表明,通过神经网络自身的发育,该方案有效控制了倒立摆系统。     

带有遗忘的视觉记忆模型及其在注意力选择上的应用

在我们以前提出的注意力选择模型上,提出一个带有学习和遗忘的视觉记忆模型:遗忘增量多层分类回归树,来模拟人脑的长短期记忆.同时自监督竞争神经网络综合自下而上和自上而下的信息找到注意力的焦点,该网络各个神经元的连接权根据环境变化在线调整,从而实现整个网络的在线学习.实验证明,该模型能够模拟人的注意力转移,并能在变化的环境中,有意识地盯住感兴趣的物体.     

一种生长型神经网络的倒立摆控制方案

针对倒立摆系统,提出了在结构上可生长的神经网络控制方案.网络利用细胞生长结构算法,在工作域中实现对状态变量的模式分类,并通过新神经元的插入实现网络规模的生长演化.在输出域中针对倒立摆控制任务采用强化Hebb学习机制,实现不同的神经元以最佳方式响应不同性质的信号刺激.仿真表明,通过神经网络自身的发育,该方案有效控制了倒立摆系统.