一种新的双向联想记忆的学习算法

提出了一种新的用于双向联想记忆的学习算法，该算法利用了输入向量各元素之间的关联信息，在联想的过程中，动态地调整权值矩阵，增强了网络适应能力，利用了更多的已知信息，从而提高了网络的性能．     

一种新的双向联想记忆神经网络学习算法

文章提出了一种基于遗传算法的按`位'加权双向联想记忆神经网络(BAM)的学习算法.根据判定BAM网络稳定模式和容错能力的充分条件,推出了求取按位加权BAM加权系数的优化目标函数,之后作者给出了求解此目标函数的遗传算法.二值图象模式存储、联想记忆的计算机实验结果表明,文中所提出的方法能有效地提高网络的存储能力和容错能力.     

一种新型双向联想记忆神经网络

提出了一种新型双向联想记忆神经网络,此网络将两个相互关联的模式以模式对的形式存储在由N个连接构成的模式环中,记忆容量为22N数量级,完全消除了假模式对、能够全部或部分地回忆出与输入模式对具有最小Hamming距的被记忆的模式对,同时具有较高的记忆效率和可靠性。连接由“连接状态”和“禁止路径”组成,前者直接存储二进制模式对向量的分量,后者用于消除假模式;此神经网络具有正向联想、逆向联想和自联想方式,使得网络能更灵活有效地满足不同的回忆要求。     

双向联想记忆学习与回忆的研究

本文对双向联想记忆(BAM)的学习与回忆过程进行了详细的分析。在学习过程中,先是运用自适应非对称BAM算法进行学习,进而采用设置印象门限的反复记忆算法进行学习,本文从理论上证明了印象门限与样本吸引域之间的关系,指出反复记忆方法的理论依据。回忆过程中,采用非零阈值函数的运行方程,提出了阈值学习方法,并且从理论上证明了非零阈值函数的运行方程的采用,可进一步扩大吸引域。为了进一步扩大网络的信息存储量,本文引入了并联的BAM结构。本文方法的采纳,使得BAM网络的信息存储量、误差校正能力等得到很大程度的提高。     

最大-乘积模糊联想记忆的神经网络学习算法

在模糊系统中,从某种意义上说,乘积关系编码可以比最小关系编码保留更多的信息。提出了最大乘积模糊联想记忆的一种新的神经网络学习算法,并给出了严格的理论证明。该算法能够将多个模糊模式对可靠地编码存储到尽可能少的连接权矩阵中,从而大大地减少存储空间,而且容易实现,并举例验证了它的有效性。     

一种非线性可自学习的联想记忆神经网络

醉庆生物神经突触特性的基础上,提出了非线性神经突触神经元的概念,并以此为根据构造了一种可自学习的联想记忆神经网络模型。这种模型可以按照Hebb规则进行学习,学习机制由网络本身完成。在此模型中,由于非线性权重的引入,使此神经网络模型能以简单的结构实现网络的自学习功能。文中对网络的记忆容量和此种网络在以特定的学习方式学习后与Hopfield网络的等效性方面进行了讨论。试验表明,此种网络模型结构是有效的。     

多模式对模糊联想记忆学习算法的优化

一、引言 人脑神经系统信息活动的一个重要特征是能够接收和处理模糊的、连续随机的信息,并在输出时不追求绝对精确解而只要求能找到问题的满意解。模糊联想记忆神经网络是Bart Kosko于1987年提出的采用模糊赫布型学习规则的一种单状态异联想记忆神经网络,在模糊控制、模式识别、专家系统等领域曾引起人们的关注。由于该网络的子集联想特性和不能有效地联想存储多个训练模式对而影响了它的应用[1-3]。本文提出模糊合成运算的一种微分法则,用一代价函数以反映网络性能,将梯度下降搜索技术与模糊赫布型学习规则相结合,建立了在单个模糊联想记忆神经网络中联想存储多个模式对的一种优化学习算法。理论分析和实例计算均证明该算法优于Kosko的学习规则。     

多模式对模糊联想记忆网络的动态学习算法

Kosk。在结合模糊系统与神经网络的基础上提出的最大最小联想记忆网络DJ是二层前馈网络,为了提高其记亿性能,已经提出了一些改进的算法。其     

基于爱因斯坦t-模的模糊联想记忆的学习算法

为神经网络提供有效学习算法是神经网络研究的关键问题。文章利用t-模的伴随蕴涵算子,为基于Max和Tes合成的模糊联想记忆网络Max-TesFAM提供了一种新的学习算法,此处Tes是由爱因斯坦提出的一种t-模算子。从理论上严格证明了,只要Max-TesFAM能完整可靠地存储所给的多个模式对,则该新的学习算法一定能找到使得网络能完整可靠存储这些模式对的所有连接权矩阵的最大者。最后,用实验说明了所提出的学习算法的有效性。     

模糊联想记忆网络的增强学习算法

针对 Kosko提出的最大最小模糊联想记忆网络存在的问题 ,通过对这种网络连接权学习规则的改进 ,给出了另一种权重学习规则 ,即把 Kosko的前馈模糊联想记忆模型发展成为模糊双向联想记忆模型 ,并由此给出了模糊快速增强学习算法 ,该算法能存储任意给定的多值训练模式对集 .其中对于存储二值模式对集 ,由于其连接权值取值 0或 1,因而该算法易于硬件电路和光学实现 .实验结果表明 ,模糊快速增强学习算法是行之有效的 .     

Evolutionary Pseudo-Relaxation Learning Algorithm for Bidirectional Associative Memory

This paper analyzes the sensitivity to noise in BAM (Bidirectional Associative Memory), and then proves the noise immunity of BAM relates not only to the minimum absolute value of net inputs (MAV) but also to the variance of weights associated with synapse connections. In fact, it is a positive monotonically increasing function of the quotient of MAV divided by the variance of weights. Besides, the performance of pseudo-relaxation method depends on learning parameters(λ and ξ), but the relation of them is not linear. So it is hard to find a best combination of λ and ξ which leads to the best BAM performance. And it is obvious that pseudo-relaxation is a kind of local optimization method, so it cannot guarantee to get the global optimal solution. In this paper, a novel learning algorithm EPRBAM (evolutionary psendo-relaxation learning algorithm for bidirectional association memory) employing genetic algorithm and pseudo-relaxation method is proposed to get feasible solution of BAM weight matrix. This algorithm uses the quotient as the fitness of each individual and employs pseudo-relaxation method to adjust individual solution when it does not satisfy constraining condition any more after genetic operation. Experimental results show this algorithm improves noise immunity of BAM greatly. At the same time, EPRBAM does not depend on learning parameters and can get global optimal solution.     

基于小世界体系的投影学习联想记忆模型研究

联想记忆是神经网络的重要应用之一,传统Hopfield网络所用的外积法限制了输入向量的模式,降低了网络的联想性能,而且全瓦连的结构增加了网络的复杂性,不符合神经生物学观点.针对这些问题.提出一种新型的小世界联想记忆模型,用局部的规则连接和稀疏的长程连接取代全互连结构,降低网络的复杂性,同时引入投影学习规则来提高网络的回忆能力和抗噪能力.通过matlab软件对该模型模拟仿真,并与其他模型进行比较,结果表明,该模型在有效降低网络复杂度的情况下,保持了良好的同忆件能.     

Evolutionary Model of Optimization of Modular Associative Memory for Dataflow Machines Based on Genetic Algorithm

An evolutionary model of modular associative memory for machines with dataflow architecture is suggested. A problem of determination of optimal allocation of a dataflow in a computational system with modular associative memory is formulated. The model suggested is based on graph representation of the dataflow. The allocation of the dataflow among modules is realized by means of a hash function. A method for searching for optimal hashing with the use of a genetic algorithm is suggested. The convergence of the genetic algorithm is studied. Estimates of optimal allocation among modules of associative memory for various computational problems are obtained.     

基于结构学习和迭代自映射的自联想记忆模型

传统的人工神经元网络连接结构是固定的,是对权值的学习.提出一种基于生理神经元特征的人工神经元模型,并在以此为单元构成的用于实现自联想记忆的神经网络上进行对结构的学习.学习算法以设定神经元的输入/输出感受野、调整突触和轴突末梢的连接、并行的自投影迭代为特征.给出了此网络模型的矩阵描述和实验结果.     

最大乘积型联想记忆网络的动态学习及其应用

提出了最大乘积型联想记忆网络的一种动态调整学习算法，给出了动态学习算法有效记忆训练规则的一个充要条件。首先给出了一种快速调整学习算法，再进一步发展了一个动态指数细调规则的学习算法，以快速调整学习算法的结果作为连接权矩阵的迭代初值。实验给出了所提算法的两个应用实例。     

The Object Perceptron Learning Algorithm on Generalised Hopfield Networks for Associative Memory

We present a study of generalised Hopfield networks for associative memory. By analysing the radius of attraction of a stable state, the Object Perceptron Learning Algorithm (OPLA) and OPLA scheme are proposed to store a set of sample patterns (vectors) in a generalised Hopfield network with their radii of attraction as large as we require. OPLA modifies a set of weights and a threshold in a way similar to the perceptron learning algorithm. The simulation results show that the OPLA scheme is more effective for associative memory than both the sum-of-outer produce scheme with a Hopfield network and the weighted sum-of-outer product scheme with an asymmetric Hopfield network.     

基于遗传算法的Hopfield联想记忆吸引域的优化

由于一般离散Hopfield神经网络存在很多伪稳定点.使稳定点的吸引域变小.网络很难获得真正的最优解.因此,提出将遗传算法应用到Hopfield联想记忆神经网络中.利用遗传算法对复杂、多峰、非线性极不可微函数实现全局搜索性质.对Hopfield联想记忆吸引域进行优化,使待联想模式跳出伪模式的吸引域.使Hopfield网络在较高噪信比的情况下保持较高的联想成功率.仿真结果证明了该方法的有效性.