人工神经网络设计算法的研究

人工神经网络在计算机领域中仍然是一个有待进一步研究的问题。文中介绍了目前使用的几种不同的人工神经网络设计算法：BP算法、FP算法、多层前向网络的交叉覆盖设计算法。探讨了这些算法的应用和特点，并从原理和设计思路上进行了分析。对BP算法和交叉覆盖算法给出具体的测试结果，解释并说明了各种算法的优缺点。重点研究并介绍了目前流行的多层前向网络的交叉覆盖算法的设计思路和应用方法，测试结果证明了该方法在智能识别领域的有效性。     

前向神经网络设计问题的回顾与探索

本文评述了近十几年来国内外对前向神经网络设计问题的研究情况，在分析各种已有设计方法优缺点的基础上，提出另一种新的解决前向神经网络设计问题的方法，并给出几个非常典型的设计（模拟）例子，以说明本文所提出方法的有效性和潜力。     

一种用于图像目标识别的神经网络及其车型识别应用

构建了一种用于图像目标识别的多层前向神经网络，给出了网络拓扑结构，并成 功地把该神经网络运用到车型识别中。该方法综合了神经网络、模糊逻辑、模式识别的相 关 算法，对图像目标轮廓进行整体识别，达到了较高的目标识别准确率。实践表明，该网 络经 过监督学习后，能摒除图像中一定量干扰像素影响，准确地识别出各种外形车的车型 。     

CDMA2000 1xEV-DO系统前向链路调度算法

CDMA2000 1xEV-DO作为第三代移动通信技术CDMA2000的演进，主要用来提供高速数据传输服务。系统前向时分复用，并采用“机会主义”调度算法实现前向数据吞吐量的提高。在介绍了1xEV-DO系统的基本原理与前向调度模型的基础上，详细讨论了近年来提出的各种前向链路调度算法，并对算法的优缺点做了比较，指出了部分算法研究过程中的不足之处。最后概述了前向调度算法下一步的研究方向。     

基于混沌映射的纹理图象生成方法

在基于BP神经网络生成纹理图象方法^[1]的基础上，提出了一种基于Logistic映射和多层前向神经网络的纹理图象生成方法，该方法使用Logistic映射来调整多层前向神经网络的网络参数，即用Logistic映射产生一组混沌变量，这组混沌变量中的每一个数对应一个需要调整的神经网络参数，由于Logistic映射具有的混沌特性，使多层前向神经网络每次迭代都会产生一组不同的参数，从而克服了使用BP算法调整神经网络参数时容易收敛的缺点，这种基于混沌映射的方法既保留了基于BP神经网络生成纹理图象方法的优点，又对其进行了改进。该方法因不需要计算网络的误差，从而大大简化了计算过程，并且可以产生比使用原有方法更加丰富的纹理图象，仿真结果表明，使用这种改进后的方法比原有的方法更加简单有效。     

基于子空间信息量准则的前向神经网络设计理论与方法研究

从理论上提出了子空间信息量(SIQ)及其准则(SIQC)的概念；在此基础上阐述了基于上述准则的前向神经网络设计的相关理论，包括前向神经网络隐含层信息量(HLIQ)、存在性和逼近定理，给出了选择隐含层神经元数、权值向量集和隐含层激励函数的指导方向；提出了基于上述理论的一种可行的次优网络设计算法；最后，详细分析了网络性能指标及其影响因素，上述理论和方法完全克服了传统学习算法的各种弊端，丰富了前向神经网络设计领域的理论依据，具有较大的理论指导和实际应用价值，文中通过具体实例验证了上述理论和方法的可行性和优越性．     

人工神经网络设计算法的研究

人工神经网络在计算机领域中仍然是一个有待进一步研究的问题.文中介绍了目前使用的几种不同的人工神经网络设计算法:BP算法、FP算法、多层前向网络的交叉覆盖设计算法.探讨了这些算法的应用和特点,并从原理和设计思路上进行了分析.对BP算法和交叉覆盖算法给出具体的测试结果,解释并说明了各种算法的优缺点.重点研究并介绍了目前流行的多层前向网络的交叉覆盖算法的设计思路和应用方法,测试结果证明了该方法在智能识别领域的有效性.     

多层前向网络的逼近与泛化机制

对多层前向网络的实际逼近过程进行了系统的分析，对前向网络泛化问题的数学和逻辑根源进行了阐述。研究表明，多层前向网络的实际逼近过程所基于的数学空间和Ｋｏｌｍｏｇｏｒｏｖ等人关于理想网络映射能力的数学证明所基于的数学空间是不同的，它们是两类性质不同的逼近问题，具有完全不同的逼近机制。前向网络适合于描述人数的感受。     

遗传算法及其在训练前向神经网络中的应用

本文论述了遗传算法的基本原理，操作及算式，并以一个识别部分英文字母的多层前向神经网络为例，给出了用遗传算法训练网络优化网络权值的方法和步骤，实验结果表明了这一方法的有效性。     

多层前向神经网络的快速学习算法及其应用

针对目前多层前向神经网络学习算法存在的不足，提出一种多层前向神经网络的快速学习算法，它不仅符合生物神经网络的基本特征，而且算法简单，学习收敛速度快，具有线性，非线性逼近精度高等特性，以二杆机构手逆运动学建模作为应用实例，仿真结果表明该方法是有效的，其算法与收敛速度更优于BP网络。     

多层前向小世界神经网络及其函数逼近

借鉴复杂网络的研究成果, 探讨一种在结构上处于规则和随机连接型神经网络之间的网络模型—-多层前向小世界神经网络. 首先对多层前向规则神经网络中的连接依重连概率p进行重连, 构建新的网络模型, 对其特征参数的分析表明, 当0 < p < 1时, 该网络在聚类系数上不同于Watts-Strogatz 模型; 其次用六元组模型对网络进行描述; 最后, 将不同p值下的小世界神经网络用于函数逼近, 仿真结果表明, 当p = 0:1时, 网络具有最优的逼近性能, 收敛性能对比试验也表明, 此时网络在收敛性能、逼近速度等指标上要优于同规模的规则网络和随机网络.     

基于遗传算法的前向神经网络结构优化

对近几年应用遗传算法（Genetic Algorithm,GA）优化设计前向神经网络结构的研究进行了评述。指出了神经网络结构优化设计的重要性和目前各种方法存在的不足。介绍了神经网络结构设计原理和应用GA优化设计神经网络应着重考虑的两个问题：即结构表达策略和适应度函数设计。分别对近来应用GA优化设计多层感知器、径向基函数神经网络和径向基概率神经网络结构的研究进行了细致介绍和分析。指出了目前研究工作的不足和未来研究工作的发展方向。     

多输出神经元模型的多层前向神经网络及其应用

研究了一种新的多输出神经元模型.首先,给出这类模型的一般形式,并将该模型应用于多层前向神经网络;其次,给出了其学习算法,即递推最小二乘算法,最后通过几个模拟实验表明,采用多输出神经元模型的多层前向神经网络,具有结构简单,泛化能力强,收敛速度快,收敛精度高等特点,其性能远远优于激活函数可调模型的多层前向神经网络.     

The BP-SOM architecture and learning rule

For some problems, the back-propagation learning rule often used for training multilayer feedforward networks appears to have serious limitations. In this paper we describe BP-SOM, an alternative training procedure. In BP-SOM the traditional back-propagation learning rule is combined with unsupervised learning in self-organizing maps. While the multilayer feedforward network is trained, the hidden-unit activations of the feedforward network are used as training material for the accompanying self-organizing maps. After a few training cycles, the maps develop, to a certain extent, self-organization. The information in the maps is used in updating the connection weights of the feedforward network. The effect is that during BP-SOM learning, hidden-unit activations of patterns, associated with the same class, becomemore similar to each other. Results on two hard to learn classification tasks show that the BP-SOM architecture and learning rule offer a strong alternative for training multilayer feedforward networks with back-propagation.     

Feedforward networks with fuzzy signals

 The paper discusses feedforward neural networks with fuzzy signals. We analyze the feedforward phase and show some properties of the output function. Then we present a backpropagation like adaptation algorithm for crisp weights, thresholds and neuron slopes of the multilayer network with sigmoidal transfer functions. We provide theoretical justification for the adaptation formulas. The results are of general nature and together with the presented approach can be used for other types of feedforward networks. Proposed and discussed are also applications of the presented feedforward networks.     

Influences of variable scales and activation functions on the performances of multilayer feedforward neural networks

This paper gives insight into the methods about how to improve the learning capabilities of multilayer feedforward neural networks with linear basis functions in the case of limited number of patterns according to the basic principles of support vector machine (SVM), namely, about how to get the optimal separating hyperplanes. And furthermore, this paper analyses the characteristics of sigmoid-type activation functions, and investigates the influences of absolute sizes of variables on the convergence rate, classification ability and non-linear fitting accuracy of multilayer feedforward networks, and presents the way of how to select suitable activation functions. As a result, this proposed method effectively enhances the learning abilities of multilayer feedforward neural networks by introducing the sum-of-squares weight term into the networks’ error functions and appropriately enlarging the variable components with the help of the SVM theory. Finally, the effectiveness of the proposed method is verified through three classification examples as well as a non-linear mapping one.     

Approximate Feedback Linearisation Using Multilayer Neural Networks

In this paper we introduce the approximate feedback linearisation using multilayer feedforward neural networks. We propose to approximate a basis of the one-dimensional codistribution of an affine nonlinear system with the derivative of a multilayer neural network [6] and form a change of coordinates with n multilayer neural networks [5]. In this paper we will prove that the transformation can define a local diffeomorphism, with which a local stabilising feedback law can be designed for a kind of non-linearisable nonlinear systems.     

基于卷积计算的多层脉冲神经网络的监督学习

针对脉冲神经元基于精确定时的多脉冲编码信息的特点,提出了一种基于卷积计算的多层脉冲神经网络监督学习的新算法。该算法应用核函数的卷积计算将离散的脉冲序列转换为连续函数,在多层前馈脉冲神经网络结构中,使用梯度下降的方法得到基于核函数卷积表示的学习规则,并用来调整神经元连接的突触权值。在实验部分,首先验证了该算法学习脉冲序列的效果,然后应用该算法对Iris数据集进行分类。结果显示,该算法能够实现脉冲序列复杂时空模式的学习,对非线性模式分类问题具有较高的分类正确率。     

限定记忆的前向神经网络在线学习算法研究

从理论上分析了隐含层激励函数满足Mercer条件的前向神经网络的数学本质,给出了网络学习的指导方向.提出3种网络在线学习算法,它们通过动态调整网络结构和权值来提高网络在线预测性能.算法完全符合统计学习理论提出的结构风险最小化原则,具有较快的学习收敛速度和良好的抗噪声能力.最后通过具体数值实验验证了上述算法的可行性和优越性.     

广义BP算法及网络容错性和泛化能力的研究

给出广义ＢＰ算法及其网络学习的多种方式，常用的前向网络全并行权值修改方式是其中效率较低的一种，有许多更好的权值修改方式可以使用。网络的泛化能力依赖于网络的拓扑结构，对国际上为改进网络泛化能力而采用的几种修正学习算法的实际功能做了简要的评论。