一种新的模糊神经网络删剪策略

模糊规则的数量直接决定模糊神经网络结构的复杂度和效率.基于神经网络自构行学习(NNSCL)算法,用共轭剃度预条件正则方程算法求取删除隐层神经元后的剩余权值,得到改进的NNSCL-1算法.将此算法应用到模糊神经网络的规则推理层,可以极大地优化网络的规则及结构,并且结构优化后不需要重新训练也能保持网络的精确度和泛化能力.仿真结果显示了此算法的有效性和可行性.     

一种新型的前馈多层神经网络学习算法

利用矩阵Ｍｏｏｒｅ－Ｐｅｎｒｏｓｅ逆的方法,提出了一种新型的前馈多层神经网络学习算法－ＭＢＰ算法。该算法采用了群体搜索的策略,打破了ＢＰ算法一次一点的搜索方式,一次可搜索权空间中的一个超平面,仿真结果表明,该算法在提高收敛速度和避免陷入局部极小点方面都有一定的进展。     

前馈神经网络中BP算法的一种改进

在传统的BP算法基础上,提出了一种改进的BP学习算法,先加入描述网络复杂性的量,使算法能够考虑到网络的连接复杂性,进而有可能删除掉冗余的连接甚至节点;接着提出对网络的学习步长的动态调整,以此来尽量避免传统学习中的学习速度过慢和反复震荡;然后给出新的算法是高阶非线性收敛的证明;最后通过实验说明的新的BP算法在一定程度上可减少网络的复杂性,有着比传统算法更快的收敛速度。     

一种多层前馈神经网络的快速学习算法

对多层前馈神经网络的学习算法及其特点做了较为详细的讨论，提出了一种基于层内优化的快速学习算法。在该算法中，输出层的连接权矩阵（V）和前一层的输出矢量（B）被作为2个变量集合，通过最小化该层样本的总平方误差函数可求得一组它们的优化解（V^*,Bp^*）；并将Bp^*作为前一层（隐层）的期望输出，用类似的方法同样可以求出隐层的连接权矩阵和输出矢量，最后通过计算机仿真证明了该算法的有效性。     

激励函数可调的前馈神经网络在线学习算法

针对标准ＢＰ算法的不足,提出了一种激励函数可调的前馈神经网络在线学习算法。该方法去除了样本的预处理过程,以在线方式训练前馈神经网络,同时修正网络的权重,阈值与激励函数。,上于避免了神经元的输出饱和现象,算法的收敛速度明显提高,并在一定程度上防止了局部极小解的出现。仿真结果证明了这种算法的有效性。     

前馈神经网络的二阶学习算法

前馈神经网络是神经网络中应用最广的一种。但由于神经网络采用Ｂ－Ｐ算法，收敛速度慢。在分析了神经网络算法原理的基础上，提出了一种基于变质量法的优化训练算法。仿真证明，这种算法能够大大提高神经网络的收敛速度。     

前馈神经网络的一个新的混沌学习算法

利用混沌运动的遍历性特点,将logistic 映射与BP算法相结合,给出一个多层前馈网络的新的混沌学习算法。仿真结果表明,本算法取得了良好的效果。     

前馈神经网络的逐层优化学习算法

提出了求解前馈神经网络的逐层优化学习算法，首先对输出层权值进行优化，然后再对隐层权值进行优化，如此交替迭代直至求出最优解。在分层优化过程中，对节点激池数进行了线性，同时为防止由于线性化造成较大的误差，在目标函数中加入惩罚项。     

分区前馈神经网络及其算法

基于鲎小眼间侧向抑制的Hartline Ratliff模型，文中将自组织网络与BP网络相结合，提出了一种分区前馈神经网络，并给出其具体学习，仿真算法.该网络结构能反映人脑多网络结构，并行处理信息的特点，因而具有学习快速，一定程度上克服局部极小和适合并行计算的特点.计算机仿真的算例证明，即使在患行计算机学习时间也可以减少到以往的50%以下，而与传统的前馈神经网络具有相同的泛化能力.     

任意前馈神经网络的稀疏化算法

主要讨论前馈神经网络的稀疏化,即如何确定和删除网络中冗余的神经元和连接。首先给出前馈神经网络的数学定义,并将偏序和拓扑排序引入到前馈神经网络的学习算法和稀疏化算法中。在此基础上提出了冗余神经元和连接的判断依据,并按照自构形和自调整的策略,提出了适用于前馈神经网络的自构形学习算法和自调整删减算法。实验结果表明,上述的稀疏化算法不仅能够有效地删除网络中冗余的神经元和连接,而且能够改善网络的性能。     

人工神经网络混合剪枝算法

目前人工神经网络(ANN)应用中所遇到的挑战之一就是如何针对特定问题确定相应网络。基于进化算法和局部搜索算法两类策略的特点和不足,文中提出了混合剪枝算法HAP(HybridAlgorithmofPruning)。算法首先联合进化算法代表之一遗传算法(GA)和反向传播算法BP的不同优势完成ANN网络结构和权重进化的初步阶段;然后应用多权重剪枝策略(MW-OBS)进一步简化、确定网络结构。结合案例与以往的混合策略算法进行对比研究,结果表明HAP在寻优能力、简化网络结构、保证稳定性等方面均有明显优势,更加适合大规模ANN的优化问题。     

前馈网络灵敏度：分析及降低算法

在前馈网络中，不同的权值组合可逼近同一映射。网络的灵敏度取决于权值的变化。文中提出了计算网络灵敏度的方法和一种降低网络灵敏度的学习算法。网络的灵敏度分析包括单输出、多输出及输入变化、权值变化等情况。学习算法是在网络训练过程中加入随机噪声。次种学习算法与传统学习算法相比，可降低网络的灵敏度，但学习收敛速度基本相同。     

广义逆矩阵及其在神经网络计算中应用

利用简单易懂的矩阵及向量内积等工具 ,给出广义逆矩阵的定义及性质 ,并以神经网络计算为例 ,讨论了它的实际应用 .     

一种基于综合目标函数的神经网络学习算法

为提高多层前向神经网络的学习速度和算法的稳定性,提出一种基于综合目标函数的改进学习算法.该算法在误差平方和目标函数中引入一个辅助约束项构成综合目标函数,并利用综合目标函数训练网络的输出层权值,采用牛顿法推导出训练输出层权值的递推公式.辅助约束项隐含有对网络输出平滑性的约束,提高了学习算法的稳定性.利用该算法对不同非线性函数生成的样本数据的学习结果表明,新算法的收敛速度、精度均优于Karayiannis等人的二阶学习算法.     

协同神经网络聚类型学习算法

协同神经网络是一类全新的神经网络 ,它可以根据竞争神经网络的一般原则划分为匹配子网和竞争子网。其中 ,匹配子网的学习是协同神经网络的一个中心问题。改善匹配子网的学习效率有 2种途径 :对伴随向量求解算法的改进和原型向量选取方法的改进。文章浅析了这 2种类型的学习算法 ,着重研究了聚类算法在原型向量选取中的应用 ,并以一组交通标志图像作为识别样本 ,验证了选取原型向量 2种思路的有效性。     

基于单隐层前馈神经网络的优化算法

前馈神经网络是神经网络中最常用的函数近似技术。根据普适定理,单隐层前馈神经网络(a single-hidden layer feedforward neural network,SFNN)可以任意接近相应的期望输出。一些研究人员使用遗传算法(genetic algorithms,GAs)探索FNN结构的全局最优解。然而,使用GAs来训练SFNN是相当费时。提出了一种新的SFNN优化算法。该方法是基于凸组合算法(convex combination algorithm,CCA)在隐含层上分析信息数据。事实上,该技术是将分类遗传演算法结合交叉策略的GAs算法。改进方法比GAs算法性能更优,但在进行学习和遗传演算前需要大量预处理工作如将数据分解为二进制代码。同时设置一个新的误差函数量化SFNN性能、获得连接权值最优选项以直接解决非线性优化问题。采用几个计算实验验证改进算法,结果表明改进方法更适合寻找单隐含层SFNN的最优权重。     

改进差分进化在前馈神经网络训练中的应用

分析了误差反传算法,将改进差分进化算法和神经网络结合,采用常数变异交叉与自适应变异交叉的混合策略对网络的权值和阈值进行训练.并用2个典型问题对该网络和误差反传网络进行仿真对比.结果表明：经改进差分进化算法训练的神经网络,收敛速度快、泛化性能好.     

多层前馈神经网络的动态规划算法

利用动态规划来训练多层前馈网络，即逐层修改网络的权值。其算法采用有关文献提出的矩阵的广义逆的正交反向传播算法，经有限次迭代即可得到每一层的最优权值。