前馈神经网隐层节点的动态删除法

本文首先针对ＢＰ算法中存在的缺陷对误差函数作了简单的修改，使网络的收敛速度比原来的大大提高，此外本文提提出了一种基于线性回归分析算法来确定隐层节点数。当已训练好的网络具有过多的隐层单元，可以用这种算法来计算隐层节点输出之间的线性相关性，并估计多余隐层单元数目，然后删除这部分多余的节点，就能获得一个合适的网络结构。     

多层前馈网络的一种快速算法

多层前馈网络是目前研究得最多和应用最广泛的神经网络之一，其基本算法为误差反向传播（ＥＢＰ）算法，但存在收敛速度慢和局部极小的问题。本文利用递归最小二乘算法来训练多层前馈网络，ＲＬＳ算法具有收敛速度快，抗噪声能力强等优点，还克服了常规ＢＰ算法中学习率选取困难的缺点。仿真结果说明了本文方法的有效性。     

在超立方体上并行仿真BP神经网

本文研究在超立方体上并行仿真ＢＰ神经网的方法，报告我们在Ｉｎｔｅｌ ｉＰＣＳ／８６０超立方上开发的一个ＢＰ神经仿真器。文章着重讨论如何把ＢＰ神经网均衡地分配到超立方体的结点以及如何在超立方体上并行实现ＢＰ算法等问题。     

多层BP网络的研究及应用

在本文中，我们用统计模式识别的方法分析了目前在模式识别中得到广泛应用的多层ＢＰ神经网络，揭示了具有线性输出单元的多层ＢＰ神经网络用作特征提取器和分类器时具有良好性能的原因。同时，我们设计了一个使用ＢＰ网络作为特征提取器和分类器时，普适的工件识别系统，对不能识别的样本，采用模糊推理技术，把传统的直观特征识别结果和多层ＢＰ网络结果特征级上融合，提高系统的性能。     

基于能量密度的小波神经网络

本文提出了基于能量密度构造单隐层前向小波网络用以逼近复杂非线性函数。在时频定位分析的基础上，引入了能量密度的概念，用其作为选择小波元的标准。在本文中给出了网络构造算法及相应的学习算法，并与其它小波网及ＢＰ网进行了比较。实验结果证明了该方法是可行的，且具有小波元数目相对较少、学习收敛速度快等特点，并就其在实际应用中应注意的问题提出了我们的观点。     

基于改进自构形学习算法的RBF网络结构优化

RBF网络中的隐层神经元的数目直接影响着整个网络的性能和效率,因而对RBF网络的结构优化是一个非常必要的环节。本文先采用分步式训练构造初始RBF网络,然后利用改进的神经网络自构形学习算法对所构造的RBF网络的隐层进行优化,最后通过实验结果的分析与对比,验证改进的神经网络自构形学习算法对RBF网络优化的有效性。     

自寻优OBP学习算法

本文针对多层前馈神经网络中反向误差传播ＢＰ算法的固有缺点，提出了一种新的十分有效的自寻优ＯＢＰ学习算法。ＯＢＰ在每次迭代中都自动选择一个使目标函数函数全局最小的步长，从而极大地改善了网络的收敛速度和收敛稳定性。．     

一种估计前馈神经网络中隐层神经元数目的新方法

前馈神经网络中隐层神经元的数目一般凭经验的给出，这种方法往往造成隐单元数目的不足或过甚，从而导致网络存储容量不够或出现学习过拟现象，本研究提出了一种基于信息熵的估计三层前馈神经网络隐结点数目的方法，该方法首先利用训练集来训练具有足够隐单元数目的初始神经网络，然后计算训练集中能被训练过的神经网络正确识别的样本在隐层神经元的激活值，并对其进行排序，计算这些激活值的各种划分的信息增益，从而构造能将整个样本空间正确划分的决策树，最后遍历整棵树寻找重要的相关隐层神经元，并删除冗余无关的其它隐单元，从而估计神经网络中隐层神经元的较佳数目，文章最后以构造用于茶叶品质评定的具有较佳隐单元数目的神经网络为例，介绍本方法的使用，结果表明，本方法能有效估计前馈神经网络的隐单元数目。     

多层感知器的一种快速网络训练法及其应用

从多层感知器原理分析出发,提出一种自适应学习速率因子方法,用于对多层感知器中ＢＰ算法的改进,并将改进算法用于ＸＯＲ问题的学习及某分类器实例样本的学习。仿真结果表明,改进的ＢＰ算法可显著加速网络训练速度,学习过程具有较好的收敛性和较强的鲁棒性。     

前馈网络凸优化算法的自适应分析及应用

该文利用凸优化理论和约束优化理论为前馈神经网络构造出了一个新的优化目标函数。该目标函数的一个重要特点是：若固定连接权值，它对隐层输出来说为凸的；若固定隐层输出，它对连接权值来说为凸的。对该目标函数进行优化时，把隐层输出也做为被优化变量，交替优化隐层输出和连接权值；之后再增大惩罚因子的值，重复上述步骤，直到惩罚因子足够大为止。用新的目标函数设计的前馈网络凸优化算法，能在很大程度上克服以往算法易于陷入局部最小而使网络训练失败的缺陷。从理论和实践上对新算法进行了深入分析，重点分析了惩罚因子在算法中的重要作用，并通过图像压缩这一实例进行了很好的验证。     

BP网络与RS理论在浮选生产数据分析中的应用

该文在进行某选矿厂浮选生产数据分析的过程中,针对浮选过程常常为高度非线性多输入多输出问题的特点,在深入剖析BP网络与RS理论的基本原理和特点的基础上,提出了分别利用BP网络的高度非线性拟合特性对浮选生产数据进行训练以获得浮选生产过程知识的隐式表达,同时利用RS理论的数据浓缩功能对浮选生产数据进行约简而得到相应浮选生产过程知识的显式表达,然后对两种模型的分析结果进行交叉验证的应用模式。与基于人工神经网络的决策树构造等其它人工神经网络的白化方法相比,该方法具有在保证问题分析结果的精度的同时,分析过程相对简单,克服了由于BP网络结构的不确定性而导致最终得到的决策树不确定的缺点,并由此减小了对所分析数据产生误解的风险。     

混合型多概念获取系统的设计与实现

本文主要描述了一个增量式混合型多概念获取系统ＨＭＣＡＳ，它提出了一个基于概率论的符号学习与神经网络学习相结合的学习算法，能从隶属于某个概念集的实例集中归纳出满足用户精度要求的，以浊合型判定树表示的概念描述。在ＨＭＣＡＳ中，符号学习与神经网络学习具有结合紧密的转换灵活等特点，具有较高的学习效率和较强的归纳能力以及增量学习能力。ＨＭＣＡＳ的神经网络学习可选择ＢＰ网络或ＦＴＡＲＴ网络，其推理机制提供了混     

一种基于神经网络集成的决策树构造方法

神经网络集成方法具有比单个神经网络更强的泛化能力,却因为其黑箱性而难以理解;决策树算法因为分类结果显示为树型结构而具有良好的可理解性,泛化能力却比不上神经网络集成。该文将这两种算法相结合,提出一种决策树的构造算法：使用神经网络集成来预处理训练样本,使用C4．5算法处理预处理后的样本并生成决策树。该文在UCI数据上比较了神经网络集成方法、决策树C4．5算法和该文算法,实验表明：该算法具有神经网络集成方法的强泛化能力的优点,其泛化能力明显优于C4．5算法;该算法的最终结果昆示为决策树,显然具有良好的可理解性。     

混合算法用于学习资源的自动推荐

提出一种基于决策树和BP网络的混合算法。采用决策树挖掘学生初始学习能力的行为模式以及应用BP神经网络算法评价用户的学习程度，以学习者对资源的掌握程度形成个性化的学习模式，并自动地对其将要学习的后继知识进行预测以及合理推荐。理论分析和实验结果都表明，该算法具有显著的推荐能力。     

一种新的基于数据挖掘的入侵检测方法

提出一种新方法将聚类算法和神经网络相结合用于入侵检测，首先使用聚类算法对数据集进行聚类，聚类后的数据分为确定数据和不确定数据。确定数据用于神经网络的训练，并用于对不确定数据的判决，最后将结果再次训练网络。实验结果表明，此方法有着很好的检测效果。     

一种与神经元网络杂交的决策树算法

神经元网络在多数情况下获得的精度要比决策树和回归算法精度高,这是因为它能适应更复杂的模型,同时由于决策树通常每次只使用一个变量来分支,它所对应的识别空间只能是超矩形,这也就比神经元网络简单,粗度不能与神经元网络相比,然而神经元网络需要相对多的学习时间,并且其模型的可理解性不如决策树、Naive-Bayes等方法直观,本文在进行两种算法对复杂模型的识别对比后,提出了一个新的算法NNTree,这是一个决策树和神经元网络杂交的算法,决策树节点包含单变量的分支就象正常的决策树,但是叶子节点包含神经元网络分类器,这个方法针对决策树处理大型数据的效能,保留了决策树的可理解性,改善了神经元网络的学习性能,同时可使这个分类器的精度大大超过这两种算法,尤其在测试更大的数据集复杂模型时更为明显。     

基于神经网络的模糊决策树改进算法

传统决策树通过对特征空间的递归划分寻找决策边界,给出特征空间的“硬”划分。但对于处理大数据和复杂模式问题时,这种精确决策边界降低了决策树的泛化能力。为了让决策树算法获得对不精确知识的自动获取,把模糊理论引进了决策树,并在建树过程中,引入神经网络作为决策树叶节点,提出了一种基于神经网络的模糊决策树改进算法。在神经网络模糊决策树中,分类器学习包含两个阶段：第一阶段采用不确定性降低的启发式算法对大数据进行划分,直到节点划分能力低于真实度阈值[ε]停止模糊决策树的增长;第二阶段对该模糊决策树叶节点利用神经网络做具有泛化能力的分类。实验结果表明,相较于传统的分类学习算法,该算法准确率高,对识别大数据和复杂模式的分类问题能够通过结构自适应确定决策树规模。     

基于结构简化的BP网络的多类形状识别

BP算法是目前应用极为广泛的神经网络算法,但它也存在一些不足。文中提出了一种使BP网络结构简化的改进的BP算法,它使得网络的速度得到了提高,减少了迭代次数。最后将传统的BP算法和改进的BP算法进行了比较,仿真结果表明改进的算法在学习次数和收敛速度上比传统的算法有很大的改善。     

基于MATLAB神经网络工具箱的BP网络实现

简要介绍BP神经网络结构和算法以及MATLAB语言的特点。利用MATLAB的神经网络工具箱提供的许多有关神经网络设计、训练以及仿真的函数实现BP网络将非常容易，用户只要根据自己的需要调用相关程序，从而免除了编写复杂而庞大的算法程序的困扰。并详细论述利用MATLAB神经网络工具箱设计BP网络的方法及步骤，给出具体应用实例，从而验证该方法的可行性。     

一种基于单模型的网页净化方法

为了能够更好地获得和处理网页中的正文信息,本文提出基于改进的DOM树和BP神经网络的网页净化算法。该算法根据DOM树和网页内容的特征用HTMLParser把网页转换成一棵内容块树。因网页子内容块具有相当明显的数值特征,可以通过BP神经网络建立网页噪音信息过滤模型。这样使得网页净化更加模型化,也能够取得更加好的效果。