一种优化神经网络结构算法

给出了一种优化三层神经网络结构算法。首先以较大隐层节点数进行学习，然后根据隐层输出信息提取各节点之间的线性特征来优化隐层节点数。对隐层输出信息提取各节点之间的线性特征，给出了两种方法：一种是在ＢＰ神经网络迭代后用自适应线性单元来提取隐层输出各节点之间线性特征，另一种是在ＢＰ神经网络迭代时就尽量使隐层输出各节点之间呈线性，然后用上种方法来提取隐层输出各节点之间线性特征。实例验证，后一种比前一种能更好     

多层神经网络学习算法的研究

在样本的学习过程中引入了求解复杂优化问题比较有效的多级优化技术，将一个复杂的多层神经网络权值优化问题分解成多个相对简单的优化子问题，然后利用迭代的策略进行求解，并提出了一种改进的ＢＰ算法，提高了学习效率。     

一种局域连接前向人工神经网络结构的研究

双隐层标准前馈网络只要其隐层节点数足够多就能解决任何形式的分类问题。应用标准网络识别多模式类分类问题时存在以下缺陷；１．对不同模式类均使用相同数目的隐层元；２．增加新模式类后，网络要重新学习．３．网络识别的机理研究困难。笔者提出了一种局域连接前馈神经网络的结构，其隐层神经元与输出神经元裥的局域连接，学习算法与ＢＰ算法。     

基于遗传—ＢＰ神经网络的沉积微相自动识别

提出了一种基于神经网络与图象处理技术相结合的沉积微相自动识别方法,该方法是先将数字化测井曲线和地层参数预处理转化为二值点阵图象模式,经过点阵数据编码压缩提取和记忆曲线所表征的地层模式特征,然后利用超线性ＢＰ算法与遗传算法相结合的方法训练多层前馈神经网络,所得神经网络稳定,学习收敛速度快,同时具有很强的记忆能力和推广能力,此模型对解决沉积微相自动识别问题具有良好的适应性。     

基于蚁群聚类和裁剪方法的RBF神经网络优化算法

提出了一种基于蚁群聚类算法和裁剪方法的RBF神经网络优化算法。利用蚁群算法的并行寻优特征和一种自适应调整挥发系数的方法,提出一种新的聚类算法来确定RBF神经网络中基函数的位置;通过一种裁减的方法,除去对整个网络的输出贡献不是很重要的隐层单元来约简隐含层的神经元,以达到简化RBF神经网络结构的目的。对非线性函数进行逼近仿真,结果表明:优化算法有比较好的优化效果,而且,优化后的RBF神经网络的结构小,RBFNN的泛化能力得到了提高。     

神经网络用于系统辨识的一种最小二乘法

讨论了用多层前向神经网络建立非线性系统模型的机理,然后通过对多层前向神经网络特点的分析,给出了一种基于线性最小二乘法的神经元网络训练方案。在该方案中,通过梯度法获取隐层神经元的输入,使用线性最小二乘法训练各神经元的权值和阈值。仿真结果表明该方案具有精度高、收敛速度快等特点。     

Hermite前向神经网络隐节点数目自动确定

从函数逼近论出发,构造了一类以Hermite正交基为激励函数的前向神经网络.在保证网络逼近能力的前提下,令其输入层至隐层的权值和各神经元阈值分别为1和0,导出了基于伪逆的隐层至输出层最优权值的直接计算公式.并针对Hermite前向神经网络,提出一种依照学习精度要求而逐次递增型的隐节点数自动、快速、准确的确定算法.对多个目标函数的计算机仿真和预测结果表明,该神经网络权值直接确定方法和隐节点数自动确定算法能很快地找到最优的隐节点数及其对应的最优权值,且网络具有较好的预测能力.     

神经网络在图像压缩中的应用研究

探讨应用神经网络实现图像压缩和解压缩技术。神经网络结构由两组三层ＢＰ网络嵌套而成，分别为输入层、结合层、压缩层、分解层和输出层。由ＲＧＢ彩色模式的ＢＭＰ图像文件产生样本数据，采用ＢＰ算法的一种扩展型，即嵌套训练算法，对网络进行训练，得到有效的模拟结果。     

水轮机调节系统的神经网络控制

设计了一个三层ＢＰ神经网络,对有功功率反馈参与控制的水轮机调节系统,以其典型工况下的最优ＰＩＤ系数作为训练样本,对所设计的ＢＰ神经网络进行离线训练,进而构成一个基于ＢＰ神经网络的变参数ＰＩＤ控制器;利用ＢＰ神经网络的函数逼近能力来实现ＰＩＤ控制器在线调整,以达到优化控制的目的。对简单电力系统的仿真结果表明,这种控制器与常规ＰＩＤ控制器相比可以取得较好的控制效果,是实现水轮机调节系统自适应控制的一种可行的方法。     

人工神经网络BP算法的改进及其应用

对传统的ＢＰ算法进行了改进,提出了ＢＰ神经网络动态全参数自调整学习算法,又将其编制成计算机程序,使得隐层节点和学习速率的选取全部动态实现,减少了人为因素的干预,改善了学习速率和网络的适应能力。计算结果表明：ＢＰ神经网络动态全参数自调整算法较传统的方法优越,训练后的网络模型不仅能准确地拟合训练值,而且能较精确地预测未来趋势。     

进化优化脊波网络及其应用

用脊波函数作为单隐层神经网络的激活函数,针对此种网络提出了一种两阶段的参数估计优化算法:用进化算法来优化网络中的尺度、方向和位置参数,用最小二乘法来估计网络中的线性权重。把此种模型和优化方法用于预测著名的Mackey-Glass混沌时间序列。比较结果表明了提出方法的有效性。     

K—L变换在BP网络初始权值优化中的应用

提出了一种新的神经网络初始权值的优化方法，该方法首先对样本做K—L变换，将所得到的变换矩阵作为BP网络输入层到隐层的初始权值，然后开始BP算法对多层感知器的训练学习，以缩短样本学习时间．最后分别选取线性可分的样本和非线性可分的样本在MATLAB中进行了仿真，仿真结果证明，该权值优化方法是合理的．     

K-L变换在BP网络初始权值优化中的应用

提出了一种新的神经网络初始权值的优化方法,该方法首先对样本做K-L变换,将所得到的变换矩阵作为BP网络输入层到隐层的初始权值,然后开始BP算法对多层感知器的训练学习,以缩短样本学习时间.最后分别选取线性可分的样本和非线性可分的样本在MATLAB中进行了仿真,仿真结果证明,该权值优化方法是合理的.     

基于自组织随机权神经网络的BOD软测量

针对污水处理复杂系统中关键水质参数生化需氧量( biochemical oxygen demand,BOD)难以准确实时预测的问题,在分析污水处理过程相关影响因素的基础上,提出一种基于敏感度分析法的自组织随机权神经网络( self-organizing neural network with random weights,SONNRW)软测量方法。该方法首先通过机理分析选取原始辅助变量,经过数据预处理,之后采用主元分析法对辅助变量进行精选,作为SONNRW的输入变量进行污水处理关键水质参数BOD的预测。 SONNRW算法利用隐含层节点输出及其权值向量计算该隐含层节点对于残差的敏感度,根据敏感度大小对网络隐含层节点进行排序,删除敏感度较低的隐含层节点即冗余点。仿真结果表明：该软测量方法对水质参数BOD的预测精度高、实时性好、模型结构稳定,能够用于污水水质的在线预测。     

基于Spiking的RBF神经网络故障诊断算法

神经网络是一种不依赖模型的控制方法,其自身并不需要给定预先需要的有关先验知识和判断函数,因此能对变化的环境（包括扰动和噪声信号等等）具有良好的自适应性.RBF神经网络是具有单隐层的三层前馈网络,由输入到输出的映射是非线性的,而隐含层空间到输出空间的映射是线性的.其优点在于收敛速度快,具有唯一最佳逼近的特性,且不会陷入局部最小的问题.Spiking神经网络采用时间编码的方式来进行数据处理,更接近于实际生物神经系统.基于Spiking的RBF神经网络在预测精度和误差控制上有着显著的效果.     

利用BP神经网络描述作物-水模型

研究了利用BP神经网络描述作物－水模型的方法，将各生育阶段的耗水量作为输入，将作物单产作出输出，构建了具有1个隐含单元层的BP神经网络结构，利用北京永乐店试验站1998－1999年度的冬小麦灌溉试验资料进行了样本进行训练和检验，得到了作物－水模型的人工神经网络模型。结果表明，作物－水模型的人工神经网络模型具有较高的拟合精度和预测精度。     

A New Combined Neural Network Model

This paper discusses the principle structures,learning algorithms and approximating abili-ties of two typical classes of neural networks models:BP and CMAC,presents the architectureand foundation of a new kind of Combined Neural Network(CNN)which uses the output of aCMAC neural network as a BP’s additional input node.And the corresponding learning algorithmis obtained by backpropagating the approximating error in the output layer through eachhidden layer to the input nodes as well.Comparisons in terms of converge speed andapproximating ability are made among BP,CMAC and CNN.Simulations suggest that the CNNhas the advantages of fast learning speed and good generalizability ability.     

基于神经网络的PMLSM建模

永磁直线同步电动机 (PMLSM)是直线电机驱动的垂直运输系统的核心 ,它的模型的建立对于整个系统的控制与运行分析具有重要的意义 .利用BP算法 ,用C语言编制程序 ,实现了一个单输入层单输出层 4隐含层的神经网络 ,并用实验数据对网络学习训练 ,建立了PMLSM的模型 .通过实验验证 ,该模型的输出结果与实际结果十分接近 ,能够反映PMLSM的基本运动特性 ,因此这种模型可以作为PMLSM的仿真模型进行控制和运行特性的仿真研究 ,并且在进行控制时可以把这种模型作为系统的辩识模型进行预测控制 ,使控制效果更好 .这种模型的建立将为PMLSM的研究开辟出一条新路     

基于RBF -BP神经网络融合的医学数据分类研究

为改善传统的反向传播(BP)神经网络和径向基函数(RBF)神经网络的学习能力和分类性能的不足,提出一种融合RBF网络与BP网络的混合神经网络算法(HRBF -BP),并将其应用到医学数据分类问题中.在网络结构的实现上,将RBF隐藏层与BP隐藏层进行级联融合,即在连接BP网络输入层与隐藏层之间加入RBF核映射层; 在学习算法的实现上,先采用k-均值聚类算法来实现RBF核参数的估计,然后再使用基于随机梯度下降的BP算法实现级联BP网络的权值优化.将该算法与SGBP、KMRB、PFRBF等算法在不同的医学数据集上进行分类实验对比表明,该方法的网络训练精度以及测试精度均优于SGBP、KMRB、PFRBF算法; 因此,该方法对提高BP网络和RBF网络的学习能力和分类性能具有良好的参考价值.