基于子空间信息量准则的软测量模型选择研究

提出了子空间信息量概念及其准则,并引出了函数集信息量的概念;在此基础上,阐述了基于上述概念和准则的软测量模型选择理论,指出并解决了软测量模型选择欠学习与过学习问题;给出了一种次优软测量模型选择算法。最后,通过具体实例验证了上述方法的可行性和优越性。     

限定记忆的前向神经网络在线学习算法研究

从理论上分析了隐含层激励函数满足Mercer条件的前向神经网络的数学本质,给出了网络学习的指导方向.提出3种网络在线学习算法,它们通过动态调整网络结构和权值来提高网络在线预测性能.算法完全符合统计学习理论提出的结构风险最小化原则,具有较快的学习收敛速度和良好的抗噪声能力.最后通过具体数值实验验证了上述算法的可行性和优越性.     

模糊系统与前向神经网络的结合

1 引言模糊系统方法和神经网络技术是近年来计算智能领域研究热点,被广泛地应用于复杂系统、非确定性等难于建立比较准确的数学模型的问题,并在自动控制、计算机图像处理、语音识别、手写体识别等领域有重要应用。模糊系统与神经网络的结合也越来越受到人们的重视。模糊系统和神经网络的结合可以分为模糊系统与前向网络的结合和与反馈网络的结合两类。模糊系统与反馈网络的结合主要有模糊联想记忆、模糊     

基于前向神经网络和Hopfield反馈神经网络的边界检测法

提出了一种新的基于前向神经网络和ｏｐｆｉｅｌｄ反馈神经网络的边界检测法,它分别探测每个象素点是否为边界点,便于实现边界检测的并行运算。首先讨论了两层前向神经网络来增强的编码被检测象素点邻域的信息,然后利用增强和编码后的邻域图象作为Ｈｏｐｆｉｅｌｄ反馈神经网络的输入,Ｈｏｐｆｉｅｌｄ神经网络收敛时得到图象边界点。这种新的神经网络边界检测法所需的计算量比传统的Ｈｏｐｆｉｅｌｄ网络边界检测法少得多,并增     

基于核函数的SVM机与三层前向神经网络的关系

针对尚未完全解决的SVM理论中求核函数的问题，首先证明了Vapnik的基于核函数的SVM机与三层前向神经网络的等价性；其次以作者提出的神经网络的覆盖算法为工具，证明了如下的定理（核函数存在性定理）；对任给的样本集（规模有限），必存在一函数（或相应的核函数），样本集在此函数映射下，映成某高维空间中的一子集（样本集的像集），在此高维空间中，像集是线性可分的；最后给出求解此函数的算法，算法的计算复杂性是多项式的，且算法求到的解在高维空间上是最大间隔解。     

一种基于在线学习前向神经网络的组合导航滤波器

首先建立了带反馈校正的组合导航数学模型，在此基础上提出了一种在线学习的神经网络滤波算法。这种算法不需要噪声的先验知识，对系统模型的依赖也较弱。仿真表明，卡尔曼滤波器在理想情况下有较高的估计精度，而神经网络滤波器在非理想情况下有较高的精度，对模型误差和噪声特性的变化具有良好的鲁棒性。     

前向神经网络设计问题的回顾与探索

本文评述了近十几年来国内外对前向神经网络设计问题的研究情况，在分析各种已有设计方法优缺点的基础上，提出另一种新的解决前向神经网络设计问题的方法，并给出几个非常典型的设计（模拟）例子，以说明本文所提出方法的有效性和潜力。     

角分类前向神经网络研究

角分类算法是一类快速分类算法，以其为学习算法的前向神经网络，在信息检索，特别是在线信息检索等领域有着重要的应用．通过对CC4学习算法的分析，揭示了泛化距离在角分类神经网络中的意义．针对文本数据的快速分类要求，提出了新的角分类网络TextCC．为解决数据的多类别判定问题，给出了新的角分类神经网络隐层与输出层之间连接矩阵的学习算法．实验表明，新的角分类神经网络隐层与输出层之间连接矩阵的学习算法有效，TextCC的分类精度教CC4的分类精度显著的提高．     

基于前向神经网络的图像检索相关反馈算法设计

相关反馈技术是近年来较为重要的图像检索方法，该文从机器学习的角度出发，提出了一种基于神经网络的相关反馈算法，在检索过程中，用户可以标记出与查询图像相似的正例样本反馈给系统，然后由系统构造出前向神经网络并再次进行检索，以改进查询结果。该文对用于训练前向神经网络的构造性算法在图像检索中的几何意义进行了深入的研究，并在此基础上给出平移算法、反例标记学习算法、球半径系数自适应算法等，从而使基于神经网络自学习的相关反馈算法更加完善。实验表明，改进后的算法在图像检索中具有更好的性能和更强的推广能力。     

蚁群算法优化前向神经网络的一种方法

蚁群算法(ACA)是一种新型的寻优策略,此文章尝试将蚁群算法用于三层前向神经网络的学习过程,建立了相应的优化模型,进行了实际的编程计算,并与加动量项的BP算法、演化算法以及模拟退火算法进行比较,结果表明ACA具有更好的全局收敛性,鲁棒性强,以及对初值不敏感等特点。     

一种新的前向神经网络自适应学习算法

针对时变和／或非线性输入的前向神经网络提出了一种感知自适应算法。其本质是迫使输出的实际值和期望值之间的误差满足一个渐近稳定的差分方程，而不是用后向传播方法使误差函数极小化。通过适当排列扩张输入可以避免算法的奇异性。     

双并联前向过程神经网络及其应用研究

为克服多层前向过程神经网络收敛速度慢、精度低的问题,提出了一种双并联前向过程神经网络模型.在输入空间中引入一组合适的函数正交基,将输入函数和网络权函数表示为该组正交基的展开形式,并利用基函数的正交性简化网络聚合运算过程.给出了相应的学习算法,并以飞机发动机状态监控中发动机排气温度的预测为例验证了模型和算法的有效性.     

一种基于神经网络的信息推荐方法

针对Internet上的信息过载问题,提出了一种基于内容分析的信息推荐方法。该方法使用神经网络作为知识表示和推理机制来建立用户兴趣模型,然后以用户模型为基础来预测用户对信息的偏好程度,并据此做出信息推荐。提出的方法通过一个仿真试验进行验证。     

A Hybrid Training Algorithm for Feedforward Neural Networks

Feedforward neural networks (FNN) have been proposed to solve complex problems in pattern recognition, classification and function approximation. Despite the general success of learning methods for FNN, such as the backpropagation (BP) algorithm, second-order algorithms, long learning time for convergence remains a problem to be overcome. In this paper, we propose a new hybrid algorithm for a FNN that combines unsupervised training for the hidden neurons (Kohonen algorithm) and supervised training for the output neurons (gradient descent method). Simulation results show the effectiveness of the proposed algorithm compared with other well-known learning methods.     

多元多项式函数的三层前向神经网络逼近方法

该文首先用构造性方法证明:对任意r阶多元多项式,存在确定权值和确定隐元个数的三层前向神经网络.它能以任意精度逼近该多项式.其中权值由所给多元多项式的系数和激活函数确定,而隐元个数由r与输入变量维数确定.作者给出算法和算例,说明基于文中所构造的神经网络可非常高效地逼近多元多项式函数.具体化到一元多项式的情形,文中结果比曹飞龙等所提出的网络和算法更为简单、高效;所获结果对前向神经网络逼近多元多项式函数类的网络构造以及逼近等具有重要的理论与应用意义,为神经网络逼近任意函数的网络构造的理论与方法提供了一条途径.     

基于神经网络的机器人学习与控制：回顾与展望

机器人因其高效的感知、决策和执行能力,在人工智能、信息技术和智能制造等领域中具有巨大的应用价值。目前,机器人学习与控制已成为机器人研究领域的重要前沿技术之一。各种基于神经网络的智能算法被设计,从而为机器人系统提供同步学习与控制的规划框架。首先从神经动力学(ND)算法、前馈神经网络(FNNs)、递归神经网络(RNNs)和强化学习(RL)四个方面介绍了基于神经网络的机器人学习与控制的研究现状,回顾了近30年来面向机器人学习与控制的智能算法和相关应用技术。最后展望了该领域存在的问题和发展趋势,以期促进机器人学习与控制理论的推广及应用场景的拓展。     

前馈神经网络在水泥胶结识别中的应用

为了解决石油测井中水泥胶结质量识别误差较大的问题,采用八扇区水泥胶结测井仪进行声幅测量。仪器灵敏度变化以及泥浆对声信号的衰减所引起的误差可以综合利用首波幅度信息对其消除。通过对非线性连接权的神经网络方法的研究和阐述,克服了传统的BP学习算法过程中难以跳出局部极小值与收敛速度慢的缺点,使其具有3层BP网络的功能且提高了运行速度,优于统计识别方法。实验表明,前馈神经网络方法的应用可识别水泥胶结质量,识别正确率远高于相对幅度法,效果显著。     

支持向量机理论与基于规划的神经网络学习算法

近年来支持向量机（SVM）理论得到国外学者高度的重视,普遍认为这是神经网络学习的新研究方向,近来也开始得到国内学者的注意。该文将研究SVM理论与神经网络的规划算法的关系,首先指出,Vapnik的基于SVM的算法与该文作者1994年提出的神经网络的基于规划的算法是等价的,即在样本集是线性可分的情况下,二者求得的均是最大边缘（maximal margin)解。不同的是,前者（通常用拉格郎日乘子法）求解的复杂性将随规模呈指数增长,而后者的复杂性是规模的多项式函数。其次,作者将规划算法化为求一点到某一凸集上的投影,利用这个几何的直观,给出一个构造性的迭代求解算法－－“单纯形迭代算法”。新算法有很强的几何直观性,这个直观性将加深对神经网络（线性可分情况下）学习的理解,并由此导出一个样本集是线性可分的充分必要条件。另外,新算法对知识扩充问题,给出一个非常方便的增量学习算法。最后指出,“将一些必须满足的条件,化成问题的约束条件,将网络的某一性能,作为目标函数,将网络的学习问题化为某种规划问题来求解”的原则,将是研究神经网络学习问题的一个十分有效的办法。     

基于深度神经网络的关系抽取方法研究

关系抽取作为提取信息的有效技术之一,一直是机器学习中的一个重要任务。已有方法主要依赖大量的人工制作特征,近年来,随着深度神经网络的广泛应用,为关系抽取提供了一种新视角。围绕关系抽取任务,本文展开基于卷积神经网络(CNN)的关系抽取研究,在一个公开数据集上进行了系列CNN的实验对比,发现CR-CNN模型的性能最好,取得了84.1%的F1值。     

基于前馈神经网络的增量学习研究

增量学习是一种在巩固原有学习成果和不需要用到原有数据的情况下快速有效地获取新知识的学习模式.本文阐述了基于前馈神经网络的增量学习原理,在此基础上对主要的增量学习算法进行了详细的介绍和分析,最后对增量学习研究进行了总结和展望.