过程神经元网络及其在时变信息处理中的应用

针对时变信息处理和动态系统建模等类问题,建立了输入输出均为时变函数的过程神经元网络和有理式过程神经元网络2种网络模型.在输入输出为时变函数的过程神经元网络中,过程神经元的时间累积算子取为对时间的积分或其他代数运算,它的时空聚合机制和激励能同时反映外部时变输入信号对输出结果的空间聚合作用和时间累积效应,可实现非线性系统输入、输出之间的复杂映射关系.在有理式过程神经元网络中,其基本信息处理单元为由2个成对偶出现的过程神经元组成,逻辑上分为分子和分母2部分,通过有理式整合后输出,可有效提高过程神经元网络对带有奇异值过程函数的柔韧逼近性和在奇异值点附近反应的灵敏性.分析了2种过程神经元网络模型的性质,给出了具体学习算法,并以油田开发过程模拟和旋转机械故障诊断问题为例,验证了这2种网络模型在时变信息处理中的有效性.     

分式过程神经元网络在网络流量预测中的应用

为更好解决网络流量预测问题,依据函数逼近论中分式的函数逼近性质和拟合能力要远远大于线性函数的性质,以及过程神经元网络对时变函数的非线性变换能力,提出一种分式过程神经元网络模型及其学习算法。实验结果证明,该网络模型对具有奇异值过程函数的柔韧逼近性质和在奇异值点附近区域反应的灵敏性优于一般过程神经元网络,以网络实测数据对模型进行训练和流量预测,取得了较好的应用效果。     

基于过程神经元网络的动态预测模型及其应用

〗针对动态系统过程预测预报问题，提出了一种基于过程神经元网络的动态预测方法．过程神经元网络的输入/输出均可以是时变函数，其时空聚合运算和激励可同时反映时变输入信号的空间聚合作用和输入过程中的阶段时间累积效应．基于过程神经元网络的动态预测模型能同时满足对系统的非线性辨识和过程预测，在机制上对动态预测预报问题有较好的适应性．文中给出了基于函数基展开和梯度下降法的学习算法，以电力负荷预报为例验证了模型和算法的有效性．     

多聚合过程神经元网络及其学习算法研究

针对系统输入为多元过程函数以及多维过程信号的信息处理问题,提出了多聚合过程神经元和多聚合过程神经元网络模型.多聚合过程神经元的输入和连接权均可以是多元过程函数,其聚合运算包括对多个输入函数的空间加权聚集和对多维过程效应的累积,可同时反映多个多元过程输入信号在多维空间上的共同作用影响以及过程效应的累积结果.多聚合过程神经元网络是由多聚合过程神经元和其它类型的神经元按照一定的结构关系组成的网络模型,按照输出是否为多元过程函数建立了前馈多聚合过程神经元网络的一般模型和输入输出均为过程函数的多聚合过程神经元网络模型,具有对多元过程信号输入输出关系的直接映射和建模能力.文中给出了一种基于多元函数基展开的梯度下降与数值计算相结合的学习算法,仿真实验结果表明了模型和算法对多元过程信号分类和多维动态过程模拟问题的适应性.     

一种反馈过程神经元网络模型及在动态信号分类中的应用*

针对动态信号模式分类问题,提出了一种反馈过程神经元网络模型和基于该模型的分类方法。这种网络的输入可直接为时变函数,网络的信息传输既有与前馈神经元网络一样的前向流,也有后面各层节点到前层节点的反馈,且可对节点自身反馈输出信息,能直接用于动态信号的模式分类。由于反馈过程神经元网络在对输入样本的学习中增加了神经元输出信息的反馈,可提高网络的学习效率和稳定性。给出了具体学习算法,以时变函数样本集的分类问题为例,实验结果验证了模型和算法的有效性。     

基于基函数展开的双隐层过程神经元网络及其应用

提出一类基于基函数展开的双隐层过程神经元网络模型．过程神经元隐层完成对输入信息过程模式特征的提取和对时间的聚合运算，非时变一般神经元隐层用于提高网络对系统输入输出之间复杂关系的映射能力．在输入空问中引入一组函数正交基，将输入函数和网络权函数表示为该组正交基的展开形式，利用基函数的正交性简化过程神经元聚合运算．以旋转机械故障诊断和油藏开发过程采收率的模拟为例，验证了模型和算法的有效性。     

关于过程神经元网络的理论探讨

过程神经元网络是一种适合于处理过程式信号输入的网络，其基本单元是过程神经元——新近出现的神经元模型．过程神经元和传统神经元有着本质的区别，但二者之间也存在着紧密的联系，前者可用后者以任意精度无限逼近．文中给出2个定理及其详细证明，分别论述了过程神经元的2种传统神经元逼近模型：时域特征扩展模型和正交分解特征扩展模型．基于第2个定理，给出了过程神经元网络相关的2个推论．最后，针对过程神经元网络面临的主要问题进行讨论，指出了一些具有前景的研究方向．文中得到的结果对过程神经元模型及其网络的研究具有一定的理论意义．     

一种时变输入输出过程神经元网络及学习算法研究

针对输入／输出均为时变函数的非线性系统建模问题，提出一种时变输入输出过程神经元网络模型，并给出了具体的学习算法．过程神经元网络的输入、输出均可为时变函数，其空间、时间聚合算子分别取为空间加权求和及含时间变参积分，聚合运算和激励能同时反映时变输入信号的空间聚合作用和输入过程中的阶段时间累积效应．仿真实验结果验证了所提出模型和算法的有效性．     

智能动态诊断模型及在示功图识别中的应用

针对抽油机井示功图模式诊断问题,提出了一种基于过程神经元网络的动态诊断模型和方法。过程神经元网络（PNN）的输入和连接权均可以是时变函数,通过对训练函数样本集的学习,可自动抽取时变函数样本的过程模式特征,并可将多个过程特征加以组合形成类别输出,在机制上对时变信号的分类问题具有较好的适应性。建立了一种基于PNN的动态诊断模型和方法,给出了基于函数基展开结合梯度下降的学习算法,对油田实测的抽油机井示功图进行工作状态识别,取得了较好的应用效果。     

一类反馈过程神经元网络模型及其学校算法

提出了一种基于权函数基展开的反馈过程神经元网络模型．该模型为三层结构，由输入层、过程神经元隐层和过程神经元输出层组成．输入层完成系统时变过程信号的输入及隐层过程神经元输出信号向系统的反馈；过程神经元隐层用于完成输入信号的空间加权聚合和激励运算，同时将输出信号传输到输出层并加权反馈到输入层；输出层完成隐层输出信号的空间加权聚集和对时间的聚合运算以及系统输出．文中给出了学习算法，并以旋转机械故障自动诊断问题为例验证了模型和算法的有效性．     

一种基于自组织过程神经网络的动态样本半监督学习算法

针对时变信号模式分类和未标记样本信息的有效利用问题,提出了一种基于自组织过程神经网络的动态样本半监督学习算法。根据获得的已标记和未标记的过程函数样本信号,分别构建基于竞争学习规则和有教师示教方法的自组织过程神经网络模型,利用该网络的自组织特性,实现动态样本的分类标识。文中分析了算法的信息处理机制,给出了具体的实现步骤。以油田开发水淹状况判别为例,实验结果验证了方法的有效性。     

基于复合正交神经网络的自适应逆控制系统

目前，在自适应逆控制系统中常采用BP神经网络，而BP网络存在算法复杂、易陷入局部极小解等不足。而正交神经网络能克服BP网络的不足，但由于正交神经网络学习算法存在某些局限性，提出了一种复合正交神经网络，该正交网络结构与三层前向正交网络相同，不同的是正交网络的隐单元处理函数采用带参数的Sigmoid函数的复合正交函数，该神经网络算法简单，学习收敛速度快，并能对网络的函数参数进行优化，为非线性系统的动态建模提供了一种方法。仿真实验表明，网络在用于过程的自适应逆控制中具有很高的控制精度和自适应学习能力。该动态神经网络比其它神经网络具有更强的建模能力与学习适应性，有线性、非线性逼近精度高等优异特性，非常适合于实时控制系统。     

一种深度小波过程神经网络及在时变信号分类中的应用

针对多通道非线性时变信号分类问题,提出一种基于稀疏自编码器的深度小波过程神经网络(SAE-DWPNN)。通过构建一种多输入/多输出的小波过程神经网络(WPNN),实现对时变信号的多尺度分解和对过程分布特征的初步提取;通过在WPNN隐层之后叠加一个SAE深度网络,对所提取的信号特征进行高层次的综合和表示,并基于softmax分类器实现对时变信号的分类。SAE-DWPNN将现有过程神经网络扩展为深度结构,同时将深度SAE网络在信息处理机制上扩展到时间域,扩展了两类模型的信息处理能力。该网络可提取多通道时序信号的分布特征及其结构特征,并保持样本特征的多样性,提高了对信号时频特性和结构特征的分析能力。文中分析了SAE-DWPNN的性质,给出了综合训练算法。以基于12导联ECG信号的7种心血管疾病分类诊断为例,实验结果验证了模型和算法的有效性。     

一种基于自组织过程神经网络的动态样本半监督学习算法

针对时变信号模式分类和未标记样本信息的有效利用问题,提出了一种基于自组织过程神经网络的动态样本半监督学习算法。根据获得的已标记和未标记的过程函数样本信号,分别构建基于竞争学习规则和有教师示教方法的自组织过程神经网络模型,利用该网络的自组织特性,实现动态样本的分类标识。文中分析了算法的信息处理机制,给出了具体的实现步骤。以油田开发水淹状况判别为例,实验结果验证了方法的有效性。     

一种前馈神经网的快速算法

前馈神经网已经被大量用于非线性信号处理． 经典反向传播算法是一种标准的前馈网络学习算法,但是,对许多应用,反向传播算法的收 敛速度却很慢．本文根据对网络的非线性单元进行线性化而提出一种新的算法,该算法在非 线性信号处理中在精度和收敛速度方面都优于传统的反向传播算法．     

Extreme learning machine for interval neural networks

Interval data offer a valuable way of representing the available information in complex problems where uncertainty, inaccuracy, or variability must be taken into account. Considered in this paper is the learning of interval neural networks, of which the input and output are vectors with interval components, and the weights are real numbers. The back-propagation (BP) learning algorithm is very slow for interval neural networks, just as for usual real-valued neural networks. Extreme learning machine (ELM) has faster learning speed than the BP algorithm. In this paper, ELM is applied for learning of interval neural networks, resulting in an interval extreme learning machine (IELM). There are two steps in the ELM for usual feedforward neural networks. The first step is to randomly generate the weights connecting the input and the hidden layers, and the second step is to use the Moore–Penrose generalized inversely to determine the weights connecting the hidden and output layers. The first step can be directly applied for interval neural networks. But the second step cannot, due to the involvement of nonlinear constraint conditions for IELM. Instead, we use the same idea as that of the BP algorithm to form a nonlinear optimization problem to determine the weights connecting the hidden and output layers of IELM. Numerical experiments show that IELM is much faster than the usual BP algorithm. And the generalization performance of IELM is much better than that of BP, while the training error of IELM is a little bit worse than that of BP, implying that there might be an over-fitting for BP.