系统辨识(7)：递阶辨识原理与方法

递阶辨识是系统辨识的一个重要分支.递阶辨识原理是在大系统递阶控制的“分解-协调原理”基础上发展起来的,它不仅能够解决参数数目多、维数高、大规模系统辨识算法计算量大的问题,而且能够解决结构复杂的双线性参数系统、多线性参数系统以及非线性系统的辨识问题.首先介绍递阶辨识原理和线性方程组Ax=b的著名雅可比迭代和高斯-赛德尔迭代,给出了线性方程组的迭代方法族;其次将雅可比迭代思想和递阶辨识原理用于研究一般矩阵方程和耦合矩阵方程的递阶梯度迭代求解方法和递阶最小二乘迭代求解方法;再次介绍了方程误差模型的两阶段最小二乘辨识方法(一个简单的递阶辨识方法)和线性回归模型的递阶最小二乘辨识方法;最后研究了类多变量CARMA系统的递阶辨识方法.     

系统辨识(5):迭代搜索原理与辨识方法

递推辨识与迭代辨识构成了两类重要的参数估计方法.递推辨识的递推变量与时间有关,因而可以用于在线估计系统参数;迭代辨识的迭代变量是自然数,与客观世界的时间无关,通常用于离线估计系统参数.基于辅助模型辨识思想、多新息辨识理论、递阶辨识原理、耦合辨识概念等辨识方法都可以用递推算法和迭代算法实现.迭代方法渊源很早,如求解矩阵方...     

系统辨识(8):耦合辨识概念与方法

耦合辨识是系统辨识的一个重要分支,是新近发展和提炼形成的一种辨识概念,主要用于研究结构复杂的参数耦合线性和非线性多变量系统的辨识问题.辅助模型辨识思想、多新息辨识理论、递阶辨识原理、耦合辨识概念是本文作者提出的一些新的辨识研究思路、理念和方法,分别能够用于研究存在未知过程变量的不可测系统的辨识,能够提高辨识方法的收敛速度和参数估计精度,能够解决结构复杂、大规模多变量系统及参数耦合多变量系统的辨识问题、减小辨识算法的计算量.首先介绍多变量系统耦合辨识概念,在此基础上讨论多变量系统的几种(全)耦合最小二乘辨识方法、(全)耦合随机梯度辨识方法、部分耦合随机梯度辨识方法、部分耦合最小二乘辨识方法等,最后说明耦合辨识方法可推广用于有色噪声干扰多变量系统的辨识,并列出了一些多变量系统模型结构,阐述了耦合辨识概念可以结合辅助模型辨识思想、多新息辨识理论、递阶辨识原理、迭代搜索原理(梯度迭代、最小二乘迭代、牛顿迭代)等来研究线性或非线性多变量系统的辨识问题     

系统辨识(6):多新息辨识理论与方法

多新息辨识是系统辨识的一个重要分支.新息是能够改善参数估计精度或状态估计精度的有用信息.首先,详细讨论了线性回归模型的各种多新息辨识方法,包括多新息投影算法、多新息随机梯度算法、多新息遗忘梯度算法、变递推间隔多新息随机梯度算法、多新息最小二乘辨识方法、变递推间隔多新息最小二乘算法等;然后,给出了方程误差类系统、输出误差类系统、输入非线性系统的随机梯度辨识算法、多新息随机梯度算法和多新息最小二乘辨识算法;最后,简单说明了多新息辨识理论可以发展到多新息观测器和多新息卡尔曼滤波理论.     

辨识方法的计算效率(2):迭代算法

讨论了最小二乘迭代辨识算法及其计算效率问题.最小二乘迭代算法由于涉及矩阵求逆运算,为减小计算量,提出了基于块矩阵求逆的最小二乘迭代辨识算法.基于块矩阵求逆的最小二乘迭代辨识算法不是一种新算法,只是从辨识算法的实现方式上降低计算负担,它与最小二乘迭代算法产生相同的参数估计,但计算量小.文中研究了伪线性回归系统、多元伪线性回归系统、多变量伪线性回归系统的最小二乘迭代辨识算法及其基于块矩阵求逆的最小二乘迭代算法.     

辨识方法的计算效率(1):递推算法

算法的计算量可用其乘法运算次数和加法运算次数表示(除法作为乘法对待,减法作为加法对待).一次乘法运算或一次加法运算称为一个flop,即一次浮点运算.作为"辨识方法的计算效率"系列3篇连载论文的第1篇,主要了讨论递推辨识算法的计算量,包括向量和矩阵基本运算的flop数,以及线性回归系统、多元线性回归系统、多变量系统的随机梯度辨识算法、最小二乘辨识算法、递推最小二乘辨识算法的最经济计算量,即实现算法的最少flop数.     

系统辨识(3)：辨识精度与辨识基本问题

系统辨识是研究建立系统数学模型的理论与方法.讨论系统辨识涉及的一些基本问题,包括辨识精度、辨识方法的提出,辨识输入信号的设计,参数可辨识性与系统可辨识性,开环可辨识性与闭环可辨识性,可辨识性与能控性和能观测性的关系,可辨识性与输入信号的关系,以及与辨识方法收敛性相关的激励信号与激励条件,辨识算法收敛分析的基本工具,典型...     

辅助模型辨识方法(4):基本思想与梯度辨识

辅助模型辨识思想是针对系统存在一些不可测变量的辨识问题提出的,它是研究含有未知变量的线性系统、非线性系统辨识的重要手段.本文阐述了辅助模型辨识思想,针对白噪声干扰的输入非线性有限脉冲响应系统,研究辅助模型梯度辨识方法、辅助模型多新息梯度辨识方法、变递推间隔辅助模型多新息梯度辨识方法,以及派生的变递推间隔辅助模型梯度辨识方法、等递推间隔辅助模型梯度辨识方法和等递推间隔辅助模型多新息梯度辨识方法.     

系统辨识(1):辨识导引

系统辨识是研究建立系统数学模型的理论与方法.虽然数学建模有很长的研究历史,但是形成系统辨识学科的历史才几十年.在这短暂的几十年里,系统辨识得到了长足的发展,一些新的辨识方法相继问世,其理论与应用成果覆盖了自然科学和社会科学的各个领域,包括物理学、生物学、地球科学、气象学、计算机科学、经济学、心理学、政治学等.在这样的背...     

系统辨识(2):系统描述的基本模型

控制是一切科学问题的核心.数学模型是一切控制问题的基础.事物的运动规律用方程描述就是数学模型.不同学科的发展就是建立其数学模型的过程.本文首次把线性动态系统数学模型分为三类:时间序列模型,方程误差类模型,输出误差类模型;详细介绍了线性系统的一些基本数学模型,包括连续系统离散化和模型等价变换,单输入单输出随机系统模型,多变量系统模型,类多变量系统模型,多输入和多输出系统模型(传递函数阵主模型、子模型、子子模型,多输入单输出系统模型,单输入多输出系统模型等).     

传递函数辨识(18):输出误差模型的辅助模型递阶迭代参数估计

针对输出误差系统,利用迭代搜索原理,研究了辅助模型梯度迭代算法、辅助模型最小二乘迭代算法、辅助模型多新息梯度迭代算法、辅助模型多新息最小二乘迭代算法;利用递阶辨识原理,研究了辅助模型递阶梯度迭代算法、辅助模型递阶多新息梯度迭代算法、辅助模型递阶最小二乘迭代算法、辅助模型递阶多新息最小二乘迭代算法等.这些辨识方法可以推广...     

滤波辨识(10):多变量Box-Jenkins系统的滤波辅助模型递阶广义增广参数辨识

针对多变量Box-Jenkins模型,即多变量输出误差自回归滑动平均(M-OEARMA)系统,利用滤波辨识理念和辅助模型辨识思想,研究和提出了滤波辅助模型递阶广义增广随机梯度辨识方法、滤波辅助模型递阶多新息广义增广随机梯度辨识方法、滤波辅助模型递阶广义增广递推梯度辨识方法、滤波辅助模型递阶多新息广义增广递推梯度辨识方法、滤波辅助模型递阶广义增广最小二乘辨识方法、滤波辅助模型递阶多新息广义增广最小二乘辨识方法。这些滤波辅助模型递阶广义增广辨识方法可以推广到其他有色噪声干扰下的线性和非线性多变量随机系统中。     

滤波辨识(5):输出误差自回归滑动平均系统的滤波辅助模型递推广义增广参数估计

针对输出误差自回归滑动平均系统,即Box-Jenkis系统,利用滤波辨识理念,研究和提出了滤波辅助模型广义增广随机梯度辨识方法、滤波辅助模型多新息广义增广随机梯度辨识方法、滤波辅助模型多新息广义增广投影辨识方法、滤波辅助模型递推广义增广梯度辨识方法、滤波辅助模型多新息递推广义增广梯度辨识方法、滤波辅助模型递推广义增广最小二乘辨识方法、滤波辅助模型多新息递推广义增广最小二乘辨识方法。这些滤波辅助模型广义增广辨识方法可以推广到其他有色噪声干扰下的线性和非线性多变量随机系统中。     

传递函数辨识(25):自回归输出误差自回归滑动平均系统的辅助模型递阶广义增广递推参数估计

利用递阶辨识原理、多新息辨识理论,研究和提出AR-OEARMA系统的辅助模型递阶广义增广随机梯度算法、辅助模型递阶多新息广义增广随机梯度算法、辅助模型递阶广义增广递推梯度算法、辅助模型递阶多新息广义增广递推梯度算法、辅助模型递阶广义增广最小二乘算法、辅助模型递阶多新息广义增广最小二乘算法.这些辅助模型递阶递推辨识方法可...     

传递函数辨识(19):有限脉冲响应滑动平均系统的递阶递推增广参数估计

针对有限脉冲响应滑动平均系统,利用递阶辨识原理,研究了递阶增广随机梯度算法、递阶多新息增广随机梯度算法、递阶增广梯度算法、递阶多新息增广梯度算法、递阶增广最小二乘算法、递阶多新息增广最小二乘算法等.这些辨识方法可以推广到有色噪声的随机系统中.     

传递函数辨识(21):线性回归系统的递阶递推参数估计

利用递阶辨识原理,研究了线性回归系统的递阶最小二乘辨识算法、递阶多新息最小二乘辨识算法、递阶随机梯度辨识算法、递阶多新息随机梯度辨识算法、递阶递推梯度辨识算法、递阶多新息递推梯度辨识算法等.这些辨识方法可以推广到有色噪声的随机系统中.     

滤波辨识(6):输出误差自回归滑动平均系统的滤波辅助模型广义增广迭代参数估计

输出误差自回归滑动平均模型也称为Box-Jenkins模型。针对Box-Jenkins系统,基于滤波辨识理念,研究和提出了滤波辅助模型广义增广梯度迭代辨识方法、滤波辅助模型多新息广义增广梯度迭代辨识方法、滤波辅助模型多新息广义增广投影迭代辨识方法、滤波辅助模型广义增广最小二乘迭代辨识方法、滤波辅助模型多新息广义增广最小二乘迭代辨识方法。这些滤波辅助模型广义增广迭代辨识方法可以推广到其它有色噪声干扰下的线性和非线性多变量随机系统中。     

滤波辨识(1):有限脉冲响应滑动平均系统的滤波增广参数估计

利用滤波辨识理念,研究和提出了有限脉冲响应滑动平均系统的滤波增广随机梯度辨识方法、滤波多新息增广随机梯度辨识方法、滤波递推增广梯度辨识方法、滤波多新息递推增广梯度辨识方法、滤波递推增广最小二乘辨识方法、滤波多新息递推增广最小二乘辨识方法。这些滤波增广辨识方法可以推广到其他有色噪声干扰下的线性多变量和非线性多变量随机系统中。