《系统辨识》ppt课件

系统辨识电气工程与自动化学院陈冲.课程主要内容第一章概述第二章过渡响应法和频率响应法第三章辨识线性系统脉冲响应函数的相关分析法结束第四章线性系统参数估计的最小二乘法第五章线性系统的状态估计法.第一章概述一、建模的必要性二、模型三、建模方法四、系统辨识的内容（或步骤）.一、建模的必要性课程的核心问 题 快递公司问题件快递公司问题件货款处理关于圆的周长面积重点题型关于解方程组的题及答案关于南海问题 是建模，主要是辨识建模。系统辨识是研究辨识建模的理论和方法。数学模型的主要用途：控制理论与控制工程就一直围绕着建立模型和控制器设计这两个主题来发展，它们相互依赖、相互渗透并相互发展。用来预报实际系统物理量研究实际系统往往需要事先知道一些物理量的数值，而其中有些量可能无法直接测量或测不准，所以需要建立数学模型来预报。第一章概述.为了设计控制系统目前,对被控系统的控制器的设计方法的选取,以及如何进行具体的控制结构和参数的设计都广泛依赖于对被控系统的理解及所建立的被控系统数学模型。用于分析实际系统工程上在分析一个新系统时，通常先进行数学仿真，仿真的前提必须有数学模型。第一章概述建模问题在控制器设计中起着非常重要的作用,是设计中首先需要解决的问题；是成功地进行控制器设计的关键之一。.第一章概述系统的模型一般分物理模型与数学模型物理模型：指用物理、化学、生物等材料构成的用于描述系统中的关系和特征的实体模型。模型：就是把系统实体的本质信息简缩成有用的描述形式，数学模型：描述系统中一些关系和特征的数据模型。控制领域的数学模型就是指能用来描述系统的动态或静态特性和行为的数学 表 关于同志近三年现实表现材料材料类招标技术评分表图表与交易pdf视力表打印pdf用图表说话 pdf 达式或方程。是进行系统分析、预报、优化及控制系统设计的基础。二、模型是一种简化描述。.1、理论建模法：通过对系统内在机理的分析，按照已知的一些物理定律导出各物理量关系来建立数学模型。理论建模法建立的模型称为机理模型。一般在理论建模中,根据模型应用的目的和精度要求,仅考虑系统中起主导作用的有限的几个因素即可。缺陷：当验前信息不足时，用理论建模法会遇到很大困难。对于比较复杂的过程，必须对机理模型简化，这就使得机理建模与实际过程间有一定的误差。第一章概述三、建模方法.理论建模通常只能用以建立比较简单系统的模型（白箱问题）。由于许多系统的机理和所处的环境越来越复杂，因此，理论建模法的运用亦越来越困难，其局限性越来越大,需要建立新的建模方法。第一章概述在被建模的装置尚不存在（设计阶段）或虽存在但无法进行实验时，理论建模是取得模型的唯一途径，是验前问题中唯一可行的方法。理论建模的难点在于对有关学科知识及实际经验的掌握，故不属于课程的讨论范围。在理论建模方法难以进行或难以达到要求的情况下，系统辨识建模方法就幸运而生。.2、辨识建模法：对被控系统进行测试，利用观测数据，通过辨识技术去构造系统模型的方法。系统辩识是研究怎样利用对未知系统的试验数据或在线运行数据(输入/输出数据)建立描述系统的数学模型的科学。系统辩识亦称为实验建模方法,它是“系统分析”和“控制系统设计”的逆问题。第一章概述是现代控制理论的一个分支。.1）完全辨识问题：第一章概述完全不了解系统的任何基本特性（定常—时变；线性—非线性；确定—随机等）。这类问题称为黑箱问题。这是一个极难解决的问题，通常需要对系统作某些主观的先验假设。2）部分辨识问题：系统的某些基本特性假定是已知的，但不知动态模型的阶次或有关的系数。这类问题称为灰箱问题。显然比黑箱问题容易解决。根据对系统事先了解的程度（先验知识）可将辨识问题分成二类：完全辨识问题和部分辨识问题。.大部分工程系统及工业过程都属于灰箱问题。通常对系统的结构会有很多了解，因此可推导得系统特定的数学模型。在这种情况下只要定阶和确定模型中的一组参数。从而模型化问题简化为参数估计。因此参数估计是一个最重要的问题。第一章概述有效的辨识策略：尽可能地掌握系统的先验知识，即尽可能地使系统“白化”；有效的辨识方法：“灰箱”方法。将两种方法结合起来，互为补充。对依然“黑”的部分，用理论建模方法不能确定的部分和参数，采用系统辨识方法。.第一章概述系统辨识的框图.第一章概述1962年Zadeh从数学的角度定义:辨识就是在输入输出数据的基础上，从一组给定的模型类中，确定一个与所测系统等价的模型。1978年瑞典的李龙(Ljung)提出:系统辩识的三个要素——数据、模型类和准则。系统辩识是按照一个准则，在模型类中选择一个与数据拟合得最好的模型。拟合的好坏是一个不定的概念，所以要用准则来判别。3、系统辨识的定义所谓辨识建模是从实验数据出发，根据辨识的目的以及对过程已有的验前知识，预先给出一个模型类（线性的、非线性的、定常的、时变的、连续的、离散的…）进行拟合。.第一章概述它是一个迭代过程。大致包括：试验设计，模型结构确定，参数估计和模型验证。四、系统辨识的内容（或步骤）.大致包括：试验设计，模型结构确定，参数估计和模型验证。1、试验设计第一章概述1）选择变量：以提取有效的信息（数据）为目的。首先根据试验对象，确定所要观测的变量。（u是人为给定的，y是观测的，y的选取不同会改变输出矩阵C的结构和数值。）通常为得到试验设计前的必要的知识，必须进行一些预备性试验（摸底）。四、系统辨识的内容（或步骤）.第一章概述预备性试验：可用一些简单方法（阶跃响应，频率响应等）获得系统的如下信息：主要时间常数（系统频宽，与试验长度有关）允许的输入信号幅度（系统的线性范围）过程的非线性与时变性（有助于模型类的选择）噪声水平（以便用多大的输入，使得观测量有多大的信噪比）变量之间的延迟（滞后环节参数）2）输入信号的选择（阶跃、方波、脉冲、PRBS）。.第一章概述3）采样速度的选择（要采集数据就有采样速度选择问题）。实际上先采用较短的采样间隔，在数据分析时，可根据需要隔几个取一个数据。4）试验长度的确定（试验时间问题）。辨识精度与试验时间的长短有关。2、模型结构确定根据辨识的目的及对被辨识系统的先验知识，确定系统所属的模型类模型结构的选择主要取决于应用的目的及精度要求。通常模型精度与复杂性要折衷考虑。.第一章概述常用的模型类：参数的或非参数的线性的或非线性的连续的或离散的确定的或随机的I/O的或状态的时变的或定常(时不变)的集中参数的或分布参数的频率域的或时间域的等等。.第一章概述根据系统的空间、时间的离散化情况，模型可分为三类：1）集中参数的连续时间模型：空间变量是离散的，时间变量连续。如常微分方程，代数方程。2）集中参数的离散时间模型：时、空变量均离散。如差分方程，代数方程。3）分布参数模型：时、空变量均连续，如偏微分方程。它可以在空间上离散化，简化成分块集中参数，所以对它的辨识不介绍。a.第一章概述3、参数估计模型结构确定后，其中未知部分就要通过观测数据进行估计。通常未知部分是以未知参数出现，故辨识工作就成了参数估计。4、模型验证一个模型辨出来后，是否可靠必须进行多次验证。参数估计的要求就是要辨识出来的模型与实际过程在某种意义下最“接近”。所以必须有个准则衡量。通常一个模型用一套数据进行辨识，然后用另一套数据来验证和修改。.第二章过渡响应法和频率响应法§21过渡响应法（时域法）§22频率响应法（频域法）§23多输入多输出线性系统传函（矩阵）的辨识.模型可以有不同的形式，不同的模型适于不同的系统。古典辨识方法：采用时域法和频率法来辨识线性系统的传递函数。原则上只适用于SISO线性系统。SISO系统通常采用传递函数。MIMO系统通常采用状态空间表达式。由实验来建立数学模型——传递函数，可以为更复杂的系统辨识做预备性实验，它是现代系统辨识的基础，属于连续系统的数学模型的辨识领域。第二章过渡响应法和频率响应法.第二章过渡响应法和频率响应法试验信号的选用：对系统模型的研究方法不同，输入试验信号也相应分成非周期的和周期的两种。用时域法建模：输入信号为非周期的。主要采用阶跃和方波（近似脉冲）函数。用频域法建模：输入信号用周期的。主要用正弦波，二进制周期函数。它们又分为单频和多频（组合正弦波及周期方波）.§21过渡响应法（时域法）采用非周期试验信号，通过系统的动态响应研究系统的模型。一、非参数模型的辨识在时域中建立线性系统非参数模型时，用很简便的方法就可得到脉冲响应曲线，阶跃响应曲线、方波响应曲线或它们的离散采样数据表。对于线性系统，脉冲响应，阶跃响应和方波响应之间是可以相互转换的。脉冲响应：可以采用幅值相当大，宽度很窄的方波来近似δ函数。第二章过渡响应法和频率响应法.第二章过渡响应法和频率响应法二、由阶跃响应曲线辨识传函1、试探法工业中常用的模型类：（即便是高阶系统也用低阶模型去逼近）由非参数模型转变成参数模型，包括确定传函的结构及参数。先观察试验所得响应曲线的形状特征，据此判断，从模型类中确定一种结构。然后进行参数估计，最后验证数据拟合程度，反复多次，直至误差e(t)最小（验证数据拟合可只取若干点）。.第二章过渡响应法和频率响应法待估参数为：K，T.第二章过渡响应法和频率响应法要确定T，只要一对观测数据：y*(t1)，t1若取y*(t1)=0.63，则T=t1验证数据拟合如何，可在t=T/2和t=2T二点进行：若拟合不好，则应另选模型结构类。1.第二章过渡响应法和频率响应法待估参数为：K，T，τ2）实验曲线是一条S形非周期曲线为了确定T和τ，必须将两个坐标值（观测值）代入，.第二章过渡响应法和频率响应法根据两对观测值y*(t1)和y*(t2)，可求出T和τ。.*第二章过渡响应法和频率响应法tT/20.8TT2Ty*(t)0.390.550.630.87.第二章过渡响应法和频率响应法待估参数为：K，T，究竟选一阶惯性带延时的模型结构，还是选二阶模型，事先无法确定，完全看两种模型与试验曲线拟合程度，哪个精度高，选哪个。由于大多数工业过程的试验曲线是过阻尼的，即1，∴只讨论此种情况，而<1的传函辨识比较麻烦。ⅱ）也可选用模型类：S形曲线本身就说明是过阻尼（1）。若<1,为振荡环节，响应曲线为振荡曲线，不是S形曲线。.第二章过渡响应法和频率响应法由于直接求T、不方便，所以转而取求传函的两个极点1、2，再由极点与参数T、的关系求出T、。∵1，∴1、2>0且为实数。.第二章过渡响应法和频率响应法令2=1(>1)，代入上式得：两边同取对数得：.第二章过渡响应法和频率响应法可见，当t时，是一条直线。2T，.第二章过渡响应法和频率响应法若用常用对数，则当t时：缺点：计算G(s)时采用的点都是t较大时的点，而当t较大时，往往1y*(t)的值较小，这就会产生较大的误差。b.第二章过渡响应法和频率响应法2、Laplace变换的极限定理法（终值定理法）利用Laplace变换的极限定理，由非参数模型的单位阶跃响应，求参数模型——传递函数。它克服了试探法需选择模型类的不足，但它仅适用于下述一种模型类。设线性SISO定常系统的传函结构为：特点：系统只有极点、无零点。.第二章过渡响应法和频率响应法当输入u(t)=1(t)时，输出y(t)为：代入上式得：K0.第二章过渡响应法和频率响应法在已存在的系统G(s)的基础上构造一个新系统G1(s)，当输入u(t)=1(t)时，其单位阶跃响应为：（y1(t)与y(t)的关系）求G1(s)的稳态增益K1:K1当输入u(t)=1(t)时，输出y(t)为：.第二章过渡响应法和频率响应法G1(s)求得G1(s)与G(s)的关系:当输入u(t)=1(t)时，输出y(t)为：.第二章过渡响应法和频率响应法再利用终值定理可求得G1(s)的稳态增益K1：a1当输入u(t)=1(t)时，输出y(t)为：.第二章过渡响应法和频率响应法K2同理，在系统G1(s)基础上构造一个新系统G2(s)。当输入u(t)=1(t)时，输出y(t)为：.*第二章过渡响应法和频率响应法再利用终值定理可得：a2G2(s)求得G2(s)与G1(s)的关系:当输入u(t)=1(t)时，输出y(t)为：.第二章过渡响应法和频率响应法当输入u(t)=1(t)时，输出y(t)为：Kr同理，在系统Gr-1(s)基础上构造一个新系统Gr(s)。再用终值定理，由数学归纳法可得：ar.第二章过渡响应法和频率响应法特点：ⅰ）每求一次Ki，要计算一次面积，所以计算量大，而且误差随着积分次数增大而增大。故仅适用于低阶模型的辨识。ⅱ）使用过程受到一定的限制，仅适用于特定的模型结构（即传函G(s)只有极点，而没有零点的情况）。由上述（n+1）个方程可求出（n+1）个待估参数：K，a1，…，an.第二章过渡响应法和频率响应法K1的物理意义：K1为阴影部分的面积。（几何意义）将G(s)改写成极点形式：1.第二章过渡响应法和频率响应法三、由脉冲响应曲线辨识传函1、矩法脉冲响应g(t)可由单位阶跃响应微分后求得，也可用窄方波响应来近似。（方波宽度<<对象过渡过程时间）mi称为g(t)的i阶矩（时域的矩），可以由试验曲线g(t)的数值积分求得。mi.第二章过渡响应法和频率响应法2）定模型类：.第二章过渡响应法和频率响应法3）参数估计：待估参数：a1，…，an，b0，b1，…，bm，共m+n+1个。由（m+n+1）个方程可求得（m+n+1）个待估参数。.第二章过渡响应法和频率响应法解上述方程组可解出a1，a2，b0，b1。.第二章过渡响应法和频率响应法.第二章过渡响应法和频率响应法特点：ⅰ）简单明了。（思路清晰）ⅱ）计算m0，m1，m2，…的计算量大，而且数值积分的误差越来越大。通常只适合于低阶系统。ⅳ）模型类为s的有理分式，所以该法适应性广。复域中s0相当于时域中的t，所以估计出的参数精度主要局限于t的稳态情况。（稳态精度较好）.第二章过渡响应法和频率响应法2、Z变换法Z变换的定义（脉冲传递函数G(z)是脉冲响应函数的采样序列g(kT)的Z变换）：.第二章过渡响应法和频率响应法2）定模型类：3）参数估计：待估参数：a1，…，an，b0，b1，…，bm，共m+n+1个。.第二章过渡响应法和频率响应法特点：ⅰ）计算简单。（无需象矩法那样求数值积分）ⅱ）采用的模型类为z的有理分式，故适应性广。a.§22频率响应法（频域法）第二章过渡响应法和频率响应法采用周期试验信号。通过系统稳态响应研究系统模型。一、非参数模型的辨识1、正弦波法每次输入某一频率的正弦波，测量输出的稳态振荡波形，从而获得输出与输入的幅值比（幅频特性）和相位差（相频特性）。1）单频信号：每次试验只得频率特性上的一个点，费时间。.第二章过渡响应法和频率响应法它是相对于某一单频信号而言，包含有不同频率的单频信号。然后对输出量进行谐波分析（富氏分析），从中分析出各个频率的输出波形。2）多频信号每次试验可得频率特性上的几个点。一般在系统的主要频区上测试15个点，就可以建立系统的非参数模型。3）特点该方法未考虑系统的干扰噪声的影响，所以所得的模型数据中都含有噪声的干扰信号的影响。.方法误差（计算误差、近似误差）引入噪声（过程噪声、量测噪声）第二章过渡响应法和频率响应法由于实际系统的测量都是载噪的，而且噪声对观测数据的影响常常达到不可忽略的地步，因此当噪声影响足以使得要求的精度达不到时，就必须考虑噪声的影响。2、相关法n(t)：干扰噪声（过程噪声和量测噪声）。由于输入是人为的加入信号，所以可以认为是无噪声的。系统辨识的任务之一就是设法排除干扰的影响。采用相关方法可以提高对噪声的抗干扰性。.第二章过渡响应法和频率响应法随机过程1)平稳随机过程X(t)：平稳随机过程的数字特征的特点：均值为常数，自相关函数为单变量（=t2t）的函数（即不随时间的平移而变化）。.第二章过渡响应法和频率响应法2)各态经历的平稳随机过程X(t)：对于各态历经的平稳随机过程，它的集平均（均值，自相关函数等），可以用一个样本的时间平均来代替。因为它的任何一个样本函数都包含了随机过程的所有状态以及各状态的分布情况。样本函数：每进行一次观测得到一族时间t的函数x(t)就是随机过程X(t)的一个样本函数。.第二章过渡响应法和频率响应法白噪声是一种理想化数学模型，实际上如果某种噪声在比有用带宽宽得多的范围内具有比较“平坦”的谱密度，就可以近似当作白噪声处理。白噪声：零均值，谱密度为非零常数，自相关函数为函数的平稳随机过程，且各态历经。.第二章过渡响应法和频率响应法频率特性测试仪BT6：.第二章过渡响应法和频率响应法同理可得：.第二章过渡响应法和频率响应法所以可得系统频率特性的非参数模型：由于它具有一定的抗干扰性，所以基本上可得到系统真实传函的非参数模型，是获得高精度模型的有效方法。b.第二章过渡响应法和频率响应法二、由实验频率特性辨识传函工业上常见的模型类的频率特性：由非参数模型辨识参数模型。.第二章过渡响应法和频率响应法1、用一阶环节（模型）拟合1）当实验所得频率特性近似为一个半圆时，可用模型:待估参数为T和K。.第二章过渡响应法和频率响应法2）带有纯滞后环节当实验曲线为：待估参数为：T、K和。可考虑系统也许有纯滞后特性，即采用模型：∵纯滞后环节对幅频特性无影响，只影响相频特性，即产生一个附加的滞后角。∴将带纯滞后环节与不带纯滞后环节的频率特性相比较，就可以求出相应的参数和纯滞后时间。.第二章过渡响应法和频率响应法2）带有纯滞后环节待估参数为：T、K和。.第二章过渡响应法和频率响应法2、用二阶模型拟合待估参数为K、T1和T2。.第二章过渡响应法和频率响应法2、用二阶模型拟合待估参数为K、T1和T2。取=k，并将：K=r(0)G(j)=r(k)()=(k)代入可求得：K，T1和T2。理论上只要一对观测数据k，r(k)和(k)即可求得参数，实际上可多取几个数据，然后求参数的平均值。.第二章过渡响应法和频率响应法2）带有纯滞后环节可考虑采用模型：先作不带滞后环节的：可得G(j)的曲线。同理作图，.§23多输入多输出线性系统传函（矩阵）的辨识第二章过渡响应法和频率响应法设MIMO系统有：r个输入，m个输出，对应yi与uj之间的传函为：Gij(s)（i=1,2,…,m,j=1,2,…,r）.第二章过渡响应法和频率响应法显然，输出yi与r个输入的变化有关。由于线性系统满足迭加原理，故可采用逐次地改变每一个输入量，同时保持其他各个输入量为恒值。仅改变uj值，同时采集y1、…、ym的值，采用SISO的建模方法，就可以求得m个传函：G1j(s)，G2j(s)，…，Gmj(s)。在实际中，研究MIMO系统，往往采用状态空间法(时域法)，而不用古典的频域法(传递函数法)。由现代控制理论可知，实际上两种方法有密切联系，即MIMO系统的状态空间描述和传递函数描述之间是可以相互转化的。然后，逐次改变uj，j由1到r，就可以求出全部Gij(s)。2.第三章辨识线性系统脉冲响应函数的相关分析法§31相关分析法（CorrelationFunctionMethods）§32伪随机二位式序列产生的方法及性质§33用M序列辨识线性系统的脉冲响应函数§34用逆重复M序列辨识线性系统的脉冲响应函数§35用伪随机序列辨识系统的步骤§36多变量系统的辨识.不能“在线”辨识，所处理的只是离线估计问题。时域法和频域法的缺点：所得的结果没有递推公式，只适合于非时变系统，不宜用于实时估计和自适应控制。影响系统正常工作状态，甚至可能破坏设备。抗干扰性差，通常不考虑系统的噪声干扰。实际上系统总是载噪的（过程噪声，量测噪声），所以在辨识中存在输入信号的信噪比与实际所允许的输入信号幅值的矛盾。（即：增大幅值→信噪比↑，同时→影响实际工况。）采用伪随机二位式序列（PRBS）作为输入来辨识系统的脉冲响应函数，既可保证输入信号能激励系统的所有模态反应，又不会干扰系统的正常运行，而且可以进行在线辨识。第三章相关分析法采用PRBS信号加上相关分析法的辨识，可克服上述的缺点。.系统噪声实际上存在各种难以精确描述的因素：数学模型中未加以考虑的各种干扰作用，模型线性化及其他类似的假设所引起的误差等（系统误差）。第三章相关分析法这些难以用确定性模型来精确描述的随机因素对过程的影响不容忽视，但这种影响一般都不会处于主导地位，因此处理它们的方式应尽量简化。一般在确定性模型上以迭加输入的方式来考虑噪声的影响，并将多个噪声源综合成一个等效的噪声源来描述。输入输出的量测误差等（量测误差）。§31相关分析法（CorrelationFunctionMethods）.u(t)：系统输入变量z(t)：系统真正的输出y(t)：系统输出量的实际测量值n(t)：随机干扰（噪声）(量测误差和系统误差的总误差)第三章相关分析法设输入u(t)是一个平稳随机过程，则由相关理论可知z(t)也是一个平稳随机过程。SISO系统：.平稳随机过程的数字特征：均值=const，自相关函数为单变量函数（不随时间而变化。）第三章相关分析法维纳—霍甫方程维纳—霍甫方程是相关分析法的理论基础。g(t)是一个确定量可提到均值号前面通常求均值和积分允许交换顺序输入输出的互相关函数Ruz()等于输入自相关函数Ruu()与系统脉冲响应函数g()的卷积。.设输入u(t)是各态历经的平稳随机过程，则输出z(t)也是各态历经的。第三章相关分析法自相关函数的集平均，可以用样本的时间平均来代替。.第三章相关分析法上式表明，通过相关分析得到实测的输出y(t)与输入u(t)之间的互相关函数Ruy()，在n(t)与u(t)不相关的条件下（此条件常常能满足），等价于真实输出z(t)与输入u(t)间的互相关函数Ruz()，因此,相关分析法有较强的抗干扰能力，这是相关法的一个突出优点。设n(t)与u(t)不相关，且n(t)为零均值，则：Run()=0.相关法与古典法的差别之一：抗干扰强第三章相关分析法思路：维纳—霍甫方程解决了抗干扰问题.解决 办法 鲁班奖评选办法下载鲁班奖评选办法下载鲁班奖评选办法下载企业年金办法下载企业年金办法下载 ：选择输入u(t)若采用白噪声作为输入，则维纳—霍甫方程的解就简单多了。第三章相关分析法思路：维纳—霍甫方程解决了抗干扰问题引出了解积分方程难的问题.第三章相关分析法白噪声是一零均值，谱密度为非零常数，自相关函数为δ函数的各态历经的平稳随机过程，即：.第三章相关分析法相关法与古典法的差别之二：不干扰系统正常工作将直接输入(t)转化成直接输入白噪声，通过求Ruu，Ruy，间接地将输入Ruu变成()。从而不干扰系统正常运行。a.第三章相关分析法解决办法：还是选择输入u(t)！采用具有周期性的，近似于白噪声的伪随机信号作为输入信号，以解决积分时间长的问题。.第三章相关分析法1）周期性：u(t+T)=u(t)（解决用一个T周期的观测数据就可得到Ruy()的问题。）∴周期性平稳过程的自相关函数为周期函数。.第三章相关分析法∴Ruy()的积分范围只要在一个T周期内。Ruu()为周期函数，Ruu()=Ruu(+T).第三章相关分析法若选择T大于系统脉冲响应的过渡过程时间Ts，即：当>T时，g()0对于第一个周期的激励而言，（时间在0～T区间）有：.第三章相关分析法采用具有上述二性质的输入信号后，即可保持采用白噪声信号所具有的优越性，又可以解决Ruy()的积分时间太长的问题，理论上只要在一个周期T内积分就可以了。具有上述二性质的输入信号到底能找到吗？若有，又将如何产生呢？.一、M序列产生的方法及性质：第三章相关分析法随机地掷一枚硬币的随机试验，结果：正面：+1；反面：1反复试验得到以+1，1两元素组成的随机序列{u(k)}。当实验次数N相当大时，该序列{u(k)}具有以下两性质：①序列中+1与1出现的次数几乎相等；（E[u]=0）②随机序列的自相关函数Ruu(0)=max，离开原点时，Ruu()=0。（Ruu）显然该序列接近于白噪声，最好它还应该是一个周期序列，在一个周期内具有上述白噪声性质。它在一个周期内观测时是一个随机信号；若观测时间很长时是一个周期信号。由于序列只有+1，1两元素，称为伪随机二位式序列PRBS（PseudoRandomBinarySignal）序列(它有规律性，故称伪随机，且可以人为产生和复制。)§32伪随机二位式序列产生的方法及性质.码数NP=6M序列最大长度的伪随机二位式序列。第三章相关分析法由n个双稳态触发器顺序组成n级移位寄存器，将第k级与第n级状态“异或”后，反馈到第一级输入端。究竟k选哪一级呢？它将影响输出的性质。若k选择合适，将得到一个M序列。（初态不能为全零，否则输出总是零）码数NP=151、M序列的产生.一个n级移位寄存器的输出序列的最大长度=？除各级全0的状态外，共有（2n1）种不同的组合状态。第三章相关分析法若NP=2n1，则该序列为最大长度序列或M序列。当n>12时，大约半数序列要用二级反馈产生，其他的则要用4级反馈来产生M序列。2、M序列的性质1）是一个确定的周期性序列，它的周期长度NP=2n12）一个周期内。“0”状态比“1”状态少1个。（∵避免出现全“0”状态）.第三章相关分析法3）若将序列中相邻状态不变的那一部分长度称“游程”（或“段”），则在一个周期内的游程总数为m。∵不允许n个全零状态，∴只有一个n个码为全“1”如：n=4111101011001000m=8.第三章相关分析法4）移位相加性：若将一个M序列与将其延迟了r个码以后的序列，按模2加法原则相加，所得的新序列还是M序列，不过延迟了q个码，r、q均为整数，且1r，qNp1。5）M序列具有近似离散的白噪声性质。下面将详细讨论M序列的自相关函数和功率密度谱。b.第三章相关分析法3、M序列的相关函数和功率密度谱：1）相关函数：定义:“1”状态的逻辑电平为“a”，“0”状态的逻辑电平为“+a”（为负逻辑关系，反之结论一样）。.第三章相关分析法(1)离散情况(=/):其中：=/,设是的整数倍，此时Ruu()取值于=0，1，2，…，Np―1Ruu()写成离散形式为：显然模2乘法的结果与模2加法的结果在逻辑上是完全一样的，都为异或关系。同号码+a2（0）——u(k)与u(k+)码的电平符号相同。异号码a2（1）——u(k)与u(k+)码的电平符号相异。.第三章相关分析法①当=1，2，…，Np―1时：u(k)u(k+)在逻辑状态上相当于原序列{u(k)}与另一延迟序列{u(k+)}按摸2加法原则相加。根据M序列的移位相加性质可知，所得的结果在逻辑状态上仍是一个M序列。.第三章相关分析法②当=0时：(同一个M序列自乘).第三章相关分析法（2）连续情况（不是的整数倍）：即：一个周期内曲线u(t)•u(t+τ)所围成的：正面积－负面积.第三章相关分析法①当=0时：(0<<)M序列每出现一次状态转换，积分将出现一个负面积(τ•a2).第三章相关分析法.第三章相关分析法它是τ的线性函数，因此可确定其两点：∵Ruu(τ)=Ruu(-τ)为偶函数，∴在－<<内，Ruu(τ)为一个波。.第三章相关分析法②当•<<(+1)•，且=1，2，…，Np―1时：.第三章相关分析法.第三章相关分析法M序列的Ruu()是一串周期性的波，它与白噪声的δ函数还有差别，但只要缩小，三角波的宽度变窄，Ruu()就接近理想脉冲。∴此时Ruu(μ)为离散白噪声的自相关函数。.第三章相关分析法令：Ruu()=Ruu1()+Ruu2()，则：3.第三章相关分析法2）功率密度谱：Ruu(τ)是一个以TP为周期的周期函数，而周期函数的Fourier变换是一个离散的频谱，其基波频率fo=1/TpRuu(τ)的周期TP=NpΔ，且有界，满足Dirichlet条件，故可以展开复数形式的Fourier级数：.第三章相关分析法根据维纳辛钦公式（Fourier变换对）：M序列的功率密度谱Φuu(ω)与自相关函数Ruu(τ)是一个Fourier变换对，即因为Ruu(τ)的Fourier级数一致收敛，所以积分与求和可以交换顺序。.第三章相关分析法由δ函数的性质可知：f(τ)=1与F(ω)=2πδ(ω)是一个Fourier变换对，即δ(ω–rωo)说明Φuu(ω)是一个离散的频谱，ω只能在rωo处取值，所以：.第三章相关分析法∵Ruu(τ)=Ruu(-τ)为τ的偶函数.第三章相关分析法.第三章相关分析法(1)当r=0时，ω=rωo=0，可得：.第三章相关分析法.第三章相关分析法M序列的功率密度谱Φuu(ω)是一个离散的线条谱，且有一个(Sinx/x)2形的包络线，它的第一次取零的频率就是时钟脉冲的频率1/Δ(ω=2π/Δ)。显然，Φuu(ω)=Φuu(-ω)是偶函数，是关于纵坐标对称的。a.第三章相关分析法.第三章相关分析法②M序列的激励功率与试验信号的幅值平方a2成正比，与序列长度Np成反比。.1、逆重复M序列的产生将2NP个码的M序列{u(k)}与2NP个码的方波信号{m(k)}，按模2加法规则相加，即可得到逆重复M序列{l(k)}。第三章相关分析法{l(k)}={u(k)}{m(k)}1）逆重复M序列{l(k)}的周期=2Tp（即为原来M序列{u(k)}周期的两倍，Tp=NPΔ）为偶数。二、逆重复M序列产生的方法及性质：2、M序列的性质M序列{u(k)}的NP=2n1为奇数，而方波{m(k)}的周期为偶数（2个码），所以2NP内的逆重复M序列{l(k)}不会重复。.2）逆重复M序列的前、后半个周期是逆重复的，即第三章相关分析法l(t)=-l(t+Tp)3）一个周期内，“0”状态与“1”状态的个数相等，各为NP。若定义“1”状态的逻辑电平为“a”，“0”状态的逻辑电平为“+a”，则在周期2Tp内为零均值（更接近于白噪声）。4）逆重复M序列{l(k)}与M序列{u(k)}不相关，即：Rul(μ)=0∵l(k)=-l(k+Np)u(k)=u(k+Np).第三章相关分析法令：Rll()=Rll1()+Rll2().第三章相关分析法Rll()=Rll1()+Rll2().第三章相关分析法Rll()=Rll1()+Rll2()Ruu()=Ruu1()+Ruu2().第三章相关分析法Rll1()=Ruu1()0τ(Np-1)Δ.第三章相关分析法逆重复M序列的Rll1()等于M序列的Ruu1()，即：Rll1()=Ruu1()∴逆重复M序列更接近于白噪声。b.第三章相关分析法一、脉冲响应函数的辨识在辨识线性系统的脉冲响应函数的试验中，需要将有关算法转变成离散形式。当采样周期T0与M序列的时钟脉冲同步时，即T0=，序列的长度Np满足（Np-1）>Ts（系统的过渡过程时间），即：当t>(Np-1)时，g(t)0§33用M序列辨识线性系统的脉冲响应函数.第三章相关分析法在离散情况下M序列的Ruu()为：——它是由Ruu2()产生的.第三章相关分析法∵脉冲响应函数g(k)有界，∴C为有界常数，且C>0∴1、作图法-C一般可以通过对Ruy()的稳态值的目测得到。.第三章相关分析法2、解析法方程两边同求和，可得：.第三章相关分析法方程两边同取均值，可得：.第三章相关分析法此时，又回到理论的维纳—霍甫方程，所以：此时g(μ)已经是一个确定的量了！.第三章相关分析法方程两边同取二阶原点矩，可得：.第三章相关分析法同证明无偏性一样，可得：.第三章相关分析法三、提高估计精度的方法1、提高采样速率提高Ruy()的精度：取采样周期To=/(=1～4),用更多的y(t)数据计算Ruy()。2、采用多个周期的M序列输入r+1个周期的M序列，测得r个周期的y(t)计算Ruy()。通常取r=1～44.第三章相关分析法1、一次完成法（离线计算法）定义：.第三章相关分析法.*第三章相关分析法2）需要输入r+1个周期的u(k)：u(-Np+1)～u(rNp-1)。3）精度要求较高时，Ruy()的计算精度要高，r的数目要大，所以数据存储量大。4）不是递推公式，无法在线辨识。.第三章相关分析法2、递推算法设已获得M对I/O数据，且M≥μ（∵μ=0,1，…，Np-1，∴M≥Np-1），即必须先观测至少一个周期。Ruy(μ)的递推公式，即全部的M对I/O数据的Ruy(μ,M)可以用过去的(M-1)对I/O数据算得的Ruy(μ,M-1)和第M次观测的最新数据y(M)和u(M)递推地计算出。.第三章相关分析法可得向量─矩阵形式：.第三章相关分析法.第三章相关分析法用逆重复M序列辨识线性系统的脉冲响应函数，比采用M序列所得的算式更简单。对于周期为2Tp的逆重复M序列，仍要求Tp满足(Tp-)>Ts。可得维纳—霍甫方程为：§34用逆重复M序列辨识线性系统的脉冲响应函数.第三章相关分析法∵<Ts（系统的过渡过程时间）。工程上一般取：Np=(1.2～1.5)Ts/∵在理论推导时，假设：当t>(Np-1)时，g(t)0一般取：既保证系统的线性，又不超出设备允许公差的最大幅值a。.第三章相关分析法五、计算Ruy()在生产现场做试验，一般是在系统的正常工作状态uo上再附加一个PRBS输入u(t)。当t>Ts后，系统的非零初始条件将消失，y(t)中的零输入响应消失了，只剩下由u(t)激起的强制响应，此时y(t)已经是一个平稳随机过程了。所以，必须对系统先加一个周期u(t)的预激励，从第二周期开始再量测I/O数据，用以计算Ruy()。b系统的实际输入：u*(t)=uo+u(t)系统的实际输出：y*(t)=yo+y(t)所以，计算Ruy()时必须从实际输出y*(t)中将稳态数据yo除去。.设MIMO系统:输入:u1(t),u2(t),…,uJ(t)输出:y1(t),y2(t),…,yI(t)第三章相关分析法为了辨识多变量系统G()，需要辨识I×J个子系统：gij()(i=1,2,…,I;j=1,2,…,J)§36多变量系统的辨识.式中T1是所有子系统gij()中最大的系统调节时间，即：第三章相关分析法显然，yi(t)与J个子系统的脉冲响应有关。设uj(t)(j=1,2,…,J)均为周期性试验信号，且周期T>T1,与SISO系统相似，可得MIMO系统的维纳—霍甫方程：多变量系统卷积公式为向量—矩阵形式:I×JI×JJ×J.第三章相关分析法.第三章相关分析法第j个输入、第i个输出的维纳—霍甫方程：若{uj(t)}（j=1,2,…,J）为互不相关，即：=0.第三章相关分析法取uj(t)=M序列，um(t)=Um=Const(m≠j)1、逐个试验法缺点：1）若输入多，J较大时，则试验时间较长。2）各个输入之间的交叉作用不能充分反映出来，误差较大。.第三章相关分析法2、联合试验法为了消除式中的第二项互相关函数，最好的办法是使得:{uj(t)(j=1,2,…,J)}为互不相关，即在一个T周期内：2）当J>2时：利用M序列的移位相加性质，可以从一个M序列得到J个M序列，它们的相位依次后移了Np⁄J个码。1）当J=2时：在2Tp内：M序列与逆重复M序列是不相关的。所以，两个输入可以分别采用M序列和逆重复M序列。.第三章相关分析法.第三章相关分析法在小于一个TJ内：uj(t)与uj+1(t)以及其它的um(t)都不相关。.第三章相关分析法∴上述两种方法仅适合J≤4时的系统，否则试验时间会太长，可能破坏y(t)为平稳过程的假设。∴只需要一个Tp就可求得G()的全部IJ个元素：逐个试验法：每个uj(t)都要试验两个Tp（预激励+试验）5.第四章线性系统参数估计的最小二乘法§41随机型典范差分方程§42最小二乘估计方法§43加权最小二乘法§44最小二乘参数估计的统计特征§45广义最小二乘法§46辅助变量法§47增广矩阵法（增广最小二乘法）§48相关分析―最小二乘两步法§49阶的辨识.§41随机型典范差分方程第四章线性系统参数估计的最小二乘法*.CARMA模型（可控自回归滑动平均模型）1、CARMA：第四章线性系统参数估计的最小二乘法（ControlledAuto-RegressionMovingAverage）对于SISO系统：.第四章线性系统参数估计的最小二乘法6、静态自回归：n=0（回归分析）.§42最小二乘估计方法第四章线性系统参数估计的最小二乘法一、最小二乘法（LS）SISO的随机差分方程描述（CAR模型可控自回归）：其中u(k)和y(k)为实际测量的I/O序列，e(k)为过程噪声（观测噪声）。假设e(k)为独立同分布的随机变量序列，具有零均值和方差2。上述方程可写成：.第四章线性系统参数估计的最小二乘法为了估计2n个参数，必须观测N+n次，N2n，从而得到N个方程组。.第四章线性系统参数估计的最小二乘法可得观测方程组的向量矩阵方程：最小二乘的标准 格式 pdf格式笔记格式下载页码格式下载公文格式下载简报格式下载 特点：输出关于参数是线性的。最小二乘估计准则：因为J是的二次函数，所以J存在极值。.第四章线性系统参数估计的最小二乘法极小化估计准则J的必要条件：正规方程式解的表达式a.第四章线性系统参数估计的最小二乘法极小化估计准则J的充分条件：.第四章线性系统参数估计的最小二乘法LS的估计准则实际上是:使得残差平方和为观测误差平方和的极小值。.第四章线性系统参数估计的最小二乘法二、递推最小二乘法递推算法可以减少内存存贮量和计算量，同时还可以实现在线辨识。在一次完成法中：I/O数据越多其中：.第四章线性系统参数估计的最小二乘法当增加一对新的观测数据u(n+N+1)和y(n+N+1)后，.第四章线性系统参数估计的最小二乘法*.第四章线性系统参数估计的最小二乘法.第四章线性系统参数估计的最小二乘法.第四章线性系统参数估计的最小二乘法b.*第四章线性系统参数估计的最小二乘法.第四章线性系统参数估计的最小二乘法K(N)表示增益因子，它是一个时变增益矩阵。.第四章线性系统参数估计的最小二乘法为了使得ΦTΦ是正定矩阵，观测次数N0+n中必须取N02n。2为数值很大的标量，一般取计算机的最大字长。.第四章线性系统参数估计的最小二乘法.第四章线性系统参数估计的最小二乘法.第四章线性系统参数估计的最小二乘法.递推最小二乘运算框图：第四章线性系统参数估计的最小二乘法4、估计过程中，显然“历史”数据没有保存下来，但是“历史”数据的影响却一直在起作用。故称之为“无限增长记忆”的最小二乘递推算法。6.第四章线性系统参数估计的最小二乘法三、数据饱和现象及实时估计1、数据饱和现象：∴P(N)≥0故P(N)是递减的，当N→∞时，可能会出现P(N)→0。*，且∵P(N)可逆.第四章线性系统参数估计的最小二乘法当出现“数据饱和”时，由于计算机的字长有限，所以存在舍入误差，因此，新的观测数据不但对参数估计不起改进作用，反而会使得P(N)失去正定性，甚至失去对称性，造成参数的估计量与真实值之间的偏差越来越大。2、实时估计算法：无限增长记忆最小二乘递推算法的缺陷：对所有观测数据的加权相同，可能出现“数据饱和”现象。此时，递推算法就有可能不能反映出系统参数的时变性。参数随时间变化的信息含于新数据中，如果不采用降低旧数据影响的递推算法，新数据就会被旧数据淹没掉，因此，需要一种能跟踪参数变化的递推算法，称为实时估计算法。可以用降低旧数据影响的办法克服数据饱和现象。.第四章线性系统参数估计的最小二乘法1）渐消记忆法（带遗忘因子的LS递推法）思路：对每次观测的数据按指数加权，旧数据所加的权按指数衰减，从而人为地强调当前的新数据，降低旧数据的影响。.第四章线性系统参数估计的最小二乘法K(N).第四章线性系统参数估计的最小二乘法.第四章线性系统参数估计的最小二乘法可得带遗忘因子的最小二乘递推公式：当=1时，相当于对所有数据加相同的权，所以带遗忘因子的最小二乘递推公式就退化成无限增长记忆的最小二乘递推公式。.第四章线性系统参数估计的最小二乘法引入遗忘因子对数据加权后，相当于对最小二乘估计准则中的e(k)加权。相当于在最小二乘估计准则中对以前的准则加以遗忘。∴每递推一步，P(N+1)中都乘上一个(1/)1的因子，使得P(N+1)随N增大而减小的速度降慢，从而减少了数据饱和现象。a.第四章线性系统参数估计的最小二乘法.第四章线性系统参数估计的最小二乘法.第四章线性系统参数估计的最小二乘法将(1)-(2)得：.第四章线性系统参数估计的最小二乘法.第四章线性系统参数估计的最小二乘法∵*(N+1)保持它的行数为N不变，∴当递推次数kN时，如果令：P-1(k+1)为N+1行,在Q-1(k)中加上新的一行。Q-1(k+1)为N行，在P-1(k+1)中减去最前面的一行。.第四章线性系统参数估计的最小二乘法递推公式中初值的选取：.第四章线性系统参数估计的最小二乘法特点：可以用一次完成法或递推一般最小二乘法（无限增长记忆法）对前（n+N）组数据进行计算，在此基础上不再增加记忆长度，每次只保留（n+N）组数据（只保留N行数据），进行递推。递推计算步骤：在Q(k)的基础上，加上最新一行：T(N+K+1)在P(k+1)的基础上，减去最前一行T(N+K+1-N)由(N+1)行构成由N行构成b.§43加权最小二乘法第四章线性系统参数估计的最小二乘法在一般最小二乘估计中，认为每次观测的误差对估计参数都具有相同的重要性，即对每个观测误差e(k)在指标函数J中所加的权相等。实际上每次观测的误差是不同的。对观测误差的方差小（观测准确）的数据，应该加大重视程度；对观测误差的方差大（观测不准确）的数据应该减小重视程度。所以采用加权最小二乘法，它允许对J中每个误差项加不同的权。令W表示希望的加权矩阵，W限定为正定对称矩阵。.第四章线性系统参数估计的最小二乘法加权最小二乘递推算法.第四章线性系统参数估计的最小二乘法.第四章线性系统参数估计的最小二乘法直观意义：表示对各次观测数据所加之权（即重视程度），应与该次观测误差的方差成反比，即对越精确的数据应加越大的权。加权最小二乘递推算法:.§44最小二乘参数估计的统计特征第四章线性系统参数估计的最小二乘法一、无偏差性设观测噪声{e(k)}是零均值，且e与相互独立。则E(e)=0若X与Y相互独立，则E(XY)=E(X)E(Y)二、一致性.第四章线性系统参数估计的最小二乘法.第四章线性系统参数估计的最小二乘法最小二乘估计量为一致估计量的前提：是建立在{e(k)}是不相关序列基础上的（即为{e(k)}是白噪声）。实际上系统观测误差{e(k)}往往是相关的。三、最小二乘法的缺陷既使{(k)}是不相关序列，{e(k)}也是相关序列，所以最小二乘估计不是一致估计。而且，实际上，(k)=n(k)一般不是白噪声，是有色噪声。因此，最小二乘参数估计方法的应用受到一定限制（即必须要求{(k)}是不相关的）。7.{n(k)}：为有色噪声（具有有理谱密度的平稳随机序列）这样的有色噪声可以看成白噪声{(k)}通过一个线性稳定系统的滤波后产生而成的：§45广义最小二乘法第四章线性系统参数估计的最小二乘法一、方法原理一般线性系统:最小二乘模型.显然，过程噪声{e(k)}是一个相关噪声序列（有色噪声）。有色噪声的白化(将有色噪声通过一个线性系统变成白噪声):第四章线性系统参数估计的最小二乘法显然，上式是一个典型的最小二乘结构，而且{(k)}是不相关序列（白噪声）。.第四章线性系统参数估计的最小二乘法特点：将过程噪声e(k)为有色噪声的差分模型，转换成观测误差为白噪声(k)的最小二乘标准形式：Yf=Φfθ+，从而能得到一致的最小二乘估计量。问题：噪声模型：C(z-1)e(k)=(k)一般是未知的，所以问题转化成在估计A(z-1)，B(z-1)的参数的同时，还应估计C(z-1)的参数。.第四章线性系统参数估计的最小二乘法.第四章线性系统参数估计的最小二乘法二、迭代算法（离线算法）循环迭代步骤（松弛算法）：（6）判别收敛性，否则转（2）。一般来讲，经过有限次迭代后，计算就会收敛。但严格的收敛性并没得到证明。它意味着数据不再滤波，这时得到的估计量与上一次循环相同。a.第四章线性系统参数估计的最小二乘法三、递推算法（在线算法）1、辨识系统模型参数：.第四章线性系统参数估计的最小二乘法于是，根据矩阵求逆引理可得递推最小二乘公式：2、辨识噪声模型参数：.第四章线性系统参数估计的最小二乘法于是可得递推最小二乘公式：处理线性时变系统时，同样也可以采用渐进记忆法和限定记忆法。.§46辅助变量法第四章线性系统参数估计的最小二乘法一、方法原理（样本的时间均值）（样本的时间均值）.第四章线性系统参数估计的最小二乘法当{u(k)}和{e(k)}为各态历经性平稳随机过程时：（集均值）（集均值）∴(k)中的各元素只与e(k-1),e(k-2),┉的值有关。∴当{e(k)}为白噪声时，(k)与e(k)不相关。即Re=0.第四章线性系统参数估计的最小二乘法当{e(k)}为白噪声时，(k)与e(k)不相关。即Re=0b.第四章线性系统参数估计的最小二乘法设所引进的辅助矩阵W(N)，它具有性质：(保证存在唯一解的条件)(保证是一致估计)如何构造具有上述两性质的辅助矩阵W(N)呢？.第四章线性系统参数估计的最小二乘法二、W(N)的构造方法：.第四章线性系统参数估计的最小二乘法.第四章线性系统参数估计的最小二乘法三、迭代步骤：（离线算法）（4）精度判别，否则，转（2）四、递推算法：（在线算法）.第四章线性系统参数估计的最小二乘法辅助变量法，对初值P0的选择非常敏感。一般先采用递推最小二乘法算出前50~100个采样点，然后再采用辅助变量法。8.§47增广矩阵法（增广最小二乘法）第四章线性系统参数估计的最小二乘法一、方法原理（只有递推算法）{e(k)}是有色噪声，具有有理谱密度的平稳过程，可以白化。{(k)}为白噪声序列。此处的C(z-1)与广义最小二乘的C(z-1)不相同，而且正好是逆的关系。相当于H(z-1)。待估参数(3n个)向量：.第四章线性系统参数估计的最小二乘法二、递推算法：（令k=n+N+1）.第四章线性系统参数估计的最小二乘法三、特点：1）将模型和噪声模型的参数一起估计出，所以待估计参数的维数增大了，P(N)的阶次（3n×3n）被扩大了，故称为增广最小二乘法。在大多数情况下，它具有较好的收敛性。2）只有递推算法。.§48相关分析―最小二乘两步法第四章线性系统参数估计的最小二乘法一、方法原理假定{u(k)}与{y(k)}均为各态历经性平稳随机过程:.第四章线性系统参数估计的最小二乘法Rue()=0假定输入序列{u(k)}与随机序列{e(k)}不相关，则：Rue()=0