系统辩识09最小二乘参数估计

1、2021年10月30日星期六10时36分45秒第九讲1第第 四四 章章 系统辨识与参数估计系统辨识与参数估计 非参数模型辨识非参数模型辨识 最小二乘参数估计最小二乘参数估计 递推最小二乘数估计递推最小二乘数估计 其它最小二乘类估计的思想其它最小二乘类估计的思想 极大似然估计极大似然估计 闭环辨识闭环辨识2021年10月30日星期六10时36分45秒第九讲2 最小二乘参数估计最小二乘参数估计 最小二乘估计最小二乘估计 设时不变设时不变sisosiso动态过程的数学模型为动态过程的数学模型为其中，（）和（）为过程的输其中，（）和（）为过程的输入输出量，（）为噪声入输出量，（）为噪声2021年10月

2、30日星期六10时36分45秒第九讲3设结构参数设结构参数a a，b b和已知，辨识的任和已知，辨识的任务是如何利用过程的输入输出数据，确定务是如何利用过程的输入输出数据，确定多项式（多项式（-1-1）和（）和（-1-1 ）的系数）的系数2021年10月30日星期六10时36分45秒第九讲4过程过程模型模型u(k)2021年10月30日星期六10时36分45秒第九讲5利用以下记号利用以下记号(4.2.8)2021年10月30日星期六10时36分46秒第九讲62021年10月30日星期六10时36分46秒第九讲72021年10月30日星期六10时36分46秒第九讲8注：注： 定理对过程噪声（）定

3、理对过程噪声（）未加任何限定，（）仅影响最未加任何限定，（）仅影响最小二乘估计的统计特性。小二乘估计的统计特性。 注：注： a ab b是保证是保证t t非奇异的必要条件。更重要的是为非奇异的必要条件。更重要的是为了降低噪声影响，提高估计精度。了降低噪声影响，提高估计精度。注：注： t t非奇异的条件仅仅是为了非奇异的条件仅仅是为了方便计算方便计算2021年10月30日星期六10时36分46秒第九讲9例题：例题：设线性过程的输出设线性过程的输出y(k)是输入序列是输入序列u(k)与其脉冲响应序列与其脉冲响应序列 h(i) i=1,n的卷积的卷积w(k)为另均高斯白噪声。为另均高斯白噪声。y k

4、h i u kiw kin( )( ) ()( )02021年10月30日星期六10时36分46秒第九讲10当k=1, ,l ln时, w=w(1), w(2), , w(l)t取 y=y(1), y(2), , y(l)t h=h(0), h(2), , y(n)t有有 uuuunuuunu l u lu lnl( ), ( ),. ()( ), ( ),. ().( ), (),. ()1012121yhuwhuuuylltllt()12021年10月30日星期六10时36分46秒第九讲112021年10月30日星期六10时36分46秒第九讲12.2.2 最小二乘估计的统计性质无偏性无偏性

5、2021年10月30日星期六10时36分46秒第九讲132021年10月30日星期六10时36分46秒第九讲14参数估计的方差计算参数估计的方差计算2021年10月30日星期六10时36分46秒第九讲15性质（12）推论:若若 n n (0, (0, i i ) )服从正态分布服从正态分布则最小二乘估计也服从正态分布则最小二乘估计也服从正态分布 n n (0, )(0, )2021年10月30日星期六10时36分46秒第九讲16证明：证明：2021年10月30日星期六10时36分46秒第九讲17即即 为最小方差估计为最小方差估计2021年10月30日星期六10时36分46秒第九讲18性质（1）

6、（3）推论:为无偏为无偏-最小方差估计最小方差估计 h yy2021年10月30日星期六10时36分46秒第九讲19性质性质证明：证明：2021年10月30日星期六10时36分47秒第九讲20性质性质证明：证明：2021年10月30日星期六10时36分47秒第九讲21 2.最小二乘估计的一致性条件2021年10月30日星期六10时36分47秒第九讲22证明：证明：由由 及及 得lsnlim2021年10月30日星期六10时36分47秒第九讲232021年10月30日星期六10时36分47秒第九讲242021年10月30日星期六10时36分47秒第九讲25那么那么,最小二乘估计是一致性估计。最小二乘估计是一致性估计。2021年10月30日星期六10时36分47秒第九讲26注1: 定理4.4条件称为(n b+1)阶持续激励条件,它能充分激励受辨过程的振型,从而使观测数据载有过程的主要信息。容易验证：正弦信号、白噪声和伪随机二元序列都是持续激励信号。 注2: 条件(2) “u(k)与与e(k)独立独立”使定理4.4不适用于闭环辨识。 注3: 当e(k)为有色噪声时,最小二乘估计可能是非一致估计和有偏估计。2021年10月30日星期六10时36分47秒第九讲27 加权最小二乘估计对各次数据施加不同的权加权ls估计的统计性