第五章线性参数的最小二乘法处理yj课件

第五章

线性参数的最小二乘法处理1第五章

线性参数的最小二乘法处理1设有一金属尺，在温度t时长度可表示为yt=y0（1+t）,

其中，y0为温度零度时的精确长度。为金属材料的线膨胀系数，求y0与的最可信赖值及其精度估计。

设a=y0，b=y0,则有yt=a+bt。在理论上，有引题:求标准米尺线膨胀系数

从中任选两个方程可解得a、b,从而确定y0、α。线性参数的最小二乘法处理由于测量误差的存在，需要n>22设有一金属尺，在温度t时长度可表示为yt=y0（1+t）,但是事实上，不可避免地存在测量误差。设在t1，t2，t3……….tn温度条件下分别测得金属尺的长度是l1，l2，l3……….ln，则有误差方程

最小二乘法a、b及

y0、α线性参数的最小二乘法处理3但是事实上，不可避免地存在测量误差。设在t1，t2几何解释

对应于ti的测量数据li,i=1,2,…,nyott1t2…

…

tn残余误差：a、b的最可信赖值为什么？怎样求a

和b？精度估计？线性参数的最小二乘法处理4几何解释对应于ti的测量数据li,i=1,2,…,nyo第一节最小二乘法原理第二节正规方程第三节精度估计第四节组合测量的最小二乘法处理线性参数的最小二乘法处理5第一节最小二乘法原理线性参数的最小二乘法处理5大纲要求掌握最小二乘原理。掌握正规方程:等精度测量线性参数的最小二乘处理不等精度测量线性参数的最小二乘处理掌握最小二乘精度估计方法。线性参数的最小二乘法处理6大纲要求掌握最小二乘原理。线性参数的最小二乘法处理6若测量数据,不存在系统误差和粗大误差，相互独立，且服从正态分布,其标准差为

则各测量结果出现于相应真值附近区域内的概率分别为：

第一节最小二乘法原理

各误差相互独立，由概率乘法定理，各测量数据同时分别出现在相应区域的概率应为：

理论分析

7若测量数据,不存在系统误差和粗大误差，相互独等精度测量：根据概率论的最大或然原理，由于测量值已经出现，有理由认为这n个测量值出现于相应区间的概率P为最大。要使P最大，应有由于结果只是接近真值的估计值，因此上述条件应为引入权pi理论分析

第一节最小二乘法原理

8等精度测量：根据概率论的最大或然原理，由于测量值必须指出:上述最小二乘原理是在测量误差无偏、正态分布和相互独立的条件下推导出的，但在不严格服从正态分布的情形下也常被使用。实际上，按误差或残差平方和为最小进行统计推断已形成一种准则。最小二乘原理:测量结果的最可信赖值应使残余误差平方和（或加权残余误差平方和）最小。第一节最小二乘法原理

9必须指出:上述最小二乘原理是在测量误差无偏、正态分布和相互独

为确定t个不可直接测量的未知量的估计量，可对与该t个未知量有函数关系的直接测量量Y进行n次测量，得测量数据（n>t）并设有如下函数关系：

设直接量Y1,Y2,…,Yn的估计量分别为y1,y2,…,yn，则有：

第一节最小二乘法原理

10为确定t个不可直接测量的未知量误差方程(残差方程)：

最小二乘法

等精度测量：不等精度测量：第一节最小二乘法原理

11误差方程(残差方程)：最小二乘法等精度测量：不等精度测矩阵形式

实测值矩阵

估计值矩阵

残差矩阵

误差方程系数矩阵

矩阵形式

误差方程第一节最小二乘法原理

12矩阵形式实测值矩阵估计值矩阵残差矩阵误差方程矩阵形误差方程的矩阵形式

1）等精度测量线性参数的最小二乘原理的矩阵形式

或

其中：矩阵形式

2）不等精度测量线性参数的最小二乘原理的矩阵形式

或

第一节最小二乘法原理

13误差方程的矩阵形式1）等精度测量线性参数的最小二乘原理的矩矩阵形式

不等精度

等精度第一节最小二乘法原理

14矩阵形式不等精度等精度第一节最小二乘法原理14第二节正规方程一、等精度测量线性参数最小二乘法的正规方程二、不等精度测量线性参数最小二乘法的正规方程三、非线性参数最小二乘法处理的正规方程（略）四、最小二乘法与算术平均值的关系

15第二节正规方程一、等精度测量线性参数最小二乘法的正规方正规方程为了获得更可靠的结果，测量次数n总要多余未知参数的个数t，即所得误差方程式的个数总要多余未知数的个数。一般代数解方程法无法求解。最小二乘法可由误差方程得到有确定解的代数方程组，从而求解未知参数。这个具有确定解的代数方程组称为最小二乘法估计的正规方程。（或称为法方程）16正规方程为了获得更可靠的结果，测量次数n总要多余未知参数的个线性参数最小二乘法处理程序根据问题列出误差方程式按最小二乘法原理，利用求极值的方法由误差方程得到正规方程求解正规方程，得到待求估计量给出精度估计17线性参数最小二乘法处理程序根据问题列出误差方程式17第二节正规方程

一、等精度测量线性参数最小二乘处理的正规方程且连续多元函数I(x1,x2,…,xn)的极值条件18第二节正规方程一、等精度测量线性参数最小二乘处理的正规方正规方程特点：

系数矩阵是对称阵；主对角线分布着平方项系数，正数第二节正规方程

19正规方程特点：系数矩阵是对称阵；第二节正规方程19看正规方程组中第r个方程：则正规方程可写成即正规方程的矩阵形式20看正规方程组中第r个方程：则正规方程可写成即正规方程的矩阵形将代入，得矩阵形式第二节正规方程

21将代入，得矩阵形式第二节正规方程21的数学期望这里

Y=[Y1,

Y2,…,

Yn]T,X=[X1,

X2,…,

Xn]T

C=ATA

可见为X的无偏估计。

第二节正规方程

22的数学期望这里C=ATA可见为X的无偏估计。第例1已知铜棒的长度和温度之间具有线性关系：，为获得０℃时铜棒的长度和铜的线膨胀系数，现测得不同温度下铜棒的长度，如下表，求，的最可信赖值。例题1020304050602000.362000.722000.82001.072001.482000.60解：1）列出误差方程23例1已知铜棒的长度和温度之间具有线性关系：例题10203按照最小二乘的矩阵形式计算则有：令为两个待估参量，则误差方程为24按照最小二乘的矩阵形式计算则有：令那么：25那么：25例2在串联谐振回路中，已知Y=ωL－1/ωC,式中ω，Y，L，C分别是外加电信号的角频率和回路的电抗、电感、电容，不同角频率时的电抗测量值li如下表，求L、C的最可信赖值。ωi521li0.80.2-0.3例题第二节正规方程

26例2在串联谐振回路中，已知Y=ωL－1/ωC,式中ω解：令b=-1/C，则有误差vi=li-(Lωi+b/ωi)。L、b是两个待估计参数。正规方程为例题i

ai1

ai2

ai1ai1

ai2ai2

ai1ai2ai1li

ai2li

123

50.2250.04140.1620.540.2510.40.111111-0.3-0.3Σ301.2934.1-0.04第二节正规方程

27解：令b=-1/C，则有误差vi=li-(Lωi+b/ω例题解得第二节正规方程

28例题解得第二节正规方程28作代换：二、不等精度测量线性参数最小二乘法处理的正规方程

把不等精度测量线性参数最小二乘法处理转化为等精度测量问题。29作代换：二、不等精度测量线性参数最小二乘法处理的正规方程把由此可得不等精度测量线性参数最小二乘处理的正规方程：30由此可得不等精度测量线性参数最小二乘处理的30整理得：31整理得：31即不等精度的正规方程将代入上式，得（待测量Ｘ的无偏估计）32即不等精度的正规方程将代入上式，得（待测量Ｘ的无偏例5.2某测量过程有误差方程式及相应的标准差：试求的最可信赖值。解：首先确定各式的权第二节正规方程

33例5.2某测量过程有误差方程式及相应的标准差：试求作代换：iai1

ai2

li

a’i1

a’i2

l’i

12345

4116.444425.764128.604834.4031310.814932.4331413.2141239.6331515.2741545.81

第二节正规方程

34作代换：iai1ai2i

12345

161616103.04103.04166432137.60275.209812797.29291.87914436118.98475.92922545137.34687.15

59530156594.341833.18例题x1=4.186x2=2.227第二节正规方程

35i11616三、非线性参数最小二乘处理的正规方程针对非线性函数其测量误差方程为令，现将函数在处展开，则有36三、非线性参数最小二乘处理的正规方程针对非线性函数其测量误差将上述展开式代入误差方程，令则误差方程转化为线性方程组于是可解得，进而可得。近似值37将上述展开式代入误差方程，令则误差方程转化为线性方程组于是可四、最小二乘法与算术平均值的关系

为确定一个量X的估计值x，对它进行n次直接测量，得到n个数据,相应的权分别为，则误差方程为运用最小二乘法的正规方程为

有误差方程知ai=1，因此有

这正是不等精度测量的加权算术平均值！算术平均值原理可以看作是最小二乘法原理的特例。38四、最小二乘法与算术平均值的关系为确定一个量X的估计值x，第三节精度估计一、直接测量数据的精度估计

二、最小二乘估计量的精度估计

给出估计量x1,x2,…,xt的精度。39第三节精度估计一、直接测量数据的精第三节精度估计

一、测量数据精度估计(一）等精度测量数据的精度估计可以证明是自由度为(n－t)的变量。对包含t个未知线性参数的Y()进行n次等精度测量得l1,l2,…,ln

，由残差v1,v2,…,vn得标准差σ的估计量。根据变量的性质，有vi互相独立，且服从正态分布40第三节精度估计一、测量数据精度估计(一）等精度测量数据的则可取作为的无偏估计量。因此测量数据的标准差的估计量为测量次数未知量个数残差平方和当t=1时？

第三节精度估计

41则可取作为的无偏估计量。因此测量数据的标准差的估计iωilivi1

50.8-0.0191220.20.063331-0.3-0.0275例5.2试求例2中电抗的测量精度解：已知残余误差方程为：

vi=li-(0.182ωi-1/2.2ωi)。第三节精度估计

42iωilivi150.8-0.0191220.20.063(二)不等精度测量数据的精度估计

一、直接测量数据的精度估计

测量数据的单位权标准差

未知量个数方程个数加权残差平方和当t=1时？

第三节精度估计

43(二)不等精度测量数据的精度估计一、直接测量数据二、最小二乘估计量的精度估计

最小二乘法所确定的估计量x1,x2,…,xt的精度取决于测量数据l1,l2,…,ln的精度和线性方程组所给出的函数关系。

第三节精度估计

44二、最小二乘估计量二、最小二乘估计量的精度估计

1、等精度测量时估计量的精度估计

设有n×n协方差矩阵这里，Dlii为li的方差,Dlii=E[(li-Eli)2]=σi2；Dlij为li与lj的协方差,Dlij=E[(li-Eli)(lj-Elj)]=ρijσiσj,i≠j.若l1,l2,…,ln是等精度独立测量的结果，则有且相关系数ρij＝０。第三节精度估计

45二、最小二乘估计量对于估计量x1,x2,…,xt，其协方差矩阵为二、最小二乘估计量的精度估计

第三节精度估计

46对于估计量x1,x2,…,xt，其协方差矩阵为二、最小二乘估二、最小二乘估计量的精度估计

设因此，有第三节精度估计

47二、最小二乘估计量解：已知正规方程为例5.3试求例题5.1中电感和电容估计量的精度。有估计量L、b的标准差为测量数据的标准差为σ=0.0716而C=-1/b，σC=?第三节精度估计

48解：已知正规方程为例5.3试求例题5.1中电感和电容估二、最小二乘估计量的精度估计

2、不等精度测量估计量的精度估计

第三节精度估计

49二、最小二乘估计量第四节

组合测量（combinedmeasurement）的最小二乘法处理50第四节

组合测量（combinedmeasurement）组合测量基本概念组合测量是通过直接测量待测参数的各种组合量（一般是等精度测量），然后对这些测量数据进行处理，从而求得待测参数的估计值，并给出其精度估计。第四节组合测量的最小二乘法处理

例如要测量x,y,z三个量，可以采用如下组合测量组合测量的优点是既能提高测量精度又能减少测量次数。若x,y,z三个量单独测量，每个测量4次的话，总共需测12次。若用组合测量，三个量都还是各测了4次，但总测量次数只有7次，较前减少了5次，而又能达到同样的目的。x=l1y=l2z=l3

x+y=l4y+z=l5x+z=l6x+y+z=l751组合测量基本概念组合测量是通过直接测量待测参数的各种组合量（组合测量基本概念通常组合测量数据是用最小二乘法进行处理，它是最小二乘法在精密测试中的一种重要应用。t个被测量(t>1)

n个误差方程式

求解n种组合(n>t)测得

最小二乘法第四节组合测量的最小二乘法处理

52组合测量基本概念t个被测量(t>1)n个误差方程式求解n【例题】要求检定丝纹尺0，1，2，3刻线间的距离x1,x2,x3.已知用组合测量法测得图所示刻线间隙的各种组合量。试用最小二乘法求x1,x2,x3

及其标准偏差。第四节组合测量的最小二乘法处理

53【例题】要求检定丝纹尺0，1，2，3刻线间的距离x1,x2直接测量各组合量Li，得首先列出误差方程0123xxx123LLLLLL123456第四节组合测量的最小二乘法处理

54直接测量各组合量Li，得首先列出误差方程0123xxx123由于由此可得：第四节组合测量的最小二乘法处理

55由于由此可得：第四节组合测量的最小二乘法处理55则有第四节组合测量的最小二乘法处理

56则有第四节组合测量的最小二乘法处理56那么，测量数据的标准差为将最佳估计值代入误差方程中，得到求估计量的精度估计第四节组合测量的最小二乘法处理

57那么，测量数据