最小二乘法原理

1、文档来源为：从网络收集整理.word版本可编辑.欢迎下载支持.第一节最小二乘法的基本原理和多项式拟合 一最小二乘法的基本原理 从整体上考虑近似函数?同所给数据点（玉/J （i=0,1,，m）误差门二P（&）-M（i=0,1,m）的大小，常用的方法有以下三种：- （i=0,1,，m）绝对值的最大值噩时，即误差向量> lr I二（小7）的8范数；二是误差绝对值的和 自 ，即误差向量r的1 费范数；三是误差平方和 仁!的算术平方根，即误差向量r的2范数；前两种 方法简单、自然，但不便于微分运算，后一种方法相当于考虑2范数的平方,府来 度量误差八（i=0 ,1,，m）的l一 m -工&#

2、163;门因此在曲线拟合中常米用误差平方和整体大小。数据拟合的具体作法是：又t给定数据5d （i=0,1，m）,在取定的函数类B中，求加工”9,使误差尸LFSMm （i=0,1,m）的平方和最小，即工个2份愁）一/=min =.-.从几何意义上讲，就是寻求与给定点（号，乂）（i=0,1,m）的距离平方和为最小的曲线 y = P1刈（图6-1）。函数仅外称为拟合函数或最小二乘解，求 拟合函数P的方法称为曲线拟合的最小二乘法。在曲线拟合中，函数类中可有不同的选取方法.6 1二多项式拟合假设给定数据点（”）（i=0,1，,m）,©为所有次数不超过现"玉海）的多项式式式）=工维/4

3、中构成的函数类，现求一匕。，使得当拟合函数为多项式时，称为多项式拟合，满足式（1）的P式功称为最小二乘拟合多项式。特别地，当n=1时，称为线性拟合或直线拟合。 显然为%Hi，%的多元函数，因此上述问题即为求 二4为，的的极值 问题。由多元函数求极值的必要条件，得翼=2£（£汽工：-居冰=0,j = 01/即, 赭苗£【£工厂"）牝=£引斯，厂&L,网<-：-.：-.（3）（3）是关于%的线性方程组，用矩阵表示为r X :二再 一： pi-o萧VJM , 飞不戏 LZJ-O1f2M式（3）或式（4）称为正规方程组或法方程组

4、。可以证明，方程组（4）的系数矩阵是一个对称正定矩阵，故存在唯一解。从式（4）中解出% （k=0,1,n）,从而可得多项式¥p式=£即N1（5）可以证明，式（5）中的2S）满足式（1）,即式"为所求的拟合多项式。我Z辰-刀小们把人口称为最小二乘拟合多项式尸工工）的平方误差，记作由式（2）可得q=X M -自3宓J招）-1（6）多项式拟合的一般方法可归纳为以下几步：（1）由已知数据画出函数粗略的图形 一一散点图，确定拟合多项式的次数 n；、力/ O = 0L,；加, 2必0 = 01 、词列表计算i-0和i-0；写出正规方程组，求出%，%。，%；写出拟合多项式-在实

5、际应用中，修或用二相；当同=掰时所得的拟合多项式就是拉格朗日或牛顿插值多项式例1测得铜导线在温度石（C）时的电阻如表6-1 ,求电阻R与温度T 的近似函数关系。i0123456哥(C)19.125.030.136.040.045.150.076.3077.8079.2580.8082.3583.9085.10解 UH散点图（1 6-2）,可见测得的数据接条直线，故取 n=1,拟合函数为列表如下i0国.176.30364.811457.330125.077.80625.001945.000230.179.25906.012385.425336.080.801296.002908.800440.0

6、82.351600.003294.000545.183.902034.013783.890650.085.102500.004255.000245.3565.59325.8320029.445正规方程组为解方程组得故得R与T的拟合直线为利用上述关系式，可以预测不同温度时铜导线的电阻值。例如，由R=0得T=-242.5 ,即预测温度 T=-242.5 C时，铜导线无电阻。6-2例2已知实验数据如下表i01234567813 n4反67819r 101054211234试用最小二乘法求它的二次拟合多项式解设拟合曲线方程为列表如下I0110111101013592781154524416642561

7、664352251256251050461362161296636571493432401749682645124096161287938172965612724381041001000100004040053323813017253171471025得正规方程组 解得故拟合多项式为*三最小二乘拟合多项式的存在唯一性定理1设节点而，三互异，则法方程组（4）的解存在唯证由克莱姆法则，只需证明方程组（4）的系数矩阵非奇异即可。£¥Ti-0(7)用反证法，设方程组（4）的系数矩阵奇异，则其所对应的齐次方程组燃+】M 3i-0 mth有非零解。式（7）可写为n 曲Jk-0 i-0J

8、 = 0,L nX(8)将式（8）中第j个方程乘以（j=0,1，n）,然后将新得到的n+1个方程左右两端分别相加，得因为其中p“方=2跳/A-0所以P 4工 1） = °（i=0,1,m）户式工）是次数不超过n的多项式，它有m+1>n个相异零点，由代数基本定理，必 须有对 =%=/二口 ,与齐次方程组有非零解的假设矛盾。因此正规方程组（4）期P式0 =工区?产必有唯一解。定理2设既用小 是正规方程组（4）的解，则k。是满足式（1）的最小二乘拟合多项式。证只需证明，对任意一组数 九给也 组成的多项式L口，包有即可。因为以（k=0,1,，n）是正规方程组（4）的解，所以满足式（2）

9、,因此有故外（工）为最小二乘拟合多项式。*四多项式拟合中克服正规方程组的病态在多项式拟合中，当拟合多项式的次数较高时，其正规方程组往往是病态的。而正规方程组系数矩阵的阶数越高，病态越严重；拟合节点分布的区间卜的工/偏离原点越远，病态越严重；% （i=0,1,m）的数量级相差越大，病态越严重。为了克服以上缺点，一般采用以下措施：尽量少作高次拟合多项式，而作不同的分段低次拟合；不使用原始节点作拟合，将节点分布区间作平移，使新的节点 个关于原点对称，可大大降低正规方程组的条件数，从而减低病态程度。平移公式为：二(9)对平移后的节点/（i=0,1,，m）,再作压缩或扩张处理：不"凡"

10、;（10）7=Jo+d/zsj*其中 ¥,2, （r是拟合次数）（11）经过这样调整可以使工的数量级不太大也不太小，特别对于等距节点餐二%+妨。=01,，同,作式（10）和式（11）两项变换后，其正规方程组的系数矩阵设 为A,则对14次多项式拟合，条件数都不太大，都可以得到 满意的结果。变换后的条件数上限表如下：拟合次数1234=1<9.9<50.3<435在实际应用中还可以利用正交多项式求拟合多项式。一种方法是构造离散正交 多项式；另一种方法是利用切比雪夫节点求出函数值后再使用正交多项式。这 两种方法都使正规方程组的系数矩阵为对角矩阵，从而避免了正规方程组的病态。我们只介绍第一种，见第三节。例如 m=19u =328,h=1, 玉=工0+ih , i=0,1,，19,即节点 分布在328,347,作二次多项式拟合时直接用个构造正规方程组系数矩阵片 ,计算可得严重病态，拟合结果完全不能用。作平移变换用玉构造正规方程组系数矩阵A ,计算可得比"）式A）降低了 13个数量级，病态显著改善，拟合效果较好。取压