最小二乘法求二次方程系数

本文格式为Word版，下载可任意编辑——最小二乘法求二次方程系数例1：二次方程式计算Y=a0+a1x+a2x2y=-6.3+2.4x+1.3x2

下表为自动计算系数，给出9组x和y的数值，自动计算出系数。

xyx^2x^3x^4xyx^2y11-2.6111-2.6123.748167.41312.69278137.81424.1166425696.41538.2251256251911654.93621612963291774.24934324015191896.164512409676919120.68172965611085求和945421.82852025153333033945285421.8452852025303328520251533322997.4系数系数值a0-6.30xya12.40896.10a21.30

原理与多项式拟合说明附后。

-2.614.8113.4385.69551976.43635.86150.49768.622997.4

第一节最小二乘法的基本原理和多项式拟合一最小二乘法的基本原理

从整体上考虑近似函数p(x)同所给数据点(xi,yi)(i=0,1,…,m)误差

ri?p(xi)?yi(i=0,1,…,m)的大小，常用的方法有以下三种：一是误差riri?p(xi)?yi(i=0,1,…,m)绝对值的最大值max0?i?m，即误差向量r?(r0,r1,?rm)T的∞—范数；二是误差绝对值的和?i?0mri，即误差向量r的1—

范数；三是误差平方和i?0的算术平方根，即误差向量r的2—范数；前两种方法简单、自然，但不便于微分运算，后一种方法相当于考虑2—范数的平方，因此在曲线拟合中常采用误差平方和i?0体大小。

?rm2i?rm2i来度量误差ri(i=0，1，…，m)的整

数据拟合的具体作法是：对给定数据(xi,yi)(i=0,1,…，m)，在取定的函数类?中,求p(x)??,使误差ri?p(xi)?yi(i=0,1,…,m)的平方和最小，即

i?0?rim2=i?02??p(x)?y?ii?minm

从几何意义上讲，就是寻求与给定点(xi,yi)(i=0,1,…,m)的距离平方和为最

小的曲线y?p(x)（图6-1）。函数p(x)称为拟合函数或最小二乘解，求拟合函数p(x)的方法称为曲线拟合的最小二乘法。在曲线拟合中，函数类?可有不同的选取方法.

6—1

二多项式拟合

假设给定数据点(xi,yi)(i=0,1,…,m)，?为所有次数不超过n(n?m)的多项式构成的函数类，现求一

m

pn(x)??akxk??k?0n,使得

2?n?2I???pn(xi)?yi?????akxik?yi??mini?0i?0?k?0?(1)

当拟合函数为多项式时，称为多项式拟合，满足式（1）的pn(x)称为最小二乘

m拟合多项式。特别地，当n=1时，称为线性拟合或直线拟合。

显然

为a0,a1,?an的多元函数，因此上述问题即为求I?I(a0,a1,?an)的极值问题。由多元函数求极值的必要条件，得

mn?I?2?(?akxik?yi)xij?0,j?0,1,?,n?aji?0k?0(2)

i?0k?0I??(?akxik?yi)2mn即

i?0k?0i?0（3）是关于a0,a1,?an的线性方程组，用矩阵表示为

?(?x??m?1?m?xi??i?0???m??xin??i?0nmj?ki)ak??xijyi,mj?0,1,?,n(3)

?x?xi?0i?0mmi2i??xi?0mn?1i??m???x?y??i?ai?0??i?0?0?m?mn?1??a???xi?1???xiyi???i?0??i?0???????????a?m?mn2n??n???xiyi???xi????i?0?(4)i?0?nim式（3）或式（4）称为正规方程组或法方程组。

可以证明，方程组（4）的系数矩阵是一个对称正定矩阵，故存在唯一解。从式（4）中解出ak(k=0,1,…，n)，从而可得多项式

(5)

可以证明，式（5）中的pn(x)满足式（1），即pn(x)为所求的拟合多项式。我

k?0pn(x)??akxkn们把i?0??pmn(xi)?yi?2称为最小二乘拟合多项式pn(x)的平方误差，记作

r22???pn(xi)?yi?i?0nmm2

由式(2)可得

r22??y??ak(?xikyi)2ii?0k?0i?0m(6)

多项式拟合的一般方法可归纳为以下几步：

(1)由已知数据画出函数粗略的图形——散点图，确定拟合多项式的次数n；

(2)列表计算i?0和i?0(3)写出正规方程组，求出a0,a1,?an；(4)写出拟合多项式

pn(x)??akxkk?0n?xmji(j?0,1,?,2n)?xmjiyi(j?0,1,?,2n)；

。

在实际应用中，n?m或n?m；当n?m时所得的拟合多项式就是拉格朗日或牛顿插值多项式。

例1测得铜导线在温度Ti(℃)时的电阻Ri(?)如表6-1，求电阻R与温度T的近似函数关系。i0119.125.0Ti(℃)Ri(?)230.179.25336.080.80440.082.35545.183.90650.085.1076.3077.80解画出散点图（图6-2），可见测得的数据接近一条直线，故取n=1，拟合函数为

R?a0?a1T

列表如下iTiRiTiRiTi20123456正规方程组为245.3??a0??565.5??7?245.39325.83??a???20239.445????1???

?19.125.030.136.040.045.150.0245.376.3077.8079.2580.8082.3583.9085.10565.5364.81625.00906.011296.001600.002034.012500.009325.831457.3301945.0002385.4252908.8003294.0003783.8904255.00020239.445解方程组得

a0?70.572,a1?0.921

故得R与T的拟合直线为

R?70.572?0.921T

利用上述关系式，可以预计不同温度时铜导线的电阻值。例如，由R=0得T=-242.5，即预计温度T=-242.5℃时，铜导线无电阻。

6-2

例2例2已知试验数据如下表i01231345xiyi461571682793810410542试用最小二乘法求它的二次拟合多项式。解设拟合曲线方程为

2y?a0?a1x?a2x列表如下I012345678xiyixi2xi3xi4xiyixi2yi?1345678910531054211234321916253649648110038112764125216343512729100030171812566251296240140966561100002531710151610671627401471045645036491282434001025得正规方程组52?9?52381???3813017381??a0??32??a???147?3017???1???25317????a2????1025??

解得

a0?13.4597,a1??3.6053a2?0.2676

故拟合多项式为

y?13.4597?3.6053?0.2676x2

*三最小二乘拟合多项式的存在唯一性

定理1设节点x0,x1,?,xn互异，则法方程组（4）的解存在唯一。

证由克莱姆法则，只需证明方程组（4）的系数矩阵非奇异即可。用反证法，设方程组（4）的系数矩阵奇异，则其所对应的齐次方程组

m??m?1?xi?i?0?mm2?xx???i?i?0ii?0????mm??xin?xin?1??i?0?i?0有非零解。式(7)可写为

??m?xy????i?ai?0??i?0?0?m?mn?1??a?xi?1???xiyi????i?0??i?0???????????a?m?mn2n??n???xiyi?xi?????i?0?（7）i?0?nim?(?xk?0i?0nmj?ki)ak?0,j?0,1,?,n（8）

n将式（8）中第j个方程乘以aj(j=0,1,…，n)，然后将新得到的n+1个方程左

?nmj?k?aj??(?xi)ak0??0??右两端分别相加，得j?0?k?0i?0由于

nmnnm?nmj?k?mnn2j?kjk??a(x)a?aax?(ax)(ax)?p(x)???ji??j???ik????kjikinij?0i?0j?0k?0i?0?k?0i?0?i?0j?0k?0其中

pn(x)??akxkk?0n

所以

pn(xi)?0(i=0,1,…,m)

pn(x)是次数不超过n的多项式，它有m+1＞n个相异零点，由代数基本定理，必

须有a0?a1??an?0，与齐次方程组有非零解的假设矛盾。因此正规方程组（4）

aa,?,an必有唯一解。定理2设0,1是正规方程组（4）的解，则是满足式（1）的最小二乘拟合多项式。

pn(x)??akxkk?0nn证只需证明，对任意一组数

mi?0b0,b1,?,bnm组成的多项式

2Qn(x)??bkxkk?0，恒有

??Qn(xi)?yi?即可。

2???pn(xi)?yi?i?0

??Qi?0mi?0mn(xi)?yi????pn(xi)?yi?2i?02mm2???Qn(xi)?pn(xi)??2??Qn(xi)?pn(xi)???pn(xi)?yi?i?0?0?2??i?0j?0mn?n?m??n?n??j????kk(bj?aj)xi???akxi?yi??2???bj?aj?????akxi?yi?xi??j?0?i?0??k?0?k?0??????

j?由于ak(k=0,1,…，n)是正规方程组（4）的解，所以满足式（2），因此有

2????Q(x)?y?p(x)?y?nii?nii?02i?0i?0mm

故pn(x)为最小二乘拟合多项式。

*四多项式拟合中战胜正规方程组的病态

在多项式拟合中，当拟合多项式的次数较高时，其正规方程组往往是病态的。而且

①正规方程组系数矩阵的阶数越高，病态越严重；

②拟合节点分布的区间?x0,xm?偏离原点越远，病态越严重；③xi(i=0,1,…，m)的数量级相差越大，病态越严重。为了战胜以上缺点，一般采用以下措施：

①尽量少作高次拟合多项式，而作不同的分段低次拟合；

②不使用原始节点作拟合，将节点分布区间作平移，使新的节点xi关于原点对称，可大大降低正规方程组的条件数，从而减低病态程度。平移公式为：

x?xmxi?xi?0,i?0,1,?,m2(9)③对平移后的节点xi