数值分析第三章数据拟合

数值分析第三章数据拟合第一页，共四十一页，2022年，8月28日2/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis第三章数据拟合方法

§3.1问题提出§3.2最小二乘法的基本概念§3.3线性拟合方法§3.4非线性曲线的数据拟合

第二页，共四十一页，2022年，8月28日3/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis§3.1问题提出离散数据点插值：插值函数精确通过每一个数据点。

第三页，共四十一页，2022年，8月28日4/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis两类实际情况:★离散数据点提出来自试验，具有测量误差，要求插值函数通过所有数据点反而会保留测量误差的影响。★

某些情况下需要找出反映变量变化关系的经验函数，而非精确通过关键点的外形控制函数。§3.1问题提出第四页，共四十一页，2022年，8月28日5/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis

第五页，共四十一页，2022年，8月28日6/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis已知一组数据(xi,yi),y=f(xi)，i=1,2,…,m。f未知。构造插值函数φ(x)来逼近f(x),则有

φ(xi)=f(xi)=yi,i=1,2,…,m或记Q=(φ(x1),φ(x2),…,φ(xm)),Y=(y1,y2,…,ym),则有

Q=Y.如果数据不能同时满足某个特定函数，而要求所求的逼近函数“最优地”靠近数据点，即向量Q与Y

的误差或距离最小。按Q与Y的误差最小原则作为最优标准所构造出的函数，我们称为拟合函数。§3.1问题提出第六页，共四十一页，2022年，8月28日7/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis定义Q与Y

之间的距离：其中，R称为均方误差。

最小二乘法：按均方误差达到极小构造拟合曲线的方法。§3.1问题提出第七页，共四十一页，2022年，8月28日8/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis§3.2最小二乘法的基本概念

构造拟合曲线的两个问题：Q:从哪一类函数族里面选择拟合曲线的形式？A:根据问题的实际背景，选择逼近f(x)的函数族。

第八页，共四十一页，2022年，8月28日9/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis数据拟合的线性模型

(x)=a11(x)

+······+an

n(x)例如:[1(x)

,···,

n(x)]=[1,x,···,xn-1][1(x)

,···,

n(x)]=[1,cosx,···,cos(n-1)x]§3.2最小二乘法的基本概念第九页，共四十一页，2022年，8月28日10/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis

Q：如何确定参数a1,a2,…,an以确定一条拟合曲线呢？A:按照在数据点处均方误差最小的原则。这种用求解误差函数最小值问题来确定拟合参数的方法称为数据拟合的最小二乘法§3.2最小二乘法的基本概念第十页，共四十一页，2022年，8月28日11/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis

§3.2最小二乘法的基本概念第十一页，共四十一页，2022年，8月28日12/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis

@最小二乘法归结为求n个未知数的线性代数方程组。§3.2最小二乘法的基本概念第十二页，共四十一页，2022年，8月28日13/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis

最小二乘法的正规方程组（其解为驻点）§3.2最小二乘法的基本概念第十三页，共四十一页，2022年，8月28日14/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis引进矩阵和向量记号

§3.2最小二乘法的基本概念第十四页，共四十一页，2022年，8月28日15/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis

§3.2最小二乘法的基本概念第十五页，共四十一页，2022年，8月28日16/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis★以上正规方程组是否存在唯一解?★正规方程组的解是最小二乘问题的驻点，此驻点是否就是最小二乘问题的解呢？§3.2最小二乘法的基本概念第十六页，共四十一页，2022年，8月28日17/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis

可以证明,此解是最小二乘问题的解.§3.2最小二乘法的基本概念第十七页，共四十一页，2022年，8月28日18/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis§3.2最小二乘法的基本概念第十八页，共四十一页，2022年，8月28日19/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis

§3.3线性数据拟合方法已知数据表

x

x1

x2··········xmf(x)y1

y2··········ym求拟合函数:(x)=a+bxa+bx1=y1a+bx2=y2··················a+bxm=ym超定方程组第十九页，共四十一页，2022年，8月28日20/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis2-范数平方残差:rk=(a+bxk)–yk(k=1,2,···,m)§3.3线性数据拟合方法第二十页，共四十一页，2022年，8月28日21/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis求a,b使S(a,b)=min§3.3线性数据拟合方法第二十一页，共四十一页，2022年，8月28日22/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis§3.3线性数据拟合方法第二十二页，共四十一页，2022年，8月28日23/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis方程组系数矩阵方程组右端项§3.3线性数据拟合方法第二十三页，共四十一页，2022年，8月28日24/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis超定方程组:

AX=正规方程组:

ATAX=AT

拟合曲线的法方程(正规方程组)。解之得a，b。代入(x)=a+bx,即得所求的拟合曲线。§3.3线性数据拟合方法第二十四页，共四十一页，2022年，8月28日25/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis

已知实验数据如下,求线性拟合函数。

解:设拟合曲线方程为

(x)=a+bx

x 1 2 3 45f(x)4 4.5 6 8 9§3.3线性数据拟合方法第二十五页，共四十一页，2022年，8月28日26/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis5a+15b=31.515a+55b=108a=2.25,b=1.35ATAX=AT§3.3线性数据拟合方法第二十六页，共四十一页，2022年，8月28日27/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis||r||2=0.7583残差向量:(1)－4=－0.40(2)－4.5=0.45(3)－6=0.30(4)－8=－0.35(5)－9=0(x)=2.25+1.35x§3.3线性数据拟合方法第二十七页，共四十一页，2022年，8月28日28/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis

求数据的二次拟合函数P(x)=a0+a1x+a2x2x12345f(x)

44.5689

解:将数据点代入,得§3.3线性数据拟合方法第二十八页，共四十一页，2022年，8月28日29/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysisa0+a1+a2=4a0+2a1+4a2=4.5··················a0+5a1+25a2=9§3.3线性数据拟合方法第二十九页，共四十一页，2022年，8月28日30/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysisa0=3,a1=0.7071,a2=0.1071§3.3线性数据拟合方法第三十页，共四十一页，2022年，8月28日31/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis得

P(x)=3+0.7071x+0.1071x2二次拟合误差:||r||2=0.6437比较线性拟合误差:

||r||2=0.7583§3.3线性数据拟合方法第三十一页，共四十一页，2022年，8月28日32/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis§3.3线性数据拟合方法x0=0:0.1:1;y0=(x0.^2-3*x0+5).*exp(-5*x0).*sin(x0);p3=polyfit(x0,y0,3);vpa(poly2sym(p3),10)x=0:0.01:1;ya=(x.^2-3*x+5).*exp(-5*x).*sin(x);y1=polyval(p3,x);subplot(2,1,1),plot(x,y1,x,ya,x0,y0,'o'),legend('三次拟合曲线','原函数曲线','样本点')p4=polyfit(x0,y0,4);y4=polyval(p4,x);p5=polyfit(x0,y0,5);y5=polyval(p5,x);p8=polyfit(x0,y0,8);y8=polyval(p8,x);subplot(2,1,2),plot(x,y4,'x',x,y5,'-',x,y8,':',x,ya,'-')legend('四次拟合曲线','五次拟合曲线','八次拟合曲线','原函数曲线')vpa(poly2sym(p8),5)第三十二页，共四十一页，2022年，8月28日33/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis§3.3线性数据拟合方法第三十三页，共四十一页，2022年，8月28日34/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis§3.4非线性曲线的数据拟合问题提出：离散点图呈非线性。第三十四页，共四十一页，2022年，8月28日35/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis如果非线性函数为

将给定数据(xi,yi)转换为(ui,vi),求出a,b,再代回原变量y,x，可求得原非线性拟合曲线。§3.4非线性曲线的数据拟合第三十五页，共四十一页，2022年，8月28日36/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis例3.4.1用给数据求经验公式：y=aebxx12345678y15.320.527.436.649.165.687.8117.6解线性化。对经验公式取自然对数

lny=lna+bx

令

u=lny，b0=lna，u=b0+bx

代入数据得矛盾方程组§3.4非线性曲线的数据拟合第三十六页，共四十一页，2022年，8月28日37/41郑州大学研究生2013-2014学年课程数值分析NumericalAnalysis由法方程ATAB=ATy，B=（b0,b),即∴a=e2.4369=11.4375.y=11.4375