数值分析 第三章 数据拟合.ppt

1、数值分析Numerical Analysis,第三章 数据拟合方法,郑州大学研究生课程 （2013-2014学年第一学期）,2/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,第三章 数据拟合方法,3.1 问题提出 3.2 最小二乘法的基本概念 3.3 线性拟合方法 3.4 非线性曲线的数据拟合,3/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,3.1 问题提出,离散数据点插值：插值函数 精确通过每一个数据点。,4/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical An

2、alysis,两类实际情况: 离散数据点提出来自试验，具有测量误差，要求插 值函数通过所有数据点反而会保留测量误差的影响。 某些情况下需要找出反映变量变化关系的经验函 数，而非精确通过关键点的外形控制函数。,3.1 问题提出,5/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,例3.1.1,6/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,已知一组数据(xi, yi), y = f(xi)，i = 1,2, m。f未知。 构造插值函数(x) 来逼近 f(x), 则有 (xi) = f(xi) =

3、yi, i = 1,2, m 或记 Q =(x1) , (x2) ,(xm) ), Y = (y1, y2,ym), 则有 Q = Y. 如果数据不能同时满足某个特定函数，而要求所求的逼近函数“最优 地”靠近数据点，即向量Q与Y 的误差或距离最小。按 Q与Y的误差最 小原则作为最优标准所构造出的函数，我们称为拟合函数。,3.1 问题提出,7/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,定义Q与Y 之间的距离： 其中，R 称为均方误差。 最小二乘法：按均方误差达到极小构造拟合曲线的方法。,3.1 问题提出,8/41,郑州大学研究生2013-20

4、14学年课程 数值分析 Numerical Analysis,3.2 最小二乘法的基本概念,构造拟合曲线的两个问题： Q: 从哪一类函数族里面选择拟合曲线的形式？ A: 根据问题的实际背景，选择逼近 f ( x )的函数族。,9/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,数据拟合的线性模型 (x)=a1 1(x) + +an n(x) 例如: 1(x) , , n(x)=1, x, , xn-1 1(x) , , n(x)=1, cos x, , cos (n-1)x,3.2 最小二乘法的基本概念,10/41,郑州大学研究生2013-201

5、4学年课程 数值分析 Numerical Analysis,Q：如何确定参数a1,a2,an以确定一条拟合曲线呢？ A: 按照在数据点处均方误差最小的原则。,这种用求解误差函数最小值问题来确定拟合参数的方法称为 数据拟合的最小二乘法,3.2 最小二乘法的基本概念,11/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,3.2 最小二乘法的基本概念,12/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,最小二乘法归结为 求n个未知数的线性代数方程组。,3.2 最小二乘法的基本概念,13/41,郑州大学研

6、究生2013-2014学年课程 数值分析 Numerical Analysis,最小二乘法的正规方程组 （其解为驻点）,3.2 最小二乘法的基本概念,14/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,引进矩阵和向量记号,3.2 最小二乘法的基本概念,15/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,3.2 最小二乘法的基本概念,16/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis, 以上正规方程组是否存在唯一解? 正规方程组的解是最小二乘问题的

7、驻点，此驻点是否就是最小二乘问题的解呢？,3.2 最小二乘法的基本概念,17/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,可以证明,此解是 最小二乘问题的解.,3.2 最小二乘法的基本概念,18/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,定理3.2.2,3.2 最小二乘法的基本概念,19/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,3.3 线性数据拟合方法,已知数据表,求拟合函数: (x) = a + b x,超定方程组,20/41,郑州

8、大学研究生2013-2014学年课程 数值分析 Numerical Analysis,2-范数平方,残差: rk= (a + bxk) yk ( k = 1,2,m),3.3 线性数据拟合方法,21/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,3.3 线性数据拟合方法,22/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,3.3 线性数据拟合方法,23/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,方程组 系数矩阵,方程组 右端项,3.3 线性数

9、据拟合方法,24/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,超定方程组: AX= 正规方程组: ATAX=AT,拟合曲线的法方程(正规方程组)。 解之得 a，b。 代入 (x) = a +b x, 即得所求的拟合曲线。,3.3 线性数据拟合方法,25/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,例3.3.1 已知实验数据如下,求线性拟合函数。,解: 设拟合曲线方程为 (x)= a + b x,3.3 线性数据拟合方法,26/41,郑州大学研究生2013-2014学年课程 数值分析 Nume

10、rical Analysis,5a + 15b = 31.5 15a +55b =108,a =2.25, b= 1.35, ATAX=AT,3.3 线性数据拟合方法,27/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,|r |2 = 0.7583,残差向量: (1)4= 0.40 (2)4.5= 0.45 (3)6= 0.30 (4)8=0.35 (5)9= 0, (x)= 2.25+1.35 x,3.3 线性数据拟合方法,28/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,例3.3.2 求数

11、据的二次拟合函数 P(x)=a0+a1x+a2x2,解:将数据点代入, 得,3.3 线性数据拟合方法,29/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,3.3 线性数据拟合方法,30/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,a0=3, a1=0.7071, a2=0.1071,3.3 线性数据拟合方法,31/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,得 P(x)=3+0.7071x + 0.1071x2,二次拟合误差: | r |2

12、= 0.6437,比较线性拟合误差: |r |2 = 0.7583,3.3 线性数据拟合方法,32/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,3.3 线性数据拟合方法,x0=0:0.1:1;y0=(x0.2-3*x0+5).*exp(-5*x0).*sin(x0); p3=polyfit(x0,y0,3); vpa(poly2sym(p3),10) x=0:0.01:1;ya=(x.2-3*x+5).*exp(-5*x).*sin(x); y1=polyval(p3,x); subplot(2,1,1),plot(x,y1,x,ya,x0,

13、y0,o),legend(三次拟合曲线,原函数曲线,样本点) p4=polyfit(x0,y0,4); y4=polyval(p4,x); p5=polyfit(x0,y0,5); y5=polyval(p5,x); p8=polyfit(x0,y0,8); y8=polyval(p8,x); subplot(2,1,2),plot(x,y4,x,x,y5,-,x,y8,:,x,ya,-) legend(四次拟合曲线,五次拟合曲线,八次拟合曲线,原函数曲线) vpa(poly2sym(p8),5),33/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analys

14、is,3.3 线性数据拟合方法,34/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,3.4 非线性曲线的数据拟合,问题提出：离散点图呈非线性。,35/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,如果非线性函数为将给定数据(xi, yi)转换为(ui, vi),求出a, b,再代回原变量y, x，可求得原非线性拟合曲线。,3.4 非线性曲线的数据拟合,36/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,例3.4.1 用给数据求经验公式：y = a

15、 ebx x 1 2 3 4 5 6 7 8 y 15.3 20.5 27.4 36.6 49.1 65.6 87.8 117.6 解 线性化。对经验公式取自然对数 ln y = ln a + bx 令 u = ln y ，b0 = ln a ， u=b0+bx 代入数据得矛盾方程组,3.4 非线性曲线的数据拟合,37/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,由法方程 ATAB=ATy，B =（b0, b), 即 a = e2.4369 =11.4375. y =11.4375e0.2912x.,38/41,郑州大学研究生2013-201

16、4学年课程 数值分析 Numerical Analysis,拟合曲线的均方误差为：,拟合曲线的图形为,3.4 非线性曲线的数据拟合,39/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,3.4 非线性曲线的数据拟合,例3.4.2,40/41,郑州大学研究生2013-2014学年课程 数值分析 Numerical Analysis,f=inline(a(1)*exp(-a(2)*x)+a(3)*exp(-a(4)*x).*sin(a(5)*x),a,x) x=0:0.1:10; y=0.12*exp(-0.213*x)+0.54*exp(-0.17*x).*sin(1.23*x); xx,res=lsq