《曲线拟合》ppt课件

1、121 1、曲线拟合的概念、曲线拟合的概念2 2、曲线拟和的方法、曲线拟和的方法3 3、解矛盾方程组、解矛盾方程组3 设知某个函数关系设知某个函数关系 在某些离散点上的函数值：在某些离散点上的函数值： 插值问题：根据这些知数据来构造函数插值问题：根据这些知数据来构造函数 的一种简单的近似表达式的一种简单的近似表达式, ,以便于计算点以便于计算点 的函数值的函数值 ，或计算函数的一阶、，或计算函数的一阶、二阶导数值。二阶导数值。( )f xx0 x0yy1y1nyny1x1nxnx,0,1,ixx in( )yf x( )yf x4 在前面所讨论的各种插值方法中，始假设数据点是准确的，在前面所讨

2、论的各种插值方法中，始假设数据点是准确的，准确的，不可修正的，所要求出的插值曲线必需经过每一个准确的，不可修正的，所要求出的插值曲线必需经过每一个数据点。但在实践任务中由于各随机要素的干扰，所得到的数据点。但在实践任务中由于各随机要素的干扰，所得到的数据往往不同程度存在着误差。因此，插值方法只能适用那数据往往不同程度存在着误差。因此，插值方法只能适用那些误差可以忽略不记的情况，当误差较大而不能忽略时，又些误差可以忽略不记的情况，当误差较大而不能忽略时，又如何经过这些观测数据确定其内在的变化规律呢？曲线拟合如何经过这些观测数据确定其内在的变化规律呢？曲线拟合就是处理这一问题的主要方法之一。就是处

3、理这一问题的主要方法之一。 5如下图，经常需求从一组如下图，经常需求从一组获得的数据点中，寻觅变获得的数据点中，寻觅变量与变量之间的变化规律量与变量之间的变化规律用几何方法来解释，就用几何方法来解释，就是用知平面内的一组点，是用知平面内的一组点，来确定一条曲线，使该曲来确定一条曲线，使该曲线能在整体上描写这组点线能在整体上描写这组点的变化趋势而不需经过每的变化趋势而不需经过每个点，我们称这种方法为个点，我们称这种方法为曲线拟合，所求出的曲线曲线拟合，所求出的曲线称为拟合曲线。称为拟合曲线。 xy6 将上述问题笼统为数学问题为：设有一组数据将上述问题笼统为数学问题为：设有一组数据对对 ， ，求延

4、续变量的一个函数，求延续变量的一个函数，它在它在 处误差为处误差为 ，使总体误差按某种算法，使总体误差按某种算法到达最小常用的三种准那么是到达最小常用的三种准那么是:( ,)iix y(1,2,)imiS( ,)iix y7使得误差的最大的绝对值为最小，即使得误差的最大的绝对值为最小，即使误差的绝对值和最小，即使误差的绝对值和最小，即使误差的平方和为最小，即使误差的平方和为最小，即 由于准测、含有绝对值不便于处置，由于准测、含有绝对值不便于处置，通常采用准测，并称基于准那么来选通常采用准测，并称基于准那么来选取取拟合曲线的方法，为曲线拟合的最小二乘法。拟合曲线的方法，为曲线拟合的最小二乘法。m

5、in( max )iSSmin( )iiSS2min( )iiSS太复杂太复杂不可导，求解困难不可导，求解困难8 普通而言，所求得的拟合函数可以是不同的函数普通而言，所求得的拟合函数可以是不同的函数类，其中最简单的是多项式，此时称为多项式拟类，其中最简单的是多项式，此时称为多项式拟合，详细定义如下：合，详细定义如下： 9定义定义 设有给定的数据设有给定的数据 ，假设其拟，假设其拟合函数方式为合函数方式为 ， 求系数求系数 ，使得，使得 取最小值称取最小值称 次多项式次多项式为为 次最小二乘拟合多项式次最小二乘拟合多项式(或或 次最小平方逼近次最小平方逼近多项式多项式)。特别地，当特别地，当 时

6、，称时，称 为线性最小为线性最小二乘拟合。二乘拟合。 ( ,),(1,2, )iix yin01( )mmmpxaa xa x(1)mn*01,ma aa2201100(,)()nnmkmimiikiiikaaaypxya x*01( )mmmpxaa xa xmmm1m *01( )p xaa x10 容易看出容易看出 是系数是系数 的的 元二元二次多项式次多项式(二次型二次型)，所以可以用多元函数求极值，所以可以用多元函数求极值的方法求其最小值点和最小值。将的方法求其最小值点和最小值。将 对对 求偏导数得到驻点方程组：求偏导数得到驻点方程组： ， 即即 01(,)ma aa01,ma aa

7、1m,(0,1,)kakm0,(0,1,)kkma10()0,(0,1,)nmjkijiiijya xxkm11问题问题 对于给定的数据点对于给定的数据点( ,)1,2, ,iix y iN，求作一次式，求作一次式yabx，使总误差为最小，即在二元函数式中，使总误差为最小，即在二元函数式中 为最小。为最小。 这里这里Q Q是关于未知数是关于未知数a a和和b b的二元函数，这一问题就是要的二元函数，这一问题就是要确定确定a a和和b b取何值时，二元函数取何值时，二元函数21( , )()NiiiQ a byabx的值最小的值最小? ?12 由微积分的知识可知，这一问题的求解，由微积分的知识可

8、知，这一问题的求解，可归结为求二元函数可归结为求二元函数( , )Q a b的极值问题，即的极值问题，即a和和b应满足：应满足：1314 例例1 知观测数据如下所示，求它的拟合曲线。知观测数据如下所示，求它的拟合曲线。 解：根据所给数据，在直角坐标下画出数据点，解：根据所给数据，在直角坐标下画出数据点， 从图中可以看出，各点从图中可以看出，各点 在一条直线附近，故可在一条直线附近，故可 取线性函数作为拟合取线性函数作为拟合 曲线曲线 1234544.5688.5ixiy15 令令 将数据带入公式得，将数据带入公式得， 解得解得 。因此而得所求拟合曲线。因此而得所求拟合曲线为为 。101( )p

9、 xaa x5 .1055515311551010aaaa25. 1;45. 210aaxxp25. 145. 2)(116例例2 2 有一滑轮组，要举起有一滑轮组，要举起W W公斤的重物需求用公斤的重物需求用F F公斤的力，实验所得的数据如下表。公斤的力，实验所得的数据如下表。求适宜上述关系的近似公式。求适宜上述关系的近似公式。17解解 首先，将这些数据画在直角坐标系中，从图形上首先，将这些数据画在直角坐标系中，从图形上 看，数据点的分布大致呈一条直线，所以设所求看，数据点的分布大致呈一条直线，所以设所求 的拟合直线为的拟合直线为 ， yabx得关于得关于a和和b的线性方程组的线性方程组18

10、 最小二乘法并不只限于多项式，也可用于任最小二乘法并不只限于多项式，也可用于任何详细给出的函数方式。特别重要的是有些非线何详细给出的函数方式。特别重要的是有些非线性最小二乘拟合问题经过适当的变换可以转化为性最小二乘拟合问题经过适当的变换可以转化为线性最小二乘问题求解。线性最小二乘问题求解。19例例2 2 知数据表知数据表ixiy12347111727求一形如求一形如BxyAe解：所求拟合函数是一个指数函数，对它两边取自然对数，得解：所求拟合函数是一个指数函数，对它两边取自然对数，得lnlnyBxA的阅历公式与知数据拟合的阅历公式与知数据拟合20于是对应于上述数据表得到一个以应数据表：于是对应于

11、上述数据表得到一个以应数据表：12341.952.402.833.3001ln,ln,yp aA aB假设记假设记那那么么ixlniy01paa x从而将原问题转化为由新数据表所给出的线性拟合问题从而将原问题转化为由新数据表所给出的线性拟合问题易知其求解方程组为：易知其求解方程组为：21010141010.48,10328.44,aaaa解之得解之得011.50,0.448aa于是于是ln1.500.448yx故所求阅历公式为故所求阅历公式为1.50 0.4480.4484.48xxyee22经过上述两例可知，用多项式作曲线拟合的计算步骤可分为经过上述两例可知，用多项式作曲线拟合的计算步骤可分

12、为如下几步：如下几步：根据已给的数据根据已给的数据( ,),(1,2, )iix yin作草图，由草图估计出多项式的次数作草图，由草图估计出多项式的次数(m次次)并令并令01( )mmp xaa xa x，其中，其中01,ma aa求解由最小二乘原理得到的方程组；求解由最小二乘原理得到的方程组；将所得的解作为拟合多项式的相关项的系数，那将所得的解作为拟合多项式的相关项的系数，那么此多项式即为所求。么此多项式即为所求。 为待定系数；为待定系数；23试求以下矛盾方程组的解：试求以下矛盾方程组的解：很显然，直接求解是不行的，由于满足方程组的很显然，直接求解是不行的，由于满足方程组的准确解是不存在的！

13、只能求出尽量满足方程组的准确解是不存在的！只能求出尽量满足方程组的近似解。近似解。24运用最小二乘法，要求满足方程组的解，运用最小二乘法，要求满足方程组的解，即求使以下值即求使以下值 最小的解最小的解 ，就是方程组的，就是方程组的近似解：近似解：222(15.5)(6.1)(20.9)uxyxyu, x y252(15.5)2(20.9)02(6.1)2(20.9)0uxxyxuyxyy15.266675.86667xy得解：得解：xdata = 0 5 10 15 25;ydata = 0.001 0.881 2.1637 3.1827 4.961;degree = 1; % Linear

14、relationshipcoef = polyfit(xdata, ydata, degree);xx = -5 : 0.5 : 30; % Range for plotting yy = polyval(coef, xx); plot(xdata, ydata, o, xx, yy);2627定义定义权函数：权函数： 离散型离散型 /*discrete type */根据一系列离散点根据一系列离散点 拟合时，在每一误拟合时，在每一误差前乘一正数差前乘一正数wi ，即，即 误差函数误差函数 ，这个，这个wi 就称作权就称作权/* weight*/，反映该点的重要程度。，反映该点的重要程度。),

15、., 1(),(niyxii niiiiyxPw12)( 延续型延续型 /*continuous type */在在a, b上用广义多项式上用广义多项式 P(x) 拟合延续函数拟合延续函数 f(x) 时，定义权函时，定义权函数数 (x) Ca, b，即误差函数，即误差函数 = 。权函数权函数(x)必需满足：非负、可积，且在必需满足：非负、可积，且在a, b的任何子区间的任何子区间上上(x) 0。dxxyxPxba2)()( )( the LSCOV function can perform weighted-least-square regression), 1 , 0)(,(miyxii对于

16、一组给定的数据点中在拟合的数据点), 1 , 0)(,(miyxii各点的重要性能够是不一样的各点的重要性能够是不一样的的重度表示数据点假设),(iiiyx重度重度: 即权重或者密度，统称为权系数即权重或者密度，统称为权系数mk, 1 , 0 定义加权定义加权平方误差为平方误差为miii0222miiiiyxy02)(29来自函数类设拟合函数)(xS), 1 , 0)(nixi的基函数为函数类)(,),(),(10 xxxspannmiiiiyxS02)(*()(xS)()()(1100 xaxaxann为拟合系数), 1 ,0(njaj), 1 ,0(*njaj组拟合的目标仍然为找一22*m

17、iiiixSyxS02)()(min22)(minxS使得使得30),(10naaa求miinjijjiyxa020)(的问题点极小值的最小值*,*,*,)(10naaa由多元函数取极值的必要条件由多元函数取极值的必要条件0),(10knaaaank, 1 , 0)()(200ikmiinjijjixyxaka0得得即即 miikiimiiknjijjixyxxa000)()()(0)()()(00ikmiiinjikijjixyxxa31 miikiimiiknjijiixyxxa000)()()( miikiinjjikmiijixyaxx000)()()(nk, 1 , 0元线性方程组的

18、是一个关于显然1,)10(10naaan引入记号引入记号)(,),(),(10mrrrxxxr),(10myyyf定义加权内积定义加权内积32)()(),(0ijmiikijkxximiikikyxf0)(),(),(),(),(),(1100faaaknknkknk, 1 , 0矩阵方式矩阵方式(法方程组法方程组)为为naaa10),(),(),(10fffn),(),(),(01000n),(),(),(11101n),(),(),(10nnnn方程组式化为方程组式化为33平方误差为平方误差为miiiiyxS02)(*(22*作为特殊情形作为特殊情形, ,用多项式作拟合函数的法方程组为用多

19、项式作拟合函数的法方程组为miiniimiiiimiiinimiinimiinimiinimiiimiiimiinimiiimiimiiyxyxyaaaxxxxxxxx00010201001020000034Subject:What Weighted-Least-Squares Fitting capabilities are available in MATLAB 6.1 (R12.1) and the Toolboxes?Problem Description:Currently, the presence of data outliers can create an undesirabl

20、e fit. Because the outlier lies far away from the true pattern of data, it induces error to the true fit. A workaround to this problem would be to minimize the weight(s) of such outlier(s). Solution:In MATLAB, the LSCOV function can perform weighted-least-square regression. x = lscov(A,b,w)where w i

21、s a vector length m of real positive weights, returns the weighted least squares solution to the linear system A*x = b, that is, x minimizes (b - A*x)*diag(w)*(b - A*x). w typically contains either counts or inverse variances. In addition, there are three toolboxes you can use to implement weights f

22、or your fits:=1. Statistics Toolbox:=Weighted linear regression in the Statistics Toolbox is part of the ROBUSTFIT function,B = ROBUSTFIT(X,Y,WFUN,TUNE,CONST) uses the weighting function WFUN and tuning constant TUNE. WFUN can be any of andrews bisquare, cauchy, fair, huber,logistic, talwar, welsch.

23、As an alternative to specifying one of the named weight functions shown above, you can also write your own weight function (wfun) that takes a vector of scaled residuals as input and produces a vector of weights as output. For documentation on ROBUSTFIT, you can type doc robustfit (without quotes) a

24、t the MATLAB command prompt or view the online documentation found at the URL below:mathworks/help/toolbox/stats/robustfit.htmlFor MATLAB versions prior to 7.1 (R14SP3), we do not support a non-linear weighted least-square fit in the Statistics Toolbox.In MATLAB 7.1 (R14SP3), the demo Weighted Nonli

25、near Regression, addresses this and is also available on the web at the following linkmathworks/products/statistics/demos.html?file=/products/demos/shipping/stats/wnlsdemo.html35=2. Curve Fitting Toolbox=We have a more general weighted least square regression capability in the Curve Fitting Toolbox