第四讲-曲线拟合课件

1第四讲主要知识点1、曲线拟合的概念2、曲线拟和的方法3、解矛盾方程组1第四讲主要知识点1、曲线拟合的概念12函数插值问题回忆设已知某个函数关系在某些离散点上的函数值：插值问题：根据这些已知数据来构造函数的一种简单的近似表达式,以便于计算点的函数值，或计算函数的一阶、二阶导数值。2函数插值问题回忆设已知某个函数关系在某些离23曲线拟和的概念在前面所讨论的各种插值方法中，始假设数据点是精确的，准确的，不可修改的，所要求出的插值曲线必须通过每一个数据点。但在实际工作中由于各随机因素的干扰，所得到的数据往往不同程度存在着误差。因此，插值方法只能适用那些误差可以忽略不记的情况，当误差较大而不能忽略时，又如何通过这些观测数据确定其内在的变化规律呢？曲线拟合就是解决这一问题的主要方法之一。3曲线拟和的概念在前面所讨论的各种插值方法中34曲线拟合的概念如图所示，常常需要从一组获得的数据点中，寻找变量与变量之间的变化规律．用几何方法来解释，就是用已知平面内的一组点，来确定一条曲线，使该曲线能在整体上刻画这组点的变化趋势而不需通过每个点，我们称这种方法为曲线拟合，所求出的曲线称为拟合曲线。xy4曲线拟合的概念如图所示，常常需要从一组获得的数据点中，寻找45曲线拟合的方法将上述问题抽象为数学问题为：设有一组数据对，，求连续变量的一个函数，它在处误差为，使总体误差按某种算法达到最小．常用的三种准则是:5曲线拟合的方法将上述问题抽象为数学问题为：设有一组数据对56曲线拟合的方法（１）使得误差的最大的绝对值为最小，即（２）使误差的绝对值和最小，即（３）使误差的平方和为最小，即由于准测（１）、（２）含有绝对值不便于处理，通常采用准测（３），并称基于准则（３）来选取拟合曲线的方法，为曲线拟合的最小二乘法。太复杂不可导，求解困难6曲线拟合的方法（１）使得误差的最大的绝对值为最小，即太复67多项式拟合一般而言，所求得的拟合函数可以是不同的函数类，其中最简单的是多项式，此时称为多项式拟合，具体定义如下：7多项式拟合一般而言，所求得的拟合函数可以是不同的函数类，其78多项式拟合定义设有给定的数据，假设其拟合函数形式为，求系数，使得

取最小值．称次多项式为次最小二乘拟合多项式(或次最小平方逼近多项式)。特别地，当时，称为线性最小二乘拟合。8多项式拟合定义设有给定的数据89多项式拟合容易看出是系数的元二次多项式(二次型)，所以可以用多元函数求极值的方法求其最小值点和最小值。将对求偏导数得到驻点方程组：

，即

9多项式拟合容易看出910直线拟合问题对于给定的数据点，求作一次式，使总误差为最小，即在二元函数式中

为最小。

这里Q是关于未知数a和b的二元函数，这一问题就是要确定a和b取何值时，二元函数的值最小?10直线拟合问题对于给定的数据点，求作一次式，使总误差1011直线拟合由微积分的知识可知，这一问题的求解，可归结为求二元函数的极值问题，即和应满足：11直线拟合由微积分的知识可知，这一问题的求解，可归1112直线拟合12直线拟合1213拟合例题例1已知观测数据如下所示，求它的拟合曲线。解：根据所给数据，在直角坐标下画出数据点，从图中可以看出，各点在一条直线附近，故可取线性函数作为拟合曲线13拟合例题例1已知观测数据如下所示，求它的拟合曲线。1314拟合例题（续1）令将数据带入公式得，解得。因此而得所求拟合曲线为。14拟合例题（续1）令1415拟合例题例2有一滑轮组，要举起W公斤的重物需要用F公斤的力，实验所得的数据如下表。

求适合上述关系的近似公式。15拟合例题例2有一滑轮组，要举起W公斤的重物需要用

1516拟合例题解首先，将这些数据画在直角坐标系中，从图形上看，数据点的分布大致呈一条直线，所以设所求的拟合直线为，得关于a和b的线性方程组16拟合例题解首先，将这些数据画在直角坐标系中，从图形上1617其他类拟合问题最小二乘法并不只限于多项式，也可用于任何具体给出的函数形式。特别重要的是有些非线性最小二乘拟合问题通过适当的变换可以转化为线性最小二乘问题求解。17其他类拟合问题最小二乘法并不只限于多项式，也可用1718拟合例题例2已知数据表求一形如解：所求拟合函数是一个指数函数，对它两边取自然对数，得

的经验公式与已知数据拟合．18拟合例题例2已知数据表求一形如解：所求拟合函数是一个指1819拟合例题于是对应于上述数据表得到一个以应数据表：若记则从而将原问题转化为由新数据表所给出的线性拟合问题易知其求解方程组为：19拟合例题于是对应于上述数据表得到一个以应数据表：若记则从1920拟合例题解之得于是故所求经验公式为．20拟合例题解之得于是故所求经验公式为．2021拟合例题分析通过上述两例可知，用多项式作曲线拟合的计算步骤可分为如下几步：（１）根据已给的数据作草图，由草图估计出多项式的次数(m次)并令，其中（２）求解由最小二乘原理得到的方程组；（３）将所得的解作为拟合多项式的相关项的系数，则此多项式即为所求。为待定系数；21拟合例题分析通过上述两例可知，用多项式作曲线拟合的计算步2122矛盾方程组试求下列矛盾方程组的解：很显然，直接求解是不行的，因为满足方程组的精确解是不存在的！只能求出尽量满足方程组的近似解。22矛盾方程组试求下列矛盾方程组的解：很显然，直接求解是不行2223矛盾方程组运用最小二乘法，要求满足方程组的解，即求使下列值最小的解，就是方程组的近似解：23矛盾方程组运用最小二乘法，要求满足方程组的解，即求使下列2324矛盾方程组得解：24矛盾方程组得解：24Matlab实例xdata=[05101525];ydata=[0.0010.8812.16373.18274.961];degree=1;%Linearrelationshipcoef=polyfit(xdata,ydata,degree);xx=-5:0.5:30;%Rangeforplottingyy=polyval(coef,xx);plot(xdata,ydata,'o',xx,yy);25Matlab实例xdata=[0510152525加权最小二乘法26定义权函数：①

离散型/*discretetype*/根据一系列离散点拟合时，在每一误差前乘一正数wi

，即误差函数

，这个wi

就称作权/*weight*/，反映该点的重要程度。=-=niiiiyxPw12])([②

连续型/*continuoustype*/在[a,b]上用广义多项式P(x)拟合连续函数f(x)时，定义权函数(x)C[a,b]，即误差函数

=。权函数(x)必须满足：非负、可积，且在[a,b]的任何子区间上(x)0。theLSCOVfunctioncanperformweighted-least-squareregression加权最小二乘法26定义权函数：①离散型/*discret26各点的重要性可能是不一样的重度:即权重或者密度，统称为权系数

定义加权平方误差为各点的重要性可能是不一样的重度:即权重或者密度，统称为权系数2728使得28使得2829由多元函数取极值的必要条件得即29由多元函数取极值的必要条件得即2930引入记号定义加权内积30引入记号定义加权内积3031矩阵形式(法方程组)为方程组式化为31矩阵形式(法方程组)为方程组式化为3132平方误差为作为特殊情形,用多项式作拟合函数的法方程组为32平方误差为作为特殊情形,用多项式作拟合函数的法方程组为3233Subject:WhatWeighted-Least-SquaresFittingcapabilitiesareavailableinMATLAB6.1(R12.1)andtheToolboxes?ProblemDescription:Currently,thepresenceofdataoutlierscancreateanundesirablefit.Becausetheoutlierliesfarawayfromthetruepatternofdata,itinduceserrortothetruefit.Aworkaroundtothisproblemwouldbetominimizetheweight(s)ofsuchoutlier(s).Solution:InMATLAB,theLSCOVfunctioncanperformweighted-least-squareregression.x=lscov(A,b,w)wherewisavectorlengthmofrealpositiveweights,returnstheweightedleastsquaressolutiontothelinearsystemA*x=b,thatis,xminimizes(b-A*x)'*diag(w)*(b-A*x).wtypicallycontainseithercountsorinversevariances.Inaddition,therearethreetoolboxesyoucanusetoimplementweightsforyourfits:==================1.StatisticsToolbox:==================WeightedlinearregressionintheStatisticsToolboxispartoftheROBUSTFITfunction,B=ROBUSTFIT(X,Y,'WFUN',TUNE,'CONST')usestheweightingfunction'WFUN'andtuningconstantTUNE.'WFUN'canbeanyof'andrews''bisquare','cauchy','fair','huber','logistic','talwar','welsch'.Asanalternativetospecifyingoneofthenamedweightfunctionsshownabove,youcanalsowriteyourownweightfunction(wfun)thattakesavectorofscaledresidualsasinputandproducesavectorofweightsasoutput.FordocumentationonROBUSTFIT,youcantype"docrobustfit"(withoutquotes)attheMATLABcommandpromptorviewtheonlinedocumentationfoundattheURLbelow:/help/toolbox/stats/robustfit.htmlForMATLABversionspriorto7.1(R14SP3),wedonotsupportanon-linearweightedleast-squarefitintheStatisticsToolbox.InMATLAB7.1(R14SP3),thedemo"WeightedNonlinearRegression",addressesthisandisalsoavailableonthewebatthefollowinglink/products/statistics/demos.html?file=/products/demos/shipping/stats/wnlsdemo.html33Subject:3334====================2.CurveFittingToolbox====================WehaveamoregeneralweightedleastsquareregressioncapabilityintheCurveFittingToolboxthatsupportsanyfit,linearandnon-linear.TheweightispartoftheoptionstotheFit,andissuppliedusingthefunctionFITOPTIONS.GotothefollowingURLfordocumentationonFITOPTIONS:/help/toolbox/curvefit/fitoptions.htmlIntheCurveFittingToolbox,theweightcanactuallybeanyvectorofweightsassociatedwiththeresponsedata.FollowthislinkformoreinformationaboutthisToolbox:/products/curvefitting/====================3.OptimizationToolbox.====================LSQNONLINandLSQCURVEFITareleast-squaressolversintheOptimizationToolboxthatcanbeusedtofitequationstoyourdata.InordertouseLSQNONLINtodoaweightedleastsquarefit,youwillneedtohaveanequationintowhichyouwanttofityourdata.ForanexampleonweightedleastsquaresfittingusingLSQNONLIN,seetheRelatedSolutionlistedbelow.

343435第四讲主要知识点1、曲线拟合的概念2、曲线拟和的方法3、解矛盾方程组1第四讲主要知识点1、曲线拟合的概念3536函数插值问题回忆设已知某个函数关系在某些离散点上的函数值：插值问题：根据这些已知数据来构造函数的一种简单的近似表达式,以便于计算点的函数值，或计算函数的一阶、二阶导数值。2函数插值问题回忆设已知某个函数关系在某些离3637曲线拟和的概念在前面所讨论的各种插值方法中，始假设数据点是精确的，准确的，不可修改的，所要求出的插值曲线必须通过每一个数据点。但在实际工作中由于各随机因素的干扰，所得到的数据往往不同程度存在着误差。因此，插值方法只能适用那些误差可以忽略不记的情况，当误差较大而不能忽略时，又如何通过这些观测数据确定其内在的变化规律呢？曲线拟合就是解决这一问题的主要方法之一。3曲线拟和的概念在前面所讨论的各种插值方法中3738曲线拟合的概念如图所示，常常需要从一组获得的数据点中，寻找变量与变量之间的变化规律．用几何方法来解释，就是用已知平面内的一组点，来确定一条曲线，使该曲线能在整体上刻画这组点的变化趋势而不需通过每个点，我们称这种方法为曲线拟合，所求出的曲线称为拟合曲线。xy4曲线拟合的概念如图所示，常常需要从一组获得的数据点中，寻找3839曲线拟合的方法将上述问题抽象为数学问题为：设有一组数据对，，求连续变量的一个函数，它在处误差为，使总体误差按某种算法达到最小．常用的三种准则是:5曲线拟合的方法将上述问题抽象为数学问题为：设有一组数据对3940曲线拟合的方法（１）使得误差的最大的绝对值为最小，即（２）使误差的绝对值和最小，即（３）使误差的平方和为最小，即由于准测（１）、（２）含有绝对值不便于处理，通常采用准测（３），并称基于准则（３）来选取拟合曲线的方法，为曲线拟合的最小二乘法。太复杂不可导，求解困难6曲线拟合的方法（１）使得误差的最大的绝对值为最小，即太复4041多项式拟合一般而言，所求得的拟合函数可以是不同的函数类，其中最简单的是多项式，此时称为多项式拟合，具体定义如下：7多项式拟合一般而言，所求得的拟合函数可以是不同的函数类，其4142多项式拟合定义设有给定的数据，假设其拟合函数形式为，求系数，使得

取最小值．称次多项式为次最小二乘拟合多项式(或次最小平方逼近多项式)。特别地，当时，称为线性最小二乘拟合。8多项式拟合定义设有给定的数据4243多项式拟合容易看出是系数的元二次多项式(二次型)，所以可以用多元函数求极值的方法求其最小值点和最小值。将对求偏导数得到驻点方程组：

，即

9多项式拟合容易看出4344直线拟合问题对于给定的数据点，求作一次式，使总误差为最小，即在二元函数式中

为最小。

这里Q是关于未知数a和b的二元函数，这一问题就是要确定a和b取何值时，二元函数的值最小?10直线拟合问题对于给定的数据点，求作一次式，使总误差4445直线拟合由微积分的知识可知，这一问题的求解，可归结为求二元函数的极值问题，即和应满足：11直线拟合由微积分的知识可知，这一问题的求解，可归4546直线拟合12直线拟合4647拟合例题例1已知观测数据如下所示，求它的拟合曲线。解：根据所给数据，在直角坐标下画出数据点，从图中可以看出，各点在一条直线附近，故可取线性函数作为拟合曲线13拟合例题例1已知观测数据如下所示，求它的拟合曲线。4748拟合例题（续1）令将数据带入公式得，解得。因此而得所求拟合曲线为。14拟合例题（续1）令4849拟合例题例2有一滑轮组，要举起W公斤的重物需要用F公斤的力，实验所得的数据如下表。

求适合上述关系的近似公式。15拟合例题例2有一滑轮组，要举起W公斤的重物需要用

4950拟合例题解首先，将这些数据画在直角坐标系中，从图形上看，数据点的分布大致呈一条直线，所以设所求的拟合直线为，得关于a和b的线性方程组16拟合例题解首先，将这些数据画在直角坐标系中，从图形上5051其他类拟合问题最小二乘法并不只限于多项式，也可用于任何具体给出的函数形式。特别重要的是有些非线性最小二乘拟合问题通过适当的变换可以转化为线性最小二乘问题求解。17其他类拟合问题最小二乘法并不只限于多项式，也可用5152拟合例题例2已知数据表求一形如解：所求拟合函数是一个指数函数，对它两边取自然对数，得

的经验公式与已知数据拟合．18拟合例题例2已知数据表求一形如解：所求拟合函数是一个指5253拟合例题于是对应于上述数据表得到一个以应数据表：若记则从而将原问题转化为由新数据表所给出的线性拟合问题易知其求解方程组为：19拟合例题于是对应于上述数据表得到一个以应数据表：若记则从5354拟合例题解之得于是故所求经验公式为．20拟合例题解之得于是故所求经验公式为．5455拟合例题分析通过上述两例可知，用多项式作曲线拟合的计算步骤可分为如下几步：（１）根据已给的数据作草图，由草图估计出多项式的次数(m次)并令，其中（２）求解由最小二乘原理得到的方程组；（３）将所得的解作为拟合多项式的相关项的系数，则此多项式即为所求。为待定系数；21拟合例题分析通过上述两例可知，用多项式作曲线拟合的计算步5556矛盾方程组试求下列矛盾方程组的解：很显然，直接求解是不行的，因为满足方程组的精确解是不存在的！只能求出尽量满足方程组的近似解。22矛盾方程组试求下列矛盾方程组的解：很显然，直接求解是不行5657矛盾方程组运用最小二乘法，要求满足方程组的解，即求使下列值最小的解，就是方程组的近似解：23矛盾方程组运用最小二乘法，要求满足方程组的解，即求使下列5758矛盾方程组得解：24矛盾方程组得解：58Matlab实例xdata=[05101525];ydata=[0.0010.8812.16373.18274.961];degree=1;%Linearrelationshipcoef=polyfit(xdata,ydata,degree);xx=-5:0.5:30;%Rangeforplottingyy=polyval(coef,xx);plot(xdata,ydata,'o',xx,yy);59Matlab实例xdata=[0510152559加权最小二乘法60定义权函数：①

离散型/*discretetype*/根据一系列离散点拟合时，在每一误差前乘一正数wi

，即误差函数

，这个wi

就称作权/*weight*/，反映该点的重要程度。=-=niiiiyxPw12])([②

连续型/*continuoustype*/在[a,b]上用广义多项式P(x)拟合连续函数f(x)时，定义权函数(x)C[a,b]，即误差函数

=。权函数(x)必须满足：非负、可积，且在[a,b]的任何子区间上(x)0。theLSCOVfunctioncanperformweighted-least-squareregression加权最小二乘法26定义权函数：①离散型/*discret60各点的重要性可能是不一样的重度:即权重或者密度，统称为权系数

定义加权平方误差为各点的重要性可能是不一样的重度:即权重或者密度，统称为权系数6162使得28使得6263由多元函数取极值的必要条件得即29由多元函数取极值的必要条件得即6364引入记号定义加权内积30引入记号定义加权内积6465矩阵形式(法方程组)为方程组式化为31矩阵形式(法方程组)为方程组式化为6566平方误差为作为特殊情形,用多项式作拟合函数的法方程组为32平方误差为作为特殊情形,用多项式作拟合函数的法方程组为6667Subject:WhatWeighted-Least-SquaresFittingcapabilitiesareavailableinMATLAB6.1(R12.1)andtheToolboxes?ProblemDescription:Currently,thepresenceofdataoutlierscancreateanundesirablefit.Becausetheoutlierliesfarawayfromthetruepatternofdata,itinduceserrortothetruefit.Aworkaroundtothisproblemwouldbetominimizetheweight(s)ofsuchoutlier(s).Solution:InMATLAB,theLSCOVfunctioncanperformweighted-least-squareregression.x=lscov(A,b,w)wherewisavectorlengthmofrealpositiveweights,returnstheweightedleastsquaressolutiontothelinearsystemA*x=b,thatis,xminimizes(b-A*x)'*diag(w)*(b-A*x).wtypicallycontainseithercountsorinversevariances.Inaddition,therearethreetoolboxesyoucanusetoimplementweightsforyourfits:==================1.StatisticsToolbox:==================WeightedlinearregressionintheStatisticsToolboxispartoftheROBUSTFITfunction,B=ROBUSTFIT(X,Y,'WFUN',TUNE,'CONST')usestheweightingfunction'WFUN'andtuningconstantTUNE.'WFUN'canbeanyof'andrews''bisquare','cauchy','fair','huber','logistic','talwar','welsch'.Asanalternativetospecifyingoneofthenamedweightfunctionsshownabove,youcanalsowriteyourownweightfunction(wfun)thattakesavectorofscaledresidualsasinputandproducesavectorofweightsasoutput.FordocumentationonROBUSTFIT,youcantype"docrobustfit"(withoutquotes)attheMATLABcommandpromptorviewth