数据拟合与函数逼近

第十三章数据拟合与函数逼近数据拟合与函数逼近涉及到许多内容与方法，从不同角度出发，也有多种叫法。这一章，我们主要通地线性拟合而引出最小乘法这一根本方法。13.1数据拟合概念与直线拟合插值法是一种用简单函数近似代替较复杂函数的方法，它的近似标准是在插值点处的误差为零。但有时，我们不要求具体某些点的误差为零，而是要求考虑整体的误差限制。对了到达这一目的，就需要引入拟合的方法，所以数据拟合与插值相比：数据拟合--不要求近似函数过所有的数据点，而要求它反映原函数整体的变化趋势。插值法--在节点处取函数值。实际给出的数据，总有观测误差的，而所求的插值函数要通过所有的节点，这样就会保存全部观测误差的影响，如果不是要求近似函数过所有的数据点，而是要求它反映原函数整的变化趋势，那么就可以用数据拟合的方法得到更简单活用的近似函数。13.1.1直线拟合由给定的一组测定的离散数据〔〕，求自变量和因变量的近似表达式的方法。影响因变量只有一个自变量的数据拟合方法就是直线拟合。直线拟合最常用的近似标准是最小二乘原理，它也是流行的数据处理方法之一。直线拟合步骤如下：(1)做出给定数据的散点图〔近似一条直线〕。(2)设拟合函数为：(13.1.1)然后，这里得到的和可能不相同，记它们的差为：(13.1.2)称之为误差。在原始数据给定以后，误差只依赖于的选取，因此，可以把误差的大小作为衡量的选取是否优良的主要标志。最小二乘法便是确定“最正确”参数的方法，也就是要误差的平方和到达最小。(3)写出误差和表达式：(13.1.3)要选择而使得函数最小，可以用数学分析中求极值的方法，即先分别对求偏导，再使偏导等于零。就可得到所谓的正规方程组。(4)正规方程组：(13.1.4)(13.1.5)(5)求解正规方程组，得。(6)确定的具体表达式。13.2最小二乘原理应用

上面我们简单地提到最小二乘法的原理就是使误差的平方各到达最小。下面由线性无关的定义来给出最小二乘法的一般表达。假设在区间上，对于个函数(13.2.1)成立的充要条件是，那么称这个函数在上线性无关。否那么，假设存在不全为零的使该式成立，那么称在线性相关。设是定义在上的个线性无关的连续函数，函数是在上的个节点上给定的离散函数。最小二乘法实质是用的线性组合：(13.2.2)逼近，使和在各节点上的差的加权平方和(13.2.3)在由的一切线性组合所组成的函数类中最小。其中权数的不同，是由于所测得的数据不一定等精度造成的。下面的讨论设〔〕。13.2.1多变量拟合影响变量的因素是多个，设为，由给定的离散数据确定近似函数：(13.2.4)在中，记〔〕，那么该式化为多变量拟合(13.2.5)可见，多变量拟合是可以互相转化的。最小二乘原理原理就要确定近似函数(13.2.4)中的系数，使得其误差平方和到达最小。误差平方和为：(13.2.6)与直线拟合类似，上式两边分别对各系数求偏导，然后令其为零，便得到正规方程组：(13.2.7)因，且线性无关，故方程组总有惟一解。通过求解方程组(13.2.7)可以得到系数，然后将得的系数代入(13.2.4),即，，便得到了多变量线性拟后函数。13.2.2非线性曲线拟合除了线性曲线外，我们也常常会遇非线性曲线，对于某些非线性问题，可以转化为线性问题，然后便可利用前面的方法来求解。下面讨论常出现的两类非线性方程。对于如下形式的指数方程：(13.2.8)上式两边取对数，得：(13.2.9)令：，，那么上式实际上有线性形式：(13.2.10)其误差平方和为：(13.2.11)求得正规方程组为：(13.2.12)由上述方程给，便可解出，，再由求出拟合函数：。(2)对于如下形式的双曲线：(13.2.13)令：，，得：(13.2.14)上式的误差平方和：(13.2.15)求得正规方程组为：(13.2.16)解上述方程给，可解出，，得拟合函数。13.2.3超定方程组的最小二乘解对于给定方程组：(13.2.17)其中：，，假设，其中为方程的个数，为未知数的个数，那么方程组不一定有解，这时称方程组为超定方程组。要寻求方程组(13.2.17)的解，即要寻求，使得：(13.2.18)最小。如果方程组(13.2.17)有解，那么此解也是方程组的最小二乘解。转化形式：(13.2.19)求解方程组(13.2.17)。13.2.4用正交函数作最小二乘拟合在前面的讨论中，多项式拟合总是化为多变量拟合来计算。现在介绍一种特殊的运用正交多项式的拟合数据的方法。如果多项式族满足下面条件：(13.2.20)那么称其为对某组值和与之对应的权数值的正交多项式族。设拟合函数为：(13.2.21)如果为正交多项式族，那么正规方程组：,〔〕(13.2.22)有解：，〔〕(13.2.23)由此，就可写出拟合函数的表达式。如果一个多项式族满足：，〔〕(13.2.24)那么称为在区间上关于权函数的正交多项式系。假设还满足：，〔〕(13.2.25)那么称为在区间上关于权函数的规格化正交多项式系。区间上关于非负权函数的正交多项式系总存在。假设给定区间是，对权函数的一种正交多项式为：，〔〕(13.2.26)假设给定点区间是，且给定数据中的节点〔〕等距，其中，，步长为1，令权函数，那么有正交多项式：，()(13.2.27)其中表示的次数，表示给定的节点个数。13.3数据拟合的MATLAB程序13.3.1线性拟合程序功能：个数据点，〔〕，构造最小二乘拟合曲线。*********************************************************************function[a,b]=lsline(x,y)%x是由数据点的横坐标组成的向量，y是纵坐标组成的向量。%a是拟合曲线y=ax+b中x的系数，b是截距。xmean=mean(x);ymean=mean(y);sumx2=(x-xmean)*(x-xmean)';sumxy=(y-ymean)*(x-xmean)';a=sumxy/sumx2;b=ymean-a*xmean***************************************************************例13.3.1给定如下表数据点，用上述程度构造拟合曲线。编号xiyi1-11020931742553464375086-1解：建立一个主程序prog1331.mclcclearlsline([-1,0,1,2,3,4,5,6],[10,9,7,5,4,3,0,-1])然后在MATLAB命令窗口运行上述主程序，即：>>prog1331计算结果如下。b=8.6429ans=-1.6071即所求得拟后曲线为：13.3.2多项式拟合程序功能：个数据点，〔〕，用最小二乘法构造多项式拟合曲线。*********************************************************************functionc=lspoly(x,y,m)%x是数据点的横坐标组成的向量，y是纵坐标组成的向量。%m是要构造的多项式的次数，c是多项式由高次到低次的系数所组成的向量。n=length(x);b=zeros(1:m+1);f=zeros(n,m+1);fork=1:m+1f(:,k)=x'.^(k-1);enda=f'*f;b=f'*y';c=a\b;c=flipud(c);*****************************************************************例13.3.2根据下表数据，利用上述程序求解拟合曲线编号xiyi1-2-5.82-11.1303.8413.352-1.5解：建立一个主程序prog1332.mclcclearlspoly([-2,-1,0,1,2],[-5.8,1.1,3.8,3.3,-1.5],2)然后在MATLAB命令窗口运行上述主程序，即：>>prog1332计算结果如下。ans=-1.90001.08003.9800即求得拟后曲线为：13.4函数逼近13.4.1函数逼近的概念在数值计算中，经常需要用一个构造简单、计算量小的函数来近似给定的函数,这样，就可以迅速求出函数值的近似值。也即对函数类中给定的函数，要求另一类较简单的便于计算的函数类〔〕中的函数,使得与之差在某种度量意义下最小。函数类通常是区间上的连续函数，记作；函数类通常是代数多项式，三角多项式以及有理函数等。有两种最常用的度量与之差最小的标准。(1)最大误差：(13.4.1)这种度量意义下的函数逼近称为一致逼近或均匀逼近。(2)均方误差：(13.4.2)这种度量的函数逼近称为平方逼近或均方逼近。我们这里，只研究对于给定函数，在次数不高于的代数多项式中，寻求使最大误差最小的代数多项式〔即最正确一致逼近多项式〕和使均方误差最小的代数多项式〔即所谓最正确平方多项式〕。13.4.2最正确一致逼近多项式定义：对于给定的，假设次多项式满足关系式：，(13.4.3)那么称是在区间上的次最正确一致逼近多项式。其中，为任一次数不高于的多项式。为了寻求连续函数的最正确一致逼近多项式，先介绍偏差点的概念。定义：设，，假设在上有，那么称是的偏差点。假设，称为正偏差点。假设：，那么称为负偏差点。称：为在上的最小偏差。也就是就的偏差点总是存在。定理：假设是的最正确一致逼近多项式，那么同时存在正负偏差点。定理：是的次最正确一致逼近多项式的充分必要条件是，在区间上至少有个轮流为正、负的偏差点，即有个点，使：，〔〕(13.4.4)成立。其中，是的最大误差。式(13.4.4