函数逼近与曲线拟合省公开课一等奖全国示范课微课金奖课件

第3章函数迫近与曲线拟合函数迫近基本概念正交多项式—LagrangeandChebyshev最正确一致迫近多项式最正确平方迫近多项式曲线拟和最小二乘法本章基本内容第1页本章继续讨论用简单函数近似代替较复杂函数问题.上章提到插值就是近似代替方法之一,插值近似标准是在插值点处误差为零.但在实际应用中,有时不要求详细一些点误差为零,而要求考虑整体误差限制,这就引出了拟合和迫近概念.拟合与迫近第2页对函数类A中给定函数f(x),记作f(x)∈A,要求在另一类简单便于计算函数类B中求函数p(x)∈B,使p(x)与f(x)误差在某种意义下最小.函数类A通常是区间[a,b]上连续函数,记作C[a,b],称为函数迫近空间;而函数B通常为n次多项式,有理函数或分段低次多项式等.什么是函数迫近第3页数学上常把在各种集合中引入某一些不一样确实定关系称为集合以某种空间结构赋予，并将这样集合称为空间。例1、按向量加法和数乘组成实数域上线性空间---例2、对次数不超出n实系数多项式，按加法和数乘组成数域上多项式线性空间----

第4页例3、全部定义在[a,b]集合上连续函数全体，按函数加法和数乘组成连续函数空间----第5页1)线性相关与线性无关

设集合S是数域P上线性空间,元素x1,x2,…,xn∈S,假如存在不全为零数a1,a2,…,an∈P,使得3.1函数迫近基本概念则称x1,x2,…,xn线性相关.不然，假如等式只对a1=a2=…=an=0成立，则称x1,x2,…,xn线性无关。第6页魏尔斯特拉斯定理

设f(x)∈C[a,b],则对任何ε＞0,总存在一个代数多项式p(x),使在[a,b]上一致成立。伯恩斯坦结构性证实：第7页第8页2)范数定义 设S为线性空间,x∈S,若存在唯一实数 ‖

·‖满足条件： (1)‖x‖≥0;当且仅当x＝0时,‖x‖＝0; (正定性) (2)‖αx‖＝|α|‖x‖,α∈R; (齐次性) (3)‖x＋y‖≤‖x‖＋‖y‖,x,y∈S. (三角不等式) 则称‖

·‖为线性空间S上范数,S与‖

·‖一起称为赋范线性空间,记为X.第9页在Rn上向量x＝(x1,x2,…,xn)T∈Rn,三种惯用范数为称为： 3)几个惯用范数第10页类似对连续函数空间C[a,b],若f∈C[a,b]可定义以下三种惯用函数范数第11页

记区间[a,b]上全部连续函数全体为C[a,b],能够证实C[a,b]是一个线性空间,把全部次数不超过n多项式全体记为Pn,则Pn是C[a,b]子空间.若(x),g(x)C[a,b],

则称

为(x)与g(x)内积,记为(,g),函数内积满足(1)(,g)=(g,);第12页若(,g)=0,称(x)与g(x)正交,记为g.(2)(c,g)=c(,g);(3)(1+2,g)=(1,g)+(2,g);利用内积能够定义函数平方模第13页(1)

20,而且2=0(x)=0;(2)c2=|c|2;(3)+g2

2+g2(4)(,g)2g2函数平方模满足第14页设X为一个内积空间,对称为柯西－施瓦次不等式.柯西－施瓦次不等式u,v∈X有第15页第16页定理：设X为一个内积空间,u1,u2,…,un∈X,矩阵称为格拉姆矩阵,则G非奇异充分必要条件是u1,u2,…,un线性无关

。第17页第18页考虑到(x)在区间[a,b]上各点函数值比重不一样,常引进加权形式定义这里函数(x)是非负连续函数,称为[a,b]上权函数.它物理意义能够解释为密度函数.权函数第19页最正确迫近第20页第21页3.2正交多项式1)正交定义 若f(x),g(x)∈C[a,b],ρ(x)为[a,b]上权函数且满足则称f(x)与g(x)在[a,b]上带权正交.若函数族满足关系第22页则称是[a,b]上带权ρ(x)正交函数族；若则称之为标准正交函数族。设 是[a,b]上首相系数an≠0n次多项式,ρ(x)为[a,b]上权函数,假如多项式序列 满足关系式(2),则称多项式序为在[a,b]上带权ρ(x)正交,称 为[a,b]上带权n次正交多项式.第23页比如、三角函数系：1，cosx，sinx，cos2x，sin2x，…是区间［-π，π］上正交函数系，因为实际上，这就是付里叶(Fourier)迫近基函数.第24页2)怎样结构正交多项式

只要给定区间[a,b]及权函数,均可由一组线性无关幂函数{1,x,…,xn,…},利用逐一正交化手法结构出正交多项式序列

如此得到正交多项式有以下性质：(1) 是含有最高次项系数为1n次多项式第25页(2)任何n次多项式Pn(x)∈Hn均可表示为 线性组合.即(3)当k≠j时, 与任一次数小于k多项式正交.(4)成立递推关系第26页(5)设 是在[a,b]上带权ρ(x)正交多项式序列,则(n≥1)n个根都是在区间(a,b)内单重实根.第27页第28页第29页第30页例题：利用Gram-schmidt方法结构[0,1]上带权

前3个正交多项式

解：利用正交化公式来求

第31页于是于是第32页3）几个惯用正交多项式勒让德多项式

当区间[-1,1],权函数ρ(x)≡1时,由{1,x,…,xn,…}正交化得到多项式就称为勒让德多项式,并用P0(x),P1(x),…,Pn(x),…表示.其简单表示式为

最高项系数为1勒让德多项式为

第33页勒让德多项式性质

(1)正交性第34页第35页(2)奇偶性 (3)递推关系第36页且有以下惯用公式(4)在区间[-1,1]内有n个不一样实零点。第37页时,由序列{1,x,…,xn,…}正交化得到多项式就是切比雪夫多项式,它可表示为

Tn(x)=cos(narccosx), |x|≤1若令x＝cosθ，则Tn(x)=cosnθ，0≤θ≤π.切比雪夫多项式区间为[-1,1]当权函数第38页(1)递推关系切比雪夫多项式性质第39页(2)切比雪夫多项式{Tk(x)}在区间[-1,1]上带权 正交且(3)T2k(x)只含x偶次幂,T2k+1(x)只含x奇次幂.

(4)Tn(x)在区间[-1,1]上有n个零点第40页若将xn用T0(x),T1(x),…,Tn(x)线性组合表示,则其公式为第41页第42页3.3最正确一致迫近多项式最正确一致迫近多项式是讨论f∈C[a,b],在Hn=span{1,x,…xn}中求多项式,使其误差

这就是通常所指最正确一致迫近或切比雪夫迫近问题.第43页为f(x)与Pn(x)在[a,b]上偏差.显然,全体组成一个集合,记为{},它有下界0.偏差为了说明这一概念,先给出以下定义.设Pn(x)∈Hn,f(x)∈C[a,b],称第44页

若记集合下确界为

则称之为f(x)在[a,b]上最小偏差.最正确迫近多项式 假定f(x)∈C[a,b],若存在Pn*(x)∈Hn使

(f,Pn*(x))＝En,则称Pn*(x)是f(x)在[a,b]上最正确一致迫近多项式或最小偏差迫近多项式。第45页注意,定义并未说明最正确迫近多项式是否存在,但能够证实下面存在定理.定理：

若f(x)∈C[a,b],则总存在Pn*(x)使其中第46页偏差点定义

设f(x)∈C[a,b]，P(x)∈Hn，若在x＝x0有就称x0是P(x)对f(x)偏差点.称x0为“正”偏差点称x0为“负”偏差点.为了研究最正确迫近多项式特征，先引进偏差点定义.若若第47页

因为函数P(x)－f(x)在[a,b]上连续,所以,最少存在一个点x0∈[a,b]使

也就是说P(x)偏差点总是存在。下面给出反应最正确迫近多项式特征切比雪夫定理.切比雪夫定理

Pn(x)∈Hn是f(x)∈C[a,b]最正确迫近多项式充分必要条件是P(x)在[a,b]上最少有n+2个轮番为“正”，“负”偏差点，即有n+2个点a≤x1＜x2＜...＜xn+2≤b，使第48页 这么点组称为切比雪夫交织点组.切比雪夫定理说明用P(x)迫近f(x)误差曲线y＝P(x)－f(x)是均匀分布由这个定理还可得以下主要推论.

推论

若f(x)∈C[a,b]，则在Hn中存在唯一最正确迫近多项式 利用切比雪夫定理可直接得到切比雪夫多项式Tn(x)一个主要性质，即第49页定理 在区间[-1,1]上全部最高次项系数为1n次多项式中,

即能够了解为与零偏差等于最小当且仅当与零偏差最小，其偏差为第50页最正确一次迫近多项式切比雪夫定理给出了最正确迫近多项式P(x)特征,但要求出P(x)却相当困难.下面讨论n=1情形.假定f(x)∈C2[a,b].且f"(x)在(a,b)内不变号，我们要求最正确一次迫近多项式 P1(x)=a0+a1x 最少有3个点a≤x1＜x2＜x3≤b，使因为在[a,b]上不变号,故单调,在(a,b)内只有一个零点,记为x2,于是第51页于是即另外两个偏差点必定是区间端点由此得到第52页代入到(2)得这就得到最正确一次迫近多项式P1(x)，其方程为有（1）式得第53页例1、设

不超出2多项式

使它为最正确一致迫近多项式。试在[-1，1]上寻找一个次数在[-1，1]上

应满足

由最小偏差定理解：所求

首项系数为4第54页

从而例2、设

m,M是

在

上min,max值，则

零次最正确一致迫近多项式为

，第55页证实：连续性知

使得令则

。由第56页，即

故

是

与

偏差点，从而由chebyshev定理知即当

时迫近多项式为零次最正确一致第57页例3、求

在[0，1]上求三次最正确迫近多项式。

则当

在[0,1]改变时

此时

设

为

解：令在[0,1]上三次最正确一致迫近多项式因为第58页9.设

首相系数为故有

即

第59页3.4最正确平方迫近

最正确平方迫近及其算法

考虑在区间[a,b]上普通最正确平方迫近问题时对f(x)∈C[a,b]及C[a,b]中一个子集

若存在使下式成立第60页则称是f(x)在子集中最正确平方迫近函数.

为了求,由(1)可知该问题等价于求多元函数

最小值.因为是关于二次函数,

利用多元函数求极值必要条件第61页即于是有是关于线性方程组,称为法方程,第62页因为线性无关，故系数矩阵行列式非奇异，即于是方程组(1)有唯一解从而有第63页以下证实必定满足最正确平方迫近定义即但我们只需证实第64页即上式第二项积分为零。于是可得即得必定是所求函数最正确平方多项式。第65页则要在Hn中求n次最正确平方迫近多项式此时若取第66页若用H表示对应矩阵,即即第67页

若用{1,x,…,xn}做基求最正确平方多项式,计算简单，但当n较大时,系数矩阵H是病态,所以直接求解法方程是相当困难,故通常是采取正交多项式做基底结构最正确平方多项式。则称H为希尔伯特(Hilbert)矩阵,若记向量则第68页用正交函数族作最正确平方迫近

设故法方程组第69页为非奇异对角阵,且法方程解为于是f(x)∈C[a,b]在 中最正确平方迫近函数为 第70页可得均方误差为由此可得贝塞尔(Bessel)不等式若f(x)∈C[a,b],按正交函数族 展开，而系数按下式计算得级数第71页称为f(x)广义傅立叶(Foureir)级数,系数称为广义傅立叶系数.是正交多项式,设可由正交化得到。则有下面收敛定理；设f(x)∈C[a,b],S*(x)是由(3)给出f(x)最正确平方迫近多项式，其中是正交多项式族,则有第72页下面考虑函数f(x)∈C[-1,1],按勒让得多项式{P0(x),P1(x),…,Pn(x)}展开,由(2),(3)可得其中依据(4),平方误差为此时由定理结论可得：第73页对首项系数为1勒让德多项式有以下性质定理：在全部最高次项系数为1n次多项式中,勒让德多项式在[-1,1]上与零平方误差最小。即能够了解为最小等价于与零平方误差最小。第74页证实：设Qn(x)是任意一个最高次项系数为1n次多项式，它可表示为于是第75页3.5.数据拟合最小二乘法问题提出：在函数最正确平方迫近中，要求函数是连续，而实际问题中经常见到函数只是在一组离散点上给定，即科学试验中常见到试验数据曲线拟和，比如天气预报系统即为此例。求拟和曲线时首先要确定所找拟和曲线形式，这不是单纯数学问题，还与所研究问题运动规律及所得观察数据相关；通常要从问题运动规律及给定数据描图，确定函数形式，并经过实际计算得到很好结果，这类方法就称为曲线拟和最小二乘法。第76页用4次多项式拟和以下数据x0=0:0.1:1;y0=[-.447,1.978,3.11,5.25,5.02,4.66,4.01,4.58,3.45,5.35,9.22];n=4;p=polyfit(x0,y0,n)xx=0:0.01:1;yy=polyval(p,xx);plot(xx,yy,‘-b',x0,y0,'.r','MarkerSize',20)

xlabel('x')

ylabel(‘y')

利用Matlab中库函数进行拟和数值例子：试验第77页第78页数据拟合方法与数据插值方法不一样，它所处理数据量大而且不能确保每一个数据没有误差所以要求一个函数严格经过每一个数据点是不合理。数据拟合方法求拟合函数，插值方法求插值函数。这两类函数。对拟合函数不要求它经过所给数据点，而插值函数则必须经过每一个数据点.最大不一样之处是比如，在某化学反应中，测得生成物质量浓度y(10–3g/cm3)与时间t（min）关系如表所表示第79页t12346810121416y4.006.418.018.799.539.8610.3310.4210.5310.61显然，连续函数关系y(t)是客观存在。不过经过表中数据不可能确切地得到这种关系。何况，因为仪器测量中所带误差影响，测量数据难免有误差。所以只能寻求一个近拟表示式第80页第81页寻求合理近拟表示式，以反应数据改变规律，这种方法就是数据拟合方法。数据拟合需要处理两个问题：第一，选择什么类型函数作为拟合函数（数学模型）；第二，对于选定拟合函数，怎样确定拟合函数中参数。

第82页tx1x2x3x4x5x6x7x8x9x10yy1y2y3y4y5y6y7y8y9y10数学模型应建立在合理假设基础上，假设合理性首先表达在选择某种类型拟合函数使之符合数据改变趋势（总体改变规律）。拟合函数选择比较灵活，能够选择线性函数、多项式函数、指数函数、三角函数或其它函数，这应依据数据分布趋势作出选择。为了问题叙述方便，将例1数据表写成普通形式第83页假设拟合函数是线性函数，即拟合函数图形是一条平面上直线。而表中数据点未能准确地落在一条直线上原因是试验数据误差。则下一步是确定函数y=a+bx中系数a和b各等于多少？从几何背景来考虑，就是要以a和b作为待定系数，确定一条平面直线使得表中数据所对应10个点尽可能地靠近这条直线。普通来讲，数据点将不会全部落在这条直线上，假如第k个点数据恰好落在这条直线上，则这个点坐标满足直线方程，即a+bxk=yk假如这个点不在直线上，则它坐标不满足直线方程，有一个绝对值为，，线性拟合（线性模型）第84页差异（残差）。这是关于a和b一个二元函数，合理做法是选取a和b，使得这个函数取极小值。不过在实际求解问题时为了操作上方便，经常是求a和b使得函数到达极小。为了求该函数极小值点，令，得，于是全部点处总误差是第85页这是关于未知数a和b线性方程组。它们被称为法方程，又能够写成第86页

求解这个二元线性方程组便得待定系数a和b，从而得线性拟合函数y=a+bx。下列图中直线是数据线性拟合结果。第87页假设拟合函数不是线性函数，而是一个二次多项式函数即拟合函数图形是一条平面上抛物线，而表中数据点未能准确地落在这条抛物线上原因是试验数据误差。则下一步是确定函数二次函数拟合（二次多项式模型）中系数a0、a1和a2各等于多少？从几何背景来考虑就是要以a0、a1和a2为待定系数，确定二次曲线使得表中数据所对应10个点尽可能地靠近这条曲线。普通来讲，数据点将不会全部落在这条曲线上，假如第k个点数据恰好落在曲线上，则这个点坐标满足二次曲线方程，第88页假如这个点不在曲线上，则它坐标不满足曲线方程，有一个误差（残差）。于是全部点处总误差用残差平方和表示这是关于a0、a1和a2一个三元函数，合理做法是选取a0、a1和a2

，使得这个函数取极小值。为了求该函数极小值点，令第89页求解这一方程组可得二次拟合函数中三个待定系数。下列图反应了例题所给数据二次曲线拟合结果。第90页第91页普通曲线拟合最小二乘法

假如f(x)只在一组离散点集{xi,i=0,1,…,m}上给定这就是科学试验中经常见到试验数据{(xi,yi),i=0,1,…,m}曲线拟合,这里yi=f(xi),i=0,1,…,m,要求一个函数y=S*(x)与所给数据{(xi,yi),i=0,1,…,m}拟合,若记误差δi=S*(x)-yi,i=0,1,…,m,δ=(δ0,δ1,…,δm)T,设是C[a,b]上线性无关函数族,在第92页这就是普通最小二乘迫近,用几何语言说,就称为曲线拟合最小二乘法.

中找一函数这里使误差平方和第93页用最小二乘法求拟合曲线问题,就是在形如(2)S(x)中求一函数使加权平方和取得最小。它转化为求多元函数极小点由求多元函数极值必要条件,有问题.第94页若记上式可改为这方程称为法方程,可写成矩阵形式第95页要使法方程(3)有唯一解就要求矩阵G非奇异,其中 必须指出,第96页在[a,b]上线性无关不能推出矩阵G非奇异。为确保(3)系数矩阵非奇异,必须加上另外条件: 哈尔(Haar)条件设任意线性组合在点集上至多只有n个不一样零点,则称上满足哈尔(Haar)条件。在点集第97页显然在任意m(m≥n)个点上满足哈尔条件。所以普通为则一定能够确保系数矩阵非奇异，于是方程（3）必存在唯一解从而得到函数最小二乘解为：第98页且成立下式即必为所求最小二乘解。第99页解：作散点图以下：从右图能够看出这些点靠近一条抛物线，所以设所求公式为x012345y531123例4:

已知一组观察数据如表所表示，试用最小二乘法求一个多项式拟合这组数据。第100页由最小二乘法得以下式子：第101页整理并代入表中数据得：代入数据第102页解之可得：故所求多项式为：第103页例：由书中数据表能够确定拟合曲线方程为它不是线性函数，可经过在上式两端取对数方法将其化为线性表示式：也即故数据点转换为第104页有最小二乘法取第105页故得法方程组以下:第106页用正交多项式做最小二乘拟合

用最小二乘法得到方程组其系数矩阵G是病态,但假如是关于点集{xi}带权ω(xi)(i=0,1,…,m)正交函数族,即则方程(1)解为第107页现在我们依据给定节点x0,x1,…,xm及权函数ω(x)>0,造出带权ω(x)正交多项式{Pn(x)}.注意n≤m,用递推公式表示Pk(x),即且平方误差为这里是首项系数为1k次多项式，且由其正交性得：第108页下面用归纳法证实这么给出{Pk(x)}是正交。由(3)第二式及(4)中第一个表示式,有下式成立。第109页现假定均成立，要证(Pk+1,Ps)=0对s=0,1,…,k