小波分析之函数逼近与曲线拟合市公开课一等奖省名师优质课赛课一等奖课件

函数迫近与曲线拟合“函数迫近”基本思想：用“简单函数”“近似”普通，复杂函数。插值“近似性”要求即:插值多项式与被迫近函数在节点处取相同值“函数迫近”“近似性”要求即:用被迫近函数与迫近多项式之间“距离”来衡量近似效果。“函数迫近”问题提法对[a,b]上连续函数类C[a,b]中给定函数f(x)，在另一“简单”函数类-----n次多项式函数类Hn中求函数p(x)，使p(x)与f(x)误差在某种度量意义下最小。p(x)与f(x)误差度量是迫近论关键问题。“函数迫近论”研究内容在普通线性空间上定义了线性空间范数概念，然后推广到函数空间C[a,b]上得到度量两个函数间距离(差异)多个范数。对应得到多个迫近概念和每一迫近概念下最正确(误差最小)多项式特征或求法。线性空间设L是一个非空集合，K是实（或复）数域，并可在其上定义“加法”，“数乘”运算，而且满足以下公理加法交换律：x+y=y+x加法结合律：(x+y)+z=x+(y+z)存在零元：x+0=x存在逆元：x+(-x)=0数乘：1x=xa(bx)=(ab)x(a+b)x=ax+bxa(x+y)=ax+ay则称L是数域K上线性空间距离空间定义设X是非空集合，对于X中任意两元素x与y，按某一法则都对应唯一实数ρ(x,y)，并满足以下三条公理：1.非负性：ρ(x,y)≥0,ρ(x,y)=0当且仅当x=y;2.对称性：ρ(x,y)=ρ(y,x)；3.三角不等式；对任意x,y,zρ(x,y)≤ρ(x,z)+ρ(z,y),则称ρ(x,y)为x与y间距离（或度量），并称X是以ρ为距离距离空间(或度量空间),记为(X,ρ)．范数与赋范线性空间设X是实(或复)线性空间，假如对于X中每个元素x，按照一定法则对应于实数||x||，且满足：||x||≥0，||x||=0当且仅当x=0;||ax||=|a|||x||，a是实(或复)数;||x+y||≤||x||+||y||.则称X是实(或复)赋范线性空间，||x||称为x范数.内积空间

设X是定义在实(或复)数域K上线性空间，若对于X中任意一对有序元素x,y,恒对应数域K值(x,y)，且满足:(x,x)≥0，且(x,x)=0充要条件是x=0;(ax,y)=a(x,y);(x+y,z)=(x,z)+(x,z).则称X为内积空间，(x,y)称为x,y内积.

正交:若(x,y)=0,称x与y正交.内积、范数、距离之间关系由每一内积能够导出一范数：由每一范数能够导出一距离：注：有范数并没有导出它内积。n维实(或复)Euclid空间Rn

全体n维实向量集合在向量加法、数乘下为n维线性空间.Rn且为距离空间,赋范线性空间,内积空间.Rn内积为:内积空间C[a,b]

全部定义在[a,b]上连续函数做成集合在函数加法、数乘下做成无穷维线性空间，记为C[a,b].C[a,b]上内积定义为:Rn上范数举例Ex.Rn上范数：对X=(x1，…，xn)∈Rn

，(1-范数)：(2-范数)：

(∝-范数)：C[a,b]上范数举例Ex.C[a，b]上范数：对f∈C[a，b]，(1-范数)：

(2-范数)：

(∝-范数)：

绝对值与Rn上范数扩充关系数a绝对值(a离开原点0距离)：∣a∣数a与b差异(距离)：∣a-b∣向量A=(a1,a2,…,an)范数(A离开0向量距离)

：

Rn与C[a,b]上范数扩充关系向量范数：函数范数：

内积空间性质

定理(Cauchy-Schwarz不等式)在内积空间X上，任u,v∈X，有[证实]当时，欲证不等式显然成立。当时,因故对任何实数

有尤其地,取代入上式得：内积空间性质

即内积空间性质

定理设为内积空间，格拉姆(Gram)矩阵非奇异当且仅当线性无关.Th3证实[证实]首先,Th3证实又Th3证实故,Th3证实G非奇异当且仅当齐次方程组只有零解,即只有零解,即只有零解,即

线性无关.Rn带权内积定义满足实数组称为权系数。Rn上加权内积定义为：对应范数为C[a.b]带权内积定义[a,b]上非负函数称为[a,b]上权函数，若满足：存在且为有限值(k=0,1,…).对[a,b]上非负连续函数，若则C[a.b]带权内积定义C[a,b]上带权内积和范数定义为：C[a,b]上线性无关函数簇格拉姆矩阵判定定理C[a,b]上函数簇线性无关充要条件是其格拉姆矩阵G非奇异。正交函数簇

若函数簇满足：则称是上带权正交函数簇.当时,称为标准正交函数簇.由正交化过程生成正交多项式簇

正交化过程：由{1,x1,x2,…,xn,…}结构C[a,b]上正交多项式序列方法：正交化过程令设由确定出勒让德(Legendre)多项式[-1,1]上权函数时,由正交化得到多项式称为勒让德多项式。其解析表示式为：勒让德多项式性质正交性：奇偶性:递推关系:各类最正确迫近普通提法设是某个子空间,对任，寻找满足：在不一样范数，不一样子空间下形成了不一样最正确迫近.最正确一致迫近多项式对,满足：多项式称为在上最正确一致迫近多项式。最正确平方迫近多项式对满足：函数称为在上最正确平方迫近函数.各种最正确迫近提法讨论受范数‖·‖、子空间限制，最正确迫近S*(x)与被迫近函数f(x)在范数‖·‖下距离(差异)依然可能很大，最正确意义是指在中,

最小.各种最正确迫近提法讨论在任一范数‖·‖、任一子空间下都有最正确迫近概念，一个最正确迫近实用和有意义不但取决于‖·‖和，而且取决于最正确迫近函数求法实用是否(以后从最正确一致迫近、最正确平方迫近能够看出，即使‖·‖意义明确、实用，但最正确迫近函数求起来困难时也不实用)。最正确一致迫近多项式定性讨论

因为‖·‖∞范数求起来困难，在普通情形下只能得到对最正确一致迫近多项式特征性描述，而得不到其求法。最正确一致迫近多项式特征

设f(x)∈C[a,b],Pn(x)∈Hn，称为f(x)与Pn(x)在C[a,b]上偏差。称为f(x)在C[a,b]上最小偏差。

最正确一致迫近多项式特征

f(x)在C[a,b]上最正确一致迫近多项式Pn*(x)即为Hn中与被迫近函数f(x)偏差到达f(x)在[a,b]上与Hn中多项式偏差最小值。最正确一致迫近多项式存在性定理TH4最正确一致迫近多项式恒存在。偏差点定义(定义9)满足：x0称为P(x)偏差点。若P(x0)－f(x0)=μ，称x0为“正”偏差点；若P(x0)－f(x0)=-μ，称x0为“负”偏差点；最正确一致迫近多项式存在性定理

依据“闭区间上连续函数取得最大、最小值”定理，P(x)在[a,b]上偏差点总存在。TH5P(x)∈Hn是f(x)在[a,b]上最正确一致迫近多项式当且仅当P(x)在[a,b]上最少有n+2个轮番为“正”、“负”偏差点。最正确一致迫近多项式特征[证实]只证充分性。假设在[a,b]上P(x)有n+2个轮番为“正”、“负”偏差点x1，x2,…,xn+2。用反证法，设存在使TH5证实(续)因为P(x)－Q(x)=[P(x)－f(x)]－[Q(x)－f(x)]，在点x1，x2，…，xn+2上，P(x)－Q(x)符号与P(x)－f(x)符号一致(由按Q(x)－f(x)与P(x)－f(x)同号、异号分别讨论)。TH5证实(续)

故P(x)－Q(x)在点x1，x2，…，xn+2上轮番为正、负。由连续函数性质，P(x)－Q(x)在[a,b]上有n+1个零点，而P(x)－Q(x)为不超出n次多项式，矛盾，故假设不成立，故P(x)为最正确一致迫近多项式。最正确一致迫近多项式特征讨论定理5对低次n能够给出最正确一致迫近多项式求法，但对高次n(n≥2)，得不出最正确一致迫近多项式求法；定理5说明当P(x)在最少n+2个点上交织地取得自己与f(x)偏差值时，该值也恰好是f(x)在[a,b]上最小偏差，因而P(x)也恰好为f(x)在[a,b]上最正确一致迫近多项式；最正确一致迫近多项式特征讨论定理5说明用最正确一致迫近多项式P(x)迫近f(x)时误差曲线y=P(x)-f(x)是均匀分布。最正确平方迫近满足：称为在中最正确平方迫近函数。最正确平方迫近条件分析最佳一致逼近即使限定只用多项式，最佳一致逼近多项式求解仍很困难；而最佳平方逼近不限定用多项式，可认为c[a,b]任一子空间令最佳平方逼近函数为最正确平方迫近条件分析求最正确平方迫近函数等价于（仅为必要条件，充分性还需讨论）求以下多元函数极小值.最正确平方迫近条件分析因为函数是关于二次函数，故利用多元函数极值必要条件,有：最正确平方迫近条件分析得到满足n+1个线性方程组成线性方程组。解出则得到可能最正确平方逼近函数。最正确平方迫近条件分析即即或即其系数矩阵G为格拉姆矩阵。最正确平方迫近条件分析

关于线性方程组(4.3)称为法方程.

因为线性无关，故法方程系数矩阵-----格拉姆矩阵G非奇异，法方程有唯一解最正确平方迫近条件分析

以下再证实如上确定是最正确平方迫近函数，即对于任何最正确平方迫近条件分析因为最正确平方迫近条件分析由干系数是方程组(4.3)解，故最正确平方迫近条件分析从而，证得是在

中最正确平方迫近函数.最正确平方迫近结论以上讨论给出了求在

中最正确平方迫近函数求法：令最正确平方迫近函数为解关于待定组合系数法方程：最正确平方迫近结论即：最终把解

代回即为所求。最正确平方迫近结论最正确平方迫近误差预计为：最正确平方迫近多项式当时,最正确平方迫近多项式问题成为在Hn中求满足：最正确平方迫近多项式这时，法方程为：用正交多项式基底做最正确平方迫近当n较大时,法方程系数矩阵(希尔伯特Hilbert)矩阵H是病态，求解困难，转向采取正交多项式基底求最正确平方迫近多项式。用正交多项式基底做最正确平方迫近为使问题更具普通性，以下讨论用正交函数簇做基底时最正确平方迫近函数求解问题。当取正交函数簇做基底时,用正交函数簇基底做最正确平方迫近法方程系数矩阵成为对角矩阵用正交函数簇基底做最正确平方迫近法方程为:解为：用正交函数簇基底做最正确平方迫近最正确平方迫近函数为：用正交函数簇基底做最正确平方迫近均方误差为：用正交函数簇基底做最正确平方迫近尤其地,当是标准正交基时,有故用正交函数簇基底做最正确平方迫近且均方误差成为：勒让德正交多项式做最正确平方迫近在上用勒让德(正交)多项式做正交基底时最正确平方迫近勒让德正交多项式做最正确平方迫近TH9在全部最高项系数为1n次多项式中，勒让德正交多项式在上与零平方误差最小。[证实]设为任一最高项系数为1n次多项式，则可表示为：勒让德正交多项式做最正确平方迫近TH9证实(续)当且仅当时上式中等号成立，即当时Qn(x)与零误差最小。最正确平方迫近问题讨论泛函概念：最正确平方迫近函数满足：即在函数空间中改变，取遍中全部函数，在处取得极小值，此即为泛函问题，即可改变元素为函数。最正确平方迫近问题讨论因为函数空间

为线性空间，取遍

中全部函数只须按

基底线性组合在数域中取遍全部组合系数即可。因为法方程系数矩阵----格拉姆矩阵非奇异，最正确平方迫近多项式(或函数)在选定子空间

中唯一存在。最正确平方迫近问题讨论

不论用正交多项式做基底是否，最正确平方迫近多项式都是同一。不用正交多项式做基底时只是因为法方程病态，近似求解时误差增大，达不到准确解；而用正交多项式做基底时法方程近似求解时准确性高，与准确解误差小。不论怎样，准确解唯一客观存在，只是不一样求解法在求其近似解时优劣不一样。最正确平方迫近问题讨论用正交多项式做基底时求解计算工作量小?Th9表明每一次数勒让德正交多项式都为一个非零但“非常小”分量基函数。这么，用勒让德正交多项式做基底最正确平方迫近也表达为一个用非零小分量谱系合成、表示复杂对象思想。最正确平方三角迫近对于以为周期连续函数,在上,取以正交函数系为基底生成子空间对做最正确平方迫近,称为最正确平方三角逼近.最正确平方三角迫近应用前述结果,最正确平方三角迫近函数是最正确平方三角迫近系数由确定,称为傅立叶系数.“曲线拟合”问题提法

己知函数在[a,b]上一组观察值

,在函数类中求函数使与在观察点上误差平方和最小:

“曲线拟合”问题分析

应用最正确平方迫近类似分析，设

“曲线拟合”问题分析

则求函数s*(x)问题转化为求I极小值问题。由多元函数极值必要条件，有

“曲线拟合”问题分析采取记号：

“曲线拟合”问题分析则前述方程组(称为法方程)可写为:

“曲线拟合”问题分析

在这里，虽采取了与最小平方迫近中相同记号，但最小平方迫近中内积为C[a,b]上函数内积，而这里内积为函数在处取值形成m+1维向量后向量内积!即使函数为基底因而线性无关，但并不能确保它们在处取值后形成m+1维向量组“曲线拟合”问题分析依然线性无关。因而不能应用TH3判定法方程系数矩阵G非奇异(P92

有反例说明)。“曲线拟合”问题分析定义10(哈尔(Haar)条件)

称在点集上满足哈尔条件,若任意线性组合在上至多有n个零点。显然，在任意个点上满足哈尔条件(由n次多项式至多有n个零点推知)。“曲线拟合”问题分析能够证实，若在点集上满足哈尔条件，则由线拟合问题法方程系数矩阵非奇异,因而有唯一解,且易证这么所得解恰是曲线拟合问题解(类似于最正确平方迫近问题中证实)。“曲线拟合”问题分析总结以上分析可知，在点集上做曲线拟合，取其中m≥n，则问题有唯一解。但当n≥3时，法方程系数矩阵G出现病态问题，故类似于连续情形最正确平方迫近，也取相当于连续情形“正交函数簇”做基底,求解曲线拟合问题.“曲线拟合”问题分析这里“正交函数簇”意义是：称