《计算方法》课件1第5章

第五章函数逼近5.1内积与正交多项式5.2常见正交多项式5.3最佳一致逼近5.4最佳平方逼近5.5曲线拟合与最小二乘法习题5

5.1内积与正交多项式

5.1.1权函数

一般地，若给定n个非负实数a1，a2，…，an，又已知正数ω1，ω2，，…，ωn，且ω1+ω2+…+ωn=1，则称数

为a1，a2，…，an这n个数的加权平均数，ω1，ω2，…，ωn称为权系数，当ω1=ω2=…=ωn=时，则称

为算术平均数。将加权平均数中的权系数概念加以推广，即有权函数的概念。

定义5.1设ρ(x)是区间［a,b］上的非负实函数，如果ρ(x)满足以下两点，则当x∈［a,b］时必有g(x)≡0，此时称函数ρ(x)为区间［a,b］上的权函数。

(1)存在(n=0,1,2,…);

(2)对区间［a,b］上的非负实函数g(x)，有

(5.1)

(注：若a,b中一个或两个为无穷大时，(5.1)式左端积分称为广义积分。)5.1.2内积定义及性质

定义5.2

(离散情形内积)已知函数f(x)和g(x)在点集X={x1,x2,…，xn}上的函数值f(xi)及g(xi)，ω1，ω2，…，ωn为权系数，则称

为函数f(x)和g(x)带权系数的内积。

定义5.3

(连续情形内积)设函数f(x)和g(x)在区间

［a,b］内有定义，ρ(x)是［a,b］上的权函数，则称

为函数f(x)和g(x)在区间［a,b］上带权函数的内积。

注：在定理证明或推导过程中，如没有具体指明权函数，则表示对任何权函数均成立。在具体问题的计算过程中，当没有确切指出权函数时，我们约定权函数ρ(x)≡1。内积具有以下性质：

(1)(f,g)=(g,f)

(2)对任意实数a,有

(af,g)=(f,ag)=a(f,g)

(3)(f+h,g)=(f,g)+(h,g)

(4)若

,则(f,f)>0。

注：离散情形

是指f(x1),f(x2),…，f(xn)不全为零。5.1.3正交性

定义5.4

(正交性)对函数f(x)与g(x)，若内积

(f,g)=0，则称f(x)与g(x)正交。

在离散情形下，正交性相当于两个向量的正交性，在连续情形下，正交性相当于

定义5.5对定义在区间［a,b］上的函数系{φi(x)}，函数ρ(x)为［a,b］上的权函数，若它们的内积满足关系式:

则称函数系{φ0(x),φ1(x),…，φn(x)，…}在区间［a,b］上关于权函数ρ(x)为正交函数系；若Ai≡1，即有

则称{φ0(x),φ1(x),…，φn(x)，…}为标准正交函数系；若φi(x)为x的i(i=0，1，2，…)次多项式，则称函数系{φi(x)}为正交多项式系。

利用内积定义可以定义函数f(x)的范数或模。(i,j=0,1,2,…)(i,j=0,1,2,…)

定义5.6函数f(x)的范数为

易验证范数具有以下性质：

(1)当时，‖f‖>0；‖f‖=0f(x)≡0。

(2)对任意实数a，有

‖af‖=|a|‖f‖

(3)‖f+g‖≤‖f‖+‖g‖

由内积及范数定义，容易验证正交函数系是线性无关的。

定理5.1函数系{φ0(x),φ1(x),…，φn(x)，…}中函数φ0(x),φ1(x),…，φn(x)线性无关的充要条件是Gram矩阵：

非奇异，即detGn+1≠0。

证明分析：φ0(x),φ1(x),…，φn(x)线性无关的充要条件是线性组合C0φ0(x)+C1φ1(x)+…+Cnφn(x)=0中的C0=C1=…=Cn=0。

先证必要性(反证法)：假设detGn+1=0，则线性方程组Gn+1

C=0存在非零解向量，记为C=(C0,C1,…，Cn)T

，从而有(C0，C1，…，Cn)Gn+1(C0，C1，…，Cn)T=0，即有

，由内积与范数性质(1)可知。这与φ0(x),φ1(x),…，φn(x)线性无关相矛盾，故detGn+1≠0。再证充分性(反证法):假设φ0(x),φ1(x),…，φn(x)线性相关，则存在不全为零的数C0,C1，…，Cn，使得

C0φ0(x)+C1φ1(x)+…+Cnφn(x)=0

等式两边用φk(x)(k=0，1，2，…，n)进行内积，则有即

(j=0，1，2，…，n)

故C0，C1，…，Cn是线性方程组Gn+1X=0的非零解。由线性代数知识，由此可得detGn+1=0，这与已知detGn+1≠0相矛盾，故假设不成立。

定理5.2线性无关函数组所确定的Gram矩阵是对称正定矩阵。

证明由定理5.1的必要性证明中可知

当且仅当C0=C1=…=Cn=0时有等号成立，且显然矩阵Gn+1是对称矩阵，故Gram矩阵Gn+1是对称正定矩阵。

Gn+1是线性无关组φ0(x),φ1(x),…，φn(x)的度量矩阵。5.1.4正交多项式系的性质

下面讨论正交多项式系的性质。假设正交多项式系中φi(x)的最高次项(即首项)系数为1，则正交多项式系的性质如下：

(1)(线性无关性)正交多项式系{φ0(x),φ1(x),…，φn(x)，…}中任意有限个函数线性无关。

(2)Pn表示次数不超过n次的代数多项式的集合，则对任何p(x)∈Pn有(p(x)，φk(x))=0(k≥n+1)，即正交多项式系中的φk(x)与所有次数小于k的多项式正交。

证明由性质(1)，{φ0(x),φ1(x),…，φn(x)}为Pn的一组基，而p(x)∈Pn，故

p(x)=l0φ0(x)+l1φ1(x)+…+lnφn(x)

等式两边用φk(x)(k≥n+1)进行内积：

(p(x)，φk(x))=l0(φ0(x),φk(x))+l1(φ1(x)，

φk(x))+…+ln(φn(x)，φk(x))

因为(φj(x)，φk(x))=0(k≥n+1，j=0，1，2，…,n)，故(p(x)，φk(x))=0。

(3)正交多项式系{φ0(x),φ1(x),…，φn(x)，…}中的φk(x)(k≠0)在区间(a,b)内有k个互不相同的单实根。

(4)正交多项式系{φ0(x),φ1(x),…，φn(x)，…}中任意相邻的三项之间有如下关系：

φn+1(x)=(x－αn)φn(x)－βnφn－1(x)

(n≥1)

其中，,

(an=(xφn,φn)，bn=(φn,φn))。

证明因xφn(x)是n+1次多项式，而{φ0(x),φ1(x),…，φn+1(x)}为n+1次多项式集Pn+1的基，故存在α0,α1,…，αn+1，使得

xφn(x)=αn+1φn+1(x)+αnφn(x)+…+α0φ0(x)

比较两边xn+1系数，有αn+1=1，等式两边用φk(x)进行内积有

(φk(x)，xφn(x))=(φk(x)，αkφk(x))=αkbk

另外，(φk(x)，xφn(x))=(xφk(x)，φn(x))，由此可得讨论：i)当k=n时，得；

ii)当k≤n－2时，xφk(x)是k+1(k+1≤n－1)次多项式，由性质(2)知它与φn(x)正交，故αk=0；

iii)当k=n－1时，因xφn－1(x)可表示为

xφn－1(x)=φn(x)+ln－1φn－1(x)+…+l0φ0(x)

故有

(xφn－1(x)，φn(x))=(φn(x)，φn(x))=bn

从而。由以上可得

即

根据以上正交多项式系的性质，特别是三项递推关系(性质(4))，可以逐步构造正交多项式系。

5.2常见正交多项式

5.2.1勒让德(Legendre)多项式系

定义式为

(－1≤x≤1，n=0，1，2，…)

的多项式称为勒让德多项式系。下面列出勒让德多项式系的前6项P0(x)到P5(x)：

这六个多项式在区间［－1，1］上的图形如图5-1所示。图5-1勒让德多项式系具有如下性质：

(1)勒让德多项式系{Pn(x)}在区间［－1,1］上关于权函数ρ(x)≡1是正交多项式系，即对任意Pk(x)和Pj(x),有

(利用高等数学定积分的分部积分法可证明。)

(2)勒让德多项式系{Pn(x)}有如下递推关系式：5.2.2第一类切比雪夫(Chebyshev)多项式系

定义式为

Tn(x)=cos(narccosx)

(－1≤x≤1，n=0，1，2，…)

的多项式称为第一类切比雪夫多项式系。

第一类切比雪夫多项式T0(x)到T5(x)如下：

T0(x)=1，T1(x)=x，T2(x)=2x2－1，T3(x)=4x3－3x

T4(x)=8x4－8x2+1，T5(x)=16x5－20x3+5x

这六个多项式在区间［－1，1］上的图形如图5-2所示。图5-2第一类切比雪夫多项式系具有如下性质：

(1)第一类切比雪夫多项式系{Tn(x)}在区间［－1,1］上关于权函数正交，即

(2)第一类切比雪夫多项式系有如下递推关系式：

证明令θ=arccosx，则Tn(x)=cosθ，由三角函数关系式：

cos(n+1)θ+cos(n－1)θ=2cosnθcosθ

可得到

Tn+1(x)=2xTn(x)－Tn－1(x)

(n=1，2，…)

(3)(零点与最值点)第一类切比雪夫多项式系Tn(x)在区间(－1，1)内有n个不同的零点ak：

(k=1，2，…，n)

在区间［－1，1］内有n+1个最值点βk：

(k=0，1，2，…，n)

且交错取得，其最大值为1，最小值为－1。5.2.3第二类切比雪夫多项式系

定义式为

(－1≤x≤1，k=0，1，2，…)

的多项式称为第二类切比雪夫多项式系。第二类切比雪夫多项式U0(x)到U5(x)如下：

U0(x)=1，U1(x)=2x，U2(x)=4x2－1

U3(x)=8x3－4x，U4(x)=16x4－12x2+1

U5(x)=32x5－32x3+6x第二类切比雪夫多项式系具有如下性质：

(1)(正交性)第二类切比雪夫多项式系{Un(x)}在［－1,1］上关于权函数是正交多项式系，即

(2)第二类切比雪夫多项式有如下递推关系式:5.2.4拉盖尔(Laguerre)多项式系

定义式为

(x∈［0，+∞)，n=0，1，2，…)

的多项式称为拉盖尔多项式系。拉盖尔多项式L0(x)到L5(x)如下：

L0(x)=1，L1(x)=1－x，L2(x)=x2－4x+2

L3(x)=－x3+9x2－18x+6，L4(x)=x4－16x3+72x2－96x+24

L5(x)=－x5+25x4－200x3+600x2－600x+120

这六个多项式在部分区间上的图形如图5-3所示。图5-3拉盖尔多项式系具有如下性质：

(1)(正交性)拉盖尔多项式系{Ln(x)}在［0,+∞)上关于权函数ρ(x)=e－x是正交多项式系，即

(2)(递推关系)拉盖尔多项式系有如下递推关系式：

(3)拉盖尔多项式系Ln(x)的最高次项系数为an=(－1)n，次项系数为bn－1=(－1)n－2n2。5.2.5埃尔米(Hermite)多项式系

定义式为

(x∈(-∞，+∞)，n=0，1，2，…)

的多项式称为埃尔米多项式系。

埃尔米多项式H0(x)到H5(x)如下：

H0(x)=1，H1(x)=2x，H2(x)=4x2－2，H3(x)=8x3－12x

H4(x)=16x4－48x2+12,

H5(x)=32x5－160x3+120x

这六个多项式在部分区间上的图形如图5-4所示。图5-4埃尔米多项式系具有如下性质：

(1)(正交性)埃尔米多项式系在(－∞，+∞)上关于权函数是正交多项式系，即

(2)(递推关系)埃尔米多项式系有如下递推关系式：

5.3最佳一致逼近

5.3.1最佳一致逼近概念

定义5.7

(一致逼近)设函数f(x)在闭区间［a,b］上连续，对于任意给定的ε>0，如果存在多项式φ(x)，使得不等式成立，则称多项式φ(x)在区间［a,b］上一致逼近于f(x)。

魏尔斯特拉斯(Weierstrass)定理若函数f(x)在区间［a,b］上连续，则对任意正数ε,存在多项式φ(x)，使对一切x∈［a,b］都有|f(x)－φ(x)|<ε成立。

这个定理从理论上肯定了闭区间上连续函数可以用多项式以任意精度来一致逼近它，但却没有给出求逼近最快的多项式的方法。

定义5.8

(最佳一致逼近)设函数f(x)在闭区间［a,b］上连续，Pn(x)=span{1，x，…，xn}为次数不超过n的多项式集合，若存在函数pn*(x)∈Pn(x)，使得

最小，则称pn*(x)为函数f(x)在［a,b］上的n次最佳一致逼近多项式，简称最佳逼近多项式。

下面介绍关于最佳逼近多项式的存在性及唯一性定理。5.3.2最佳逼近多项式的存在性及唯一性

定义5.9

(偏差)对定义在［a,b］上的连续函数f(x)与φ(x)，称为f(x)与φ(x)的偏差。

定义5.10

(偏差点)若∈［a,b］，使得

则称为近似函数φ(x)的偏差点。特别地，若有

，则称为φ(x)的正偏差点；若有

则称为φ(x)的负偏差点。

注：由于假设f(x)与φ(x)在［a,b］上连续，故偏差点总是存在的，但正、负偏差点不一定同时存在。

定理5.3

(Borel存在定理)对任意给定在［a,b］上连续的函数f(x)，总存在pn*(x)∈Pn(x)，使得

成立。

此定理表明，只要在［a,b］区间上能保证函数f(x)连续，则一定有最佳多项式存在。

定理5.4若pn*(x)∈pn(x)是f(x)在区间［a,b］上的最佳逼近多项式，则pn*(x)一定同时存在正、负偏差点。

证明

(反证法)不妨设pn*(x)与f(x)不存在负偏差点，而仅存在正偏差点，并设是其中一个正偏差点，则有

由于pn*(x)－f(x)∈C［a,b］，则必存在最大值M和最小值m，有关系：

－u<m≤pn*(x)－f(x)≤M=u令，且

此式与pn*(x)是函数f(x)的最佳逼近多项式相矛盾，故pn*(x)同时存在正、负偏差点。我们不加证明地给出下面这个定理。

定理5.5(Chebyshev定理)

pn*(x)是函数f(x)在［a,b］上的n次最佳逼近多项式的充要条件是在区间［a,b］上，pn*(x)至少有n+2个依次轮流为正、负的偏差点xi(i=1，2，

…，n+2)，a≤x1<x2<…<xn+2≤b，这些点有时称为交错点。

定理5.6

(唯一性)若函数f(x)在闭区间［a,b］上是连续函数，则f(x)的最佳逼近多项式pn*(x)∈Pn(x)是唯一的。

证明假若f(x)的最佳逼近多项式不唯一，可设p(x)和q(x)都是f(x)在区间［a,b］上的最佳逼近多项式，且p(x)∈Pn(x)，q(x)∈Pn(x)，对任意x∈［a,b］,有

－ε≤p(x)－f(x)≤ε,－ε≤q(x)－f(x)≤ε整理得

令，因此r(x)也是函数f(x)在pn(x)中的最佳逼近多项式。由定理5.5知：r(x)存在n+2个依次轮流为正、负的偏差点xi(i=1，2，…，n+2)满足对1≤i≤n+2，有

|p(xi)－f(xi)|=ε，|q(xi)－f(xi)|=ε

即说明xi(i=1，2，…，n+2)也是p(x)和q(x)关于f(x)的偏差点。又因为

故p(xi)－f(xi)与q(xi)－f(xi)同号，从而有

p(xi)－f(xi)=q(xi)－f(xi)

(i=1,2,…，n+2)

即

(i=1，2，…，n+2)

而p(x)和q(x)均是不超过n次的多项式，故p(x)=q(x)，证毕。5.3.3最佳逼近多项式的构造

前面讨论了最佳逼近多项式的存在性与唯一性。而切比雪夫定理表明，当用最佳多项式pn*(x)来逼近f(x)时，其误差R(x)=f(x)－pn*(x)在［a,b］上是均匀分布的，由此可得以下两个结论：

(1)若f(x)∈C［a,b］，则f(x)在pn(x)=span{1，x,x2,…，xn}中的最佳逼近多项式就是f(x)在［a,b］上的某个n次拉格朗日插值多项式。此结论表明，要求f(x)的n次最佳逼近多项式，只需在［a,b］上求一个n次拉格朗日插值多项式Ln(x)，使偏差

为最小即可。

(2)如果函数f(x)在［a,b］上有n+1阶导数，且fn+1(x)在［a,b］上恒为正(或负)，那么区间［a,b］的端点a与b都属于f(x)－pn*(x)的交错点组。

下面我们介绍线性最佳逼近多项式的求法及切比雪夫多项式在函数逼近中的应用。

1.线性最佳逼近多项式pn*(x)的构造

先求零次最佳逼近多项式pn*(x)=C(常数)。设f(x)∈

C［a,b］，则f(x)的最佳零次逼近多项式为

再求一次最佳逼近多项式p1*(x)=a0+a1x。

条件：f(x)在［a,b］上具有二阶导数，且f″(x)在［a,b］上不变号。推导：由定理5.1及切比雪夫定理知，存在点a≤x1<x2<x3≤b，使

其中，σ=±1,k=1,2,3。

因f″(x)在［a,b］上不变号，则由结论(2)知，区间

［a,b］的端点a,b都属于f(x)－p1*(x)的交错点组，即有x1=a,x3=b，而另一交错点x2必位于［a,b］内部，且它是

f(x)－p1*(x)的极值点,故

f′(x2)－p1*′(x2)=f′(x2)－a1=0即f′(x2)=a1。又因f″(x)在［a,b］上不变号，所以f′(x)在［a,b］上严格单调，从而f(x)－p1*(x)在(a,b)内有且仅有

一个极值点x2，由此得

因p1*(x)=a0+a1x,所以可得

其中,x2由f′(x2)=a1解得。因此f(x)在［a,b］上的线性最佳逼近多项式为

例5.1求

在区间［0.25,1］上的线性最佳逼近多项式p1(x)。

解因为

a=

,b=1，又因f″(x)在［0.25,1］上不变号，于是有而故

从而

2.切比雪夫多项式的应用

我们知道，切比雪夫多项式Tn(x)的最高次项xn的系数为2n-1(n=1,2,…)，当令时，的最高次项xn的系数为1。由切比雪夫零点与极点性质知，当

(k=0，1，2，…，n)

时，有记为最高次项系数为1的一切n次多项式集合，此时有如下的切比雪夫多项式极性定理。

定理5.7在区间［－1,1］上，最高次项系数为1的一切n次多项式集合中，与零的偏差最小，且偏差为，即对任何，有

证明

(反证法)假若存在最高次项系数为1的另一个n次多项式，它与零的偏差比与零的偏差还小，即有

令

因,p(x)均属于，则q(x)是一个次数不超过n－1次的多项式。在的交错点组

(k=0，1，2，…，n)

处，由于

即

在xk处轮流取到，因此

显然，q(x)在n+1个交错点处轮流取正、负值，由连续函数的介值定理知q(x)应只有n个零点，而q(x)至多是n－1次多项式，所以q(x)=0，，矛盾，故定理结论成立。

注：在区间［－1,1］上，任何最高次项系数为1的n次多项式的最大值都满足：

而切比雪夫正交多项式是最大值最小多项式，因此，成为逼近其他函数的一种重要多项式。

定理5.8

(多项式插值余项极小化)设函数f(x)在

［－1，1］上具有n+1阶连续导数，当插值节点{xi}ni=0是切

比雪夫正交多项式Tn+1(x)的零点时，拉格朗日插值的截断误差为

其中，

证明

f(x)的n次拉格朗日插值余项为

其中，ζ在x0,x1,…，xn之间。由此可见，余项|Rn(x)|的大小取决于的大小，

是一个n+1次且最高次项系数为1的多项式，由定理5.7知，当xi满足(x－x0)(x－x1)…(x－xn)=

Tn+1(x)时,

取得极小值，即插值节点xi取成n+1个切比雪夫多项式的零点(n=0,1,2,…，n)则插值余项在［－1，1］上的最大绝对值极小，且有

上述定理表明，Ln(x)可作为f(x)的近似最佳一致逼近多项式。对于一般区间［a,b］上的函数f(x)，做变换

，把函数变换成

(－1≤t≤1)

即将定义在［a,b］上的函数f(x)化成定义在［－1，1］上的函数g(t)。因而，应取

(k=0，1，2，…，n)即插值节点为

可使达到极小，并有

例5.2用多项式插值余项极小化方法求函数f(x)=e－x在［0,1］上的近似最佳一致逼近多项式，要求误差不超过

×10－3。

解由题意知，a=0,b=1,由误差公式可得当n=3时，有

因此取插值节点为即

x0=0.9619398,

x1=0.6913417

x2=0.3086583,

x3=0.03806023

得到三次拉格朗日插值多项式为

L3(x)=0.99977－0.99290x+0.46323x2－0.10240x3

它可作为f(x)=e－x在［0,1］上的三次最佳一致逼近多项式。

5.4最佳平方逼近

在5.3节中我们讨论了对于在区间［a,b］上给定的连续函数f(x)，如何求它的最佳一致逼近函数φ(x)，下面我们来研究在区间［a,b］上的最佳平方逼近问题。5.4.1最佳平方逼近的概念

定义5.11

(最佳平方逼近函数)

Φ(x)表示由n+1个线性无关的基函数φ0(x)，φ1(x)，…，φn(x)形成的线性空间，即

对于区间［a,b］上给定的连续函数f(x)，若存在s*(x)∈Φ(x),使得

则称s*(x)是f(x)在Φ中的最佳平方逼近函数，ρ(x)为权函数，特殊地，若ai(x)=xi(i=0，1，2，…，n)，则最佳平方逼近函数即为最佳平方逼近多项式。

最佳平方逼近函数分如下两种：

(1)离散情形。就是求s*(x)∈Φ(x)，使得

这样的s*(x)称为f(x)在Φ中离散情形下的最佳平方逼近函数。

(2)连续情形。就是求s*(x)∈Φ(x)，使得

这样的s*(x)称为f(x)在Φ中连续情形下的最佳平方逼近函数。5.4.2最佳平方逼近函数s*(x)的求法

下面仅介绍连续情形下s*(x)的存在性及具体求法，离散情形具有同样结论。

求最佳平方逼近函数

的问题转化为求它的系数ai*(i=0，1，2，…，n)，使得多元函数取得极小值，也就是点(a0*，a1*，…，an*)是F(a0，a1，…，an)的极小值点。由于F是关于a0，a1，…，an的二次函数，利用多元函数求极值的必要条件(k=0,1,2,…，n),即

(k=0，1，2，…，n)

于是有方程组

(k=0，1，2，…，n)应用内积记号

方程组(5.2)可改写为这是一个包含a0，a1，…，an的n+1个未知量的线性代数方程组，写成矩阵形式为

(5.3)此线性代数方程组称为求a0,a1,…，an的法方程或正规方程组。由于φ0，φ1,…，φn线性无关，故(5.2)式中的系数行列式

detG(φ0，φ1，…，φn)≠0

于是线性代数方程组(5.3)有唯一解ak=ak*(k=0,1,2,…，n)，从而证明了函数f(x)在Φ中最佳平方逼近函数是存在的，并且得到下面来证明s*(x)就是最佳平方逼近函数，即对任何s(x)∈Φ(x)，都有

为此只要考虑由于s*(x)中系数ai*满足(5.2)式，因此

(k=0,1,2,…，n)

而

所以从而有

这就证明了s*(x)是f(x)在Φ中最佳平方逼近函数和s*(x)的存在唯一性，同时，也提供了求最佳平方逼近函数的方法，即只要利用法方程((5.3)式)求出ai*(i=0，1，2，…，n)，即可得

例5.3设，求［0，1］上的一次最佳平方逼近多项式。

解取

φ=span{1，x}，［a,b］=［0,1］，

ρ(x)=1，φ0=1，φ1=x

则有法方程组为

解得a0=0.934，a1=0.426，故由此例可推广:若取φi(x)=xi(i=0,1,2,…，n)，ρ(x)=1,区间为［0,1］，则当f(x)∈C［0,1］时,f(x)在Φ=span{1,x1,…，xn}=pn(x)上的最佳平方逼近多项式为

此时相应法方程(5.3)式的系数矩阵记为称为n+1阶希尔伯特矩阵，再记a=(a0，a1，…，an)T，b=(b0，b1，…，bn)T，于是法方程为Hna=b，解此方程组得ai=ai*(i=0，1，2，…，n)，可得

在最佳平方逼近函数中，令δ(x)=f(x)－s*(x)，则称

为最佳平方逼近误差，而称‖δ‖2为均方误差。由于(f－s*,s*)=0,因此

注：用{1,x,…，xn}做基，求最佳平方逼近多项式时，当n较大时，系数矩阵为希尔伯特矩阵。直接求解方程是相当困难的，通常由正交多项式做基来构造逼近函数。5.4.3正交多项式作基函数的最佳平方逼近

若Φ=span{φ,φ1,…，φn}，φ0，φ1，…，φn，为一组正交函数基，在区间［a,b］上关于权函数ρ(x)有此时，法方程(5.3)式中的系数矩阵变为对角阵，即

易求解得于是最佳平方逼近函数为

(5.4)

平方逼近误差为若{φk}(k=0，1，2，…，n)是标准正交函数系，即(φi，φi)=1(i=0，1，2，…，n)，则此时

误差为

在这种情况下，所求最佳平方逼近函数的表达形式更简单。下面看一个特殊情形，设［a,b］=［－1,1］，ρ(x)=1,取［－1,1］上的正交多项式为勒让德多项式pn(x)，则有

φ0(x)=p0(x)，φ1(x)=p1(x)，…，φn(x)=pn(x)

由式(5.4)可得：对［－1,1］上的连续函数f(x)，最佳平方逼近多项式为其中,

且平方误差为

注：这样得到的最佳平方逼近多项式s*(x)与直接以

{1,x,…，xn}为基而得到的s*(x)是一致的，但此处却不需要求解法方程组(5.3)。

如果所给区间不是［－1,1］，而是一般区间［a,b］，想要使用勒让德正交多项式作为基函数来求最佳平方逼近多项式，可做变换

例5.4求f(x)=lnx，x∈［1,2］上的二次最佳平方逼近多项式及平方误差。

解利用勒让德正交多项式，做变换

(－1≤t≤1)，于是有

f(x)=lnx=ln(3+t)－ln2

令

g(t)=ln(3+t)－ln2求g(t)在Φ=span{p0,p1,p2}中的二次最佳平方逼近，其中p0=1,p1=t,p2=是［－1,1］上关于权函数ρ(x)=1正交的多项式，于是有从而g(t)的最佳平方逼近多项式为

关于变量t的平方误差为f(x)的最佳平方逼近为

s*(x)=－1.142989+1.382756x－0.233507x2

关于变量x的平方误差为

当然，除用勒让德正交多项式系外，我们也可用切比雪夫、拉盖尔等其他正交多项式系求解最佳平方逼近问题。

5.5曲线拟合与最小二乘法

在科学实验中，我们常可得到一组数据(xi，yi)(i=1，2，…，n)，希望从这组数据(xi，yi)出发，构造一个近似函数φ(x)，不要求φ(x)完全通过所有的数据点，只要求所得

到的近似曲线能反映数据的基本趋势。换句话说，就是求一条曲线，使数据点均在离此曲线的上方或下方不远处，所求的曲线称为拟合曲线，这样的问题称为曲线拟合问题。在对给出的实验(或观测)数据(xi,yi)(i=1，2，…，n)作曲线拟合时，怎样才算拟合得“最好”呢？一般希望各实验数据点与拟合的偏差的平方和最小，这就是最小二乘法的

原理。其中，偏差是指拟合曲线φ(x)与已知曲线y=f(x)之差，记为δ=φ(xi)－f(xi)，亦称在(xi，yi)点的拟合残差。5.5.1最小二乘曲线拟合问题的求解及误差分析

条件：已知y=f(x)的一组数据点(xi，yi)(i=1，2，…，m)，取定函数空间为Φ=span{φ0，φ1，…，φn}，其中φ0，φ1，…，φn线性无关。ωi=ω(xi)为点(xi，yi)处的权函数。

问题：求φ*(x)∈Φ，使拟合残差δi=φ*(xi)－yi(i=1，2，…，m)的平方和最小，即

最小。求解：在曲线拟合中，作线性组合，设拟合曲线为

要使

最小，由多元函数I(C0,C1,…，Cn)取得极值的必要条件得即

(j=0，1，2，…，n)

应用离散情形内积记号，上式改写为

(j=0，1，2，…，n)或写成矩阵形式为

(5.5)此方程称为最小二乘曲线拟合的法方程组或正规方程组。(5.5)式的系数矩阵是φ0,φ1,…，φn的克莱姆矩阵Gn+1，因φ0，φ1，…，φn线性无关，从而det(Gn+1)≠0，(5.5)式有唯一解C0，C1，…，Cn，说明可得唯一函数

φ(x)=C0φ0(x)+C1φ1(x)+…+Cnφn(x)

即为所求f(x)的最小二乘解。由以上讨论可得：

(1)给定数据点(xi，yi)(i=0，1，2，…，n)，在函数空间Φ=span{φ0，φ1，…，φn}(其中,φ0，φ1，…，φn线性无关)中存在唯一函数，它是已知函数f(x)的拟合曲线。

(2)最小二乘法的拟合曲线系数C0，C1，…，Cn可由法方程(5.5)式得到；

(3)拟合的平方误差为在曲线拟合中，函数类可有不同的选取方法，当取φi(x)=xi(i=0,1,2,…，n)时，相应地法方程(5.5)式变为

其中,权ωi=ω(xi)，∑表示。此时，称为数据拟合多项式，这种拟合称为多项式拟合。5.5.2多项式拟合的求解过程

多项式拟合的求解步骤：

(1)由已知数据点画出函数粗略图形——散点图，确定拟合多项式次数；

(2)计算内积(φj,φi)(i,j=0，1，…，n)及(f,φj)(j=0,1,…，n)；

(3)写出法方程组，求得C0,C1，…，Cn；

(4)写出拟合多项式

φ(x)=C0+C1x+C2x2+…+Cnxn

例5.5已知一组实验数据如表5.1所示,求最小二乘拟合曲线。

解根据所给数据点，如图5-5所示，可选线性函数作拟合，即φ(x)=C0+C1x。图5-5设φ0=1，φ1=x，则

代入法方程组(5.5)式得

解得C0=2.77，C1=1.13，则所求最小二乘拟合曲线为φ(x)=2.77+1.13x。有的非线性拟合曲线可以通过适当的变量替换转化为线性曲线，从而用线性拟合进行处理，按线性拟合解出后再还原为原变量所表示的曲线拟合方程。如当y=aebx作为拟合

函数时，取对数lny=lna+bx，令Y=lny，c0=lna，c1=b，则Y=c0+c1x称为线性模型。表5.2列举了几类经适当变换后化为线性拟合求解的曲线拟合方程及变换关系。

例5.6已知一组试验数据如表5.3所示，试用最小二乘法确定拟合公式y=axb中的参数a和b。

解取权函数ω(x)=1，对y=axb两边取对数得

lny=lna+blnx

令Y=lny，c0=lna，c1=b，X=lnx，则拟合函数转变为Y=c0+c1x，所给数据转化为如表5.4所示。由于Y=c0+c1x为一次多项式，得法方程组为即法方程组为

解得c0=1.1098,c1=－1.9957,因而拟合曲线为Y=1.1098－1.9957X，又

y=eY=e1.1098-1.9957X=e1.1098·e-1.9957lnx=3.0338x-1.9957

从而a=3.0038,b=－1.9957。5.5.3正交函数系的最小二乘曲线拟合

在线性空间Φ=span{φ0，φ1，…，φn}上求解最小二乘曲线拟合问题，经常会出现法方程组是病态方程组的情况，特别在n≥7时更是如此。在求解法方程组时,系数矩阵或右端项微小的扰动都可能导致解函数有很大的误差，为避免这种情况发生，通常用改变Φ中的基函数φ0,φ1，…，φn的方法来解决，其做法是选择一组特殊的基函数，如标准正交基，使法方程组系数矩阵Cn+1变为对角阵。假设函数系{φ0,φ1，…，φn}是关于点集{x1，x2，…,

xm}，且对带权函数w(xi)(i=1,2,…，m)正交的函数系，即其中,，则法方程组(5.5)化为求解得

(k=0,1,2,…，n)

故由此推得平方误差估计式为

在实际应用中，我们常用最高系数为1的正交多项式系{p0(x),p1(x),…，pn(x)}来代替正交函数系{φ0(x),φ1(x),…，

φn(x)}，从而有由正交多项式递推关系式得最高次项系数为1的正交多项式系{pk