线性方程组的迭代法

关于线性方程组的迭代法引言直接法是通过有限步运算后得到线性方程组的解,解线性方程组还有另一种解法，称为迭代法,它的基本思想是将线性方程组Ax=b化为

x=Bx+f

再由此构造向量序列{x(k)}:

x(k+1)=Bx(k)+f若{x(k)}收敛至某个向量x*,则可得向量x*就是所求方程组AX=b的准确解.线性方程组的迭代法主要有Jocobi迭代法、Seidel迭代法和超松弛(Sor)迭代法.第2页,共35页，2024年2月25日，星期天迭代法的特点

若在求解过程中xk

x*(k)，由xk+1=(xk)产生的迭代xk向x*的逼近，在数次迭代求解之后，由于机器跳动产生的xk值误差或是有效数字产生的舍入误差，都会在第k+1次迭代计算中自动弥补过来或逐步纠正过来。因此，在迭代求解过程中产生的各种误差是可以忽略的，即迭代求解无累积误差，实际上，xk只是解的一个近似，机器的舍入误差并不改变它的此性质。

迭代过程中经常要遇到向量范数，矩阵范数以及序列极限的概念。为此，下面先介绍这方面的知识和有关概念。

单击此处即可第3页,共35页，2024年2月25日，星期天几个基本概念及性质1.向量范数：

对任一向量X，按一定规则确定一个实数与其相对应，该实数记为||X||，若||X||满足下面三个性质：（1）||X||

0，||X||=0当且仅当X=0。（2）对任意实数

，||

X||=|

|||X||。（3）对任意向量YRn，||X+Y||

||X||+||Y||。则称该实数||X||为向量X的范数2.矩阵范数：设A是NN阶矩阵，定义||A||=Max

（||AX||/||X||）=Max||AX||x0,xRn

||x||=1,xRn

为矩阵A的(算子）范数。

||Ax||

||A||||x||第4页,共35页，2024年2月25日，星期天三种常用的向量范数：例：设x=(1,-4,0,2)T求它的向量范数第5页,共35页，2024年2月25日，星期天三种常用的矩阵范数：例：设A，求它的矩阵范数第6页,共35页，2024年2月25日，星期天矩阵范数的性质：（1）对任意非零矩阵A,有||A||恒为正数，当且仅当A=0，||A||=0.（2）||aA||=|a|||A||（a为任意实数）（3）对于任意两个阶相同的矩阵A，B恒有||A+B||

||A||+||B||.（4）对于与矩阵A有相同维数的向量X，恒有||AX||

||A||

||X||.（5）对于同阶矩阵A，B恒有||AB||

.||A||

||B||谱半径：

设nn阶矩阵A的特征值为

i(i=1,2,3……n),则称

(A)=MAX|

i|

为矩阵A的谱半径.

1

in矩阵范数与谱半径之间的关系为:

(A)

||A||.单击此处试做例题第7页,共35页，2024年2月25日，星期天5几个定理及定义设{x(k)}为Rn中的向量序列,x(*)为Rn中的向量对矩阵也有类似的结论

下一页第8页,共35页，2024年2月25日，星期天

如果矩阵A=(aij)满足 n|aii|>

|aij|i=1,2,……n,

j=1,ji

则称方阵A是严格(行)对角占优的.

a11a12a13…a1n

a21

a22

a23…a2n

A=……………=L+D+U

an1an3an4…ann-421例矩阵A=1-972-610ULD第9页,共35页，2024年2月25日，星期天Jacobi迭代一：设有方程组

a11x1+a12x2+····+a1nxn=b1a21x1+a22x2+····+a2nxn=b2

.....................

an1x1+an2x2+····+annxn=bn用矩阵表示：Ax=b（A为系数矩阵，非奇异；b为右端，x为解向量）}

上一页第10页,共35页，2024年2月25日，星期天假设aii0令cij=-aij/aii(ij)

gi=bi/aij,i=1,2,3,n

则

x1(k+1)=c12x2(k)+c13x3(k)++c1nxn(k)+g1

x2(k+1)=c21x1(k)+c23x3(k)++c2nxn(k)+g2。。。。。。。。。。。。。。。。。。。。。。。。。。。。

xn(k+1)=cn1x1(k)+cn2x2(k)++cn(n-1)xn-1(k)

+gn

Jacobi迭代格式若令

0c12c13…c1n

x1c210c23…c2n

x2BJ=……………x=..cn1cn3cn4…0xn

a11

g1

a22

g=g2易看出：BJ=D-1(D-A)=I-D-1,D=....

anngn

把方程组写成容易迭代的形式：{第11页,共35页，2024年2月25日，星期天Jacobi迭代公式第12页,共35页，2024年2月25日，星期天Seidel迭代法为了加快收敛速度，同时为了节省计算机的内存，我们作如下的改进：每算出一个分量的近似值，立即用到下一个分量的计算中去，即用迭代格式：这样所得的迭代法就称为Gauss-Seidel迭代法，也称为“异步迭代法”，简称为GS迭代法．利用Ax=b及A=L+D+U,其中D为对角矩阵,L,U分别为严格下，上三角矩阵．则有，GS迭代法的矩阵形式为:

第13页,共35页，2024年2月25日，星期天Seidel迭代法的具体形式Seidel迭代格式x1(k+1)=c12x2(k)+c13x3(k)++c1nxn(k)+g1

x2(k+1)=c21x1(k+1)+c23x3(k)++c2nxn(k)+g2。。。。。。。。。。。。。。。。。。。。。。。。。。。。

xn(k+1)=cn1x1(k+1)+cn2x2(k+1)++cn(n-1)xn-1(k+1)

+gn

假设aii0令cij=-aij/aii(ij)

gi=bi/aij,i=1,2,3,n

第14页,共35页，2024年2月25日，星期天．收敛性及误差估计Jacobi迭代和GS迭代格式可表述为统一形式:对于其收敛性，我们有如下定理：定理１：对任意初始向量x(0)及任意右段向量g，由此产生的迭代向量序列{x(k)}收敛的充要条件是证明：必要性：设｛x(k)｝收敛，其极限为x*，则第15页,共35页，2024年2月25日，星期天因上式对任意均成立，故Bk0(k

),(B)<1

充分性：设

(B)<1,则I－B为非奇异阵,且=0,所以有唯一解,记为则

定理２：若||B||<1,则迭代法收敛.推论１若满足下列条件之一：（１）第16页,共35页，2024年2月25日，星期天(2)(3)

则迭代法收敛。

推论2：如果A为严格对角占优阵，则其Jacobi迭代和Seidel迭代对任何初始向量x(0)都收敛。

推论3：如果A为对称正定阵，则其Seidel迭代对任何初始向量x(0)都收敛。

第17页,共35页，2024年2月25日，星期天下面给出

迭代法的误差估计定理３：若，则对迭代法有实用的第18页,共35页，2024年2月25日，星期天证明:第19页,共35页，2024年2月25日，星期天三．例题及求解例：用迭代法解方程组AX=b,其中[已知该方程的解为]

解：本题分别用简单迭代法（Jacobi迭代法）和GS迭代法来解(1)简单迭代法

第20页,共35页，2024年2月25日，星期天表１第21页,共35页，2024年2月25日，星期天第22页,共35页，2024年2月25日，星期天表2返回第23页,共35页，2024年2月25日，星期天四.相关程序设计原始数据（A,b)可用一个二维数组存储，也可将A用一个二维数组，b用一个一维数组分别存储，存储需要一个一维数组．程序中应方便地对迭代方法和终止条件的选择以及对初始向量和值的设置．在迭代过程中，为反映迭代情况，可设置一些中间数据的输出，如迭带次数，迭代向量，迭代残向量等．当然不需要每迭代一次都作输出．这可作为收敛情况或不收敛情况的分析．作为不收敛的判定，可设置一个大的整数，当迭带次数超过该数时作为不收敛处理．GS迭代法的计算公式为：第24页,共35页，2024年2月25日，星期天开始TFTFT第25页,共35页，2024年2月25日，星期天下面给出一个应用BASIC程序解方程组的例子：程序如下运行：5REMGAUSS-SELDEL10INPUTN,E,M20DIMA(N,N),B(N),X(N),Y(N)30FORI=1,TON40FORJ=1,TON50READA(I,J)第26页,共35页，2024年2月25日，星期天

60NEXTJ70READB(I)80NEXTI90FORI=1TON100READX(I)110NEXTI120FORK=1TOM130R=0140FORI=1TON150S=0160T=X(I)170FORJ=1TON

第27页,共35页，2024年2月25日，星期天180IFJ=1THEN210190P=A(I,J)*X(S)200S=STP210NEXTJ220X(I)=(B(I)-S)/A(I,I)230IFABS(X(I0-T)>RTHENR=ABS(S(I)-T)240NEXTI250PRINTK;”-”;:FORI=1TON:PRINT“X(‘;I;”)=“;INT((X(I)*100000+0.5)/100000;:NEXTI:PRINT255IFR<1THEN280260NEXTK..:第28页,共35页，2024年2月25日，星期天270PRINT“DREDAISHBAI”280 END290 DATA10,-1,-2,7.2300 DATA-1,10,-2,8.3310 DATA-1,-1,5,4.2320 DATA0,0,0 RUN ?3,10E-6,20返回第29页,共35页，2024年2月25日，星期天五.方法优缺点讨论

由以上例题的求解过程可明显看出GS迭代法的收敛速度比简单迭代法快，但对于任意给定的一个方程组分别用简单迭代法和GS迭代