信息论与编码课件第4章

自古以来，许多数学家都在探讨数学的数学家们经常依据数学各领域间潜在的共性出统一数学各部分1872家克莱几何、非欧几何包括几何和几何等83年数学家提“格”以公理系统作为数学统一的基础1938年法国学派不但继承了公理化运动的常抽象的方式叙述全部数数学的们认为整个数学学科的宏伟可以建立还有群论、环论、域论、格论、代数、代数后来路设计、自动化系统、象代数的有下面我们就把抽的几个基本概念作一个很粗浅的介绍数结构——群、环、域一.集合元素：组成一个集合的各个，叫做这个子集两个集合ABA中的每个元素又都是B中的元素，则AB的子AB B真子集

B

B中至少有一个素不属于A，则称AB的真为 AB B空集：不含任何元素的集合，用Φ表示相等

AB

且B

：A=BA,BU（U为全集则定义交集：A∩B={x│x∈U,(x∈A)∧(x∈B)}，称为A,B的交。并集：A∪B={x│x∈U,(x∈A)∨(x∈B)}，称为A,B的并。余集：A\B={x│x∈U,(称为BA中的余

补集A=UU\B又称为B的补B的补。映定义AB是给定的两个集合。如果有一个规f，通过它x∈A唯一确个映射，记为f：A→BA叫做f的定义域，B叫做f的值域，y是在f作用下的表示xy的一个原象。数结nX是一个集合f是一个映射，f：Xn→XfX中的n元运算。对于n=1来说，f：X→X称为一元运算。对于n=2来说，f：X2→X称为二元运算。二元运算是一般代数系统中主要讨论的运给每一个n（n重序（或序偶x也属于集X.4-1对于整IR来中不存在x/0的象点。求相反数的运元运算以集合作为元素交集定义由集合和集合中的n元在n元运算的定义了封闭性4-2在正整数的加法和乘法作用之下，半群S是一个非空集合，*S的二如果运算*数xyzS(x*y)*zx*(y*z)，则代数系统<S,*>是个半群。4-3N是自然数集合，于是代数系<E><E>4-4所有n阶矩阵的集合对于矩阵的加法与乘法都可构成半群4-5设任意实Ra

b2a＋3b，则<R,

>就不是半群。因设<G,*>是一个代数系统。如果对的二元运算*能够满足下列三个条件,*(y*z)=(x*y)*z恒等性等元e∈G对于任x∈G,x*e=e*x=（e又称为幺元素x－1∈G能使：x－1*x=x*x－1=则称代数系统<G,*>若群<G*>中的运算*是可交换的，则称<G,*>是交换群或（Abel）群。可交换性：xy∈Gx=y*x4-6I是整元代数＋>是一个群同时又是群4-7N是自然数集合，I是整数集合，代数系统<N,＋>和<I,×>不是群为它们不满足可逆性4-8在数的加理数构成4-9数域Ω上的所m×n阶矩阵，Am×n.4-10数域Ω上的所有次数≤n的多项4-12Q是有理数集（记\代数系统<Q\0,×>群，也是个乘法群子群设<G,*>是一个群，若有非空集S

，对于群<G,*>中的运算*仍构一个群<S*>，则称<S*>是<G*>的子“64-14设<G,×>是一个群a∈G，则a的所有整数幂，即对i∈I，ai∈G，于是a的所有整数幂的集A构成的群<A,×>，是<G,×>的子群。给定一个代数系统<R,＋,·>，如果对<R,·>是个半群可分配的，即对于任何a,b,c∈R,有a·(b＋c)=a·b＋a·c,(b＋c)·a=b·a＋c·a则称代数系统<R,＋,·>4-15在一般的数的加法和乘法下，整n阶矩阵可构成一个环。交换环设<R,＋,·>是一个环，0一个环，则R0R的子环。和“·是意味着一般的加法；并把加法幺元叫做零元素，记作0；把乘法幺元叫做单位元素，记作1（如果有乘记作－a；把乘法逆元叫做逆元素,记作a－1(如果有乘法逆元的话)理想R是个交换环，R0R的一个子环a∈R0r∈Rra∈R0，则称R0R的一个理想。<F,＋,>≥（≥2个元素，如果F中的每一个非零元素都具有一个乘法逆元，则称<F,＋,·>是一个域若对二元运“＋”“·满足下面三个<F,＋>是群<F\0,·>是个群（其中F\0F中所有非0的集合，0＋的元有限域元素个数为有限数的域称为有限域，又叫伽（Galois域。相似地，可定义有限群和有限环例4-17代数系统<F2,＋2,×2>是有限F2={01}运算＋2和×2，由下01001110010001010＋20=0，0＋21=1,1＋20=1，1＋21=0,0×20=0，0×21=0,1×20=0，1×21=1.例4-18代数系统<N3,＋3,×3>是个有012001211202201012000010122021“2－1=2在上述例中，＋2和×22加法“模23和×3分别称3加法”和3p运p是所有小于p的非负整数所组成的集合Fp={0,1,2,…,将规定Fp中的加法和乘p运算Fp成为域。先引进一个记号：(a)b——表示用b去除a=qb＋r，0≤r＜│b│，则：(a)b=r.a,b∈Fpab的和（记作：a⊕b）与积（记作通常称⊕为p加法，称p乘法。下面证明Fp对于⊕和⊙是个有限域。为此先要介绍一个定理和两个引理定理4-1一次同余定理（孙子定理并设q是它们的最大公因定可以找到rc1c2,,cr,q=c1m1＋c2m2＋…＋crm设一酒瓶盛满后整整一斤酒（10两有两个酒杯3两的7能否把酒分5两答案是肯定同余m1=3，m2=7因为它们的最大公约数q=1因此一定可以找到整数c1c2，使下式成立：c1m1＋c2m2=即：3c1＋7c2上式说明，对于3和7，存在一个线性组合，使运算1.也就是说，用上述两到一个1五个1两。所以，平分一斤酒是可能的二，五五数之剩三，七七何——孙子算经（公3~5世纪后来《算法统综》公元1583年）七子团圆正月半，除百零引理4-1a,b,p都是整数(a±b)p=((a)p±(b)p)p(ab)p=((a)p·(b)p)p4-2a,b,p都是整数也就是说ab对于p同余－b)，反之亦然注：p│(a－b)表示(a－b)被p整除有了以上准备，现在就来证明：代数系<Fp,⊕,⊙>是个有证封闭Fp对于⊕和⊙是封闭的。交换 a＋b=b＋a，ab= (a＋b)p=(b＋a)p，(ab)p=即：a⊕b=b⊕a，a⊙b=b⊙a，交换率成结合由1有：p运算的定义得到(a⊕b)⊕c=a⊕(b⊕c)(a⊙b)⊙c=即结合律成立分配由模p运算的a⊙(b⊕c)=(a(b＋c)p)p又由引4-1：(a(b＋c)p)pa(b＋c))p因为整数的乘法运算和加法运算符合分配∴(a(b＋c)p)p=(ab＋ac)p=((ab)p＋(ac)p)pp运算的定义((ab)p＋(ac)p)p=a⊙b⊕a⊙a⊙(b⊕c)=a⊙b⊕a⊙即分配律（这里的运算顺序为先恒等先证有零元素因此 a⊕0=(a＋0)p=(a)p=同样可证：Fp中有单位元素1，具有性质a⊙1a，对任a∈Fp这里的01分别为加法幺元和乘法幺元可逆先证有加法a∈Fp(pa)p显然有a⊕(p－a)p=(a＋(p－a)p)p=(p)p=(p－a)pa的加法逆元（也叫负元素。素数，∴ap的最大公约数(a,p)=1.使：1=ca＋dp.即 ((ca＋dp)－ca)p=4-2(ca＋dp)p因此有 1=(1)p=(ca＋dp)p=仍由引4-1，有(ca)pac)pa再根据⊙的(a(c)p)p因此 1=这表明p中有元素(c)p是a的乘法逆（也叫逆元素证明了<Fp,⊕,⊙>是一个Fpp个元素，p是有限数<Fp,⊕,⊙>是个有限域p2时，F2可构成二元域，它仅含01两个正是我们在讨4-17中给出。这里值得注意的是m不是素数时,可以证数系统<Fm,⊕,⊙>不是域。Fm={0,a⊕b=(a＋b)m，a⊙b=(ab)m例如m=4时，F4={0,1,2,3}不是域.24的最大公约数(242F4中找不2<F4,⊙>不是域量空间和矩阵一.向量空间这是三。因为我们的是三维的，成空间。这第四个“方向”不是别的，维几何空间的的确确是在沿着时间轴移动通过上面的分析,我们可以抽象出一些具来表示。比如，立体空间中的第三维“z方xy方向来表示的。我们说念推广到向量空间中，可以想象，由来表示，或n维向量来表示。空间中的一个向量可以表AxAyAz的取值范围为全体A AkAAAAx Ay

可以把一个n位长的码字表nM=(m1m2…mn其中：m1,m2,…,mn取值范围只能是0当码长为3们可以用几何图形来4-1三维向量空离散的点所构成的。可以想象，这样的n维向量空间是由2n个离散的点构成的mi只能在F2={01}上取值；其运算规则也只能是前面所介绍的模2下面我们就给向量空间下一个严格的定a(u＋v)=(a＋b)u=a(bu)=1·u=uVF上的一V的元素为F上的向量。上述四条是关于向量的纯量乘则例4-22在普通向量的加法及数与向量一条直线上的所有向量以及单独一个零向4-23Fn（n元列）构F上的一个向量Vn4-24F上的齐次0，在F上的所有解，构成F上的一个向量空间，称为该方F上的解空间。4-25F上的所m×n阶矩阵构Vn.4-26数域F上的所有f(x)构成F上的一个向量空间；所有次数≤n的多项式也构F上的一个向量空间。所有可积函别构成实数域R上的向从上面这些可以看到向量空间的论，能广泛地应用到很多方面去定义V是数域F上的一个向量空间，SV作为加法群时的一个子群S在原有的纯量乘法下也是F上的一个向量空间，则SV的一个子空间。4-21复数作为有理数域上的向量空间的子空间22中的向量空间都是其中第一个向量空间4-24A=Am×n时，解空间4-23Vn4-26中的两个向量空间都是第一个向量空间的子4-27子空间的简捷判断法F上的向VSV的一u∈Sau∈Sa∈F底和维基底e1e2,…en线性无关，而V中每个向量均可由它们e1,e2,…,enV的一个基底。维数如果V有一个基底，且此基底含n个向量，则VF上的n维向量空则说VF上的无限维向量空间。定理4-2设(v1,…,vn)=(e1,…,en)P，则v1,…vn也构成P非奇(e1,…,en)=(v1,…,性变定义σF上向量空V的一个变换，a∈F，u,v∈V，σ具有性质：σ(u＋v)=σ(u)＋σ(v)σ(au)=a则说σV的一个线性变换因为一个向量空间是由它的基底向量所假如(v1,v2,…,vn)V的一个基，(v1′,v2′,…vm′)是V′的一个基是V到V′σ可由唯一确定一m×nA(aij)m×nσ(vA(vv′，其中；v=(v1,v2,…,vn)Tv(v1′,v2′,…,vm′)T.矩阵A称为线性变换σ的m×n阶矩阵间形成了一个一一对应关系。a≠0i行（列i行（列）的μj（列互换矩阵的i,j两行（列五.对偶空间（正交补空间nv=(v1,v2,…,vn)，u=(u1,u2,…,un)，nuivi若i若对偶空间设n维向量空间的两个子空间AA*，维数分别为kr，且kr=n.A中的每一个向量都A*中所有的向量相正交，则AA*互为对偶空间。Vk互为对偶空间。例如几何空间中，XY平面与Z轴互为对偶空间。项式及多项式域一.多项式的基本概念以构成一个以看成是数F上的一所有定义在数域F上的次数≤n可由下式给出n n 1 0axn＋ xn－1n n 1 0其中：ai∈F，(i=012…n)，F为任意为：f(x),g(x),h(x),…等。f(x)g(x)Fx的两个多项说f(x)g(x)相等，或者f(x)g(x)是同一个多项式。记作：f(x)=g(x).如果f(x)的首项系数an≠0我们就说fn次多项式。记作f(x)f(x)0时，我们就f是零多项式0代表它,并规定0Fx的多项式的全体所组成的nnif(x)aiii

mmi，g(x)biiif(x)g(x)F[x]中任意两个元素，Mmax(mn＜M，则an＋1an＋2=aM0；若m＜Mbm＋1bm＋2=bM0MMif(x)aiii

MMi，g(x)biiiMf(x)

g(x)(aii

)xi我们按下式f(x)g(x)的和，记作：显然，f(x)＋g(x)∈F[x]，即F[x]对于上面=bm＋1=bm＋2=…=bm＋n=0，若n≥1inif(x) aii

mi，g(x) biii我们按下式来规定f(x)与g(x)的积nm f(x)g(x)ajbijxi0j f(x)g(x)maxff(x)g(x)f(x)g(x)进一步还可以证明上面所规定F[x]中满足乘法运算的可逆性。例如，xF[x]中就没有逆元素。事实上，假设f(x)∈F[x]是x的逆元素x·f(x)=e（eF[x]中的乘法幺元但

f(x)

e

所以这是不可能的。因此，F[x]不是域项式a(x)b(x)F[x]中的两个多项式，且b(x)≠0F[x]中有唯一的一对多项q(x)r(x)具有下面性质：a(x)q(x)b(x)r(x) ，r(x)r(x)=(a(x))b)(a1(x)±a2(x))b(x)=(a1(x))b(x)±(a2(x))b(x)(a1(x)·a2(x))b(x)=((a1(x))b(x)·(a2(x))b(x))b(x)最高公因式仿照整数的最大公因数a(xb(xf(x)∈F[x]，fx)fx)既是ax)的因式，又是bx)的因式，我们就f(x)a(x)b(x)的公因a(x)b(x)不等于0因式中就有一个次数最高的而首项系e的（e为F中的乘法幺元它叫a(x)b(x)的最高公因式。记作：(a(x),b(x)).与整数的情我们也可以用辗转a(x)q1(x)b(x)b(x)q2(x)r1(x)r1(x)q3(x)r2n3

qn1(x)n( qnx)

rn1(x)qn1()(x))=k－1rn(x)多项式的一次同余定理与整数的一定理4-3F是域a(x)b(x)F[x]0的多项式，那么a(x)b(x)的最高公因式也可表示a(x)b(x)F(a(x),b(x))=c(x)a(x)＋d(x)b其中，c(xd(x)∈F(xb(x))a(x)0 b(x)a(x)

kb(x)

(kFc(x)d(x)

(a(x),b(x)) (a(x),b(x)) 若a(x)和b(x)互素，即(a(x),b(x))=e，那么由上述结论一定有F[x]中的多项式c(x)和d(x)使 e=(x)a(x)＋d(x)b更进一步

a(x)

，b(x)则有：c(x) ，d(x)不可约多项式仿照正整数中素数的F是个域，p(x)F[x]中的一个次数≥1的多项式，p(x)F[x]中的因式p(x)(k∈,k≠0)是F[x]中的一个不可约多项式否则p(x)就F(x)中的可约多项式。表示成（或分解成）F[x中两个次数的多项式的

式的可约与不可约的念是和域的概念密切相关的定理4-4F上任一次数≥1f(x)都可以F[x]中一些不可约多项式f(x)=p1(x)·p2(x)…pr(x)=(x)·…·qs方法，那么rs，并且适当重排因pi(x)=ciqi(x),(i=1,2,…,其中ci∈Fci≠0定理4-5（定理）设f(x)是F[x]的多项式，而α∈F，那么用一次多项式(x－α)去除f(x)所得的余式是F中的元素f(α)证：用(x－α)f(x)，设所得的商q(x)Fc，f(x)=(x－α)q在上式中，令x=α，得 f （毕如果f(x)x=αf(x)0α就叫f(x)系理4-1f(x)F[x]中的多项式，4-2f(x)F[x]n次多项式，f(x)Fn个两两相异的根三.多项式的模p(x)运构造了一个含p个元素的在我们平行地F[x]中的一个不可约多项p(x)来构造一个F[xp(x).式F[xp(x)表示F[x]所有次数＜n的多F

={a＋ax＋a xn－1│ap F,i=0,1,…,n－1a(x)b(x)∈F[xp(x，我们仿照§4-1a(x)b(x)的和与积如下，a(x)⊕b(x)=a(x)＋b(x)a(x)⊙b(x)=(a(x)·b(x))p分别称⊕，⊙为px)的加法和p(x)p(x)对于上面所规定的加法运算和乘法运算在证明中要用到下面的引理4-3，它与§4-14-2相对应。引理4-3f(x)F[x]中的一个≠0的多项式，那么(a(xf(xb(xf(x)的充要条件是f(x)│a(x)－b(x).定理4-6有限F中有q个元这q个元素中的任一个。因此，由可重复排列的理论可知，F[xp(x)就是一个含qn个给定的素数，p(x)Fp[x]中的一个n次不可约多项式，那么，这时Fp[xp(x)就是一个含有pn个元素的有Fp作为它的子Fp[x]中零次多项式的全对上述结论的证明与§4-1中关于Fp对模p运算是一个域的证明完全类似。这里我们F[xp(x)对于⊙也具有可逆性，即设f(x)∈F[xp(x，总存在一个(f(x))－1∈F[xp(x)，f(x)⊙(f(x))－1=其中ff(x)∈F[xp(x)有(f(x),p(x))=由本节的性3可得e=c(x)f(x)＋d(x)p其 c(x),d(x)∈F[x]

所 c(x)∈F[x]p(x)对上述等式以p(x)为模求(c(x)f(x))p(x)= c(x)⊙f(x)=由定义可知，c(x)就是f(x)的乘法逆元。（证毕例4-28设p=2，Fp[x]p(x)中的多p(x)=注：这里的乘法和加法均为模p运算。为简略，或用“·”表示。下同。因为，p(0)10p(110,所以p(x)在F2中没有根。又因p(x)是二次的，所以在F2域上的任何二次多项式都只能有两个一次的因式(x＋1)xp(x)10p(x)F2[x]中的不可约多项式。根据Fp[xp(x)的构成法，F2xx2＋x＋1是含F2[x]x2＋x＋1={a0＋a1x│a0,a1∈J2其中，a0a101F2xx2＋x＋101,x⊕0⊕01x001101101x◉01x00000101xx0x101x由于该多项式域中多项式的系数是定义在F2上的，在模2运算中（1＋1）0.所x＋x=(1＋1)·x=0·x=0值得注意的是，多项式p(x)与所给定的F有关的。例如，在上例中=F2，那么，p(x)=x2＋x＋1就是一个不可约多项式。但当FF3时，p(xx2＋x＋1就不是一个不可约多项式因为在F3上(4)3= p(x)=x2＋x＋1=因此它是可约多项式一.近世代数也叫抽象代数，是研究代数二.由集合和集合中的一个或多n元运算所组成的系统称为代数系统或代数结构。三.给定一个非空集合G，并在其中规定逆性，则此代数系统为群；若再满足此代数系统就是一个交换群或称尔群四.在非空集合R中规定两种运算＋和·，若<R,＋>是个群R,是个半群，统<R,＋,·>是一个环。五.在非空集合F中规定两种运算＋和·，若<F,＋>是个群，<F\0,·>也是个群（F\0F中所0元素的集合，0为加法幺元对运算＋是可分配的则称代数系统<F,＋,是一个域。六.群、环、域是基本的代数结构，它们七.p，并设集合Fp={0,1,2,…,p－1}Fp在通常的乘法和加法运算不能构成域，p加法p有限域。这两种模p运算的定义如下a⊕b=(a＋b)p，a⊙b=记号(a)p表示用p去除a所得的余数编码理论中最常用的是二元域<F2,⊕,⊙>八.F是一个数域，V是一个加法群，a(u＋v)=(a＋b)u=a(bu)=1·u=u其中：ab∈F；uv∈VVF上的一个向量空间，并V的元素为F上述四条是关于向量的九.V是数域F上的一个向量空间，SV作为加法群时的一个S在原有的纯量乘法下也是F的一个向量空则说SV的一个子空间。关的向e1e2,…,en线性表示，则n个向量构成V的一个基底，并且说Vn维. 底的线性变换来完个线 ui im×n阶矩阵相对σiV′的线性变换，则存在一个A，使得σ(v)=A(v)A为线性变换σ的对应矩十二.v=(v1,v2,…,vn)