概率论与数理统计复习笔记

1、概率论与数理统计复习第一章概率论的基本概念一.基本概念随机试验E:（1）可以在相同的条件下重复地进行；（2）每次试验的可能结果不止一 个，并且能事先明确试验的所有可能结果；（3）进行一次试验之前不能确定哪一个结果会出现.样本空间S: E的所有可能结果组成的集合.样本点（基本事件）:E的每个结果. 随机事件（事件）：样本空间S的子集.必然事件（S）:每次试验中一定发生的事件.不可能事件（：）:每次试验中一定不会 发生的事件.二.事件间的关系和运算1. A B（事件B包含事件A ）事件A发生必然导致事件B发生.2. A U B（和事件）事件A与B至少有一个发生.3. A A B=AB（积事件）事件

2、A与B同时发生.4. A- B（差事件）事件A发生而B不发生.5. AB= : （A与B互不相容或互斥）事件A与B不能同时发生.6. AB=:且A U B=S （A与B互为逆事件或对立事件）表示一次试验中A与B 必有一个且仅有一个发生 . B=A, A=B .运算规则 交换律结合律分配律 德？摩根律 A B = A BA B = A B三概率的定义与性质1. 定义 对于E的每一事件A赋予一个实数，记为P（A）,称为事件A的概率.(1) 非负性P(A) 0 ; (2)归一性或规范性P(S)=1 ;(3) 可列可加性对于两两互不相容的事件Ai,A2,(A iAj= , U j,i, j=1,2,)

3、,P(Ai U A2U )=P( Ad+P(A2)+ 2性质(1) P(：) = 0 , 注意：A为不可能事件 X P(A)=0 .有限可加性对于n个两两互不相容的事件 Al,A2,A n ,P(Ai U A2 UU A n)=P(Ai)+P(A2)+P(A n)(有限可加性与可列可加性合称加法定理)(3)若 A B,则 P(A) P(B), P(B- A)=P(B)- P(A).(4) 对于任一事件 A, P(A) 0).2. 乘法定理P(AB)二P(A) P (B|A)(P(A)0);P(AB)二P(B) P (A|B)(P(B)0).P(AiA2 A n)=P(Ai)P(A2|Ai)P(

4、A3|AiA2)P(A n|AA A n-i)(n 2,P(AiA2A n-i) 0)3. Bi,B2,B n是样本空间 S 的一个划分(BjBj二 ,iMj,i,j=1,2,n, BiU B2Uu B n=S)，则n当P(B i)0时,有全概率公式 P(A)八P Bi P ABii=1当 P(A)0, P(B i)0 时有贝叶斯公式 P(Bi|A)=P ABiP AP(Bj )P(ABj)n P Bi P A Bii =1六.事件的独立性1两个事件A,B,满足P(AB) = P(A) P(B)时，称A,B为相互独立的事件.(1) 两个事件A,B相互独立:P(B)= P (B|A).若A与B,

5、 A与B , A与B, , A与B中有一对相互独立，则另外三对也相互 独立.2三个事件 A,B,C 满足 P(AB) =P(A) P(B), P(AC)= P(A) P(C), P(BC)= P(B) P(C),称A,B,C三事件两两相互独立.若再满足P(ABC) =P(A) P(B) P(C),则称 A,B,C三事件相互独立.3. n个事件Ai,A2,A n,如果对任意k (1k n),任意iiii2i k n.有P Adj? 如 二P血P入 P Ak，则称这n个事件Ai,A2,A n相互独第二章随机变量及其概率分布 一 随机变量及其分布函数1. 在随机试验E的样本空间S=e上定义的单值实值

6、函数X=X (e)称为随机变 量.2随机变量X的分布函数F(x)=PX x , x是任意实数.其性质为：(1)0 F(x) 1-庐0=O,F( 乂)=1. (2)F(x)单调不减即若 XiX2，则 F(xi) F(x 2).(3)F(x)右连续，即 F(x+0)=F(x).(4)Px1XWx2=F(X2)-F(X1).二离散型随机变量(只能取有限个或可列无限多个值的随机变量)1离散型随机变量的分布律PX= x k= p k (k=1,2,)也可以列表表示.其性质为：qQ(1)非负性OW Pk 1 ； (2)归一性二 Pk = 1.k=12离散型随机变量的分布函数F(x)= Pk为阶梯函数，它在

7、x=x k (k=1,2,)Xk2处具有跳跃点,其跳跃值为p k=PX=x k.3三种重要的离散型随机变量的分布(1) X(0-1)分布PX=1= p ,PX=0=1 (0p1).(2) Xb(n,p)参数为 n,p 的二项分布 PX=k=pk(1 - pfk(k=0,1,2,n)Ik丿(0p0)k!三连续型随机变量1定义 如果随机变量X的分布函数F(x)可以表示成某一非负函数f(x)的积 分F(x)=二f tdt，- *0 ;(2)归一性 .二 f (x)dx=1 ;(3) Px iX 0).0 若X兰012 :特别，=0, ：2 =1时，称X服从标准正态分布，记为XN (0,1),其概率密

8、度t22dt21(x) = je 2w2兀，标准正态1分布函数 (x)=(3)XN ( J2 )参数为：,：的正态分布 f(x) - e 2二 -x0.：(-x)=1-(x).N (0,1), PxiX z = PZzCT72=:，则点z :,-z ； z -j2分别称为标准正态分布的上,下，双侧分位点.注意：(z )=1- : , z 1- = -z :. 四随机变量X的函数Y= g (X)的分布1. 离散型随机变量的函数Xx 1X2 x k p kp 1P2 p k丫=g(x)g(xi) g(x2)g(x k)若g(x k) (k=1,2,)的值全不相等 则由上表立得Y=g(X)的分布律.

9、若g(x k) (k=1,2,)的值有相等的贝师将相等的值的概率相加，才能得到Y=g(X) 的分布律.2连续型随机变量的函数若X的概率密度为fx(x),则求其函数Y二g(X)的概率密度fY(y)常用两种方法：(1)分布函数法 先求 Y的分布函数FY(y)二PY y=Pg(X) y= . y fx xdxk其中 k(y)是与g(X) 0 (或g / (x)0 ),则Y=g (X)是连续型随机变量,其概率密度为小)嘗:y其它其中 h(y)是 g(x)的反函数，：二 min (g (- ：),g ()= max (g (-：),g (J).如果f (x)在有限区间a,b以外等于零贝S二min (g,

10、g (b):二max (g(a),g (b).第三章二维随机变量及其概率分布一 二维随机变量与联合分布函数1定义若X和丫是定义在样本空间S上的两个随机变量，则由它们所组成的向量(X,Y)称为二维随机向量或二维随机变量对任意实数x,y,二元函数F(x,y)二PX x,Y y称为(X,Y)的(X和丫的联合)分布函数.2分布函数的性质(1) F(x,y)分别关于x和y单调不减.(2) 0 F(x,y) 1 , F(x,- ：)=0, F(- :,y)=0, F(-：,- ：)=0, F(：,：)=1 .(3) F(x,y)关于每个变量都是右连续的，即F(x+0,y)= F(x,y),F(x,y+0)

11、=F(x,y).对于任意实数x ix 2 , y iy 2Px iX x 2 , y iY y 2= F(x 2,y2)- F(X2,yd- F(xi,y2)+ F(xi,yj二二维离散型随机变量及其联合分布律1. 定义 若随机变量(X,Y)只能取有限对或可列无限多对值(x i,y j) (i ,j= 1,2,)称(X,Y)为二维离散型随机变量并称PX= x i,Y= yj = p i j为(X,Y)的联 合分布律.也可列表表示.2性质(1)非负性 OW p i j 0 . (2)归一性 .二二 f(x,y)dxdy 1 .c 2f (x y)x y若G为xoy平面上一个区域，则P(x, y)

12、 G二f (x, y)dxdy.G(3)若 f (x,y)在点(x,y)连续则 f (x, yp，四边缘分布1. (X,Y)关于 X 的边缘分布函数 Fx (x) = PX x , Y ：= F (x ,：).(X,Y)关于丫 的边缘分布函数 Fy (y) = PX :，丫 0,则称PX = Xi,Y= % _ 5PY 7p.,PX=x i |Y=yj为在丫二yj条件下随机变量X的条件分布律.同样，对于固定的i,若PX=x 0,则称PY二yj|X二x i= PX 二人,丫二 yj 乩为在X=xi条件下随机翳数学期望和方差的定义第四章 随机变量的数字特征随机变量X离散型随机变量连续型随机变量分布

13、律 PX=x i= Pi ( i =1,2,)概率密度f(x)数学期望(均值)E(X)Xi Pi (级数绝对收敛) i=10xf(x)dx(积分绝对收敛)方 差 D(X)=EX-E(X) 2-E(X)2 Pix E(X)2f(x)dx=E(X2)-E(X) 2(级数绝对收敛)(积分绝对收敛)函数数学期望E(Y)=Eg(X)oO g(xjBi =1级数绝对收敛)二:g(x)f(x)dx(积分绝对收敛)标准差：(X)二 VD(X).二数学期望与方差的性质1. c 为为任意常数时,E(c) = c , E(cX) = cE(X) , D(c) = 0 , D (cX) = c 2 D(X).2. X

14、,Y为任意随机变量时,E (X 士 Y)=E(X) 士 E(Y).D(X 士 Y)=D(X)+D(Y).3. X 与 丫相互独立时，E(XY)=E(X)E(Y),4. D(X) = 0 二 PX = C=1 ,C 为常数.三六种重要分布的数学期望和方差E(X)D(X)1.X (0-1)分布 PX=1= p (0p1)p (1- P)2. X b (n ,p)(0p1)n P (1- P)3. X：(：)4.XU(a,b)(a+b)/2(b-a) 2/12、25. X服从参数为：的指数分布6. XN ( :, ：2)四矩的概念随机变量X的k阶(原点)矩E(X k )k=1,2,随机变量X的k阶中

15、心矩EX-E(X)k随机变量随机变量X和丫的k+l阶混合矩E(X kY l) 1=1,2,X和丫的k+l阶混合中心矩EX-E(X) k Y-E(Y)第六章样本和抽样分布基本概念总体X即随机变量X ；样本X1 ,X2，,X n是与总体同分布且相互独立的随 机变量;样本值X1 ,X2，,x n为实数；n是样本容量.统计量是指样本的不含任何未知参数的连续函数如：1 n1 n 2样本均值- Xi样本方差S2- Xj - X样本标准差Sn i =1n 一 1 i f1 n样本k阶矩Ak = v Xjk ( k=1,2,) 样本k阶中心矩 n i=1 n kBk * -X)k ( k=1,2,) n i

16、=1二抽样分布即统计量的分布1. X的分布不论总体X服从什么分布，E ( X ) = E(X) , D ( X ) = D(X) /n .特别，若 X N ( J2)，则 X N (:： /n).n2. ：2分布 (1)定义 若XN (0,1 )，则Y八 Xi2 ：2(n)自由度为n的：2分布.i=1(2) 性质 若丫 ：2(n),则 E(Y) = n , D(Y) = 2n .若 Yi ：2(ni) Y2 ：2(n2)，则 丫什丫2 ：2(ni + n2).若 X N ( ：,：2),则(n1)S2 ：2(n-1),且X与S2相互独立.分位点若Y -2(n),0 ： 1 ,则满足的点2(n)

17、, f_ (n), 2/2(n)和f_ /2(n)分别称为：2分布的上、下、双侧：分位点.3. t分布X(1) 定义 若XN (0,1 ),Y ：2 (n)，且 X,Y相互独立，则t=t(n)自由度为x Y nn的t分布.(2) 性质n-K时,t分布的极限为标准正态分布.X _卩X N (：, ：2 )时,t (n-1).S. 5两个正态总体相互独立的样本样本均值 样本方差S12X N ( ：1, ”2)且】2= 22= 2 X1 ,X2 ,X n1Y N ( 2 ：22 )丫1 ,丫2,，丫 n22 2(X Y)(i *) t (ni+n2-2),其中 S务(山一皿十(n2 一 1)S211

18、叫 + n2 - 2SwJ_+_n1 n2分位点 若t t （n） ,0 V ,贝卩满足的点t：.（n）,-t.（n）, t./2（n）分别称t分布的上、下、双侧：分位点.注意:t 1- ： (n) = - t : (n).4. F分布 （1）定义若U：2（ ni）, V ：2仇），且U,V相互独立，则FU n=1 F(ni,n 2)自由度为(n应)的F分布.S12 S： 如心)V n2/a性质（条件同3.（2）22a12分位点若F F（ni m） ,0 : 1,则满足的点F.(m ,n2),(n1,n2),F /2(n1,n2)和/2(n1,n2)分别称为 F分布的上、下、双侧：分位点.1注

19、意：F_ (2)7；第七章参数估计一点估计 总体X的分布中有k个待估参数：i, 2,:k.Xi ,X2，,X n是X的一个样本，Xi ,X2，,x n是样本值.1.矩估计法卩 =4 （日日 e ）X =0 （卩卩 4 ）11（ 1， 2， k）11（1，2， k）先求总体矩 笃2（m 几）解此方程组，得到,D，!工二u：（b： ；：百；）百:二百：7工：卫；，L kkl 1， 2， ， k 丿 k kl 1， 2， ， k /r二4 =二 1( Ai, A? , Ak )以样本矩Ai取代总体矩：| ( 1=1,2，,k)得到矩估计量 七-2(A1,A2 ,Ak),I A 日 k =日 k( A

20、i, A?,，Ak )若代入样本值则得到矩估计值2最大似然估计法若总体分布形式(可以是分布律或概率密度)为p(x, 1, ：2,，：k),称样本nXi X，,X n的联合分布LC忻2, ,7)7 P(Xi宀户2,户k)为似然函数取i=1使似然函数达到最大值的 十厂2,厂k，称为参数：1, 2，:k的最大似然估计值， 代入样本得到最大似然估计量若L( ：i, 2,:k)关于-1, ：2,:k可微，则一般可由似然方程组 =0或 对数似然方程组二0 (i =1,2,k)求出最大似然估计3估计量的标准(1) 无偏性 若E(=)=:，则估计量称为参数：的无偏估计量.不论总体 X 服从什么分布,E (X )= E(X) , E(S2)=D(X), E(A k)= :k=E(Xk),即样 本均值X ,样本方差S2,样本k阶矩Ak分别是总体均值E(X),方