概率论与数理统计公式整理23292

1、第1章随机事件及其概率（1）排列 组合公式pm m!从m个人中挑出n个人进行排列的可能数。（m -n）! =m! 从m个人中挑出n个人进行组合的可能数。 n!（m _n）!（2）加法 和乘法原 理加法原理（两种方法均能完成此事）：m+n某件事由两种方法来完成，第一种方法可由m种方法完成，第二种方法可由n种方法来元成，则这件事可由 m+n种方法来元成。乘法原理（两个步骤分别不能完成这件事）：mx n某件事由两个步骤来完成，第一个步骤可由m种方法完成，第二个步骤可由n种方法来元成，则这件事可由 mx n种方法来元成。（3） 一些 常见排列重复排列和非重复排列（有序） 对立事件（至少有一个）顺序问题

2、（4）随机 试验和随 机事件如果一个试验在相同条件下可以重复进行，而每次试验的可能结果不止一个， 但在进行一次试验之前却不能断言它出现哪个结果，则称这种试验为随机试 验。试验的可能结果称为随机事件。（5）基本 事件、样本 空间和事 件在一个试验下，不管事件有多少个， 总可以从其中找出这样一组事件，它具有如下性质： 每进行一次试验，必须发生且只能发生这一组中的一个事件； 任何事件，都是由这一组中的部分事件组成的。这样一组事件中的每一个事件称为基本事件，用国来表示。基本事件的全体，称为试验的样本空间，用0表示。一个事件就是由 0中的部分点（基本事件 国）组成的集合。通常用大写字母 A, B, C,

3、表示事件，匕们是 C的子集。为必然事件，？为不可能事件。不可能事件（?）的概率为零，而概率为零的事件不一定是不可能事件；同理，必然事件（Q）的概率为1，而概率为1的事件也不一定是必然事件。（6）事件 的关系与 运算关系：如果事件A的组成部分也是事件 B的组成部分，（A发生必有事件 B发生）：A匸B如果冋时有 AUB , BA，则称事件 A与事件B等价，或称 A等于B：A=BA、B中至少有一个发生的事件：aUb,或者A+B。属于A而不属于B的部分所构成的事件，称为 A与B的差，记为A-B,也可表示为A-AB或者AB，它表示A发生而B不发生的事件。A、B冋时发生：A1 B,或者AB a B=?，则

4、表示 A与B不可能冋时发生， 称事件A与事件B互不相容或者互斥。基本事件是互不相容的。Q-A称为事件A的逆事件，或称 A的对立事件，记为 A。它表示A不发生 的事件。互斥未必对立。运算：结合率：A(BC)=(AB)C A U (B U C)=(A U B) U C分配率：(AB) U C=(AU C) A (B U C) (A U B) n C=(AC)U (BC)oOoon Ai =U Ai德摩根率：yi4B = aGB , ATB=aUb(7)概率 的公理化 定义设。为样本空间，A为事件，对每一个事件 A都有一个实数P(A)，若满 足下列三个条件：1 0 P(A) 1 ,2 P( Q )

5、=13 对于两两互不相容的事件A1 , A2，有0，则称P(AB)为事件A发生条件下，事P(A)件B发生的条件概率，记为 P(B / A) = P(AB)。P(A)条件概率是概率的一种，所有概率的性质都适合于条件概率。例如 P( Q /B)=1 二 P(B/A)=1-P(B/A)(13)乘法公式乘法公式：P(AB) =P(A)P(B/A)更一般地，对事件 A , A，A,若P(AAAn-1)0 ,则有P(A1A2 An) = P(A1)P(A2| A1)P(A3| A1A2) . P(An| A1A2 An _1)f 0(14)独立 性 两个事件的独立性设事件A、B满足P(AB) =P(A)P

6、(B),则称事件A、B是相互独立的。若事件A、B相互独立，且P(A) 0，则有P(B|A) = P(AB) = P(A)P(B) = P(B)P(A)P(A)若事件A、B相互独立，则可得到A与B、A与B、A与B也都相互独 立。必然事件0和不可能事件？与任何事件都相互独立。?与任何事件都互斥。 多个事件的独立性设ABC是三个事件，如果满足两两独立的条件，P(AB)=P(A)P(B) ; P(BC)=P(B)P(C) ; P(CA)=P(C)P(A) 并且同时满足 P(ABC)=P(A)P(B)P(C)那么A B C相互独立。对于n个事件类似。(15)全概公式设事件B1,B2,Bn满足1 B1,

7、B2,Bn两两互不相容，P(Bi)0(i =1,2，n),nA 匸 U Bi2 ,则有P(A) = P(B1) P(A| B1) + P(B2)P(A| B2) + +P(Bn)P(A| Bn)。(16)贝叶 斯公式设事件B1, B2 ,，Bn及A满足1 B1, B2，Bn两两互不相容，P(Bi)o, i=1, 2,，n ,nAuU Bi2yP(A)：0则P(Bi/A)P(Bi)P(A/Bi), i=1 , 2,r丄 P(Bj)P(A/Bj)jm此公式即为贝叶斯公式。P(Bi) , (i =1 , 2 ,，n),通常叫先验概率。P(Bi / A) , (i =1 , 2 ,，n),通常称为后验

8、概率。贝叶斯公式反映了 “因果”的概率规律，并作出了 “由果朔因”的推断。(17)伯努 利概型我们作了 n次试验，且满足每次试验只有两种可能结果，A发生或A不发生；n次试验是重复进行的，即A发生的概率每次均一样；每次试验是独立的，即每次试验A发生与否与其他次试验 A发生与否是互不影响的。这种试验称为伯努利概型，或称为n重伯努利试验。用P表示每次试验A发生的概率，则A发生的概率为1- P q，用Pn(k)表示n重伯努利试验中A出现k(兰k兰n)次的概率，r 八 kk n kPn(k) =CnP q -，k =0,1,2,n O第二章随机变量及其分布(1)离散 型随机变 量的分布 律设离散型随机变

9、量 X的可能取值为 X(k=1,2,)且取各个值的概率，即事 件(X=Xk)的概率为P(X=Xk)=Pk, k=1,2,，则称上式为离散型随机变量X的概率分布或分布律。有时也用分布列的形式给出：X| 0X2，xk,P(X =xk) p1, P2,Pk,O显然分布律应满足下列条件：QO Pk = 1(1) Pk 王0 , k 二1,2,(2)心O(2)连续 型随机变 量的分布 密度设F(x)是随机变量X的分布函数，若存在非负函数f(x),对任意实数X,有XF(x) = (f(x)dx则称X为连续型随机变量。f(X)称为X的概率密度函数或密度函数，简称概率密度。密度函数具有下面 4个性质：1f(x

10、20 o2Cf(x)dx=1。(3)离散 与连续型 随机变量 的关系P(X = x)吒 P(x v X 兰 x + dx)趾 f (x)dx积分元f (x)dx在连续型随机变量理论中所起的作用与P(X 一 Xk) - pk在离散型随机变量理论中所起的作用相类似。(4)分布 函数设X为随机变量，X是任意实数，则函数F(x) =P(X 兰 x)称为随机变量X的分布函数，本质上是一个累积函数。P(a cX兰b) = F(b)F(a) 可以得到 X落入区间(a,b的概率。分布函数F(x)表示随机变量落入区间(-a, x内的概率。分布函数具有如下性质：1 0 兰 F(X)兰 1,O0 X ;2F(x)是

11、单调不减的函数，即 X1CX2时，有 F(X1)兰F(X2)；3F(q) = lim F(x) =0,F(畑)=lim F(x) =1;x-bc4F(x+0) =F(x)，即 F(x)是右连续的；5 P(X =x) = F(x)_F(x_0)。对于离散型随机变量，F (x)=送pk ;Xk总X对于连续型随机变量，F (x) = f f (x)dx 。(5)八大 分布0-1分布P(X=1)=p, P(X=0)=q二项分布在n重贝努里试验中，设事件A发生的概率为 p。事件A发生的次数是随机变量，设为X，则X可能取值为0,1,2，,n。kk nkP(X =k) = Pn(k) =Cn P q,其中q

12、 =1 - p,0 v p v1,k =0,1,2，,n ,则称随机变量X服从参数为n , p的二项分布。记为X B(n, p)。当 n =1 时，p(x =k) = pkqZ , k = 0.1，这就是(0-1 )分布，所以(0-1 )分布是二项分布的特例。29 / 32泊松分布设随机变量1 X的分布律为P(Xk=k) = e ，丸 a 0 , k = 0,1,2 , k!则称随机变量 X服从参数为X的泊松分布，记为 Xn（人）或者P（丸）0泊松分布为二项分布的极限分布（np=入，n78）。超几何分布P(X =kC knCM *C N畫 k =0,1,2I：)=r-CN1 = min(M ,

13、 n)随机变量X服从参数为n,N,M的超几何分布，记为H（n,N,M）。:几何分布= 1,2,3,，其中 P0, q=1-p oP(X =k) =q p,k随机变量X服从参数为p的几何分布，记为 G（p） o均匀分布设随机变量X的值只落在a , b内，其密度函数f（X）在a , b上为常数，即b a1a x w bf (x)才b _a其他，0,则称随机变量X在a , 分布函数为b上服从均匀分布，记为XU（a , b） o厂 0,xbo当a xiX2w b时，X落在区间（八 1,八2）内的概率为X2X1oP(xi vX vx2) -b-a指数分布r 扎e,x3 0,f（x）jI 0,x0，则称随

14、机变量 X服从参数为九的指数分布。X的分布函数为日，XA0F（xH 011x0为常数，则称随机变量X服从参数为卩、2 的正态分布或咼斯（Gauss）分布，记为X N （匕口 ）。f（X）具有如下性质：1f（x）的图形是关于x = P对称的；A2当x =卩时，f岸为最大值；2 寸2兀b若X N（1）x，则啤的分布函数为F（x）=层 dt参数0、口 -1时的正态分布称为标准正态分布，记为X N（01）1其密度函数记为呱=7e 2十 2 让，旳 0 (i,j=1,2,);(2) 二二pij =1.i j连续型对于二维随机向量r =(X,Y)，如果存在非负函数f (x, y)(亠c x +=c,a y

15、 v +=c)，使对任意一个其邻边分别平行于坐标轴的矩形区域D,即D-(X,Y)|axb,cy 0;(2)(切J(x,y)dxdy = 1.q a(2)二维 随机变量 的本质X1时，有F ( X2,y ) F(X1,y);当 y2y1 时，有 F(x,y 2) F(x,y 1)；(3) F( x,y )分别对x和y是右连续的，即F(x,y)=F(x+0, y), F(x,y) = F(x,y + 0);(4) F(T_oc)= f (-o, y) = F(x,-) = 0,F (代,址)=1.(5)对于x10,2 0.1 P|c1是5个参数，则称(X, Y)服从二维正态分布，记为(X，Y)N

16、(卩 1.巴ei.Q；, P).由边缘密度的计算公式，可以推出二维正态分布的两个边缘分布仍为正态分布，即 XN (41).Y “(巴严；).但是若XN(气卫门丫N(42口 2), (X , Y)未必是二维正态分布。(10)函数分布Z=X+Y根据定义计算：FZ(z) = P(Z Ez) = P(X + YEZ)-bo对于连续型，f z(z) = J f (x.z - x)dx两个独立的正态分布的和仍为正态分布(气十卩？：)。n个相互独立的正态分布的线性组合，仍服从正态分布。C*i ,Ci2iiZ=max.mi n(X1.X2,Xn)若 XjX?Xn相互独立，其分布函数分别为Fx1 (x), Fx

17、2 (x)Fxn (x)，则 Z=max.min(X 1.X2.Xn)的分布 函数为：Fmax(X)= Fx(X)Fx2(X)Fxn(X)Fmin (X) =1 -1 - 鼻(x)屮 一 FX2 (X)1 一 (X)2分布设n个随机变量Xi,X2,，Xn相互独立，且服从标准正态分布，可以证明它们的平方和n2W Xii丄的分布密度为1f(u)= 22】nI 12丿0，n-J2u _0,u ： 0.我们称随机变量 W服从自由度为n的2分布，记为 W 2(n),其中所谓自由度是指独立正态随机变量的个数，它是随机变量 分布中的一个重要参数。2分布满足可加性：设Yi -2(口)，则kZ 八 Yi 2(n

18、in2 nk).i吕t分布设X, Y是两个相互独立的随机变量，且XN(0,1),Y 2(n),可以证明函数XY/nn 1的概率密度为f(t)= i 2j i 时oh l2丿我们称随机变量T服从自由度为n的t分布，记为Tt(n)ti_：.(n) 一t：.(n)F分布设X 2（n 1）,Y 2（门2），且X与Y独立，可以证明X /niF的概率密度函数为丫/应f (y)=Z XkPk（要求绝对收敛）k仝（要求绝对收敛）函数的期望Y=g(X)Y=g(X)n-boE(Y)=2： g(xQPkE(Y)= Jg(x)f(x)dxk=l方差-bo2D(X)=EX-E(X),D(X)=E Xk-E(X)2pkD

19、(X)= Jx-E(X)2 f (x)dx标准差k2) n -2(5) 二维 随机 变量 的数 字特 征期望nE(X)=2： Xi Pi.i =1nE(Y)=E yjP划-boE(X)= Jxfx(x)dx-boE(Y)= fyfY(y)dy函数的期望EG(X,Y)=乞迟 G(N,yj)Piji jEG(X,Y)=-be -bef fG(x, y)f (x, y)dxdy-oCod方差D(X)=I： Xi E(x)2 Pi.iD(Y)=：S j E(Y)2p癇j-boD(X)= JxE(X)2fx(x)dxboD(Y)= Jy-E(Y)2fY(y)dy协方差对于随机变量X与Y,称它们的二阶混合

20、中心矩 k11为X与Y的协方 差或相关矩，记为 aXY或cov(X,Y)，即Jy =出1 =E(X-E(X)(Y-E(Y).与记号CT XY相对应，X与Y的方差D( X)与D( Y)也可分别记为b XX f J O yy。相关系数对于随机变量 X与丫，如果D( X) 0, D(Y)0，则称 XYJd(x)Jd(y)为X与Y的相关系数，记作 PXY (有时可简记为 P )。| P| 1,当 | P|=1 时，称 X 与 Y 完全相关：P(X=aY + b)=1完全相关:正相关，当P i时(a = 0)， 兀王负相关，当P = _1时(acO),而当P =0时，称X与Y不相关。以下五个命题是等价的

21、： 匕丫 =0 ； cov(X,Y)=0; E(XY)=E(X)E(Y); D(X+Y)=D(X)+D(Y); D(X-Y)=D(X)+D(Y).协方差矩阵依 xx J “ f YX YY J混合矩对于随机变量X与丫如果有E(XkYl)存在，则称之为 X与Y的 k+l阶混合原点矩，记为 vk| ； k+l阶混合中心矩记为：k|Uki =E(X - E(X) (丫-E(Y).(6) 协方 差的 性质(i) cov (X, Y)=cov (Y, X);(ii) cov(aX,bY)=ab cov(X,Y);(iii) cov(X 1+X2, Y)=cov(X i,Y)+cov(X 2,Y);(iv

22、) cov(X,Y)=E(XY)-E(X)E(Y).(7)独立和不相关(i )(ii )若随机变量X与Y相互独立，则-XY =0 ；反之不真。若(X, Y)N ( 2，打，；打小)，则X与Y相互独立的充要条件是 X和Y不相关。第五章 大数定律和中心极限定理(1 )大数定律X切比雪 夫大数 定律设随机变量Xi, X2,相互独立，均具有有限方差，且被同一 常数C所界：D(X) C(i=1,2,)，则对于任意的正数 有lim Pn_：:1 ni n_ -Z Xi Z E(Xi) i n yn i 二特殊情形：若X, X2,具有相同的数学期望 E ( X)=卩， 则上式成为lim P壯送Xj 卩丄1.

23、 y Qn y丿伯努利 大数定 律设卩是n次独立试验中事件 A发生的次数，p是事件A在 每次试验中发生的概率，则对于任意的正数，有(lim P-P n_jsc n)伯努利大数定律说明，当试验次数的频率与概率有较大判别的可能性很小，即=1.n很大时，事件A发生辛钦大数定律这就以严格的数学形式描述了频率的稳定性。设X1, X2,，Xn,是相互独立同分布的随机变量序列，且E(Xn) = ，则对于任意的正数 有lim 卩丄 Xi 卩 C=1.F Vln -丿(2)中心极限定理.2 Nt N (巴 J n列维 林德伯 格定理设随机变量 Xi, X2,相互独立，服从同一分布，且具有相同的数学期望 和方差：

24、E(Xk)=U,D(Xk)=r2 芒0(k=1,2,)，则随机变量n送 Xk -n4Yk丄n_ 皿的分布函数Fn(x)对任意的实数X,有n瓦 Xk - nAt2k _11 X 2lim Fn(x) =lim P彳 兰 x= = f e 2 dt.nY nYj寸何1殛皿IJ此定理也称为 独立同分布 的中心极限定理。棣莫弗 拉普 拉斯定 理设随机变量Xn为具有参数 n, p(0p1)的二项分布，则对于 任意实数X,有-1t2Xn np1”x 盲-lim P0，贝V-k kk”、n_k儿-J”CnP (1 p) T e(nT ).k!其中k=0, 1, 2,，n,。二项分布的极限分布为泊松分布。第六

25、章样本及抽样分布(1)数理 统计的基 本概念总体在数理统计中，常把被考察对象的某一个(或多个)指标的全 体称为总体(或母体)。我们总是把总体看成一个具有分布的随 机变量(或随机向量)。个体总体中的每一个单兀称为样品(或个体)。样本我们把从总体中抽取的部分样品Xj, x2,xn称为样本。样本中所含的样品数称为样本容量，一般用n表示。在一般情况下， 总是把样本看成是 n个相互独立的且与总体有相冋分布的随机 变量，这样的样本称为简单随机样本。在泛指任一次抽取的结 果时，Xi,X2，,xn表示n个随机变量(样本)；在具体的一次抽取之后，x1,x2/L , xn表示n个具体的数值(样本值)。我们 称之为

26、样本的两重性。样本函数和 统计量设Xi, X2，Xn为总体的一个样本，称( Xi,X2，,Xn )为样本函数，其中 申为一个连续函数。如果 申中不包含任何未知参数，则称申(X1,X2/ ,xn)为一个统计量。常见统计量 及其性质-1 n样本均值x=丄瓦Xi.n y样本方差1 n 一S2 二匕无(Xi -X)2.n - 1 i m1 1 n - 2样本标准差S =、一送(Xj _x)2.F n-1 y样本k阶原点矩1 nM k =区 xk, k =1,2,.n i仝样本k阶中心矩彳 n一.1kMk 二一送(人x) ,k=2,3，.n imCT 2E(X)-卩,D(X)-, nE(S2)厂,E(S

27、*2) n G2,n2 1 n 2其中S*(Xi X)，为二阶中心矩。n i#(2)正态 总体下的 四大分布正态分布设X-X2,Xn为来自正态总体本函数N(4q2)的一个样本，则样def X 卩UN(0,1). /斤t分布设Xi,X2,Xn为来自正态总体N(4q2)的一个样本，则样本函数def X 一 卩s/jn t(n -1),其中t(n-1)表示自由度为n-1的t分布。尤2分布设Xi,X2,Xn为来自正态总体N(4,b2)的一个样本，则样本函数def (n 1)S2弋2W2 上(n 1),CT其中/ 2( n1)表示自由度为n-1的笑2分布。F分布设XjX?,Xn为来自正态总体N (巴的一

28、个样本，而y1,y2,yn为来自正态总体N(巴2)的一个样本，则样本函数def Sj2/2F_s；心F (m -1,门2 -1),其中1 n1 S 送(Xi -X),1 n2 _S2 =I (yi - y);m -1 i#n - 1 imF (n1 -1, n2 -1)表示第 自由度为m -1，第一自由度为n2 -1的F分布。(3)正态总体下分X与S2独立。布的性质第七章参数估计(1 )点矩估计 估计设总体X的分布中包含有未知数 门2,Cm，则其分布函数可以表成F(X；宀户2,，)它的k阶原点矩Vk =E(X k)(k=1,2,m)中也包含了未知参数宀门2,Cm ,即Vk HVkdR,门m)。

29、又设Xi,X2，,Xn为总体X的n个样本值，其样本的 k阶原点矩为1 n、Xik (k =1,2,m).n i A这样，我们按照“当参数等于其估计量时，总体矩等于相应的样本矩” 的原则建立方程，即有1 n宀，Rm) = V心 n i 二1 nV2 (二1 2 ,m )=二n y2Xi ,- , , 1 nVm(7l1 门2，Jm)=一 :n ymXi 由上面的m个方程中，解出的 m个未知参数(十门2,Cm)即为参数(f 2,，m )的矩估计量。A-若二为二的矩估计，g(X)为连续函数，则 g(国为g(的矩估计。极大似 然估计当总体 X为连续型随机变量时，设其分布密度为f（X；d，日2，日m），

30、其中日1 ,日2，日m为未知参数。又设Xi ,X2,Xn为总体的一个样本，称nL 月2,，日 m） = f （Xi；8i ,日2,8m）i A 为样本的似然函数，简记为Ln.当总体 X为离型随机变量时，设其分布律为PX =x = P（X；也,日2，0m），则称nL（Xi,X2，X,/,，）= P（Xi；d ,日2,m）y为样本的似然函数。若似然函数 L（X1 x,_ ,Xn；6，日2,，&m）在& 1,会，（m处取到最大值，则称0i,02, ,8m分别为日仆匹，Bm的取大似然估计值， 相应的统计量称为最大似然估计量。cln Ln8 n-0,i -1,2,，m若日为日的极大似然估计，g（X）为单调函数，则g（压）为gp）的极大 似然估计。（2）估 计量的 评选标 准无偏性设$ = &X1,X2，冷）为未知参数日的估计量。若E （）/，则称日为日的无偏估计量。E（ X）=E（ X），E（ S2）=D（ X）有效性A.A.AA设日 1=1 （X1 , X，2 , Xn ）和日 2=2（X1,X,2, , Xn ）是未知参数 日的两个无偏估计量。若D（日1）cD（日2），则称日1比日2有效。一致性A设a n是日的一串估计