(完整版)概率论与数理统计公式整理(超全免费版)

1、概率论与数理统计公式(全)2011-1-1第1章随机事件及其概率（1）排列 组合公式Pmn 从m个人中挑出n个人进行排列的可能数。（m n）!一 nm!, Cm 从m个人中挑出n个人进行组合的可能数。n!（m n）!（2）加法 和乘法原 理加法原理（两种方法均能完成此事）：m+n某件事由两种方法来完成，A种方法可由m种方法完成，第二种方法可由 n种方法来完成，则这件事可由m+n种方法来完成。乘法原理（两个步骤分别不能完成这件事）：mx n某件事由两个步骤来完成，第一个步骤可由m种方法完成，第二个步骤可由 n种方法来完成，则这件事可由mx n种方法来完成。（3） 一些 常见排列重复排列和非重复排

2、列（有序） 对立事件（至少有一个） 顺序问题（4）随机 试验和随 机事件如果一个试验在相同条件卜XJ以重复进行，而每次试验的可能结果不止一个， 但在进行一次试验之前却不能断言它出现哪个结果，则称这种试验为随机试 验。试验的可能结果称为随机事件。（5）基本 事件、样本 空间和事 件在一个试验下，不管事件有多少个， 总可以从其中找出这样一组事件，它具有如下性质：每进行一次试验，必须发生且只能发生这一组中的一个事件；任何事件，都是由这一组中的部分事件组成的。这样一组事件中的每一个事件称为基本事件，用来表示。基本事件的全体，称为试验的样本空间，用表示。一个事件就是由中的部分点（基本事件）组成的集合。通

3、常用大写字母A, B, C,表示事件，它们是的子集。为必然事件，？为不可能事件。不可能事件（？）的概率为零，而概率为零的事件不一定是不可能事件；同理，必然事件（）的概率为 1,而概率为1的事件也不一定是必然事件。（6）事件 的关系与 运算关系：如果事件A的组成部分也是事件 B的组成部分，（A发生必启事件 B发生）：A B如果同时有 A B, B A,则称事件 A与事件B等价，或称A等于B： A=B,A、B中至少有一个发生的事件：A B,或者A+B。属于A而不属于B的部分所构成的事件，称为 A与B的差，记为A-B,也可表示为A-AB或者AB ,它表示A发生而B不发生的事件。A、B同时发生：A B

4、,或者AB A B=?,则表示 A与B不可能同时发生，称事件A与事件B互小相容或者互斥。基本事件是互小相容的。-A称为事件A的逆事件，或称 A的对立事件，记为 A。它表示A不发生的事件。互斥未必对立。运算：结合率：A(BC)=(AB)C A U (B U C)=(A U B) U C分配率：(AB) U C=(A U C) A (B U C) (A U B) n C=(AC) U (BC)AiAi德摩根率：i 1i 1ABAB,ABAB(7)概率 的公理化 定义设 为样本空间，A为事件，对每一个事件 A都有一个实数P(A),若满 足卜列三个条件：1 0WP(A)W 1,2 P( Q ) =13

5、对于两两互不才目容的事件A, A2,有PAiP(Ai)i 1i 1常称为可列(完全)可加性。则称P(A)为事件A的概率。(8)古典 概型1 11 ,2n，_12 P( 1) P( 2)P( n)。n设任一事件A,它是由1, 2m组成的，则有P(A)= ( 1)(2)( m) = P( 1) P( 2)P( m)m A所包含的基本事件数n基本事件总数(9)几何 概型若随机试验的结果为无限不可数并且每个结果出现的可能性均匀，同时样本空间中的每一个基本事件可以使用一个有界区域来描述，则称此随机试验为几何概型。对任一事件 A,P(A) LA。其中L为几何度量(长度、面积、体积) 。L()(10)加法

6、公式P(A+B)=P(A)+P(B)-P(AB)当 P(AB)=0 时，P(A+B)=P(A)+P(B)(11)减法 公式P(A-B)=P(A)-P(AB)当 B A时，P(A-B)=P(A)-P(B)当 A=时,P( B )=1- P(B)(12)条件 概率定义 设A、B是两个事件，且 P(A)0,则称P(AB)为事件A发生条件下，事P(A)件B发生的条件概率，记为 P(B/A) P(AB)。P(A)条件概率是概率的一种，所有概率的性质都适合于条件概率。例如 P(Q/B)=1 P(B/A)=1-P(B/A)(13)乘法 公式乘法公式：P(AB) P(A)P(B/A)更一般地，对事件 A, A

7、, -An,若P(A1A2An-1)0 ,则有P(A1A2 An) P(A1)P(A2| A1)P(A3| A1A2)P(An| A1A2 An 1)。(14)独立 性两个事件的独立性设事件A、B满足P(AB) P(A)P(B)，则称事件A、B是相互独立的。若事件A、B相互独立，且P(A) 0,则有P(B|A)3 P(A)P(B) P(B) P(A)P(A)若事件A、B相互独立，则可得到A与B、A与B、入与B也都相互独 立。必然事件和不可能事件？与任何事件都相互独立。?与任何事件都互斥。多个事件的独立性设ABC是三个事件，如果满足两两独立的条件，P(AB)=P(A)P(B) ; P(BC)=P

8、(B)P(C) ; P(CA)=P(C)P(A)并且同时满足 P(ABC)=P(A)P(B)P(C)那么A B、C相互独立。对于n个事件类似。(15)全概 公式设事件B1,B2, ,Bn满足1。B1,B2, 1Bn相容，P(Bi) 0(i 1,2, ,n), nABi2i 1,则有P(A) P(B1)P(A| B1) P(B2)P(A| B2)P(Bn)P(A| Bn)。(16)贝叶 斯公式设事件B1, B2,，Bn及A满足1 B1, B2,，Bn两两互/、相容, P(Bi)0, i 1, 2,，n, nABi、八2i 1P(A) 0则P(Bi/A)ngHA/Bi)，i=1,2，. noP(B

9、j)P(A/Bj) j 1此公式即为贝叶斯公式。P(Bi),(i 1 , 2,，n),通常叫先验概率。P(BJA),(i 1,2, n),通常称为后验概率。贝叶斯公式反映了 “因果”的概率规律，并作出了 “由果朔因”的推断。(17)伯努 禾概型我们作了 n次试验，且满足每次试验只用两种可能结果，A发生或A不发生；n次试验是重复进行的，即A发生的概率每次均一样；每次试验是独立的，即每次试验A发生与否与其他次试验A发生与否是互/、影响的。这种试验称为伯努利概型，或称为n重伯努利试验。用p表示每次试验A发生的概率，则其发生的概率为1 p q，用”卜)表示n重伯努利试验中A出现k(0 k n)次的概率

10、，八、_kknk_Pn(k) CnP q , k 0,1,2, ,no第二章随机变量及其分布(1)离散 型随机变 量的分布 律设离散型随机变量 X的可能取值为 X(k=1,2,)且取各个值的概率，即事 件(X=Xk)的概率为P(X=Xk)=p k, k=1,2,，则称上式为离散型随机变量X的概率分布或分布律。有时也用分布列的形式给出：X| X1,X2, ,xk,P(Xxk) p1, p2, pk,o显然分布律应满足卜列条件：pk 1(1) pk 0 , k 1,2,(2) k 1。(2)连续 型随机变 量的分布 密度设F(X)是随机变量X的分布函数，若存在非负函数f(x),对任意实数X,有XF

11、(x)f(x)dx则称X为连续型随机变量。f (x)称为X的概率密度函数或密度函数，简称概率密度。密度函数具有卜面4个性质：1 f(x) 0。f(x)dx 12 o(3)离散 与连续型 随机变量 的关系P(X x) P(x X x dx) f (x)dx积分元f(x)dx在连续型随机变量理论中所起的作用与P(X xk) pk在离散型随机变量理论中所起的作用相类似。(4)分布 函数设X为随机变量，x是任意实数，则函数F(x) P(X x)称为随机变量X的分布函数，本质上是一个累积函数。P(a X b) F(b) F 可以彳#到X落入区间(a,b的概率。分布函数F(x)表示随机变量落入区间(-8,

12、 x内的概率。分布函数具有如下性质：10 F(x) 1,x;2F(x)是单调/、减的函数，即 x1 x2时，有 F(x。 F(x2)；3F( ) lim F(x) 0,F( ) lim F(x) 1;xx4。 F(x 0) F(x),即F(x)是右连续的；5 P(X x) F(x) F(x 0)。对于离散型随机变量，F(x)pk ；xk x x对于连续型随机变量，F (x)f (x) dx 。八大 分布0-1分布P(X=1)=p, P(X=0)=q二项分布在n重贝努里试验中，设事件 A发生的概率为 p o事件A发生 的次数是随机变量，设为 X ,则X可能取值为0,1,2, ,n。P(X k)

13、Pn(k) C：pkqnk,其 中q 1 p,0 p 1,k 0,1,2, ,n,则称随机变量X服从参数为n, p的二项分布。记为X B(n, p)。k 1 k当 n 1 时，P(X k) p q , k 0.1 ,这就是(0-1 )分 布，所以(0-1 )分布是二项分布的特例。泊松分布设随机变量X的分布律为kP(X k) e ,0, k 0,1,2,k!则称随机变量X服从参数为的泊松分布，记为 X ()或者 P()。泊松分布为二项分布的极限分布(np=入，n-8)。超几何分布CM ?cn M k 0,1,2 ,lP(X k) n, CNl min(M,n)随机变量X服从参数为n,N,M的超几

14、何分布，记为 H(n,N,M)。几何分布P(X k) qk1p,k 1,2,3,其中 p0, q=1-p。随机变量X服从参数为p的几何分布，记为 G(p)。均匀分布设随机变量X的值只洛在a, b内，其酱度国数f(x)在a , b，一 1上为常数，即b a1a x bf(x) ba,甘心其他，0,则称随机变量 X在a, b上服从均匀分布，记为XU(a, b)。分布函数为0 0,xa,x a,xb。当aWx1x2Wb时，X落在区间(xi，x2)内的概率为_x2 x1P(x1X x2)21 ob a指数分布xe e ,x 0,f(x)t 0,x 0,其中0,则称随机变量X服从参数为的指数分布。X的分

15、布函数为F(x)-广)x1 e ,x 0,j 0,x0。记住积分公式：xne xdx n!0正态分布设随机变量X的密度函数为一、1f(x) -e 2,x,立其中 、0为常数，则称随机变量X服从参数为、/2.的正态分布或图斯(Gauss)分布，记为 X N( ，)。f(x)具有如下性质：1 。 f(x)的图形是关于x对称的；。，、，一12 当x 时，f ( )为最大值；22若X N()x,虬X2的分布函数为F(x) k e 2 dt。参数0、1时的正态分布称为标准止态分布，记为X N(0,1)1其密葭函数记为(x) -j=e2,x,分布函数为1 x(x)；e 2 dt (x)是不可求积函数，其函

16、数值，已编制成表可供查用。(-x)=如果X 1-(x)且(0)=。X 2N( , 2),则N(0,1)。P(x1X x2)。(6)分位 数下分位表：P(X)=;上分位表：P( X)=。(7)函数 分布离散型已知X的分布列为XX1, X2, xn,P(X xi) p1, p2, pn,Y g(X)的分布列(yi g(xj互不相等)如下：Yg(x1), g(x2), g(xn),若由某些g(xip相等，则应将对应印 pi相加作为g(xi)的概率。连续型先利用X的概率密度fX(x)写出Y的分布函数FY(y) = P(g(X) 0 (i,j=1,2,)；(2) pj1.连续型对于二维随机向量(X,Y)

17、,如果存在非负函数f (x, y)(x,y),使对任忠个其邻边分别平行丁坐标轴的矩形区域 D,即D=(X,Y)|axb,cy0;(2) f (x, y)dxdy 1.(2)二维 随机变量 的本质(X x,Y y) (X x Y y)(3)联合 分布函数设(X, Y)为二维随机变量，对于任意实数x,y,二元函数F(x,y) PX x,Y y称为二维随机向量(X, Y)的分布函数，或称为随机变量X和Y的联合分布函数。分布函数是一个以全平面为其定义域，以事件( 1, 2)|X( 1) x,Y( 2) y的概率为函数值的一个实值函数。分布函数F(x,y)具有以下的基本性质：(1) 0 F(x,y) 1

18、;(2) F (x,y )分别对x和y是非减的，即当 x2x1 时,有 F (x2,y) F(x 1,y);当 y2y1 时,有 F(x,y 2) F(x,y 1);(3) F (x,y )分别对x和y是右连续的，即F(x, y) F(x 0, y), F(x,y) F(x,y 0);(4) F( ,)F(, y) F(x, ) 0,F(,) 1.(5)对于 x1 x2, y1 y2,F(x2, y?) F(x2, y1) F(x1，、2)F(x，y1) 0.(4)离散型与连续 型的关系P(X x, Y y) P(x X x dx, y Y y dy) f(x, y)dxdy(5)边缘 分布离

19、散型X的边缘分布为Pi?P(XXi)Pj(i,j1,2,);Y的边缘分布为P?jP(Yyj)Pj(i, j1,2,)。连续型X的边缘分布.密度为fx(x)f(x,y)dy;Y的边缘分布密度为fy(y)f(x, y)dx.(6)条件 分布离散型在已知X=x的条件下，Y取值的条件分布为PijP(Y yj|X x。一Pi?在已知Y=y的条件下，X取值的条件分布为PjP(X xY yj)，P?j连续型在已知Y=y的条件下，X的条件分布密度为f(x|y)R fy(y)在已知X=x的条件下，Y的条件分布密度为f(y|x) 人 fX(x)(7)独立 性一般型F(X,丫尸F x(x)F Y(y)离散型Pij

20、Pi?P?j后零不独立连续型f(x,y)=f X(x)f Y(y)直接判断，充要条件：可分离交量正概率密度区间为矩形二维正态分 布221x 12 (x 1 )(y 2) y 212(12 )11 22f (x, y),2 e,212 2)n 2二维 随机 变量 的数 字特 征期望nE(X)XiPi?i 1nE(Y)yjP?jj 1E(X)xfx (x)dxE(Y)yfY (y)dy函数的期望EG(X,Y) =G(Xi,yj)pjEG(X,Y) =G(x,y) f(x, y)dxdy力差_2D(X)XiE(X) Pi?_2D(Y)Xj E(Y) p?j2D(X)x E(X)2fx(x)dx2D(

21、Y)y E(Y)2fY(y)dy协力差对于随机变量X与Y,称它们的二阶混合中心矩11为X与Y的协方差或相关矩，记为XY或COV(X,Y),即xy 11 E(X E(X)(Y E(Y).与记号 xy相对应，X与Y的方差D(X)与D(Y)也可分别记为xx与y YY 。相关系数对于随机变量 X与Y,如果D (X) 0, D(Y)0 ,则称XY /D(X)JW)为X与丫的相关系数，记作XY (有时可简记为)。|W1,当|=1时，称X与丫完全相关：P(X aY b) 1”相正相关，当1时(a 0)，兀全相关负相关，当1时(a 0),而当0时，称X与丫不相关。以卜五个命题是等价的： XY0 ； cov(X

22、,Y)=0; E(XY)=E(X)E(Y); D(X+Y)=D(X)+D(Y); D(X-Y尸D(X)+D(Y).协方差矩阵XXXYYXYY混合矩对于随机变量 X与Y,如果有E(XkYl )存在，则称之为 X与丫的k+l阶混合原点矩，记为 kl ； k+l阶混合中心矩记为：Uki E(X E(X)k(Y E(Y)1.(6) 协方 差的 性质(i) cov (X, 丫尸cov (Y, X);(ii) cov(aX,bY)=ab cov(X,Y);(iii) cov(X 1+X2, Y)=cov(X 1,Y)+cov(X 2,Y)；(iv) cov(X,丫尸E(XY)-E(X)E(Y).独立 和不

23、 相关(i)若随机变量X与丫相互独立，则XY 0；反之不真。(ii )若(X, Y) -N ( 1， 2, 12，22，)，则X与丫相互独立的充要条件是 X和Y不相关。第五章大数定律和中心极限定理(1)大数定律X切比雪 夫大数 定律设随机变 常数CI特房 则上式力lim Pn;量 X1, X2,历界：D(X)lim P - nn果情形：若X彷1 n-Xin i 1相互独立，均具有有限方差，且被同一C(i=1,2,)，则对于任意的正数e,有n1 nXi E(Xi)1.i 1n i 11, X2,具有相同的数学期望 E (X)二科，1.伯努利 大数定 律设科是n次独立试验中 每次试验中发生的概率，

24、则Xlim P n伯努利大数定律说明，： 的频率与概率有较大判别的艮lim Pn这就以严格的数学形式描述了事件 A发生的次数，p是事件A在 f于任意的正数 ,有-P1.n3试验次数n很大时，事件A发生能性很小，即p0.n频率的稳定性。辛钦大 数定律设 X1, X(Xi)=lim P n，Xn, , ,则对于任1 nXin i 1,是相互独立同分布的随机变量序列，且E意的正数有1.(2)中心极限定 理2X N(,) n列维 林德伯 格定理设随机变量X1, X2,相互独立，服从同一分布，且具有 相 同的 数学 期望和 方 差：一一、一一、24，一、一E(Xk) 刀(Xk)0(k 1,2,)，则随机

25、变量n Xk n 7k 1Yn耳的分布函数Fn(X)对任意白实数X,有nXk nt2k 11X 1lim Fn (x) lim P 尸 x；e 2 dt.nnVnv2此定理也称为独立同分布的中心极限定理。棣莫弗 -拉普 拉斯定 理设随机变量 Xn为具有参数n, p(0p1)的二项分布，则对于任意实数x,有t2.D X n np1 x -lim P x i e dt.nJnp(1 p)J2(3)二项定理若当N时,一p(n,k/、父)，则Nkn kCM CN Mi k、n k八(、Cn P (1 P)(N).CN超几何分布的极限分布为二项分布。(4)泊松定理例n时，np0,则kk k “、n k,

26、、CnP (1 P)e(n).k!其中k=0, 1, 2,，n,。二项分布的极限分布为泊松分布。第六章样本及抽样分布(1)数理 统计的基 本概念总体在数理统计中，常把被考察对象的某一个(或多个)指标的全 体称为总体(或母体)。我们总是把总体看成一个具有分布的随 机变量(或随机向量)。个体总体中的每一个单元称为样品(或个体)。样本我们把从总体中抽取的部分样品 x1, x2, , xn称为样本。样本中所含的样品数称为样本容量，一般用n表示。在一般情况下，总是把样本看成是 n个相互独立的且与总体有相同分布的随机 变量，这样的样本称为简单随机样本。在泛指任一次抽取的结果时，Xi,X2, ,xn表示n个

27、随机变量(样本)；在具体的一次抽取之后，Xi,X2, , Xn表示n个具体的数值(样本值)。我们称之为样本的两重性。样本函数和 统计量设Xi,X2, ,Xn为总体的一个样本，称(Xi,X2, ,Xn)为样本函数，其中为一个连续函数。如果中不包含任何未知参数，则称(x1,x2, ,xn)为一个统计量。常见统计量 及其性质 -1 n样本均值x - xi.n i 1样本力差1 n_S2-(Xix)2.n 1 i 11 n2样本标准差Sm(Xi X)2.n n 1 i 1样本k阶原点矩1 n kMk -Xi ,k 1,2,.n i 1样本k阶中心矩1 n- kMk (Xi x)k,k 2,3,.n i

28、 12E(X), D(X)一,n_22_2n 1 2E(S ), E(S* ),n2 1 n2其中S*2 (Xi X)2 ,为二阶中心矩。n i 1(2)正态 总体下的 四大分布正态分布设x1,x2, ,xn为来自止态总体 N (,)的一个样本，则样 本函数def Xu-lN(0,1)./vnt分布设X1,X2, ,xn为来自止态总体 N( , 2)的一个样本，则样 本函数def xL Lt(n 1), s/v n其中t(n-1)表示自由度为 n-1的t分布。2分布设X1,X2, ,Xn为来自止态总体 N( , 2)的一个样本，则样 本函数 一_ 2def (n 1)S2 / 仆w-2 (n

29、1)，其中2(n 1)表示自由度为n-1的2分布。F分布设x1,x2,xn为来自止态总体N ( , 1 )的一个样本，而y1，y2, ,yn为来自止态总体 n(,力的一个样本，则样本 函数def S2/12F-122F(ni 1,n2 1), S；/ 2其中dn1_dn2_S2 3(Xi X)2,S22 -(yi y)2;R 1 i 1h 1 i 1F(n1 1,出 1)表示第一自由度为n1 1,第一自由度为n2 1的F分布。(3)正态 总体下分 布的性质2X与S2独立。第七章参数估计(1)点矩倩计设总体X的分布中包含有未知数1, 2, , m,则其分布函数可以表成F(X； 1, 2, , m

30、).它的 k 阶原点矩 Vk E(Xk)(k 1,2, ,m)中也包含了未知参数1, 2, m，即Vk Vk( 1, 2, m)。又设X, X2, ,Xn为总体X的n个样本值，其样本的 k阶原点矩为1 n ,Xik (k 1,2, ,m).n i 1这样，我们按照“当参数等于其估计量时，总体矩等于相应的样本矩” 的原则建立方程，即有V1 ( 1 , 2 , , m)Xi ,n i 1、，/2V2( 1 , 2 , , m)Xi ,n i 11 nVm( 1 , 2 , , m)Xi .n i 1由上面的m个方程中，解出的 m个未知参数(1, 2, , m)即为参数 (1,2, m)的矩估计量。

31、若 为 的矩估计，g(X)为连续函数，则g(今为g()的矩估计。极大似 然倩计当总体 X为连续型随机变量时，设其分布密度为f(X； 1 , 2 , m),其中1,2, m为未知参数。又设X1，X2 , ,Xn为总体的一个样本，称nL( 1 , 2, m)f(Xi； 1, 2, m)i 1为样本的似然函数，简记为Ln.当总体 X为离型随机变量时，设其分布律为PX X P(X； 1,2, m),则称nL(X1,X2, ,Xn； 1, 2, , m)p(Xi ； 1 , 2, m)i 1为样本的似然函数。若似然函数 L(X1,X2, , Xn； 1, 2, m)在 1, 2, , m 处取到最大值，

32、则称 1, 2, , m分别为1, 2, , m的最大似然估计值， 相应的统计量称为最大似然估计量。ln Lnn0,i1,2, ,mii i若 为 的极大似然估计，g(X)为单调函数，则g(?)为g()的极大 似然情计。估 计量的 评选标 准无偏性设(X1,X2, ,Xn)为未知参数的估计量。若E ()二，则称为的无偏估计量。E ( X ) =E (X), E (S2) =D (X)后效性设 11(x1, X,2 , ,Xn)和 22(x1, X,2 , ,Xn)Mfl参数的两个无偏估计里。右 D( 1 ) D ( 2 ),则称1比2功效。一性设n是 的一串估计量，如果对于任意的正数，都有li

33、m P(| n |) 0,则称n为的一致估计量(或相合估计量)。若为的无偏估计，且D( ?)0(n，则为的一致估计。只要总体的E(X)和D(X)存在，一切样本矩和样本矩的连续函数都是相 应总体的一致估计量。(3)区置信区设总体X含有一个待估的未知参数。如果我们从样本x1,x,2 , ,xn出间情计间和置信度发，找出两个统计量 11(X1,X，2，Xn)与22(X1, X,2 , ,Xn) ( 12),使得区间1, 2以1(01)的概率包含这个待估参数，即P 12 1,那么称区间1, 2为 的置信区间，1 为该区间的置信度(或置信水平)。单正态总体的设X1, X,2 , ,Xn为总体X N( ,

34、 2)的一个样本，在置信度为 1期望和2方差的下，我们来确定 和2的置信区间1, 2。具体步骤如下：区间估(i )选择样本函数；计(ii )由置信度1,查表找分仅数；(iii )导出置信区间1, 2。概率论与数理统计公式（全）2011-1-1已知方差，估计均值(i )选择样本函数xuN(0,1).0 / v n(11) 查表找分位数P11 .07n(iii )导出置信区间一0 一0xTn,x 丁未知方差，估计均值(i )选择样本函数xt -=t(n 1).S/Vn(ii)查表找分位数PX 1.S/Jn(iii )导出置信区间-S -SxTn,xTn方差的区间估计(i )选择样本函数 _ 2(n 1)S2/ 仆w