概率论与数理统计公式整理

1、第1章随机事件及其概率（1）排列 组合公式Pmnm!从m个人中挑出n个人进行排列的可能数。（m n）!nm!Cm从m个人中挑出n个人进行组合的可能数。n !（mn）!（2）加法 和乘法原 理加法原理（两种方法均能完成此事）：m+n某件事由两种方法来完成，第一种方法可由m种方法完成，第二种方法可由n种方法来元成，则这件事可由m+n种方法来元成。乘法原理（两个步骤分别不能完成这件事）：mx n某件事由两个步骤来完成，第一个步骤可由m种方法完成，第二个步骤可由n种方法来元成，则这件事可由mx n种方法来元成。（3） 一些 常见排列重复排列和非重复排列（有序） 对立事件（至少有一个）顺序问题（4）随机

2、 试验和随 机事件如果一个试验在相同条件下可以重复进行，而每次试验的可能结果不止一个， 但在进行一次试验之前却不能断言它出现哪个结果，则称这种试验为随机试 验。试验的可能结果称为随机事件。（5）基本 事件、样本 空间和事 件在一个试验下，不管事件有多少个， 总可以从其中找出这样一组事件，它具有如下性质： 每进行一次试验，必须发生且只能发生这一组中的一个事件； 任何事件，都是由这一组中的部分事件组成的。这样一组事件中的每一个事件称为基本事件，用来表示。基本事件的全体，称为试验的样本空间，用表示。一个事件就是由中的部分点（基本事件）组成的集合。通常用大写字母A, B, C,表示事件，它们是的子集。

3、为必然事件，？为不可能事件。不可能事件（?）的概率为零，而概率为零的事件不一定是不可能事件；同理，必然事件（Q）的概率为 1，而概率为1的事件也不一定是必然事件。（6）事件 的关系与 运算关系：如果事件A的组成部分也是事件 B的组成部分，（A发生必有事件B发生）：A B如果冋时有 A B , B A，则称事件A与事件B等价，或称A等于B：A=BA、B中至少有一个发生的事件：A B,或者A+Bo属于A而不属于B的部分所构成的事件，称为 A与B的差，记为A-B,也可表示为A-AB或者AB，它表示A发生而B不发生的事件。A、B冋时发生：A B,或者AB A B=?，则表示 A与B不可能冋时发生，称事

4、件A与事件B互不相容或者互斥。基本事件是互不相容的。-A称为事件A的逆事件，或称 A的对立事件，记为 A。它表示A不发生 的事件。互斥未必对立。运算：结合率：A(BC)=(AB)C A U (B U C)=(A U B) U C分配率：(AB) U C=(A U C)A (B U C) (A U B) n C=(AC) U (BC)Ai瓦德摩根率：i1i 1A B A B , A B A B(7)概率 的公理化 定义设 为样本空间，A为事件，对每一个事件A都有一个实数P(A)，若满足下列三个条件：1 0 P(A) 0，则称P(AB)为事件A发生条件下，事P(A)件B发生的条件概率，记为 P(B

5、/A) P(AB)。P(A)条件概率是概率的一种，所有概率的性质都适合于条件概率。例如 P( Q /B)=1P(B/A)=1-P(B/A)(13)乘法公式乘法公式：P(AB) P(A)P(B/A)更一般地，对事件 A, A,An, 若 P(AAAn-1) 0,则有P(A1A2 An) P(A1)P(A2| A1)P(A3| A1A2) . P(An| A1A2 An 1) o(14)独立 性 两个事件的独立性设事件A、B满足P(AB) P(A)P(B)，则称事件A、B是相互独立的。 若事件A、B相互独立，且P(A)0，则有P(B|A) P(AB) P(A)P(B) P(B)P(A)P(A)若事

6、件A、B相互独立，则可得到A与B、A与B、A与B也都相互独 立。必然事件和不可能事件？与任何事件都相互独立。?与任何事件都互斥。 多个事件的独立性设ABC是三个事件，如果满足两两独立的条件，P(AB)=P(A)P(B) ; P(BC)=P(B)P(C) ; P(CA)=P(C)P(A)并且同时满足 P(ABC)=P(A)P(B)P(C)那么A B、C相互独立。对于n个事件类似。(15)全概公式设事件B1，B2，Bn满足1 B1, B2, ,Bn两两互不相容，P(Bi) 0(i 1,2, ,n),nABi2i 1J?则有P(A) P(B1)P(A| B1) P(B2)P(A| B2)P(Bn)P

7、(A| Bn) o(16)贝叶 斯公式设事件B1, B2,，Bn及A满足1 B1, B2 ,，Bn两两互不相容， P(Bi)o, i 1, 2,，n ,nABi2i 1, P(A) 0 ,则P(B/A)P(Bi)P(A/Bi)2P(Bi/A)n, i=1 , 2,n。P(Bj)P(A/Bj)j 1此公式即为贝叶斯公式。P(Bi) , ( i 1 , 2 ,n ),通常叫先验概率。P(Bi /A) , (i 1 , 2 ,n),通常称为后验概率。贝叶斯公式反映了 “因果”的概率规律，并作出了“由果朔因”的推断。(17)伯努利概型我们作了 n次试验，且满足每次试验只有两种可能结果，A发生或A不发生

8、；n次试验是重复进行的，即 A发生的概率每次均一样；每次试验是独立的，即每次试验A发生与否与其他次试验 A发生与否是互不影响的。这种试验称为伯努利概型，或称为n重伯努利试验。用p表示每次试验A发生的概率，则A发生的概率为1 P q，用Pn(k)表示n重伯努利试验中 A出现k(0 k n)次的概率，_.k k n kPn(k) Cn P q ，k 0,1,2, ,n。第二章随机变量及其分布(1)离散 型随机变 量的分布 律设离散型随机变量 X的可能取值为 X0, q=1-p。随机变量X服从参数为p的几何分布，记为 G(p)。均匀分布设随机变量X的值只落在a , b内，其密度函数f(x)在a ,

9、b1上为常数，即b a1aw xw bf (x) b a其他，0,则称随机变量X在a ,b上服从均匀分布，记为XU(a, b)。分布函数为广 0,xb。当awxiX2W b时，X洛在区间(xi，x2)内的概率为x2P(x-| X x2)。ba指数分布f (x)0,其中 0， X的分布函数为则称随机变量X服从参数为 的指数分布。F(x)I 0,x0。记住积分公式:xne xdx n!0正态分布设随机变量f(x)其中X的密度函数为1 (x J1 e 2 2 .2 e、0为常数,的正态分布或高斯(Gauss)则称随机变量X服从参数为2分布，记为X N(,)。f(X)具有如下性质:1f(x)的图形是关

10、于X2X N( F(x).对称的；1时，f () 为最大值;2)x，理 X2、2的分布函数为dtO 。参数1时的正态分布称为标准正态分布，记为X N(0-1)1,其密度函数记为(x) . 2 e 2t22dt。分布函数为1 x(x)边 e(x)是不可求积函数，其函数值，已编制成表可供查用。(-x) = 1-(x)且 (0)=丄。2 X 2如果 X N( , 2)，则N(0,1)。P(Xi X X2)X2为(6)分位 数下分位表：P(X)=；上分位表：P(X)=。(7)函数 分布离散型已知X的分布列为XX1, X2, xn,P(X Xi) P1, P2, Pn,Y g(X)的分布列(yig(Xi

11、)互不相等)如下：Yg(X1), g(X2), g(Xn),若有某些g(Xif相等,p则应将对,应的?, Pi相加作为g(xi)的概率。连续型先利用X的概率密度fx(x)写出Y的分布函数FY(y) = P(g(X) 0 (i,j=1,2,);(2) Pij 1.i j连续型对于二维随机向量(X,Y)，如果存在非负函数f (x, y)(x,y)，使对任意一个其邻边分别平仃于坐标轴的矩形区域D,即D-(X,Y)|axb,cy 0;(2)f (x, y)dxdy 1.(2)二维 随机变量 的本质(X x,Yy) (X x y y)(3)联合设(X，Y)为二维随机变量，对于任意实数x,y,二元函数分布

12、函数F(x,y) PX x,Y y称为二维随机向量(X，Y)的分布函数，或称为随机变量X和Y的联合分布函数。分布函数是一个以全平面为其定义域，以事件( 1，2)|X( 1) x,Y( 2) y的概率为函数值的一个实值函数。分布函数F(x,y)具有以下的基本性质：(1)0 F(x, y) 1；(2)F( x,y)分别对x和y是非减的，即当X2X1时，有F (X2,y ) F(X1,y);当 护屮时，有 F(x,y 2) F(x,y 1);(3)F( x,y)分别对x和y是右连续的，即F(x, y) F(x 0, y), F(x,y) F(x,y 0);(4)F(,)F( , y) F(x, )0

13、,F(,)1.(5)对于x1X2， y1y2，F(X2, y2)F(X2, yj F(X1，y2) F(X1，yj 0.(4)离散 型与连续 型的关系P(X x，Yy) P(x X x dx， y Y y dy) f(x， y)dxdy(5)边缘 分布离散型X的边缘分布为Pi?P(X Xi)Pij(i,j 1,2,)；jY的边缘分布为P?jP(Y yj)Pij(i, j 1,2,)。i连续型X的边缘分布密度为fx(x)f(x,y)dy;Y的边缘分布密度为fY(y)f (x, y)dx.(6)条件 分布离散型在已知X=x的条件下，Y取值的条件分布为PijP(Y yj |X xj 丄；Pi?在已知

14、Y=y的条件下，X取值的条件分布为PijP(X xJY yj)丄，P?j连续型在已知Y=y的条件下，X的条件分布密度为 1 、 f(x,y)f(x|y)；fY(y)在已知X=x的条件下，Y的条件分布密度为f(y|x)常fx(X)(7)独立 性一般型F(X,Y)=F x(x)F Y(y)离散型Pij Pi?P?j有零不独立连续型f(x,y)=fx(x)f Y(y)直接判断，充要条件： 可分离变量 正概率密度区间为矩形二维正态分 布2 21x12(x1 )(y2)y21 2(1 2 ) 1 1 2 2f (x, y): e,21 2诵=0随机变量的函数若X1,X2,XmXm+1,X相互独立，h,g

15、为连续函数，则： h (X1, X2,Xm) 和 g ( Xm+1,Xn)相互独立。特例：若X与Y独立，则：h (X)和g (Y)独立。例如：若 X与Y独立，则：3X+1和5Y-2独立。(9)二维设随机向量(X, Y的分布密度函数为正态分布1e1 2 j122 21x 12 (x 1)(y2)y 2f(x, y)22(1 2) 1 1 2 2J其中1, 2,0， 2 0,11是5个参数，则称(X, Y)服从二维正态分布，记为(X，Y)N ( 1， 2, 1 ，；,)由边缘密度的计算公式，可以推出二一维正态分布的两个边缘分布仍为正态分布，即XN (1,12)，YN( 2,2).但是若XN (1，

16、12),YN(22 ) , (X, Y)未必是二维正态分布。(10)函数分布Z=X+Y根据定义计算：Fz(z) P(Z z) P(X Y z)对于连续型，fz(z) = f (x, z x)dx两个独立的正态分布的和仍为正态分布(12, 122 )。n个相互独立的正态分布的线性组合，仍服从正态分布。CTi ?i2c2 22 iiiZ=max,mi n(X1,X2,Xn)若 X1, X2 Xn相互独立，其分布函数分别为Fx (x), Fx (x)Fxn (x)，则 Z=max,min(X 1 ,X2,Xn)的分布函数为：Fmax(x)Fx,(X)?Fx2(X)Fxn(x)Fmin (x)11F“

17、(x)?1 Fx2(x)1 Fxn(x)2分布设n个随机变量Xi, X2, ,Xn相互独立，且服从标准正态分布，可以证明它们的平方和n2WXii 1的分布密度为1 n 1 unu2 e 2 u 0,f(u) 22 n20,u 0.我们称随机变量 W服从自由度为n的2分布，记为W- 2(n),其中nn ix2 e dx.2 0所谓自由度是指独立正态随机变量的个数，它是随机变量分布中的一个重要参数。2分布满足可加性：设Yi2(n J,则k2ZYi (nin2nk).i 1t分布设X, Y是两个相互独立的随机变量，且2X N(0,1),Y (n),可以证明函数T产W / n的概率密度为n 1n 12

18、t2f(t)21 t(t)./nn*n一2我们称随机变量 T服从自由度为n的t分布，记为Tt(n)。t1 (n) t (n)F分布设X 2(n 1), Y 2(门2)，且X与Y独立，可 以证明X /nF 的概率密度函数为Y/rk“1 “2比叫匕2m 2 弓ni2f(y) y 1 y ，y 0 f(y丿n1n2 n2n22 20,y 0我们称随机变量F服从第一个自由度为 ni,第二个自由度为 n2的F分布，记为 Ff(n i, n 2).1Fi (n 1,n2)F (n2, nJ第四章 随机变量的数字特征(1)离散型连续型一维期望设X是离散型随机变量，其分布设X是连续型随机变量，其概率密随机期望

19、就是平均值度为f(x),变量律为 p( XXk ) = pk ,的数k=1,2,n ,E(X)xf(x)dx字特n征E(X)XkPkk 1(要求绝对收敛)(要求绝对收敛)函数的期望Y=g(X)Y=g(X)nE(Y)g(Xk)Pkk 1E(Y)g(x)f(x)dx方差2D(X)=EX-E(X),D(X)Xk E(X)2pkD(X)x E(X)2 f (x)dx标准差k(X) Jd(x),矩对于正整数k，称随机变量X对于正整数k,称随机变量X的的k次幕的数学期望为 X的kk次幕的数学期望为 X的k阶原点阶原点矩，记为Vk,即矩，记为Vk,即V k=E(Xk)=Xikpi ,iv k=E(Xk)=x

20、k f (x)dx,k=1,2,k=1,2,对于正整数k，称随机变量X对于正整数k,称随机变量X与与E (X)差的k次幕的数学期E(X)差的k次幕的数学期望为 X望为X的k阶中心矩，记为k ,的k阶中心矩，记为k，即即k E(XE(X)kkk E(X E(X)k=(X E(X) f(x)dx,=(xiiE(X)kpi,k=1,2,k=1,2,切比雪夫不等式设随机变量X具有数学期望E (X) = ，方差D (X) =/,则对于任意正数&，有卜列切比雪夫不等式P(|X2)-T切比雪夫不等式给出了在未知X的分布的情况下，对概率的一种估计P(|X.、- Z .、人rA 2) n 2(5)期望n二维 随

21、机E(X)Xi pi?i 1E(X)xfx (x)dx变量n的数 字特E(Y)yjP?jj 1E(Y)yfY (y)dy征函数的期望EG(X,Y)=EG(X,Y)=i jG(Xi, yj)PjG(x,y) f(x, y)dxdy方差D(X)2XiE(X) Pi?iD(X)x E(X)2 fx (x)dxD(Y)Xj E(Y)2p?jjD(Y)y e(Y)2fY(y)dy协方差对于随机变量X与Y,称它们的二阶混合中心矩11为X与Y的协方差或相关矩，记为XY或cov(X,Y)，即xyii E(X E(X)(YE(Y).与记号 xy相对应，X与Y的方差D( X)与D( Y)也可分别记为xx与jYY

22、相关系数对于随机变量X与丫，如果D(X)0, D(Y)0，则称XYJd(x)Jd(y)为X与Y的相关系数，记作XY (有时可简记为)。| 1,当|=1时，称X与Y完全相关：P(X aY b) 1完全相关正相关，当1时(a0)，负相关，当1时(a 0),而当0时，称X与Y不相关。以下五个命题是等价的： XY0 ； cov(X,Y)=0; E(XY)=E(X)E(Y); D(X+Y)=D(X)+D(Y); D(X-Y)=D(X)+D(Y).协方差矩阵XXXYYXYY混合矩对于随机变量X与丫如果有E(X kYl )存在，则称之为 X与Y的 k+l阶混合原点矩，记为ki ; k+l阶混合中心矩记为：k

23、lUkl E(X E(X) (Y E(Y).(6) 协方 差的 性质(i) cov (X, Y)=cov (Y, X);(ii) cov(aX,bY)=ab cov(X,Y);(iii) cov(X 1+X2, Y)=cov(X i,Y)+cov(X 2,Y);(iv) cov(X,Y)=E(XY)-E(X)E(Y).(ii )(7)独立和不相关(i )若随机变量X与Y相互独立，则 xy 0 ;反之不真。若(X, Y)N (1，2，i2，:,),则X与Y相互独立的充要条件是 X和Y不相关。第五章 大数定律和中心极限定理1.(1 )大数定律切比雪 夫大数 定律设随机变量 X, X2,湘互独立，均

24、具有有限方差，且被同一 常数C所界：D(X) C(i=1,2,)，则对于任意的正数,有limnXi 1 n E(Xi)1 n i 11.特殊情形:则上式成为X,X2,具有相同的数学期望 E (X)=卩,lim PnXin i 11.伯努利 大数定 律设卩是n次独立试验中事件 A发生的次数，p是事件A在 每次试验中发生的概率，则对于任意的正数有lim Pn1.辛钦大数定律伯努利大数定律说明，当试验次数的频率与概率有较大判别的可能性很小，即n很大时，事件A发生lim Pn0.这就以严格的数学形式描述了频率的稳定性。设X1, %,-, Xn,是相互独立同分布的随机变量序列，且E(% ) = ，则对于

25、任意的正数&有lim Pn1 n1 Xin i 1（2）中心极限定列维设随机变量Xi, X2,相互独立，服从同一分布，且具有理林德伯相同的数学期望和方差：X2N(n格定理E(Xk),D(Xk)20(k1,2,），则随机变量nXk nYk 1Yn麻的分布函数Fn（x）对任意的实数X,有lim Fn (x) lim P -nnnXk n1厂x*n1xV2et2= dt.此定理也称为独立同分布的中心极限定理。棣莫弗拉普设随机变量 X n为具有参数 n, p（0p1）的二项分布，则对于拉斯定任意实数X,有理.n X n np lim P 1X-x TT et2?dt.nJnp(1 p)(3)二项定理若

26、当N时,一p（n,k不变），则Nq k q nkCm Cn Mk k z._nCn p (1Cnp)n k(N).超几何分布的极限分布为二项分布。(4)泊松定理若当n时，np0,则c k kn kCn p (1 p)ke k!(n).其中k=0, 1, 2，n，。 二项分布的极限分布为泊松分布。第六章样本及抽样分布（1）数理 统计的基 本概念总体在数理统计中，常把被考察对象的某一个（或多个）指标的全 体称为总体（或母体）。我们总是把总体看成一个具有分布的随 机变量（或随机向量）。个体总体中的每一个单兀称为样品（或个体）。样本样本函数和 统计量常见统计量 及其性质样本均值1 nXi.n i 1样

27、本方差S2(XiX)2.样本标准差(Xi x)2.1样本k阶原点矩Mkn1k |Xi ,kn i 11,2,样本阶中心矩Mkn(Xi1X)k,k2,3,E(X)，D(X)2E(S )E(S*2) n 12我们把从总体中抽取的部分样品x1, x2, , xn称为样本。样本中所含的样品数称为样本容量，一般用n表示。在一般情况下， 总是把样本看成是 n个相互独立的且与总体有相同分布的随机 变量，这样的样本称为简单随机样本。在泛指任一次抽取的结果时，Xi,X2, ,xn表示n个随机变量(样本)；在具体的一次抽取之后，x1, x2, , xn表示n个具体的数值(样本值)。我们称之为样本的两重性。设Xi,

28、 X2 , Xn为总体的一个样本，称(Xi,X2, Xn)为样本函数，其中为一个连续函数。如果中不包含任何未知参数，则称(Xi, X2 , ,Xn)为一个统计量。i2其中s*2n2(Xi X),为二阶中心矩。i 1（2）正态 总体下的 四大分布正态分布设 Xi, X2,本函数,Xn为来自正态总体N(,2）的一个样本，则样def Xu/ vn N(O,i).t分布设 Xi, X2 ,Xn为来自正态总体N(,2）的一个样本，则样本函数def xs/n t(ni),其中t(n-i)表示自由度为 n-i的t分布。2分布设 Xi, X2 ,Xn为来自正态总体N(,2）的一个样本，则样本函数def (n

29、i)SW222(n i),其中2（ni）表示自由度为n-i的2分布。F分布设 Xi, X2 ,Xn为来自正态总体N(,i2）的一个样本，而yi, y2, yn为来自正态总体N(,22 ）的一个样本，则样本函数F def si2 /i21 F(nin i),Is；/ 2其中S2 ini(X X)2S22i n2- 20ni”(XiX),i i i”(yiy)；压i i iFg i, n2i）表示第自由度为nii，第二自由度为n2 i的F分布。（3）正态 总体下分X与S2独立。布的性质第七章参数估计(1)点 估计矩估计设总体X的分布中包含有未知数1, 2, , m，则其分布函数可以表成F(x; 1

30、, 2, , m).它的 k 阶原点矩 Vk E(Xk)(k 1,2, , m)中也 包含了未知参数1,2, m，即Vk Vk( 1,2, m)。又设X1, X2, Xn为总体X的n个样本值，其样本的k阶原点矩为1 nXik (k 1,2,m).n i 1这样，我们按照“当参数等于其估计量时，总体矩等于相应的样本矩”的原则建立方程，即有1 nV1( 1 , 2 , , m) Xi ,n i 11 n/ 1 2V2( 1 ,2 , mJ Xi ,n i 11 nVm( 1 , 2 , , m)Xi .n i 1由上面的m个方程中，解出的 m个未知参数(1, 2, , m)即为参数(1 , 2 ,

31、 m )的矩估计量。若 为 的矩估计，g(X)为连续函数，则g(?)为g()的矩估计。极大似 然估计当总体X为连续f(X； 1 ,2 , m)，其型随机变量时，设其分布密度为未知参数。又设中1 ,2 , m 为Xi , X2 , ,Xn为总体的一个样本，称L( 1 , 2,m)nf (Xi；i 11 ,2,m )为样本的似然函数，简记为Ln当总体X为离型随机变量时,设其分布律为PX X p(x; 1,2,m ),则称L(Xi,X2,Xn； 12,n m )i 1p(Xi;1 ,2 ,m)为样本的似然函数。若似然函数L(x1,X2,Xn ；1, 2 , ,m)在 1,2,m处取到最大值，则称 1

32、, 2,m分别为1, 2 ,Jm的最大似然估计值，相应的统计量称为最人似然估计量。ln Ln0,i1,2,ii i,111右为的极大似然估计，g(X)为单调函数，则g( ?为 g()的极大似然估计。(2 )估 计量的无偏性设(XX?,Xn)为未知参数的估计量。若E()=，则称评选标准为的无偏估计量。E ( X ) =E (X), E (S2) =D( X)有效性设 11(X1, X,2 , Xn)和 22(X1, X,；2 ,7 Xn)是未知参数的两个无偏估计量。若 D(1 ) D( 2 )，则称1比2有效。一致性设n是的一串估计量，如果对于任意的正数，都有lim P(|nn |)0,则称n为

33、的一致估计量(或相合估计量)。右为的无偏估计，且D( 30(n),则为的一致估计。只要总体的E(X)和D(X)存在，一切样本矩和样本矩的连续函数都是相应总体的一致估计量。(3)区置信区间估计间和置设总体X含有一个待估的未知参数。如果我们从样本x1,x,2 , ,xn出信度发，找出两个统计量11(X1,X,2 ,Xn)与22(X1, X,2 , Xn)( 12),使得区间1, 2以1(01)的概率包含这个待估参数即P 121那么称区间1，2】为 的置信区间，1为该区间的置信度(或置信水平)。单正态O总体的设X1, X,2 , , Xn为总体X N(,)的一个样本，在置信度为 1期望和 O方差的下，我们来确定禾口的置信区间1,2。具体步骤如下：区间估(i )选择样本函数；计(ii )由置信度1，查表找分位数；(iii )导出置信区间1,2已知方差，估计均值(i )选择样本函数uX N(01)r N(0,1). o/Jn(ii)查表找分位数PX 10川1-(iii)导出置信区间X0 0存,X石未知方差，估计均值（i ）选择样本函数xt t(n1).sKpn(ii)查表找分位数Px1 .Shfn（ii ）导出置信区间 s -xTn,xS