(完整版)概率论与数理统计知识点总结(免费)

1、概率论与数理统计第一章概率论的基本概念§ 2 .样本空间、随机事件1 .事件间的关系 A B 则称事件B包含事件A,指事件A发生必然导致事件 B发生A B xx A或x B称为事件A与事件B的和事件，指当且仅当A, B中至少有一个发生时，事件 A B发生A B xx A且x B称为事件A与事件B的积事件，指当 A, B 同时发生时，事件 A B发生A- B xx A且x B称为事件A与事件B的差事件，指当且仅当A发生、B不发生时，事件 A B发生A B ,则称事件A与B是互不相容的，或互斥的，指事件 A与事 件B不能同时发生，基本事件是两两互不相容的A B S且A B ,则称事件A与

2、事件B互为逆事件，又称事件A与事件B互为对立事件2.运算规则交换律ABBAABBAA(B C)结合律(A B) C A (B C) (A B)C分配律A(B C) (A B) (A C)A (B C) (A B)(A C)德摩根律ABA§ 3.频率与概率定义 在相同的条件下，进行了 n次试验，在这n次试验中，事件 A发生的次数nA称为事件A发生的频数，比值nA/n称为事件A发生的频率概率：设E是随机试验，S是它的样本空间，对于E的每一事件A赋予一个实数，记为P(A), 称为事件的概率1 .概率P(A)满足下列条件：(1)非负性：对于每一个事件 A 0 P(A) 1(2)规范性：对于必

3、然事件 S P(S) 1(3)可列可加性：设Ai, A2, , An是两两互不相容的事件， 有P( Ak)P(Ak)(n可k 1k 1以取 )2 .概率的一些重要性质： P( ) 0nn(ii)若Ai,A2, , An是两两互不相容的事件，则有P( Ak)P(Ak) (n可以取 )k 1k 1(iii)设 A, B 是两个事件若 A B,则 P(B A) P(B) P(A) , P(B) P(A)(iv)对于任意事件 A, P(A) 1(v) P(A) 1 P(A)(逆事件的概率)(vi)对于任意事件 A, B 有 P(A B) P(A) P(B) P(AB)§ 4等可能概型(古典概

4、型)等可能概型：试验的样本空间只包含有限个元素，试验中每个事件发生的可能性相同若事件 a 包含 k 个基本事件，即 a 佰 e e ,里 i1i2ik'i1，i2, ik是12 n中某k个不同的数,则有_k f ,k A包含的基本事件数P(A) j 1P" 7 s中基本事件的总数§ 5 条件概率(1) 定义：设A,B是两个事件，且 P(A) 0,称P(B|A) 迪 为事件A发生的条P(A)件下事件B发生的条件概率(2) 条件概率符合概率定义中的三个条件1非负性：对于某一事件 B ,有P(B | A) 02。规范性：对于必然事件 S, P(S|A) 13可列可加性：设

5、B1，B2,是两两互不相容的事件，则有P( Bi A ) P(Bi A ) i 1i 1(3) 乘法定理设P(A) 0,则有P(AB) P(B)P(A| B)称为乘法公式(4) 全概率公式： P(A)P(BJP(A|Bi)贝叶斯公式:P(Bk | A)P(Bk)P(A|Bk)nP(Bi)P(A| Bi)i 1§ 6 独立性定义设A, B是两事件，如果满足等式 P(AB) P(A)P(B),则称事件A,B相互独立定理一设A, B是两事件，且 P(A) 0,若A, B相互独立，则 P(B| A) P B一 一 一 一定理二若事件A和B相互独立，则下列各对事件也相互独立：A与B,A与B,A

6、与B第二章随机变量及其分布§ 1随机变量定义设随机试验的样本空间为S e. XX(e)是定义在样本空间S上的实值单值函数，称X X(e)为随机变量§ 2离散性随机变量及其分布律1 .离散随机变量：有些随机变量，它全部可能取到的值是有限个或可列无限多个，这种随 机变量称为离散型随机变量P(X Xk) Pk满足如下两个条件(1) Pk 0, (2)Pk =1k 12 .三种重要的离散型随机变量(1) (0- 1)分布设随机变量 X 只能取 0 与 1 两个值，它的分布律是 P(X k) pk(1-p)1-k, k 0,1 (0 p 1),则称X服从以p为参数的(0 - 1)分布

7、或两 点分布。(2)伯努利实验、二项分布一设实验E只有两个可能结果：A与A ,则称E为伯努利实验.设P(A) p (0 p 1),此时P(A) 1-p.将E独立重复的进行n次，则称这一串重复的独立实验为n重伯努利实验。n k n-kP(X k) pq , k 0,1,2, n 满足条件(1) pk 0, (2)Pk =1 注意kk 1到n pkqn-k是二项式(p q)n的展开式中出现pk的那一项，我们称随机变量X服从参数k为n, p的二项分布。(3)泊松分布设随机变量X所有可能取的值为0,1,2，而取各个值的概率为k -eP(X k) ,k 0,1,2 ，其中 0是常数，则称X服从参数为的泊

8、松分布记为k!X ()§ 3随机变量的分布函数定义 设X是一个随机变量，x是任意实数，函数 F(x) PX x,- x称为X的分布函数分布函数F(x) P(X x),具有以下性质(1) F(x)是一个不减函数 (2)0 F(x) 1,且5() 0,F( ) 1(3) F(x 0) F (x)，即 F (x)是右连续的§ 4连续性随机变量及其概率密度连续随机变量：如果对于随机变量X的分布函数F (x),存在非负可积函数 f (x),使x对于任意函数x有F(x) f (t) dt,则称x为连续性随机变量，其中函数f(x)称为X-的概率密度函数，简称概率密度f(x)dx 1 ；1

9、概率密度f(x)具有以下性质，满足(1) f(x) 0, (2)(3) P(XiX x2)2,三种重要的连续型随机变量x2fx1(x)dx；(4)若f (x)在点x处连续，则有F (x) f (x)(1)均匀分布若连续性随机变量 X具有概率密度f (x)均匀分布记为X U (a, b)(2)指数分布若连续性随机变量 X的概率密度为f (x)a x bb-a ' a x b ,则成X在区间(a,b)上服从0 ,其他e"，x. 0其中0,其他0为常数，则称X14服从参数为 的指数分布。(3)正态分布若连续型随机变量 X 的概率密度为f(x)其中，(0)为常数，则称X服从参数为，的

10、正态分布或高斯分布，记为特别，当 0,1时称随机变量X服从标准正态分布§ 5随机变量的函数的分布定理设随机变量X具有概率密度 fx(x),-x ，又设函数g(x)处处可导且恒有g,(x) 0Y= g(X)是连续型随机变量其概率密度为fY(y)fX h(y) h,(y), y0,其他第三章多维随机变量§ 1二维随机变量X(e)和Y Y(e)是定义在S上定义 设E是一个随机试验，它的样本空间是 S e. X的随机变量，称 X X(e)为随机变量，由它们构成的一个向量( X, Y)叫做二维随机变量设(X, Y)是二维随机变量，对于任意实数x , y ,二元函数F (x, y) P

11、(X x) (Y y)里区PXx, Y y称为二维随机变量(X, Y)的分布函数如果二维随机变量 (X, Y)全部可能取到的值是有限对或可列无限多对，则称(X,Y)是离散型的随机变量。我们称P(X xi, Y Yj) Pij, i, j 1,2,为二维离散型随机变量(X, Y)的 分布律。对于二维随机变量(X,Y)的分布函数F (x, y),如果存在非负可积函数 f(x,y),y x_ ,、.使对于任息*,丫有5 (x,y)f(u,v)dudv,则称(X ,Y)是连续性的随机变量，-函数f (x, V)称为随机变量(X, Y)的概率密度，或称为随机变量X和Y的联合概率密度。§ 2边缘

12、分布二维随机变量(X, Y)作为一个整体，具有分布函数F (x, y).而X和Y都是随机变量，各自也有分布函数，将他们分别记为FX(x), FY(y),依次称为二维随机变量 (X, Y)关于X和关于Y的边缘分布函数。Pi? Pj PX Xi, i 1,2,p?jPjPYy，j 1,2,j 1i 1分别称Pi? p?j为(X, Y)关于X和关于Y的边缘分布律。fx(x)f(x,y) dyfy(y)f (x, y) dx分别称 fX(x),fY (y)为x , 丫关于x和关于y的边缘概率密度。§ 3条件分布定义 设(X, Y)是二维离散型随机变量，对于固定的j,若PY yj 0,则称 P

13、X xi Y yjPX X,Y yjPY yjPj.一 ,iP?j1,2,为在Y yj条件下随机变量X的条件分布律，同样PY yj X XiPX x/ yjPX x目"1,2, Pi?为在X xi条件下随机变量X的条件分布律。设二维离散型随机变量(X, Y )的概率密度为f(x, y), (X, Y)关于Y的边缘概率密度为fY(y),若对于固定的V, fY(y)0,则称f (x, y)、.' "为在Y=y fY(y)的条件下X的条件概率密度，记为%丫 (x y)=f(x,y)fY(y)§ 4相互独立的随机变量定义设F (x, y)及FX(x), FY(y)

14、分别是二维离散型随机变量( X, Y)的分布函数及边缘分布函数.若对于所有x,y有PX x,Y y PX xPY y,即Fx,y Fx(x)Fy(v), 则称随机变量 X和Y是相互独立的。对于二维正态随机变量(X , Y) , X和Y相互独立的充要条件是参数0§ 5两个随机变量的函数的分布1, Z=X+Y的分布设(X,Y)是二维连续型随机变量，它具有概率密度f (x, y).则Z=X+Y仍为连续性随机变量，其概率密度为fX Y(z) f (z y, y) dy或fX Y (z) f (x,z x) dx又若X和Y相互独立，设(X, Y)关于X , Y的边缘密度分别为 fX (x),

15、fY (y)则fx Y(z)fX (zy)fY(y)dy 和fXy(z) fX(x)fY(zx)dx这两个公式称为fX , fY的卷积公式有限个相互独立的正态随机变量的线性组合仍然服从正态分布Y 一2, Z的分布、Z XY勺分布X设(X,Y)是二维连续型随机变量，它具有概率密度f(x, y),则 ZYZ XYX仍为连续性随机变量其概率密度分别为fYX (z) x f (x, xz)dxfXY ( z)If (x,Z)dx又若X和Y相互独立，设(X, Y)关于X, Y的边缘密度分别x x为 fX (x), fY(y)则可化为 fY/X (z)fX (x) fY (xz)dxfXY (z):fX(

16、x)fYgdx3 M maxX,Y及 N min X,Y的分布设X, y是两个相互独立的随机变量，它们的分布函数分别为FX (x),FY(y)由于M maxX , Y不大于z等价于X和Y都不大于z故有PM z PX z,Y z又由于X和丫相互独立，得到 M maxX , Y的分布函数为Fmax Fx(z)Fy(z)N minX,Y的分布函数为 Fm. (z) 1 1 Fx (z) 1 Fy(z)第四章随机变量的数字特征§ 1 .数学期望定义设离散型随机变量 X的分布律为PX xkPk, k=1,2,若级数xkpk绝对k 1收敛，则称级数xkPk的和为随机变量 X的数学期望，记为E(X

17、),即E(X)xk Pkk 1i设连续型随机变量 X的概率密度为f (x),若积分xf(x)dx绝对收敛，则称积分xf(x)dx的值为随机变量X的数学期望，记为 E(X),即E(X) xf(x)dx定理 设Y是随机变量X的函数Y= g(X)(g是连续函数)如果X是离散型随机变量，它的分布律为PX xk pk,k=1,2,若g(xk)pkk 1绝对收敛则有E(Y) E(g(X)g(xk)pkk 1(ii)如果X是连续型随机变量，它的分概率密度为 f(x),若g(x) f (x)dx绝对收敛则有 E(Y) E(g(X) g(x)f(x)dx数学期望的几个重要性质1设C是常数，则有E(C) C2设X

18、是随机变量，C是常数，则有E(CX) CE(X)3设X,Y是两个随机变量，则有 E(X Y) E(X) E(Y);4设X, Y是相互独立的随机变量，则有E(XY) E(X)E(Y)§ 2方差2._2_定义 设X是一个随机变量，若 E X E(X) 存在，则称E X E(X) 为*的方差，记为D (x)即D (x) =E X E(X) 2,在应用上还引入量 jD(x),记为(x),称为标准差或均方差。_2_2_2D(X) E(X E(X )2 E(X2) (EX)2方差的几个重要性质1设C是常数，则有D(C) 0,2 _2设X是随机变量，C是常数，则有 D(CX) CD(X), D(X

19、 C) D(X)3 设 X,Y 是两个随机变量，则有 D(X Y) D(X) D(Y) 2E(X - E(X)(Y - E(Y)特别，若X,丫相互独立，则有 D(X Y) D(X) D(Y)4D(X) 0的充要条件是X以概率1取常数E(X),即PX E(X)1切比雪夫不等式：设随机变量 X具有数学期望E(X) 2,则对于任意正数，不等式P X - F成立§ 3协方差及相关系数定义 量EX E(X)Y E(Y)称为随机变量 X与Y的协方差为Cov(X,Y),即Cov(X,Y) E(X E(X)(Y E(Y) E(XY) E(X)E(Y)而XYCov(X, Y)D(X) . D(Y)称为

20、随机变量X和Y的相关系数对于任意两个随机变量 X和Y, D(X Y) D(X) D(Y) 2Cov(X,Y)协方差具有下述性质lCov(X,Y) Cov(Y,X), Cov(aX,bY) abCov(X,Y)2Cov(Xi X2,Y) Cov(Xi,Y) Cov(X2,Y)定理 1 XY 12 XY 1的充要条件是，存在常数 a,b使PY a bx 1xy 0时，称X和Y不相关附：几种常用的概率分布表分布参数分布律或概率密度数学 期望力差两点分 布0 p 1PX k)pk(1 p)1k,k 0,1,pp(1 p)二项式 分布n 10 p 1P(X k) C：pk(1 p)nk,k 0,1, n,npnp(1 p)泊松分 布0k eP(X k) ,k 0,1,2,k!几何分 布0 p 1k 1P(X k) (1 p) p,k 1,2,工 p1 p2 p均匀分 布a b1.一、,a x bf(x)