概率论与数理统计知识点总结(详细)(最新整理)

1、概率论与数理统计第一章概率论的基本概念22样本空间、随机事件24 等可能概型（古典概型）35条件概率36独立性3第二章随机变量及其分布31 随机变量32 离散性随机变量及其分布律33 随机变量的分布函数34 连续性随机变量及其概率密度35 随机变量的函数的分布3第三章多维随机变量31 二维随机变量32 边缘分布33 条件分布34 相互独立的随机变量35 两个随机变量的函数的分布3第四章随机变量的数字特征31数学期望32 方差3133 协方差及相关系数3第五章 大数定律与中心极限定理31 大数定律32 中心极限定理3第一章概率论的基本概念2样本空间、随机事件1. 事件间的关系a b则称事件 b

2、包含事件 a，指事件 a 发生必然导致事件 b 发生a b = x x a或x b称为事件 a 与事件 b 的和事件，指当且仅当a，b 中至少有一个发生时，事件 a b 发生a b = x x a且x b称为事件 a 与事件 b 的积事件，指当 a，b同时发生时，事件 a b 发生a b = x x a且x b称为事件 a 与事件 b 的差事件，指当且仅当a 发生、b 不发生时，事件 a b 发生a b = f，则称事件 a 与 b 是互不相容的，或互斥的，指事件 a 与事件 b 不能同时发生，基本事件是两两互不相容的a b = s且 a b = f，则称事件 a 与事件 b 互为逆事件，又称

3、事件 a与事件 b 互为对立事件2. 运算规则 交换律 a b = b aa b = b a结合律( a b) c = a (b c)( a b)c = a(b c)分配律 a （b c）= ( a b) ( a c)a (b c) = ( a b)( a c) 徳摩根律 a b = a b a b = a b3频率与概率定义在相同的条件下，进行了 n 次试验，在这 n 次试验中，事件 a 发生的次数 na 称为事件 a 发生的频数，比值nan 称为事件 a 发生的频率概率：设 e 是随机试验，s 是它的样本空间，对于 e 的每一事件 a 赋予一个实数，记为 p（a），称为事件的概率1. 概率

4、 p( a) 满足下列条件：（1） 非负性：对于每一个事件 a0 p( a) 1（2） 规范性：对于必然事件 sp(s) = 1nn（3） 可列可加性：设 a1 , a2 ,l, an 是两两互不相容的事件，有 p(u ak ) = p( ak ) （ n可以取 ）2. 概率的一些重要性质：（i） p(f) = 0k =1k =1nn（ii） 若 a1 , a2 ,l, an 是两两互不相容的事件，则有 p(u ak ) = p( ak ) （ n 可以取 ）k =1k =1（iii） 设 a，b 是两个事件若 a b ，则 p(b - a) = p(b) - p( a) ， p(b) p(a

5、)（iv） 对于任意事件 a， p( a) 1（v） p( a) = 1 - p( a)（逆事件的概率）（vi）对于任意事件 a，b 有 p( a b) = p( a) + p(b) - p( ab)4 等可能概型（古典概型）等可能概型：试验的样本空间只包含有限个元素，试验中每个事件发生的可能性相同若 事 件 a 包 含 k 个 基 本 事 件 ， 即a = ei1 uei2 ulueik ， 里i1，i 2, l，i k 是1,2，ln中某k个不同的数，则有p( a) = p(e)= k = a包含的基本事件数kj=1i jns中基本事件的总数5条件概率（1） 定义：设 a,b 是两个事件，

6、且 p( a) 0 ，称 p(b | a) =件下事件 b 发生的条件概率（2） 条件概率符合概率定义中的三个条件1。非负性：对于某一事件 b，有 p(b | a) 0p( ab)p( a)为事件 a 发生的条2。规范性：对于必然事件 s， p(s | a) = 13 可 列 可 加 性 ： 设b1 , b2 ,l 是 两 两 互 不 相 容 的 事 件 ， 则 有p(u bi a ) = p(bi a )i=1i=1（3） 乘法定理设 p( a) 0 ，则有 p( ab) = p(b)p( a | b) 称为乘法公式（4） 全概率公式：np( a) = p(bi )p( a | bi )i=

7、1贝叶斯公式：p(bk| a) =p(bk )p( a | bk )n p(bi )p( a | bi )i=16独立性定义设 a，b 是两事件，如果满足等式 p( ab) = p( a)p(b) ，则称事件 a,b 相互独立定理一设 a，b 是两事件，且 p( a) 0 ，若 a，b 相互独立，则 p(b | a) = p(b) 定理二若事件 a 和 b 相互独立，则下列各对事件也相互独立：a 与b，a 与b，a 与b第二章随机变量及其分布1 随机变量定义设随机试验的样本空间为s = e. x = x(e) 是定义在样本空间 s 上的实值单值函数，称x = x(e) 为随机变量2 离散性随机

8、变量及其分布律1. 离散随机变量：有些随机变量，它全部可能取到的值是有限个或可列无限多个，这种随机变量称为离散型随机变量p( x = xk ) = pk 满足如下两个条件（1） pk 0 ，（2） pk =1k=12. 三种重要的离散型随机变量（1） 分布设 随 机 变 量 x 只 能 取 0 与 1 两 个 值 ， 它 的 分 布 律 是p( x = k) = p（k 1 - p）1-k，k = 0,1 （0 p 1) ，则称 x 服从以 p 为参数的分布或两点分布。（2） 伯努利实验、二项分布设实验e 只有两个可能结果：a 与a ，则称 e 为伯努利实验.设p(a) = p（0 p 0 是

9、常数，则称 x 服从参数为l的泊松分布记为x p（l）3 随机变量的分布函数定义设 x 是一个随机变量，x 是任意实数，函数f(x) = px x,- x 称为 x 的分布函数分 布 函 数 f (x) = p( x x) ， 具 有 以 下 性 质 (1)f (x) 是 一 个 不 减 函 数（ 2）0 f (x) 1，且f (-) = 0, f () = 1（3） f (x + 0) = f (x),即f (x)是右连续的4 连续性随机变量及其概率密度连续随机变量：如果对于随机变量 x 的分布函数 f（x），存在非负可积函数 f (x) ，使x对于任意函数 x 有f(x) = - f（t）

10、dt,则称 x 为连续性随机变量，其中函数 f(x)称为 x的概率密度函数，简称概率密度1 概率密度 f (x) 具有以下性质，满足（1） f (x) 0, (2)+=f (x)dx1；-（3） p(x1 x x2 ) =x2 f (x)dx ；（4）若 f (x) 在点 x 处连续，则有f，(x) =x1f (x)2,三种重要的连续型随机变量(1) 均匀分布 1，a x 0，其他其中q 0 为常数，则称 x服从参数为q的指数分布。（3）正态分布若 连 续 型 随 机 变 量 x 的 概 率 密 度 为f (x) =1e 2ps-( x-m）22s2，- x 0)为常数，则称x服从参数为m，s

11、的正态分布或高斯分布， 记为x n（m，s2）特别，当m= 0，s= 1时称随机变量 x 服从标准正态分布5 随机变量的函数的分布定理设随机变量 x 具有概率密度 f x (x)，- x 0 ， 则 y= g( x ) 是 连 续 型 随 机 变 量 ， 其 概 率 密 度 为yf ( y) = f xh( y)h, ( y) ,a y 0,则称 px = xy = y = px = xi ,y = y j =pij, i = 1,2,l为在y = y条件下随jjijpy = y p j机变量 x 的条件分布律，同样 py = y j x = x i =为在 x = xi 条件下随机变量 x

12、的条件分布律。px = xi ,y = y j =px = xi pij pi, j = 1,2,l设二维离散型随机变量（x，y）的概率密度为 f (x, y) ，（x，y）关于 y 的边缘概f (x, y)率密度为 fy ( y) ，若对于固定的 y， fy ( y) 0，则称fy ( y)为在 y=y 的条件下 x 的条件f (x, y)概率密度，记为 f x y (x y) =fy ( y)4 相互独立的随机变量定义 设f（x，y）及fx (x) ， fy ( y) 分别是二维离散型随机变量（x，y）的分布函数及边缘分布函数.若对于所有 x,y 有 px = x,y = y = px x

13、py y，即fx, y = fx (x)fy (y)，则称随机变量 x 和 y 是相互独立的。对于二维正态随机变量（x，y），x 和 y 相互独立的充要条件是参数r= 05 两个随机变量的函数的分布1，z=x+y 的分布设(x,y)是二维连续型随机变量，它具有概率密度 f (x, y) .则 z=x+y 仍为连续性随机变量，其概率密度为 f x +y (z) = - f (z - y, y）dy 或 f x +y (z) = - f (x, z - x）dx又若 x 和 y 相互独立，设（x，y）关于 x，y 的边缘密度分别为 f x (x), fy ( y) 则f x +y (z) = -

14、f x (z - y）f（yf x , fy 的卷积公式y) dy和 f x +y (z) = - f x (x）fy (z - x)dx 这两个公式称为有限个相互独立的正态随机变量的线性组合仍然服从正态分布2， z = y 的分布、z = xy的分布x设(x,y)是二维连续型随机变量，它具有概率密度 f (x, y) ，则 z = y ，z = xyx仍为连续性随机变量其概率密度分别为 fy x (z) = - x f (x, xz)dxf xy (z) = 1 f (x, z )dx 又若 x 和 y 相互独立，设（x，y）关于 x，y 的边缘密度分别- xx为 f x (x), fy (

15、 y) 则可化为 fy x (z) = - f x (x) fy (xz)dxf xy (z) = 1 f x (x) fy ( z )dx- xx3 m = maxx，y及n = minx ,y的分布设 x，y 是两个相互独立的随机变量，它们的分布函数分别为 fx (x), fy ( y) 由于m = maxx，y 不大于z 等价于x 和y 都不大于z 故有pm z = px z, y z 又由于 x 和 y 相互独立，得到 m= maxx，y 的分布函数为 fmax (z) = fx (z)fy (z)n = minx ,y的分布函数为 fmin (z) = 1 - 1 - fx (z)1

16、 - fy (z)第四章随机变量的数字特征1数学期望定义设离散型随机变量 x 的分布律为 px = xk = pk ，k=1,2，若级数 xk pk 绝对k =1收敛，则称级数 xk pk 的和为随机变量 x 的数学期望，记为 e( x ) ，即 e( x ) = xk pkk =1i设连续型随机变量 x 的概率密度为 f (x) ，若积分 - xf (x)dx 绝对收敛，则称积分+- xf (x)dx 的值为随机变量 x 的数学期望，记为 e( x ) ，即 e( x ) = - xf (x)dx定理设 y 是随机变量 x 的函数 y= g( x ) (g 是连续函数)（i） 如果 x 是离

17、散型随机变量，它的分布律为 px = xk = pk ，k=1,2，若 g(xk）pkk =1绝对收敛则有 e(y) = e(g( x ) = g(xk）pkk =1（ii） 如果 x 是连续型随机变量，它的分概率密度为 f (x) ，若 - g(x) f (x)dx 绝对收敛则有 e(y) = e(g( x ) = - g(x) f (x)dx数学期望的几个重要性质1 设 c 是常数，则有 e(c) = c2 设 x 是随机变量，c 是常数，则有 e(cx ) = ce( x )3 设 x,y 是两个随机变量，则有 e( x + y ) = e( x ) + e(y ) ；4 设 x，y 是

18、相互独立的随机变量，则有 e( xy ) = e( x )e(y )2 方差d(x)定义设x 是一个随机变量，若 ex - e( x )2 存在，则称 ex - e( x )2 为x 的方差，记为 d（x）即 d（x）= ex - e( x )2 ，在应用上还引入量，记为s(x) ，称为标准差或均方差。d( x ) = e( x - e( x )2 = e( x 2 ) - (ex )2方差的几个重要性质1 设 c 是常数，则有 d(c) = 0,2 设 x 是随机变量，c 是常数，则有 d(cx ) = c2 d( x ) ， d( x + c) = d(x)3 设 x,y 是两个随机变量，

19、则有 d( x + y ) = d(x) + d(y) + 2e(x - e(x)(y - e(y)特别，若 x,y 相互独立，则有 d( x + y ) = d( x ) + d(y )4 d( x ) = 0 的充要条件是 x 以概率 1 取常数e(x) ，即 px = e( x ) = 1切比雪夫不等式：设随机变量 x 具有数学期望 e( x ) = s2 ，则对于任意正数e，不等式s2p x - m e e2 成立3 协方差及相关系数定义量 e x - e( x )y - e(y )称为随机变量 x 与 y 的协方差为 cov( x ,y ) ，即cov( x , y ) = e( x

20、 - e( x )(y - e(y ) = e( xy ) - e( x )e(y )r=cov(x，y）而 xy称为随机变量 x 和 y 的相关系数d(x) d(y)+对于任意两个随机变量 x 和 y， d( xy ) = d( x ) + d(y )_-2cov( x ,y )协方差具有下述性质1 cov( x ,y ) = cov(y , x ), cov(ax , by ) = abcov( x ,y )2 cov( x 1 + x 2 ,y ) = cov( x 1 ,y ) + cov( x 2 ,y )定理12rxyrxy 1= 1 的充要条件是，存在常数 a,b 使 py =

21、a + bx = 1当 rxy = 0 时，称 x 和 y 不相关附：几种常用的概率分布表分布参数分布律或概率密度数学期望方差两点分布0 p 1px = k ) = pk (1 - p)1-k , k = 0,1，pp(1 - p)二项式分布n 1 0 p 0lk e-lp( x = k ) =, k = 0,1,2,lk!ll几何分布0 p 1p( x = k ) = (1 - p)k-1 p, k = 1,2,l 1p1 - pp 2均匀分布a b 1, a x 0 1 e-x q, x 0f (x) = q 0, 其他qq2正态分布ms 021- ( x-m)f (x) =e2s22ps

22、ms2第五章 大数定律与中心极限定理1 大数定律弱大数定理（辛欣大数定理）设 x1，x2是相互独立，服从统一分布的随机变量序列，并具有数学期望 e( x k) = m(knn 1= 1,2,l) .作前 n 个变量的算术平均k =1x k ，则对于任意ke 0 ，有lim p 1 n x- m e = 1nn k =1定义设y1 ,y2 ,lyn l 是一个随机变量序列，a 是一个常数，若对于任意正数e，有lim py- a e = 1，则称序列y ,y ,ly l 依概率收敛于 a，记为yp ann12nn伯努利大数定理设 f a 是 n 次独立重复试验中事件 a 发生的次数，p 是事件 a 在每次试验 中 发 生 的 概 率 ， 则 对 于 任 意 正 数e 0， 有lim pf nnn- p 0, k = 1,2l记 b 2 = e 2nkkkknkk =1hn - np np(1 - p)-2px定理三（棣莫弗-拉普拉斯定理）设随机变量hn (n = 1,2,l)服从参数为n, p(0 p 1）