概率论与数理统计重点笔记

1、概率论与数理统计复习1第一章概率论的基本概念一.基本概念随机试验 E:(1)可以在相同的条件下重复地进行；(2)每次试验的可能结果不止一个，并且能事先 明确试验的所有可能结果；(3)进行一次试验之前不能确定哪一个结果会出现.样本空间 S: E 的所有可能结果组成的集合.样本点(基本事件):E 的每个结果.随机事件(事件)：样本空间 S 的子集.必然事件(S):每次试验中一定发生的事件.不可能事件():每次试验中一定不会发生的事件.二. 事件间的关系和运算1. A B(事件 B 包含事件 A )事件 A 发生必然导致事件 B 发生.2. AUB(和事件)事件 A 与 B 至少有一个发生.3. A

2、AB=AB(积事件)事件 A 与 B 同时发生.4. A- B(差事件)事件 A 发生而 B 不发生.5. AB= (A 与 B 互不相容或互斥)事件 A 与 B 不能同时发生.6. AB= 且 AUB=S (A 与 B 互为逆事件或对立事件)表示一次试验中 A 与 B 必有一个且仅有一个发生.B=A, A=B .运算规则交换律结合律分配律德？摩根律A B A B A B A B三. 概率的定义与性质1.定义 对于 E 的每一事件 A 赋予一个实数，记为 P(A),称为事件 A 的概率.(1)非负性 P(A) 0；(2)归一性或规范性P(S)=1；(3)可列可加性对于两两互不相容的事件AI,A

3、2,(AiAj= , i 工 j, i,j=1,2,),P(AiUA2U )=P( AJ+P(A2)+2. 性质2(1) P( ) = 0 , 注意：A 为不可能事件弍 x P(A)=0 .若 A 与 B, A 与B,A与 B, ,A与B中有一对相互独立，则另外三对也相互独立3有限可加性对于 n 个两两互不相容的事件AI,A2,An,P(AiuA2uUAn)二P(AI)+P(A2)+P(An)(有限可加性与可列可加性合称加法定理)(3)若AB,则 P(A) P(B), P(B-A)=P(B)-P(A).(4)对于任一事件 A, P(A) 0).2乘法定理P(AB)=P(A) P (B|A) (

4、P(A)0); P(AB)=P(B) P (A|B) (P(B)0).P(AAAn)=P(A1)P(A2|A1)P(A3|A1A2)P(A jAHAn-1)(n2, P(AAAn-1) 0)3. B1,B2,Bn是样本空间 S 的一个划分(BiBjp,i 工 j,i,j=1,2,n, B1UB2UUBn=S)，则n当 P(Bi)0 时,有全概率公式 P(A)=P BiP ABii 1PAB当 P(A)0, P(Bi)0 时,有贝叶斯公式 P(Bi|A)=厂iP AP BiP0P BiP ABi4六.事件的独立性1两个事件 A,B,满足 P(AB) = P(A) P(B)时，称A,B为相互独立的

5、事件(1)两个事件 A,B 相互独立 P(B)= P (B|A).2三个事件 A,B,C 满足 P(AB)二P(A) P(B), P(AC)二P(A) P(C), P(BC)二P(B) P(C),称 A,B,C 三事 件两两相互独立.若再满足 P(ABC) =P(A) P(B) P(C),则称 A,B,C 三事件相互独立.3.n 个事件AI,A2,An,如果对任意 k (1k n),任意 1 iii2ik n.有P AhA% P AhP Aj P他，则称这 n 个事件AI,A2,An相互独立第二章随机变量及其概率分布一 随机变量及其分布函数1.在随机试验 E 的样本空间 S=e上定义的单值实值

6、函数 X=X (e)称为随机变量.2随机变量 X 的分布函数 F(x)=PX x , x 是任意实数.其性质为：(1)0 F(x) 1-fFO=0,F( 乂)=1. (2)F(x)单调不减，即若 xiX2，则 F(xi) F(X).(3)F(x)右连续，即 F(x+O)=F(x). (4)PxiXx2=F(x2)-F(XI).二离散型随机变量(只能取有限个或可列无限多个值的随机变量)1离散型随机变量的分布律PX= xk= pk(k=1,2，)也可以列表表示.其性质为：(1)非负性OWPk 1 ;归一性pk1.k 12离散型随机变量的分布函数F(x)=Pk为阶梯函数，它在 x=xk(k=1,2，

7、)处具有跳跃点，Xkx其跳跃值为 pk=PX=xk.3三种重要的离散型随机变量的分布(1) X(0-1)分布 PX=1= p ,PX=0=1 - (0p1).(2) Xb(n,p)参数为 n,p 的二项分布 PX=k= pk1 pn k(k=0,1,2，,n) (0p0)k!若 A 与 B, A 与B,A与 B, ,A与B中有一对相互独立，则另外三对也相互独立5三连续型随机变量1.定义 如果随机变量 X 的分布函数 F(x)可以表示成某一非负函数 f(x)的积分 F(x)=xf t dt,- 乂 0 ;(2)归一性f(x)dx=1 ;PxiXx2=：f(x)dx;若f (x)在点 x 处连续则

8、 f (x)=F/(x).注意：连续型随机变量 X 取任一指定实数值 a 的概率为零，即 PX= a=0 .特别，=0,2=1 时，称 X 服从标准正态分布，记为 XN (0,1),其概率密度.x2t21 - 1 -(x)-e2,标准正态分布函数(x) -xe2dt, (-x)=1-(x).V2V2Xxx若 X N ( ,2),则 Z=N (0,1), PX1X z = PZz/2= 则点 z，-z , z/ 2分别称为标准正态分布的上，下, 双侧分位点.注意：(z )=1- , z1-= -z .四随机变量 X 的函数丫二g (X)的分布1离散型随机变量的函数Xx1X2 xkPkP1P2 P

9、k丫=g(x)g(x” g(x2)g(xk)3三种重要的连续型随机变量的分布(1)XU (a,b)区间(a,b)上的均匀分布(2)X 服从参数为 的指数分布.f xf(x)1 b a0a x b其它.4x/若 x00若 x(0).0f(x)1(x )2e2- x0.、2若 A 与 B, A 与B,A与 B, ,A与B中有一对相互独立，则另外三对也相互独立7若 g(xk) (k=1,2,)的值全不相等，则由上表立得 Y=g(X)的分布律.若 g(xk) (k=1,2,)的值有相等的，则应将相等的值的概率相加，才能得到 Y=g(X)的分布律.2连续型随机变量的函数若 X 的概率密度为 fx(x),

10、则求其函数 Y二g(X)的概率密度 fY(y)常用两种方法：8(1)分布函数法 先求 Y 的分布函数 FY(y)=PY y=Pg(X) y=yfxx dxky八k其中k(y)是与 g(X) 0 (或 g/(x)0 ),则 Y=g (X)是连续型随机变量，其其中 h(y)是 g(x)的反函数，二min (g (- ),g ( )= max (g (- ),g ().如果 f (x)在有限区间a,b以外等于零，则 =min (g (a),g (b)= max (g (a),g (b).第三章二维随机变量及其概率分布一. 二维随机变量与联合分布函数1定义 若 X 和丫是定义在样本空间 S 上的两个随

11、机变量，则由它们所组成的向量(X,Y)称为 二维随机向量或二维随机变量.对任意实数 x,y,二元函数 F(x,y)=PX x,Y y称为(X,Y)的(X 和丫的联合)分布函数.2分布函数的性质(1) F(x,y)分别关于 x 和 y 单调不减.(2) 0 F(x,y) 1 , F(x,- )=0, F(- ,y)=0, F(-，- )=0, F( , )=1 .(3) F(x,y)关于每个变量都是右连续的，即 F(x+0,y)= F(x,y),F(x,y+O)= F(x,y).(4) 对于任意实数 x1x2, y1y2Px1X x2, y1Y y2= F(X2,y2)- F(X2,y“- F(

12、X1,y2)+ F(X1,y”二. 二维离散型随机变量及其联合分布律1定义 若随机变量(X,Y)只能取有限对或可列无限多对值(xi,yj) (i ,j =1,2，)称(X,Y)为二 维离散型随机变量并称 PX= xi,丫二yj= pi j为(X,Y)的联合分布律.也可列表表示.2性质(1)非负性 OWpi j 0 . (2)归一性若 f (x,y)在点(x,y)连续，则f (x,y)F(x, y)x y若G 为 xoy 平面上一个区域 则P(x,y) G f (x,y)dxdy.G四边缘分布2二维离散型随机变量(X,Y)3二维连续型随机变量(X,Y)五.相互独立的随机变量1定义 若对一切实数

13、x,y,均有 F(x,y)=FX(x)FY(y),则称 X 和丫相互独立.pi j= pi- pj( i ,j =1,2，)对一切 Xi,yj成立.f (x,y)=fX(x)fY(y)对(X,Y)所有可能取值(x,y)都成立.六.条件分布1.二维离散型随机变量的条件分布定义 设(X,Y)是二维离散型随机变量，对于固定的 j,若 PY二yj0,则称f(x,y)dxdy 1.1. (X,Y)关于 X 的边缘分布函数FX(x) = PX x , Y0,则称P Y=yj|X=xiPX x丫yjRPXXi時p (1- p)为在 X=Xi条件下随机变量Y 的条件分布律.第四章 随机变量的数字特征一 数学期

14、望和方差的定义离散型随机变量数学期望(均值)E(X)方差 D(X)=EX-E(X)1 2 34=E(X2)-E(X)2xipi(级数绝对收敛)i1XiE(X)2Pii 1(级数绝对收敛)连续型随机变量概率密度 f (x)xf(x)dx(积分绝对收敛)函数数学期望 E(Y)=Eg(X)g(xi)pi(级数绝对收敛)i 1标准差(X)=VD(X).二数学期望与方差的性质x E(X)2f (x)dx(积分绝对收敛)g(x) f (x)dx(积分绝对收敛)122.X b (n ,p)(0p1)n p (1- p)3.X ()4.X U(a,b)5.X 服从参数为的指数分布(a+b)/2(b-a)2/1

15、226.X N ( ,2)四矩的概念随机变量 X 的 k 阶(原点)矩 E(Xk)k=1,2,随机变量 X 的 k 阶中心矩 EX-E(X)k随机变量 X 和丫的 k+l 阶混合矩 E(XkYl)1=1,2,随机变量 X 和丫的 k+l 阶混合中心矩 EX-E(X)kY-E(Y)丨第六章样本和抽样分布一 .基本概念总体 X 即随机变量 X；样本 Xi,X2，,Xn是与总体同分布且相互独立的随机变量；样本值Xi,X2，,xn为实数；n 是样本容量.统计量是指样本的不含任何未知参数的连续函数 如:1n样本均值X-Xi样本方差S2ni i样本标准差 S1n .样本 k 阶矩Ak Xik( k=1,2

16、，)ni 11n.样本 k 阶中心矩Bk (XiX)k( k=1,2,)ni 1二抽样分布即统计量的分布1.X的分布 不论总体 X 服从什么分布，E (X) = E(X) , D (X) = D(X) / n .特别，若 X N ( ,2)贝 SX N ( ,2/n).n2.2分布(1)定义 若 XN (0,1)，则丫二Xi22( n)自由度为 n 的2分布.i 1性质 若丫2(n),则 E(Y) = n , D(Y) = 2n .若 Y12(n1) Y22(n2)，则丫什丫22(n1+ n2).13PF F (ni, n2) PF Fi(n1, n?)14(3)分位点 若 Y2(n),01，

17、则满足PY2(n) PYf(n) P(Y爲(n)(Yf以n)的点2(n), j (n), 72(n)和f/2(n)分别称为2分布的上、下、双侧分位点.3. t 分布X(1)- 定义 若 XN (0,1),Y2(n),且X,Y 相互独立则 t=-1(n)自由度为 n 的 t 分布.xY n(2)性质n-K时,t 分布的极限为标准正态分布.2XN ( ,2)时，3两个正态总体XS nt (n-1).样本均值相互独立的样本样本万差X N (1,12)且12=22=2X1,X2，-,Xn1XS12Y N (2,22)Y1，丫2，-,Yn2YS22则(XY)(12)t 亦2-2),其中SW(n11)S1

18、2(n21恵S丄丄n22Sw.n1心(3)分位点若 t t (n) ,0 1 ,则满足Pt t (n) Pt t (n) Pt t以n)的点t (n), t (n), t/2(n)分别称 t 分布的上、下、双侧分位点.注意：t1-(n) = - t (n).4.F 分布U n(1)定义 若 U2(n1), V2(n2),且 U,V 相互独立，则 F -1F(m,n2)自由度为(n1, n2)的 F 分布.S2/S2(2) 性质(条件同 3.(2)SF(n1-1,n2-1)1 2若 X N (2(n-1),且X与 S2相互独立.15(3) 分位点 若 F F(n1,n2) ,01,则满足PF F

19、 (ni, n2) PF Fi(n1, n?)16P(F F/2(n1?n2) (FF! /2(n1?n2)的点F (nn2),F1(n1, n2),F/2(nn2)和F1 /2(nn2)分别称为 F 分布的上、下、双侧第七章参数估计一点估计 总体 X 的分布中有 k 个待估参数1,2,X1,X2，,Xn是 X 的一个样本,X1,X2，,xn是样本值.1矩估计法11(1,2,k)11(1,2,k)先求总体矩22(1,2,k)解此方程组，得到22(1,2,k),kk(1,2,k)kk(1,2,k)11( A1, A2,Ak)以样本矩 Ai取代总体矩i( 1=1,2，,k)得到矩估计量22(A1,

20、 A2,Ak),kk(A1, A2,Ak)若代入样本值则得到矩估计值2最大似然估计法若总体分布形式(可以是分布律或概率密度)为 P(X,1,2,k),称样本 X1,X2，,Xn的联n合分布L(1,2,k) p(xi,1,2,k)为似然函数.取使似然函数达到最大值的i 11,2,k,称为参数1,2，,k的最大似然估计值，代入样本得到最大似然估计量若 L(1,2,k)关于1,2,k可微，则一般可由II似然方程组 0或 对数似然方程组 -0(i =1,2, - ,k)求出最大似然估计.分位点.、卜 、八注意:F11(n1,n2)吋而k17ii3估计量的标准PF F (ni, n2) PF Fi(n1, n?)183.两个正态总体(1)均值差1-2其它参数2 21，2已知W 及其分布X Y(12)N(0,1)22:12,n1门2(1) 无偏性若 E()=,则估计量称为参数的无偏估计量.不论总体 X 服从什么分布,E (X )= E(X) , E(S2)=D(X), E(AQ二k=E(Xk),即样本均值 X ,样本方差 S2,样本 k 阶矩 Ak分别是总体均值 E(X), 方差 D(X)，总体 k 阶矩k的无偏估计，(2) 有效性若 E(1)=E(2)=,而 D(1) D(2),则称估计量1比2有效.P(3) 致性(相合性)若 nx时，则称估计量 是参数