第一章概率论基础

第一章概率论基础第1页，课件共122页，创作于2023年2月1.1概率空间

一、基本概念

1．随机试验

其结果在事先不能确定的试验。具有三个特性：（1）可以在相同的条件下重复进行；（2）每次试验的结果不止一个，并能事先明确试验的所有可能的结果；（3）每次试验前不能确定哪个结果会出现。第2页，课件共122页，创作于2023年2月2．样本空间给定一个试验,所有可能的结果的全体构成一个集合,这个集合称作样本空间,用大写的希腊字母

表示,这个样本空间中的每一个元素也称作此样本空间的一个样本点,可以用小写的希腊字母

表示.简称事件，是样本空间的一个子集，或者说事件就是试验结果的集合，通常用大写英文字母A,B,C,…等表示。3．随机事件第3页，课件共122页，创作于2023年2月几个特殊的事件基本事件:只包括一个样本点,或者说一个试验结果的事件称为基本事件.必然事件:包括整个样本空间

的所有元素的事件,或者就用

表示,则每次试验必然发生,因此称为必然事件.不可能事件:不包括任何元素的空集,即每次试验一定不会发生,称为不可能事件,用

表示,则

={}.第4页，课件共122页，创作于2023年2月实例

抛掷一枚骰子,观察出现的点数.都为随机事件.骰子“出现1点”,“出现2点”,…,“出现6点”,“点数不大于6”,“点数为偶数”等都为随机事件.第5页，课件共122页，创作于2023年2月

={0,1,2,…}；记A＝{至少有10人候车}＝{10,11,12,…}

，A为随机事件，A可能发生，也可能不发生。例：观察某路公交车某站候车人数，

B＝{至少有0人候车}=

,为必然事件C＝{有1.5人候车}=Φ,为不可能事件，Φ不包含 任何样本点。

第6页，课件共122页，创作于2023年2月事件间的关系及其运算为了直观,经常使用图示来表示事件,一般地,用一个平面上某个方(或矩)形区表示必然事件或者整个样本空间

,其中的一个子区域表示一具体的事件.第7页，课件共122页，创作于2023年2月事件的包含如果事件A发生必然导致事件B发生，即属于A的每一个样本点都属于B，则称事件B包含事件A或称事件A含于事件B，记作：B

A或A

B等价的说法是如果B不发生则A也不会发生.对于任何事件A有

A

第8页，课件共122页，创作于2023年2月事件的相等

如果事件A包含事件B,事件B也包含事件A,称事件A与B相等.即A与B中的样本点完全相同.记作A=B第9页，课件共122页，创作于2023年2月事件的并(和)两个事件A,B中至少有一个发生,即"A或B",是一个事件,称为事件A与B的并(和).它是属于A或B的所有样本点构成的集合.记作A+B或A

B易知A+

=

A+

=A第10页，课件共122页，创作于2023年2月n个事件A1,A2,…,An中至少有一个发生是一个事件,称为事件的和,记作：

A1+A2+…+An

或A1

A2…An可列个事件的和表示可列个事件中至少有一个事件发生,记作第11页，课件共122页，创作于2023年2月事件的交(积)

两个事件A与B同时发生,即"A且B",是一个事件,称为事件A与B的交.它是由既属于A又属于B的所有公共样本点构成的集合.记作AB 或 A

B易知A

=AA

=

第12页，课件共122页，创作于2023年2月对立事件

事件"非A"称为A的对立事件(或逆事件).它是由样本空间中所有不属于A的样本点组成的集合.记作显然第13页，课件共122页，创作于2023年2月事件的差

事件A发生而事件B不发生,是一个事件,称为事件A与B的差.它是由属于A但不属于B的那些样本点构成的集合.记作A

B易知第14页，课件共122页，创作于2023年2月互不相容事件

如果事件A与B不能同时发生,即AB=

,称事件A与B互不相容(或称互斥).互不相容事件A与B没有公共的样本点.显然,基本事件间是互不相容的对立事件一定互不相容,但互不相容事件未必对立第15页，课件共122页，创作于2023年2月完备事件组

若事件A1,A2,…,An为两两互不相容事件,并且A1+A2+…+An=

,称构成一个完备事件组或构成一个划分.最常用的完备事件组是某事件A与它的逆第16页，课件共122页，创作于2023年2月1.1概率空间定义1.1-代数(事件域)集合

的某些子集组成集合族F（1）

F（必然事件）（2）若A

F,则

\A

F（对立事件）（3）若Ai

F,i=1,2…，则

F

（可列并事件）

称F为-代数，（

，F）为可测空间第17页，课件共122页，创作于2023年2月例投掷一次骰子试验，ei表示出现i点，={e1,e2,e3,e4,e5,e6}F

={

，{e1,e2,e3}，{e4,e5,e6}，

}F为-代数，（

，F

）为可测空间第18页，课件共122页，创作于2023年2月1.1概率空间

例：连续投掷两次硬币试验

={正正，正反，反正，反反}第19页，课件共122页，创作于2023年2月1.1概率空间F1={

，{正正}，{正反，反正，反反}，

}

F2={

，{正正}，{正反}，{正正，正反}，{反正，反反}，{正反，反正，反反}，{正正，反正，反反}，{正正，正反，反正，反反}}F3={

，{反正}，{反反}，{反正，反反}，{正正，正反}，{正正，正反，反反}，{正正，正反，反正}，{正正，正反，反正，反反}}F4={

，{正反}，{正正，反正，反反}，

}Fi为-代数，（

，Fi）为可测空间第20页，课件共122页，创作于2023年2月F={

，{正正}，{正反}，{反正}，{反反}，{正正，正反}，{正正，反正}，{正正，反反}，{正反，反正}，{正反，反反}，{反正，反反}，{正正，正反，反正}，{正正，正反，反反}，{正正，反正，反反}，{正反，反正，反反}，{正正，正反，反正，反反}}

为可测空间，（

，F

）为-代数第21页，课件共122页，创作于2023年2月1.1概率空间可测空间的性质设（

，F）为可测空间,则（4）

F（不可能事件）（5）若A,B

F,则A\B

F（差事件）（6）若Ai

F,则

F（有限并，有限交，可列交事件）第22页，课件共122页，创作于2023年2月1.1概率空间定义1.2概率空间：设（

，F）为可测空间,映射P：F

R，A|

P（A）满足(1)任意A

F，0

P（A）

1(2)P（

）=1(3)称P是(

,F)上的概率，(

,F,P)为概率空间，P(A)为事件A的概率。第23页，课件共122页，创作于2023年2月二、概率的性质：1234设两两互不相容，则5设两两互不相容的事件则对于任意事件A，有第24页，课件共122页，创作于2023年2月三、概率的连续性

1．极限事件对于事件若则称事件序列递增，若则称事件序列递减。这样可定义一个新的事件，记为第25页，课件共122页，创作于2023年2月

2．连续性定理若是递增的或递减的事件序列，证明则即由包含在中但不在任何前面的（）中的点组成。设是递增序列，并定义事件：定理1第26页，课件共122页，创作于2023年2月容易验证（）是互不相交的事件，且满足和于是第27页，课件共122页，创作于2023年2月四、条件概率

定义：设(Ω,F,P)是概率空间，A,B∈F，且P(B)>0称为已知事件B发生的条件下，事件A发生的条件概率.定理：设(Ω,F,P)是概率空间,B∈F,且P(B)>0,则对有对应,集函数满足三条公理:第28页，课件共122页，创作于2023年2月

定义:记PB=P(·|B）,则PB是可测空间(Ω,F)上的概率,称(Ω,F,PB)是条件概率空间.第29页，课件共122页，创作于2023年2月定理2（乘法公式）

2．基本公式假设为任意n个事件（），若则第30页，课件共122页，创作于2023年2月定理3（全概率公式与贝叶斯公式）设事件两两互不相容，则（1）对任意事件A，有（2）对任意事件A，若，有第31页，课件共122页，创作于2023年2月练习：袋中有2个红球，3个白球，从中不放回的接连取出两个球。求第二次取出红球的概率。解：设A1表示第一次取出红球，A2表示第一次取出白球，B表示第二次取出红球。那么P（B）=P（BA1）+P（BA2）=P（B|A1）P(A1)+P（B|A2）P(A2)=1/4*2/5+2/4*3/5=2/52/51/42/43/5第32页，课件共122页，创作于2023年2月五、独立性如果事件A，B满足

设是n个事件，如果对于任意和，有则称事件相互独立。则称事件A，B相互独立。1．定义两个n个第33页，课件共122页，创作于2023年2月1.1概率空间设(

,F,P)为概率空间，F1

F，若对任意A1,A2,

,An

F1，n=2,3,，有

则称F1为独立事件族,或称F1中的事件相互独立。

独立事件族第34页，课件共122页，创作于2023年2月2．独立性的性质定理4若事件A，B相互独立，则；；分别也相互独立.定理5设事件相互独立，若其中任意个事件相应地换成它们的对立事件，则所得的n个事件仍然相互独立。推论若事件相互独立，则

第35页，课件共122页，创作于2023年2月证第36页，课件共122页，创作于2023年2月

设(Ω,F,P)是概率空间，X(ω)是定义在Ω上的单值实函数，若对于任意实数x∈R，有称X(ω)是随机变量.

注1使P{X<x}总有意义.注2通常F是包含全体{X<x}的最小代数.1.2随机变量及其分布

一、一维随机变量的分布

1．随机变量第37页，课件共122页，创作于2023年2月随机变量概念的理解1）对于ω∈Ω，有唯一X(ω)与之对应,

ωXΩx=X(ω)

随机变量X可理解为从样本空间Ω到实数集Rx的一个映射.3)未涉及到概率P.

第38页，课件共122页，创作于2023年2月2．分布函数随机变量X取值不超过x的概率，称为X的分布函数（其中x为任意实数），即记为第39页，课件共122页，创作于2023年2月1.2随机变量及其分布例投掷两枚硬币试验，

={正正，正反，反正，反反}F={

，{正正}，{正反}，{反正}，{反反}，{正正，正反}，{正正，反正}，{正正，反反}，{正反，反正}，{正反，反反}，{反正，反反}，{正正，正反，反正}，{正正，正反，反反}，{正正，反正，反反}，{正反，反正，反反}，{正正，正反，反正，反反}}

为-代数，（

，F

）为可测空间P{}=0，P{正正}=P{正反}=P{反正}=P{反反}=1/4…，P{

}=1，(

,F,P)为概率空间第40页，课件共122页，创作于2023年2月映射X：

R，X(正正)=2，X(正反)=X(反正)=1，X(反反)=0（1）x<0，{e:X(e)

x}=F（2）0

x<1，{e:X(e)

x}={反反}F（3）1

x<2，{e:X(e)

x}={正反,反正,反反}F（4）x≥2，{e:X(e)

x}={正正，正反,反正,反反}FX为随机变量第41页，课件共122页，创作于2023年2月1.2随机变量及其分布分布函数为即第42页，课件共122页，创作于2023年2月分布函数F（x）具有下列性质：12是单调不减函数，即当时，有34F（x）是右连续的，即第43页，课件共122页，创作于2023年2月离散型随机变量随机变量X的可能取值仅有有限个或可列无穷多个。设是离散型随机变量X的所有可能的取值，是的概率：则称上式为X的概率分布或分布律。且满足第44页，课件共122页，创作于2023年2月连续型随机变量如果对于随机变量X的分布函数为F（x），存在非负的函数f（x）,使对任意的实数x有则称X为连续型随机变量，f（x）称为X的概率密度，且满足第45页，课件共122页，创作于2023年2月其中，x=h(y)是y=g(x)的反函数定理设X是一个取值于区间[a,b]，具有概率密度f(x)的连续型r.v,又设y=g(x)处处可导，且对于任意x,恒有或恒有，则Y=g(X)是一个连续型r.v，它的概率密度为连续型随机变量函数的分布第46页，课件共122页，创作于2023年2月第47页，课件共122页，创作于2023年2月例求的密度函数。第48页，课件共122页，创作于2023年2月解：设即服从柯西分布第49页，课件共122页，创作于2023年2月例.已知X

N(

,

2),求解：的概率密度.关于x严格单调,反函数为故第50页，课件共122页，创作于2023年2月二、随机变量的联合分布

1．联合分布函数特别地即是X，Y的二维联合分布函数第51页，课件共122页，创作于2023年2月2．二维分布密度离散型设（X，Y）所有可能的取值为，而是（X，Y）取值为的概率，即则称上式为二维离散型随机向量（X，Y）的联合分布律。它满足第52页，课件共122页，创作于2023年2月2．二维分布密度连续型如果存在一个非负的二元函数f（x，y）,使对任意的实数x，y有则称（X，Y）为二维连续型随机变量，f（x，y）称为（X，Y）的概率密度，满足：第53页，课件共122页，创作于2023年2月3．边缘分布及独立性边缘分布设（X，Y）的分布函数为，则X，Y的分布函数、，依次称为关于X和关于Y的边缘分布函数，且有独立性则称随机变量X和Y是相互独立的。第54页，课件共122页，创作于2023年2月离散型若随机变量（X，Y）的联合分布律分别称为（X，Y）关于X和Y的边缘分布律。则X和Y相互独立的充要条件是第55页，课件共122页，创作于2023年2月例1已知下列分布律求其边缘分布律.第56页，课件共122页，创作于2023年2月注意联合分布边缘分布解第57页，课件共122页，创作于2023年2月连续型若随机变量（X，Y）的概率密度为则X和Y相互独立的充要条件是分别称为（X，Y）关于X和Y边缘概率密度。第58页，课件共122页，创作于2023年2月

定义:(X1,X2,…,Xn)是n维随机变量,若对任意（x1,x2,…,xn）,,有定理:若随机变量X1,X2,…,Xn相互独立，则其中任意k（2≤k≤n）个随机变量也相互独立.成立,称随机向量X1,X2,…,Xn相互独立.随机向量的独立性第59页，课件共122页，创作于2023年2月YX01P(y=j)12P(X=i)

YX01P(y=j)12P(X=i)第60页，课件共122页，创作于2023年2月例1：X和Y是否相互独立？(X,Y)具有概率密度连续型随机变量X,Y相互独立，其密度函数有如下特征：X和Y的边缘概率密度分别为：第61页，课件共122页，创作于2023年2月第三节随机变量的数字特征一、期望和方差

1．期望设离散型随机变量X的分布律为

则设连续型随机变量X的概率密度为，则第62页，课件共122页，创作于2023年2月函数期望当X为离散型随机变量则

当X为连续型随机变量，则第63页，课件共122页，创作于2023年2月2。方差

称随机变量的期望为X的方差，即

计算方差时通常用下列关系式：第64页，课件共122页，创作于2023年2月3．性质（1）（2）（3）设a,b是任意常数，则（4）设a,b是任意常数，X和Y相互独立，则第65页，课件共122页，创作于2023年2月3．性质（6）柯西—许瓦兹不等式当且仅当（5）若X和Y相互独立，则等式成立第66页，课件共122页，创作于2023年2月马尔可夫不等式

第67页，课件共122页，创作于2023年2月切比雪夫不等式

定理1.3.3

设X是随机变量，则DX=0的充要条件是P(X=C)=1（C是常数）。第68页，课件共122页，创作于2023年2月1．协方差计算协方差时通常用下列关系式：二、协方差和相关系数

2.相关系数

第69页，课件共122页，创作于2023年2月3．性质（1）

（2）若X和Y相互独立，则（4）的充要条件是X与Y以概率1线性相关，即（3）第70页，课件共122页，创作于2023年2月例

设X

N（0，1），求

解当n为偶数时，由分部积分得当n为奇数时，依次递推，注意到，故第71页，课件共122页，创作于2023年2月在一次集会上，n个人把他们的帽子放到房间的中央混合在一起，而后每个人随机地选取一项，求每人拿到自己的帽子的人数X的均值和方差。例（匹配问题）

解利用表达式其中即求EX、DX故因第72页，课件共122页，创作于2023年2月又

而得故所以第73页，课件共122页，创作于2023年2月定义1.3.7

第74页，课件共122页，创作于2023年2月定理1.3.4

设B是n维随机变量的协方差矩阵，则B是非负定矩阵。第75页，课件共122页，创作于2023年2月

1.复随机变量设X，Y都是概率空间（Ω，F，P）上的二维（实）随机变量，则称为复随机变量。2）复随机变量的数学期望

1.4随机变量的特征函数3）两个复随机变量的协方差

1）复随机变量的定义

第76页，课件共122页，创作于2023年2月2、特征函数(Characteristicfunction)定义

若X为离散型随机变量，则有：1.4随机变量的特征函数设X为随机变量，其分布函数为F(x)，称为X的特征函数，其中t是实数。还可写成：第77页，课件共122页，创作于2023年2月3．特征函数与分布函数的关系特征函数与分布函数相互唯一确定。特别当存在时，有4．特征函数的性质性质1对任何实数t，

证第78页，课件共122页，创作于2023年2月性质2证性质3设a，b为任意实数，，则Y的特征函数有证第79页，课件共122页，创作于2023年2月性质4性质5设相互独立的随机变量的特征函数分别为，，…，则和若随机变量X的n阶原点矩存在，即则X的特征函数有n阶导数，且有的特征函数为…第80页，课件共122页，创作于2023年2月例1设随机变量X服从参数为的泊松分布，求X的特征函数。解由于所以第81页，课件共122页，创作于2023年2月例2设随机变量X服从[a，b]上的均匀分布，求X的特征函数。解X的概率密度为所以第82页，课件共122页，创作于2023年2月例3设X

~B（n，p），求X的特征函数及和。解X的分布律为所以由性质4知故第83页，课件共122页，创作于2023年2月例4、若随机变量相应的特征函数分别为：(1)(2)求随机变量的分布。解、（1）由题可得由特征函数的定义可知

（2）第84页，课件共122页，创作于2023年2月例5、若随机变量X的特征函数为：求及解、第85页，课件共122页，创作于2023年2月随机变量函数概率密度的确定－－特征函数法

因此，如果上式能够写作如下形式：则得随机变量Y的概率密度第86页，课件共122页，创作于2023年2月例6、若随机变量X～N(0,

2)，随机变量Y＝aX2，a>0，利用特征函数法求Y的概率密度。解、第87页，课件共122页，创作于2023年2月

五、多维随机变量的特征函数

连续型离散型定义：

n维随机向量(X1,X2,…,Xn)的分布函数为F(x1,x2,…,xn),则它的特征函数为

第88页，课件共122页，创作于2023年2月多维随机变量特征函数的性质（1）在Rn

中一致连续，且（2）(线性)n维随机向量(X1,X2,…,Xn)的特征函数为φX(t)=φX(t1,t2,…,tn)，A为一n×m矩阵，b=(b1,b2,…,bm)，则m维随机向量Y=(Y1,Y2,…,Ym)=XA+b的特征函数为

特别地，若Y=a1X1+a2X2+…+anXn+b的特征函数为更特别地，若Y=X1+X2+…+Xn的特征函数为第89页，课件共122页，创作于2023年2月多维随机变量特征函数的性质如果存在，则（3）设是n维随机向量X=(X1,X2,…,Xn)的特征函数则k维随机向量X=(X1,X2,…,Xk）的特征函数为

（4）设是n维随机向量X=(X1,X2,…,Xn)的特征函数第90页，课件共122页，创作于2023年2月1.5正态随机变量

1、一维正态随机变量概率密度：特征函数：第91页，课件共122页，创作于2023年2月2、二维正态随机变量概率密度：其中r为相关系数第92页，课件共122页，创作于2023年2月性质：X1,X2的边缘概率密度也是正态的若X1,X2的不相关，则r=0，两随机变量相互独立特征函数第93页，课件共122页，创作于2023年2月3、矩阵表示方法协方差矩阵：第94页，课件共122页，创作于2023年2月综上，概率密度矩阵表示形式为：令：特征函数矩阵表示形式为：推广到多维：第95页，课件共122页，创作于2023年2月4、正态随机变量的线性变换可见，Y仍然服从正态分布，均值为Lm，协方差阵为LKLT第96页，课件共122页，创作于2023年2月5、正态随机变量的有关定理定理1：设X~N(μ,B)，则存在n阶正交矩阵A，使得是n维独立正态随机变量，既Y1,Y2,…,Yn相互独立，且Yk~N(0,dk)，其中dk>0是B的特征根，k=1,2,…,n。定理2：正态随机变量Y1,Y2,…,Yn相互独立的充要条件是Y1,Y2,…,Yn两两不相关。第97页，课件共122页，创作于2023年2月1．条件分布函数离散型若，则称为在条件下，随机变量X的条件分布律。同样为在条件下，随机变量Y的条件分布律。

1.6条件数学期望

第98页，课件共122页，创作于2023年2月1．条件分布函数连续型称为在条件下，随机变量X的条件分布律。同样称为在条件下，随机变量Y的条件分布律。注意：分母不等于0第99页，课件共122页，创作于2023年2月2、条件期望的定义离散型其中连续型其中条件概率密度第100页，课件共122页，创作于2023年2月条件数学期望与(无条件)数学期望异同(以离散为例)(无条件)数学期望条件数学期望表达式意义E(X)是对所有ω

Ω,X(ω)取值全体的加权平均是局限在ω{ω:Y(ω)=yj}=Bj时,X(ω)取值局部(ωBj)的加权平均第101页，课件共122页，创作于2023年2月定义：设(X,Y)是定义在概率空间(Ω,F,P)上的两个离散型随机变量,记称E(X|Y)为X关于Y的条件数学期望。事件的示性函数：记IBj

(

)=1

Y(

)=yj亦记

IBj(

)=I(Y=yj)

(

)第102页，课件共122页，创作于2023年2月条件数学期望E(X|Y)定义的含义。№1E(X|Y)是新的随机变量，是

的函数；当ωBj={ω:(ω)=yj}时：E(X|Y)=E(X|Y=yj)。№2随机变量E(X|Y)是Y的函数，其数学期望为№3是局部的加权平均值{E(X|Y

=yj,jN}的统一表达式。第103页，课件共122页，创作于2023年2月3、全数学期望公式定理1对一切随机变量X和Y，有连续型离散型第104页，课件共122页，创作于2023年2月证只证（X，Y）是离散型随机向量时的情况第105页，课件共122页，创作于2023年2月例：设(X,Y)是定义在概率空间(Ω,F,P)上的两个离散型随机变量，其联合分布律为求E(X|Y)的分布律，E(E(X|Y))及EX.

X

Y(x1=)1(x2=)2(x3=)3p•j(y1=)12/274/271/277/27(y2=)25/277/273/2715/27(y3=)31/272/272/275/27pi•8/2713/276/27第106页，课件共122页，创作于2023年2月解：为了求E(X|Y=yj)，先求出P(X=xi

,Y=yj)(i,j=1,2,3)№1.当Y=y1=1时有P(X=1

|Y=1)=P(X=1

,Y=1)/P(Y=1)=

=P(X=2

|Y=1)=P(X=2

,Y=1)/P(Y=1)=

=P(X=3

|Y=1)=P(X=3

,Y=1)/P(Y=1)=

=故2/277/27274/277/27471/277/2717第107页，课件共122页，创作于2023年2月№2.同样可以求得于是有E(X|Y)=I(=1)(

)+I(=2)(

)+I(=3)(

)因此随机变量E(X|Y)的分布律为E(X|Y)13/728/1511/5P{E(X|Y)=E(X|,Y=j)}=P(Y=j)7/2715/275/271372815115第108页，课件共122页，创作于2023年2月随机变量E(X|Y)的数学期望为而

从而可得E{E(X|Y)}=E(X).(当E(X)<∞)该式表明：局部加权后的加权平均等于总体的加权平均。第109页，课件共122页，创作于2023年2月离散型随机变量的条件数学期望性质：设E|X|<∞，E|Xi|<∞(i=1,2,∙∙∙,n)

(1)E{E(X|Y)}=E(X)(2)若X,

Y独立则E(X|Y)=E(X)(3)E(X|X)=E(X),E{g(X)|X}=g(X)

(4)

(5)

Borel可测函数g(X),h(Y)，若E|g(X)h(Y)|<∞，则E{g(X)h(Y)|Y}=h(Y)

E{g(X)|Y}第110页，