随机过程1-概率论复习

1、1随机过程论：研究随机现象演变的统计规律性随机过程论：研究随机现象演变的统计规律性.是近代数学的重要组成部分是近代数学的重要组成部分, 特点特点:1.应用非常广泛应用非常广泛,实际工程背景强实际工程背景强; 2.数学基础要求较高数学基础要求较高;3.建立随机分析的思维较难建立随机分析的思维较难.本课程教学中本课程教学中:1.立足于基本理论的介绍立足于基本理论的介绍; 2.力图帮助同学掌握随机分析的基本思想和力图帮助同学掌握随机分析的基本思想和基本方法基本方法;序序 言言23.尽量阐述清楚基本概念及相应的工程背景尽量阐述清楚基本概念及相应的工程背景;4.训练数学表述能力训练数学表述能力.第一章第

2、一章 随机事件随机事件第二章第二章 随机事件随机事件的概率的概率第三章第三章 随机变量随机变量及其分布及其分布第五章第五章 大数定律及中心极限定理大数定律及中心极限定理第四章第四章 随机变量的随机变量的数字特征数字特征1.11.1、随机现象、随机现象 1.21.2、随机试验、随机试验1.31.3、样本空间、样本空间 样本点样本点1.41.4、随机事件的概念、随机事件的概念第一章第一章 随机事件随机事件在一定条件下可能出现也可能不出现在一定条件下可能出现也可能不出现的现象的现象称为称为随机现象随机现象. 具有具有统计规律性统计规律性2. 随机现象随机现象 在一定条件下必然发生的现象称为在一定条件

3、下必然发生的现象称为确定性现象确定性现象. .1.确定性现象确定性现象 1.1、随机现象、随机现象 随机现象的特征随机现象的特征条件不能完全决定结条件不能完全决定结果果1.21.2、随机试验、随机试验 1. 1. 可以在相同的条件下重复地进行可以在相同的条件下重复地进行; ; 2. 2. 每次试验的可能结果不止一个每次试验的可能结果不止一个, ,并且能并且能事先明确试验的所有可能结果事先明确试验的所有可能结果; ; 3. 3. 进行一次试验之前不能确定哪一个结果进行一次试验之前不能确定哪一个结果会出现会出现. .定义定义 在概率论中在概率论中, ,把具有以下三个特征的试验称把具有以下三个特征的

4、试验称为为随机试验随机试验. .规定不含任何元素的空集为不可能事件规定不含任何元素的空集为不可能事件，用用 表示表示。1.31.3、样本空间、样本空间 样本点样本点E1: 抛一枚硬币，观察正抛一枚硬币，观察正(H)反反(T) 面面 的情的情 况况. =H,T 1=H , 2=T E4:电话交换台一分钟内接到的呼唤次数电话交换台一分钟内接到的呼唤次数. 4=0，1，2， 1=0, 2=1, 3=2 E3: :掷一颗骰子掷一颗骰子, ,观察点数观察点数. .则则E2:将一枚硬币抛三次将一枚硬币抛三次,观察正反面出现的情况观察正反面出现的情况.2=HHH, THH， HTH, HHT,HTT,THT

5、,TTH,TTT 1.4、随机事件的概念随机事件随机事件 随机试验随机试验 E E 的样本空间的样本空间 的子集的子集( (或某些样本点的子集），称为或某些样本点的子集），称为 E E 的随机事件的随机事件, , 简称事件简称事件. .例如例如 随机实验抛三次硬币随机实验抛三次硬币 ，HH代表正面，代表正面， T T代表反代表反面面随机事件随机事件A A“至少出一个正面至少出一个正面” HHH, HHT, HTH, THHHHH, HHT, HTH, THH，HTTHTT，THTTHT，TTHTTH；B=“B=“三次出现同一面三次出现同一面”=HHH,TTT”=HHH,TTTC=“C=“恰好出

6、现一次正面恰好出现一次正面” ” = =HTTHTT，THTTHT，TTHTTH随机事件间的关系随机事件间的关系对立差互斥(互不相容)交（积）和（并）包含事件关系事件事件的的互不相容互不相容 (互斥互斥) 若事件若事件 A 、B 满足满足则称事件则称事件 A与与B互不相容互不相容. ABBA图示图示 A与与B互互斥斥 AB说明说明 当当A B= 时时,可将可将A B记为记为“直和直和”形式形式A+B. 任意事件任意事件A与不可能事件与不可能事件为互斥为互斥. 若事件若事件 A 、B 满足满足则称则称 A 与与B 为为互逆事件互逆事件. A 的逆记作的逆记作.A. ABBA且事件的互逆事件的互逆

7、图示图示 A 与与 B 的对立的对立. BA A对立事件与互斥事件的区别对立事件与互斥事件的区别 ABABA A、B 对立对立A、B 互斥互斥 . ABBA且, AB互互 斥斥对对 立立概率论与集合论之间的对应关系 记号记号概率论概率论集合论集合论样本空间样本空间, ,必然事件必然事件不可能事件不可能事件基本事件基本事件随机事件随机事件A的对立事件的对立事件A出现必然导致出现必然导致B出现出现事件事件A与事件与事件B相等相等空间空间(全集全集)空集空集元素元素子集子集A的补集的补集A是是B的子集的子集A集合与集合与B集合相等集合相等 eAAAB A B BA 事件事件A与事件与事件B的差的差

8、A与与B两集合的差集两集合的差集 AB事件事件A与与B互不相容互不相容A与与B 两集合中没有两集合中没有相同的元素相同的元素BA事件事件A与事件与事件B的和的和 A集合与集合与B集合的并集集合的并集AB 事件事件A与与B的积事件的积事件 A集合与集合与B集合的交集集合的交集2.1 2.1 频率与概率频率与概率2.2 2.2 古典概型古典概型2.3 2.3 条件概率条件概率2.4 2.4 全概率公式和贝叶斯公式全概率公式和贝叶斯公式2.5 2.5 事件的独立性事件的独立性2.12.1频率与概率频率与概率5s5s* *24000/3600=33.3h24000/3600=33.3h 概率的统计定义

9、直观地描述了事件发生的概率的统计定义直观地描述了事件发生的可能性大小，反映了概率的本质内容，但可能性大小，反映了概率的本质内容，但也有不足，即无法根据此定义计算某事件也有不足，即无法根据此定义计算某事件的概率。的概率。2.22.2、古典概型、古典概型若随机试验满足以下特征：若随机试验满足以下特征：(1)(1)试验的可能结果只有有限个；试验的可能结果只有有限个；则称此试验为则称此试验为古典概型古典概型. .(2)(2)各个结果的出现是等可能的各个结果的出现是等可能的. .古典概型中事件概率的计算公式古典概型中事件概率的计算公式设随机试验设随机试验E为古典概型，其样本空间为古典概型，其样本空间及及

10、事件事件A分别为：分别为： =1，2，n A=i1，i2，ik则随机事件则随机事件 A 的概率为：的概率为： 中的基本事件总数中包含的基本事件数事件AnkAP)(2.3 2.3 条件概率条件概率( )0,()( | )( ).P BP ABP A BP BBAFFF件件概概率率 若（ ， ，P）是一个概率空间，B，且对任意的A，称 为在事件发生的条件下，事条件 发生的 ABAB);()()()( ) 3(212121BAAPBAPBAPBAAP ).(1)( )4(BAPBAP 则则有有件件是是两两两两不不相相容容的的事事设设可可加加可可列列性性,A,A:)5(21. )BA(PBAP1ii1

11、ii ; 1)(0:) 1 ( BAP有有界界性性0)B|(PBP 1,)(2)规规范范性性条件概率的性质条件概率的性质乘法定理乘法定理则则有有且且, 0)(121 nAAAP, 2,21 nnAAAn个个事事件件为为设设推推广广则则有有且且为为事事件件设设, 0)(, ABPCBA()( ) () ().P ABCP A P B A P C AB( )0,()() ( )() ( ).P AP ABP B A P AP A B P B设则有)()()()()(12121312121nnnAAAAPAAAPAAPAPAAAP2.4 全概率公式和贝叶斯公式全概率公式和贝叶斯公式: :21一组事件

12、满足若定义n, B, , BB1. 样本空间的划分样本空间的划分, .,n, j, i, j, iB Bji21 (i),Bnii1 (ii).B ,B ,n21的一个划分本空间为样则称B例例 学生在回答多项选择题时，或者知道答案或学生在回答多项选择题时，或者知道答案或猜测答案。假定他知道答案的概率是猜测答案。假定他知道答案的概率是p p，而猜的，而猜的概率是概率是1-p1-p。假设他猜对的概率为。假设他猜对的概率为1/m1/m，其中，其中mm是选项数。是选项数。问已知学生答题正确时，他确实知道答案的概率问已知学生答题正确时，他确实知道答案的概率是多少？是多少？A-A-学生答题正确学生答题正确

13、B-B-他确实知道答案他确实知道答案()(|)()() (|)()(|)() 1(1)1(1)ccP ABP BAP AP ABP A B P BP A BP Bpmpmppppm40.9364,0.9,(|)0.9740.90.13740.5204,0.5,(|)0.840.50.525mpP BAmpP BA2.5 2.5 事件独立性事件独立性(一一) 两个事件的独立性两个事件的独立性,()( )( ),.A BP ABP A P BA BA B设是两事件 如果满足等式则称事件相互独立 简称独立事件事件 A 与与 B 相互独立相互独立,是指事件是指事件 A 的的发生与事件发生与事件 B 发

14、生的概率无关发生的概率无关.2 独立与互斥的关系独立与互斥的关系这是两个不同的概念这是两个不同的概念.两事件相互独立两事件相互独立)()()(BPAPABP 两事件互斥两事件互斥 AB二者之间没二者之间没有必然联系有必然联系独立是事独立是事件间的概件间的概率属性率属性互斥是事互斥是事件间本身件间本身的关系的关系1定义定义2: 设设A,B,C是三个事件是三个事件,若满足若满足: P(AB)=P(A)P(B), P(AC)=P(A)P(C), P(BC)=P(B)P(C), P(ABC)=P(A)P(B)P(C) 则称则称A,B,C为相互独立的事件为相互独立的事件.定义定义3：对：对n个事件个事件

15、A1,A2,An,如果对所有可如果对所有可能的组合能的组合1ijkn成立着成立着 P(AiAj)=P(Ai)P(Aj) P(AiAjAk)=P(Ai)P(Aj)P(Ak) P(A1A2An)=P(A1)P(A2)P(An), 则称这则称这n个事件个事件A1,A2,An相互独立相互独立.定义定义4：设：设A1, A2, , An是是n个事件，如果对个事件，如果对任意的任意的1ij n有有P(AiAj)=P(Ai)P(Aj), 则则称这称这 n个事件个事件两两独立两两独立.注注： 若若n个事件相互独立，必蕴含这个事件相互独立，必蕴含这n个事个事件两两相互独立件两两相互独立. 反之不成立。反之不成立

16、。例例 同时抛掷两个均匀的正四面体一次，每同时抛掷两个均匀的正四面体一次，每一四面体的面分别标有号码一四面体的面分别标有号码1 1，2 2，3 3，4 4令令A=A=第一个四面体出现偶数第一个四面体出现偶数 B= B=第二个四面体出现奇数第二个四面体出现奇数 C= C=两个四面体同时出现偶数或同时出现两个四面体同时出现偶数或同时出现奇数奇数 验证验证A A、B B、C C的独立性的独立性 故故A、B、C三事件不相互独立但两两独立三事件不相互独立但两两独立。 )(21168)(BPAP21)(CP)()(41164)(BPAPABP)()(41164)(CPAPACP)()(41164)(CPB

17、PBCP0)(ABCP81)()()(CPBPAP第三章第三章 随机变量及其分布随机变量及其分布3.1 随机变量的概念随机变量的概念3.2 随机变量的分布函数随机变量的分布函数3.3 离散型随机变量的概率分布离散型随机变量的概率分布3.4 连续型随机变量的概率密度连续型随机变量的概率密度3.5 随机变量的函数的分布随机变量的函数的分布3.6 多维随机变量及其分布多维随机变量及其分布3.1 随机变量的概念随机变量的概念例例1 从一批产品中任意抽取从一批产品中任意抽取k件件,观察出现的观察出现的“废品数废品数”X1,依试验结果不同依试验结果不同X1的所有可能的所有可能取值为取值为:0,1,2,k.

18、j个废品结果可用个废品结果可用(X1=j)表示表示.例例2 记录某接待站一天中来访的人数记录某接待站一天中来访的人数X2,“接待接待k个人个人”可用可用(X2=k)表示表示.定义定义如果对于样本空间中每个样本点如果对于样本空间中每个样本点 ，都有唯一的一个实数都有唯一的一个实数X( )与之对应，则称与之对应，则称X( )为为随机变量随机变量简记简记X( )为为X.随机变量分类：随机变量分类：(1) 离散型，离散型，(2)连续型连续型.3.23.2 随机变量的分布函数随机变量的分布函数定义定义：X是一随机变量是一随机变量, 对任意对任意x R, 函数函数 F(x)=P Xx 称为称为X的的分布函

19、数分布函数.P x1x1, F(x2)-F(x1) 0.(2) 0F(x)1 且且(规范性规范性)(3) F(x)至多有可列个间断点至多有可列个间断点, 而在其间断点而在其间断点 x0处是右连续的处是右连续的,1)x(lim)( , 0)x(lim)(xxFFFF)x()0 x()x(lim00 x0FFFx(右连续性右连续性)3.3 离散型随机变量的概率分布离散型随机变量的概率分布 定义定义 若随机变量全部可能取值是有限或若随机变量全部可能取值是有限或 可列无穷多可列无穷多, 则称为则称为离散型随机变量离散型随机变量.,.)3 , 2 , 1: 2.(kxXk值为所有可能取设离散型随机变量分

20、布律(1) 1,2,. , kp)xP(Xkk则称则称(1)式为离散型变量的式为离散型变量的分布律。分布律。分布律的性质：分布律的性质：. 1 (2) ,.210 (1)1kkkp, kp或列表或列表若离散型随机变量若离散型随机变量X的分布律为的分布律为),1,2( )(kpxXPkk则则X的的分布函数分布函数为为xxxxk)x( )x()x()x(kkXPXPXPFkxxk)x( kpF即几种重要的离散型随机变量的分布律几种重要的离散型随机变量的分布律：(一一) 0- -1分布分布设随机变量设随机变量X只可能取只可能取0和和1两个数值，其分两个数值，其分布为布为 P(X=1)=p, P(X=

21、0)=1-p. 其中其中0p1,则称则称X服从服从(0-10-1)分布。分布。设设A是随机事件，是随机事件，P(A)=p(0p1),记记发生发生A AX 0 1, 则则X服从服从(0-10-1)分布分布.试验。这样的试验称为贝努利且与只有两个可能结果设试验定义 , ) 10( )( , :ppAPAAE(二二) 二项分布二项分布将试验E独立重复地进行n次得到的试验序列称为n重贝努利试验重贝努利试验。以X表示n重贝努利试验中事件A发生的次数则发生次试验中第 ,AiAinkqpCkXPknkkn, 2 , 1 , 0 ,)(称随机变量称随机变量X服从服从参数为参数为n,p的二项分布的二项分布,记为

22、记为).,(pnBX假设飞机的每一台发动机在飞行中的故障率假设飞机的每一台发动机在飞行中的故障率都是都是1-P1-P，且各发动机的互不影响，且各发动机的互不影响，如果至少如果至少50%50%的发动机能正常运行，飞机就的发动机能正常运行，飞机就可以顺利的飞行，可以顺利的飞行，问对于多大的问对于多大的P P而言，四发动机飞机比二发而言，四发动机飞机比二发动机飞机更安全？动机飞机更安全？ 波音波音747747A380A380波音波音777777四发动机飞机：四发动机飞机： 正常运行时正常运行时2 2台或台或3 3台或台或4 4台发动机正常运行台发动机正常运行 2 2台发动机正常运行另外台发动机正常运

23、行另外2 2台故障概率台故障概率C(4.2)C(4.2)* *P(1-p)=6P(1-p) P(1-p)=6P(1-p) 3 3台发动机正常运行另外台发动机正常运行另外1 1台故障概率台故障概率C(4.3)C(4.3)* *P(1-p)=4P(1-p) P(1-p)=4P(1-p) 4 4台发动机正常运行概率概率台发动机正常运行概率概率P4 P4 四发动机飞机正常运行概率四发动机飞机正常运行概率 6P(1-p)+4P(1-p)+P4 6P(1-p)+4P(1-p)+P4 =P6(1-p)+4P(1-p)+P =P6(1-p)+4P(1-p)+P =P(3p-8p+6) =P(3p-8p+6)

24、二发动机飞机：二发动机飞机： 正常运行时正常运行时1 1台或台或2 2台发动机正常运行台发动机正常运行 1 1台发动机正常运行另外台发动机正常运行另外1 1台故障概率台故障概率C(2.1)C(2.1)* *P(1-P(1-p)=2P(1-p) p)=2P(1-p) 2 2台发动机正常运行概率台发动机正常运行概率P P 二发动机飞机正常运行概率二发动机飞机正常运行概率 2P(1-p)+P=P2(1-p)+P=p(2-p)2P(1-p)+P=P2(1-p)+P=p(2-p)四发动机飞机比二发动机飞机更安全时四发动机飞机比二发动机飞机更安全时 P(3p-8p+6)P(3p-8p+6)p(2-p) p

25、(2-p) (3p-2)(p-1)(3p-2)(p-1)0 0 3p-2 3p-20 p0 p2/3 2/3 当当p p2/32/3时四发动机飞机比二发动机飞机更安全时四发动机飞机比二发动机飞机更安全P2/3, Ps+t|Xs)=P(Xt)(三三) 正态分布正态分布:).,(,)0(,x,21f(x) ) 1 (222)x(22NXXeX记作正态分布的服从参数为则称为常数其中的概率密度为设随机变量:其其图图像像为为性质性质:)f()f( 0h ,x 10hh有这表明对对称曲线关于.X. 21)f( x 20附近较集中值在取表明时取最大值当x.)(30轴为渐近线以xxf.,)(.)(, ,) 1

26、 (.,)(40为位置参数称确定的位置由可见状不变轴平移而形的图形沿则改变若固定的图形依赖于两个参数xfxxfxf的尺度参数为故称相反则越平坦越陡峭越小改变则最大值改变固定f(x),f(x),21f(x),)2(2)标准正态分布标准正态分布:).1 ,0(, t21(x) ,21)x(,1,0 x2t2x22NXXdee记服从标准正态分布则称时当).1 , 0(),N(X 2NXY则若定理引理引理 对于标准正态分布有对于标准正态分布有).(1)(xx3.5 随机变量的函数的分布随机变量的函数的分布已知随机变量已知随机变量X的分布的分布,求求Y=g(X)的分布的分布一、一、 X为离散型变量为离散

27、型变量例例1.设设X具有以下的分布律具有以下的分布律,求求Y=(X-1)2分布律分布律: X -1 0 1 2 pk 0.2 0.3 0.1 0.4X -1 0 1 2pk 0.2 0.3 0.1 0.4Y4101即即 PY=0 =PX=1 =0.1PY=1 =PX=0+PX=2 =0.3+0.4=0.7或者或者 Y 0 1 4 pk 0.1 0.7 0.2 PY=4=PX=-1=0.2设设X的分布律为的分布律为 X x1 x2 xk P(X=xi) p1 p2 pk . 记记yi=g(xi)(i=1,2,), yi的值也是互不相同的的值也是互不相同的, 则则Y的分布律为的分布律为: PY=y

28、i)= P(X=xi) =pi 若若yk=g(xk1)=g(xk2)=g(xkm),则则 P(Y=yk)=P(X=xk1)+P(X=xkm)离散随机变量函数的分布律的求法离散随机变量函数的分布律的求法:例例 设随机变量设随机变量X N( , 2),求求Y=aX+b(a0)的的概率密度。概率密度。222)(221)(),(xXexfNX知解：由)()()()(abyXPybaXPyYPyFYdxxfabyX)(于是求导可得于是求导可得)(1)()(abyfayFyfXYY2222)(21abayea二、二、X为连续型为连续型 - 分布函数法分布函数法3.63.6 多维随机变量及其分布多维随机变量

29、及其分布 n维维随机变量随机变量定义定义: 设设E是一个随机试验是一个随机试验, 样本样本点是点是 ，若，若X1( )X2( ),Xn( )是定义在样本空是定义在样本空间间上上 的的n个随机变量个随机变量,则称则称),(,),(),()(21nXXXX构成一个构成一个n维随机变量维随机变量,简记为简记为X=(X1,X2,Xn)的和随机变量或称为的分布函数称为二维随机变量二元函数对于任意的实数YX(X, Y)YPX)(Y)P(X)F( ,yx,yxy x, y, x, 1. 二维二维随机变量随机变量(联合联合)分布函数分布函数:联合分布函数联合分布函数.二维随机变量二维随机变量YXP2121yy

30、;xx)F()F)F()F(11122122y ,xy,(xy ,xy,x(1) F(x,y)是变量是变量x或或y的单调不减函数，即的单调不减函数，即).,(),(,);,(),(,21212121yxFyxFyyyxFyxFxx时当时当1),(lim),( 0),(),( 0),(lim),(, 1),(0 )2(yxFFFyFyxFxFyxFyxy且联合分布函数的性质：联合分布函数的性质：(3) F(x,y)关于关于x,y都是右连续的，即都是右连续的，即 ),()0,( ),(), 0(yxFyxFyxFyxF0),(),(),(),( , )4(112112222121yxFyxFyxF

31、yxFyyxx有对于任意实数2. 二维随机变量的分布二维随机变量的分布(一一) 二维离散型随机变量的分布律二维离散型随机变量的分布律的联合分布律。维离散型随机变量为二称(X, Y), , YPX21j i, ,py,xijji. 1 p 2 0,p) 1 ( ijijij）（分布律满足：(二二) 二维连续型随机变量的联合概率密度二维连续型随机变量的联合概率密度的联合概率密度称为函数其中量为连续型的二维随机变则称有对任意存在非负函数数的分布函若对二维随机变量定义),()y x,(f , dudv, vu,fy x, ,),(),(),( : . 1y-x-YX(X, Y) )()F(yxyxfy

32、xFYX Gy)dxdy.f(x, :Gy) (x, ,xoyG G) P(X, Y40内内的的概概率率为为在在落落点点平平面面上上的的一一个个区区域域是是设设 ; 1),(dxdyy x,f2 -0 F)( ; )yx,( fyx)yx,(F ,)y x,()y x,( f 3 20 则则有有点点连连续续在在点点若若:y x,f . 2的性质)(0;y x,f 1 0)(.X)3( );yx,()2( ;) 1 ( :, 0, 0,y 0, x,Aey) f(x, Y) (X, 2.y)(2x-YPFA概率分布函数常数求其它具有概率密度设二维随机变量例 - 1,y)dxdy f(x, )1(

33、 :则则由由解解 , 1dxdyAe 00)yx2( 1dyedxeA 0y02x- 即即. 2, 12/AA yxyxF-y)dxdy f(x,),( )2( , 0, 0,y 0, x, yx2y0 x0)yx2(其它dde. 0, 0,y 0, x),e-)(1e-(1-y-2x其它xyy)dxdy f(x,X)P(Y (3) 31yx20)yx2( ydde3. 二维均匀分布及二维正态分布二维均匀分布及二维正态分布(1) 二维均匀分布二维均匀分布设设G是平面上的有界区域是平面上的有界区域,面积为面积为 A,若二维随机若二维随机变量变量(X,Y)具有概率密度具有概率密度其它 0,Gy)(

34、x, ,1),(Ayxf则称则称(X,Y)在在G上服从均匀分布上服从均匀分布.若区域若区域G1是是G内的面积为内的面积为A1的子区域的子区域,则有则有AAdxdyAGYXPG1111),(2) 二维正态分布二维正态分布设二维随机变量设二维随机变量(X,Y)具有概率密度具有概率密度yxyyxxyxf,)()(2)()1 (21exp121),(2222212121212221的的服从参数为服从参数为均为常数，则称均为常数，则称其中其中,),() 1|(|),0(),0(,2222112121YX二维正态分布，二维正态分布，).;,;,(),( 222211NYX记为2. 边缘分布边缘分布 一、一

35、、边缘分布函数边缘分布函数： .YX) (y) (x), ,yx,的边缘分布函数和关于关于称为是的分布函数和分量分布函数为对于二维变量(X, YFFYX)F(X, Y)YXPX)(FXxx) F()( F Yy ,y 同理) F(YPX x, x,二、二、边缘分布律边缘分布律：二维离散型随机变量二维离散型随机变量(X,Y)的分量的分量X,Y的分布律的分布律 P(X=xi ), P(Y=yj) (i=1,2,)分别称为分别称为(X,Y)关于关于X,Y的的边缘分布律边缘分布律。设设(X,Y)的联合分布律的联合分布律 P(X=xi,Y=yj)=pij(i,j=1,2,)则关于则关于X的边缘分布律为的

36、边缘分布律为),()(YxXPxXPii), 2 , 1()( ipxXPpjijii简记为jijiipyYxXPyYxXP),(),(21三、三、边缘概率密度边缘概率密度:概率密度。的边缘关于分别称为的概率密度的概率密度为设Y,X),()(),(f YX, y), f(x,XYXyfx(X, Y)Y x-y)dydx f(x,x,)()F(xFX,y)dy f(x,)(-xfX所以，关于所以，关于X的边缘密度为的边缘密度为3. 条件分布条件分布 一、一、二维离散型变量的情况二维离散型变量的情况:2, 1,j ,p Y, 2, 1,i ,py ,x jijji jyPYYPX(X, Y)的边缘

37、分布律为关于分布律设yPYYPXYPXjjjijiy ,xy| x : , 0p 有设).(j13 2, 1,i , pp ij.y, 2 , 1,ppy| x称ijji的条件分布律条件下为在故XYiYPXjj4.4. 相互独立的随机变量相互独立的随机变量 若两个事件若两个事件A, B满足满足P(AB)=P(A)P(B), 则称则称A, B相互独立相互独立.定义定义:. yxyx, y x, , 相互独立和则称随机变量有若对于所有的为二维随机变量设YXPYPXYPXX, Y.yxy x, 相互独立与即YX)(F)(F)F(YX例例 (X,Y)由联合分布由联合分布其它, 00, 0,1),()(

38、2121yxeeeyxFyxyx证明证明X与与Y独立。独立。0, 00,1),()(1xxexFxFxX证：因为0, 00,1),()(2yyeyFyFyY相互独立。所以显然YX,),()(),(yFxFyxFYX1,2,ji, ,yxy,xjijiPYPXYPX定理定理: 如果如果(X,Y)是二维离散型随机变量是二维离散型随机变量,则则X,Y相互独立的充要条件是相互独立的充要条件是:对任意的一对对任意的一对值值(xi,yj)有有), 2 , 1,(jipppjiij即)()()(YXyfxfy x,f 定理定理 如果如果(X,Y)是二维连续型随机变量是二维连续型随机变量,则则X,Y相互独立的

39、充要条件是相互独立的充要条件是:在在 f(x,y)的连的连续点续点(x,y)处，有处，有命题命题：设：设(X, Y)服从二维正态分布服从二维正态分布, 则则X, Y相相互独立的充要条件是互独立的充要条件是 =0.第四章第四章 随机变量的数字特征随机变量的数字特征4.1. 随机变量的数学期望随机变量的数学期望4.2 随机变量的随机变量的方差方差 4.3. 4.3. 协方差和相关系数协方差和相关系数4.44.4 矩、协方差矩阵矩、协方差矩阵 .pxE(X) ),(,px ,p|x| 21k ,pxX P :r.v.X : 1k1k1kkkkkkkkk即记作机变量的数学期望为随则称收敛若级数的分布律

40、为设离散型定义XE, 的数学期望不存在。发散时，则说当Xpxiii1|1. 随机变量的数学期望随机变量的数学期望下面计算一些离散型分布的期望值。下面计算一些离散型分布的期望值。1) (0-1)分布分布 设设X服从服从(0-1)分布，分布律为分布，分布律为P(X=1)=p,P(X=0)=1-p, 0p1X的数学期望为的数学期望为 EX=1p+0(1-p)=p p), B(n,X : 2) 设二项分布 :n0kn-kkknqpCkEX解n. 1, 0,k ,qpkPX k-nkknC.1npq)np(pn ),( : 3)即设泊松分布PX0. 2, 1, 0,k ,e!kkPX -k 11 -k-

41、)!1(ekk. -k0e!k : kE(X)k解, 2 , 1, )41kpqpkk几何分布11kkpqkEX解：pqp1)1 (12)1()(1qqpqpkkdx.)x(xf . ,Xdx)x(xf ,dx )x(f |x|),x(f. :-E(X)E(X)X即记为的数学期望的值为则称积分收敛若积分的概率密度为设定义连续型随机变量的数学期望连续型随机变量的数学期望下面计算常用连续型变量的数学期望：下面计算常用连续型变量的数学期望： . , 0 b,xa ,1f(x) :X , b a, : 1其他的密度函数为即设均匀分布 b-aUXdx xf(x)-EX,2ba1 badxb-ax则则它恰

42、是区间它恰是区间a,b的中点。的中点。 0. x0, , 0 x,e f(x) : , )e(X : 2 -x则其密度函数为设指数分布dx xf(x)-EX 0 xxdex 0txtdtet 1令令 ,10ete1tt 则设正态分布 ),N(X : 32)x(dx ex21222)(-tEXx令dtt222-e)(t21 dte21 dtet2122222t-2t- .随机变量函数的数学期望公式随机变量函数的数学期望公式: 则收敛若的分布律为的函数是设定理,p| )g(x|, , 21k,px gY :1kkkkk,XP(i)XX(X) .)pg(x)()( 1kkkXgEYE ,dx f(x

43、)|g(x)| f(x),X (ii)-则收敛若的概率密度为dx.g(x)f(x)()(-XgEYE均值的性质均值的性质:(1) E(c)=c; (c为常数为常数)(2) E(cX)=cE(X);( c为常数为常数)(3) E(X+Y)=E(X)+E(Y);(4) 设设X,Y相互独立相互独立, 则则 E(XY)=E(X)E(Y); (5) |E(XY)|2E(X2)E(Y2)(许瓦尔兹不等式许瓦尔兹不等式)作变量为作变量为t的函数的函数g(t)=E(tX-Y)，由数学由数学期望的性质得期望的性质得g(t)=tEX-t2EXY+EY042222EYEXEXY即即因为因为g(t) 0，所以二次三项

44、式所以二次三项式tEX-t2EXY+EY最最多有一个实根，多有一个实根，从而其判别式满足从而其判别式满足222EYEXEXY4.2 4.2 方差方差 .E(X)-XED(X) , D(X) ,X ,E(X)-XE ,X22即记作的方差则称它为存在若为一随机变量定义：设 .XD(X)的均方差或标准差为称若若X为离散型为离散型r.v.其分布律为其分布律为PX=xk=pk, k=1,2, 则则,pE(X)xD(X)kkk2 ),x( f.,v . rX则则其其密密度度函函数数为为为为连连续续型型若若 . x)x(f-x -2dE(X)D(X)方差的计算公式方差的计算公式:22222)( )(2( )

45、(EXEXEXEXXXEEXXEDX1. X服从服从(0-1)分布分布, 则则EX=0(1-p)+1p=p,故故 D(X) =E(X2)-E(X)2=p-p2=p(1-p).E(X2)=02(1-p)+12p=p, 下面计算一些常见分布的方差下面计算一些常见分布的方差k-nkn0k22qpknkXEk-nkn0kk-nkn0kqpqp) 1(knkknkk)()(p) 1(22XEqpnnn.pq)()()(22nXEXEXD故 p), b(n,X : 2 设二项分布pp) 1(2nnn ),( : 3即设泊松分布PX e!k)(-k022kXEk解：-k0e!1)1-(kkkk,e)!1(e

46、)!2(12-1 -k2-2-k2kkkk . 22)-E(X)E(XD(X) b a, : 4UX均匀分布dxf(x)x -22EX, )(31 33ba2ababdxb-ax. 12222(b-a)- E(X)E(XDX)e(X : 5 指数分布dx x 0 x22eEX解：,2 t1 2022xtdtet. 1222)- E(X)E(XD(X)x(dx e)-(x21222)x(-2tDX令 e21t2-222dtt.2则设正态分布 ),N(X : 62方差的性质方差的性质:1 设设C是常数是常数, 则则D(C)=0;2 C是常数是常数, 则有则有 D(CX)=C2D(X);3 设设X,

47、 Y是两个是两个相互独立的相互独立的随机变量随机变量, 则有则有 D(X Y)=D(X)+D(Y);nnnnnnnDXcDXcXcXcXcDDXDXDXXXXDXXX21212211212121)()(,相互独立，则推论：4.3. 4.3. 协方差和相关系数协方差和相关系数 E(Y).-E(X)Y-EXY) Cov(X, Y), Cov(X, ,YX ,E(Y)-E(X)Y-EX , Y) (X, 1即记作的协方差和则称为存在若为二维随机变量设：定义)(2)(EYYEXXEDYDXYXD展开可得计算公式展开可得计算公式: Cov(X, Y)=EX-EXY-EY =E(XY)-E(X)E(Y).

48、由方差性质证明知对于任意的由方差性质证明知对于任意的X和和Y, 有有 D(X Y)=D(X)+D(Y) 2Cov(X,Y).).,(,010, 2),(),(.YXCovyxyxfYX求求其它其它的密度函数为的密度函数为设设例例 210 ,22),()(10 , )1 (22),()(01yydxdxyxfyfxxdydyyxfxfyYxX解：3/22, 3/1)1 (21010dyyyEYdxxxEX4/12),(010yxydxdydxdyyxxyfEXY36/1) 3/2() 3/1 (4/1),cov(EXEYEXYyx 协方差的性质协方差的性质:1 Cov(X, Y)=Cov(Y,

49、X);2 Cov(aX, bY)=abCov(X,Y), a, b是常数是常数;3 Cov(X1+X2, Y)=Cov(X1,Y)+Cov(X2, Y);6 |Cov(X, Y)|2D(X)D(Y);5 若若X, Y相互独立相互独立, 则则Cov(X, Y)=0.4 Cov(X,a)=0,Cov(X,X)=DX,a为常数为常数;.,)(D(X)Y) Cov(X, 0,D(Y) 0,D(X)2XY的相关系数，记为为则称：若定义YXYD是不相关的。和则称：若定义YXXY, 030a ,b a, 1,baXYP ,1Y X1 2XY0且为常数其中即线性相关以概率和. 0,30XYYX相互独立，则若1

50、;. 1 XY0相关系数的性质：由性质由性质(6) |Cov(X, Y)|2D(X)D(Y)可得可得. 独立与不相关都是随机变量之间相互联系程度独立与不相关都是随机变量之间相互联系程度的一种反映的一种反映, ,独立独立指的是指的是X X与与Y Y没有任何关系，没有任何关系，不相关不相关指的指的X X与与Y Y之间没有线性相关关系之间没有线性相关关系 事实上，若事实上，若X X与与Y Y独立，则独立，则X X与与Y Y一定不相关；一定不相关；但反过来，若但反过来，若X X与与Y Y不相关，则不相关，则X X与与Y Y却未必独立却未必独立反之，则不成立。不相关则相互独立若命题 ;Y X, , 1.

51、X, Y .(y).(x)ffy)f(x, ,0, 0, , 1y x,1y)f(x, . , YXXY22但其其它的密度函数是反例(X, Y)y)dxdy)f(x,-)(y-(xY)Cov(X,21- )()(2)()1 (21exp121),(2222212121212221yyxxyxf)(D(X)Y) Cov(X,XYYD不相关独立则命题YX, YX, , );,;,( 2.222211N(X, Y)公式：公式：Cov(aX+bY,cX+dY) =acDX+(ad+bc)Cov(X,Y)+bdDY4.4 矩、协方差矩阵矩、协方差矩阵E(X)为一阶原点矩为一阶原点矩, D(X)为二阶中心

52、矩为二阶中心矩, cov(X,Y)为二阶混合为二阶混合中心中心矩矩.(1) 若若E(Xk), k=1, 2, 存在存在, 则称为则称为X的的k阶原点矩阶原点矩.(2) 若若EX-E(X)k, k=1, 2, 存在存在,则称它为则称它为X的的 k阶中心矩阶中心矩.(3) 若若EX-E(X)kY-E(Y)l, k, l=1, 2,存在存在, 则则称它为称它为X和和Y的的k+l阶混合阶混合中心中心矩矩.一、矩一、矩二维随机变量二维随机变量(X1,X2) 的二阶中心矩分别记为的二阶中心矩分别记为2222211222122111221111EXXEEXXEXXEEXXEXXEEXXE将它们排成矩阵形式将

53、它们排成矩阵形式22211211 称这个矩阵为称这个矩阵为(X1,X2)的协方差矩阵。的协方差矩阵。二、协方差矩阵二、协方差矩阵.n , ,ji, ),X,Cov(X nnn2n12n22211n1211jiij的的协协方方差差阵阵维维随随机机变变量量为为则则称称矩矩阵阵都都存存在在中中心心矩矩阶阶的的二二), X, , X(X,n,), X, , X(Xnn212121协方差阵的性质：协方差阵的性质：对称性、正定性对称性、正定性等。等。第五章第五章 大数定律及中心极限定理大数定律及中心极限定理5.1 5.1 大数定律大数定律 5.2 5.2 中心极限定理中心极限定理 5.1 5.1 大数定律大数定律 一一. . 问题的提出问题的提出: : 1. 1.当当n n足够大时足够大时, , 频率频率 是否收敛到相应的是否收敛到相应的概率概率p p，即即? pnnn时，nn?)(1,)(,. 22121aXXXnXnaEXaXXXnin时当，的一组测量是对某长度.nn 1 nn Plim 0,AAnppP即有对于 贝努利大数定律贝努利大数定律:设设nA是是n次独立重复试验中次独立重复试验中A发生的次数发生的次数, p是是事件事件A在每次试验中发生的概率在每次试验中发生的概率, 则则贝努利大数定