概率论与随机过程第1章7-10节

1、7 多维随机变量及其分布测某一群人的身高H和体重W 。 即由某一群人构成的样本空间S=e将产生具有一定关系的二组随机变量: H(e) , W(e)。定义：设E为一随机试验，其样本空间为S=e,设X=X(e)，Y=Y(e)是定义在S 上的随机变量，其构成的一向量（X,Y）称为二维随机向量（或变量）。研究(X，Y)的性质不仅与X及Y有关，而且还依赖于X，Y的相互关系 。（一）分布函数 F(x，y)的定义： 设(X，Y)为二维随机变量，对于任意实数x，y的二元函数 F(x，y)=P Xx，Yy 称为二维随机变量(X,Y)的分布函数， 或联合分布函数。F(x，y)性质: 1 F( x, y)是 x 或

2、 y 的非减函数 （1）给定 y，当 x2 x1，则 F(x2，y)F(x1，y) （2）给定x，当 y2 y1， 则F(x，y2 )F(x，y1 )2 0F(x，y) 1，且 （1）给定 y，F( -，y)=0 （2）给定 x，F(x, -)=0 （3）F(-, -)=0 （4）F(+,+ )=13 F(x，y)=F( x+0，y)， F(x，y)=F( x，y+0)。 即F(x，y) 关于x 或 y 均为右连续。4 对于任意(x1，y1 )，(x2，y2 )， 若 x1 x2，y1 y2，则 F( x2，y2 )-F( x2，y1 )-F( x1 ，y2 )+F( x1，y1 ) 0（二）

3、概率密度函数与质量函数 定义：对于二维随机变量( X, Y )的分布函数F(x，y)，若存在非负函数 f (x，y) 使得对于任意实数x，y 有 则称(X，Y)为连续型二维随机变量，f(x，y)为(X,Y)的概率密度函数。性质： 1. f(x,y) 0 ; 2. ; 3. 若 f(x,y) 在点（x, y）处连续，则有 ; 4. 点(X, Y)落x0y平面上某一区域G内的概率为 。例：设 求: i) 分布函数F ( x, y)； ii) 求(X,Y)落在G内的概率。 解：i) ii) 定义：设二维离散型随机变量(X,Y)所有可能取值为(xi， yj ), i, j=1, 2, 。若 ，且满足：

4、 则称 为二维离散随机变量(X,Y)的概率 质量函数，或称联合概率质量函数。 其分布函数为： n维随机变量的定义：若E是一个随机试验，其样本 空 间有S=e，设X1= X1(e), X2= X2(e)， Xn= Xn(e) 是定义在S上的随机变量，由它们构成的一个n维向量 （ X1，X2 ，Xn）称作n维随机向量（或变量）。 对于任意n个实数 x1 , x2，xn , n元函数 称为n维随机变量（ X1, X2，Xn）的分布函数或联合 分布函数。 其所有性质均可由二维性质推得。（三）边缘分布 对于二维随机变量（X,Y），其作为一个整体我们有：分布函数： 连续型的概率密度函数： 离散型的概率密度

5、函数：而对随机变量X，Y自身也有其分布函数，分别记为： Fx(x) , Fy(y)。它们分别称为二维随机变量（X,Y）关于X和关于Y的边缘分布函数，且均可由F(x,y)确定。 即， 连续型 离散型 同理， 连续型 离散型由 关系可得对应边缘分布函数 的边缘概率密度函数和边缘概率质量函数（分布律）： 它们分别称为（X, Y）关于X和关于Y的边缘概率密度函数和边缘概率质量函数。问题：如何求解 已发生的条件下 发生的概率。即（四）条件分布 由二事件的条件概率公式： 可得：由上式条件概率可见其满足概率质量函数的条件： 1. 2.定义：设（X,Y）是二维离散随机变量，对于固定的 j， 若 ，则称 为在

6、条件下随机变量X的条件概率质量函数。同样可定义： 定义：若（X,Y）是二维连续型随机变量，由于 P X=x =0 和P Y=y =0，故不能直接用条件概率公式，但若 ， 则 ，于是 有 即在条件 下X的条件分布函数。 若上式当 极限存在，则称其极限为在条件Y= y 下 X的条件分布函数， 记为 或 。设(X,Y)的分布函数为F(x,y)，概率密度为f(x,y)，若 f(x,y) 在点 (x, y) 处连续，而边缘概率密度 连续，且 ， 则有 若记 为在条件Y= y下X的条件概率密度函数，则由 可得： 。由X，Y的对称性，同样可定义： 和 。（五）独立性 定义：设 分别为二维随机变量 (X,Y)

7、的分布函数和边缘分布函数，若对于所有的x，y 有 即， 则称X和Y是相互独立的。若(X,Y)为连续型或离散型随机变量，X和Y相互独立的条件分别等价于： 8 随机变量函数的分布g()为一标量函数，其将xSX映射到y=g(x)SY 。 ，则有 且 P(A)=P(B)=P(C)定理：I. 设离散型随机变量X，其概率质量函数为 令 ，则随机变量Y的概率质量函数 为 ： 其中，求和是对所有映射到 的 。 若X到Y的映射是一对一映射，则m=n; 若为多对一映射，则mn。II. 设连续随机变量X的概率密度为 f(x)，- x 0（或恒有g(x)0（或g(x)0 , Y的分布函数为： 1. 时 ； 时 。 2

8、. 时， （2） 故， 设 g(x)0 , 同上有故 , (3) 合并（2）、（3）二式，则可证得： 若f(x)在有限区间a,b之外为0，则 对于多维情况，若 以及 ，且令 (4)若 对应的反函数为 ，且将其代入 则 上式与（4）式比较，可得：其中，计算中注意： 1. XY为单值关系时，使用 较方便，即 2. XY为非单值关系时，使用 较方便。随机变量函数的分布例题例1. 设随机变量X具有概率密度 求随机变量Y=2X+8的概率密度。解： =例 2 设随机变量X具有概率密度 fX(x)，- x 0时有， 只要知道 的具体函数形式，就可将分别代入上式即可求得 。例3. 设随机变量（X, Y）的概率

9、密度为 （1）问X和Y 是否相互独立？ （2）求Z=X+Y的概率密度。解： 同理可得： 由于 ，所以X和Y 不是相互独立的。 令随机变量W=X，则有 例4. 设随机变量服从二维正态分布：试求随机变量 的概率密度函数。 解： 设 ，则由 可得 。故有 令 ，则 9 随机变量的数字特征分布函数能完整的描述随机变量的统计特性，但有时分布函数不易求得。其次，有时不一定要求全面考察随机变量的变化情况，只需知道其某些特征。粮食产量的平均水平；一批产品的平均质量。例如，灯泡寿命的平均时间、各体偏离平均值的程度。即，平均寿命长、偏离平均值的程度小，则说明产品质量高。 (一) 随机变量的数学期望(均值)定义:

10、(1) 设离散随机变量X的概率质函数为 若级数 绝对收敛，则称此级数 为X的数学期望。记为， (2) 设连续随机变量X的概率密度函数为f(x),若 绝对收敛，则称此积分为X的数学期望。记为例1.甲乙两人打靶问题,设 0 1 2 0 1 2 0 0.2 0.8 0.6 0.3 0.1 试评定他们的成绩好坏。 解: 即，意味着甲乙进行很多次射击后，甲的平均成绩接近1.8，乙接近 0.5，故甲远比乙的成绩好。定理: 设Y是随机变量X的函数，Y=g(X), (1) 若X为离散随机变量，且 若 绝对收敛，则有 (2) 若X为连续随机变量，且 f(x)。若 绝对收敛，则有 数学期望的性质: 1. 设c为常

11、数，则有 E(c)=c； 2. 设X是一随机变量，c为常数，则有 E(c X)=c E(X)； 3. 设X，Y是任意二个随机变量，则有 E(X+Y)=E(X)+E(Y)； 4. 设X,Y是二个相互独立的随机变量，则有 E(XY)=E(X)E(Y)。证: 设(X,Y)的概率密度函数为 则有：(二) 随机变量的方差作用：描述随机变量与其均值的偏离程度。 由于 计算不方便。故使用定义: 设X为一随机变量，若 存在， 则称 为X的方差。记为， 另将 称为标准差或均方差。方差的计算：1. 离散型: 其中， ；2. 连续型: 其中， 为X 的概率密度。 方差的性质1. 设c为常数，则 ；2. 设X为随机变

12、量，c为常数，则 ；3. 设X，Y为两个独立的随机变量，则 ；4. Var(X)=0的充要条件为X依概率1取常数c，即契比雪夫不等式定理：设随机变量 X 具有 ，则对于 ，不等式 成立。 证: 设X的概率密度为f(x) 同理，有契比雪夫不等式的作用：不等式可在随机变量X分布未知的情况下对事件 ，即X偏离均值的概率，给出一个统计估计。例:分别取： 。由不等式可得： (三) 协方差和相关系数对二维随机变量(X,Y)，除了了解其数学期望与方差外,它们二者之间的关系也是必须考虑的问题。 例，若X与Y相互独立，则 。 但若 ，则说明X与Y不是相互独立的，但二者的关系究竟如何? 定义: 量 称为随机变量X

13、 与Y的互协方差，记为Cov(X,Y)。而 (无量纲) 则称为X与Y的相关系数或标准协方差。协方差的性质两个重要定理定理一: 随机变量V，W，若 ， 则 成立。 上式称为柯西-许瓦兹不等式。证：令t 为实变量，则 定理二: 设 为随机变量X和Y的相关系数，则有:当X和Y相互独立时Cov(X,Y)=0，即 。故 当 时，称X和Y不相关。 因此可知：若X和Y相互独立，则他们必定不相关。 即相互独立不相关。但反之，则不一定成立。 只有当(X,Y)服从二维正态分布时， 相互独立不相关 f(x,y)= f(x) f(y) X，Y相互独立； E(XY)=E(X)E(Y) X，Y互不相关； E(XY)=0

14、X，Y正交。（四） 矩、协方差矩阵 定义：设X和Y是随机变量，若 存在， 则称 为X的 k 阶原点矩。若 存在，则称其为X的 k 阶中心矩。若 存在，则称其为X和Y的 k+l 阶混合矩。若 存在，则称其为X和Y的 k+l 阶中心混合矩。二维随机变量，其二阶中心矩为 ； ；若将其排成矩阵形式 ，则称该矩阵为 的协方差矩阵，因为 ，故协方差矩阵为对称阵。n维情况：设 的二阶中心矩 ， 都存在，则称 为n维随机变量的协 方差矩阵。因为 ，故C为对称阵。10 特征函数定义: 随机变量X的特征函数定义为二维情况:性质: 补充： 。 设X，Y是相互独立的随机变量故，即 的分布为：同理可求， 的分布 推论:

15、10 大数定律和中心极限定律(一) 大数定律问题：随着试验次数的增多，事件发生的频率逐渐趋于某常数。大量测量值的算术平均值，随测量次数的增加是否也具有稳定性？定理1 设随机变量X1，X2，Xn，.相互独立，且具有相同的 和 ，k1, 2, 则 有物理意义：具有相同 和 ，相互独立的随机变量X1, X2, ,Xn, ., 其算术平均值 构成的随机变量Y1, Y2, , Yn, 依概率1收敛于 。证: 令 故， 由契比雪夫不等式 可知 。# 定理 2 设 是n次独立试验中事件A中发生的次数，p是A在每次试验中发生的概率，则 有物理意义：事件发生的频率 依概率1收敛于事件 的概率p。同理：当试验次数

16、很大时，可用事件发生的频率代替事 件的概率。证：设随机变量 故有:由于 只依赖于第 k次试验，且各次试验是独立的，所以X1, X2, , Xn是相互独立的；由设可知 具有(0-1)分布。即由定理1，有 # (二)中心极限定理问题: 实际中，有这样一种随机事件，它是由大量的相互独立的随机因素的总体影响形成的，且其中每一个个别因素对总体影响的作用都是微小的，这种随机事件所对应的随机变量的分布函数F(x)?定理3. ( 同分布的中心极限定理 ）设随机变量X1, X2, , Xn, 相互独立，服从同一分布，且 ，则随机变量 的分布函数 满足 定理4:定理5: 证：由所设条件可知： ， 因此可将 看成是由n个相互独立，且服从同一(0-1)分布 的随机变量 之和，即 其中，Xk 的概率质量函数为 由此可得：故由定理3，可知：于是对于任意区间（a，b 有 # 例1 .一加法器同时收到20个噪声电压V，设它们是相互独立的随机变量，且都在区间(0,10)上服从均匀分布，记为： ，求 PV10