随机过程第一章(上).

1、随机过程第一章 随机过程的概念与基本类型n预备知识（概率论）n简要回顾一下概率论中与本课程有关的基本概念：随机试验、概率空间、样本空间、概率、随机变量等基本概念随机试验n试验结果事先不能准确预言，三个特征试验结果事先不能准确预言，三个特征:可以在相同条件下重复进行；可以在相同条件下重复进行；每次试验结果不止一个，可预先知道试验每次试验结果不止一个，可预先知道试验所有可能结果；所有可能结果；每次试验前不能确定哪个结果会出现。每次试验前不能确定哪个结果会出现。概率空间 概率空间是随机试验和概率的数学模型； 概率空间由3 3个要素组成n1）样本空间n2）定义于样本空间的事件集n3）定义于事件集上的概

2、率集样本空间随机试验所有可能结果组成的集合，记为中的元素e称为样本点,样本点是试验的每一个不可分解的结果.事件样本空间的子集A称为事件.基本事件和复合事件； 必然事件和不可能事件集合运算集合运算和事件“事件A和事件B至少一个发生”构成的事件积事件“事件A发生而事件B不发生”构成的事件“ 事件A和事件B同时发生”构成的事件差事件互不相容关系事件A与事件B不可能同时发生互逆关系事件A与事件B必有一个发生,且仅有一个发生ABABABABA B,ABAB 古典概率n随机试验中一切可能结果是有限多个；n每个结果出现的可能性是相等的；n则事件A发生的概率可表示为A( )PA 事 件 所 包 含 的 样 本

3、 点 个 数样 本 空 间 中 所 含 样 本 点 个 数n 例如：一批产品共例如：一批产品共100件，其中次品件，其中次品4件，从这批产品中任取件，从这批产品中任取1件，件，求取到求取到正品的概率正品的概率。几何概率n计算无穷个基本事件的情形；n样本点具有均匀分布的性质；n设用L（ ）作为区域大小的量度，而区域中任意可能出现的小区域A的量度用L（A）表示；n则事件A（或某一区域）发生的概率表示为)()()(LALAP例如：跳伞运动员降落在某一区域的概率例题例题：在时间间隔T内的任何瞬间，两个不相关的信号等可能地进入收音机。如果当且仅当这两个信号进入收音机的间隔时间不大于t，则收音机受到干扰，

4、试求收音机收到干扰的概率。x-y=tx-y=-tT2-(T-t)2统计概率n用于计算前两种随机概率概括不了的随机事件概率；n用事件的频率近似地去表达事件的概率；n若在同样的条件下，将随机试验独立的重复做n次，事件A出现了nA次，则事件A的频率是nnfAAn当试验次数当试验次数n增大时，其中大量的频率聚集在一个常数周围；增大时，其中大量的频率聚集在一个常数周围；n这个常数是客观存在的，反映了事件A出现可能性的大小，我们认为这个常数就是事件的概率。)(APfA公理化定义的概率(1933(1933年前苏联科学家柯尔莫哥洛夫) )n对于一个事件A样本空间，赋予一个实数P，若满足：1.0P(A) 1;

5、(非负性)2.P()=1; (规范性)3.若A1,A2,.,Ak两两互斥，则 (可加性)11)()(kkkkAPAP我们称P(A)为事件A的一个概率。概率空间n规定一个随机试验，所有样本点之集合构成样本空间 ，在样本空间中一个样本点或若干个样本点之适当集合适当集合F称为事件域，F中的每一个集合称为事件。若A F，则P(A)就是事件A的概率，并称这三个实体的结合（ ，F，P）为一个概率空间条件概率n在事件B已发生这一条件下，事件A发生的概率。)()()|(BPBAPBAP全概率n若有N个互斥事件An（n=1,2,N），它的并集等于整个样本空间，则:1( )(|) ()NiiiP BP B A P

6、 An其中,事件B伴随事件Ai发生n 10箱同规格产品，其中5箱为甲厂生产， 3箱为乙厂生产， 2箱为丙厂生产，而甲厂、乙厂，丙厂生产的次品率分别为0.1， 0.06，0.03，现在任取1箱，在从箱子中任取1件，问取得正品的概率? 例如：1( )( | ) ( )5320.90.940.97 0.926101010NiiiPBPB A PAn设事件A1，A2，An构成一个完备事件组，概率P(Ai)0,i=1,2,n,对于任何一个事件B，若P(B)0, 有1( ) ( | )( | )( ) ( | )iiiNiiiPA PB APA BPA PB A贝叶斯公式(后验概率公式或逆概率公式)事件A

7、1，A2，An看作是导致事件B发生的“因素”，P(Ai)是在事件B已经出现这一信息前Ai出现的概率，通常称为先验概率公式给出的P(AiB)是在经过试验获得事件B已经发生这个信息之后，事件Ai发生的概率，称为后验概率例题：设一个二进制的数字通信系统，主要由1和0两种符号组成，如下图，且P(B1)=0.6，P(B2)=0.4，求条件概率11|P BA11111111111212| | | |0.6 0.9 0.9310.6 0.90.4 0.1P B AP BAP AP B P A BP B P A BP B P A Bn 10箱同规格产品，其中5箱为甲厂生产， 3箱为乙厂生产， 2箱为丙厂生产，

8、而甲厂、乙厂，丙厂生产的次品率分别为0.1， 0.06，0.03，现在任取1箱。 n 若取得的是正品，问该箱产品是甲厂生产的概率是多少？ 例如：11113159.()() (|)4510 10(|)( )0.9292(|) ()iiiP ABP A P B AP A BP BP B A P A独立事件设（ ，F，P）为一概率空间，事件AF，BF且P(A)0，若P(B|A)=P(B)，则称事件B随机独立于事件A.)()()(BPAPBAP例题：设每个家庭有3个孩子，男孩、女孩排列的八种可能性的概率均为1/8，定义如下事件：A既有男孩又有女孩的家庭B最多只有一个女孩的家庭问：A，B是否统计独立？P

9、(A)=(8-1-1)/8=3/4P(B)=(1+3)/8=1/2P(AB)=P (1女)=3/8随机变量定义：设（ ，F，P）是概率空间，对任一个e ,都有实数 X(e)与之对应，则称X(e)为随机变量，简记为X。 引入随机变量后,随机事件就可以表示为随机变量在某一范围内的取值.离散型随机变量：只取有限个数值或可列无穷多个值。连续型随机变量：从原样本空间到新样本空间的映射是某一个范围，是一段（或几段）实线（也可能是整个坐标轴），随机变量可以取值于某一区间中的任一数。分布函数分布函数（一个描述随机变量取值的概率分布情况的统一方法）xxeXePxF),)(:()(性质：1. F(x)是非降函数；

10、 (单调不减性)2. 0F(x) 1； (有界性)3. Px1Xx2=F(x2)-F(x1)4. F(x+0)=F(x) (右连续)离散型离散型随机变量的所有取值为随机变量的所有取值为xi(i=1,2)Pi是X取xi的概率，称：P(X=xi )= Pi， i=1,2为离散型随机变量X分布律。设F(x)是连续型连续型随机变量X的分布函数，若存在非负函数 f(x)，有：( )( )xF xf t dt则f(x)为连续型随机变量X概率密度函数。离散型随机变量的概率分布用分布列（律）描述离散型随机变量的概率分布用分布列（律）描述qXPpXP)0(,)1(knkknqpCkXP)(ekkXPk!)(连续

11、型随机变量的概率分布用概率密度描述连续型随机变量的概率分布用概率密度描述其它,0,1)(bxaabxf222)(21)(axexf0,00,)(xxexfx0,00,)(xxexfx随机变量函数的分布随机变量函数的分布在给定某任意的随机变量X，以及它的分布函数FX(x)，希望进一步求出给定的随机变量的某些可测函数（如Y=g(X)）的分布函数。g(x)YXY的分布函数公式为),)(:()(XYxyxgxPyF如果上式右端概率的导数对于y处处存在，那么这个导数就给出了随机变量Y的概率密度),)(:()(XYxyxgxPdydyf边际分布边际分布若二维联合分布函数中有一个变元趋于无穷，则其极限函数便

12、是一维若二维联合分布函数中有一个变元趋于无穷，则其极限函数便是一维分布函数，对于这种特殊性质，我们称其为边际分布。分布函数，对于这种特殊性质，我们称其为边际分布。对于任意两个随机变量对于任意两个随机变量X,Y，其联合分布函数为，其联合分布函数为FXY(x,y)，则，则),()(),()(21yFyFxFxF分别称分别称F1(x)和和F2(y)为为FXY(x,y)关于关于X和关于和关于Y的边际分布函数。的边际分布函数。)(),(),(lim),()(1xXPYxXPyxFxFxFXYy ydudvvufyFyF),(,)(2离散型随机变量（离散型随机变量（X，Y）边际分布函数计算如下）边际分布函

13、数计算如下连续型随机变量（连续型随机变量（X，Y）边际分布函数计算如下）边际分布函数计算如下相互独立的随机变量相互独立的随机变量设X，Y是两个随机变量，若对任意实数x，y有)()()()(),(yYPxXPyYxXPyYxXP则称X，Y为相互独立的随机变量。若若X，Y为相互独立随机变量，则有为相互独立随机变量，则有)()(),()()(),(yfxfyxfyFxFyxFYXXYYXXY条件分布条件分布)(),()|(|yfyxfyxfYXYYXxYXYXduyufyYxF)|()|(|在给定条件随机变量Y=y下，随机变量X的条件概率密度函数为：随机变量的数字特征n统计平均与数学期望n方差n协方

14、差n相关系数n独立与不相关统计平均与数学期望统计平均与数学期望设离散随机变量X，它可能取4个值x1，x2，x3，x4，做试验n次，计算X的算术平均可得：4141443322111)(1kkkkkknnxnxnnxnxnxnxnXP(X=xk)1)()(kkkxXPxXEX对于离散型随机变量可以用脉冲函数来表示其概率密度1)()()(kkkXxxxXPxf冲激函数随机变量数学期望定义随机变量数学期望定义dxxxfXEX)()(随机变量函数的数学期望值随机变量函数的数学期望值已知随机变量X的数学期望值，求随机变量函数Y=g(X)的数学期望，dxxfxgdyyyfXgEYEXY)()()()()(K

15、阶原点矩，阶原点矩，k阶中心矩阶中心矩随机变量X，若E|X|k，称EXk为k阶原点矩阶原点矩。niXkikikdxxfxxXPxXE1)()(离散随机变量连续随机变量又若EX存在，且E|X-EX|k ，称)(kXEXE为X的k阶中心矩阶中心矩。niXkikikdxxfXExxXPXExXEXE1)()()()()(离散随机变量连续随机变量一阶原点矩一阶原点矩就是随机变量的数学期望数学期望，)(xxdFEX数学期望大致的描述了概率分布的中心。数学期望大致的描述了概率分布的中心。二阶中心矩二阶中心矩就是随机变量的方差方差，2)(EXXEDXdef方差反映随机变量取值的离散程度。01分布分布泊松分布泊松分布正态分布正态分布数学期望和方差（见page3，表11）中心化的两个随机变量X-EX，Y-EY的互相关称为随机变量X和和Y的协方差的协方差，)()()()(),(YEXEXYEEYYEXXEYXCov协方差是描述随机现象中，随机变量随机变量X和和Y线性相关的程度。线性相关的程度。引入一个描述两个随机变量相关程度的系数DYDXYXCovdefXY),(XY称为归一化的相关系数归一化的相关系数。11XY若XY0，则称随机变量X和Y不相关。若两个随机变量X和Y的联合矩满足jijiYEXEYXE则称随机变量随机变量X和和Y统计独立统计