第十章随机过程及其统计描述

第十章 随机过程及其统计描述 本章首先从随时间演变的随机现象引入随机过程的概念和记号接着，一般地介绍随 机过程的统计描述方法最后，作为示例，从实际问题抽象出两个著名的随机过程，并介 绍它们的统计特性 1 随机过程的概念 随机过程被认为是概率论的“动力学”部分(JNeyman，1960)意思是说，它的研究 对象是随时间演变的随机现象对于这种现象，一般来说，人们已不能用随机变量或多维 随机变量来合理地表达，而需要用一族(无限多个)随机变量来描述现在来看一个具体例 子 热噪声电压 电子元件或器件由于内部微观粒子(如电子)的随机热骚动所引起的端电 压称为热噪声电压，它在任一确定时刻的值是一随机变量，记为 y(，)不同时刻对应不 同的随机变量，当时间在某区间，譬如上推移时，热噪声电压表现为一族随机变 量，记为0，如图 101，这个电压一时间函数在试验 前是不可能预先确知的，只有通过测量才能得到如果在相同条件下独立地再进行一次测 量，则得到的记录是不同的事实上，由于热骚 328 动的随机性，在相同条件下每次测量都将产生不同的电压时间函数这样，不断地独 立重复地一次次测量就可以得到一族不同的电压一时间函数，这族函数从另一角度刻划 了热噪声电压 现以上述例子为背景，引入随机过程的概念 设了是一无限实数集我们把依赖于参数的一族(无限多个)随机变量称为随机 过程，记为，这里对每一个，X(”是一随机变量丁叫做参数 集我们常把 2 看作为时间，称 X(”为时刻寸过程的状态，而 X(1)J(实数)说成是， 小时过程处于状态 J对于一切，X()所有可能取的一切值的全体称为随机过程 的状态空间 对随机过程进行一次试验(即在丁上进行一次全程观测)，其结果是 的函数，记为 I()， 仨了，称它为随机过程的一个样本函数或样本曲线所有不同的试 验结果构成一族(可以只包含有限个，如本节例 1)样本函数 随机过程可以看作是多维随机变量的延伸随机过程与其样本函数的关系就象数理统 计中总体与样本的关系一样 依照上面的说法，热噪声电压的变化过程是一随机过程，它的状态空 间是，一次观测到的电压一时间函数就是这个随机过程的一个样本函数 在以后的叙述中，为简便起见，常以 X(，)，表示随机过程在上下文不致混 淆的情形下，一般略去记号中的参数集丁 329 例 1 抛掷一枚硬币的试验，样本空间是 S，了，现藉此定义 其中尸()尸(了)12对任意固定的，X()是一定义在 S 上的随机变量；对不 同的，X()是不同的随机变量(见图 102)，所以X()，J 仨是一族随 机变量，即它是随机过程另一方面，作一次试验，若出现，样本函数 ；若出现了，样本函数为 J：(，)，所以该随机过程对应的一族样 本函数仅包含两个函数：显然这个随机过程的状态空间为 口 例 2 考虑 式中。和 oJ 是正常数，田是在(o，27t)上服从均匀分布的随机变量 显然，对于每一个固定的时刻九，是一个随机变量， 因而由(11)式确定的 X(”是一个随机过程，通常称它为随机相位正弦波它的状态空间 是在内随机地取一数，相应地即得这个随机过程的一个样本函数 330 图 10 一 3 中画出了这个随机过程的两条样本曲线 口 例 3 在测量运动目标的距离时存在随机误差，若以表示在时刻；的测量误差， 则它是一个随机变量当目标随时间按一定规律运动时，测量误差也随时间；而变 化，换句话说，是依赖于时间的族随机变量，亦即， 0是一随机过 程 且它们的状态空间是(一” ，+(力) 口 例 4 没某城市的 120 急救电话台迟早会接到用户的呼叫，(”表示时间间隔内 接到的呼叫次数，它是一个随机变量，且对于不同的0，X()是不同的随机变量于 是，X(，0是一随机过程且它的状态空间是0，1，2， 口 例 5 考虑抛掷一颗骰子的试验(设是第 n 次(”1)抛掷的点数，对于”： 1，2，的不同值，是不同的随机变量，因而1构成一随机过程，称为伯努利 过程或伯努利随机序列(设是前”次抛掷中出现的最大点数， ”1也是一 随机过程它们的状态空间都是2)，个随机过程或“维随机过程时，我们可类似地引入它们的多维分 布，以及均值函数和两两之间的互相关函数(或互协方差函数) 在许多应用问题中，经常要研究几个随机过程之和(例如，将信号和噪声同时输入到一 个线性系统的情形)的统计特性现考 339 虑三个随机过程 X()，Y(J)和 Z()之和的情形令 显然，均值函数 而(”的自相关函数可以根据均值运算规则和相关函数的定义得到 ， 此式表明：几个随机过程之和的白相关函数可以表示为各个随机过程的自相关函数以 及各对随机过程的互相关函数之和 如果上述三个随机过程是两两不相关的，且各自的均值函数都为零，则由(211)式可 知诸互相关函数均等于零，此时 W(t)的自相关函数简单地等于各个过程的白相关函数之和， 即 特别地，令， ，：，由(212)式可得 W(9)的方差函数(此处即均方值函数)为 。 3 泊松过程及维纳过程 泊松过程及维纳(Wiener)过程是两个典型的随机过程，它们在随机过程的理论和应用 中都有重要的地位，它们都属于所谓独立增量过程，所以下面首先介绍独立增量过程 给定二阶矩过程X(J)， 0，我们称随机变量 X(t)一 X(5)，00 称为过程 N(”的强度，而 ()当厶 J 一 0 时是关于的高阶无穷小； 3对于充分小的， 亦即对于充分小的，在(t，t+)内出现 2 个或 2 个以上质点的概率与出现一个质点的 概率相比可以忽略不计； 4*N(0)；0 我们把满足条件 14的计数过程称作强度为刀的泊松过程， 相应的质点流或即质点出现的随机时刻称作强度为久的泊松流以下首先来求出 增量的分布律(32)。 对于泊松过程，我们注意到，结合条件 2和 6O 3*，有 下面就泊松过程来计算概率(32) 首先确定为此，对0，考虑 由条件 1和(35)式，上式可写成 343 现以除上式两边，并令一 0，即得满足的微分方程 因为，故1把它看作初始条件即可从方程(36)解得 再来计算，是1根据和事件概率公式和条件 1，有 由式(32)一(35)，并注意到 上式可表示成 将此式适当整理后，两边除以，并令一 0，就可得到满足的微分一差分方 程 又因，故有初始条件 于是，在(38)、(39)中令是l，并利用已求出的，即可解出 如此重复，即逐次令就可求得在内出现是个质点 344 的概率为 由上式易见增量的概率分布是参数为的泊松 分布，且只与时间差有关，所以强度为久的泊松过程是一齐次的独立增量过程 在有些书中，泊松过程也用另一种形式定义，即若计数过程N(” ， 0满足下列三 个条件： (它是独立增量过程； (对任意的 (iii)N(0)0， 那么称N()， 0是一强度为且的泊松过程 从前面的演算结果，不难看到从条件 1一 4可以推出(一(iii)反之，在(“)中： 令一。出，并利用的泰勒级数展开。式，就能得到条件 2和 3(详细推演由 读者自己完成)由此，定义泊松过程的两组条件是等价的 由(310)式，再由第四章1， 2 知 特别地，令。：0，由于假设 N(0)o，故可推知泊松过程的均值函数和方差函数分 别为 从(311)式可以看到，即泊松过程的强度且(常数)等于单位长时 间间隔内出现的质点数目的期望值 关于泊松过程的协方差函数，则可由(31)、(311)式直接推得： 345 而相关函数 若条件(33)式中的强度为非均匀的，即且是时间的函数且久(，)， o则称泊 松过程为非齐次的对于非齐次泊松过程，用类似的方法，可得 下面介绍与泊松过程有关的两个随机变量，即等待时间和点间间距，以及它们的概率 分布 在较多的实际问题中，通常对质点的观察，不是对时间间隔中出现的质点计 数，而是对记录到某一预定数量的质点所需要的时间进行计时例如，为研究含某种放射 性元素的物质，常对它发射出来的粒子作计时试验 一般，设质点(或事件)依次重复出现的时刻 是一强度为且的泊松流，N()， 0为相应的泊松过程以惯用 记号记 是一随机变量，表示第”个质点(或事件第 n 次)出现的等待时间(见图 106)为求出 的分布函数首先注意，事件， 所以 .346. 将它关于 t 求导，得的概率密度为 这就是说，泊松流(泊松过程)的等待时间服从厂分布特别，质点(或事件)首次出现的 等待时间服从指数分布： 它也是一个连续型随机变量，称为相继出现的第 i1 个质点和第 i 个质点的点间间距(见图 10 一 6)下面来求的分布由，所以 f：服从指数分布(313)对于 i2， 我们先求在第 j 一 1 个质点出现在时刻(即)的条件下，的条件分布函数： .347. 从而知相应的条件概率密度为 于是随机变量的联合概率密度 此处为叫的概率密度将此表达式关于积分，即得 的概率密度为 由(313)及(314)知，点间间距序列艮从同一个指数分布理论上还： 是相互独立的随机变量我们把这些结论写成如下的定理 定理一 强度为主的泊松流(泊松过程)的点间间距是相互独立的随机变量，且服从同 一个指数分布(314) 它的逆命题也是成立的，我们不加证明地叙述如下： 定理二 如果任意相继出现的两个质点的点间间距是相互独立，且服从同一个指数分 布(314)，则质点流构成了强度为且的泊松过程 这两个定理刻画出了泊松过程的特征定理二告诉我们，为要 348 确定一个计数过程是不是泊松过程，只要用统计方法检验点间间距是否独立，且服从同一 个指数分布 泊松过程或泊松流是研究排队理论的工具，在技术领域内它又是构造(模拟)一类重要 噪声(散粒噪声)的基础 (-)维纳过程 维纳过程是布朗运动的数学模型英国植物学家布朗(Brown)在显微镜 下，观察漂浮在乎静的液面上的微小粒子，发现它们不断地进行着杂乱无章的运动，这种 现象后来称为布朗运动以()表示运动中一微粒从时刻o 到时刻o 的位移的横 坐标(同样也可以讨论纵坐标)，且设 W(0)o根据爱因斯坦(Enisten)1905 年提出的理论， 微粒的这种运动是由于受到大量随机的、相互独立的分子碰撞的结果于是，粒子在时段 (与相继两次碰撞的时间间隔相比是很大的量)上的位移可看作是许多微小位核的代 数和9 然，依中小极限定 Ig，偶窜待称 W(2)一 1V(；)为正态分布是合理的其次， 由于粒子的运动完全是由液体分子的不规则碰撞而引起的这样，在不相重叠的时间间隔 内，碰撞的次数、大小和方向可假定是相互独立的，这就是说位移 n()具有独立的增 量另外，液面处于平衡状态，这时粒子在一时段上位移的概率分布可以认为只依赖于这 时段的长 度，而与观察的起始时刻无关，即 W(2)具有平稳增量 综合所述，可引入如下的数学模型： 给定二阶矩过程，如果它满足 1具有独立增量； ； 2对任意的，增量 349 则称此过程为维纳过程图 107 展示了它的一条样本曲线 由 2可知，维纳过程增量的分布只与时间差有关，所以它是齐次的独立增量过 程它也是正态过程事实上，对任意 n(n1)个时刻，把 写成 根据 l一 3，它们都是独立的正态随机变量的和，由第四章4 中的 n 维正态变量 的性质推知是 n 维正态变量，即是正态过 程因此，其分布完全由它的均值函数和自协方差函数(或自相关函数)所确定 根据条件 2 ，3可知，由此可得维纳过程的均值与方差函数 分别为 其中口称为维纳过程的参数，它可通过实验观察值加以估计再根据(31)就可求得自 协方差函数(自相关函数)为 维纳过程不只是布朗运动的数学模型，前面讲到的电子元件或器件在恒温下的热噪声 也可归结为维纳过程 泊松过程和维纳过程的重要性，不仅是因为实际中不少随时间演变的随机现象可以归 结为这两个模型，而且在理论与应用中常利用它们构造出一些新的重要的随机过程模型 小 结 随机过程的研究对象是随时间演变的随机现象简单地说，随机过程就是依赖于参数 的一族(无限多个)随机变量，记为X()， 仨了，了为参数集把看作时间，固定 ，称随机变量 X(，)为随机过程在时的状态对于一切正了，状态的所有可能 350 取的值的全体称为随机过程的状态空间 对随机过程进行一次试验(即在了上进行一次全程观测)，其结果称为样本函数或样本 曲线所有不同的试验结果为一族(可以是有限个，如例 1)样本函数 随机过程统计描述方法的基点是：对每一个固定的 2 仨丁，X(c)是一个随机变量我 们知道”维随机变量可以用它们的联合分布来完整地刻画其统计特性作为”维随机变量 延伸的随机过程则必须用有限维分布函数族才能完整地刻画其统计特性 计算随机过程X()， 仨了的各种数字特征的方法与概率论中的方法完全一样，只 要把出现的参数等视为常数即可随机过程最重要的数字特征是均值函数 ，正了和自相关函数 其他的数字特征，如均方值函数、方差函数、标 准差函数和自协方差函数都可用均值函数和自相关函数表出计算数字特征在随机过程的 理论和应用中仍占重要地位希望读者重温