北邮研究生概率论第一讲

2023/2/1北京邮电大学电子工程学院1概率论与随机过程黎淑兰学时数：54教材：王玉孝，《概率论与随机过程》，北邮出版社参考书：陆大琻，《随机过程及其应用》，清华大学出版社严士健等，《测度与概率》，北京师范大学出版社张朝金著，《概率论中的反例》王玉孝，《概率论与随机过程习题解答》，北邮教材中心2023/2/1北京邮电大学电子工程学院2教学安排先修课程：高等数学，概率论考试：闭卷，期末70%，平时30%电子邮件：lishulan@手/p>

17、18世纪，数学获得了巨大的进步。数学家们冲破了古希腊的演绎框架，向自然界和社会生活的多方面汲取灵感，数学领域出现了众多崭新的生长点，而后都发展成完整的数学分支。除了分析学这一大系统之外，概率论就是这一时期"使欧几里得几何相形见绌"的若干重大成就之一。一、概率论与随机过程的历史及应用1.概率论的诞生及发展概率论起源于对赌博问题的研究。早在16世纪，意大利学者卡丹与塔塔里亚等人就已从数学角度研究过赌博问题。他们的研究除了赌博外还与当时的人口、保险业等有关，但由于卡丹等人的思想未引起重视，概率概念的要旨也不明确，于是很快就被人淡忘了。概率概念的要旨在17世纪中叶法国数学家帕斯卡（1623~1662）与费马（1601~1665）的讨论中才比较明确。

1651年,一个名叫梅累的骑士和朋友保罗各出30枚金币作为赌金，两人事先选好一个点数，梅累选择了“5”，保罗选择了“3”，游戏规则是：如果谁先掷出了3次自己所选的点数，谁就赢得全部60个金币。游戏进行到梅累掷出2次“5”点，保罗掷出1次“3”点时，由于发生一个紧急事情，梅累必须马上离开，游戏因此中断，两人为赌本的分配问题争执不下，恰逢帕斯卡经过梅累他们所在的小镇，于是梅累就“分赌金问题”求教于帕斯卡。帕斯卡与费马通信讨论这一问题，引进了递推法、差分方程法作为解决复杂概率计算问题的有力工具，并

于1654年共同建立了概率论的第一个基本概念。

在这期间，荷兰数学家惠更斯（1629~1695）恰好在巴黎，也参与过他俩的讨论。后来，在1657年，他把讨论结果写成了一本书《论赌博中的计算》，这是概率论发展史上的第一本著作。书中在历史上第一次把以前的概率论知识系统化、公式化和一般化，第一次把概率论建立在公理、命题和问题上而构成一个较完整的理论体系。因此，该书被看着是概率论诞生的标志。

他们三人提出的解法中，都首先涉及了数学期望这一概念，并由此奠定了古典概率论的基础。

使概率论成为数学一个分支的真正奠基人是瑞士数学家雅各布·伯努利（1654~1705），他的重要贡献是建立了概率论中的第一个极限定理，即伯努利大数定律，发表在1713出版的遗著《猜度术》中。美国概率史专家海金（Hacking）称此书标志着“概率漫长的形成过程的终结与数学概率论的开端”。

到了1730年，法国数学家棣莫弗（1667~1754）出版其著作《分析杂论》，当中包含了著名的“棣莫弗—拉普拉斯定理”。这就是概率论中第二个基本极限定理的原始初形。棣莫弗历史上第一次提出了正态分布（标准正态分布）。

接着拉普拉斯（1749~1827）在1812年出版的《概率的分析理论》中，首先明确地对概率作了古典的定义。拉普拉斯以强有力的分析工具处理了概率论的基本内容，实现了从组合技巧向分析方法的过渡，使以往零散的结果系统化，开辟了概率论发展的新时期。

另一在概率论发展史上的代表人物是法国的泊松。他推广了伯努利形式下的大数定律，研究得出了一种新的分布，就是泊松分布。概率论继他们之后，在19世纪后期，其中心研究课题则集中在推广和改进伯努利大数定律及中心极限定理。

俄国数学家切比雪夫对此做出了重要贡献。他建立了关于独立随机变量序列的大数定律，推广了棣莫弗—拉普拉斯的极限定理。切比雪夫的成果后被其学生马尔可夫发扬光大，影响了20世纪概率论发展的进程。19世纪末，一方面概率论在统计物理等领域的应用提出了对概率论基本概念与原理进行解释的需要，另一方面，科学家们在这一时期发现的一些概率论悖论也揭示出古典概率论中基本概念存在的矛盾与含糊之处。这些问题强烈要求对概率论的逻辑基础做出更加严格的考察，也就是建立概率论的公理化体系。贝特朗悖论1889年，贝特朗在他的《概率论》一书中给出了这样一个例子：在半径为1的圆内随机地取一条弦，问其长超过该圆内接等边三角形的边长的概率为多少?解法一：任何弦交圆周两点。不失一般性，先固定其中一点于圆周上，以此点为顶点作一内接等边三角形。显然只有落入此三角形的弦才满足要求，而这种弦的长度为整个圆周的1/3，故所求概率为1/3。解法二：弦被其中点唯一确定，当且仅当其中点属于半径为1/2的同心圆时，弦长大于内接等边三角形边长，而此小圆面积为大圆面积的1/4,故所求概率为1/4。解法三：弦长只跟它与圆心的距离有关，而与方向无关，因此可假定它垂直于某一直径。对于这种弦，当且仅当它与圆心的距离小于1/2时，其长才大于内接等边三角形的边长。因此所求概率为1/2。悖论的根源在于，无论三种情形下的哪一种，都假定各自的参数均匀地分布在给定的区域里。解法1中，假定一端固定而另一端点在圆周上均匀分布；解法2中，又假定弦的中点在圆内均匀分布；而解法3中，假定弦的中点在直径上均匀分布。因此事实上三个问题都被解出。同一时期还出现了许多悖论，“这类悖论说明概率的概念是以某种确定的试验为前提的，这种试验有时由问题本身所明确规定,有时则不然。因此贝特朗等悖论的矛头直指概率概念本身”，正是这些问题促使人们开始深入思考概率论的基础问题。

俄国数学家伯恩斯坦和奥地利数学家冯•米西斯(R.vonMises,1883-1953)对概率论的严格化做了最早的尝试。但他们提出的公理理论并不完善。事实上，真正严格的公理化概率论只有在测度论和实变函数理论的基础上才可能建立。测度论的奠基人，法国数学家博雷尔(E.Borel,1781-1956)首先将测度论方法引入概率论重要问题的研究，并且他的工作激起了数学家们沿这一崭新方向的一系列搜索。特别是原苏联数学家科尔莫戈罗夫的工作最为卓著。1933年，科尔莫戈罗夫出版了他的著作《概率论基础》，这是概率论的一部经典性著作。其中，科尔莫戈罗夫给出了公理化概率论的一系列基本概念，提出了六条公理，整个概率论大厦可以从这六条公理出发建筑起来。科尔莫戈罗夫的公理体系逐渐得到数学家们的普遍认可。由于公理化，概率论成为一门严格的演绎科学，并通过集合论与其它数学分支密切地联系着。

在公理化基础上，现代概率论取得了一系列理论突破。公理化概率论首先使随机过程的研究获得了新的起点。1931年，科尔莫戈罗夫用分析的方法奠定了一类普通的随机过程——马尔可夫过程的理论基础。

科尔莫戈罗夫之后，对随机过程的研究做出重大贡献而影响着整个现代概率论的重要代表人物有莱维(P.Levy,1886-1971)、辛钦、杜布(J.L.Dob)和伊藤清等。1948年莱维出版的著作《随机过程与布朗运动》提出了独立增量过程的一般理论，并以此为基础极大地推进了作为一类特殊马尔可夫过程的布朗运动的研究。1934年，辛钦提出平稳过程的相关理论。1939年，维尔(J.Ville)引进“鞅”的概念，1950年起，杜布对鞅概念进行了系统的研究而使鞅论成为一门独立的分支。从1942年开始，日本数学家伊藤清引进了随机积分与随机微分方程，不仅开辟了随机过程研究的新道路，而且为随机分析这门数学新分支的创立和发展奠定了基础。2.概率论的应用

概率论与随机过程是数学的一个分支，它研究随机现象的数量规律，概率论的应用几乎遍及所有的科学领域，例如天气预报、地震预报、产品的抽样调查，在通讯工程中概率论可用以进行信号检测、信道估计等等.例：试构造随机试验证明：随机试验：设有m+n个球，其中m个红球，n个白球，从中取出r个球。2023/2/1北京邮电大学电子工程学院20第一章概率空间（归一性）概率的定义——若对E的每一个事件A，有一个实数与之对应，记为P(A)，且满足：（非负性）（可列可加性）2023/2/1北京邮电大学电子工程学院21第一章概率空间

若把P(A)看作集合A的函数，那么象高等数学里的普通函数一样，我们必须考虑A在何范围内，A

P(A)才有定义？这是初等概率论的遗留问题。为此，我们考虑以事件A为元素的集合，称为集合类或事件体，记作F

。

F的结构？在F上的概率如何构造？这是本章将要讨论的主要问题，为此我们必须引入测度论的概念。

在初等概率论中，我们定义随机事件A为样本空间的子集，即，但事实上是不是任何一个的子集都是一个随机事件？（见张朝金著《概率论中的反例》P48）集合

A

与

B

的差图示A与B的差.ABAB集合的运算规律2023/2/1北京邮电大学电子工程学院24第一节集合代数和-代数一、集合代数和-代数定义1.1.1设是任一非空集合，A是由的一些子集组成的非空集合类，若A满足：

∈

A

；若A，B∈A

，有A∪B∈A

（有限并运算封闭）；则称A是上的一个集合代数，简称集代数。容易证明集代数对有限交运算也封闭，即：若A∈A

，有A∈A

（余运算封闭）；2023/2/1北京邮电大学电子工程学院25定理1.1.1

设A是由的一些子集组成的非空集合类，则：若A是上的集代数

A是包含且对余运算和有限交运算封闭；若A是上的集代数A是包含且对差运算封闭。第一节集合代数和-代数集代数包含，对余运算、有限并运算封闭包含，对余运算、有限交运算封闭包含，对差运算封闭2023/2/1北京邮电大学电子工程学院26第一节集合代数和-代数例

设

=R，令：A则：A是集代数。例设

={1,2,3,4}，试构造一个集代数A

，使得{1}A，{2}A.解：A={，，{1}，{2,3,4},{2},{1,3,4},{1,2},{3,4}}当b=+时，(a,b]=(a,+)。分析：(1)a=-,b=+时，(a,b]=(-

,+

)=

A

(2)对余运算和有限并运算封闭集代数A包含的元素可能是有限多个，也可能是无限多个！2023/2/1北京邮电大学电子工程学院27第一节集合代数和-代数定义1.1.2

设是任一非空集合，A是由的一些子集组成的非空集合类，若A满足：

A若A∈A

，有A∈A

（余运算封闭）；则称A是上的一个-代数。若A

，有A（可列并运算封闭）-代数A包含的元素可能是有限多个，也可能是无限多个！集合类是一个-代数。例2023/2/1北京邮电大学电子工程学院28第一节集合代数和-代数定理1.1.2

设A是-代数，则：-代数A一定是集代数；若A

，有A（可列交运算封闭）

若A

，且A，A，则集合类是一个-代数。

设是一非空集合，F是由的一切子集组成的集合类，则F是一个-代数。

显然，集代数的交仍是集代数；-代数的交仍是-代数。2023/2/1北京邮电大学电子工程学院29第一节集合代数和-代数二、包含某一集合类的最小-代数

G是由的一些子集组成的非空集合类，那么至少存在一个-代数包含G。为什么？由于F是一个-代数，且FG。

是否存在包含G的最小-代数？若存在，是否唯一？2023/2/1北京邮电大学电子工程学院30第一节集合代数和-代数

设是任一非空集合，G是由的一些子集组成的非空集合类，则存在唯一的-代数F0，满足：

GF0

；对包含G的任一-代数A，有F0A证明：构造F

*=

A，即所有包含G的-代数的交。下面说明这样构成的F

*即为包含G的最小的-代数，F

*

=F0

由于-代数的交仍为-代数，所以F

*为包含G的-代数。由构造，则可知其最小性及唯一性。定理1.1.32023/2/1北京邮电大学电子工程学院31第一节集合代数和-代数定义1.1.3

称定理1.1.3中的F0是包含G的最小-代数，或者是由G生成的-代数，记为(G)。例1.1.2

设A

，且A，A，则包含{A}的最小-代数为。三、Borel域设=R(1)

，考虑由R(1)的一些子集组成的集合类：

G={(-,a],a∈R(1)}，称(G)为R(1)上的Borel域，记为B(1)

，并称B

(1)中的元素为一维的Borel集。2023/2/1北京邮电大学电子工程学院32第一节集合代数和-代数以上定义：(G)=B

(1)

，其中G={(-,a],a∈R(1)}∵(-,a]∈B

(1)

，(-,b]∈B

(1)当b

>a

，(-,b]\

(-,a]=(a,b]∈B

(1)另：而：所以：[a,b]∈B

(1)

2023/2/1北京邮电大学电子工程学院33推广情形：设为n维实数空间，考虑由的一些子集组成的集合类：第一节集合代数和-代数称(G)为上的Borel域，记作B

(n)。G2023/2/1北京邮电大学电子工程学院34第一节集合代数和-代数四、单调类和-系、-系实际问题中要检验一个集合类是否为-代数比较困难，但把集代数与单调类结合起来讨论，会使问题简化。定义1.1.4

设A由的一些子集组成的非空集合类，且满足：若若称A是上的一个单调类。容易证明，单调类的交仍是单调类。2023/2/1北京邮电大学电子工程学院35第一节集合代数和-代数例1BA={,A,B}，例2A=，则A不是单调类。A则A为单调类。A2023/2/1北京邮电大学电子工程学院36第一节集合代数和-代数定理1.1.4

设是任一非空集合，G是由的一些子集组成的非空集合类，则存在唯一的上的单调类0，满足：G0对包含G

的任一单调类A，有0A称这样的单调类0为包含G

的最小单调类，记为(G)定理1.1.5

-代数是单调类；若一集代数是单调类，则它是-代数。2023/2/1北京邮电大学电子工程学院37第一节集合代数和-代数定理1.1.6

若A是集代数，则：(A)=(A)证明：-代数一定是单调类，(A)(A)因此只须证明(A)是一-代数。由于集代数+单调类-代数，所以只须证明(A)是集代数即可！(包含，对差运算封闭)A(A)

若A，B(A)，有：A\B(A)2的证明如下：2023/2/1北京邮电大学电子工程学院38第一节集合代数和-代数证明：对任意的A(A)，作辅助集合类：

A={B：B(A)，A\B，B\A

(A)}若能证明对任意A(A)

，有：A=(A)

则(A)对差运算封闭，得证。这是因为对任意A，B(A)，由于A=(A)

，则BA，则B\A

(A)，于是(A)对差运算封闭显然：A(A)

。下证对任意的A(A)，(A)

A

，即A

为包含A的单调类2023/2/1北京邮电大学电子工程学院39第一节集合代数和σ-代数不妨分三步加以说明：辅助集合类A

为单调类当AA时，AA当A(A)

，有：AA2023/2/1北京邮电大学电子工程学院401、首先证明A(A)

，A是单调类即证：(1)2023/2/1北京邮电大学电子工程学院41(2)1、首先证明A是单调类同理可证。从而证明对任意的A(A)

，A是单调类2023/2/1北京邮电大学电子工程学院42当AA

，有：AA即证：2023/2/1北京邮电大学电子工程学院43当A(A)

，有：AA2023/2/1北京邮电大学电子工程学院44第一节集合代数和-代数

有时验证某