概率论统计学复习

1、概率论统计学复习摘要：本课程要求学生具有微积分、 概率论和线性代数的基础。这里对其中概率论统计学的重要概 念进行简单的复习。1、概率论的复习在现实生活中，我们常常遇到许多事先不能确定结果的现象， 例如抛硬币，抛之前无法确定是 正面还是负面。世界的许多方面都存在随机性，所谓“随机性”就是事前无法知道结果，而一旦被 揭示就会取定一个实现值，概率理论提供了有用的数学工具对随机性进行描述和定量分析。1.1随机变量与概率分布样本空间所有可能结果组成的集合，通常记为;在样本空间的每一个可能结果称为基本事件，记为。随机变量定义在样本空间上的单值函数，即（），通常简化为。事件样本空间的一个子集，即一个可能结果

2、或多个可能结果组成的集合就称为随机事件，简称事件。样本空间是其本身的子集，称为必然事件；空集通常用随机变量的取值或者取值范围表示随机事件，例如也是的子集，称为不可能事件。 X X0概率描述事件发生可能性大小的数量指标。事件 A的概率记为P(A) 0通常研究随机变量各种取值情况的概率。随机变量的全部概率特征称为随机变量的概率分布。离散随机变量的概率分布通常用一个二维表格直观描述离散随机变量X的概率分布XXiX2XnPl P2Pn其中 Pi 1 ， 0 Pi 1i 1连续随机变量的概率分布用密度函数 f(x) 描述;bf (x)dx F(b) F(a)aPa x b累计分布函数F (x)PXXxf

3、(x)dx ；概率分布的数字特征期望记为 E(X)或对于离散变量，E(X)Xi Pi对于连续变量，E(X)f (x)xdxo方差记为Var(X)或Var(X) E(XE(X)2) E(X2)(E(X)2运算规则：给定任意常数c,Var(c) 0 ； Var(cX) c2Var(X).标准差sd(X)sd(X) 0(x5矩 E(Xn) 称为变量X的n阶矩，n 1时就是X的期望。1.2联合分布、条件分布与独立性本课程的计量经济学就是以客观经济系统中具有随机性质的经济关系为研究对象，也就是说我那么如何描述随机变量之间的关系呢?们研究的是带有随机性的经济变量的关系。联合分布两个随机变量的联合分布的密度

4、函数为f(X, y)；X的边际密度函数定义为f（X）f(x, y)dyY的边际密度函数定义为f（y） 注意：如果是离散变量，则积分变为求和,f (x, y)dx。密度函数变为离散变量的概率分布即可。xy0意味着两个变量同方向变动，称之为正相关;条件分布给定X，Y的条件密度函数定义为f(y|x)f (x,y)f （ x） ；同理给出X的条件密度函数。独立性若 f（X, y） f （x） f （y），那么称这两个变量独立。这等价于f(y|x) f(y)。联合分布的数字特征协方差用于度量两个变量的线性相关程度，记为xy或COV（X ,Y）；cov(X,Y) E(XE(X)(YE(Y)E(XY) E(

5、X)E( Y).xy0称之为负相关;xy0称之为不相关。xy相关系数X,Yxy0,Var(X Y)Var(X)Var( Y).条件分布的数字特征条件期望协方差和相关系数衡量的是两个随机变量之间的线性相关关系，两个变量在协方差和相关系数的定义公式中是对称的。在经济学研究中，我们更感兴趣的是用一个变量X去解释另一个变量丫；而且丫和X的关系很有可能是非线性的。在前面已经引入了“给定一个变量X，丫的条件密度函数”的概念，从条件分布我们可以知道变量 X的变动如何影响变量丫的分布。然而，研究变量的分布很复 杂，一个好的办法就是用一个简单的数字特征一一“给定X，丫的条件期望”来总结出这个分布。条件期望在现代

6、计量分析中扮演了一个很重要的角色， 本课程的全部内容都是讲解如何在条件期望 上进行系数估计和假设检验。给定X，Y的条件期望定义为E(Y | X)yf(y|x)dy条件期望的性质:1)对于任意的函数 g(X)，E(g(X)|X) g(X)；2) 对 于 任 意 的 函 数 a(X)和 b(X)E(a(X)Y b(X)|X) a(X)E(Y | X) b(X)；3)若X和丫独立，那么 E(Y |X) E(Y)；4) 若 E(Y|X) E(Y) ，那么 cov( X , Y )0225) 若 E(Y2)以及某一函数 g(.) 有 Eg(X)2，那么 E(Y (X)2 |X E(Y g(X)2 |X

7、E(Y(X)2 E(Y g(X)2 ；其中 (X) E(Y|X)6) (迭代期望法则， LIE )E E(Y | X ) E(Y) .条件方差Var (Y | X) E(Y E(Y|X)2 |XE(Y2 | X) (E(Y |X)2如果X和Y独立，那么Var(Y |X) Var(Y).)21.3各种常见分布正态分布通常记为X)，其密度函数为f(X)1 1 矿exp尹(x令Z (X)/Z服从标准正态分(0,1)exp2卡方分布假设n个变量XiN(0,1)，那么(Xi2X；xi)2(n)；t-分布假设两个独立的随机变量 Z N(0,1)，y(n),那么 Z/(Jy/Jn)t(n) 百- 10pO)N(O1)分布密度一 t (2)分布密度_.T12 .3 4 5汕 IfHh I 1()1201 AlJC样本分布 任何一个统计量W都E是一组随机变量的函数, 布，把这些概率分布称为样本分布。因此W也是个随机变量，对应着某一特定的概率分总体为正态分布的统计量的样本分布X N(2/n) ，而且可以推出:假设总体X服从正态分布 N(2 )，那么样本均值的样本分布就是1)2)XUN(0,1)/Vn2 (n 1)S222(n 1)X与S2相互