补充基础知识-统计学基础

(x)dx，DX()统计学基础知识经济计量模型是一类十分重要的统计模型用描述一些经济当中的随机现象及规律为我需要对经济计量型给出一些基本的介绍便学习更为深入的经济计量学理论与方法。为此，我们需要首先回顾概率论与数理统计方面的一些重要内容。§3.1随机变量及其分布的数字特征§随机变量任何随机实验的结果都可以利用样本空间表示，因此可以在样本空间上定义随机变量。定3.1定义在样本间上的实值可测函数，称为随机变量。这样一来随机变量可以表示很随机实验的结果可以通过定量化变量来表示随机实验的结果。定义随机变量以后可以定义随机变量的概率分布函数样就可以利用概率分布函数分析随机变量取值的概率。§随机变量的概率分布定3.2假设是随机变量，对任意实数x定义函数：F(x{X}

(3.1)我们称函数(x)是随机量的率分布函数。如此定义的概率分布函数是左连续函数。当分布函数连续可微的时候导数称为概率密度函数分函数存在可数个间断点时，称其为离散概率分布，这时可以定义离散概率分布列。如果了解了随机变量的概率分布，则可以计算出任何区间内随机变量的概率，则有：命3.1假设是随机变量，(x)是率布函数，f(概率密度函数则对于任意的实数a，：P{a}(b)a)

b

f(x)

(3.2)a§随机变量的数字特征由于彻底了解随机变量的概率性质要知道随机变量的分布函数或者密度函数是比较困难的因此有时候只要了解一些概率分布函数的重要特征就可以了此们讨论下述随机变量的重要数字特征，即均值和方差。定3.3假设是随机变量，并且二次可积，则定义随机变量的均值和方差为：E

(x)

f()均值和方差具有非常重要的统计性质值表示随机变量的平均取值方差表示随机变量围绕均值的波动程度。这里的波动经常代表一种“信息”和“风险大家给予深入的理解。例一些重要的概率分布函数如下：均分布(f(x)

X~Ua,)x,)x(b)

)，密度函数为：

(3.3)/

12kk12kkf()，f(y)Y

a2

，DX

()12

2均匀分布是一种表示均等可能的概率分布等同无知“同浓度概。指分布密函数为：exp[],f()

(3.4)

EX

，

2指数分布经常表示一种生命过程，例如产品周期和使用寿命等。正分布X~N

2

)，是十分重要的概率分布。其分布密度函数为：f(x)

2

exp

，

(3.5)这种分布的意义应该给予更为深刻的了解，因此这种分布是概率统计的基础。显然有：EX

，DX

2二分布X~B)假设随机变量0,2,,n概率分布列为：(X)(1p)nEXnpDXnpq

n

(3.6)二项分布表示次试验中成功次数的概率分布，是一种十分常见的离散概率分布类型。泊分布(XP(

假随机变X0,1,

，概率分布列为：()

k!

，

(3.7)EX

，DX泊松分布经常表示一段时间(0,t)内种时间发生频率或者强度的概率分布。§3.2多元随机向量及其概率分布§多元随机向量如果一个随机变量无法描述一个随机现象某射击的弹落点就需要二元坐标加以度量则需要多个随机变量一起量这些随机现象随变量为分量构成的向量称为随机向量。定3.4设X,,)是维机向量对任意实数(x,,x)，称n元数：11F(x,){x,X}Xn为,,X)的合概率分布函数。1

(3.8)有了上述联合概率分布函数的定义以后可联合概率密度函数定边际概率密度和条件概率密度。联合概率密度函数定义为：F(x,)f,,x)例如对于二元概率密度函数f(Y)

(y)

，边际密度函数定义为：

(3.9)f()X

f()dx

条件概率密度函数为：/

iiiif(|)

f

()(,)f(yY

，f(|X)

f

(x)(,Y)f()

§随机向量之间的独立和相依性独立性和相关性是随机变量之间最为重要的相互关系，独立性定义为：定3.5如果随机向的联合概率分布函数等于边际分布函数的乘积机变量之间的相互独立的。对于两个随机变量而言如果f

(,)

(,)(x)f()则两个随机变量X和之Y是相互独立的对多个随机变而言两独立和相互独立之间存在区别在用中应该给予注意。如果两个随机变量之间不是独立的其相依的需要定义它们之间的协方差，即：Y)[(X)(Y)]

上述协方差表示两个随机变量围绕其均值偏离水平之间的关系果协方差大于零说明两个随机变量具有相同的变化趋势果方差小于零说明两个随机变量具有相反的变化趋势；这种统计性质需要大家认真理解协方差定义来加以理解。如果协方差等于零，则称两个随机变量是无关的。将协方差标准化，可以得到相关系数的定义。定3.5如果随机向X和Y均是非退化的，即具有大于零的方差，则定义关系数为：

,)DX

相关系数定量地描述随机变量之间的线性相关程度。§3.3抽样分布和参数估计注意到上述所描述的分布及其特征都是理论上的得对现实随机现象及其分布的认识必通过抽取数据进行推和估计。为此论上的分布称为母体的，获得数据后的推断称为样本的。母体的性质是理论上的，样本的性质是经验的。§样本和统计量假设X,12

,X

n

是从母体X中得的样本，这些样本在进行实验之前是随机变量，而进行实验以后就是观测值。因此，一般情况下，我们所表示的都是样本，而不是观测值，这样X,12

,X

n

是具有独立同分布的随机变量，这样的样本也称为简单随机子样。定3.4不包含任何数的样本的函数，称为统计量。统计量是可以计算出数值的统计量最为重要的性质下述都是重要的统计量：1样本均值：Xni

i

样本方差：S

1n()ni

1n样本k原矩：rXni

i

1样本k中矩：w(XX)ni

/

nxtxTtnxtxTt样本极差：max{X}min{}nii1样本协方差：()iii随机变量的矩：连续随机变量的阶定义为：

m

(X

)

X

f(x这里“”示数学期望

f(x)是X的概率密度函数。一阶矩称之为X的值或者数学期望其量的是分布的中位置我们用表的均值。的阶心矩可以表示为：mE(X)

(X)

f(x假定积分存在。二阶中心矩用

x

表示，度量的是

的变化，称为

的方差。方差的正平方根称的标准离差知道一阶矩和二阶矩就可以确定一个唯一的正态分布x于其他的分布，则要考虑更高阶矩。三阶矩度量

相对于均值的对称性。四阶矩度量的是

的尾部特征。统计学意义上，偏度和峰度（也就是的阶矩和四阶矩）常用于概括分布的偏峰和厚尾的程度。X的三阶矩和四阶矩定义如下：S)E

(X)3

，()

(X)4

。因为正态分布下

K()

，因此

()

称之为剩余峰度。于是，正态随机变量的剩余峰度为零如果一个分布具有的剩余峰度称之为厚尾的这暗示着和正态分布相比较，该分布在尾部有更多的质量。在实际中，这意味着这样的随机分布具有更多的极值。在应用上度和峰1可以通过样本观测值估计出来

{}T

是随机变量

的T

个样本观测值，样本均值如下：tTt样本方差为：

（）

2x

1T()Tt

（）样本偏度为：()

1

t

(

tx

3

（）样本峰度为：(x)(x)4t在正态假设下，()和K(x进的服从零均值，方差分别为T和24。也为峭度，描述的是密度函数的陡峭程度，若十分陡峭，则具有厚尾的特性。/

（）

§参数估计如果随机变量的概率分布中存在未知参数需要利用统计量将参数估计出来般估计方法有两种，一种是点估计，一种是区间估计。参点估计(pointestimation)常用的点估计方法有两种一种是矩估计一种是极大似然估计矩估计是假设样本原点矩等于母体原点矩从而获得数的估计极大似然估计是通过似然函数的极大化得参数的点估计，这是最为重要的一种参数估计方法。极大似然估计依据极大似然原理，可以从下述例子中了解这种原理的应用。例假设随机样本X,X12

,X

n

从母体P(

中获得，试求参数

的极大似然估计。解构似然函数似函数一是概率分布列或者概率密度函数的乘积然后通过求对数，获得对数似然函数，这是单调变换，不影响极大值性质。然后可以得到：

X区估计(intervalestimation)定3.5假设T(,X)和T()是个统计量，且对于任意样本都有：11(,)(X,X)。果随机区间[(XXT(X)]覆未知参11数的率等于某个事先给定的正常数即P{(,,)gT(X,,X)}121

则称[(XT(X)]是数的信度为1n21n

的置信区间。一般情形下置信区间不是唯一我们希望获得长度最小的置信区间信间估计的构造方法比较普遍，希望大家复习并掌握。§参数估计的判断准则参数估计的优劣可以通过一些标准加以判断的准则有无偏性性一致性等。无性是指统计量在母体分布下是参数的无偏估计，即：(X)

)

有性是指统计量在一定范围无偏估计范具有较小的方差。一性是一种参数估计的大样本性质，是指样本容量增加时，统计量按概率收到未知参数，即XXg1n

对于大样本性质家尽量了一些收敛性的概念和命题样可以对经济计量学中的一些高级算法有所理解。§3.4参数的假设检验假设检验是数理统计中非常重要的一类内容，重要根据“小概率事件不可能发生原理”来进行参数显著性的检验，基本过程包括：根实际问题提出原假设和备选假设根实际问题确定适当的显著性水平根原假设形式构造检验统计量，并计算检验统计量的数值。确假设检验的拒绝域。对假