总体分布参数估计

1、第四章第四章 总体分布、总体分布、 样本分布与参数估计样本分布与参数估计 4.1 总体分布与样本分布总体分布与样本分布一、一、总体总体（母体）（母体）:反映总体特征的随机变量的取值的全体。反映总体特征的随机变量的取值的全体。总体分布总体分布（母体分布）：反映总体特征的随机变量的概率分（母体分布）：反映总体特征的随机变量的概率分布。布。 从无限次随机抽取（然后放回）的角度看，表征一个总体从无限次随机抽取（然后放回）的角度看，表征一个总体特征的变量（指标），都可以视为随机变量。特征的变量（指标），都可以视为随机变量。 有限总体的概率分布，就是有限总体中不同个体的比率（有限总体的概率分布，就是有限总

2、体中不同个体的比率（频率）分布。频率）分布。二、随机样本与样本观测值（样本数据）二、随机样本与样本观测值（样本数据） 1、随机样本、随机样本 表征表征n次抽取个体的随机抽样的一组随机变量次抽取个体的随机抽样的一组随机变量X1，X2， Xn 。2、样本观测值、样本观测值 n次随机抽样的结果：次随机抽样的结果：x1，x2，xn （称为随机样本（称为随机样本X1，X2， Xn 的样本观测值的样本观测值）。）。n称为随机样本向量（称为随机样本向量（ X1，X2， Xn ）的维度，即自由）的维度，即自由度。度。3、样本（累积）分布函数、样本（累积）分布函数 设样本观测值设样本观测值x1 x2 , xn

3、ki为小于为小于xi+1的样本值出的样本值出现的累积频次现的累积频次, n为样本容量为样本容量, 则可得样本累积频率分布函数则可得样本累积频率分布函数如下如下:xxxxxnkxxxFniiin当当当 1 / 0)(11样本累积频率分布函数样本累积频率分布函数,又称样本又称样本(累积累积)分布函数分布函数.样本样本(累积累积)分布函数分布函数Fn(x)是对总体的累积分布函数是对总体的累积分布函数F(x)的近似的近似, n越大越大, Fn(x)对对F(x)的近似越好的近似越好.样本分布与总体分布样本分布与总体分布格利文科格利文科 ( Glivenko )定理定理 (样本分布与总体分布的关系样本分布

4、与总体分布的关系)定理定理: 当样本容量当样本容量 n 趋于无穷大时趋于无穷大时, Fn(x)以概率以概率1(关于关于 x )均匀均匀地收敛于地收敛于F(x).该定理是该定理是运用样本推断总体的理论依据运用样本推断总体的理论依据.定理的数学表达为定理的数学表达为:1)0)()(suplim(xFxFPnxn 随机样本的均值函数和方差函数都是一个随机变量随机样本的均值函数和方差函数都是一个随机变量. 样本数据的样本均值样本数据的样本均值 x 是随机变量是随机变量 X 的观测值；样本数据的观测值；样本数据的样本方差的样本方差 s2 是随机变量是随机变量 S2 的观测值的观测值.随机样本的均值函数：

5、随机样本的均值函数：niiXnX11随机样本的方差函数随机样本的方差函数：niiXXnS122)(11三、统计量与统计量的分布三、统计量与统计量的分布统计量定义：统计量是不含未知参数的，随机样本统计量定义：统计量是不含未知参数的，随机样本X1，X2，, Xn的函数。的函数。统计量的值的定义统计量的值的定义: 统计量的值是不含未知参数的统计量的值是不含未知参数的, 样本样本观测值观测值x1，x2，xn的函数的函数.四、由标准正态分布四、由标准正态分布 N（0，1）的随机样本所引出的几）的随机样本所引出的几个重要统计量分布：个重要统计量分布： 2、t 与与 F分布分布 1、 2（n）分布的构成）分

6、布的构成 设随机变量设随机变量 X 服从服从N（0，1）分布，）分布， X1，X2，, Xn为为 X 样本，则样本，则 2 = X2i= X21 + X22 + X2n 服从自由度为服从自由度为n的的 2 分布，记为分布，记为 2 2 （n）。）。 2 （n）分布的均值）分布的均值 E（ 2）= n，方差，方差 D（ 2 ）= 2n。n=1n=4n=10 2（n）分布图）分布图0, 00,)2(21)(2122xxexnxfxnnn 2（n）密度函数：密度函数：其中，其中，n为自由度。为自由度。 （n/2）为珈玛函数，是一个含参数）为珈玛函数，是一个含参数n/2的积分，为：的积分，为：0212

7、)2/(dtetntn2、t 分布分布自由度为自由度为n的的t 分布，记为分布，记为 t（n），是由），是由N（0，1）分布和）分布和 2（n）分布组成的，其表达式为：）分布组成的，其表达式为：nYXT其中，其中，X 服从服从 N（0，1），），Y 服从服从 2（n）分布，且）分布，且X与与Y相互独立。相互独立。密度函数为：密度函数为：xnxnnnxfnn,)1 () 2/()21()(212t 分布图分布图3、F 分布分布F 分布是由两个分布是由两个 2 分布之比组成的：分布之比组成的：nVmUF服从服从F（m，n）。）。其中，其中，U 服从服从 2（m），），V 服从服从 2（n）。）。m

8、=100，n=20m=15，n=20重要性质：重要性质：0 00,)1 ()() 2/() 2/()2()(212xxxnmxnmnmnmnmxfnmm密度函数形式为：密度函数形式为：),(1),(1mnFnmF五、由一般正态分布的随机样本所构成的若干重要统计量五、由一般正态分布的随机样本所构成的若干重要统计量 的分布的分布定理：若定理：若X1，X2，, Xn 是正态总体是正态总体N（ ， 2）的一个）的一个随机样本，则样本均值函数和样本方差函数，满足如下性随机样本，则样本均值函数和样本方差函数，满足如下性质：质：（1）X 服从服从N（ ， 2 / n）分布。）分布。 (2) X 与与 S2

9、相互独立。相互独立。nXZ（3） 服从服从N（0， 1）分布；）分布；22)1(Sn （4） 服从服从 2（n-1）分布；）分布；（5） 服从服从t（n -1）分布；）分布；nSXT（1） 服从服从N（0，1）。）。22212121)()(nnYX（6） 服从服从 2（n）分布；）分布；niiX122)(1定理：若定理：若X1，X2，, Xn1 和和Y1，Y2，, Yn2 分别是正态分别是正态总体总体N（ 1， 12）和）和N（ 2， 22）的一个随机样本，且它）的一个随机样本，且它们相互独立，则满足如下性质：们相互独立，则满足如下性质：（3） 服从服从F（n1-1，n2-1）。）。22222

10、121SSF 其中，其中，S12是容量为是容量为n1的的X的样本方差，的样本方差， S22是容量为是容量为n2 的的Y的样本方差。的样本方差。21212122221121)2() 1() 1()()(nnnnnnSnSnYXT（2）服从服从t（n1+n2 - 2），（），（ 1 = 2 ）。）。21122211121222)()(niiniiYnXn（4） 服从服从F（n1，n2）。）。六、任意分布的随机样本均值函数的均值与方差六、任意分布的随机样本均值函数的均值与方差设：随机变量设：随机变量 X 服从任何均值为服从任何均值为 ，标准差为，标准差为 的分布，的分布，X是随机样本是随机样本X1，

11、X2，, Xn的均值函数。记随机变量的均值函数。记随机变量X的分布函数的均值为的分布函数的均值为 X，标准差为，标准差为 X ,则有如下结则有如下结论成立：论成立： X = ;(1) (2) X = / n 或或 2X = 2 / n 注注: 一个应用广泛的样本均值函数的均值和方差一个应用广泛的样本均值函数的均值和方差: 0-1分布分布的样本均值函数均值和方差。的样本均值函数均值和方差。 反映总体中某类个体的比例的随机变量反映总体中某类个体的比例的随机变量X, 可以简单地可以简单地用用0-1分布分布B(1, p)表示表示. E(X)= p, D(X)= p(1-p). p 是总体中是总体中某类

12、个体的比例某类个体的比例. 由样本由样本X1，X2，, Xn产生均值函数产生均值函数X的均值的均值 X = p,方差方差 的均值也是总体中某类个体的比例的均值也是总体中某类个体的比例 p . 所以所以, 常用常用 x 来估计来估计p . XnppX ,)1 (2七、大样本均值函数的分布：中心极限定理七、大样本均值函数的分布：中心极限定理设：随机变量设：随机变量 X 服从任何均值为服从任何均值为 ，标准差为，标准差为 的分布，的分布，X是随机样本是随机样本X1，X2，, Xn的均值函数。的均值函数。中心极限定理：当中心极限定理：当 n 充分大时，充分大时，X 近似地服从均值为近似地服从均值为 ，

13、标准差为标准差为 / n的正态分布。的正态分布。在在 实际问题中实际问题中n多大？但一般多大？但一般 n 30。 4.2 点估计点估计在实际问题中，人们常常判断总体分布的参数，这就需要在实际问题中，人们常常判断总体分布的参数，这就需要用样本来推断总体分布的这些参数，这就是参数估计。用样本来推断总体分布的这些参数，这就是参数估计。参数估计分为：参数估计分为：点估计点估计和和区间估计区间估计两种方法。两种方法。1、点估计概念、点估计概念 设设 是总体分布中一个需要估计的参数，现从总体中抽是总体分布中一个需要估计的参数，现从总体中抽取一个随机样本取一个随机样本X1，X2，, Xn ，记估计，记估计

14、的统计量为的统计量为 ),(21nXXX则称则称 为为 的估计量。的估计量。若得到一组样本观测值若得到一组样本观测值x1，x2，xn ，就可得出，就可得出 的估计的估计值，记：值，记： 。),(21nxxx注注：在选取样本统计量：在选取样本统计量 作为点估计时，必须考虑到作为点估计时，必须考虑到“无无偏差偏差 性性”，这一点很重要。，这一点很重要。如果样本统计量的期望值（或均值）与打算估计的总体参如果样本统计量的期望值（或均值）与打算估计的总体参数值相同，则估计值不存在偏差。数值相同，则估计值不存在偏差。 总体分布参数总体分布参数 的点估计，就是求出的点估计，就是求出 的估计值的估计值 。参参

15、数数 估估计计值值 备注 均均值值( ) nXX 无无偏偏差差估估计计值值 标标准准差差( ) 1)(2 nXXs 不不是是无无偏偏差差估估计计值值* 比比例例(p) nnpp 无无偏偏差差估估计计值值 点估计点估计 2、矩法估计、矩法估计 就是用样本矩来估计总体矩。就是用样本矩来估计总体矩。矩的一般形式：矩的一般形式： E（X k）表示）表示 k 阶原点矩（以原点为中心）；阶原点矩（以原点为中心）； E（X- ）k 表示表示k 阶中心矩（以阶中心矩（以 为中心）；为中心）；3、极大似然估计法、极大似然估计法设：总体设：总体 X 的（累积）概率分布函数为的（累积）概率分布函数为F（x, ）,

16、概率密概率密度函数度函数 f (x, ), 其中其中 为未知参数为未知参数 ( 也可以表示未知参数向也可以表示未知参数向量量). 若若 X 为离散型随机变量为离散型随机变量, 则由离散型与连续型的对应关则由离散型与连续型的对应关系系, f (x, )对应于离散情况下的概率对应于离散情况下的概率P(X=x).X 为连续型随机变量时为连续型随机变量时, X的随机样本的随机样本X1，X2，, Xn的联的联合概率密度函数为合概率密度函数为niixfL1),()( 称为称为 的极大似然估计函数的极大似然估计函数.当当 X 为离散随机变量时为离散随机变量时, L表示概率表示概率:),(2211nnxXxX

17、xXPL关于关于 的极大值如果存在的极大值如果存在, 极大值极大值 就就是是 的极大似然估计值的极大似然估计值. 其含义是其含义是: 一组观测值一组观测值x1，x2，xn在一次实验中出现了在一次实验中出现了, 其联合概率就应当是最大的其联合概率就应当是最大的, 所以所以选择使联合密度选择使联合密度L最大的那个最大的那个 .),(21nxxx例例: 设设x1，x2，, xn是正态总体是正态总体N（ ， 2）的一个样本）的一个样本观测值，求观测值，求 与与 2 的极大似然估计值的极大似然估计值.解解: 极大似然函数为极大似然函数为nixieL12)(2221)(取对数取对数, 分别对分别对 与与

18、2 求偏导求偏导, 并令偏导为并令偏导为0, 可求出可求出 与与 2的极大似然估计值如下的极大似然估计值如下:2121)(11niiniixxnxnx如果将上述如果将上述xi 换成换成 Xi , 上式成为极大似然估计量上式成为极大似然估计量. 4.3 判别点估计的优劣标准判别点估计的优劣标准1、无偏估计量、无偏估计量E如果如果 ，则称，则称 为为 的无偏估计量。的无偏估计量。2、最小方差性、最小方差性若总体参数为若总体参数为 ， 的估计量的估计量 的方差的方差Var（ ）小于等于）小于等于其他所有对其他所有对 的估计量的估计量 的方差，即的方差，即则称则称 的估计量的估计量 具有最小方差性。具

19、有最小方差性。)()(VarVar3、有效估计量、有效估计量 如果一个估计量满足如果一个估计量满足（1）无偏性；（）无偏性；（2）最小方差性。）最小方差性。那么，该估计量为有效估计量那么，该估计量为有效估计量。4、渐近无偏估计量、渐近无偏估计量如果：如果： ，（，（n为样本容量）则称为样本容量）则称 为渐近无为渐近无偏估计量。偏估计量。)(lim En5、一致估计量、一致估计量如果如果 满足：满足：则称则称 为为 的一致估计量。的一致估计量。1)(limpn一致估计量的另一等价定义：一致估计量的另一等价定义：（1） 渐进无偏的；渐进无偏的；（2）0)(limnnVar9、渐进有效性、渐进有效性

20、如果一个估计量满足：如果一个估计量满足：（1）是一致估计量；（）是一致估计量；（2）比其）比其它的估计量更小的渐进方差。它的估计量更小的渐进方差。注：在实践中广泛应用的准则：注：在实践中广泛应用的准则：（1）小样本准则）小样本准则 a、无偏性；、无偏性； b、有效性。、有效性。（2）大样本准则）大样本准则 一致估计量。一致估计量。)(1lim)(lim2nnnnnEnEnVar渐进方差定义：渐进方差定义： 4.4 区间估计区间估计1、置信区间、置信区间若总体分布含有一个未知参数若总体分布含有一个未知参数 ，找出了，找出了2个依赖于样本个依赖于样本X1，X2，, Xn的估计量：的估计量：),()

21、,(212211nnXXXXXX使使1)(21P其中，其中，0 1， 一般取一般取0.05 或或 0.01, 则称随机区间则称随机区间 为为 的的100(1- )%的置信区间的置信区间. 百分数百分数 100(1- )%称为置称为置信度信度.2、总体均值的置信区间（总体方差已知）、总体均值的置信区间（总体方差已知）设：总体设：总体 X 服从已知服从已知N（ ， 2），）， 2已知，抽取已知，抽取n 个观个观),(21测值测值x1， x2，xn，求总体均值，求总体均值 的的100(1- )% （如（如=95%）的置信区间。）的置信区间。首先构造：首先构造：nXZ因为因为X 服从服从N（ ， 2

22、/ n）分布，所以）分布，所以 Z 服从服从N（0， 1）分布。分布。nZXnZX2/2/由：由：1)(2/ZZP得置信区间：得置信区间：Z/2Z1-/21-/2/2例：设：总体设：总体 X 服从已知服从已知N（ ,0.09），抽取），抽取4 个观测值个观测值x1, x2, x3 , x4，求总体均值，求总体均值 的的95%的置信区间。的置信区间。解解: 由已知由已知: 1- =0.95 , = 0.3, n=4 根据根据:95.0)(025.0025.0ZnXZP得到得到:23 . 0)23 . 0(025. 0025. 0zXzX查表得查表得 z 0.025 =1.96, 于是置信区间为于

23、是置信区间为 ( X-0.294 , X+0.294 ),置信度为置信度为 95 %. 也就是说也就是说: 总体均值总体均值 以以 95%的概率在该的概率在该区间内区间内.3、总体均值的置信区间（总体方差未知、总体均值的置信区间（总体方差未知）设：总体设：总体 X 服从已知服从已知N（ ， 2），）， 2未知，抽取未知，抽取n 个观个观测值测值x1， x2，xn，求总体均值，求总体均值 的的100(1- )% =95%的置信区间。的置信区间。 首先构造：首先构造：)1(ntnSXT1)1(2/2/tnSXntpnstXnstXnn2/, 12/, 1可得置信区间：可得置信区间：由：将将n 个观

24、测值个观测值x1， x2，xn代入上式得到置信区间。代入上式得到置信区间。4、总体方差的置信区间（未知总体均值）、总体方差的置信区间（未知总体均值）设：总体设：总体 X 服从已知服从已知N（ ， 2），）， 未知，抽取未知，抽取n 个观个观测值测值x1， x2，xn，求总体，求总体方差方差 2 的的100(1- )% =95%的置信区间。的置信区间。 首先构造：首先构造：)1()1(2222nSn)1()1()1()1(22/12222/2nsnnsn得到置信区间：得到置信区间：由：1)1() 1() 1(22/2222/1nSnnp将将n 个观测值个观测值x1， x2，xn代入上式得到置信区

25、间。代入上式得到置信区间。5、总体比例的置信区间、总体比例的置信区间Let p denote the observed proportion of “successes” in a random sample of n observations from a population with a proportion of successes. Then, if n is large enough that (n)()(1- )9, then a 100(1 - )% is given byor equivalently,where the , the sampling error, or bo

26、und, B, is given byand Z /2 , is the number for which a standard normal variable Z satisfiesBpnppZB)1 (2/2/)(2/ ZZPnppZpnppZp)1 ()1 (2/2/区间估计区间估计 总体参数值很可能落在区间估计所包括的数值范围内总体参数值很可能落在区间估计所包括的数值范围内 ; 使我们知道被估计值可能产生多大的误差边际使我们知道被估计值可能产生多大的误差边际 ; 给出估计的信赖程度（或置信度）给出估计的信赖程度（或置信度） 。与区间估计相联系的信赖程度，常常用与区间估计相联系的信赖程度

27、，常常用(1 ) 100%来表示。来表示。 置信水平置信水平 置信区间置信区间 指某一指定置信水平下的区间估计，该区指某一指定置信水平下的区间估计，该区间包括了总体参数的真值。间包括了总体参数的真值。 置信水平高置信水平高 置信区间就宽置信区间就宽 置信区间就宽置信区间就宽 样本统计量样本统计量 (点估计点估计)置信界限置信界限 (下限下限)置信界限置信界限 (上限上限)x /2 区间的较大数值区间的较大数值在100(1 - )%水平下，区间包含 ;在100% 水平下，区间不包含;= 1 -/2x_x_ 解释解释 95% 的置信区间表达了什么含义的置信区间表达了什么含义95% 的置信水平意味着

28、：如果从总体中随机抽取容量为的置信水平意味着：如果从总体中随机抽取容量为n的所有可能样本，并相应计算这些样本的置信区间，的所有可能样本，并相应计算这些样本的置信区间，则在计算之后有则在计算之后有 95%的区间将包括总体参数的真值。的区间将包括总体参数的真值。 (1)无论样本容量为多少，原有总体服从正态分布无论样本容量为多少，原有总体服从正态分布 ; 或者或者(2)原有总体不服从正态分布，但样本容量原有总体不服从正态分布，但样本容量 n 30 。 服从均值服从均值 = 、标准差为、标准差为 的正态分布的正态分布XX X)1 , 0( NXZX 而且而且(1 ) 100% 水平下的置信区间水平下的

29、置信区间 1)(22ZZZP即即 , 1)(22ZXZPXXXZXZ 22 XXZXZX 22 22 ZXZX 因此因此,XZX 2 根据以前获得的经验，我们知道某台机器在生产训练用的钢根据以前获得的经验，我们知道某台机器在生产训练用的钢管时，其直径的标准差为管时，其直径的标准差为0.135厘米。如果从中抽取厘米。如果从中抽取30根管子根管子作为一个简单随机样本，则这些管子的平均直径为作为一个简单随机样本，则这些管子的平均直径为3.6厘米。厘米。请问在请问在95%的置信水平下，这些管子的平均直径的置信区间的置信水平下，这些管子的平均直径的置信区间是多少？是多少？ Xn = 30, = 0.13

30、5cm,= 3.6cm根据根据中心极限定理中心极限定理， 近似服从正态分布近似服从正态分布 X02465. 030135. 0 nX 在在 95% 水平下的置信区间是水平下的置信区间是 96. 1025. 02 ZZ 而且而且XZX 2 = 3.6 1.96 0.02465 = (3.55, 3.65)在在95%的的 置信水平下，由这台机器生产的训练用管子，置信水平下，由这台机器生产的训练用管子，其平均直径应当在其平均直径应当在3.55厘米至厘米至3.65厘米范围之内。厘米范围之内。 如果总体的如果总体的 未知，则未知，则 的抽样分布服从自由度为的抽样分布服从自由度为 n 1的的 t 分布分布

31、 ，即，即 X1 ntnsX 如果样本容量足够大，我们可以用正态分布而不是如果样本容量足够大，我们可以用正态分布而不是t 分布分布。 如果是大样本如果是大样本 (n 30)，则，则 在在(1 ) 100% 水平下，水平下， 的置信区间是的置信区间是 如果是小样本如果是小样本 (n 30) 并且原有总体近似服从正态分布并且原有总体近似服从正态分布 ，则，则 在在 (1 ) 100%水平下，水平下， 的置信区间是的置信区间是 XsZX 2 XnstX 2, 1 一家邮购公司在圣诞节前的一周内会接听大量的订购电话。一家邮购公司在圣诞节前的一周内会接听大量的订购电话。过去经验表明，由于工作人员每天可能

32、要接听几千个电话，过去经验表明，由于工作人员每天可能要接听几千个电话，因此为了及时处理打入的电话数量，有必要增加销售人员人因此为了及时处理打入的电话数量，有必要增加销售人员人数。为此，这家公司记录了数。为此，这家公司记录了75%的员工在每的员工在每8小时之内接听小时之内接听电话的数量，结果发现他们平均要接听电话的数量，结果发现他们平均要接听89.6个电话，而且标个电话，而且标准差为准差为17.32。请问在。请问在90%的置信水平下，被接听电话的平的置信水平下，被接听电话的平均数量的置信区间是多少？均数量的置信区间是多少？ 6 .89 Xs = 17.32,n = 75 (大样本大样本)的抽样分

33、布近似服从以下参数的正态分布的抽样分布近似服从以下参数的正态分布 X27532.17 nssX在在 90%水平下，水平下， 的置信区间的置信区间 645. 105. 02 ZZ XsZX2 而且而且= 89.6 1.645 2 = (86.31, 92.89)X一家会计公司想要设立一项时间标准，以便其工作人员能及一家会计公司想要设立一项时间标准，以便其工作人员能及时完成某类审计工作。它抽取了时完成某类审计工作。它抽取了18名初级审计员作为一个样名初级审计员作为一个样本并记录了他们的审计时间，结果发现这些人员的平均审计本并记录了他们的审计时间，结果发现这些人员的平均审计时间为时间为3.2个小时，

34、标准差为个小时，标准差为1.6个小时。请问在个小时。请问在95%的置信水的置信水平下，当完成某类审计工作时其平均审计时间的置信区间是平下，当完成某类审计工作时其平均审计时间的置信区间是多少？多少？ 2 .3 Xs = 1.6, n = 18 (小样本小样本)的抽样分布服从自由度为的抽样分布服从自由度为17的的t 分布分布 X377. 0186 . 1 nssX在在 95%水平下，水平下， 的置信区间的置信区间 而且而且= 3.2 2.11 0.377 = (2.404, 3.996)11. 2025. 0 ,172, 1 ttn XnstX2, 1 X在在 (1 ) 100%水平下，水平下， 的置信区间是的置信区间是 XZX 2 置信区间的中点置信区间的中点 :误差边际误差边际 :误差边际误差边际 是指：在是指：在 (1 ) 100%水平下的最大容忍抽样水平下的最大容忍抽样误差误差 。 XXZ 2 nZ22222)( Zn 继续前面审计时间的例子，我们从过去经验知道，初级审继续前面审计时间的例子，我们从过去经验知道，初级审计员在完成某类审计工作时，其审计时间的标准差为计员在完成某类审计工作