概率课件：7.1 点估计

1、第七章 参数估计统计推断:利用样本提供的信息对总体的某些统 计特性进行估计或判断，从而认识总体。(1)参数估计(第七章）(2)假设检验(第八章)统计推断分为两大类: 从本章开始，讨论数理统计学的基本问题-统计推断。参数估计 的主要内容1 点估计2 估计量的评选标准3 区间估计3.1 正态总均值与方差的区间估计3.2 单侧置信区间 设总体X 的分布函数的形式已知，但是它的某些参数是未知的，通过总体的一个样本来估计总体未知参数的值的问题称为参数的点估计问题7.1 点估计一、 矩估计法二、 最大似然估计法 设总体X的分布函数为F(x; ), 其中 为待估计的参数. X1, X2 ,.,Xn是X的一个

2、样本,x1, x2, ,xn是相应的样本值.点估计问题的一般提法: 点估计: 用样本X1, X2 , ,Xn构造一个适当的统计量用它的观察值 作为未知参数 的近似值. 称(X1, X2 , ,Xn)为 的估计量.(x1, x2, ,xn)称为的估计值.估计量和估计值统称为估计,并都简记为 .点估计常用方法: 矩估计法; 最大似然估计法.注参数 的估计量 是样本X1, X2 ,.,Xn 的函数.(X1, X2 , ,Xn),(x1, x2, ,xn)一、矩估计法 用样本(原点)矩作为总体(原点)矩的估计量的方法称为矩估计法 设总体X的分布函数为F(x; 1, 2, ., k),其中1, 2, .

3、 , k为待估参数,如果 i=E(X i)(i=1,2,.,k)存在, i为1, 2 ,k的函数,记i= i(1, 2 , , k) (i=1,2,.,k), X1, X2 , ,Xn为总体X的样本,用Ai 来估计E(X i), 建立k个方程: A1= 1( 1, 2 , , k) A2= 2( 1, 2 , , k) . Ak= k( 1, 2 , , k)1= 1(A1, A2 , , A k)2= 2(A1, A2 , , A k).k = k(A1, A2 , , A k)用 作为i的估计量-矩估计量. ik阶样本矩求矩估计的方法 设总体X的分布函数为F(x; 1, 2, ., k),

4、其中1, 2, . , k为待估参数, 为i 的 矩估计量. iK阶样本矩(1)求总体X的前 k 阶矩 i=E(X i)= i(1, 2 , , k) , i=1,2, . ,k(2) 解出 i = i (1, 2 , , k) , i=1,2, . ,k(3) 令 i = i (A1, A2 , , A k ) , i=1,2, . ,k例1 设总体X服从a，b上的均匀分布，a，b未知， X1, X2 , ,Xn为来自总体X的样本,试求a，b的 矩估计量解解得，由矩估计法解因为由矩估计法,所以 的矩估计量为故 的矩估计值为例2 设总体X服从参数为 的指数分布, X1, X2 , ,Xn为来自

5、总体X的样本，试用矩估计法求 的估计值.解例3 设总体X的均值E(X)=, 方差D(X)=2 都存在,且2 0.但 ,2 均为未知. X1, X2 , ,Xn为来自总体X的样本, 求,2 的矩估计量.解得由矩估计法,对任何总体,总体均值与方差的矩估计量都不变【注】(1)若总体Xb(1, p), 则未知参数 p 的矩估计量为(2)若总体Xb(N, p), 则未知参数p , N的矩估计量为常见分布的参数矩估计量(3)若总体X N(,2), 则未知参数,2 的矩估计量为(4)若总体X P(), 则未知参数 的矩估计量为或 没有利用总体分布函数所提供的信息，难保证有优良的性质。【注】 矩估计法的优点和

6、不足优点： 直观、简便,特别对总体期望和方差进行估计时不需要知道总体的分布.不足：要求总体原点矩存在，而有些随机变量的原点矩不存在，就不能用此法进行参数估计; 矩估计量有时不唯一；作 业第173页 第七章习题 1， 2 二、最大似然估计法 最早由德国数学家高斯于1821年提出,后来英国统计学家费希尔在1912年重新提出并做了进一步的研究. 最大似然原理的直观想法: “概率最大的事件最可能出现”. 它是目前点估计中最广泛应用的一种方法.该方法建立在最大似然原理的基础上。 参数估计的最大似然法是要选取这样的值来作为参数的估计值,使得当参数取这一数值时,观测结果出现的可能性为最大.例4 设在罐中放有

7、许多白球和黑球,已知两种球的数目之比为1:3, 但不知哪种颜色的球多, 若采用有放回方式从罐中取3个球,发现有一只黑球,问在此情况下应估计哪种颜色的球多?解：设 p=黑球所占比例=则则 p=1/4或 p=3/4又设X=“取出的3只球中黑球的数目”, 应有 p=1/4.故认为罐中白球多.似然函数(1)离散型总体 设总体X分布律 为待估参数,是可能取值的范围.设X1, X2 , ,Xn是来自X的样本，样本观察值为x1, x2 , ,xn ,则 (X1, X2 , ,Xn )的联合分布律为对固定的样本观察值x1, x2 , ,xn ，记称其为样本的似然函数.(2)连续型总体 设总体X的概率密度为f

8、(x; ),为未知参数， 定义样本的似然函数为:最大似然估计法：就是固定样本观察值 ，在取值的可能范围 内挑选使似然函数达到最大的参数 ，作为 的估计值。则称 为 的最大似然估计值，定义 若存在 ，使得称 为 的最大似然估计量.如何求L( )的最大值?当lnL( )关于 可微时, lnL( ) 的最大值点必满足： 由于L( )与 lnL( )在上有相同的最大值点,所以求L( )的最大值点可以改为求 lnL( ) 的最大值点.-对数似然方程当lnL( )关于 不可微时,回到定义求.由此方程组可解得参数 的极大似然估计值或令 分布中含有多个未知参数时，这时,似然函数L是这些未知 参数 的函数.分别

9、令例5 设Xb(1,p), X1, X2 , ,Xn是来自X的一个样本,求参数 p 的最大似然估计量.解 X的分布律为 PX=x=px(1-p)1-x, x=0,1.设x1, x2 , , xn是相应于X1, X2 , ,Xn一个样本值,故似然函数为似然估计量似然估计值令于是例6 设总体XN(,2),2均未知，又设X1, X2,.,Xn为总体X 的样本, x1, x2 , xn为X的一组样本观测值，试求,2 的最大似然估计值及估计量.解似然函数为似然方程组X的概率密度为例7 设总体XUa, b, a, b 均未知，又设X1, X2,.,Xn为总体X 的样本, x1, x2 , xn为X的一组样

10、本观测值，试求a, b 的最大似然估计值和估计量.(用定义)例8 已知一批灯泡的使用寿命T服从参数为 的指数分布,现随机抽取18只,测得使用寿命(小时)如下: 16, 29, 50, 68, 100, 130, 140, 270, 280, 340, 410, 450, 520,620, 190, 210,800, 1100 求参数与 的最大似然估计值解:因为T 服从指数分布，故参数的最大似然估计为所以计算得例4 一个袋子中有黑球和白球个数比为R:1,现从袋中有放回地一个一个地取球，直到取到黑球为止。记X为取出的白球数，这样做了n次（每次袋中黑、白球的比例不变）。得样本 求R的极大似然估计量。解：总体X的分布律为似然函数令如果 为参数 的最大似然估计量，又函数 具有单值反函数，则 是 的最大似然估计量 似然估计的性质:例如，在例6中已得到 根据上述性质，得到的最大似然估计为标准差 的最大似然估计为最大似然估计的不变性例 设总体X的概率分布为其中(0 0,有则称 为 的相合估计量即 例3 设总体X的数学期望 与方差 存在，