考试统计与测量第三章.ppt

第三章推断性统计 3 1参数估计 一 3 2参数假设检 三 3 1参数估计 二 3 2参数假设检 四 3 1参数估计 三 3 2参数假设检 五 3 1参数估计 四 3 2参数假设检验 六 3 1参数估计 五 3 2参数假设检验 七 3 1参数估计 六 3 3非参数假设检验 一 3 2参数假设检验 一 3 3非参数假设检验 二 3 2参数假设检验 二 3 1参数估计 二 一 点估计1 矩法定义3 1 1 以样本阶矩作为相应总体阶矩的估计量 以样本矩的函数作为相应总体矩的同类函数估计量称为矩法 设总体X的概率分布为P x 其中 为待估参数设X的K阶原点存在我们用样本 的K阶原点矩 作为总体K阶原点矩 的估计量 即 k 3 1 1 如果取定样本值 x 则得到估计值 例1求总体均值和方差的矩估计 3 1参数估计 一 在实际统计工作中 确定总体的精确概率分布一般是很难的 我们往往只凭经验和试验大致知道某些随机变量的分布类型 例如 人的身高 学生的学习能力 儿童的智力指数等通过对样本数据画直方图 多边图 从曲线形态看出分布近似于正态 而正态分布的概率密度依赖于参数 和 然而在实际问题中这两个参数的确切数值一般是未知的 这就需要我们通过样本来估计出参数的值 这项工作具有两方面的意义 第一 从理论上可以写出正态分布确切的概率密度 第二 教育工作者掌握总体的参数值有利于研究教育现象的规律 3 1参数估计 二 解一样本一阶原点矩 作为相应总体一阶原点矩的估计量 以样本二阶中心矩作为相应总体二阶中心矩的估计量 其估计值分别为及 此例表明 不论总体X是何分布 其均值和方差的矩估计为和矩法直观 简便 且无需知道总体分布 但矩法有局限性 首先它要求总体各阶矩存在 但有些总体矩是不存在的 其次 由于样本矩与总体分布形式无关 故不能充分利用总体分布提供的信息 现在我们要问样本均值 样本方差作为总体均值 总体方差的估计量是否是最好的估计量呢 回答是未必的 2 无偏估计量无偏性 是对一个估计量最基本的要求 它直观上表示距离无系统偏差 显然 是的一个无偏估计量 在估计总体参数时 总希望估计值尽可能与总体参数值接近 例如 用样本均值作为总体均值的估计量时 由于是一个随机变量 但是如果把的取值平均起来考虑 由定理2 3 1 我们可以说集中在周围 定义3 1 2设为总体未知参数的一个估计量 如果 3 1 2 则称为总体均值的一个无偏估计量 例2不是的无偏估计量解 由定理2 3 1 故不是的无偏估计量 但我们如果令 则有因此 为的一个无偏估计量 我们称为样本修正方差 实际上当很大时 与相差不大 因此 有的书上也称为样本方差 3 极大似然法 这种方法的直观想法是 对于试验 如有若干结果 若在一次观察中出现了 则可以认为试验条件对有利 即出现的概率应该最大 定义3 1 3设总体具有概率分布 其中为未知参数 并设为来自总体的一个样本 由样本的独立同分布性有 记 3 1 3 称L为似然函数 作为的函数 如果L在处达到最大值 则称为的最大似然估计 在微积分中 此结果表述为L在最大值点的一阶导数等于零 即满足方程组 3 1 4 由于lnL与L在同一点达到最大值 lnL是单调函数 为使运算简化 也同时满足方程组 3 1 5 称似然方程组 解此似然方程组 得即的最大似然估计 3 1参数估计 三 例3设总体为来自X的一个样本 求的最大似然估计 解令 则有 故 得似然方程组为 解此方程组得到 可见 由最大似然法得到的正态总体均值 与方差的点估计与矩法得到的点估计是一致的 3 1参数估计 四 二 区间估计总体未知参数 的点估计的一次观察值是一个数 例如 某校二年级参加数学竞赛的15名学生平均成绩为80分 这给人以清楚的数量概念 但是用80分去作为二年级全体同学数学竞赛的平均成绩显然存在不定因素 第一 与 未必真正相等 这是由于抽取样本具有随机性 也就是说再重新抽取15名学生参加竞赛 其平均成绩未必是80分 即使是一个无偏估计 从一个样本得到的估计值也未必恰好是所要估计的总体未知参数的真值 第二 不知与 相差多少 如果碰巧二年级全体学生数学竞赛的平均成绩为80分 也无法进行肯定 这是因为总体参数一般是未知的 如果已知就不需要我们根据样本进行估计了 区间估计的具体做法是 设为来自总体的一个样本 构造两个统计量 使 3 1 6 其中 为总体未知参数 称为置信区间 分别为置信下限 置信上限 1 为置信系数 为置信水平 如 0 05 则 3 1 6 式表示平均起来有95次算得的估计值使得区间包括 而有5次算得的估计值使得区间不包括 进行区间估计 估计区间越短越好 区间越短 精度越高 通常加大样本容量可以使区间范围缩小 但是要花费代价 增加计算量 我们需要研究在保证一定可信程度的条件下 如何建立尽可能小的置信区间 一 总体均值 的区间估计1 总体方差已知 求 的置信区间第一步构造一个含 的统计量 确定其概率分布 目的在于能够对 进行区间估计 由定理2 3 2得 3 1 7 第二步给定置信水平 确定U的区间 由即查标准正态分布双侧临界值表 附表3 得到 于是U的区间为 第三步解不等式 求 的1 的置信区间 由经变形得到于是 的1 的置信区间为 3 1 8 第四步代入观察值 得到 的1 的值区间 这里 称为平均数的标准误差 标准误差越小 表明与 越接近 样本对总体越有代表性 3 1参数估计 五 二 区间估计 一 总体均值 的区间估计1 总体方差已知 求 的置信区间例4由已往资料 某校一年级男生100米跑成绩的标准差为2 1s 现从入学新生中抽出20名男生 测得100m跑平均成绩为13 5s 求该校一年级男生100m跑平均成绩 的95 的置信区间 假定百米跑成绩X服从正态分布 解 抽出的20名男生百米跑成绩构成一个容量为20的样本 由于 2 1 0 05 查附表3 代入 3 1 8 得到 的95 的置信区间为即以95 的可信程度保证该校一年级男生百米跑的平均成绩在12 6秒至14 4秒之间 2 大样本 总体方差未知 求 的置信区间属于这一类型的区间估计 总体X未必是正态变量 然而在样本较大时 由概率论中的中心极限定理可以保证 统计量U的分布是近似于标准正态的 由于未知 但样本方差是的一个估计量 因此可用代替进行区间估计 其方法完全类似于第一种类型 例5从某区高中入学考试学生中抽取150份语文试卷 算得平均成绩 81 2分 方差分 试对全区高中入学考生的平均语文成绩 进行区间估计 0 01 解 总体分布未知 但n 150属大样本 由 0 01 查附表3得到由于于是 的99 的置信区间为 80 4 82 1 3 1参数估计 六 3 小样本 总体方差未知 求 的置信区间第一步构造一个含 的统计量 确定t的分布 由定理2 3 4得 3 1 9 第二步给定置信水平 确定t的区间 由 查t分布双侧临界值表 附表5 得到 于是t的区间为 第三步解不等式 求出 的1 的置信区间 由经变形得到于是 的1 的置信区间为 3 1 10 第四步代入观察值 得到 的1 的值区间 这里 称为平均数的标准误差 越小 用X TX 估计 的可靠性越大 例6从某校高一男生中抽取9人 其身高 分别为 1 70 1 63 1 78 1 55 1 59 1 74 1 72 1 64 1 60 试估计该校高一男生平均身高所在范围 0 05 假定身高服从正态分布 解 n 9为小样本 总体方差未知 由样本数据算得 由 0 05 查自由度为9 1 8的t分布双侧临界值表得到 代入 3 1 10 式得到 的95 的置信区间为即以95 的可信程度保证该校高一男生的平均身高在1 60 至1 72 之间 二 总体方差的区间估计1 已知总体均值 求的置信区间第一步构造一个含的统计量 由分布定义得 3 1 11 第二步给定置信水平a 由于 2分布是非对称的 和t分布 正态分布不同 需找出两个临界值由自由度为n的分布单侧临界值表 附表4 得 第三步解不等式 得到的1 的置信区间为 2 1 12 第四步代入观察值 得到的1 的值区间 例7某校化学系入学新生的高考数学成绩一直稳定在75分左右 现从一年级新生中抽取10名 其入学高考数学成绩分别为71 68 83 75 79 90 84 60 90 72 试估计该校数学系入学新生高考数学成绩的标准差在何范围 0 05 解 由 0 05 查自由度为10的分布单侧临界值表得到把样本数据代入 3 1 12 式 得到的1 的置信区间为 44 280 从而的的置信区间为 6 67 16 73 7 17 2 未知总体均值 求的置信区间构造统计量 由定理2 3 3 3 1 13 其余步骤类似于第一类 给定 得到的1 的置信区间为 3 1 14 再代入观察值得到的的值区间 例8从某区随机抽取7名7岁男童 其体重的标准差为2 25kg 试求某区7岁男童体重标准差的95 的置信区间 解 由 0 05 查自由度为7 1 6的分布单侧临界值表得到 则由 3 1 14 得到的95 的置信区间为 3 2参数假设检验 一 总体分布已知 对总体参数的取值作一假设 用统计理论来判断这一假设正确与否 统计学上称此为参数假设检验 某地6岁男童的身高是一个总体 那么这个总体确切的理论分布是什么 由样本数据绘制直方图 如果图形呈现中间高 两头低 对称 我们可以认为这个总体是近似于正态分布的 如果我们假设这个总体服从正态分布 根据样本信息来判断这个假设正确与否 这就是所谓非参数检验 简单地说 参数假设检验是检验未知参数的假设成立与否 非参数检验是检验未知总体分布的假设成立与否 一 假设检验的概念1 假设参数假设指总体分布已知 关于未知参数的假设 教育研究中用的最多的是已知总体服从正态分布 对总体均值 总体方差作出假设 例如 某成绩 方差在原有状况下不变 而均值 在过去为82分 采用新的教学法后抽测10名同学 其平均成绩为85分 这时我们提出总体均值 为82分的假设 记为 称为原假设或零假设 相对于 还要给出一个备选假设 记为 一个假设如果不是参数假设就称为非参数假设 非参数假设一般指关于总体分布的假设 例如 某地6岁男童的身高X为一总体 若给出样本数据 基本呈现正态性 我们提出假设 正态分布 为非正态分布 如果肯定 自然就否定 2 假设检验判断假设成立与否的方法叫假设检验 最简单的检验是显著性检验 所谓显著性检验是只对一个假设进行检验 例如 已知 对进行检验而不提出备选假设 尽管没有提出 但我们可以认为 这样备选假设就没有必要明确提出来了 本章将集中讨论显著性检验方法 无论 假设 的类型多么复杂 进行检验的基本思想却是很简单的 3 小概率原理 实际推断原理 概率很小的事件叫小概率事件 这是一个相对概念 一般统计学中 概率值如低于0 01 0 05或0 10 0 25则认为小 把这些值统一记为 称为显著性水平 所谓小概率原理是说 小概率事件在一次试验中是实际上不可能发生的 同样 大概率事件在一次试验中是实际上必然会发生的 3 2参数假设检验 二 3 小概率原理 实际推断原理 箱中有白 黑球共100个 设 其中有99个白球 如果是对的 则从箱中任取一球为黑球 记为事件A 的概率只有1 100 显然A是一个小概率事件 如果从箱中抽一个球恰好是黑球 说明小概率事件发生了 这样 自然要怀疑的正确性 也就是说有很大的可能是不对的 这时就要做出否定的结论 那么作出这样的结论是完全正确的码 回答是未必的 这是因为小概率事件本来就有可能发生 只是发生的可能性很小而已 通过以上分析 想通过一次试验来否定而要完全正确是不可能的 也就是说在检验中要允许犯错误 才能通过一次试验来否定或者接受 但这里如果给定 我们可以说否定 有的可能性犯错误 有的可能性是正确的 上例中 0 01 那么如果否定 犯错误的可能性只有0 01 一个检验允许犯错误 但错误的性质一般是不同的 这就需要我们区分错误的不同类型 从而针对不同的后果确定犯错误可能性的大小4 两类错误第一类错误是 符合实际情况 但检验结果却否定了 称为 弃真 记其概率为 否定 为真 3 2 1 实际上 显著性水平就是犯第一类错误的概率 取的越大 发生否定的可能性就越大 通俗地理解第一类错误 即把 对 说成 不对 把 真 说成 假 第二类错误是 不符合实际情况 但检验结果却肯定了 称为 取伪 伪 即为 假 的意思 记其概率为 接受 为假 3 2 2 犯这两类错误的后果通常是不一样的 例如 我们检验某人是否患某种疾病 若设 该人患有此种疾病 则第二类错误 无病当作有病 造成由于使用不必要的药物而引起该人的痛苦和经济上的损失 但第一类错误 有病当作无病 就有可能使该人延误病情而发生意外 可见犯第一类错误的后果较第二类错误后果严重 又如检验一批降落伞质量 设 这批伞质量合格 则第二类错误 次品当正品 会导致使用降落伞的人出现生命危险 而第一类错误 正品当次品 至多报废一部分产品造成一些经济上的损失 可见犯第二类错误的后果较第一类错误后果严重 也就是说宁愿犯第一类错误也不犯第二类错误 对一定样本容量 一般来说 减小 则增大 减小 则增大 同时 对于固定的 适当增加样本容量可以减小 通常情况下 样本容量如果固定 需要平衡两类错误的后果 如第一类错误后果严重 则显著性水平取的小一些 一般 取为0 05或0 01 而不能太小 最好大于10 检验一个假设成立与否 先给出假设 然后在此假设成立条件下 借助于统计量的概率分布 选择一个合适的水平 找到一个小概率事件 再抽取一组样本数据 如果发生 则出现矛盾 违反实际推断原理 矛盾的来源在于原假设 做出否定的结论 但可能犯错误 而犯错误的可能性为 反之 如果没有发生 我们不能否定 但不能不加分析地得出正确的结论 我们只能说实验结果与原假设无显著差异或暂时接受假设留待进一步观察 实际工作中如果需要我们立即作出明确表态时 我们常常采取接受原假设的态度 3 2参数假设检验 三 二 总体均值的检验 一 检验利用标准正态分布统计量U进行的检验叫检验 1 已知总体方差 单正态总体 关于总体均值的检验设为来自正态总体的一个样本 已知 设为一已知常数 在成立条件下 构造统计量U 由定理2 3 2得 3 2 3 取定显著性水平 查标准正态分布双侧临界值表 附表3 得到临界值为 由正态分布的对称性 另一临界值 则有和为否定域 这是因为 即 为小概率事件 再由一次样本观察值计算出u值 如果或 则与实际推断原理矛盾 因而否定 说明总体均值与有显著差异 例1某校五年级学生语文期末成绩 82 42 采用新教学法后 抽测10名同学其平均成绩为85分 同采用新教学法后平均成绩与原来有无显著差异 解 一般把原来成绩作为原假设 检验者在处理时总是偏于保守的 在没有充分证据时不轻易否定 由于给定 0 05 查附表3得到 而从而否定 说明采用新教学法后平均成绩与原来有显著差异 2 双正态总体 方差已知 独立样本 比较两总体均值和例2先锋中学初二年级实验班30名学生与普通班40名学生解应用题测验结果为 实验班分 普通班分 由以往经验 实验班成绩普通班成绩 问实验班与普通班学生解应用题能力有无显著差异 这里假定先锋中学是从全市中学中随机选出的 解 设分别为来自总体 的两个独立样本 设 在成立条件下 构造统计量 3 2 4 给定 查标准正态分布双侧临界值表 附表3 得临界值 若或 否定 将 代入 3 2 4 得到 若给定 则由附表3得到 而因此否定 说明总体均值与有显著差异 3 2参数假设检验 四 3 非正态总体 大样本关于总体均值的检验例3设某种心理检测仪器成功率为 规定成功率要达到0 8才算合格 现抽取40人试用这种仪器 其中30人有效 问这种仪器是否合格 解 总体分布 表示使用这种仪器失败 表示使用这种仪器成功 设 在成立条件下 属大样本 因此 3 2 5 给定 0 05 查附表3得到 而代入 3 2 5 得到 u 0 79 1 96 故接受 说明这种仪器合格 二 检验利用分布统计量进行的检验叫检验 检验用来检验三类问题 1 单正态总体 未知总体方差 关于总体均值 的检验由于不论总体是否服从正态分布 大样本关于总体均值的检验问题都可归结为检验来进行 因此 检验适用于小样本 且总体服从正态分布 设为来自正态总体的一个样本 未知 设 在成立条件下 构造统计量 由定理2 3 4 3 2 6 其中为样本方差 为自由度 给定显著性水平 查分布双侧临界值表 附表5 得到临界值 由于分布的对称性 另一个临界值为 则和为否定域 再由样本数据计算 若或 则否定 说明总体均值与有显著差异 例4由已往资料 某区6岁女童平均体重为19 2kg 现从某幼儿圆抽测10名6岁女童其体重 kg 数据为20 1 19 0 19 2 20 5 18 5 19 0 21 019 519 0 18 0 问该幼儿园6岁女童平均体重与本区6岁女童平均体重有无显著差异 设体重服从正态分布 解 为小样本 未知 给定 0 05 查自由度为10 1 9的t分布双侧临界值表 附表5 得到临界值 由样本数据计算得 从而 故没有理由拒绝H0 说明该幼儿园6岁女单平均体重与本区6岁女童平均体重无显著差异 3 2参数假设检验 五 2 双正态总体 方差未知 但 独立样本 比较两总体均值和设分别为来自正态总体的两个独立样本 记 设在成立条件下 构造统计量t 由定理2 3 6 3 2 7 给定 查自由度为的t分布双侧临界值表 附表5 得到临界值 故否定域为或 t t 2 再由样本数据计算t值 若或 t t 2 则否定H 例5从某中学初三学生中随机选定两个组 每组10人 进行语文教学方法改革实验 甲组采用讨论式方法 乙组采用讲授式方法 期末测验甲组平均成绩为78分 方差为15分 乙组平均成绩为73分 方差为16分 问两种方法效果有无显著差异 0 05 设成绩服从正态分布 解 假定两个总体的方差相等 设 由 0 05 查自由度为2 10 2 18的t分布双侧临界值表得到 而 故否定 说明两种方法效果有显著差异 例6某大学检查40名男新生平均体重为58 5公斤 方差为8 1公斤 30名女新生平均体重为48 0公斤 方差为7 4公斤 问男 女新生体重有无显著差异 0 10 解 设男 女新生体重分别服从正态分布由 0 10 查自由度为30 40 2 68的t分布双侧临界值表 附表5 得到 这里表中无自由度68 可按接近68的数查表 而故否定H0 说明男女新生体重有显著差异 3 2参数假设检验 六 三 总体方差的检验总体方差的检验方法有两种 检验和F 检验 一 检验利用分布统计量进行的检验叫检验 检验用来检验两类问题 1 正态总体 已知总体均值 关于总体方差的检验设为来自正态总体的一个样本 已知 设为一已知常数 在H0成立条件下 构造统计量 由分布定义 3 2 11 由于分布为非对称分布 故两个临界值不对称 如给定 取 查分布单侧临界值表 附表4 由 2和自由度n可得到 由和自由度n可得到 则或为否定域 再由样本数据计算 若或 则否定H0 说明总体方差与有显著差异 例7某大学外语系新生高考外语成绩服从正态分布 已知 76分 182 经一学期学习 抽测来自不同地区的学生10人 其外语成绩分别为70 78 85 90 69 84 92 88 86 75 问标准差与入学前相比有无显著差异 0 05 解 设 由 0 05 查自由度为10的分布单侧临界值表 附表4 得到 而故否定H0 说明一学期后标准差与入学前有显著差异 2 正态总体 未知总体均值 关于总体方差的检验我们知道样本均值是总体均值 的一个无偏估计 因此当 未知时 自然想到用作为 的一个估计来构造统计量 设在H0成立条件下 构造统计量 由定理2 3 3 3 2 12 给定 查自由度为n 1的分布单侧临界值表得到临界值 则和为否定域 再由样本数据计算 若或则否定 例8某区学前班6岁儿童某项智力测定分数服从正态分布 由已往资料保持在左右 今从某区幼儿园抽取10名6岁儿童 经测定平均分数为8分 标准差为0 45分 问该幼儿园6岁儿童这项智力测定成绩方差有无变化 解 设由 查自由度为10 1 9的分布单侧临界值表得到 而 由此落入接受区域 没有理由否定H0 说明该幼儿园6岁儿童这项智力测定成绩方差没有显著变化 3 2参数假设检验 七 二 F检验利用F分布统计量进行的检验叫F检验 用来检验当两正态总体均值未知 方差未知时比较两种正态总体方差和 设 分别为来自正态总体的两个独立样本 记 我们在t检验中进行双正态总体 未知独立样本比较两总体均值和时 假定 因此在进行这类问题的t检验前 首先要检验两总体方差是否一致 这就要用到F检验 设在H0成立条件下 构造统计量F 由定理2 3 5 3 2 13 其中为第一自由度 为第二自由度 由于分布为非对称分布 故两个临界值不对称 给定 查F分布单测临界值表得到 故否定域为 或 再由样本数据算出值进行比较作出判断 例10我们在例6中假定 讨论男 女新生体重有无差异 现在我们对此假定进行检验 解 设由于 查第一自由度为39 第二自由度为29的分布单侧临界值表 附表6 得到 由于分布单侧临界值表中只列出 等情形 故需变形处理才能查出 事实上 由于 因此 3 2 14 从而有 这时 查第一自由度为 第二自由度为的分布单侧临界值表得到 即而即有故接受 说明男 女新生体重的方差无显著差异 由于是一个方差比 故也称检验为方差比检验 在检验中我们看到的值偏离1到一定界限 则否定 如果我们把中的较大者放到分子上 方差比的值不会低于1 这时我们只需考虑一个临值 因此 否定域为 这样可以避免查表中出现的麻烦 3 3非参数假设检验 一 参数假设检验大多是在总体分布给定的前提下对总体未知参数进行检验的 主要讨论以下两种类型的检验 总体的分布的拟合检验 两个样本是来自同一总体的检验 一 总体分布的拟合检验拟合 统计学上也称为拟合度 即拟合的程度 当总体分布未知时 通过样本有时可以猜测它们的分布是某种特定的分布 设 然后加以检验 考察理论分布曲线和实际观察曲线相适合的程度 利用分布统计量进行的拟合检验叫拟合检验 如果总体是离散型变量 则设r 其中为的分布列 为一已知类型总体的分布列 如果总体为连续型变量 则设其中为总体的概率密度 为一已知类型总体的概率密度 1 基本想法我们把随机试验的全体结果分r为个互斥的事件 在H0成立条件下 记在n次试验中Ak出现的频数nk称为实际频数 频率nk n称为实际频率 一般说来 理论概率Pk与实际频率nk n是有差异的 但如果H0成立 则Pk与nk n相差不会太大 基于这种想法 我们构造统计量 其中r为x取值的个数 如果x为连续型变量 则r为分组的组数 nk为落入第k组的样本数据的个数 Pk为落入第k组的概率 由假定总体的分布可以计算出来 显然 X2越小越好 如果X2大出一定界限 则说明H0未必真 从而得出否定H0的结论 2 理论依据应用x2统计量进行检验 要确定x2的概率分布 统计学家费舍 Fisher 1924年证明了以下结论 不论F0 x 服从什么分布 当n充分大时 3 3 1 其中r m 1为自由度 m为被估计参数的个数 利用x2的分布 我们可以查x2分布单侧临界值表