单因素方差分析

1、第二章 方差分析第一节第一节 方差分析的基本问题方差分析的基本问题 第二节第二节 单因素方差分析单因素方差分析第三节第三节 双因素方差分析双因素方差分析日常生活中经常发现，影响一个事物的因日常生活中经常发现，影响一个事物的因素很多，希望找到影响最显著的因素。素很多，希望找到影响最显著的因素。如某种农作物的收获量受作物品种、如某种农作物的收获量受作物品种、肥料种类及数量等的影响；选择不同的品肥料种类及数量等的影响；选择不同的品种、种、肥料种类及数量进行试验，看哪一个肥料种类及数量进行试验，看哪一个影响大？并需要知道起显著作用的因素在影响大？并需要知道起显著作用的因素在什么时候起最好的影响作用。什

2、么时候起最好的影响作用。方差分析方差分析是鉴别各因素效应的一种有效统计是鉴别各因素效应的一种有效统计方法，它是通过实验观察某一种或多种因素方法，它是通过实验观察某一种或多种因素的变化对实验结果是否带来显著影响，从而的变化对实验结果是否带来显著影响，从而选取最优方案的一种统计方法。选取最优方案的一种统计方法。在科学实验和生产实践中，影响一件事在科学实验和生产实践中，影响一件事物的因素往往很多，每一个因素的改变物的因素往往很多，每一个因素的改变都有可能影响产品产量和质量特征。有都有可能影响产品产量和质量特征。有的影响大些，有的影响小些。为了使生的影响大些，有的影响小些。为了使生产过程稳定，保证优质

3、高产，就有必要产过程稳定，保证优质高产，就有必要找出对产品质量有显著影响的那些因素找出对产品质量有显著影响的那些因素及因素所处等级。方差分析就是处理这及因素所处等级。方差分析就是处理这类问题，从中找出最佳方案。类问题，从中找出最佳方案。 ANOVA ANOVA 由英国统由英国统计学家计学家R.A.FisherR.A.Fisher首首创，为纪念创，为纪念FisherFisher，以以F F命名，故方差分析命名，故方差分析又称又称 F F 检验检验 （F F testtest）。用于推断）。用于推断多多个总体均数个总体均数有无差异有无差异 因素（因子） 可以控制的试验条件因素的水平 因素所处的状态

4、或等级单（双）因素方差分析讨论一个（两个）因素对试验结果有没有显著影响。第一节第一节 方差分析的基本问题方差分析的基本问题一、方差分析的内容一、方差分析的内容二、方差分析的基本思想二、方差分析的基本思想三、方差分析的原理三、方差分析的原理一、方差分析的内容一、方差分析的内容（一）例题一）例题 某饮料生产企业研制出一种新型饮料。饮料的颜色共有四种，分别为某饮料生产企业研制出一种新型饮料。饮料的颜色共有四种，分别为橘黄色、粉色、绿色和无色透明。这四种饮料的营养含量、味道、价格、包橘黄色、粉色、绿色和无色透明。这四种饮料的营养含量、味道、价格、包装等可能影响销售量的因素全部相同。现从地理位置相似、经

5、营规模相仿的装等可能影响销售量的因素全部相同。现从地理位置相似、经营规模相仿的五家超级市场上收集了前一时期该饮料的销售情况，见表。试分析饮料的颜五家超级市场上收集了前一时期该饮料的销售情况，见表。试分析饮料的颜色是否对销售量产生影响。色是否对销售量产生影响。一、方差分析的内容一、方差分析的内容（二）几个基本概念（二）几个基本概念1.因素或因子因素或因子所要检验的对象称为因子所要检验的对象称为因子要分析饮料的颜色对销售量是否有影响，要分析饮料的颜色对销售量是否有影响，颜色颜色是要检是要检验的因素或因子验的因素或因子2.水平水平因素的具体表现称为水平因素的具体表现称为水平A1、A2、A3、 A4四

6、种颜色就是因素的水平四种颜色就是因素的水平3.观察值观察值在每个因素水平下得到的样本值在每个因素水平下得到的样本值每种颜色饮料的销售量就是观察值每种颜色饮料的销售量就是观察值一、方差分析的内容一、方差分析的内容4. 试验试验这里只涉及一个因素，因此称为单因素四水这里只涉及一个因素，因此称为单因素四水平的试验平的试验5. 总体总体因素的每一个水平可以看作是一个总体因素的每一个水平可以看作是一个总体比如比如A1、A2、A3、 A4四种颜色可以看作是四四种颜色可以看作是四个总体个总体6. 样本数据样本数据上面的数据可以看作是从这四个总体中抽取上面的数据可以看作是从这四个总体中抽取的样本数据的样本数据

7、二、方差分析的基本思想二、方差分析的基本思想（一）比较两类误差，以检验均值是否相等（一）比较两类误差，以检验均值是否相等（二）比较的基础是方差比（二）比较的基础是方差比（三）如果系统（三）如果系统(处理处理)误差显著地不同于随机误差，误差显著地不同于随机误差，则均值就是不相等的；反之，均值就是相等的则均值就是不相等的；反之，均值就是相等的（四）误差是由各部分的误差占总误差的比例来测（四）误差是由各部分的误差占总误差的比例来测度的度的三、方差分析的原理三、方差分析的原理（一）两类误差（一）两类误差1.随机误差随机误差在因素的同一水平在因素的同一水平(同一个总体同一个总体)下，样本的各观察值之间下

8、，样本的各观察值之间的差异的差异比如，同一种颜色的饮料在不同超市上的销售量是不同的比如，同一种颜色的饮料在不同超市上的销售量是不同的不同超市销售量的差异可以看成是随机因素的影响，或者不同超市销售量的差异可以看成是随机因素的影响，或者说是由于抽样的随机性所造成的，称为说是由于抽样的随机性所造成的，称为随机误差随机误差 2.系统误差系统误差在因素的不同水平在因素的不同水平(不同总体不同总体)下，各观察值之间的差异下，各观察值之间的差异比如，同一家超市，不同颜色饮料的销售量也是不同的比如，同一家超市，不同颜色饮料的销售量也是不同的这种差异这种差异可能可能是由于抽样的随机性所造成的，是由于抽样的随机性

9、所造成的，也可能也可能是由是由于颜色本身所造成的，后者所形成的误差是由系统性因素于颜色本身所造成的，后者所形成的误差是由系统性因素造成的，称为造成的，称为系统误差系统误差三、方差分析的原理三、方差分析的原理（二）两类方差（二）两类方差1. 组内方差组内方差因素的同一水平因素的同一水平(同一个总体同一个总体)下样本数据的方差下样本数据的方差比如，无色饮料比如，无色饮料A1在在5家超市销售数量的方差家超市销售数量的方差组内方差只包含组内方差只包含随机误差随机误差2. 组间方差组间方差因素的不同水平因素的不同水平(不同总体不同总体)下各样本之间的方差下各样本之间的方差比如，比如，A1、A2、A3、A

10、4四种颜色饮料销售量之间四种颜色饮料销售量之间的方差的方差组间方差既包括组间方差既包括随机误差随机误差，也包括，也包括系统误差系统误差三、方差分析的原理三、方差分析的原理（三）（三）方差的比较方差的比较如果不同颜色如果不同颜色(水平水平)对销售量对销售量(结果结果)没有影响，那么在组没有影响，那么在组间方差中只包含有随机误差，而没有系统误差。这时，组间方差中只包含有随机误差，而没有系统误差。这时，组间方差与组内方差就应该很接近，两个方差的比值就会接间方差与组内方差就应该很接近，两个方差的比值就会接近近1。如果不同的水平对结果有影响，在组间方差中除了包含随如果不同的水平对结果有影响，在组间方差中

11、除了包含随机误差外，还会包含有系统误差，这时组间方差就会大于机误差外，还会包含有系统误差，这时组间方差就会大于组内方差，组间方差与组内方差的比值就会大于组内方差，组间方差与组内方差的比值就会大于1。当这个比值大到某种程度时，就可以说不同水平之间存在当这个比值大到某种程度时，就可以说不同水平之间存在着显著差异。着显著差异。三、方差分析的原理三、方差分析的原理（四）（四）基本假定基本假定1. 每个总体都应每个总体都应服从正态分布服从正态分布对于因素的每一个水平，其观察值是来自服从正态分对于因素的每一个水平，其观察值是来自服从正态分布总体的简单随机样本布总体的简单随机样本比如，每种颜色饮料的销售量必

12、需服从正态分布比如，每种颜色饮料的销售量必需服从正态分布2. 各个总体的各个总体的方差必须相同方差必须相同对于各组观察数据，是从具有相同方差的总体中抽取对于各组观察数据，是从具有相同方差的总体中抽取的的比如，四种颜色饮料的销售量的方差都相同比如，四种颜色饮料的销售量的方差都相同3. 观察值是观察值是独立独立的的比如，每个超市的销售量都与其他超市的销售量独立比如，每个超市的销售量都与其他超市的销售量独立三、方差分析的原理三、方差分析的原理 在上述假定条件下，判断颜色对销售量是否有显著在上述假定条件下，判断颜色对销售量是否有显著影响，实际上也就是检验具有同方差的四个正态总体影响，实际上也就是检验具

13、有同方差的四个正态总体的均值是否相等的问题，的均值是否相等的问题， 如果四个总体的均值相等如果四个总体的均值相等，可以期望四个样本的均值也会很接近，可以期望四个样本的均值也会很接近1、四个样本的均值越接近，我们推断四个总体均值、四个样本的均值越接近，我们推断四个总体均值相等的证据也就越充分相等的证据也就越充分2、样本均值越不同，我们推断总体均值不同的证据、样本均值越不同，我们推断总体均值不同的证据就越充分就越充分 三、方差分析的原理三、方差分析的原理3、如果原假设成立，即、如果原假设成立，即H0: m m1 = m m2 = m m3 = m m4 四种颜色饮料销售的均值都相等四种颜色饮料销售

14、的均值都相等 没有系统误差没有系统误差 这意味着这意味着每个样本都来自均值为每个样本都来自均值为mm、方差为、方差为 2的的同一正态总体同一正态总体 三、方差分析的原理三、方差分析的原理4、如果备择假设成立，即、如果备择假设成立，即H1 : m mi (i=1，2，3，4)不全不全相等相等 至少有一个总体的均值是不同的至少有一个总体的均值是不同的 有系统误差有系统误差 这意味着四个样本分别来自均值不同的四个正态总体这意味着四个样本分别来自均值不同的四个正态总体 第二节第二节 单因素方差分析单因素方差分析一、数据结构一、数据结构二、单因素方差分析的步骤二、单因素方差分析的步骤 三、单因素方差分析

15、中的其它问题三、单因素方差分析中的其它问题一、数据结构一、数据结构 二、单因素方差分析的步骤二、单因素方差分析的步骤（一）提出假设（一）提出假设（二）构造检验统计量（二）构造检验统计量（三）统计决策（三）统计决策二、单因素方差分析的步骤二、单因素方差分析的步骤（一）提出假设（一）提出假设1、一般提法、一般提法H0: m m1 = m m2 = m mk (因素有因素有k个水平）个水平）H1: m m1 ，m m2 ， ，m mk不全相等不全相等2、对前面的例子、对前面的例子H0: m m1 = m m2 = m m3 = m m4颜色对销售量没有影响颜色对销售量没有影响H0: m m1 ，m

16、m2 ，m m3， m m4不全相等不全相等颜色对销售量有影响颜色对销售量有影响二、单因素方差分析的步骤二、单因素方差分析的步骤（二）构造检验统计量（二）构造检验统计量1、为检验、为检验H0是否成立，需确定检验的统计量是否成立，需确定检验的统计量 2、构造统计量需要计算、构造统计量需要计算水平的均值水平的均值全部观察值的总均值全部观察值的总均值离差平方和离差平方和均方均方(MS) 二、单因素方差分析的步骤二、单因素方差分析的步骤假定从第假定从第i个总体中抽取一个容量为个总体中抽取一个容量为ni的简单随机样的简单随机样本，第本，第i个总体的样本均值为该样本的全部观察值总个总体的样本均值为该样本的

17、全部观察值总和除以观察值的个数和除以观察值的个数计算公式为计算公式为 式中：式中： ni为第为第 i 个总体的样本观察值个数个总体的样本观察值个数 xij 为第为第 i 个总体的第个总体的第 j 个观察值个观察值 二、单因素方差分析的步骤二、单因素方差分析的步骤全部观察值的总和除以观察值的总个数全部观察值的总和除以观察值的总个数计算公式为计算公式为 二、单因素方差分析的步骤二、单因素方差分析的步骤x1 =27.32n1=5x2=29.56n2=5x3=26.44n3=5x4=31.46n4=5总均值总均值x =28.695二、单因素方差分析的步骤二、单因素方差分析的步骤全部观察值全部观察值 与

18、总平均值与总平均值 的离差平方和的离差平方和反映全部观察值的离散状况反映全部观察值的离散状况其计算公式为其计算公式为 前例的计算结果：前例的计算结果： SST = (26.5-28.695)2+(28.7-28.695)2+(32.8-28.695)2 =115.9295二、单因素方差分析的步骤二、单因素方差分析的步骤计算计算SSE每个水平或组的各样本数据与其组平均值的离差每个水平或组的各样本数据与其组平均值的离差平方和平方和反映每个样本各观察值的离散状况，又称反映每个样本各观察值的离散状况，又称组内离组内离差平方和差平方和该平方和反映的是随机误差的大小该平方和反映的是随机误差的大小计算公式为

19、计算公式为 前例的计算结果：前例的计算结果：SSE = 39.084二、单因素方差分析的步骤二、单因素方差分析的步骤计算计算SSA各组平均值各组平均值 与总平均值与总平均值 的离的离差平方和差平方和反映各总体的样本均值之间的差异程度，又称组反映各总体的样本均值之间的差异程度，又称组间平方和间平方和该平方和既包括随机误差，也包括系统误差该平方和既包括随机误差，也包括系统误差计算公式为计算公式为 前例的计算结果：前例的计算结果：SSA = 76.8455二、单因素方差分析的步骤二、单因素方差分析的步骤三个平方和的关系三个平方和的关系总离差平方和总离差平方和(SST)、误差项离差平方和、误差项离差平

20、方和(SSE)、水平、水平项离差平方和项离差平方和 (SSA) 之间的关系之间的关系离差平方和的分解与显著检验离差平方和的分解与显著检验 记：记：injijiXnX11111inkijijXXn kinjiXXijSST112)(将将Q进行分解：进行分解：211()()inkijiiijS S TXXXX 22111111()()2()()iiinnnkkkijiiijiiijijijXXXXXXXX由于由于11()()inkijiiijXXXX 111()()()()0inkkiijiiiiiiijiXXXXXXn Xn X故故：221111()()iinnkkijiiijijSSTXXXX

21、 22111()()inkkijiiiijiXXnXXSSESSA 在假设在假设H0成立的条件下，可以证明成立的条件下，可以证明：22(1)SSTn)(22knSSE22(1)SSAk相互独立相互独立理论证明理论证明22022().(1),(1)(1,).()SSASSESSESSAnkHkSSAkFF knkSSEnk定理：在单因素方差分析中，与相互独立，且当成立时，从而12212222111222111(1,2, )()1(,() ),(,() ),(,() )ikiinijijiinnnjjkkjkjjjX ikXXXSnXXXXXXXXX证明：对每个总体的样本均值与样本方差相互独立；又

22、全体样本相互独立，于是相互独立；121222211122211122212112211112(,() ),(,() ),(,() )2(,() ),() ,()(,)kknnnjjkkjkjjjnnnkjjkjkjjjkXXXXXXXXXkXXXXXXXXXXXXSSESSASSE于是相互独立；因此个随机变量，相互独立，从而与相互独立，由此推出与独立。221222222111222211221()(1)(1),1,2,()()(1)(1)()iiinijijiiinnkijiijikkjijiiiikiiXXnSnikXXXXnSSSEnnk由于且相互独立。于是21(1)kiiiSSEnS注意

23、上面实际上我们已表明20211222222222( ,),1,2, ,1,2,.()11(1)(1).(1).,(1).(1,).iijinkijijHXNik jnXXSSTSnnnSnSSTnSSTSSASSE SSASSESSAkFF knkm 再则，当成立时，所有观测值且相互独立。于是其样本方差满足即再由与独立，及分布的可加性知必有于是SSE2(H0n-kSSTSSE2H0n-1n-kSSE SSAH0n-kk-1SSA (k-1)F =SSE (n-k)根据上述定理，可知，为的无偏估计量 无论是否成立）。当成立时，与都是为的无偏估计量。从而当成立时，应当很接近。因此检验用统计量选为二

24、、单因素方差分析的步骤二、单因素方差分析的步骤三个平方和的作用三个平方和的作用SST反映了全部数据总的误差程度；反映了全部数据总的误差程度；SSE反映了随反映了随机误差的大小；机误差的大小；SSA反映了随机误差和系统误差反映了随机误差和系统误差的大小的大小如果原假设成立，即如果原假设成立，即H1 H2 Hk为真，则为真，则表明没有系统误差，组间平方和表明没有系统误差，组间平方和SSA除以自由度除以自由度后的均方与组内平方和后的均方与组内平方和SSE和除以自由度后的均和除以自由度后的均方差异就不会太大；如果组间均方显著地大于组方差异就不会太大；如果组间均方显著地大于组内均方，说明各水平内均方，说

25、明各水平(总体总体)之间的差异不仅有随之间的差异不仅有随机误差，还有系统误差机误差，还有系统误差判断因素的水平是否对其观察值有影响，实际上判断因素的水平是否对其观察值有影响，实际上就是比较组间方差与组内方差之间差异的大小就是比较组间方差与组内方差之间差异的大小为检验这种差异，需要构造一个用于检验的统计为检验这种差异，需要构造一个用于检验的统计量量二、单因素方差分析的步骤二、单因素方差分析的步骤计算均方计算均方MS各离差平方和的大小与观察值的多少有关，为了消除观各离差平方和的大小与观察值的多少有关，为了消除观察值多少对离差平方和大小的影响，需要将其平均，察值多少对离差平方和大小的影响，需要将其平

26、均，这就是均方，也称为方差这就是均方，也称为方差计算方法是用离差平方和除以相应的自由度计算方法是用离差平方和除以相应的自由度三个平方和的自由度分别是三个平方和的自由度分别是SST 的自由度为的自由度为n-1，其中，其中n为全部观察值的个数为全部观察值的个数SSA的自由度为的自由度为k-1，其中，其中k为因素水平为因素水平(总体总体)的个的个数数SSE 的自由度为的自由度为n-k n-1=(k-1)+(n-k)二、单因素方差分析的步骤二、单因素方差分析的步骤 SSA的均方也称组间方差，记为的均方也称组间方差，记为MSA，计算公式，计算公式为为SSE的均方也称的均方也称组内方差组内方差，记为，记为

27、MSE，计算公，计算公式为式为1SSAMSAk76.845525.61524 1MSA前例的计算结果：二、单因素方差分析的步骤二、单因素方差分析的步骤计算检验的统计量计算检验的统计量F将将MSA和和MSE进行对比，即得到所需要的检验统进行对比，即得到所需要的检验统计量计量F当当H0为真时，二者的比值服从分子自由度为为真时，二者的比值服从分子自由度为k-1、分母自由度为分母自由度为 n-k 的的 F 分布，即分布，即 二、单因素方差分析的步骤二、单因素方差分析的步骤如果均值相等，如果均值相等，F=MSA/MSE1三、计算的简化三、计算的简化1、 对对SST、SSE、SSA计算简化。（给出一计算简

28、化。（给出一个简化的计算公式和数据简化的方法）个简化的计算公式和数据简化的方法） 令：令：injijiXT1111inkkijiijiTXT2221111()(2)iinnkkijijijijijSSTXXXX XX22221111111()iiinnnkkkijijijijijijXnXXXnkinjijinTX1122同样可推出：同样可推出：22111iinnkiijijiiTSSEXn221iniiiTTSSAnn2、数据的简化：数据的简化： 试验数据经过变换试验数据经过变换 ()ijijXb Xa数据简化后对数据简化后对F值的计算没有影响，不会影响值的计算没有影响，不会影响检验的结果检验的结果方差分析表方差