论文写作中存在的数理统计问题的课件

1、数据分析中数理统计方法的正确使用重要假定作者所处理的数据属于随机变量的特定样本。作者已经掌握最基本的数理统计学常识，如概率、假设检验、均值、方差、标准差、正态分布、相关分析、回归分析、方差分析。数理统计问题的重要性在科学研究中，经常会涉及到对随机变量大小、离散及分布特征的描述以及对2个或多个随机变量之间的关系描述问题。地学、环境科学研究也不例外。对随机变量及随机变量之间的关系进行定量描述的数学工具就是数理统计学。在科学研究中，能否正确使用各种数理统计方法关系到所得出结论的客观性和可信性。所以，来稿中使用的数理统计方法是否正确应是学术期刊编辑们极为重视的问题。目前，国内环境科学与技术类学术期刊对

2、稿件中数理统计方法问题的重视程度存在差异。 1 统计软件的选择 统计分析通常涉及大量的数据，需要较大的计算工作量。在进行统计分析时，尽管作者可以自行编写计算程序，但在统计软件很普及的今天，这样做是毫无必要的。出于对工作效率以及对算法的通用性、可比性的考虑，一些学术期刊要求作者采用专门的数理统计软件进行统计分析。 1 统计软件的选择环境科学学报的编辑们在处理稿件时经常发现的问题是：作者未使用专门的数理统计软件，而采用Excel这样的电子表格软件进行数据统计分析。由于电子表格软件提供的统计分析功能十分有限，只能借助它进行较为简单的统计分析，故我们不主张作者采用这样的软件进行统计分析。 1 统计软件

3、的选择目前，国际上已开发出的专门用于统计分析的商业软件很多，比较著名有SPSS(Statistical Package for Social Sciences)和SAS(Statistical Analysis System)。此外，还有BMDP和STATISTICA等。SPSS是专门为社会科学领域的研究者设计的，但此软件在自然科学领域也得到广泛应用。BMDP是专门为生物学和医学领域研究者编制的统计软件。 1 统计软件的选择目前，国际学术界有一条不成文的约定：凡是用SPSS和SAS软件进行统计分析所获得的结果，在国际学术交流中不必说明具体算法。由此可见，SPSS和SAS软件已被各领域研究者普遍

4、认可。我们建议作者们在进行统计分析时尽量使用这2个专门的统计软件。目前，有关这2个软件的使用教程在书店中可很容易地买到。 2 均值的计算 ：理论问题均值（准确的称呼应为“样本均值”）的统计学意义：反映随机变量样本的大小特征。均值对应于随机变量总体的数学期望总体的数学期望客观上决定着样本的均值，反过来，通过计算样本的均值可以描述总体的数学期望。在处理实验数据或采样数据时，经常会遇到对相同采样或相同实验条件下同一随机变量的多个不同取值进行统计处理的问题。为找到代表这些观测值总体大小特征的代表值（统计量，该统计量根据样本数据算出），多数作者会不假思索地直接给出算术平均值和标准差。显然，这种做法是不严

5、谨的不一定总是正确的。2 均值的计算：技术问题在数理统计学中，作为描述随机变量样本的总体大小特征的统计量有算术平均值、几何平均值和中位数等多个。何时用算术平均值？何时用几何平均值？以及何时用中位数？这不能由研究者根据主观意愿随意确定，而要根据随机变量的分布特征确定。 2 均值的计算：技术问题反映随机变量总体大小特征的统计量是数学期望，而在随机变量的分布服从正态分布时，其数学期望就可以用样本的算术平均值描述。此时，可用样本的算术平均值描述随机变量的大小特征。如果所研究的随机变量不服从正态分布，则算术平均值不能准确反映该变量的大小特征。在这种情况下，可通过假设检验来判断随机变量是否服从对数正态分布

6、。如果服从对数正态分布，则几何平均值就是数学期望的值。此时，就可以计算变量的几何平均值。如果随机变量既不服从正态分布也不服从对数正态分布，则按现有的数理统计学知识，尚无合适的统计量描述该变量的大小特征。此时，可用中位数来描述变量的大小特征。 3 相关分析：相关系数的选择 在相关分析中，作者们常犯的错误是：简单地计算Pearson 积矩相关系数，而且既不给出正态分布检验结果，也往往不明确指出所计算的相关系数就是Pearson 积矩相关系数。在数理统计学中，除有针对数值变量设计的Pearson 积矩相关系数（对应于 “参数方法”）外，还有针对顺序变量（即“秩变量”）设计的Spearman秩相关系数

7、和Kendall秩相关系数（对应于 “非参数方法”）等。Pearson 积矩相关系数可用于描述2个随机变量的线性相关程度，Spearman或Kendall秩相关系数用来判断两个随机变量在二维和多维空间中是否具有某种共变趋势。 3 相关分析：相关系数的选择在相关分析中，计算各种相关系数是有前提条件的。在相关分析中，对于秩变量，一般别无选择，只能计算Spearman或Kendall秩相关系数。对于数值变量，只要条件许可，应尽量使用检验功效最高的参数方法，即计算用Pearson 积矩相关系数。只有计算Pearson 积矩相关系数的前提不存在时，才考虑退而求其次，计算专门为秩变量设计的Spearman

8、或Kendall秩相关系数（尽管这样做会导致检验功效的降低）。 3 相关分析：相关系数的选择对于数值变量，相关系数选择的依据是变量是否服从正态分布，或变换后的数据是否服从正态分布。对于二元相关分析，如果2个随机变量服从二元正态分布假设，则应该用Pearson 积矩相关系数描述这2个随机变量间的相关关系。如果样本数据不服从二元正态分布，则可尝试进行数据变换，看变换后的数据是否符合正态分布？如果是，则可以针对变换后的数据计算Pearson 积矩相关系数；否则，就不能计算Pearson 积矩相关系数，而应改用检验功效较低的Spearman或Kendall秩相关系数（此时，如果强行计算Pearson

9、积矩相关系数有可能会得出完全错误的结论）。4 相关分析与回归分析的区别 相关分析和回归分析是极为常用的2种数理统计方法，在环境科学及其它科学研究领域有着广泛的用途。然而，由于这2种数理统计方法在计算方面存在很多相似之处，且在一些数理统计教科书中没有系统阐明这2种数理统计方法的内在差别，从而使一些研究者不能严格区分相关分析与回归分析 。4 相关分析与回归分析的区别最常见的错误是:用回归分析的结果解释相关性问题。例如，作者将“回归直线（曲线）图”称为“相关性图”或“相关关系图”；将回归直线的R2(拟合度，或称“可决系数”)错误地称为“相关系数”或“相关系数的平方”；根据回归分析的结果宣称2个变量之

10、间存在正的或负的相关关系。 4 相关分析与回归分析的区别相关分析与回归分析均为研究2个或多个变量间关联性的方法，但2种数理统计方法存在本质的差别，即它们用于不同的研究目的。相关分析的目的在于检验两个随机变量的共变趋势（即共同变化的程度），回归分析的目的则在于试图用自变量来预测因变量的值。 4 相关分析与回归分析的区别在相关分析中，两个变量必须同时都是随机变量，如果其中的一个变量不是随机变量，就不能进行相关分析。这是相关分析方法本身所决定的。 4 相关分析与回归分析的区别对于回归分析，其中的因变量肯定为随机变量（这是回归分析方法本身所决定的），而自变量则可以是普通变量（有确定的取值）也可以是随机

11、变量。 4 相关分析与回归分析的区别如果自变量是普通变量，即模型回归分析，采用的回归方法就是最为常用的最小二乘法。如果自变量是随机变量，即模型回归分析，所采用的回归方法与计算者的目的有关。在以预测为目的的情况下，仍采用“最小二乘法”（但精度下降最小二乘法是专为模型 设计的，未考虑自变量的随机误差）；在以估值为目的（如计算可决系数、回归系数等）的情况下，应使用相对严谨的方法（如“主轴法”、“约化主轴法”或“Bartlett法” ）。4 相关分析与回归分析的区别显然，对于回归分析，如果是模型回归分析，鉴于两个随机变量客观上存在“相关性”问题，只是由于回归分析方法本身不能提供针对自变量和因变量之间相

12、关关系的准确的检验手段，因此，若以预测为目的，最好不提“相关性”问题；若以探索两者的“共变趋势”为目的，应该改用相关分析。如果是模型回归分析，就根本不可能回答变量的“相关性”问题，因为普通变量与随机变量之间不存在“相关性”这一概念（问题在于，大多数的回归分析都是模型回归分析！）。此时，即使作者想描述2个变量间的“共变趋势”而改用相关分析，也会因相关分析的前提不存在而使分析结果毫无意义。4 相关分析与回归分析的区别需要特别指出的是，回归分析中的R2在数学上恰好是Pearson积矩相关系数r的平方。因此，这极易使作者们错误地理解R2的含义，认为R2就是 “相关系数”或“相关系数的平方”。问题在于，

13、对于自变量是普通变量（即其取值有确定性的变量）、因变量为随机变量的模型回归分析，2个变量之间的“相关性”概念根本不存在，又何谈“相关系数”呢？更值得注意的是，一些早期的教科书作者不是用R2来描述回归效果（拟合程度，拟合度）的，而是用Pearson积矩相关系数来描述。这就更容易误导读者。5 重要的数理统计学常识1）假设检验假设检验的基本思想统计推断：是根据样本数据推断总体特征的一种方法。假设检验：是进行统计推断的途径之一（另一种途径是参数估计，如点估计和区间估计）。假设检验的基本思路是：首先，对总体参数值提出假设（原假设）；然后，利用样本数据提供的信息来验证所提出的假设是否成立（统计推断）-如果

14、样本数据提供的信息不能证明上述假设成立，则应拒绝该假设；如果样本数据提供的信息不能证明上述假设不成立，则不应拒绝该假设。接受或拒绝原假设的依据：小概率事件不可能发生。显然，这样做是有风险的（小概率事件真的发生了）。假设检验中的关键问题：1）在原假设成立的情况下，如何计算样本值或某一极端值发生的概率？2）如何界定小概率事件？5 重要的数理统计学常识1）假设检验假设检验的基本步骤1）提出原假设（或称“零假设”，H0）；2）选择检验统计量；3）根据样本数据计算检验统计量观测值的发生概率（相伴概率，p）；4）根据给定的小概率事件界定标准（显著性水平，如0.05，0.01）做出统计推断。假设检验的基本步

15、骤为什么要设计并计算检验统计量？在假设检验中，样本值（或更极端的取值）发生的概率不能直接通过样本数据计算，而是通过计算检验统计量观测值的发生概率而间接得到的。所设计的检验统计量一般服从或近似服从某种已知的理论分布（如t-分布、F-分布、卡方分布），易于估算其取值概率。对于不同的假设检验和不同的总体，会有不同的选择检验统计量的理论和方法。假设检验的基本步骤计算检验统计量观测值的发生概率在假定原假设成立的前提下，利用样本数据计算检验统计量观测值发生的概率（即p值，又称“相伴概率”指该检验统计量在某个特定的极端区域在原假设成立时的概率）。该概率值间接地给出了在原假设成立的条件下样本值（或更极端值）发

16、生的概率。假设检验的基本步骤进行统计推断依据预先确定的 “显著性水平” （即值），如0.01或0.05，决定是否拒绝原假设。如果p值小于值，即认为原假设成立时检验统计量观测值的发生是小概率事件，则拒绝原假设。否则，就接受原假设。显著性水平：概念与意义在假设检验中，显著性水平（Significant level，用表示）的确定是假设检验中至关重要的问题。显著性水平是在原假设成立时检验统计量的制落在某个极端区域的概率值。因此，如果取= 0.05，如果计算出的p值小于 ，则可认为原假设是一个不可能发生的小概率事件。当然，如果真的发生了，则犯错误的可能性为5%。显然，显著性水平反映了拒绝某一原假设时所

17、犯错误的可能性，或者说， 是指拒绝了事实上正确的原假设的概率。显著性水平：通常的取值值一般在进行假设检验前由研究者根据实际的需要确定。常用的取值是0.05或0.01。对于前者，相当于在原假设事实上正确的情况下，研究者接受这一假设的可能性为95%；对于后者，则研究者接受事实上正确的原假设的可能性为99%。显然，降低值可以减少拒绝原假设的可能性。因此，在报告统计分析结果时，必须给出值。 显著性水平：进行统计推断在进行假设检验时，各种统计软件均会给出检验统计量观测值以及原假设成立时该检验统计量取值的相伴概率（即检验统计量某特定取值及更极端可能值出现的概率，用p表示）。p值是否小于事先确定的值，是接受

18、或拒绝原假设的依据。如果p值小于事先已确定的值，就意味着检验统计量取值的可能性很小，进而可推断原假设成立的可能性很小，因而可以拒绝原假设。相反，如果p值大于事先已确定的值，就不能拒绝原假设。 统计推断：过去的回忆在计算机技术十分发达，以及专业统计软件功能十分强大的今天，计算检验统计量及其相伴概率是一件十分容易的事情。然而，在20世纪90年代以前，只有服从标准正态分布的检验统计量，人们可以直接查阅事先准备好的标准正态分布函数表，从中获得特定计算结果的相伴概率。而对于的服从t-分布、F-分布、卡方分布或其它特殊的理论分布的检验统计量（大多数的假设检验是这样），人们无法直接计算相伴概率。人们通常查阅

19、各类假设检验的临界值表进行统计推断。这些表格以自由度和很少的几个相伴概率（通常为0.1、0.05和0.01）为自变量，以检验统计量的临界值为函数排列。在进行统计推断时，人们使用上述临界值表根据事先确定的显著性水平，查阅对应于某一自由度和特定相伴概率的检验统计量的临界值，然后将所计算出的检验统计量与该临界值相比较。如果检验统计量的计算值大于临界值，即实际的相伴概率小于事先规定的显著性水平，便可拒绝原假设。否则，可接受原假设。显著性水平：举例在根据显著性水平进行统计推断时，应注意原假设的性质。以二元相关分析为例，相关分析中的原假设是“相关系数为零”（即2个随机变量间不存在显著的相关关系）。如果计算

20、出的检验统计量的相伴概率（p值）低于事先给定值（如0.05），就可以认为“相关系数为零”的可能性很低， 既2个随机变量之间存在显著的相关关系。在正态分布检验时，原假设是“样本数据来自服从正态分布的总体”。此时，如果计算出的检验统计量的相伴概率（p值）低于事先给定值（如0.05），则表明数据不服从正态分布。只有p值高于值时，数据才服从正态分布。这与相关分析的假设检验不同。显著性水平作者在描述相关分析结果时常有的失误是：仅给出相关系数的值，而不给出显著性水平。这就无法判断2个随机变量间的相关性是否显著。有时作者不是根据显著性水平判断相关关系是否显著，而是根据相关系数的大小来推断（相关系数越近1，则

21、相关关系越显著）。问题是，相关系数本身是一个基于样本数据计算出的观测值，其本身的可靠性尚需检验。此外，作者在论文中常常用“显著相关”和“极显著相关”来描述相关分析结果，即认为p值小于0.05就是显著相关关系（或显著相关），小于0.01就是极显著相关关系（或极显著相关）。 统计推断的注意事项在假设检验中，只有 “显著”和 “不显著”，没有“极显著”这样的断语。只要计算出的检验统计量的相伴概率（p值）低于事先确定的值，就可以认为检验结果“显著”（相关分析的原假设是“相关系数为零”，故此处的“显著”实际意味着“相关系数不为零”，或说“2个随机变量间有显著的相关关系”）；同样，只要计算出的检验统计量的

22、相伴概率（p值）高于事先确定的值，就可以认为检验结果“不显著”。 统计推断的注意事项在进行相关分析时，不能同时使用0.05和0.01这2个显著性水平来决定是否拒绝原假设，只能使用其中的1个。 有关相关分析的断语1）显著和不显著：描述相关关系是否存在。2）相关性强或不强：在存在相关关系的前提下，这种相关关系的强或弱。可以认为，相关系数越接近1，则相关性越强。声明：第1）条是公认的数理统计常识，但第2）条是个人理解，仅供参考。本文不对第2）条承担责任。5 重要的数理统计学常识1）假设检验统计推断：单侧检验与双侧检验对于假设检验，其检验统计量的异常取值有2个方向，即概率分布曲线的左侧（对应于过小的值

23、）和右侧（对应于过大的值）。检验统计量的极端取值检验统计量在左侧和右侧均有可能取值检验统计量的取值空间单侧检验与双侧检验一般情况下，概率分布函数曲线两侧尾端的小概率事件都要考虑（即双侧检验）。如果事先有把握确定其中的一侧不可能取值，则仅需对另一侧的小概率事件进行检验即可（单侧检验）。在用 “查表法”进行统计推断时，基于单侧小概率事件检验的临界值表称“单尾表”，基于双侧小概率事件检验的临界值表称“双尾表”。除t-分布临界值表是双尾表外，大多数的检验临界值表均为单尾表。在显著性水平一定的情况下（例如 =0.05），对于单尾表，单侧检验时仍使用进行统计推断，双侧检验则用 /2进行统计推断；对于双尾表

24、，单侧检验时改用2进行统计推断，双侧检验则用 进行统计推断。在统计软件（如SPSS或SAS统计软件）给出的计算结果中，已标注出所计算的相伴概率是单侧还是双侧，对应于上述的单尾表和双尾表。单侧检验与双侧检验以下是SPSS 中的单样本t检验输出结果：One-Sample Test（原假设：储户1次平均存取的现金与2000元无显著差异）Test Value=2000（均值比较的参比值）t=1.240(检验统计量的观测值)df=312(自由度，样本量N=313)Sig.(2-tailed)=0.216（双侧相伴概率p ）Mean Difference=473.78（均值的标准误差）95% Confid

25、ence Interval of the Difference（总体均值与原假设值之差的95%的置信区间）:-278.131225.69（有95%的把握可认为：储户1次平均存取的金额为1721.873225.69元）上述检验属 “均值比较”，是双侧检验（大于或小于2000元都算拒绝原假设），计算的相伴概率也是双侧的。因此，可直接用p与比较。取=0.05,则因p大于，故不能拒绝原假设（不是小概率事件）。统计推断结果：根据313个储户调查数据，每个储户一次平均存取金额大体为2000元。单侧检验与双侧检验在统计软件中，可通过选择Test of Significance选项来控制所输出的相伴概率是单尾

26、（1 tailed）概率还是双尾（2 tailed ）概率。5 重要的数理统计学常识2）正态分布检验目的：检验样本是否来自正态分布的总体原假设：样本来自正态分布的总体分布检验只能使用非参数方法（只有分布形式已知时才能使用参数方法）。不同的统计软件给出了不同的检验方法。正态分布检验在SAS中，提供了Shapiro-Wilk(适用于样本量小于50的情形)检验法。此检验无单尾、双尾之分。在SPSS中提供了卡方检验（Chi-Square Test）和单样本的 Kolmogorov-Smirnov(柯尔莫哥洛夫-斯米尔诺夫，简称K-S)检验。后者比前者精确一些，建议采用。正态分布检验单样本的 Kolmogorov-Smirnov(柯尔莫哥洛夫-斯米尔诺夫，简称K-S)检验属于双侧检验，计算检