第二章 误差及分析数据的统计处理_第1页
第二章 误差及分析数据的统计处理_第2页
第二章 误差及分析数据的统计处理_第3页
第二章 误差及分析数据的统计处理_第4页
第二章 误差及分析数据的统计处理_第5页
已阅读5页,还剩46页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、第二章第二章 误差及分析数据的统计处理误差及分析数据的统计处理2-1 定量分析中的误差定量分析中的误差 定量分析的任务是准确定量分析的任务是准确测定试样中组分的含量。但是,即使是技术很熟练的分析工作者,用最完善的分析方法和最精密的仪器,对同一样品进行多次测定,其结果也不会完全一样。这说明客观上存在着难以避免难以避免的误差。因此,我们在进行定量测量时,不仅要得到得到被测组分的含量,而且还应对分析结果作出评价评价,判断判断其准确性(可靠程度),找出找出产生误差的原因,并采取有效的措施,减少误差。一、一、 误差的表示误差的表示 从理论上说,样品中某一组分的含量必有一从理论上说,样品中某一组分的含量必

2、有一个客观存在的真实数据,称之为个客观存在的真实数据,称之为“”。测。测定值定值(x)与真实值与真实值()之差称为误差之差称为误差(绝对误差绝对误差)。 误差的大小反映了测定值与真实值之间的符误差的大小反映了测定值与真实值之间的符合程度,也即测定结果的准确度。合程度,也即测定结果的准确度。 误差有正负误差有正负, 测定值测定值 真实值真实值 ,误差为正误差为正; 测定值测定值 2.5 时,概率为:时,概率为:0.5 0.4938 = 0.0062 =0.62%一样品,标准值为一样品,标准值为1.75%,测得,测得 = 0.10, 求结果落在求结果落在1.750.15% 概率;概率;测量值大于测

3、量值大于2 %的概率。的概率。86.6%0.62%P a ap + a = 1a 显著水平显著水平 P 置信度置信度六、有限次测定中随机误差的六、有限次测定中随机误差的t t分布曲线分布曲线在有限次测定中无法计算总体标准差和总在有限次测定中无法计算总体标准差和总体平均值,其随机误差并不完全符合正态分体平均值,其随机误差并不完全符合正态分布,而是服从于布,而是服从于t分布。分布。 ( (与与u相比,用相比,用s代替代替) nsxsxtxt 分布曲线无限次测量,得到无限次测量,得到 xu有限次测量,得到有限次测量,得到xs snsxsxtxt t 分布曲线分布曲线0.000.100.200.300

4、.40-3-2-10123uyu u 分布分布曲线曲线t分布曲线的特点:分布曲线的特点: (1)(2)t t在不同的自由度在不同的自由度f(f=n-1)下,下,t分布曲线具有不同分布曲线具有不同的形状。的形状。 f对对t分布的影响实质上反映的是测量次数分布的影响实质上反映的是测量次数n对对t分布分布的影响的影响 。 从图从图可以看出:可以看出:t分布曲线一般总要比标准正态分布分布曲线一般总要比标准正态分布曲线曲线 “ “矮胖矮胖”,这表明有限次测量的分布要更分散。,这表明有限次测量的分布要更分散。 与与u的区别在于用有限次测量的标准偏差的区别在于用有限次测量的标准偏差s代替了代替了总体标准总体

5、标准偏差偏差f时,时,s才趋于才趋于t分布曲线才与标准正态分布曲线完全吻合,分布曲线才与标准正态分布曲线完全吻合,f因此也可以把标准正态分布看成是因此也可以把标准正态分布看成是t分布的一个特例。分布的一个特例。这个式子表明:真实值这个式子表明:真实值可能存在于可能存在于 这个区间之中,此区间称为这个区间之中,此区间称为。决定。决定置信区间大小的置信区间大小的t值,对应着一定的置信概值,对应着一定的置信概率,这个置信概率称为率,这个置信概率称为,也即真值位,也即真值位于该置信区间内的把握。于该置信区间内的把握。 由由P14表表2-2的的t值表可以看出:值表可以看出: t值与置信度及测定次数值与置

6、信度及测定次数n有关。有关。ntsx ntsx nsxsxtx 首先,当首先,当测定次数测定次数相同时,置信度越大,相同时,置信度越大,t值越大,值越大,则置信区间就较宽,测量的精确度下降。反之,则置信区间就较宽,测量的精确度下降。反之,置信度越小,置信度越小,t值越小,置信区间就越窄。此时尽值越小,置信区间就越窄。此时尽管置信区间的准确度提高了,但其可靠性却降低管置信区间的准确度提高了,但其可靠性却降低了(见了(见P15,例例3)。)。 置信区间的置信区间的准确性与可靠性准确性与可靠性是两个相互矛盾、是两个相互矛盾、相互制约的因素,为了兼顾这两个方面,通常都相互制约的因素,为了兼顾这两个方面

7、,通常都将置信度定为将置信度定为90%或或95%。在在相同置信度相同置信度下,下,n越大,置信区间就越小,平均越大,置信区间就越小,平均值与真值就越接近,测定的准确性就越高。但当值与真值就越接近,测定的准确性就越高。但当n大于大于20后,后,t值的变化不大,再增加测定次数对提值的变化不大,再增加测定次数对提高测定结果的准确度已经没有什么意义了。高测定结果的准确度已经没有什么意义了。例:分析例:分析Fe %,求:(求:(1)置信度为)置信度为95时平均值的置信区间时平均值的置信区间 =39.16%, s=0.05%, n=5 解:先查表找出相应的解:先查表找出相应的t t值,查表值,查表 776

8、.2t 06.016.3916.39505.0776.2nstxx(2)如果置信区间为(如果置信区间为(39.160.05),问至少测),问至少测定几次?定几次? 由由所以所以 当当 n = 2, , , , t=12.706 n = 3, , , , t=4.303 n = 4, , , , t=3.182 n = 5, , 2.236, t=2.776 n = 6, , 2.449, t=2.571, , 05. 0nts xnst105. 005. 005. 0snt414. 1n732. 1n2nnn1nt所以至少需平行测定六次,才能使置信区间为所以至少需平行测定六次,才能使置信区间为

9、(39.160.05)2-2 分析结果的数据处理分析结果的数据处理 在一组平行测定值中在一组平行测定值中常常出现某一、两个测定常常出现某一、两个测定值比其余测定值明显地偏大或偏小,我们称之为可值比其余测定值明显地偏大或偏小,我们称之为可疑值(离群值)。比如四次平行测定值为疑值(离群值)。比如四次平行测定值为0.1010,0.1012,0.1014和和0.1024,其中,其中0.1024与其他三个数与其他三个数据相差较远,究竟应该舍去还是保留据相差较远,究竟应该舍去还是保留?由于可疑值由于可疑值的取舍对结果的平均值影响较大的取舍对结果的平均值影响较大, 所以对可疑数值所以对可疑数值的取舍必须十分

10、慎重,尤其当数据较少时,可疑数的取舍必须十分慎重,尤其当数据较少时,可疑数据的取舍对结果影响更大,不能为了单纯追求实验据的取舍对结果影响更大,不能为了单纯追求实验结果的精密度高,而随便舍弃可疑数值。必须用统结果的精密度高,而随便舍弃可疑数值。必须用统计的方法对可疑数据先进行判断,以决定是否应该计的方法对可疑数据先进行判断,以决定是否应该舍去。舍去。一、可疑测定值的取舍一、可疑测定值的取舍 常用的方常用的方法有法有格鲁布斯(格鲁布斯(Grubbs)检验法检验法(G检检验法验法)、 Q值检验法等。值检验法等。1 1、格鲁布斯检验法格鲁布斯检验法(G检验法检验法)G检验法适用于测定次数为检验法适用于

11、测定次数为3-20次。具体步骤如下:次。具体步骤如下: (1)、设有、设有n个测定值,其递增顺序为:个测定值,其递增顺序为:nxxxx., 3, 2, 1其中其中 1x或或nx可能是可疑数值。可能是可疑数值。(4)、若若x1 1为可疑值时,统计量为可疑值时,统计量G算式为:算式为: sxxG计11x 为可疑值)为可疑值) (若若nx为可疑值时,统计量为可疑值时,统计量G算式为:算式为:sxxGn计( 为可疑值)为可疑值) nx (2)、求出可疑值与平均值之差求出可疑值与平均值之差 (3)、求出标准偏差求出标准偏差s 查查G值表,值表,P17,表,表2-3,根据测量次数,根据测量次数n和测定置信

12、和测定置信度度P查得相应的查得相应的G p,n, 计GnpG,2、Q值检验法值检验法Q检验法适用于测定次数为检验法适用于测定次数为3-10次。具体步骤如下:次。具体步骤如下:1. 将测得的数据由小到大排列为:将测得的数据由小到大排列为: nxxxx.,3,2,1其中其中 , 1x或或 为可疑数值为可疑数值; ; nx2. 求出最大与最小数据之差(极差)求出最大与最小数据之差(极差) 1xnx;3. 求出可疑数据与其最邻近数据之差求出可疑数据与其最邻近数据之差 1nxnx或或: :12xx 4.求出舍弃商求出舍弃商Q计计 ( (11xxxxnnn计Qnx可疑可疑) ) ( ( 可疑可疑) ) 1

13、12xxxxQn计1x5. 查查Q值表,值表,p18,表表2-4,可得相应,可得相应n值和置信度下的值和置信度下的Q表表值值,。如果出。如果出现现Q计计=Q表表,最好再补测一、二次,再用,最好再补测一、二次,再用Q检验法决定检验法决定取舍。取舍。 此外如果需对一个以上可疑值决定取舍时,首先检此外如果需对一个以上可疑值决定取舍时,首先检验最小值,然后再检验最大值。验最小值,然后再检验最大值。 例题:用例题:用Na2CO3标定标定HCl溶液的浓度,测定六次溶液的浓度,测定六次(n=6),结果如下:结果如下: 0.5050, 0.5042,0.5086,0.5063,0.5051,0.5064mol

14、/L问:问: 用用Q检验法判断检验法判断0.5086 是否应舍去?是否应舍去? 解:解: (1) 按由小到大排列:按由小到大排列: 0.5042,0.5050,0.5051,0.5063,0.5064,0.5086 (2)xn - xn-1 = 0.5086 - 0.5064=0.0022 (3) xn x1 = 0.5086 - 0.5042=0.0044 (4) 50. 00044. 00022. 05042. 05086. 05064. 05086. 011xxxxnnn计Q(5)查查Q值表,当置信度值表,当置信度P=90, n=6时,时,Q表表0.56 Q计计Q表,表,所以该值应该保留

15、所以该值应该保留 Q检验法的优点是设定了一定的置信度(通常为检验法的优点是设定了一定的置信度(通常为90)因)因此判断的确定性较高。缺点是:数据的离散性(此判断的确定性较高。缺点是:数据的离散性(xn x1)越越大,大,Q计计反而越小,可疑数据越不能舍去。反而越小,可疑数据越不能舍去。 例:测定氯化物中氯的百分含量,共测定了例:测定氯化物中氯的百分含量,共测定了8 8次,次,所得结果分别为:所得结果分别为:59.83,60.04,60.45,59.88,60.33,60.24,60.28,59.77,试用试用Grubbs检测法对上述数据作出判断(置信度检测法对上述数据作出判断(置信度取取95)

16、 解:将数据按递增顺序排列为:解:将数据按递增顺序排列为:59.77,59.83,59.88,60.04,60.24,60.28,60.33,60.45()() 求出其平均值求出其平均值 和标准偏差和标准偏差s为:为: ,s=0.26 x%10.60 x根据根据Grubbs检验法检验法 27. 126. 077.5910.6011sxxG35. 126. 010.6045.6088sxxG查查G值表,当值表,当n8和置信度为和置信度为95时,时, ,故,故59.77和和60.45均应保留。均应保留。因此,上述因此,上述8个数据的平均值仍为个数据的平均值仍为60.10 , ,所以所以该氯化物中氯

17、的真实含量为:该氯化物中氯的真实含量为:)(03. 28195. 0GGG,%22. 010.6036. 2826. 010.60,95. 0)()(ftnsx)%22. 010.60(% Cl二、平均值与标准值的比较(检查方法的准确度或方法二、平均值与标准值的比较(检查方法的准确度或方法是否可行,显著性检验,是否可行,显著性检验,t检验检验 ) 在分析工作中为了检查某一分析方法是否存在较大的系在分析工作中为了检查某一分析方法是否存在较大的系统误差统误差, ,可用标准样品作可用标准样品作n n次测定次测定, ,然后利用上述检验法然后利用上述检验法, ,检检测测定结果的平均值测测定结果的平均值

18、x与标准值与标准值 之间是否存在显著性差异,之间是否存在显著性差异,从而判定某一分析方法是否可靠。从而判定某一分析方法是否可靠。作作t t检验时,先将标准值检验时,先将标准值 与平均值与平均值 x代入下式,计算代入下式,计算t值:值: snxt计根据所要求的置信度根据所要求的置信度P(通常取通常取95)和测量次数)和测量次数 n,由由t值表值表查出相应的查出相应的t表值。表值。 x 表示该方法没有系统误差存在表示该方法没有系统误差存在, ,所得结果可靠。所得结果可靠。 x 表示该方法有系统误差存在表示该方法有系统误差存在, ,所得结果不可靠。所得结果不可靠。例题例题:采用一种新的方法分析标准钢

19、样中的铬含量采用一种新的方法分析标准钢样中的铬含量 %17. 15次测定结果为次测定结果为1.12,1.15,1.13,1.16和和1.14%,问这种新方法问这种新方法是否可靠是否可靠? 解解: : x=1.14, =1.14, s = 0.016,n = 5,故故 19. 45016. 017. 114. 1计t查表:查表:P=0.95, n=5时,时,t表表=2.78由于由于 表计tt,因此认为,因此认为 x和和 之间存在显著差异之间存在显著差异, ,此种此种新方法不可靠。新方法不可靠。2-3 有效数字及其运算规则有效数字及其运算规则一、有效数字一、有效数字 在分析测定工作中,不仅要注意在

20、实验中减少误差,力在分析测定工作中,不仅要注意在实验中减少误差,力求准确,还应正确记录和计算实验结果。也就是说表示实求准确,还应正确记录和计算实验结果。也就是说表示实验结果的数值即要表示数量的大小,同时也要反映出测量验结果的数值即要表示数量的大小,同时也要反映出测量的准确程度。例如,用一般的分析天平称得某物体的质量的准确程度。例如,用一般的分析天平称得某物体的质量为为0.5180 g, 这一数值中,这一数值中,0.518是准确的,最后一位数值是准确的,最后一位数值“0”是估读的,可能有上下一个单位的误差,即其实际质量是是估读的,可能有上下一个单位的误差,即其实际质量是0.51800.0001g

21、范围内的某一数值。此时称量的绝对误差范围内的某一数值。此时称量的绝对误差为为0.0001g,相对误差相对误差为为 %02. 0%1005180. 00001. 0若将上述称量结果写成若将上述称量结果写成0.518g,则该物体的实际质量将则该物体的实际质量将为为0.5180.001g范围内的某一数值,即绝对误差为范围内的某一数值,即绝对误差为0.001g,而相对误差则为而相对误差则为0.2。可见记录时多写一。可见记录时多写一位或少写一位位或少写一位“0”数字,从数学角度看关系不大,但是数字,从数学角度看关系不大,但是所所 反映的测量精确度无形中被扩大或缩小了反映的测量精确度无形中被扩大或缩小了1

22、0倍。在分倍。在分析测定工作中,通常用有效数字来体现测定值的大小析测定工作中,通常用有效数字来体现测定值的大小及精度。及精度。记录记录数据和计算结果时,所保留的有效数字只有最后一数据和计算结果时,所保留的有效数字只有最后一位是可疑的数字。例如位是可疑的数字。例如:用感量为百分之一克的台秤用感量为百分之一克的台秤称物体的重量称物体的重量,由于仪器本身能准确称到由于仪器本身能准确称到0.01g,所所以物体的重量如果是以物体的重量如果是10.4g,就应写成就应写成10.40g,不能不能写成写成10.4。如果用万分之一的分析天平称,由于其。如果用万分之一的分析天平称,由于其可称量准至可称量准至0.00

23、01g,所以上述重量应写为所以上述重量应写为10.4000g。 从前面的例子中可以看出:有效数字的位数直接与测从前面的例子中可以看出:有效数字的位数直接与测定的相对误差有关。因此,记录测量数据时,决不要定的相对误差有关。因此,记录测量数据时,决不要因为最后一位的数字是零而随便舍去。因为最后一位的数字是零而随便舍去。 数据中的数据中的“0”要作具体分析,要作具体分析,但要注意进行单位换算时,数字后但要注意进行单位换算时,数字后面用来定位的零不是有效数字,这时最好采用指数面用来定位的零不是有效数字,这时最好采用指数形式表示,否则,容易引起有效数字位数的误解。形式表示,否则,容易引起有效数字位数的误

24、解。例如:质量为例如:质量为25.0g若换算为毫克,写成若换算为毫克,写成25000mg,容易误解为五位有效数字,若写成容易误解为五位有效数字,若写成2.50104 mg就就比较准确的反映有效数字的位数比较准确的反映有效数字的位数。 (1)分析化学中常遇到的分析化学中常遇到的其整数部分只其整数部分只说明该数的方次。例如:说明该数的方次。例如:H+=2.110-13,pH=12.68,其有效数字为两位,而不是四位。其有效数字为两位,而不是四位。 (2)如如8.37虽三位但可虽三位但可看做四位有效数字。看做四位有效数字。 (3)(例如:求百分(例如:求百分含量、浓度、硬度等)含量、浓度、硬度等)

25、(4) 0.2098 0.21 要注意的几点:要注意的几点: 二二 、有效数字的修约和运算规则、有效数字的修约和运算规则1 1、有效数字的修约规则、有效数字的修约规则 数字修约规则和实例数字修约规则和实例 修约规则修约规则 修约前修约前 修约后(小数点后保留一位)修约后(小数点后保留一位) 四要舍四要舍 12.3 32 12.3六要入六要入 25.4 42 25.5五后有数要进位五后有数要进位 2.0 21 2.1五后无数看前方五后无数看前方 前为奇数就进位前为奇数就进位 0.5 00 0.6前为偶数全舍光前为偶数全舍光 0.6 00 0.6 2.0 00 2.0(0视为偶数)视为偶数) 2.

26、5 546 2.5不论舍去多少位不论舍去多少位都要一次修停当都要一次修停当(不要(不要 6 . 255. 2546. 25455. 2)2 2、运算规则、运算规则( (一一) )加减法运算加减法运算 有效数字的位数应以参加运算的各数据中有效数字的位数应以参加运算的各数据中例如:例如:0.0121 + 25.64+ 1.05782 (0.0001 0.01 0.00001) 0.01 + 25.64 + 1.06 26.71( (二二) )乘除法运算乘除法运算 应以参加运算的各数据中应以参加运算的各数据中例如:例如:0.0325 5.103 60.06139.8 (0.3 0.02 0.02 0.07 ) 0.0325 5.10 60.1 140 0.0713 小小 结结 误差有正负误差有正负 误差误差 或或 TxE xE%100%TEEr相对误差相对误差偏差偏差 xxdii相对偏差相对偏差 100%xddir平均偏差平均偏差 dndi1 相对平均偏差相对平均偏差 %100%xddr标准偏差标准偏差 1-n-i)(xxsnxi2)(n相对标准偏差相对标准偏差 (变异系数(变异系数CV)s sr rx

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论