误差及数据处理复习过程_第1页
误差及数据处理复习过程_第2页
误差及数据处理复习过程_第3页
误差及数据处理复习过程_第4页
误差及数据处理复习过程_第5页
已阅读5页,还剩105页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、误差及数据处理1. 1. 绝对误差绝对误差(absolute error)(absolute error):测量值与测量值与真实值之差真实值之差 %100%100%xEr%100%xEr注:注:未知,未知,已知,可用已知,可用代替代替值值分析结果的准确度应该用相对误差来表示。分析结果的准确度应该用相对误差来表示。 例例:用分析天平称两份样品的质量分别为:用分析天平称两份样品的质量分别为0.9900g和和0.4900g,已知真实值分别为,已知真实值分别为1.0000g和和0.5000g,问哪一份结果更准确?,问哪一份结果更准确?%1%1000000. 101. 0%100%111rE%2%100

2、5000. 001. 0%100%222rE (1) 约定真值:国际单位和我国的法定计量单位约定真值:国际单位和我国的法定计量单位, 如如摩尔、摩尔、 原子量等。原子量等。 (2) 标准值与标准试样:标准值与标准试样: 标准值:采用可靠的分析方法,在不同实验室标准值:采用可靠的分析方法,在不同实验室(经相关部门认可),由不同分析人员对同一试样(经相关部门认可),由不同分析人员对同一试样进行反复复多次测定,然后将大量测定数据用数理进行反复复多次测定,然后将大量测定数据用数理统计方法处理而求得的测量值,这种通过高精度测统计方法处理而求得的测量值,这种通过高精度测量而获得的更加接近真值的值称为标准值

3、(或相对量而获得的更加接近真值的值称为标准值(或相对真值)。真值)。 获得标准值的样品称为标准样品或标准参考物质。获得标准值的样品称为标准样品或标准参考物质。%66.60%10099.2245.3545.35%100)()()(NaClMClMClw%2 . 0%100%Erdxxi注意:注意:(1)单位)单位(2)符号)符号nxxdn1ii注意:注意:(1)单位)单位(2)只有正值)只有正值%100%100%xnxxxdi)相对偏差(注意:注意:(1)无单位)无单位(2)只有正值)只有正值对少量测定值(对少量测定值(n20)n20)1)(11)(121212nxnxSnxxSniniiini

4、i或注意:单位注意:单位%1001)(%100(%)12xnxxxSRSDnii 在实际工作中多用在实际工作中多用RSD表示分析结果的表示分析结果的精密度。精密度。)/(2043. 04/ )2043. 02039. 02049. 02041. 0(Lmolx)/(0003. 04)0000. 00004. 00006. 00002. 0(Lmolnddi%2 . 0%1002043. 00004. 0%100 xsRSD)/(0004. 014)0000. 0()0004. 0()0006. 0()0002. 0(122222LmolndSi%15. 0%1002043. 00003. 0%

5、100%xd相对偏差1. 准确度高,要求精密度一定高,精密度是保证准确度高,要求精密度一定高,精密度是保证准确度的先决条件;但精密度好,准确度不一准确度的先决条件;但精密度好,准确度不一定高。定高。2. 准确度表示测量结果的正确性准确度表示测量结果的正确性 精密度表示测量结果的重复性或重现性精密度表示测量结果的重复性或重现性二、系统误差和偶然误差二、系统误差和偶然误差Rf x y z( , , ) Rxyz,1加减法计算2乘除法计算zyxRzyxRzyxRzzyyxxRR/MVmc VMmCVMmC%0.042500.07430-mVmCVmC后前)/(00004. 0/10

6、03. 0%04. 0LmolLmolC)/(10134. 0)00004. 0(1013. 0LmolCzyxRzyxRzyxRzyxRzyxR/1)加减法计算Rf x y z ( , , )zyxSSS,zyxR2222zyxRSSSS2. 标准差法标准差法 和、差结果的标准偏差的平方,等于各测量值的标准偏差的平方和2)乘除法计算乘除法计算zyxR22222222/zSySxSRSzyxR 积、商结果的相对标准偏差的平方积、商结果的相对标准偏差的平方,等于各测量值的相对标准偏差的平方和。等于各测量值的相对标准偏差的平方和。)(14. 0222221mgSSSSmLmolVVCCNaOHHC

7、LHCLNaOH/1200. 000.2500.301000. 022222121222VSVSCSNaOHC4422101 . 1102 . 912. 03001. 022502. 0NaOHCCS%1 . 0%1000001. 02%mErgm2000. 0mlV20%1 . 0%10001. 02%VEr含量标准试样中某组分测得含量标准试样中某组分已知测得含量试样中某组分组分含量试样中某 %100%纯品加入量加入前的测得量加入纯品后的测得量)回收率( 2. 在在09中,只有中,只有0既是有效数字,又是无既是有效数字,又是无效数字效数字 例:例: 0.06050 四位有效数字四位有效数字

8、例:例:3600 3.6103 两位两位 3.60103 三位三位3单位变换不影响有效数字位数单位变换不影响有效数字位数 例:例:10.00ml0.001000L 均为四位均为四位4pH,pM,pK,lgC,lgK等对数值,其有等对数值,其有效数字的位数取决于小数部分(尾数)数效数字的位数取决于小数部分(尾数)数字的位数,整数部分只代表该数的方次字的位数,整数部分只代表该数的方次 例:例:pH = 11.20 H+= 6.310-12mol/L 两位两位 例:例:9.35 ,可视为四位有效数字,可视为四位有效数字例如例如, 要修约为四位有效数字时要修约为四位有效数字时: 尾数尾数4时舍时舍,

9、0.526640.5266 尾数尾数6时入时入, 0.36266 0.36270.3740.375 6.5 2.58.3697.5497.45007.35007.4507.47.5保留两位有效数字保留两位有效数字52.1 0.328%100%mEEr)( 1 . 0%100%1 . 00001. 0gm222)(21)(xexfy二、二、t 分布(分布(t distribution)Sxt 在统计少量数据时,为了补偿误差,采用在统计少量数据时,为了补偿误差,采用t分布对有限测量数据进行统计处理。分布对有限测量数据进行统计处理。值的,自由度为表示置信度为值的,自由度为表示置信

10、度为tttt4%9910%954,01. 010,05. 0fttP,下,一定正态分布与 t 分布区别xusxt为总体均值为总体标准差差为有限次测量值的标准sutf注:nxnssxxxsnxn,抽出样本总体xxssn214xxssn5125总体平均值有限次测量均值xuxnuxuxx 右侧为样本平均值的置信区间,右侧为样本平均值的置信区间,般称为般称为平均值的置信区间平均值的置信区间nstxstxxxnstxstxxfxf, 右侧为少量测量值的平均值的置信区间,右侧为少量测量值的平均值的置信区间,其上限值为其上限值为 ,用,用XU表示;表示; 下限下限为为 ,用,用XL表示;表示; 为置信限。为

11、置信限。 ntSx/ntSx/ntS 置信区间(置信区间(confidence limit):一定置信度:一定置信度下,以测量结果为中心,包括总体均值的可下,以测量结果为中心,包括总体均值的可信范围信范围 平均值的置信区间:一定置信度下,以测平均值的置信区间:一定置信度下,以测量结果的均值为中心,包括总体均值的可信量结果的均值为中心,包括总体均值的可信范围范围 置信限置信限(confidence interval):xxstuu%95%10. 0%50.47在内的概率为包括总体均值的区间内理解为在%95%10. 0%50.47P置信度(%)032. 079.109/042. 0306. 279

12、.10(%)047. 079.109/042. 0355. 379.10 总体平均值总体平均值( (真值真值) )在在10.7610.76l0.84%l0.84%间的间的概率为概率为9595;若使真值出现的概率提高为;若使真值出现的概率提高为9999,则其总体平均值的置信区间可扩大为,则其总体平均值的置信区间可扩大为10.7410.74l0.84%l0.84%.42. 0%,79.10, 9Sxn(%)76.109042. 0860. 179.10/ntSxXL例例3 上例中,上例中, 若只问若只问Al含量总体平均值大于何值(或含量总体平均值大于何值(或小于何值)的概率为小于何值)的概率为95

13、%. (%)82.109042. 0860. 179.10/ntSxXu303. 4,153. 0, 5 .332,05. 03tSx776. 2,164. 0, 6 .334,05. 05tSx袋)/(38. 05 .333/153. 0303. 45 .33mg袋)/(20. 06 .335/164. 0776. 26 .33mg t。判断:nsxtnstx由) 1(nftPf自由度时,查临界值表在一定,则存在显著性差异如ftt,,则不存在显著性差异如ftt,9 . 25/1071017. 11008. 1533t 查表查表2-2双侧检验,得双侧检验,得t0.05,42.776。t t0.

14、05,4 。说明平均值与标准值之间有显著性差别说明平均值与标准值之间有显著性差别,新方法不新方法不够好,可能其中存在某种系统误差。够好,可能其中存在某种系统误差。解:题意为单侧检验7 . 1628. 075. 694. 6t 查表得单侧检验t0.05,52.015。1.7Q临界值临界值,则可疑值舍弃则可疑值舍弃.5 . 01012. 01026. 01019. 01026. 01545xxxxQ( 二 )( 二 ) G 检 验 法 ( 格 鲁 布 斯 检 验 法 )检 验 法 ( 格 鲁 布 斯 检 验 法 )(Grubbs test)(1)计算包括可疑值在内的平均值)计算包括可疑值在内的平均

15、值(2)计算可疑值)计算可疑值xq与平均值之差的绝对值与平均值之差的绝对值(3)计算包括可疑值在内的标准偏差)计算包括可疑值在内的标准偏差S(4)用可疑值与平均值之差除标准偏差,得)用可疑值与平均值之差除标准偏差,得G值值(5)查表)查表2-6得得G,n,如果,如果G G,n,将可疑值舍去,否则保留。将可疑值舍去,否则保留。SxxGq例:标定某一标准溶液得到例:标定某一标准溶液得到4个结果:个结果:0.1014、0.1012、 0.1019和和0.1016mol/L,用,用Grubbs法判断法判断0.1019 是否应舍弃?(置信度为是否应舍弃?(置信度为95%)G0.05,41.46所以所以0

16、.1019不能舍弃。不能舍弃。40.1014+0.1019+0.1012+0.1016X0.10150.00030.10150.1019G1.33异常值的异常值的取舍取舍(%)102 . 9(%),747. 0, 63111Sxn(%)104 . 4(%),746. 0, 63222Sxn6 . 1102 . 9747. 0762. 03G82. 1104 . 4746. 0738. 03G37. 4)104 . 4()102 . 9(2323F 查表查表2-4得得F0.05,5,55.05。FF0.05,5,5,说明说明两种方法精密度相当,可进行两种方法精密度相当,可进行t 检验。检验。(%

17、)102 . 7)266()104 . 4)(16()102 . 9)(16(32323RS24. 06666102 . 7746. 0747. 03t(一)相关分析(一)相关分析n1in1i2i2in1iii)yy()xx()yy)(xx(r1r0r的大小反映了x与y两个变量间相关的密切程度,r越接近于1,二者的相关性越好。相关系数(二)回归分析(二)回归分析n1in1i2i2in1in1in1iiiii)x(xnyxyxbnxbyan1in1iiibxay 设x为自变量,y为因变量.回归分析就是要找出y的平均值与x之间的关系。101. 116)2 . 0() 1 . 1(0 . 16 . 1)2 . 0() 1 .

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论