版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
1、Harbin Engineering University 第第 2 章章 定量分析中的误差与数据处理定量分析中的误差与数据处理Harbin Engineering University2.2 定量分析数据的评价和显著检验定量分析数据的评价和显著检验2.3 有效数字及其运算规则有效数字及其运算规则2.4 分析质量的保证和质量控制分析质量的保证和质量控制(略)(略)2.5 标准曲线的回归分析标准曲线的回归分析 1.掌握误差的表示方法。掌握误差的表示方法。 系统误差与偶然误差的特点,减免与判别系统误差与偶然误差的特点,减免与判别的方法;精密度与准确度的定义、作用与两者的方法;精密度与准确度的定义、
2、作用与两者关系;置信度与置信区间的定义及计算;数据关系;置信度与置信区间的定义及计算;数据取舍方法。定量数据的评价方法;有效数字的取舍方法。定量数据的评价方法;有效数字的概念,运算规则及数字修约规则。概念,运算规则及数字修约规则。 2.提高分析结果准确度的方法与途径。提高分析结果准确度的方法与途径。 3.了解随机误差的分布特征了解随机误差的分布特征正态分布,正态分布,误差的传递。误差的传递。 误差是客观存在的。一个没有标明误差的误差是客观存在的。一个没有标明误差的测定结果,几乎是没有用处的数据。测定结果,几乎是没有用处的数据。1.误差与准确度误差与准确度 误差误差( (error) )是指测定
3、值与真值是指测定值与真值( (true value)之差,用来表征测定结果偏离真值的程度。之差,用来表征测定结果偏离真值的程度。 真值:在观察的瞬时条件下,质量特征的真值:在观察的瞬时条件下,质量特征的确切数值(真值不为人们所知,实际工作中通确切数值(真值不为人们所知,实际工作中通常用标准值来代替常用标准值来代替 )。)。 误差的大小:用绝对误差误差的大小:用绝对误差Ea(absolute error)和和相对误差相对误差Er(relation error)来表示来表示。 2.1.1 误差、误差的分类及其特点误差、误差的分类及其特点准确度准确度分析结果与真值的接近程度分析结果与真值的接近程度
4、准确度的高低用误差的大小来衡量准确度的高低用误差的大小来衡量。绝对误差:绝对误差: Eax 相对误差:相对误差:%x%EEar100100 相对偏差:相对偏差:100%100%iirdxxdxx 偏差偏差 :指指单次测量值单次测量值与多次测定的与多次测定的平均值平均值之之 间的差值。间的差值。 精密度:几次平行测定结果相互接近程度。精密度:几次平行测定结果相互接近程度。 精密度的高低用偏差来衡量。精密度的高低用偏差来衡量。 绝对偏差:绝对偏差: di xix 偏差和误差偏差和误差都有正负都有正负 ( (偏高或偏低)之分。偏高或偏低)之分。 误差和偏差误差和偏差是两个不同的概念。是两个不同的概念
5、。 偏差的大小反映了测定值的重现性,一组平行偏差的大小反映了测定值的重现性,一组平行测定值之间相互接近的程度定义为精密度测定值之间相互接近的程度定义为精密度(precision)。精密度的大小用偏差来表示,偏)。精密度的大小用偏差来表示,偏差大,精密度低。差大,精密度低。 重现性重现性: :表示同一分析工作者在同一条件下所表示同一分析工作者在同一条件下所得到分析结果的精密度;得到分析结果的精密度; 再现性再现性: :表示不同分析工作者或不同实验室之表示不同分析工作者或不同实验室之间,在各自的条件下所得到分析结果的精密度;间,在各自的条件下所得到分析结果的精密度;(1)精密度是保证准确度的先决条
6、件;精密度是保证准确度的先决条件; 准确度高,要求精密度一定高。准确度高,要求精密度一定高。(2)但精密度高不一定准确度高;但精密度高不一定准确度高;(3)两者的差别主要是由于系统误差的存两者的差别主要是由于系统误差的存在。在。 准确度反映了测量结果的准确性准确度反映了测量结果的准确性 精密度反映了测量结果的重现性精密度反映了测量结果的重现性 1. 准确度高,要求精密度一定高 但精密度好,准确度不一定高 2. 准确度反映了测量结果的正确性 精密度反映了测量结果的重现性 真实值真实值甲甲乙乙丙丙丁丁准确度与精密度的关系准确度与精密度的关系 真实值真实值甲甲乙乙丙丙丁丁甲:数据集中,精密度和准确度
7、都高,结果可靠。甲:数据集中,精密度和准确度都高,结果可靠。 乙:数据集中,精密度高而准确度低,存在系统误差。乙:数据集中,精密度高而准确度低,存在系统误差。 丙:数据分散丙:数据分散, , 精密度和准确度均不高精密度和准确度均不高, , 结果自然不可靠结果自然不可靠 丁:数据分散,精密度非常差,尽管正、负误差恰好相丁:数据分散,精密度非常差,尽管正、负误差恰好相互抵消而使平均值接近真实值,但只是偶然的巧合,并互抵消而使平均值接近真实值,但只是偶然的巧合,并不可靠不可靠 b:基准物:硼砂基准物:硼砂 Na2B4O710H2O M=381 碳酸钠碳酸钠 Na2CO3 M=106 选那一个更能使测
8、定结果准确度高?选那一个更能使测定结果准确度高? (不考虑其他原因,只考虑称量)(不考虑其他原因,只考虑称量)a:用万分之一的分析天平称用万分之一的分析天平称取不同质量的试样时,绝对误取不同质量的试样时,绝对误差同为差同为0.0001g。称取试样称取试样的质量为的质量为2.0000g和和0.2000g时时那一个相对误差大?那一个相对误差大?(1)平均偏差和相对平均偏差)平均偏差和相对平均偏差 平均偏差(平均偏差(average deviation)又称算术平均偏差)又称算术平均偏差: 11nniiiidxxdnn相对平均偏差:相对平均偏差: 100%dx 平行测定值彼此越接近平行测定值彼此越接
9、近( (离散性越小离散性越小) ),平均偏差或,平均偏差或相对平均偏差就越小,测量值的精密度越高;相对平均偏差就越小,测量值的精密度越高; 一组平行测定值中,小偏差出现几率比大偏差的高一组平行测定值中,小偏差出现几率比大偏差的高。按总的测定次数求算术平均值,所得结果偏小。平均。按总的测定次数求算术平均值,所得结果偏小。平均偏差和相对平均偏差对偏差和相对平均偏差对大偏差不能作出应有的反映大偏差不能作出应有的反映。 指一组平行测定值中最大值指一组平行测定值中最大值xmax与最小值与最小值xmin之差:之差: R = xmax xmin 极差极差R实际上就是最大正偏差与绝对值最大的负偏实际上就是最大
10、正偏差与绝对值最大的负偏差之和。这表明极差对一组平行测定值中的大偏差反差之和。这表明极差对一组平行测定值中的大偏差反映灵敏。映灵敏。 极差简单直观,便于计算,在某些常规分析中,极差简单直观,便于计算,在某些常规分析中,可用极差简单地评价精密度是否达到要求。可用极差简单地评价精密度是否达到要求。 极差的缺点是对数据提供的信息利用不够,极差的缺点是对数据提供的信息利用不够,过分过分依赖于一组数据的两个极值,不能反映数据的分布依赖于一组数据的两个极值,不能反映数据的分布。 由于由于xmin xmax,00minmax xx,xxxxxxxxxxR minmaxminmax)()(当测定为无限多次时,
11、标准偏差当测定为无限多次时,标准偏差的数学表达式为的数学表达式为 为无限多次测定的总体平均值为无限多次测定的总体平均值( (真值真值) )。当测定次。当测定次数趋向无穷大时数趋向无穷大时(无系统误差)(无系统误差),其可看作为真值。,其可看作为真值。 在有限次测定在有限次测定( (n QX 舍弃该数据,(过失误差造成)舍弃该数据,(过失误差造成) 若若Q G 表表,弃去可疑值,反之保留。,弃去可疑值,反之保留。 由于格鲁布斯由于格鲁布斯(Grubbs)检验法引入了标准偏差,故检验法引入了标准偏差,故准确性比准确性比Q 检验法高。检验法高。1nxxxxGGss计算计算或基本步骤:基本步骤:(1)
12、排序排序:x1,x2,x3,x4xn(2)求求 和标准偏差和标准偏差s(3)计算计算G值值:x测定碱灰总碱量(测定碱灰总碱量(Na2O%)得到得到6个数据,按其个数据,按其大小顺序排列为大小顺序排列为40.02,40.12,40.16,40.18,40.18,40.20。第一个数据可疑,判断是否应舍。第一个数据可疑,判断是否应舍弃?(置信度为弃?(置信度为95%)。)。(40.12-40.02)%0.56(40.20-40.02)%Q计算查表查表 n = 6 , Q表表 = 0.64 保留保留1.平均值与标准值平均值与标准值( )的比较的比较 t 检验法检验法 (1) 计算计算 t 值值(2)
13、 由要求的置信度和测定次数,查表,得:由要求的置信度和测定次数,查表,得:t表表(3) 比较比较 t计计 t表表 表示有显著性差异表示有显著性差异, ,存在系统误差存在系统误差, ,被检验方法需被检验方法需要改进。要改进。 t计计 F表表,表示有显著性差异。表示有显著性差异。 两种分析方法测定的两组数据;两种分析方法测定的两组数据; 两个分析人员测定的两组数据;两个分析人员测定的两组数据; 两个实验室测定的两组数据。两个实验室测定的两组数据。 F计计 F表表, 表示无显著性差异。表示无显著性差异。2s大2s小.查表查表( (自由度自由度 f = f 1+ f 2 = n1+n2 2),比较:比
14、较:t计 t表,表示有显著性差异表示有显著性差异 t计计 t表表,表示无显著性差异表示无显著性差异。.计算计算值:值:(2) t 检验法检验法(平均值之间是否有显著性差异)(平均值之间是否有显著性差异)a.求合并的标准偏差求合并的标准偏差:22112212(1)(1)2nsnssnn合121 112|xxn ntsnn计合121212= 6 = 9 = 71.26% = 71.38% , = 0.13% = 0 11 A.%nnxxss方方 法法方方 法法 B B22220.13=1.400.11sFs 大大计计 算算小小 F计计F0.05(5,8)=3.69 所以有所以有95的把握认为两种方
15、法之间的把握认为两种方法之间 不存不存 在在显著差异;显著差异;1. F 检验检验 (给定给定 = 0.05)解:解:12120.05121.90(13)2.16xxn nttsnn 合合计计算算所以有所以有95的把握认为的把握认为两种方法不存在系统误差。两种方法不存在系统误差。 2211221222(1)(1)26 10.13%9 10.11%0.12%9 6 2nsnssnn 合2. t 检验检验 ( (给定给定 = 0.05) )XXs【例】【例】测定某一热交换器的水垢中测定某一热交换器的水垢中Fe2O3的百分的百分含量,得到如下数据:含量,得到如下数据: 79.58;79.45;79.
16、50;79.47;79.52;79.54;79.78。根据根据Q检验法判断最小值和最大值是否可疑值后检验法判断最小值和最大值是否可疑值后求:求:(1)分析结果的平均值分析结果的平均值( ););(2)标准偏差()标准偏差(s););(3)变异系数()变异系数(CV);); (4)平均值的标准偏差()平均值的标准偏差( )(5)置信度为)置信度为95%时平均值的置信区间时平均值的置信区间解:解:用用Q检验法,检验最小值、最大值是否可检验法,检验最小值、最大值是否可疑疑 最小值最小值79.450.95779.47 79.450.06 0.59(0.59)79.78 79.45QQ最大值最大值79.
17、78故故79.45保留保留79.7879.580.610.5979.7879.45Q故79.78舍去(1)179.516iXX (2)2()0.047%6 1iXXs (3)100%0.059%sCVx (4)0.047%0.019%6Xssn (5)0.952.571 0.047()% (79.51)% (79.51 0.05)%6tsXn 2.3 有效数字及其运算规则有效数字及其运算规则 1实验过程中常遇到的实验过程中常遇到的两类数字两类数字(1)数目(非)数目(非):如测定次数;倍数;系数;分数。如测定次数;倍数;系数;分数。(2)测量或计算值。数据的位数与测定准确度有关测量或计算值。数
18、据的位数与测定准确度有关。记录的数字不仅表示数量的大小,而且要正确地反记录的数字不仅表示数量的大小,而且要正确地反映测量的精确程度映测量的精确程度。 结果结果 绝对偏差绝对偏差 相对偏差相对偏差 有效数字位数有效数字位数 0.51800 0.00001 0.002% 5 0.5180 0.0001 0.02% 4 0.518 0.001 0.2% 3数字零在数据中具有双重作用数字零在数据中具有双重作用: (1)作普通数字用,如作普通数字用,如 0.5180 4位有效数字位有效数字 5.180 10-1 (2)作定位用:如作定位用:如 0.0518 3位有效数字位有效数字 5.18 10-2 如
19、:如: 24.01mL 24.01 10-3 L 4.注意点注意点(1)容量器皿;滴定管;移液管;容量瓶;)容量器皿;滴定管;移液管;容量瓶;4位位有效数字有效数字(2)分析天平(万分之一)取小数点后)分析天平(万分之一)取小数点后4位有效位有效数字数字:0.1012 g(3)标准溶液的浓度,用)标准溶液的浓度,用4位有效数字表示:位有效数字表示: 0.1000 molL-1(4)pH4.34,小数点后的数字位数为有效数字,小数点后的数字位数为有效数字位数位数; 对数值:对数值:lgX = 2.38; lg(2.4 102)=2+0.381.加减运算加减运算 结果的位数取决于结果的位数取决于绝
20、对误差最大绝对误差最大的数据的位数的数据的位数 例:例: 0.0121 绝对误差:绝对误差:0.0001 25.64 0.01 + 1.057 0.001 26.709126.71有效数字的位数取决于有效数字的位数取决于相对误差最大相对误差最大的数据的位数的数据的位数 例:例:(0.0325 5.103 60.0)/ 139.8 = 0.071179184 0.0325 0.0001/0.0325 100%=0.3% 5.103 0.001 /5.103 100%=0.02% 60.06 0.01 /60.06 100%=0.02% 139.8 0.1 /139.8 100% =0.07% 混
21、合运算时,加减和乘除分别按规则取有效数字位数。混合运算时,加减和乘除分别按规则取有效数字位数。 在对数与反对数运算中,对数的小数点后位在对数与反对数运算中,对数的小数点后位数与真数的有效数字位数相同(对数的整数部分数与真数的有效数字位数相同(对数的整数部分不计入有效数字位数不计入有效数字位数) )。如:。如: 5.610-13 mol-1 pH=12.25 lgKa = -9.24 a5.810-10 (1) 分数;比例系数;实验次数等不记位数;分数;比例系数;实验次数等不记位数;(2) 第一位数字大于第一位数字大于8时,在乘除法中,多取时,在乘除法中,多取一位,一位, 如:如:8.95,9.
22、67,可按可按4位算;位算;(3) 四舍六入五留双;四舍六入五留双; 0.24335 = 0.2434;0.24345 = 0.2434(4) 注意注意pH计算,计算,H+ = 5.02 10 -3 ; pH = 2.299; 有效数字按小数点后的位数计算。有效数字按小数点后的位数计算。“四舍五入四舍五入”数字修约规则,出现正误差。数字修约规则,出现正误差。国家标准规定的国家标准规定的“四舍六入五留双四舍六入五留双”数字修约规数字修约规则则【例【例2-7】 将下面数据修约为将下面数据修约为4 4位有效数字位有效数字 1.362491.362; 26.486326.49; 1.00351.004
23、 ; 2.004502.004; 1.0245011.025; 1.0235011.024 数字修约时,只允许对原始数据进行一次修数字修约时,只允许对原始数据进行一次修约,而不能对该数据进行连续修约。约,而不能对该数据进行连续修约。 如将如将15.46修约到修约到2位有效数字,必须将其一次位有效数字,必须将其一次修约到修约到15,而不能连续修约为,而不能连续修约为15.4615.516。 2.5 标准曲线的回归分析标准曲线的回归分析一元线性:一元线性:y=a +bxn个实验点个实验点:(yi,xi) (i=1,2,3,.,n)实测值实测值yi与计算值与计算值 yi 之间偏差越小,拟合的越好,偏
24、之间偏差越小,拟合的越好,偏差平方和最小。差平方和最小。211()nniiiiiQQyabx2()iiiQyabx每个实验点每个实验点所有实验点所有实验点121()()()niiiniixxyybxx0;0QQabaybx11niixxn11niiyyn相关系数相关系数12211()()()()niiinniiiixxyyxxyy1222211()()niiinniiiix yx yxnxyny或或分子的绝对值小于分母值分子的绝对值小于分母值1100 的符号与的符号与b的符号一致的符号一致0 1有不同程度的线性关系有不同程度的线性关系 大于某个临界值时,两个变量显著相关的大于某个临界值时,两个
25、变量显著相关的回归直线才是有意义的。回归直线才是有意义的。 两变量间是显著相关的两变量间是显著相关的 完全线性关系完全线性关系 毫无线性关系毫无线性关系计 算表n22222ii 11(yn)b()2niiyxnxsn余22211()()2nniiiiyybxxsn余2.5.3回归线的精密度及其置信区间回归线的精密度及其置信区间 回归线的精密度是指实验点对回归直线的回归线的精密度是指实验点对回归直线的离散程度用剩余标准偏差离散程度用剩余标准偏差s余余来衡量来衡量或或yabxixx12iyabxs余y 值值 的测定值一般服从正态分布,的测定值一般服从正态分布,其平均值应落在回归直线上,即其平均值应
26、落在回归直线上,即 并并以以 为中心对称分布为中心对称分布(如图)置信度(如图)置信度95%时测时测定值落在定值落在 区间内。区间内。 可以推测,在全部可能出现的可以推测,在全部可能出现的y实验值中,实验值中,约有约有95%的点落在这两条直线所夹的区间内。的点落在这两条直线所夹的区间内。 某一置信度下,某一置信度下,s余余愈小,回归直线的置信愈小,回归直线的置信区间就愈窄。区间就愈窄。y22iyabxs余(2)ia bxs余a截距yabxybx斜率xyiyy垂直偏差yxy实验点与回归直线实验点与回归直线ixiy例题例题2-9 2-9 用色谱法测定烃类混合物中的异辛用色谱法测定烃类混合物中的异辛烷的摩尔分数,标准曲线的数据如下:烷的摩尔分数,标准曲线的数据如下: ( (异辛烷摩尔分数异辛烷摩尔分数)/(%) 0.352 0.803 1.08 1.38 1.75 )/(%) 0.352 0.803 1.08 1.38 1.75 ( (峰面积峰面积)/cm)/cm2 2 1.09 1.78 2.60 3.03 4.01 1
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 2024年度体育赛事授权代理合同2篇
- 六盘水职业技术学院《生物技术与作物改良》2023-2024学年第一学期期末试卷
- 2023四年级数学下册 三 三位数乘两位数第2课时 常见的数量关系教学实录 苏教版
- 全国山西经济版小学信息技术第一册第二单元活动2《网上导游》教学实录
- 水果店转让合同
- 2024版企业担保期限合规性审查合同3篇
- 2024版基础设施建设贷款担保三方执行协议3篇
- 2023二年级语文下册 第一单元 语文园地一配套教学实录 新人教版
- 资产拍卖抵押借款合同
- 2024年度票务代理风险管理合作协议范本3篇
- GB/T 3452.2-2007液压气动用O形橡胶密封圈第2部分:外观质量检验规范
- NB∕T 13007-2021 生物柴油(BD100)原料 废弃油脂
- GB/T 20624.2-2006色漆和清漆快速变形(耐冲击性)试验第2部分:落锤试验(小面积冲头)
- GB/T 12771-2019流体输送用不锈钢焊接钢管
- GB/T 10125-2012人造气氛腐蚀试验盐雾试验
- 维修电工-基于7812稳压电路(中级)-动画版
- PV测试方法简介-IV
- 病理学实验切片考试图片授课课件
- 2021离婚协议书电子版免费
- 国家开放大学《组织行为学》章节测试参考答案
- 电子课件机械基础(第六版)完全版
评论
0/150
提交评论