第二章 数据处理_第1页
第二章 数据处理_第2页
第二章 数据处理_第3页
第二章 数据处理_第4页
第二章 数据处理_第5页
已阅读5页,还剩49页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、第第 二二 章章定量分析的误差和分析定量分析的误差和分析结果的数据处理结果的数据处理第一节第一节 有效数字有效数字一、有效数字的计位规则一、有效数字的计位规则56.29确切数字确切数字不定数字不定数字一个数据中所有的一个数据中所有的确切数字确切数字在加一在加一位位不定数字不定数字。定义:定义:甲:甲:23.39 ml乙:乙:23.40 ml丙:丙:23.41 ml 可疑数字可疑数字数据甲的相对误差:数据甲的相对误差: 0.01/23.39 100%= 0.04%23.524.05位有效数字位有效数字1.0008,43181,26.5474位有效数字位有效数字0.1000,10.98%,186.

2、33位有效数字位有效数字0.0382,1.24 10-5,6182位有效数字位有效数字59,0.0040,4.71位有效数字位有效数字0.05,2 107,6位数含糊位数含糊3600,100数据中数据中“0”是否为有效数字?是否为有效数字?(1) 只起到定位作用只起到定位作用, 不算不算。 例如例如: 0.0382 (3), 0.05 (1)(2) 作为普通的数字使用作为普通的数字使用, 算算。 例如例如: 1.0008 (5) 0.0040 (2)分数、倍数及对数的计位分数、倍数及对数的计位 分数与倍数不是测量得到的,可视为分数与倍数不是测量得到的,可视为无限无限多位多位有效数字。有效数字。

3、 pH, pM, lgc, lgK等对数值,其有效数字的等对数值,其有效数字的位数取决于位数取决于小数部分(尾数)小数部分(尾数)数字的位数。数字的位数。pH=11.20,换算为,换算为H+浓度时,浓度时,H+=6.3 10-12mol/l,有效数字,有效数字的位数是的位数是2位位,而非,而非4位。位。例如:例如:二、二、有效数字有效数字的运算规则的运算规则“四舍六入五留双四舍六入五留双” 规则规则:尾数尾数 4时舍弃;尾时舍弃;尾数数 6时进入;尾数时进入;尾数=5时,若时,若5后面的数字为后面的数字为0,则则5前面为前面为偶数者舍弃,偶数者舍弃,为为奇数者进入(留奇数者进入(留双)双);若

4、;若5后面的数字不为后面的数字不为0,则不论,则不论5前面前面的数字是奇是偶,一律进入。的数字是奇是偶,一律进入。1、修约规则修约规则例如:保留两位有效数字例如:保留两位有效数字2.552.54912.6?4.6534.77.3977.477.507876.50763.1483.14.65034.72、运算规则运算规则几个数字相加减时,它们的和或差的有效数字几个数字相加减时,它们的和或差的有效数字位数应以位数应以小数点后位数最少的数字(绝对误差小数点后位数最少的数字(绝对误差最大)为根据最大)为根据。例如:例如: 0.0121+25.64-0.5782=?解:解: =0.01+25.64-0.

5、58=25.07(1)加减法加减法(2)乘除法乘除法在乘除法中,积或商的有效数字的保留,在乘除法中,积或商的有效数字的保留,应与其中应与其中相对误差最大的数值相对应相对误差最大的数值相对应。例如:例如:0.0121 25.64 0.5782=? 0.0001/0.0121 100%= 0.8% 0.01/25.64 100%= 0.04% 0.0001/0.5782 100%= 0.02%解:解:=0.0121 25.6 0.578=0.179第二节第二节 误差的产生及表示方法误差的产生及表示方法一、误差的产生一、误差的产生1、系统误差系统误差(可测误差)(可测误差)2、随机误差随机误差(偶然

6、误差)(偶然误差)3、过失误差、过失误差系统误差系统误差方法误差方法误差仪器误差仪器误差试剂误差试剂误差操作误差操作误差主观误差主观误差消除测定过程的系统误差消除测定过程的系统误差1、对照试验、对照试验标准试样对照标准试样对照标准方法对照标准方法对照加入回收法对照加入回收法对照2、空白试验、空白试验3、仪器校正、仪器校正4、方法校正、方法校正增加平行测定次数,减小随机误差增加平行测定次数,减小随机误差 随机误差出现的概率遵循正态分布规律:随机误差出现的概率遵循正态分布规律:(1)绝对值相等的正负误差出现的概率相同,)绝对值相等的正负误差出现的概率相同,大量等精度测量中各个误差的代数和趋于零;大

7、量等精度测量中各个误差的代数和趋于零;(2)绝对值小的误差出现的概率大,绝对值大)绝对值小的误差出现的概率大,绝对值大的误差出现的概率小,绝对值很大的误差出现的误差出现的概率小,绝对值很大的误差出现的概率非常小。的概率非常小。 随机误差是指测定值受各种因素的随机误差是指测定值受各种因素的随机变动随机变动而而引起的误差,是引起的误差,是客观存在客观存在并且并且不可避免不可避免的。的。 系统误差与随机误差的比较系统误差与随机误差的比较系统误差系统误差随机误差随机误差产生原因产生原因 固定因素,有时不存在固定因素,有时不存在不定因素,总是存不定因素,总是存在在分类分类方法误差、仪器与试剂方法误差、仪

8、器与试剂误差、操作与主观误差误差、操作与主观误差等等环境的变化因素、环境的变化因素、主观的变化因素等主观的变化因素等性质性质重现性、单向性(或周重现性、单向性(或周期性)、可测性期性)、可测性服从正态分布规律、服从正态分布规律、不可测性不可测性影响影响准确度准确度精密度精密度消除或减消除或减小的方法小的方法校正校正增加测定的次数增加测定的次数二、误差的表示方法二、误差的表示方法1、误差、误差误差是指测定结果(误差是指测定结果(x)与真实值()与真实值(xT)之)之间的差值,包括间的差值,包括绝对误差绝对误差、相对误差相对误差。u测定结果测定结果真实值时,误差为真实值时,误差为+,测,测定结果偏

9、高;定结果偏高;u测定结果测定结果s乙乙用标准偏差比用平均偏差更科学更准确用标准偏差比用平均偏差更科学更准确三、准确度和精密度三、准确度和精密度准确度准确度表示表示分析结果分析结果与与真值真值接近的程度接近的程度, ,用用以反映测量值的以反映测量值的可靠性可靠性。准确度以准确度以误差误差的大小来衡量。的大小来衡量。E=x-xT绝对误差:绝对误差:%100 TTTrxxxxEE相对误差:相对误差: 为了衡量测定结果的准确度,人们常以为了衡量测定结果的准确度,人们常以相对真值相对真值代替代替真值。真值。l理论真值理论真值,如化合物的组成等;,如化合物的组成等;l计量学的约定真值计量学的约定真值,如

10、各种常数等;,如各种常数等;l相对真值相对真值,即,即标准值标准值。对同一个试样,采用可靠的方。对同一个试样,采用可靠的方法在不同的实验室、由不同的人进行多次测定,取得法在不同的实验室、由不同的人进行多次测定,取得大量数据,用数理统计方法求得的相对可靠的值称为大量数据,用数理统计方法求得的相对可靠的值称为标准值。标准值。标准值实际上是高精度测量的更接近真值的标准值实际上是高精度测量的更接近真值的近似值近似值。真值真值xT: 某一物理量本身具有的客观存在的真实数据,某一物理量本身具有的客观存在的真实数据,真值是不可知的真值是不可知的。精密度精密度表示在表示在相同条件相同条件下用下用同样方法同样方

11、法对对同一同一试样试样进行进行多次平行测定多次平行测定时,时,各次分析结果各次分析结果相相互接近的程度。互接近的程度。精密度以精密度以偏差偏差的大小来衡量的大小来衡量, ,用以说明测定用以说明测定值的值的重现性重现性 。绝对偏差绝对偏差xxd 平均偏差平均偏差ndnddddniin/121 样本标准偏差样本标准偏差 niinxxs12)1/()(甲、乙、丙三人同时测定一铁矿石中甲、乙、丙三人同时测定一铁矿石中Fe2O3的含量(真实含量为的含量(真实含量为50.36%),各),各分析四次,测定结果如下:分析四次,测定结果如下:例如:例如:甲甲乙乙丙丙150.30%50.40%50.36%250.

12、30%50.30%50.35%350.28%50.25%50.34%450.27%50.23%50.33%平均值平均值50.29%50.30%50.35%测量值,测量值,平均值平均值50.10%50.20 %50.30 %50.40%50.50 %甲甲 乙乙 丙丙真值真值 精密度高不一定准确度高,但是准确度高一定需精密度高不一定准确度高,但是准确度高一定需要精密度高。要精密度高。精密度高是准确度高的必要条件精密度高是准确度高的必要条件,因为精密度差,便失去了衡量准确度的前提因为精密度差,便失去了衡量准确度的前提 。第三节第三节 实验数据的统计处理实验数据的统计处理一、随机误差的正态分布一、随机

13、误差的正态分布0.00.10.20.30.4-1 z0-2-312368.3%95.5%99.7%规律:规律:正负误差出现的概率相等正负误差出现的概率相等小误差多,大误差少小误差多,大误差少特大误差出现的次数极少特大误差出现的次数极少正态分布曲线方程正态分布曲线方程222)(21)( xexfy式中,式中,y为为概率密度,概率密度,x为为测量值,测量值, 为为总体平均值(真值),总体平均值(真值), 为标准偏差,为标准偏差,(x- )表示随机误差。表示随机误差。-4040.00.10.20.30.4 x- yx= 时,时, 21 y222)(21)( xexfy参数参数 =0, 2=1的正态分

14、布是的正态分布是标准正态分布标准正态分布。 xu横坐标横坐标0.00.10.20.30.4-1 u0-2-31232221)(ueuy dxdu duedxxfu 2221)( 22)(2222121)(uxeexfy duu )( 68.3%95.5%99.7%u2221)(ueuy 代表了不同大小偏差的测代表了不同大小偏差的测定值出现的几率总和为定值出现的几率总和为1。正态分布曲线正态分布曲线y与与横轴所夹面积表横轴所夹面积表示全部数据出现示全部数据出现的概率的总和,的概率的总和, 1)(duu 显然:显然:随机误差出现的区间随机误差出现的区间u(以(以 为单位)为单位)测量值出现的区间测

15、量值出现的区间概率概率%(-1, +1)( -1 , +1 )68.3(-1.96, +1.96)( -1.96 , +1.96 )95.0(-2, +2)( -2 , +2 )95.5(-2.58, 2.58)( -2.58 , +2.58 )99.0(-3, +3)( -3 , +3 )99.7测量值与随机误差的区间概率测量值与随机误差的区间概率2221)(ueuy uudue02221 概率概率snxt)( -6-5 -4-3 -2-101234560.00.20.4 tf(t)f = f =5f =1二、置信度与平均值的置信区间二、置信度与平均值的置信区间实验次数实验次数n自由度自由度

16、(f)f=n-1置信水平(置信度)置信水平(置信度)P=50% =0.50P=90% =0.10P=95% =0.05P=99% =0.01P=99.5% =0.005211.006.3112.7163.66127.3320.822.924.309.9314.09430.762.353.185.847.45540.742.132.784.605.60650.732.022.574.034.77760.721.942.453.714.32870.711.902.373.504.03980.711.862.313.363.831090.701.832.263.253.6911100.701.812

17、.233.173.5816150.691.752.132.953.2521200.691.732.092.853.1526250.681.712.062.793.08 0.651.651.962.582.81t分布值表分布值表置信度置信度表示在一定条件表示在一定条件下,测定值落在下,测定值落在一定误一定误差差范围内的范围内的概率,概率,用用P表示表示, ,又称又称置信水平置信水平。测定值测定值落在此区间外的落在此区间外的概率用(概率用(1-P或或)表)表示,称为示,称为显著性水平显著性水平。0.00.10.20.30.4-1 u0-2-312368.3%95.5%99.7%1、置、置信度与显著

18、性水平信度与显著性水平ntsx/ 表示在一定表示在一定置信度置信度下,以平均值下,以平均值 为为中心,包括总体平均值中心,包括总体平均值 的可靠性范围,的可靠性范围,称为称为平均值的置信区间平均值的置信区间,它是正确表示它是正确表示真值的一种统计测定。真值的一种统计测定。x2、平均值的置信区间平均值的置信区间snxt)( 将总体平均值与样本平均值联系了起来将总体平均值与样本平均值联系了起来, 证明证明了样本平均值的可靠性;了样本平均值的可靠性; 平均值的置信区间取决于测定的平均值的置信区间取决于测定的精密度精密度s, 测定测定次数次数n和和置信度置信度P. 当置信度固定时当置信度固定时, n越

19、大越大, 置置信区间越小;信区间越小; 测定结果精密度越高测定结果精密度越高, 置信区间置信区间越小越小, 准确度越高。准确度越高。ntsx/ 例如:对某未知样品中例如:对某未知样品中Cl-含量进行测定,次含量进行测定,次结果为结果为47.64%,47.69%,47.52%,47.55%。计算置信度为计算置信度为90%,95%和和99%时,总体平均时,总体平均值的置信区间。值的置信区间。解:解:%60.474%55.47%52.47%69.47%64.47x%08. 01)(2nxxs置信度为置信度为90%时,时,t=2.35, =(47.60 0.09)%置信度为置信度为95%时,时,t=3

20、.18, =(47.60 0.13)%置信度为置信度为99%时,时,t=5.84, =(47.60 0.23)%置信度越高置信度越高, , 置信区间越宽置信区间越宽, , 准确度越差准确度越差l置信度就是表示人们所作判断的置信度就是表示人们所作判断的可靠把握程度。可靠把握程度。 如前,置信如前,置信区间越窄,置信度就越小;反之,置信区间越宽,说话留有区间越窄,置信度就越小;反之,置信区间越宽,说话留有充分的余地,置信度就越高。充分的余地,置信度就越高。l置信度定的越高,判断失误的机会越小;置信度定的太低,置信度定的越高,判断失误的机会越小;置信度定的太低, 判断失误的可能性就会增大。判断失误的

21、可能性就会增大。l置信度越高,置信区间越宽,置信度越高,置信区间越宽,实用价值实用价值不大。不大。 例如:为了吃鱼,例如:为了吃鱼, 甲判断:鱼在太湖中;甲判断:鱼在太湖中; 乙判断:鱼在网中。乙判断:鱼在网中。l统计上,都不把置信度定为统计上,都不把置信度定为100%。 例如:推断说某铁矿石含铁量在例如:推断说某铁矿石含铁量在0-100%之间,置信度为之间,置信度为100%,完全正确,但置信区间太宽,完全正确,但置信区间太宽, 一句完全正确的废话一句完全正确的废话l原则:原则:置信区间的宽度足够小,置信度又很高。置信区间的宽度足够小,置信度又很高。 分析化学中,常取分析化学中,常取95%的置

22、信度,也取的置信度,也取90%、99%。三三 、测定结果离群值的弃舍测定结果离群值的弃舍1、 Q检验法检验法一组数据,从小到大排列为一组数据,从小到大排列为: :nnxxxx,121 11xxxxQnnn 112xxxxQn Q计算计算 Q表表,xn舍弃,反之保留舍弃,反之保留Q计算计算 Q表表, x1舍弃,反之保留舍弃,反之保留 测定某药物中钴的含量(测定某药物中钴的含量( g/g),得结果),得结果如下:如下:1.25,1.27,1.31,1.40。试问。试问1.40这个数据是否保留?(置信度为这个数据是否保留?(置信度为95%)例如:例如: 已知已知n=4时,时,Q0.95=0.85,Q

23、Q0.95,故故1.40这个数据应予以保留。这个数据应予以保留。解:解:60. 025. 140. 131. 140. 1 Q2、Grubbs法法 sxxGn G计算计算 G表表,xn舍弃,反之保留舍弃,反之保留一组数据,从小到大排列为一组数据,从小到大排列为:nnxxxx,121 sxxG1 G计算计算 G表表,x1舍弃,反之保留舍弃,反之保留 首先计算求得所有数据的平均值首先计算求得所有数据的平均值 和标和标准偏差准偏差s为:为: x解:解:31. 1 x066. 0 s因为因为36. 1066. 031. 140. 1 sxxGn 测定某药物中钴的含量(测定某药物中钴的含量( g/g),得结果),得结果如下:如下:1.25,1.27,1.31,1.40。试问。试问1.40这个数据是否保留?(置信度为这个数据是否保留?(置信度为95%)上例中:上例中:已知已知n=4时,时,G0.95=1.46,Gs2。若若F计计F表表,则说明精密度存在显著性差异。,则说明精密度存在显著性差异。若若F计计F表表,则说明精密度不存在显著性差异。,则说明精密度不存在显著性差异。F值总是大于值总是大于1例如例如: 甲乙两人分析同一试样甲乙

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论