




版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
检测数据的处理
和结果的表达
辽宁省职业病防治院王军明2012年4月主要内容
◊有效数字和修约规则
◊可疑数据的取舍
◊检测结果的合理表述◊实验室应注意的问题
一、概述其中间物甚至衍生物等,如在报告结果时不加注意或特别标注可能造成使用实验数据时出现错误。所以,对检测项目实验结果的最终表达方法进行规范性、唯一性指定是十分必要的,其根本要求就是所报告物质的测定浓度即为要求的检测和评价物质的浓度。检测结果的表达就是指在检测工作中,除了正确、规范地记录和处理实验数据外,还要根据检测通知单上指定的待测物质,结合应用实验数据进行评价的要求,在检测原始记录和实验报告中给出相应的被测物浓度。
二、有效数字和修约规则1.有效数字及其记录1.1有效数字及位数
有效数字是在测量中所能得到的有实际意义的数字。一个由有效数字构成的数值,只有末位数字是可疑的,其余各位数字都应是准确的。
例如:23.4、23.40和23.400这三个数虽然表示同一数值,但作为测量值,它们所表示的准确度是不同的。有效数字位数为:若某近似数的误差绝对值不超过该数末位的半个单位值时,则从其第一个不是零计量测试数据有效位数的一般表示形式为:
k×10m
其中,m为可具有任意符号的任意自然数;k为不小于1而小于10的任意数,其位数即是有效位数。
例如:23.4→2.34×101
23.40→2.340×101
23.400→2.3400×101
234.0→2.340×102
23400→2.3400×104分光光度计:分光光度计的最小分度值是0.001A,有效数字只能记录到小数点后第三位。对带有计算机处理系统的分析仪器,往往可以根据计算机自身的设定打印或显示结果数据,其可以有很多位数,但这并不意味着增加了仪器的精度和可读的有效数字位数。当在一系列操作中使用多种计量仪器时,有效数字的位数以位数最少的计量仪器的位数来表示。例:GBZ/T160.13-2004工作场所空气中锰及其化合物的火焰原子吸收光谱测定法中,标准系列的浓度(x)为0.0、0.20、0.50、1.0、2.0、3.0μg/mL,测得的吸光度值保留到小数点后四位。在回归方程y=a+bx中,要求相关系数r大于0.999,并保留到小数点后出现非9的一位,因此,r应保留四位有效数字;斜率b的有效位数与浓度x的有效位数相同或多一位,应保留两位或三位有效数字;截距a的有效位数与吸光度值y的有效位数相同或多一位,应保留四位或五位有效数字。可以写成指数形式以满足要求。分析结果:分析结果有效数字所能达到的位数不能超过方法最低检测质量浓度所能达到的有效位数。
例如:某一个方法的最低检测质量浓度为0.02mg/L,分析结果如记录为0.088mg/L是错误的,只能记为0.09mg/L。数字“0”的多重意义:
在有效数字中“0”有不同的作用,它可以是有效数字,也可以不是有效数字,仅起定位作用。
(1)用于定位时,“0”不是有效数字。例如0.45、0.035、0.0023三个数据中的“0”都起定位作用,它们都为两位有效数字;滴定管读数为20.30mL,其中两个“0”都是有效数字;若改用升为单位则是0.02030L,此时前面两个“0”仅起定位作用。(2)用于表示测量的准确度时,“0”是有效数字。例如2.0036、4.0307、28.900三个数据均为五位有效数字。
(3)以“0”结尾的整数,应根据测定值的准确程度改写成指数形式。如47000,当写成4.7×104时,为二位有效数字,当写成4.70×103时,则为三位有效数字;重量为25.0mg的测定值,若以微克为单位,则表示为2.50×104μg。若表示成25000μg容易被误解为五位有效数字。2.数值修约规则数值修约(roundingofffornumericalvalues):通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后得到的值最接近原数值的过程。即对某一拟修约数值,根据保留数位的要求,将其多余位数的数字进行取舍,按照一定的规则,选取一个其值为修约间隔整数倍的数(修约数)来代替拟修约数,这一过程也称为数的化整或数的凑整,其目的是把数值中被认为是
(1)修约间隔(roundinginterval)
修约间隔是一个量值,是修约值的最小数值单位,又称为修约区间或化整间隔,它是确定修约保留位数的一种方式。修约间隔的数值一经确定,被修约值只能是该数值的整数倍。
修约间隔一般表示形式为:
k×10n
k一般多取1,亦可取2或5;n为正、负整数。例1:如指定修约间隔为0.1,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。
例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位;
例3:如指定修约间隔为2×10n,修约值的末位数字只能是0,2,4,6,8。
例4:如指定修约间隔为5×10n,修约值的末位数字必然是“0”或“5”。(2)修约规则
①确定修约间隔
按修约值需要保留的有效位数不同,分下述不同情况确定修约间隔。a.指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;
b.指定修约间隔为1,或指明将数值修约到“个”数位;
c.指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”……等数位。②取舍方法
即所谓“四舍六人五成双”法,具体取舍方法如下:a.拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。例:将12.1498修约到个数位,得12;将12.1498修约到一位小数,得12.1。
b.拟舍弃数字的最左一位数字大于5,则进1,即保留数字的末位数字加1。例:将1268修约到“百”数位,得13×102(特定场合可写为1300)。例1:修约间隔为0.1或10-1(修约到小数点后一位)。
拟修约数值修约值
1.05010×10-1(特定场合可写成为1.0)
0.354×10-1(特定场合可写成为0.4)
例2:修约间隔为1000或103(修约到“千”数位)
拟修约数值修约值
25002×103(特定场合可写成为2000)
35004×103(特定场合可写成为4000)综合c,d两种取舍方法,以下为拟舍弃数字的最左一位数字是5的例子。例3:将下列数据修约为四位有效数字,正确的修约结果为:
3.14159→3.142(5后有非0数字9,进1)6.378501→6.379(5后有非0数字01,进1)
3.21650→3.216(5后为零,保留的末位数字6为偶数,舍去)
5.2635→5.264(5后为无数字,保留的末位数字3为奇数,进1)
e.负数修约时,先将它的绝对值按前面的规则进行修约,然后在所得值前面加上负号。
例1:将下列数字修约到“十”数位
拟修约数值修约数值
-355-36×10(特定场合可写成为-360)
-325-32×10(特定场合可写成为-320)
例2:将下列数字修约到三位小数,即修约间隔为10-3
拟修约数值修约数值
-0.0365-36×10-3(特定场合可写成为-0.036)
3.有效数字运算规则
(1)加减运算:几个数相加减时,结果保留的位数应与数据中小数点后位数最少者相同。在实际计算时,先将各数据修约至比数据中小数点后位数最少者多保留一位小数,计算结果则按上述原则处理。若计算结果尚需参与下一步运算,则有效数字可多保留1位。例如:
18.3+1.4546+0.876
18.3+1.45+0.88=20.63≈20.6
计算结果为20.6。若尚需参与下一步运算,则取20.63。(2)乘除运算:几个数相乘除时,所得积或商的有效数字位数与数据中有效数字位数最少者相同。在实际计算时,先将各数据修约至比有效数字位数最少者多保留一位有效数字,计算结果则按上述原则处理。若其计算结果尚需参与下一步运算,则有效数字可多取一位。例如:
1.1×0.3268×0.10300
1.1×0.327×0.103=0.0370=0.037计算结果为0.037。若需参与下一步运算,则取0.0370。
乘除运算中第一位是8或9的数据,有效数字的位数可多计一位。
例如:
0.923可视为四位有效数字,
8.234可视为五位有效数字。(3)乘方和开方运算:乘方和开方运算时,原数据有几位有效数字,计算结果就保留几位有效数字。
例如:
①2.532=6.4009=6.40;
②=1.865475811=1.87。(4)对数和反对数运算:对数计算时,对数尾数的有效数字位数应与真数有效数字位数相同。
例如:
①透光率(T)读数为63.8%时,吸光度也应取三位有效数字,即
A=-lgT=2-1.805=0.195;
②当[H+]=5.6×10-13mol/L时,则pH=-lg[H+]=13-0.75=12.25。(5)平均值计算:求四个或四个以上准确度接近的数的平均值时,其有效数字可增加一位。
例如:
求3.77、3.70、3.79、3.80、3.72的平均值。
其计算结果为3.756。
三、可疑数据的取舍1.可疑数据(或称离群值)
对同一样品进行多次重复测定时,有时发现一组测量值中某个测量值比其他测量值明显偏大或偏小,这样的个别数据称为可疑数据(或称离群值)。
可疑数据可能是由于测试条件改变、不明原因现象的突然出现、系统误差及偶然事故等原因造成的。对于这样的可疑数据,不可随意取舍,应从实验技术中寻找原因。
可疑数据的取舍问题,实质上就是区别两种性质不同的误差:随机误差和过失误差。首先应从实验操作技术中寻找原因,分析实验过程中的异常现象,如果确认是由于实验技术失误、实验条件改变及系统误差所引起的,则该数据属异常值,应舍弃。
若无法确定是由上述原因所引起的,则不能轻易保留或舍弃,需要借助于统计学方法判断其是否属于离群数据后,再决定取舍,以保证测定结果的可靠性。剔除了测量数据中的离群数据,会使测量结果更符合客观实际。2.检验可疑数据的方法常用的检验方法有如下几种:(1)Q检验法(2)Dixon检验法(3)Grubbs检验法应根据检验目的和各方法的适用条件选择适宜的检验方法。
(1)Q检验法
Q检验法是国际标准化组织(ISO)推荐的方法。对于3~10次测定值中可疑数据的取舍,可采用Q检验法。具体的检验方法如下:
a.将n个测量值按数值递增的顺序进行排列,分别为xl,x2,……,xn;
b.计算最大值与最小值之差,即极差(xn-x1);
c.求出可疑值与其最邻近数值之间的差值,即xn-xn-1或xl–x2;
d.用极差除可疑值与其邻近值的差:
Q计算=|x可疑-x邻近|/xn-x1
e.根据测定次数n和要求的置信度查Q值表;
Q值表
测定次数345678910
Q0.900.940.760.640.560.510.470.440.41f.将按上式计算的Q计算值与Q表值相比较,若Q计算值≥Q表值,则舍弃可疑值;反之,若Q计算值<Q表值,则所谓的可疑值应保留。(2)Dixon检验法
Dixon检验法是对前述的Q检验法作了进一步改进的检验方法,它与Q检验法的不同之处主要在于需要按不同的测定次数范围采用不同的统计量计算公式,因此比较严密。这个方法的检验步骤与Q检验法相类似。(3)Grubbs检验法
Dixon检验法对处理一个系列测定数据中只有一个可疑数据时能解决得较好,但是当可疑数据不止一个时,就不能解决了,而Grubbs检验法在各种情况下都能普遍适用。应用Grubbs检验法处理数据时,按下述不同情况来处理:若一组测定值xl<x2<……<xn,其中xl或xn为可疑值,需要进行判断。首先算出n个测定值的平均值及标准差s。然后,若怀疑x1,则计算T1=(-x1)/s;若怀疑xn,则计算Tn=(xn-)/s。如计算出的T1或Tn值大于Grubbs检验临界值表的Ta,则xl或xn应弃去,反之则应保留。
五、检测结果的合理表述
1.检测结果的单位应使用法定计量单位,尽量与卫生标准中使用的单位一致;检测结果应报告平行样测定值的算术平均值,测定值的有效数字位数应能满足卫生标准的要求。必要时应给出测量结果的不确定度。2.检出限:检出限是针对运转到实验室的样品而言的。实际工作中所指的检出限是综合了实验使用的仪器、实验方法及其他实验条件而得出的,其含义简单来说就是在给定的概率P=95%(显著性水准为5%)时样品(溶液)中最少含多少待测物时可被定性检测出来,可用浓度或含量两种单位表示。但一般除石墨炉原子吸收光谱法的检出限可以用绝对质量(含量)表示外,其余检测方法的检出限以质量浓度表示。为了方便计算和不引起混乱,检出限一般统一以待检样品(溶液)中待测物的浓度表示。在给出检出限时,应同时标明检测到的物质的名称或组成的化学式。在原始记录上给出检出限时,如果测定到的物质即为待测物,即可直接以待测物的形式表示;如果测定到的物质为待测物的一部分,或组成元素,或中间物,或衍生物,一般直接给出这些测定到的物质的检出限,有时也可以经过换算得出待测物原型而给出检出限。另外,当样品溶液的待测物浓度小于方法的检出限时,报告结果时不能报零,可表述为小于检出限,并注明方法的检出限。例:在GBZ/T160.29-2004工作场所空气中一氧化氮和二氧化氮的盐酸萘乙二胺分光光度法测定中,实际测得的是样品中NO2-的浓度,因此计算检出限时吸光度值0.020对应的为NO2-的含量,除以所取样品溶液的体积后得到的值?μg(NO2-)/ml为检出限。也可经过换算以?μg(NO或NO2)/ml表示。3.最低检出浓度:是针对采样现场的样品而言的。最低检出浓度由检出限计算得出,是现场样品中指定待测物能检出时应有的最低浓度。在原始记录和报告中,它必须以指定待测物原型的形式表示。当测定到的物质与指定待测物不一致时,必须经过换算得出待测物原型的浓度予以报告。同样,当样品中待测物浓度小于最低检出浓度时应报告为小于最低检出浓度。
例:在GBZ/T160.32-2004工作场所空气中臭氧的丁子香酚分光光度法测定中,实际测定的是采样后所得样品溶液中甲醛的浓度,因此计算最低检出浓度时,如果检出限是以甲醛表示,应先换算成臭氧的浓度,乘以吸收液的体积再除以所采空气样品的体积得出;如果检出限是直接以臭氧表示,则直接乘以吸收液的体积再除以所采空气样品的体积即可。
4.检测不确定度评定:测量不确定度是表征合理地赋予被测量之值的分散性,与测量结果相联系的参数。它是对检测结果进行科学评价的一项必要内容,也是一项科学研究的过程,是对检测结果科学完善的表达,并在某种程度上可对检测机构起到责任保护作用。在实际工作中,对同一样品的多次测量结果不可能是同一值,而是以一定的概率分散在某个区间内的许多个值,也就是说测量结果具有分散性。这种分散性可用测量不确定度来表征,其大小可用标准(偏差的倍数或说明了置信水准的区间半宽度表示。因此,严格来说,在报告实验结果时应附有测定结果的不确定度。尤其在进行测定方法的确认及检测结果与职业接触限值接近时,应该对测量不确定度进行评定,确定各不确定度分量对总不确定度贡献的大小。在实际工作中,应清楚不确定度的客观存在及掌握不确定度评定的正确方法,必要时需附注检测结果的不确定度。5.检测结果的换算问题
首先,报告检测结果时不能笼统地表述为浓度为多少,应明确指出所检测的具体物质。在职业卫生空气样品中,采用气相色谱法检测到的毒物一般为毒物原型,在进行数据处理和报告结果时进行换算的比较少,但有些物质存在同分异构体,在报告时应指明以哪种异构体计;原子光谱法检测到的是待测化合物中的金属元素,在报告结果时要写明是以金属元素还是以该金属的化合物计,如使用金属化合物计量和进行评价时则需要进行数值换算,如测定铅时是以Pb计还是Pb的化合物计;测定锰是以Mn计还是Mn的化合物计如MnO2计等等。但存在将现场中含相同金属元素的其他化合物也按待测物进行计量的风险,因此应格外重视采样现场的毒物认定。在分光光度法测量中,也有一部分检测到的物质与需要报告和进行评价的物质不一致,需要进行结果换算,在报告实验数据时应特别注意。五、实验室应注意的问题1.实验室应依据检测标准方法并结合实验室的实际情况制定作业
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 软考网络工程师试题及答案分析报告2025年
- 西方政治制度与环境政策的互动试题及答案
- 西方政治制度对公民社会的影响试题及答案
- 议会制度讨论题目及答案
- 网络服务性能试题及答案探研
- 计算机软件测试中的用户体验试题及答案
- 公共政策的评估体系建设试题及答案
- 精通网络架构的试题及答案
- 环境政策在西方政治制度中的位置试题及答案
- 机电工程硕士研究生试题及答案
- 2025届湖北省武汉华中师大一附中高三最后一模化学试题含解析
- 2025届湖北省武汉华中师大一附中5月高考适应性考试英语试题试卷含解析
- 《上市公司社会责任报告披露要求》
- 重症患者谵妄管理指南及标准解读
- 三布五油防腐施工方案
- 第三单元课外古诗词《逢入京使》课件【知识精研】七年级语文下册(统编版2024)
- 生产经营单位主要负责人和安全管理人员安全培训资料
- 危大工程安全管理档案(2019版)
- 【MOOC】《学术写作与国际发表》(北京科技大学)章节测验慕课答案
- 房屋市政工程生产安全重大事故隐患判定标准(2024版)宣传画册
- 《中国国家处方集》课件
评论
0/150
提交评论