化学分析中有效数字运用规范

1DB14/TXXXXX—XXXX化学分析中有效数字运用规范本标准规定了化学分析中有效数字运用规范，主要包括术语和定义、有效数字位数确定规则、数字修约及近似数计算规则。本标准适用于化学分析实验室有效数字运用，并满足RB/T214《检验检测机构资质认定能力评价-检验检测机构通用要求》对检测结果的要求。本标准不适用于物理分析实验室。然而，物理分析实验室可将本标准的部分内容作为参考。2规范性引用文件下列文件对于本文件的应用是必不可少的。凡是注日期的引用文件，仅所注日期的版本适用于本文件。凡是不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。GB/T8170—2008数字修约规则与极限数值的表示和判定GB/T19000—2016质量管理体系基础和术语JJF1001—2011通用计量术语及定义3术语和定义GB/T19000—2016界定的以及下列术语和定义适用于本标准。JJF1001—2011通用计量术语及定义3.1有效数字significantfigure一个数，实际工作中能够测量到的数字，包括最后一位估计的不确定的数字。注：一般情况下，不确定数字位于数字最后，且为1位,3.2直接测量directmeasurement直接从测量仪表读数获取被测量量值的方法。注：直接测量的特点是不需要对被测量与其他实测的量进3.3间接测量indirectmeasurement待测量是1个或多个直接测量的量，通过函数计算得到。3.4准确数accuratenumber一个数，能表示原来物体或事件的实际数量。2DB14/TXXXXX—XXXX3.5近似数approximatenumber一个与准确数相近的数，即经过四舍五入、进一法或去尾法等方法得到的一个与原始数据相差不大的一个数。3.6测量结果measurementresult，resultofmeasurement【JJF10015.1】与其他有用的相关信息一起赋予被测量的一组量值。4有效数字位数确定规则4.1有效数字视为无限位数的情形4.1.1有效数字视为无限位数的，系非测量，按计算式中需要而定。4.1.2化学反应基本单元的系数(如H2SO4中的,K2Cr2O7中的)、化学元素和原子团的化合价(或所带电荷数)等。4.1.3我国法定计量单位、由法定计量单位构成的组合单位、由词头和以上单位所构成的十进倍数和分数单位、原子量、分子量(含原子团,如H20、NH等)以及化学反应基本单元的摩尔质量、阿佛加德罗常数值等。4.1.4用优级纯试剂、高纯试剂、基准试剂、标准物质等配制标准溶液时,其纯度的有效数字位数；计量基准器具、高一级的计量标准器具所给出的量值，如国家标准物质给出的量值等；标准中规定的限值等。4.1.5常数和某些倍数、分数以及其他不连续物理量的数目，包含以下几种情形：a)纯净单质和纯净化合物的化学组成的化学计量单元数,如单质Cu中的原子数目1和H2O中的原子数目2,1等；b)单标线量器、容器,如单标线移液管、移液器、容量瓶等的量值；c)数学中的常数π、e,各种计算公式中的系数,测定次数、统计数据的个数n,数理统计中的自由度f、各种临界值以及其他取自手册上的数据等。4.1.6其他未涉及到的情形，实验室可参照上述条款及后文中的情形，以确定是否为无限位数。4.2有效数字为有限位数的情形4.2.1连续物理量，对具有连续分度的计量器具（如滴定管）,在读取和记录测量结果时,应比其最小分度值再多估读和记录一位有效数字,或者说,测量结果的有效数字位数应达到其最小分度值的后一位,即保留、也只能保留一位可疑(不确定)数字。当最小分度值为次小分度值的0.1或0.2单位时,读数的有效数字位数应达到次小分度值的百分位；当最小分度值为次小分度值的0.5单位时,读数的有效数字位数应达到次小分度值的十分位。3DB14/TXXXXX—XXXX4.2.2统计计算量，统计计算中，以多次重复检测结果的平均值作为最终的结果。其有效数字位数决定于用平均值的标准偏差计算的测量不确定度的有效数字位数。一般情况下，测量不确定度有效数字取1位，最多为2位。应把测量不确定度影响到的那l位数定为平均值的有效数字最后1位。注：本标准附录A给出了统计计算量有效数字位数确4.2.3间接测量，间接测量中仪器显示的原始数据，如色谱仪显示的峰面积或峰高、ICP显示的谱线强度、原子吸收光谱仪显示的吸光度等，其有效数字位数应按附录A给出的方法确定。4.2.4乘方和开方,当对一个数进行乘方或开方时,计算结果的有效数字位数与此数的有效数字位数相同。4.2.5对数和三角函数，小数点位数(不包括首数，首数用于定位，不是有效数字)应与真数的有效数字位数相同。示例：pH=2.08和cH+=8.3×10mol/L都是2位有效数字（4.2.6指数函数，指数函数10x或ex的有效数字位数和x小数点后的位数相同（包括紧接小数点后面的0）。示例：10=177827.9411.8×1010=1.1284959381.1284.2.7单位换算，如需通过系数将一个量值转换成单位不同的新量值，系数应视为无限有效数字位数，转换后量值的精度不能高于原量值。4.2.8标准溶液，标准溶液的有效数字，可根据前述原则确定。标准滴定溶液的有效数字位数基准物质称量不能少于0.2g。标定时称取的基准物质,取样量要位于消耗待标定溶液20mL～40mL之间。质量数值＜0.5g时,按精确至0.0lmg称量,质量数值＞0.5g时,按精确至0.lmg称量。其有效数字位数取决于滴定管的有效数字位数，运算过程保留五位有效数字,浓度值报告四位有效数字。4.2.90的情形，数字中“0”可以是有效数字，也可以作为数字定位。数字之间的“0”和末尾的“0”都是有效数字，而数字前面所有的“0”只起定位作用。4.2.10科学计数法，对包含无效零的数和以“0”结尾的正整数，,应采用科学记数法,即记成±a×10n,其中1≤a＜10,n是整数，一般只保留1位可疑数字，多余的数字按数字修约规则处理。5数据修约规则及近似数计算规则4DB14/TXXXXX—XXXX5.1数据修约按照GB/T8170-2008第3章的要求进行。5.2直接测量中有效数字确定规则应根据分析方法与仪器的准确度来决定，读至仪器误差所在的位置。注：本标准附录B给出了部分玻璃量器有效数字应保留至小数点5.3间接测量中有效数字确定规则a）当所依据的国家及行业标准方法对测量结果有明确规定，按照标准方法确定测量结果的有效数字。b）对于检测方法标准中未对检测结果的表示提出有效数字规定的，应按照检测方法标准的测定下限来确定测量结果的有效数字，并且测量结果的有效数字应该为2位或3位。c）对于未给出测定下限的标准方法，可以参考方法的检出限来确定测量结果的有效数字。d）标准偏差和相对标准偏差一般取1位有效数字，最多取2位有效数字e）回归方程中的相关系数一般取4位有效数字。f）校正因子一般应保留4位或5位有效数字。g）在一系列操作中，使用多种计量仪器（量器）时，有效数字以最少的一种计量仪器（量器）的位数表示。5.4间接测量中近似数计算规则5.4.1总则a)测量结果必须保留、也只能保留1位不确定数字。b)测量结果的表达应尽可能少的无效零,按4.2.10的要求，采用科学记数法。d)对于第一位有效数字≥8时,有效数字位数可以多计1位。e)一些倍数和分数的关系，如：水的分子量18.2中“2”是非测量所得到的数，有效位数可视为无限的。f)在实际运算中,先将各近似值修约到比有效数字位数最少者多保留1位有效数字,再将计算结果按相应规则处理。g)使用计算器计算时,可在运算过程中适当保留较多的位数,对中间结果不进行修约,只将最后结果修约到应保留的位数。5.4.2加减法a)几个近似值相加减时,保留有效数字的位数，以小数点后位数最少的为准，即以绝对误差最大的为准。b)当参与计算的数字带有测量不确定度时，可通过计算最终结果的测量不确定度来确定最终结果的有效数字位数。c)当两个很接近的近似数值相减时,其差的有效数字位数会有损失,因此,应注意组织好计算程序,尽量避免这种损失。5.4.3乘除法5DB14/TXXXXX—XXXXa)近似值相乘除时,保留有效数字的位数，以有效位数最少的数为准，即以相对误差最大的数为b)当参与计算的各数附有测量不确定度时，可通过计算最终结果的不确定度，来决定最终结果的有效数字位数。示例：试计算近似数3.51×8.5的结果。解：3.51的绝对误差=0.01，相对误差=；8.5的绝对误差=0.1，相对误差=。后者大于前者，所以最终结果的有效数字应为2位，即：3.51×8.5=30（计算的实际结果为29.835，进舍后为30）。5.4.4其他情形a)近似数乘方或开方计算应符合4.2.4的规定。b)近似数对数和三角函数计算应符合4.2.5的规定。C）近似数指数计算应符合4.2.6的规定。6 1in-DB14/TXXXXX—XXXX 1in-（资料性附录）统计计算量有效数字位数确定A.1前言使用液相色谱法检测乳粉中三聚氰胺的含量。独立重复称取7个样品，经前处理后上机检测。读取仪器的峰面积（mV·s）为：62.868，62.707，62.731，62.795，62.803,62.989,62.813。确定峰面积的有效数字保留位数。 A.2计算平均值x 按式A.1计算平均值x。 x1+x2+ x1+x2+......+xnn式中： x--重复检测结果的平均值；xi--第i次检测结果，i=1,2,3，......,n;n--重复检测次数。本例中： x=62.815A.3计算标准偏差及测量不确定度标准偏差s按式A.2计算。s=式中符号意义同式A.1。本例中：s=0.0934平均值的标准偏差sx=。xi-x2...................本例中：7DB14/TXXXXX—XXXXsx=0.0353取置信概率为95﹪,ɑ=0.05（也可取置信概率为99﹪,ɑ=0.01以及其他置信水平自由度f=n-1=6，查GB/T4889-2008《数据的统计处理和解释正态分布均值和方差的估计与检验》表A.2t分布分位数表（双侧检验情形），得到t(1-a2)(f)=2.4469)(f)根据JJF1059.1-2012《测量不确定度的评定与表示》中5.3.8的要求,将扩展不确定度修约到1位有效数字，即0.09，平均值的有效数字位数的确定：该数小数点后的位数应与测量不确定度相同，即62.82。故确认该方法中，从液相色谱仪读取的峰面积的有效数字位数应保留到小数点后2位。8DB14/TXXXXX—XXXX（资料性附录）玻璃量器的有效数字运用规则滴定管单位:mL125分度吸量管单位:mL125值小数点后4位小数点后4位位位位位位位位位位量筒单位:mL525位位位9DB14/TXXXXX—XXXX（资料性附录）带有测量不确定度的近似数计算C.1M=A+B-C。其中A=(56.2±0.1)kg，B=(1.264±0.003)kg,C=(5.72±0.06)kg。计算M并确定其有效数字。解：M=56.2+1.264-5.72=51.744kg计算求出M的不确定度：σM假定参与计算的3项相互独立,则M的不确定度σM计算如下：σM===0.1M=(51.7±0.1)kg。C.2试计算M=AB/C的结果，其中A=3.31±0.01，B=6.5±0.2，C=21.943±0.004。解：M=AB/C==0.980σMσMM计算如下：=σM=M 222σAσBσC 222σAσBσC ++= 3.316.521.943σM=×M=0.980×=0.03最终结果M=0.98±0.03DBXX/XXXXX—XXXX参考文献[1]王婧，测量数据有效数字位数的确定与运算的应用，计量与测试技术，2009年第27卷第6期.P57-60[2]项飞兵，关于日常检验工作中有效数字运算、数值修约和判定,质量与认证，2018年第10期。P81-82[3]陈红霞，化学有效数字的运算法则和修约规则科技创新导报，2013年第5期，P181[4]封跃鹏等，检测结果的数值修约