DB51T 2157-2016 化学分析实验室有效数字运用指南　　

DB51DB51/T2157—2016化学分析实验室有效数字运用指南2016-05-18发布2016-10-01实施四川省质量技术监督局发布I 1 1 1 2 3 5 7 9本标准起草单位：四川省产品质量监督检验检测院，四GB/T27025《检测和校准实验室能力的通用要求》、国家认证认可监督管理委员会（CNCA）发布GB/T8170-2008《数字修约规则与极限数值的表示和判定》给出了详细的数值修约规则、极限数本标准主要由术语和定义、有效数字位数确定规则、数据修约规则、近似数计算规则和2个附录组1本标准适用于化学分析实验室有效数字运用，并满足GB/T27要求》(idtISO/IEC17025)、国家认证认可监督管理委员会《检验检测GB/T8170-2008数字修约规则与极限24.1.1化学反应基本单元的系数(如H2SO4中的,K2Cr2O7中的)、化学元素和原子团的化合价4.1.2我国法定计量单位,由法定计量单位构成的组合单位,由词头和以上单位所构成的十数单位。原子量、分子量(含原子团,如HCO3、NH4等)以及化学反应基本单元的摩尔质量,阿佛加德罗度f、各种临界值以及其他取自手册上的数4.1.5其他没罗列到的情形，实验室可与上述条款以及后文中的情形对应比较，以确定是否为4.2.1连续物理量，对具有连续分度的计量器具（如滴定管）,在读取和记录测量值时,应度值再多估读和记录一位有效数字,或者说,测量值的有效数字位数必须达到其最小的有效数字位数应达到次小分度值的百分位；当最小分度值 4.2.2统计计算量，统计计算中，以多次重复检测结果的平均值x作为最终的结果。其有效数字位数4.2.3间接测量，间接测量中仪器显示的原始数据，如色谱仪显4.2.5乘方和开方,当对一个数进行乘方或开方时,计算结果的有效数字位数与此数的有34.2.6对数和反对数，对数计算中,所取对数的小数点位数(不包括首数)应与真数的有效示例：将照射量率X=8.501×106R.s-1换算为以法定计量单位c.kg-的“0”为有效数字，小数部分的末位“0”为有效数字，夹在数字中间的4.2.10科学计数法，对包含无效零的数,应采用a)几个近似值相加减时,其和或差的有效数字位数决定于绝对误差最大的数值,即最后结果效数字自左起只达到参加计算的近似值中第一个出现的可疑数字。在小数的加减b)在中间运算过程中,保留的位数可比各数值中小数点后位数最少者多保留1位小数,而计算结c)当两个很接近的近似数值相减时,其差的有效数字位数会有损失,因此,应注意组织好a)近似值相乘除时,所得积或商的有效数字位数，决定于参与计算的数中相对误差最大的那个数b)在实际运算中,先将各近似值修约到比有效数字位数最少者多保留1位有效数字,再将计算结c)使用计算机计算时,可在运算过程中适当保留较多的位数,对中间结果不进行修约,只45取仪器谱线强度为：9.102，9.03 A.2计算平均值x 按式A.1计算平均值x。 x12 x12nn x=9.0817s=nn2is=0.0683s平均值的标准偏差sx=。 n6sx=0.0279查本附录给出的表A.1t检验的临界值表（双侧检验情形得到tα（f）。本例中f=5，tα（f）=2.57。扩展测量不确定度U=sxtα（f）根据JJF1059-2012《测量不确定度的评定与表示》中5.3.8的要求。将扩展不确定度修约到1位有表A.1t检验的临界值（双侧检验）1234567897例：万分之一分析天平，其绝对示值误差为±0.0001g，为了使称量的相对误差在0.1%以下，试问至0.0lmg称量,质量数值＞0.5g时,按精确至0.lmg称量。其有效数字位数取决于滴定管的有89[1]王中平,环境监测测量结果有效数字位数应用中常见问题的探讨,中国环境监