有效数字运算及修约

1、数值修约规则及极限数值的表示和判定 Significant figure,情景导入,进行化学滴定分析时，当凹液面在两刻度线之间时，需要对两刻度线之间的体积进行估读，梅仁耀读取到23.44mL、梅仁爱读取到23.46mL、梅仁姓读取到23.45mL； 梅闻画看到一试剂柜中的NaOH标准滴定溶液的浓度写着：0.1065(+)mol/L。,有效数字的定义,数学定义：从左边第一个不是0的数字算起，到精确到的位数为止，所有的数字都叫做这个数的有效数字。 分析化学定义：在分析工作中实际能够测量到的数字。能够测量到的是包括最后一位估读的，不确定的数字。我们把通过直读获得的准确数字叫做可靠数字，把通过估读得到

2、的那部分数字叫做存疑数字，把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。,有效数字位数判定,1.0008 43.181 五位 0.1000 10.98% 四位 0.0382 1.9810-10 三位 54 0.0040 两位 3600 100 位数模糊 注意： 1、以上数据中0的左右的差异； 2、对于3600之类的数字，一般看成4位有效数字，但它也可能是2位(3.6103)或3位(3.60102),有效数字位数判定,1、在分析化学计算中，常遇到倍数、分数关系，这些数据不是测量直接得到的，可视为无限多位有效数字； 2、对于pH、pM、lgc、lgK等对数值，其有效数字取决

3、于小数部分的位数，因为整数部分只代表该数字的方次。 e.g. pH=11.20，换算为H+浓度时，应为c(H+)=6.310-12mol/L，有效数字是两位。,数值修约规则,数值修约：通过省略原数值的最后若干位数字，调整所保留的若干位数字，使最后得到的值最接近原数值的过程。 修约间隔：修约值的最小数值单位。修约间隔的数值一经确定，修约值一定是该数值的整数倍。 e.g.1：修约间隔为0.1(或10-1)，表示将数值修约至一位小数； e.g.2：修约间隔为100(或102)，表示将数值修约至百位数。 极限数值：标准(或技术规范)中规定考核的以数量形式给出且符合该标准(或技术规范)要求的指标数值范围

4、的界限值，即指标的上限或者下限。,数值修约规则,数值修约的步骤大体分两步： 1、确定修约间隔； 2、根据修约的进舍规则对数值进行修约。 数值修约的规则： 1、进舍规则； 2、不允许连续修约； 3、0.5单位修约； 4、0.2单位修约。,进舍规则,大规则：四舍六入五成双 拟舍弃数字的最左一位数字小于5，则舍去，保留其余各位数字不变； e.g. 将12.1498修约至个位数，得到12，修约至小数点后一位，得到12.1. 拟舍弃数字的最左一位数字大于5，则进一，即保留位数的末位数字加一； e.g. 将13.1634修约至小数点后一位，得到13.2。,进舍规则, 拟舍弃数字的最左一位数字是5，且其后有

5、非0数字时进一，即保留数字的末位数字加1。 e.g. 将11.5002修约至个位数，得12。 拟舍弃数字的最左一位数字是5，且其后无数字或皆为0时，若所保留数字的末位数字为奇数时则进一，若所保留数字的末位数字为偶数时则舍去。 e.g. 将1.050修约至小数点后一位得1.0，将0.35修约至小数点后一位得0.4。 负数修约时先取绝对值，按照 中的规则进行修约，然后在其前面加上负号。,不允许连续修约规则,(1) 拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果，不得按照进舍规则多次进行多次修约。 e.g. 将97.46修约至个位数 正确做法：97.4697 错误做法：97.4697.5

6、98,不允许连续修约规则,(2) 在具体实施中，有时测试与计算部门先将获得的数值按照指定的修约数位多一位或几位报出，而后再由其它部门判定。为了避免产生连续修约的错误，应按以下两个步骤进行操作。,不允许连续修约规则,.报出数值最右的非零数字为5时，应在数值的右上角加上“+”或“-”或不加符号，分别表明进行过舍、进或未舍未进。 e.g. 16.50+，表示实际值大于16.50，16.50-表示实际值小于16.50。 .如对报出值需进行修约，当拟舍弃的最后一位数值为5，且其后无数字或皆为0时，数值右上角有“+”者进一，有“-”者舍去，其余按照 中的规则进行修约。,0.5单位修约和0.2单位修约,定义

7、：0.5单位修约是指按指定修约单位间隔对拟修约的数值的0.5单位进行的修约。 步骤：将拟修约数值X乘以2，按指定修约间隔对2X根据上述进舍规则进行修约，得到的数值(2X修约值)再除以2。 0.2单位修约的定义和步骤跟0.5单位修约类似，将倍数“2”变为“5”。,有效数字的,在实际的分析工作中，经常会遇到计算公式，而计算公式中的不同项目所保留的有效数字的位数是不同的，最终的计算结果到底保留多少个有效数字值得关注。,有效数字的运算,在几个数据相加或相减时，有效数字的保留，应该以小数点后位数最少的数字为根据。 e.g. 0.0121+25.64+1.05782=？ 每个数据最后一位都有1的绝对误差，

8、即0.012 10.0001；25.64 0.01；0.10572 0.00001；以上数据中以25.64的绝对误差最大，在加减运算中最终结果的绝对误差决定于该数据，故最终结果的有效数字位数决定于25.64这个数据。 So 上式变换为：0.01+25.64+1.06=26.71,有效数字的运算,在几个数据相乘或相除时，有效数字的保留，应与几个数据中相对误差最大的数相对应，通常根据有效数字最少的数据来进行修约。 e.g. 0.012125.641.05782=？ 每个数据最后一位都有1的绝对误差，三个数据的相对误差分别是： 0.0121的相对误差最大，故运算时以它为标准将另外两个数据修约为三位有

9、效数字的，再相乘。 即0.012125.61.06=0.328,极限数值的表示和判定,书写极限数值的一般原则 一、标准(或其它技术规范)中规定考核的以数量形式给出的指标或参数等，应当规定极限数值。极限数值表示符合该标准要求的数值范围的界限值，它通过给出最小极限值和(或)最大极限值，或给出基本数值与极限偏差值等方式表达。 二、标准中的极限数值的表示方式及书写位数应适当，其有效数字应该全部写出。书写位数表示的精确程度，应能保证产品或其它标准化对象的性能和质量。,表示极限数值的基本用语及其组合,带有极限偏差值的数值,测定值或其计算值与标准规定的极限数值的作比较方法,1）全数值比较法 2）修约值比较法 当标准或有关文件中，若对极限数值(包括带有极限偏差的数值)无特殊规定时，均应使用全数值比较法。如规定修约值比较法，应在标准中加以说明。 若标准或有关文件规定了使用其中一种比较方法时，一经确定，不得改动。,全数值比较法,将测试所得的测定值或计算值不经修约处理(或虽经修约处理，但应标明它是经舍、进货未舍未进而得)，用该数值与规定的极限数值作比较，只要超出极限数值规定的范围(不论超出程度大小)，都判定为不符合要求。,修约值比较法,将测定值或其计算值进行修约，修约位数应与规定的极限数值位数一