数值修约规则方法的探讨

1、数值修约规则方法的探讨 摘要：本文阐述了对测量数值进行运算的准则及两种数值修约的简要、直观方法，并对测得值或其计算修约值于结果报告中报出的方法进行了探讨。以期为各检验机构准确描述测量结果及提高检测报告的质量要求提供帮助。 关键词：末 有效数字 数值修约 全数值比较法 修约值比较法 0、前言： 测量结果的数据处理和最终表达是测量过程的最后环节，而有效数字的确定，数据的正确修约与表达对测量数据的正确处理和结果的准确表达有着重要的意义。本文详细阐述了对数值进行修约的简要、直观的规则的方法。 1、术语： 1.1 （末）1的概念： （末）指的是任何一个数最末一位数字所对应的单位量值。 如：某长度测量值2

2、0.1mm，该测量值的（末）为0.1mm。 1.2 有效数字1： 某个数测量结果的计量数字的有效数字是指从该数左边的第一个非零数字算起直到最末一位数字为止的所有数字。测量结果的计量数字，其有效位数代表结果的准确程度。有效位数不同，它们的准确度也不同。同时，计量数字右边的“0”不能随意取舍，因为这些“0”都是有效数字，它决定着测量结果的准确度。 例1：二氧化硫残留量测试结果为0.0010g/kg，有效位数为2位。 例2：某长度测量值20.1mm，有效位数为3位；若是20.10mm，则有效位数为4位。测量结果为20.10mm比20.1mm的准确度高。 1.3 数值修约1： 对拟修约数根据保留数位的

3、要求，将其多余位数的数字进行取舍，按照一定的规则选取一个其值为修约间隔整数倍的数（称为修约数）代替拟修约数，这一过程称为数值修约。 1.4 修约间隔1 修约间隔又称修约区间，即修约值的最小数值单位，它是确定修约保留位数的一种方式。 修约间隔一般以k10n（k=1，2，5；n为零或正、负整数）的形式表示。修约间隔一经确定，修约数只能是修约间隔的整数倍。 例如：若指定修约间隔为0.1，则修约数应在0.1的整数倍的数中选取；若修约间隔为210n，则修约数的末位只能是0，2，4，6，8等数字；若修约间隔为510n，则修约数的末位只能是0或5。 1.5 极限数值（指标数值） 标准（或技术规范）中规定考核

4、的以数量形式给出且符合该标准（或技术规范）要求的指标数值范围的界限值。 2、近似数的运算及其计量数字位数的确定 2.1 加、减运算 如果参加运算的数不超过10个，运算时以各数中（末）最大的数为准，其他的数字比其多保留一位，多余位数应舍去。计算结果的（末）应与参与运算的数中（末）最大的那个数相同。若计算结果尚需参与下一步运算，可多保留一位。 例如：18.3+1.4546+0.876 18.3+1.45+0.88=20.6320.6 计算结果为20.6。若尚需参与下一步运算，则取20.63 2.2 乘、除（或乘方、开方）运算 在进行数的乘除运算时，以有效数字位数最少的那个数为准，其余的数的有效数字

5、均比其多保留一位。运算结果（积或商）的有效数字位数应与参与运算的数中有效数字位数最少的那个数相同。若尚需参与下一步运算，有效数字可多取一位。 例如：1.1m0.3268m0.10300m 1.1m0.327m0.103m=0.0370m30.037m3。 计算结果为0.037m3。若需参与下一步运算，则取0.0370m3。 乘方、开方运算类同。 3、数值修约规则： 3.1 当要求对某拟修约数进行修约时，需确定修约数位， 其表达形式有以下几种： （1）指明具体的修约间隔 （2）将拟修约数修约至某数位的0.1或0.2或0.5个单位。 （3）指明按“k”间隔将拟修约数修约为几位有效数字，或者修约至某

6、数位（注意：有时“1”间隔可不必指明，但“2”间隔或“5”间隔必须指明）。 3.2 国家标准gb/t8170数值修约规则与极限数值的表示和判定对“1” “2” “5” 间隔的修约方法均分别作了规定，但使用时较为繁琐。下面介绍一种适用于所有修约间隔的修约方法，该方法只需直观判断，简便易行。现将该修约规则描述如下： 1）最接近原则。即：如果为修约间隔整数倍的一系列数中，只有一个数最接近拟修约数，则该数就是修约数。 例1：将下列数值按0.1修约间隔进行修约 拟修约数值 与拟修约数邻近的修约值 修约值 1.150001 1.1 1.2 （最接近拟修约数） 1.2 0.351 0.3 0.4 （最接近拟

7、修约数） 0.4 例2：将下列数值修约至十分位的0.2各单位（即修约间隔为0.02） 拟修约数值 与拟修约数邻近的修约值 修约值 1.015 1.00 1.02 （虽然该数为修约间隔 1.02 0.02的51倍，但由于 1.02最接近拟修约数， 因此1.02就是修约数） 2）偶数倍原则。即：如果为修约间隔整数倍的一系列数中，有连续的两个数同等地接近拟修约数，则这两个数中，只有为修约间隔偶数倍的那个数才是修约数。 例1：将下列数值修约至十分位的0.2个单位（即修约间隔为0.02） 拟修约数值 与拟修约数邻近的修约值 修约值 8.87000 8.86 8.88 （该数为修约间隔 8.88 0.02

8、的偶数倍） 例2：将8150按100间隔修约 拟修约数值 与拟修约数邻近的修约值 修约值 8150 8.1103 8.2103（该数为修约间隔 8.2103 100的偶数倍） 例3：将8.77700按2间隔修约至千分位 拟修约数值 与拟修约数邻近的修约值 修约值 8.77700 8.776 （该数为修约间隔 8.776 2的偶数倍） 8.778 例4：将7.07500按“5”间隔修约成3位有效数字 拟修约数值 与拟修约数邻近的修约值 修约值 7.75007.05 7.10 （该数为修约间隔 7.10 5的偶数倍） 3）不允许连续修约。即：拟修约数字应在确定修约间隔或指定修约数位后，一次修约获得结果，不得多次连续修约。 例1：将97.46按“1”修约间隔修约为2位有效数字 正确的做法：97.46 97 不正确的做法：97.46 97.5 98 例2：将15.4546按1修约间隔修约为2位有效数字 正确做法：15.4546 15 不正确的做法：15.4546 15.455 15.46 15.5 16 4、结束语： 本文对数值修约介绍了一个简要、直观的规则方法，该方法直观、好用，避免了标准gb/t8170-2008中繁琐的过程。 参考文献： 1gb/t8170-20