检测数据修约处理

1、精选课件 检测数据修约处理检测数据修约处理GB/T8170-20082015.04.14精选课件目录术语术语确定修约位数的表达方式确定修约位数的表达方式进舍进舍规则规则不连续修约不连续修约0.50.5单位修约及单位修约及0.20.2单位修约单位修约计算法则计算法则( (参考上海市计量检定人员计量基础知识培训教材参考上海市计量检定人员计量基础知识培训教材) )精选课件术语术语精选课件数值修约数值修约 通过省略原数值的最后若干位数字，调整所保留的通过省略原数值的最后若干位数字，调整所保留的末位数字，使最后所得到的值末位数字，使最后所得到的值最接近原数值最接近原数值的过程。的过程。注：经数值修约后的

2、数值称为注：经数值修约后的数值称为修约值修约值。10.4110.4数值修约原始数值 修约值10.5精选课件有效有效数字数字 该数值从其第一个不是零的数字起到最末一位数的该数值从其第一个不是零的数字起到最末一位数的全部数字即为有效数字。全部数字即为有效数字。例1：3.2，0.32，0.032，0.0032均为两位有效位数；0.0320为三位有效位数。例2：12.490为五位有效位数；10.00为四位有效位数。 例3：1.35cm =13.5 mm =0.0135m ，这三种表示法完全等效，均为三位有效数字。精选课件精选课件2200 2203 2210 58600 58611 58670 精选课件

3、确定修约位数的表达方式确定修约位数的表达方式精选课件确定修约位数的表达方式确定修约位数的表达方式指定数位指定数位( (指定修约间隔指定修约间隔) )；指定将数值修约成指定将数值修约成n n位有效位数。位有效位数。精选课件进舍进舍规则规则精选课件四舍六入四舍六入 逢五取偶逢五取偶 拟舍弃拟舍弃数字数字最左一位最左一位数字小于数字小于5 5，则，则舍去舍去，保留其余各位，保留其余各位数字不变数字不变例1：将12.1498修约到个位数（即 修约间隔为1），得12；将12.1498修约到1位小数（即 修约间隔为0.1），得12.1 。 拟舍弃拟舍弃数字数字最左一位最左一位数字大于数字大于5 5 ，或者

4、是或者是5 5，而其后跟有，而其后跟有并非全部为并非全部为0 0的数字时，则进一，即保留的末位数字加的数字时，则进一，即保留的末位数字加1 1。例2：将1268修约到“百”数位，得1300。例3：将10.502修约到个数位，得11。精选课件拟舍弃数字的最左一位数字为拟舍弃数字的最左一位数字为5 5，而右面无数字或皆为，而右面无数字或皆为0 0时，时， 若所保留的末位数字为奇数（若所保留的末位数字为奇数（1 1，3 3，5 5，7 7，9 9）则进一，）则进一， 若所保留的末位数字为偶数（若所保留的末位数字为偶数（2 2，4 4，6 6，8 8，0 0）则舍弃。）则舍弃。（逢五取偶）（逢五取偶）

5、例1：1.050修约到1位小数，得1.0 。例2：0.35 修约到1为小数，得0.4 。精选课件负数修约时，先将它的负数修约时，先将它的绝对值绝对值按数字进舍规则（按数字进舍规则（四舍六入四舍六入 逢五取偶逢五取偶）进行修约，然后在修约值前面加上负号。）进行修约，然后在修约值前面加上负号。例：将下列数字修约到三位小数 拟修约数值 修约值 -0.0365-0.0360.0365绝对值精选课件不连续修约不连续修约精选课件1 1、拟修约数字应在确定修约位数后、拟修约数字应在确定修约位数后一次一次修约获得结果，而修约获得结果，而不得多次按进舍规则连续修约。不得多次按进舍规则连续修约。例如：修约15.4

6、546，修约间隔为1 正确的做法： 15.454615 不正确的做法： 15.454615.45515.4615.516精选课件2 2、在具体实施中，有时测试与计算部门先将获得数值按、在具体实施中，有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出，而后由其他部门判指定的修约位数多一位或几位报出，而后由其他部门判定。为避免产生连续修约的错误，应按下述步骤进行。定。为避免产生连续修约的错误，应按下述步骤进行。l报出数值最右的非零数字为报出数值最右的非零数字为5 5时，应在数值后面加时，应在数值后面加“（）（）”或或“（）（）”或不加符号，以分别表明已进行或不加符号，以分别表明已进行过

7、舍、进或未舍未进。过舍、进或未舍未进。 例：16.50（）表示实际值大于16.50，经修约舍弃成为16.50； 16.50（）表示实际值小于16.50，经修约进一成为16.50。精选课件l如果报出值需要进行修约，当拟舍弃数字的最左一位数字如果报出值需要进行修约，当拟舍弃数字的最左一位数字为为5 5而后面无数字或皆为零时，数值后面有而后面无数字或皆为零时，数值后面有(+)(+)号者进一，号者进一，数值后面有数值后面有( (- -) )号者舍去，其他仍按数字修约规则进行。号者舍去，其他仍按数字修约规则进行。 例：将下列数字修约到个数位（报出值多留一位到一位小数）。 实测值 报出值修约值 15.45

8、46 15.5（一） 15 -15.4546-15.5(一) -15 16.5203 16.5（） 17 -17.5000 -17.5 -18 精选课件0.50.5单位修约及单位修约及0.20.2单位修约单位修约精选课件0.50.5单位修约（半个单位修约）单位修约（半个单位修约）指修约间隔为指定数位的指修约间隔为指定数位的0.50.5单位，即修约到指定数单位，即修约到指定数位的位的0.50.5单位。单位。修约方法：将拟修约数值乘以修约方法：将拟修约数值乘以2 2，按指定数位依数字修约规则修约，所得，按指定数位依数字修约规则修约，所得数值再除以数值再除以2 2。例：将下列数字修约到个数位的0.5

9、单位拟修约数值X 2X 2X修约值 X修约值60.25 120.50 120 60.060.38 120.76 121 60.560.28 120.56 121 60.5-60.75 -121.50 -122 -61.0精选课件0.20.2单位修约单位修约指修约间隔为指定数位的指修约间隔为指定数位的0.20.2单位，即修约到指定数单位，即修约到指定数位的位的0.20.2单位。单位。修约方法：将拟修约数值乘以修约方法：将拟修约数值乘以5 5，按指定数位依数字修约规则修约，所得，按指定数位依数字修约规则修约，所得数值再除以数值再除以5 5。 例：将下列数字修约到 “百”数位的0.2单位（或修约间隔

10、为20） 拟修约数值X5X5X修约值（修约间隔为100）X修约值（修约间隔为20 ）830415042008408424210420084083241604200840-930-4650-4600-920精选课件 计算法则计算法则参考上海市计量检定人员 计量基础知识培训教材精选课件加减运算计算结果的末位数位，应与参加运算数据中的末位数位最大计算结果的末位数位，应与参加运算数据中的末位数位最大的位数相同。的位数相同。对带小数点的运算，计算结果小数点后保留的位数应与参加对带小数点的运算，计算结果小数点后保留的位数应与参加运算数据里小数点后末位最左的位数相同。运算数据里小数点后末位最左的位数相同。

11、例：1.5+0.42=1.92=1.9 精选课件乘除运算 计算结果的位数，应与参加运算数据里有效数字最小的位数计算结果的位数，应与参加运算数据里有效数字最小的位数相同。相同。 例：0.160*2.6=0.4160=0.42 精选课件平方或开方运算运算结果与原来数据里有效位数相同。运算结果与原来数据里有效位数相同。 例：1.42=1.96 =2.0 1.233=1.5129=1.51 精选课件对数运算 所取对数位数应与真数有效数字位数相等。所取对数位数应与真数有效数字位数相等。 例：lg12.3=1.09 精选课件混合运算 先开方或乘方，并修约，再乘除，进行修约，最后进行先开方或乘方，并修约，再乘除，进行修约，最后进行加减，并对结果进行修约。加减，并对结果进行修约。乘除乘除注：以有效数位数最少的数据为准，注：以有效数位数最少的数据为准，其他的数据比他多保留