数字运算、修约、极限数值表示方法讲义.

1、数字运算、修约、极限数值判定与表示方法一、数字运算二、数值修约规则三、极限数值的表示方法和判定方法一、数字运算在检验过程中， 对检验所得的数据如何进行计算、 整理， 如何按照技术标准要求作出判定，是检验人员必须掌握的基 础知识。1、有效位数 在检验过程中，记录数据和计算结果究竟应该保留几位数字？有的检验人员认为记录和计算保留的位数越多越准 确，其实不然。由于检验方法、仪器设备和人们感官分析能 力的限制， 测量中只能读取一定位数的数字。 读取位数过多， 不但不能提高检验结果的准确度，反而使计算工作量大大增 加，而且还常常容易出错；读取位数过少，则表达不出测量 的准确度。为了确切表达测量结果的位数

2、，我们给出有效位 数的概念。若截取得到的近似数， 其绝对误差是末位上的半个单位， 那么这个近似数，从第一个不是零的数字起到这个数位止， 所有数字均称为有效数字。一个进似数有n 个有效数字，也 叫这个进似数有 n 个有效位数。 如 3.1416 、2.1173 、180.00 ， 均为五位有效数； 而 0.00274 、274、27.4 ，均为三位有效数。在判断有效数字时，要特别注意 0 这个数字，它可以是 有效数字，也可以不是有效数字，例如：0.00274，前面三个0 都不是有效数字， 而 180.00，后面三个 0 却都是有效数字。 因为前者与测量的精确度无关，而后者却有关。为了说明这 个问

3、题，我们不妨各都去掉两个0，即0.00274=0.274 X 10-2表示其真值为：(0.2735 0.2745) X 10-2其绝对误差为：-20.0005X 10-2=0.000005而 0.00274 的绝对误差也是 0.000005，故去掉前面两个 0后， 其绝对误差不变；而对于 1 80 . 00，若去掉后面两个 0，成为：180.00=180则其真值所在区间为：(180.5 179.5)其绝对误差为 0.5；但对于 180.00 来说，其真值所在区间应为：(180.005 179.995)其绝对误差为 0.005，显然，由于去掉右边两个0，而使绝对误差由 0.005 变成了 0.5

4、，这样就不对了。因此，绝对不可象 对待准确数那样，随随便便去掉小数部分右边的0，或在小 数部分右边加上 0，因为这样做的结果，虽不会改变这个数 的大小，却改变了这个近似数的精确度。对任一数值，其有效位数按下述原则确定：对没有小数位且以若干个零结尾的数值，从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零） 的个数；对其他十进位数，从非零数字最左一位向右数而得 到的位数，就是有效位数。例 1：3.2、0.32、0.0032 均为两位有效位数；0.320 为三数有效位数；10.00 为四位有效位数；12.490 为五位有效位数。例 2： 35000，若有两个无效零，则为三位有效位数，应

5、写为2350 X 102；若有三个无效零，则为两位有效位数，应写为35X 103。例 3：12.490 为五位 有效位数；10.00 为四位有效位数。2、有效位数的选择(1) 记录数值时有效位数的选择读取或记录测量数据时，一般按仪器最小分度值来读数。 对于那些需要做进一步运算的数值，则应在按最小分度值读 取后再估读一位。读数时，小数末尾的零不能随意取舍。(2) 计算过程中有效位数的选择 加减。几个数相加或相减时，以小数部分位数最少 的一数为准，其余各数均修约或比该数多一位， 然 后运算。例 1:求 1648.0，13.65，0.0082，1.632，86.82，5.135, 316.34，0.

6、545 的和。解 1648.0+13.65+0.0082+1.632+86.82+5.135+316.34+0.5451648.0+13.65+0.01+1.63+86.82+5.14+316.34+0.54=2071.93 2071.9 乘除。几个数相乘或相除时，以有效位数最少的一数为准，其余各数均修约成比该数多一位，然后运算。例 2: 0.0121 X 1.36872 的积解：0.0121 X 1.368720.0121 X 1.369=0.0165649 0.0166 乘方或开方。原数有几位有效位数，计算结果就可保 留几位。若还参加运算，则应多保留一位。 常数。对于某些常数，如n、e及某

7、些倍数或分数可视为无限有效。计算过程中可根据需要确定有效位数。以上都是一些最简单的，通常所说的“一步运算”的问 题，但在实际问题中遇到的计算，并不都这样简单，往往在 一个式子里会包括几种不同的运算，即所谓“多步运算”的 问题，在多步运算的问题中，中间步骤计算的结果所保留的 数字要比加减、乘除、乘方和开方的数字计算法则的规定多 出一位。此外，在计算算术平均值时，若四个以上的数相平均， 则平均值的有效位数可增加一位，这是因为平均值的误差要 比其它任何一个数的误差小。二、数值修约规则在数据处理中，当有效位数确定后，对有效位数之后的 数字要进行修约处理。 修约按照国家标准 GB8/T8170-87数

8、值修约规则进行。（一）修约间隔 修约间隔是确定修约保留位数的一种方式。修约间隔的数值一经给出，修约位数为该数值的整数倍。例如：指定修 约间隔为 0.1 ，修约值总在 0.1 的整数倍中选取，即修约值 保留一位小数。（二）半个单位修约和 0.2 单位修约1 、 0.5 单位修约（半个单位修约）指修约间隔为指定数位的 0.5 单位，即修约到指定数位的 0.5 个单位。具体办法是：对拟修约值乘以 2，按指定数位依照一般 进舍规则修约，将所得值除以 2 即得修约值。例如 ，将下列数值修约到个数位的半个单位（或修约间隔为 0.5 ）拟修约值乘以 2 2A 修约值修约值（A）（2A）（修约间隔 :1 ）（

9、修约间隔 :0.5 ）60.25120.5012060.060.38120.7612160.5-60.75-121.50-122-61.02、 0.2 单位修约 指修约间隔为指定数位的 0.2 单位，即修约到指定数位 的 0.2 个单位。具体办法是，对拟修约值乘以 5，按指定数值依照一般 进舍规则修约，将所得值除以 5 即得修约值。 例如 ：将下列数值修约到百数位的 0.2 单位（或修约间隔为20)拟修约值乘以 55A 修约值修约值（A）（2A）（修约间隔 :100 ）（修约间隔 :20 ）8304150420084084242504200840-930-4650-4600-920（三）进舍规

10、则进舍规则可概括为如下口诀： “四舍六入五考虑， 五后非 零则进一，五后皆零视奇偶，五前为偶应舍去，五前为奇则 进一。”1、拟舍弃数字的最左一位数字小于 5 时，则舍去即保留的各位数字不变。例 1 ：将 12.1498 修约到一位小数，得12.1 。例 2：将 12.1498修约到两位有效位数，得12。2、将某一数值修约为有效位数N 位，当第 N+1 位的数字小于 5时，舍去；当第 N+1 位的数字大于 5，或者是 5且 其后并非全部为零时，则进一。例如 ，下例左边的数值修约为三位有效位数得右边结果：2.3241>2.32, 2.3263>2.33, 2.32501>2.33

11、3、将某些数修约为有效位数N 位，当第 N+1 位数字为5,而右边无数字或皆为零时,看保留数字是奇数还是偶数。 若保留数字的最末一位为偶数时（2、 4、6、 8）,舍去；保留数字的最末一位为奇数时（1 、3、 5、7、9）,进一。例 1：间隔为 0.1 （或 10-1）拟修约数值 修约值1.0501.00.3500.4例 2：修约间隔为 1000 （或 103）拟修约数值修约值25002X 103 （特定时可写为 2000）35004X 103 （特定时可写为 4000）例 3 ：将下列数字修约成两位有效位数拟修约数值修约值0.0325 0.0323250032X 103 （特定时可写为320

12、00）（四）负数修约 先将负数的绝对值按上述方式进行修约，然后在修约值 前面加上负号。例 1 ： 将下列数字修约到“十”数位拟修约数值修约值-355-36X 10 （特定时可写为 -360 ）-325-32X 10 （特定时可写为 -320）例 2 ：将下列数字修约成两位有效位数拟修约数修约值-365-36 X 10（特定时可写为 -360）-0.0365-0.036（五）不许连续修约1、拟修约数值应在确定修约位数后一次修约获得结果， 而不得多次按上述规定连续修约。例 1：7.35456 要求三位有效位数时为 7.35 。 不正确的做法：7.354546 7.35455 7.3546 7.35

13、5 7.36。例 2：修约 15.4546 ，修约间隔为 1正确的做法：15.4546 15不正确的做法：15.454615.45515.4615.5162、在具体实施中， 有时测试部门先将获得数值按指定的 修约位数多一位或几位报出，而后由其他部门判定。为避免 产生连续修约的错误，要求在报出数值最右的非零数字为5时，应在数值后面加“ （+）”或“（- ）”或不加号，以分别表 明已进行过舍、进或未舍未进。例如：16.50 （+）表式实际数大于 16.50 ，经修约舍弃 成为 16.50 ；16.50 （ - ）表示实际值小于 16.50 ，经修约进 一成为 16.50 。三、极限数值判定与表示方

14、法（一）书写极限数值的一般原则1、标准中规定考核的以数量形式给出的指标或参数等，应当规定极限数值， 它表示符合标准要求的数值范围的界限。通过给出最小极限值和（或）最大极限值，或给出基本数值和极限偏差值等方式表达。2、标准中极限数值的形式及书写位数应该适当。它的有效位数应全部写出。 书写位数表示的精确程度， 应 能保证产品或其它标准化对象的应有性能和质量， 从而它 也规定了为检验实际产品或其它标准化对象而得到的测 定值或其计算值应具有的相应精确程度。（二）表达极限数值的基本用语及其涵义1、 基本用语及其涵义基本用语符号特定情形下的基本用语涵义大于 A> A多于 A 高于 AA 值不符合要求

15、小于 Av A少于 A 低于 AA 值不符合要求大于或等于 A> A不小于 A 不少于 A 不低于 AA 值符合要求小于或等于 A< A不大于 A 不多于 A 不高于 A A 值符合要求 基本用语也可组合使用，表明极限数值范围不小于不大于例： C（%）0.120.19Si（%）0.170.37 不多于、不少于、多于、少于等用语宜用于叙述时间、距 离指标，以及仅取整数值的计算指标等场合。如：使用寿 命不少于 3000h。 不高于、不低于、高于、低于等用语宜用于叙述温度、高 度(以向上作为正方向)指标等场合。如：所用柴油闪点 不低于60 C。2、 允许的习惯用语及其涵义必要时，允许采用

16、下列用语 “ A及以上”，指数值大于或等于 A (> A); “A及以下”，指数值小于或等于 A (< A)。 “超过A ”，指数值大于A (> A);“不足A”，指数值小于A (v A);“至多A”，指数值小于或等于 A (< A );“至少A ” ,指数值大于或等于 A (> A )。3、带有极限偏差的数值及其涵义 某基本数值 A 带有绝对极限上偏差值 +b1 和绝对极限偏 差值-b2即A+b1-b2，指从(A- b2)到(A+ b1)符合标准要 求。例：80+2-1mm，指从79mm到82mm符合标准要求。 某基本数值 A带有相对极限上偏差值+b1%和相对极

17、限 下偏差七2%，即A+b1-b2%，指实测值或其计算值 R对于A 的相对偏差值(R-A) /A丨从-b2%到+b1%符合标准要求。 若某个极限偏差值或B 已超出标准要求，则应附加括号，写成“ B （不含B）”。例：80+2-imm （不含2）,指从79mm到接近但不足 82mm 符合标准要求。（三）检测结果的判定方法根据 GB/T1250-89 极限数值的表示方法和判定方法 ， 在判定检测数据是否符合标准要求时，应将检验所得的测定 值或其计算值与标准规定的极限数值作比较。比较的方法有 全数值比较法和修约值比较法 两种。1、全数值比较法 标准中各种极限数值（包括带有极限偏差值的数值）未 加说明

18、时，均指采用全数值比较法。该方法是：将检验所得的测定值或其计算值不经修约处 理（或按 GB/T8170 作修约处理，但应表明它是经舍、进或 未舍未进而得） ，而用数值的全部数字与标准规定的极限数 值作比较，只要越出规定的极限数值（不论越出程度大小），都判定为不符合标准要求。示例见下表。极限数值测定值或其计算值修约值是否符合标准要求> 56 X1055556 X 10(-)不符55956 X 10(-)不符56056 X 10符合56556 X 10(+)符合> 97.097.0197.0(+)符合97.0097.0符合96.9897.0（-）不符96.9496.9（+）不符0.300.600.2990.30（-）不符0.3000.30符合0.6000.60符合0.6010.60（+）不符0.300.600.6050.60（+）不符2、修约值比较法凡标准中说采用修约值比较法的，应采用修约值比较 法。 将测定值或其计算值按 GB/T8170 进行修约，修 约位数与标准规定的极限数值书写位数一致。 将修约