极限数值表示与数值修约规则_第1页
极限数值表示与数值修约规则_第2页
极限数值表示与数值修约规则_第3页
极限数值表示与数值修约规则_第4页
极限数值表示与数值修约规则_第5页
已阅读5页,还剩40页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

数值修约规则与极限数值的表示和判定GB/T8170—20081极限数值表示与数值修约规则5/8/2024

1范围适用于科学技术与生产活动中试验测定和计算得出的各种数值。当所得数值需要修约时,应按本标准给出的规则进行。适用于各种标准或其他技术规范的编写和对测试结果的判定。2极限数值表示与数值修约规则5/8/20242术语和定义2.1数值修约

roundingofffornumericalvalues

通过省略原数值的最后若干数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。注:经数值修约后的数值称为(原数值的)修约值。3极限数值表示与数值修约规则5/8/20242.2修约间隔

roundinginterval

修约值的最小数值单位。注:修约间隔的数值一经确定,修约值即应为该数值的整数倍。例l:如指定修约间隔为0.l,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。4极限数值表示与数值修约规则5/8/20243数值修约规则3.1确定修约间隔指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;指定修约间隔为1,或指明将数值修约到“1”数位;指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”……数位。5极限数值表示与数值修约规则5/8/20243.2进舍规则四舍六入五考虑五后非零则进一五后皆零视奇偶五前为偶应舍去五前为奇则进一不论数字多少位都要一次修约成6极限数值表示与数值修约规则5/8/2024进舍规则3.2.1拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。例:将12.1498修约到个数位,得12;将12.1498修约到一位小数,得12.1。7极限数值表示与数值修约规则5/8/20243.2.2拟舍弃数字的最左一位数字大于5;则进一,即保留数字的末位数字加1。例:将1268修约到“百”数位,得13×102(特定时可写为1300)。注:本标准示例中,“特定场合”系指修约间隔明确时。8极限数值表示与数值修约规则5/8/20243.2.3拟舍弃数字的最后一位数字是5,且其后有非0数字时进一,即保留数字的末位数字加1.例:将10.5002修约到个数位,得11。9极限数值表示与数值修约规则5/8/20243.2.4拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,即保留数字的末位数字加1;若所保留的末位数字为偶数(2,4,6,8,0)则舍去。例l:修约间隔为0.1(或10-1)拟修约数值修约值

1.05010×10-1(特定场合可写成为1.0)

0.3504×10-1(特定场合可写成为0.4)例2:修约间隔为1000(或103)拟修约数值修约值

25002×103(特定场合可写为2000)35004×103(特定场合可写为4000)10极限数值表示与数值修约规则5/8/20243.2.5负数修约时,先将它的绝对值按3.2.1-3.2.4规定进行修约,然后在修约值前面加上负号。例l:将下列数字修约到“十”数位:拟修约数值修约值

-355-36×10(特定时可写为-360)-325-32×10(特定时可写为-320)例2:将下列数字修约到三位小数,即修约间隔为10-3拟修约数值修约值

-0.0365-36×10-3(特定时可写为-0.036)11极限数值表示与数值修约规则5/8/20243.3不允许连续修约3.3.1拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果,不得多次按3.2规则连续修约。例1:修约97.46,修约间隔为1。

正确的做法:97.46→97;

不正确的做法:97.46→97.5→98。例2:修约15.4546,修约间隔为1。

正确的做法:15.4546→15;不正确的做法:15.4546→15.455→15.46→15.5→16。12极限数值表示与数值修约规则5/8/20243.3.2在具体实施中,有时测试与计算部门先将获得数值按指定的修约数位多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。13极限数值表示与数值修约规则5/8/20243.3.2.1报出数值最右的非零数字为5时,应在数值右上角加“+”或“-”或不加符号,分别表明已进行过舍,进或未舍未进。例:16.50(+)表示实际值大于16.50,经修约舍弃成为16.50;16.50(-)表示实际值小于16.50,经修约进一成为16.50。14极限数值表示与数值修约规则5/8/20243.3.2.2如对报出值需要进行修约,当拟舍弃数字的最左一位数字为5,且其后无数字或皆为零时,数值右上角有“+”者进一,有“-”者舍去,其他仍按第3.2的规则进行。15极限数值表示与数值修约规则5/8/2024例:将下列数字修约到个数位(报出值多留一位至一位小数)。

实测值报出值修约值

15.454615.5-1516.520316.5+1717.500017.518-15.4546-15.5--15-16.5203-16.5+-1716极限数值表示与数值修约规则5/8/20243.40.5单位修约与0.2单位修约在对数值进标行修约时,若有必要,也可采用0.5单位修约或0.2单位修约.17极限数值表示与数值修约规则5/8/20243.4.10.5单位修约(半个单位修约)0.5单位修约是指定修约间隔对拟修约的数值0.5单位进行的修约.0.5单位修约方法如下:将拟修约数值X乘以2,按指定修约间隔对2X依3.2的规定修约,所得数值(2X修约值)再除以2.18极限数值表示与数值修约规则5/8/2024例:将下列数字修约到“个”数位的0.5单位修约。拟修约数值XX22X修约值X修约值60.25120.5012060.060.38120.7612160.5-60.75-121.50-122-61.060.28120.5612160.519极限数值表示与数值修约规则5/8/20243.4.20.2单位修约0.2单位修约是指按指定修约间隔对拟修约的数值,0.2单位进行的修约。0.2单位修约方法如下:将拟修约数值X乘以5,按指定修约间隔对5X依第3章规则修约,所得数值(5X修约值)再除以5。20极限数值表示与数值修约规则5/8/2024例:将下列数字修约到“百”数位的0.2单位修约。拟修约数值X5X5X修约值X修约值

8304150420084084242104200840-930-4650-4600-9208324160420084021极限数值表示与数值修约规则5/8/2024补充:近似数运算①加、减运算如果参与运算的数不超过10个,运算时以各数中末位的数量级最大的数为准,其余的数均比它多保留一位,多余位数应舍去。计算结果的末位的数量级,应与参与运算的数中末位的数量级最大的那个数相同。若计算结果尚需参与下一步运算,则可多保留一位。例如:18.3+1.4546+0.876→18.3+1.45+0.88=20.63→20.6计算结果为20.6。若尚需参与下一步运算,则取20.63。22极限数值表示与数值修约规则5/8/2024②乘、除(或乘方、开方)运算在进行数的乘除运算时,以有效数字位数最少的那个数为准,其余的数的有效数字均比它多保留一位。运算结果(积或商)的有效数字位数,应与参与运算的数中有效数字位数最少的那个数相同。若其计算结果尚需参与下一步运算,则有效数字可多取一位。例如:1.1×0.3268×0.10300→1.1×0.327×0.103=0.0370≈0.037计算结果为0.037。若需参与下一步运算,则取0.0370。乘方、开方运算类同。23极限数值表示与数值修约规则5/8/2024综合运算例:2.0×104+15000×2.5解:[分析]先乘除后加减

2.0×104+15000×2.5=2.0×104+150×102×2.5=2.0×104+375×102=2.0×104+3.75×104=5.75×104≈5.8×10424极限数值表示与数值修约规则5/8/20244极限数值的表示和判定4.1.2标准中极限数值的表示形式及书写位数应适当,其有效数字应全部写出。位数应适当:在极限数值的右侧位数不应超过所用仪器读出的位数。例如:拉力仪的最小读数0.1N,不得规定钢丝的抗拉强度应不小于600.00N,1、如果规定以测量结果的全数值与要求相比较,此时读不出全数值;2、如果规定以测量结果的修约值与要求相比较,此时已无法进行修约;只能是:此规定是错误的。可以规定钢丝的抗拉强度应不小于600N;25极限数值表示与数值修约规则5/8/2024有效数字应全部写出例:钢丝的抗拉强度不得低于600牛顿与不得低于600.0牛顿不同。第一个不同:对计量仪器的分辨力要求不同。第二个不同:设测得值为599.61牛顿,规定用修约值比较,若要求不得低于600牛顿,将实测值修约为600牛顿,判合格;若要求不得低于600.0牛顿,将实测值修约为599.6牛顿,判不合格;26极限数值表示与数值修约规则5/8/20244.2表示极限数值的用语4.2.1.1表达极限数值的基本用语及符号大于A>A多于A高于A小于A<A少于A低于A大于或等于A≥A不小于A不低于A不少于A小于或等于A≤A不大于A不多于A不高于A年满18岁(包括18岁生日当天)应承担刑事责任。年满60岁(不包括生日当月)办理退休手续,不再发工资,领取退休金。27极限数值表示与数值修约规则5/8/20244.2.1.2基本用语组合大于或等于A且小于或等于B从A到BA≤X≤B大于A且小于或等于B超过A到BA<X≤B大于或等于A且小于B至少A不足BA≤X<B大于A且小于B超过A不足BA<X<B顺序:单侧无限区间时,极限值写在右侧。双侧有限区间时,先写小,后写大,例如:A≤X≤B28极限数值表示与数值修约规则5/8/20244.2.2带有极限偏差值的数值4.2.2.1基本数值A带有绝对极限上偏差值和绝对极限下偏差值

指从到符合要求,记为例1:mm,指从79mm到82mm符合要求。对基本数值A,带有极限上偏差值和(或)极限下偏差值若观测值X等于和(或)不符合要求,则应附加括号,写成(不含和)或(不含)、(不含)。例2:(不含2)mm,指从79mm到接近但不足82mm符合要求。例3:(不含1)mm,指超过79mm到82mm符合要求。例4:(不含2和1)mm,指超过79mm到接近但不足82mm符合要求。29极限数值表示与数值修约规则5/8/2024例5:(不含2和1)mm,指超过79mm到接近但不足82mm符合要求。不写成(不含1和2)mm注:mm,与指从79mm到82mm符合要求

mm,与指从79mm到82mm符合要求两者的区别1、对设计人员前者有目标值,而后者没有目标值。2、对检测人员(判断是否合格)两者没有区别。30极限数值表示与数值修约规则5/8/20244.2.2.1基本数值A带有绝对极限上偏差值和绝对极限下偏差值,指从到符合要求,记为。注:当b1=b2=b时,可简记为。

正确表示错误表示例1:mm,指从79mm到81mm符合要求。例2:(不含1)mm,指超过79mm到不足81mm符合要求。例3:(不含+1)mm,指从79mm到不足81mm符合要求。例4:(不含-1)mm,指超过79mm到81mm符合要求。31极限数值表示与数值修约规则5/8/2024对于可简写为,对于可简写为,对于可简写为,不要写为32极限数值表示与数值修约规则5/8/20244.2.2.2基本数值A带有相对极限上偏差值和相对极限下偏差值,指实测值或其计算值X对于A的相对偏差值从到符合要求,记为。注:当时,可记为。

例1:指实测值或其计算值x,对于80的相对偏差值从-1%到+2%符合要求。例2:(不含1)指实测值或其计算值x,对于80的相对偏差值超过-1%到+2%符合要求。33极限数值表示与数值修约规则5/8/2024例3:(不含2)指实测值或其计算值x,对于80的相对偏差值。从-1%到接近但不足+2%符合要求。例4:(不含1和2)指实测值或其计算值x,对于80的相对偏差值超过-1%到不足+2%符合要求。34极限数值表示与数值修约规则5/8/20244.3

测定值或计算值与标准规定的极限数值作比较的方法4.3.1.1极限数值的判定方法判断检验数值是否符合标准要求时,应将检验所得的测定值与与标准规定的极限数值相比较。比较的方法有两种:

全数值比较法;修约值比较法。35极限数值表示与数值修约规则5/8/2024重要4.3.1.2当标准或文件中,若对极限数值(包括带有极限偏差的数值)无特殊规定时,均应适用全数值比较法。如规定采用修约值比较法,应在标准中加以说明。4.3.1.3若标准或文件规定了使用其中一种比较法时,一经确定,不得改动。36极限数值表示与数值修约规则5/8/20244.3.2全数值比较法

将检验所得的测定值不经修约,直接用于与标准定的极限数值做比较。只要越出规定的极限数值都判定为不符合标准要求。例1:规定牛奶中的三氯氰胺不得高于2.5mg/L,测得一牛奶试样中的三氯氰胺含量为2.502mg/L,应判定为该牛奶中的三氯氰胺含量不合格。例2:白卡纸的白度要求≥85%,测定值为84.9%,应判定为该白卡纸白度不合格。37极限数值表示与数值修约规则5/8/20244.3.3修约值比较

将测定值进行修约后,修约数位应与规定的极限数值数位一致

,然后进行比较,以判定实际测得值是否符合标准要求。

只要精度允许,应先将获得的数值按指定的修约数位多一位或几位报出,然后修约至规定的位数。例如:白卡纸的白度要求≥85%,测定值为84.62%,经修约后(85%)应判定为该白卡纸白度合格。修约为84.6

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论