实验室数据数值修约规则_第1页
实验室数据数值修约规则_第2页
实验室数据数值修约规则_第3页
实验室数据数值修约规则_第4页
全文预览已结束

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、实验室数据数值修约规则1编制目的为规范和指导实验结果数据修约。2适用范围适用于实验室数据数值修约。3术语3.1修约间隔系确定修约保留位数的一种方式修约间隔的数值一经确定,修约值即应为 该数值的整数倍。例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于 将数值修约到一位小数。例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于 将数值修约到“百”数位。3.2有效位数对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的 位数减去无效零(即仅为定位用的零)的个数;对其他十进位数,从非零数字最 左一位向右数而得到的位数,就是有效位数。例1: 3500

2、0,若有两个无效零,则为三位有效位数,应写为350X 10 2 ;若有三个无效零,则为两位有效位数,应写为35X 10 3。例2: 3.2,0.32,0.032,0.0032均为两位有效位数;0.0320为三位有效 位数。例3: 12.490为五位有效位数;10.00为四位有效位数。4确定修约位数的表达方式4.1 指定数位a. 指定修约间隔为10 n (n为正整数),或指明将数值修约到n位小数;b. 指定修约间隔为1,或指明将数值修约到个数位;c. 指定修约间隔为10 n,或指明将数值修约到10 n数位(n为正整数), 或指明将数值修约到“十”,“百”,“千”数位。4.2 指定将数值修约成n位

3、有效位数5进舍规则5.1 拟舍弃数字的最左一位数字小于 5时,则舍去,即保留的各位数字不变。例1:将12.1498修约到一位小数,得12.1 0例2:将12.1498修约成两位有效位数,得12o5.2 拟舍弃数字的最左一位数字大于 5;或者是5,而其后跟有并非全部为0的 数字时,则进一,即保留的末位数字加 1 0例1:将1268修约到 “百”数位,得13X10 2 (特定时可写为1300) 0例2:将1268修约成三位有效位数,得127X 10 (特定时可写为1270) o例3:将10.502修约到个数位,得11o注:本标准示例中,“特定时”的涵义系指修约间隔或有效位数明确时。5.3 拟舍弃数

4、字的最左一位数字为5,而右面无数字或皆为0时,若所保留的 末位数字为奇数(1, 3,5,7, 9)则进一,为偶数(2, 4, 6,8,0)则舍弃。例1:修约间隔为0.1 (或10 -1 )拟修约数值 修约值1.0501.00.3500.4例2:修约间隔为1000 (或10 3 )拟修约数值修约值25002X 10 3 (特定时可写为2000)35004X 10 3 (特定时可写为4000)例3:将下列数字修约成两位有效位数拟修约数值修约值0.03250.0323250032X 10 3 (特定时可写为32000)5.4 负数修约时,先将它的绝对值按上述3.13.3规定进行修约,然后在修约值前面

5、加上负号。例1:将下列数字修约到“十”数位拟修约数值修约值-355-36X 10 (特定时可写为-360)-325-32X 10 (特定时可写为-320)例2:将下列数字修约成两位有效位数拟修约数值修约值-365-36X 10 (特定时可写为-360)-0.03650.0366不许连续修约6.1 拟修约数字应在确定修约位数后一次修约获得结果,而不得多次连续修约例如:修约15.4546,修约间隔为1正确的做法:15.4546 15不正确的做法:15.4546 15.455 15.46 15.5 166.2 在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一 位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步 骤进行。6.2.1报出数值最右的非零数字为5时,应在数值后面加“ (+ ) ”或“()”或不加符号,以分别表明已进行过舍、进或未舍未进。如如: 16.50 ( + )表示实际值大于16.50,经修约舍弃成为16.50; 16.50 () 表示实际值小于16.50,经修约进一成为16.50。6.2.2 如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有(+)号者进一,数值后面有(-)号者舍去。例如:将下列数字修约到个数位后进行判定(报出值多留一位到一位小数)。(此文档部分内容来源于

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论