




版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
1、GB/T8170-20082015.04.14术语术语确定修约位数的表达方式确定修约位数的表达方式进舍进舍规则规则不连续修约不连续修约0.50.5单位修约及单位修约及0.20.2单位修约单位修约计算法则计算法则( (参考上海市计量检定人员计量基础知识培训教材参考上海市计量检定人员计量基础知识培训教材) )数值修约数值修约 通过省略原数值的最后若干位数字,调整所保留的通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值末位数字,使最后所得到的值最接近原数值最接近原数值的过程。的过程。注:经数值修约后的数值称为注:经数值修约后的数值称为修约值修约值。10.4110.4数值修约原始
2、数值 修约值10.5有效有效数字数字 该数值从其第一个不是零的数字起到最末一位数的该数值从其第一个不是零的数字起到最末一位数的全部数字即为有效数字。全部数字即为有效数字。例1:3.2,0.32,0.032,0.0032均为两位有效位数;0.0320为三位有效位数。例2:12.490为五位有效位数;10.00为四位有效位数。 例3:1.35cm =13.5 mm =0.0135m ,这三种表示法完全等效,均为三位有效数字。2200 2203 2210 58600 58611 58670 指定数位指定数位( (指定修约间隔指定修约间隔) );指定将数值修约成指定将数值修约成n n位有效位数。位有效
3、位数。四舍六入四舍六入 逢五取偶逢五取偶 拟舍弃拟舍弃数字数字最左一位最左一位数字小于数字小于5 5,则,则舍去舍去,保留其余各位,保留其余各位数字不变数字不变例1:将12.1498修约到个位数(即 修约间隔为1),得12;将12.1498修约到1位小数(即 修约间隔为0.1),得12.1 。 拟舍弃拟舍弃数字数字最左一位最左一位数字大于数字大于5 5 ,或者是或者是5 5,而其后跟有,而其后跟有并非全部为并非全部为0 0的数字时,则进一,即保留的末位数字加的数字时,则进一,即保留的末位数字加1 1。例2:将1268修约到“百”数位,得1300。例3:将10.502修约到个数位,得11。拟舍弃
4、数字的最左一位数字为拟舍弃数字的最左一位数字为5 5,而右面无数字或皆为,而右面无数字或皆为0 0时,时, 若所保留的末位数字为奇数(若所保留的末位数字为奇数(1 1,3 3,5 5,7 7,9 9)则进一,)则进一, 若所保留的末位数字为偶数(若所保留的末位数字为偶数(2 2,4 4,6 6,8 8,0 0)则舍弃。)则舍弃。(逢五取偶)逢五取偶)例1:1.050修约到1位小数,得1.0 。例2:0.35 修约到1为小数,得0.4 。负数修约时,先将它的负数修约时,先将它的绝对值绝对值按数字进舍规则(按数字进舍规则(四舍六入四舍六入 逢五取偶逢五取偶)进行修约,然后在修约值前面加上负号。)进
5、行修约,然后在修约值前面加上负号。例:将下列数字修约到三位小数 拟修约数值 修约值 -0.0365-0.0360.0365绝对值1 1、拟修约数字应在确定修约位数后、拟修约数字应在确定修约位数后一次一次修约获得结果,而修约获得结果,而不得多次按进舍规则连续修约。不得多次按进舍规则连续修约。例如:修约15.4546,修约间隔为1 正确的做法: 15.454615 不正确的做法: 15.454615.45515.4615.5162 2、在具体实施中,有时测试与计算部门先将获得数值按在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判指定的修约位数多一位或几
6、位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。定。为避免产生连续修约的错误,应按下述步骤进行。l报出数值最右的非零数字为报出数值最右的非零数字为5 5时,应在数值后面加时,应在数值后面加“()()”或或“()()”或不加符号,以分别表明已进行或不加符号,以分别表明已进行过舍、进或未舍未进。过舍、进或未舍未进。 例:16.50()表示实际值大于16.50,经修约舍弃成为16.50; 16.50()表示实际值小于16.50,经修约进一成为16.50。l如果报出值需要进行修约,当拟舍弃数字的最左一位数字如果报出值需要进行修约,当拟舍弃数字的最左一位数字为为5 5而后面无数字
7、或皆为零时,数值后面有而后面无数字或皆为零时,数值后面有(+)(+)号者进一,号者进一,数值后面有数值后面有( (- -) )号者舍去,其他仍按数字修约规则进行。号者舍去,其他仍按数字修约规则进行。 例:将下列数字修约到个数位(报出值多留一位到一位小数)。 实测值 报出值修约值 15.4546 15.5(一) 15 -15.4546-15.5(一) -15 16.5203 16.5() 17 -17.5000 -17.5 -18 0.50.5单位修约(半个单位修约)单位修约(半个单位修约)指修约间隔为指定数位的指修约间隔为指定数位的0.50.5单位,即修约到指定数单位,即修约到指定数位的位的0
8、.50.5单位。单位。修约方法:将拟修约数值乘以修约方法:将拟修约数值乘以2 2,按指定数位依数字修约规则修约,所得,按指定数位依数字修约规则修约,所得数值再除以数值再除以2 2。例:将下列数字修约到个数位的0.5单位拟修约数值X 2X 2X修约值 X修约值60.25 120.50 120 60.060.38 120.76 121 60.560.28 120.56 121 60.5-60.75 -121.50 -122 -61.00.20.2单位单位修约修约指指修约间隔为指定数位的修约间隔为指定数位的0.20.2单位,即修约到指定数单位,即修约到指定数位的位的0.20.2单位。单位。修约方法:
9、修约方法:将拟修约数值乘以将拟修约数值乘以5 5,按指定数位依数字修约规则修约,所得,按指定数位依数字修约规则修约,所得数值再除以数值再除以5 5。 例:将下列数字修约到 “百”数位的0.2单位(或修约间隔为20) 拟修约数值X5X5X修约值(修约间隔为100)X修约值(修约间隔为20 )830415042008408424210420084083241604200840-930-4650-4600-920参考上海市计量检定人员 计量基础知识培训教材计算结果的末位计算结果的末位数位,数位,应与参加运算数据中的末位数位最大应与参加运算数据中的末位数位最大的位数相同的位数相同。对带小数点的运算,计
10、算结果小数点后保留的位数应与参加对带小数点的运算,计算结果小数点后保留的位数应与参加运算数据里小数点后末位最左的位数相同运算数据里小数点后末位最左的位数相同。 例:1.5+0.42=1.92=1.9 计算结果计算结果的位数,的位数,应与参加运算应与参加运算数据里有效数字最小的位数数据里有效数字最小的位数相同。相同。 例:0.160*2.6=0.4160=0.42 运算结果与原来数据里有效位数相同。运算结果与原来数据里有效位数相同。 例:1.42=1.96 =2.0 1.233=1.5129=1.51 所取对数位数应与真数有效数字位数相等。所取对数位数应与真数有效数字位数相等。 例:lg12.3=1.09 先开方或乘方,并修约,再乘除,进行修约,最后进行先开方或乘方,并修约,再乘除,进行修约,最后进行加减,并对结果进行修约。加减,并对结果进行修约。乘除乘除注:以有效数位数最少的数据为准,注:以有效数位数最少的数据为准,其他的数据比他多保留一位其他的数
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 2024年自然资源部第三海洋研究所招聘在职人员真题
- 高一英语学案:预习导航Bodylanguage-SectionⅢ
- 通信设备安装合同范本
- 2024年眉山市市属事业单位考试真题
- 2024年河南洛阳文化旅游职业学院招聘教师真题
- 四年级数学上册教案 五 信息窗五(小数的改写与求近似数) 青岛版(五四制)
- 五年级下册数学教案-6.4 圆周率和圆的周长公式丨苏教版
- 山林承包帮工合同范本
- 生产地点合同范本
- 地理欧洲西部第2课时教学设计-2024-2025学年人教版地理七年级下册
- 股权委托管理协议(2025年版)
- 企业文化-电力与能源战略参考题库2025版
- 7.2做中华人文精神的弘扬者教学设计 -2024-2025学年统编版道德与法治七年级下册
- 2025年杭州万向职业技术学院单招职业适应性测试题库及答案1套
- 2024年天津医科大学眼科医院自主招聘笔试真题
- 幼儿园获奖公开课:大班语言《遇见春天》课件
- 煤矿招生考试试题及答案
- 2025年徐州市专业技术人员公需课程 - 知识产权
- 市政设施维护保养手册
- 《Python与数据分析应用》课件-第10章 数据分析工具Pandas
- 2024年高考政治(新课标卷)真题详细解读及评析(适用省份:山西、河南、云南、新疆)
评论
0/150
提交评论