




已阅读5页,还剩21页未读, 继续免费阅读
版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
有效数字取舍规则 讲 座,山东省石油助剂产品及轻烃产品监督检验中心 孙建军 编制,我们日常接触的数据有准确数和近似数之分。 作为准确数的例子有: “这里有5只杯子”中的“5” ; “三角形的内角和为180度”中的“180” “1Wh=3600J”中的“3600” 这些数之所以是准确数是因为有些是确实存在的,有些是理论或定义中的数。,一、有效数字的概念及有效位数的确定,1、近似数,近似数是由可靠数和不可靠数(一般取1位)两部分组成的。 作为近似数的例子有: 所有测得值和测量结果; 经过修约后的任何数值; 经测定得到的物理常数 记录数据时,数据位数要适当。位数太少会增大数据的误差,而太多又会对数据的准确度产生误解。这一点在检定和测量时应特别注意。,1、近似数,2 有效数字,对于有小数点的数,和以非0结尾的整数,从左边第一个非零数字起到最右边的所有数字都是有效数字。第一个非零数字前面的0不是有效数字,但数据末尾的0是有效数字。,当一个近似数所引入的误差的绝对值小于该近似数末位数的0.5时,从该近似数左边第一个非零数字算起,直到最后末位数为止均是有效数字。,从左边第1个非零的数字起,到所截取的数位止,所有数字均称为有效数字。如:3.1416;3.2345;420.00;0.87130;0.00026541等都称为五位有效数字。而123;1.23;0.00123都称为三位有效数字。,在判定有效数字时,要特别注意“0”这个数字,它可以是有效数字,它也可以不是有效数字,如:0.00123的前面的三个零均不是有效数字,因为这三个0与0.00123的精确度无关。又如:870.00后面的三个0,却是有效数字,因为这三个0与870.00的精确度有关。若设此二数均是采用“四舍五入”法截取所得,对于0.00123,其误差的绝对值为0.000005,若去掉此近似数前面的三个0,则可写成12310-5,其误差的绝对值为0.510-5,即为0.000 005,与精度无关。对待近似数时,不可象对待准确数那样,随便去掉小数点部分右边的0,或在小数点部分右边加上0,因为这样作的结果,虽不会改变这个数的大小,却改变了它的精确度。,2 有效数字,1、常数运算 参加运算的常数如、e以及其他无误差的数值,其有效位数可认为是无限的,在计算中要几位取几位。常数的取值不影响有效位数。,二 数字运算规则,2、加减运算 在加减运算中只保留各数共有的小数位数。先找出小数位数最少的值,然后将其它的值按比最少的小数位多一位进行修约,再运算,结果按小数位最少的位修约 。 例如:12.5+3.26+0.165,先将0.165化整为0.16,则12.5+3.26+0.165=12.5+3.26+0.16=15.9 在减法运算中,应避免两个接近的值相减计算结果,因相减后其有效数字将减少。,3、乘除运算 在乘除运算中,先找出有效位数最少的值,将其它值按多一位有效位数进行修约,然后运算,最后按有效位数最少的值的位数修约。 0.1211.315.24,先将15.24修约为15.2, 则0.1211.315.24=0.1211.315.2=20.61=21。,4、乘方与开方运算 数据经乘方与开方运算,所得结果的有效数字位数不大于该数据的位数。一般取相同的位数。 5、对数运算 运算结果应与真数的位数相同。例如: lg32.8=1.51587.=1.52,6、计算平均值时: 若数据的个数较多,则平均值的保留位数可增加一倍。 7、混合运算: 混合运算时所有中间运算比上面的运算多保留一位。,1.1修约间隔 系确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。,三、 数值修约规则(GB8170-87),1、术语,1.2有效位数 对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数;对其十进位数,从非零数字左一位向右数而得到的位数,就是有效位数。 例1:35 000,若有两个无效零,则为三位有效数字,应写成350102 ;若有三个无效零,则为两位有效数字,应写成35103。 例2:12.490为五位有效数字,10.00为四位有效数字。,1、术语,2.1指定位数 a.指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数; b.指定修约间隔为1,或指明将数值修约到个位; c.指定修约间隔为10n,或指明将数值修约到10n(n为正整数),或指明将数值修约到“十”、“百”、 “千”位数。,2、确定修约位数,2.2指定将数值修约成n位有效数字。,3.1 拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。 例1:将12.050001修约到一位小数,得12.1。 例2:将12.498修约到两位有效数字,得12。,3、进舍规则,3.2 拟舍弃数字的最左一位数字大5时,或者是5,而其后跟有并非全部为0的数字时,则进1,即保留的末位数字加1。 例1:将10.502修约到个位数,得11。 例2:将1268修约成三位有效数字,得12710(特定时可写为1270)。,3.3 数字的最左一位数字为5,而右边无数字或皆为0时,若所保留的位数为奇数(1,3,5,7,9)则进一,为偶数(0,2,4,6,8)则舍弃。 例1:修约间隔为0.1(10-1) 拟修约数值 修约值 1.050 1.0 0.350 0.4 例2:将下列数字修约成两位有效数字 拟修约数值 修约值 0.0325 0.032 32500 32103(特定时可写为32000),3、进舍规则,3.4 负数修约时,先将它的绝对值按上述规则进行修约,然后在修约值前面加上负号。 例:将下列数字修约到十数位 拟修约数值 修约值 -355 -3610(特定时可写为-360) -325 -3210(特定时可写为-320),3、进舍规则,4.1拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按照以上规定进行连续修约; 例:修约15.4546,修约间隔为1 正确做法: 15.454615 错误做法: 15.454615.45515.4615.516,4、 不许连续修约,4.2在具体实施中,有时测试与计量部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下列步骤进行。 4.2.1报出数值最右的非零数字为5时,应在数值后面加“(+)”或“(-)”或不加符号,以分别表明已进行过舍、进或未舍未进。 例如:16.50(+)表示实际值大于16.50,经修约舍弃成为16.50; 16.50(-),表示实际值小于16.50,经修约进一成为16.50;,4、 不许连续修约,4.2.2如果判定报出值需要进行修约,当舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有(+)者进一,数值后面有(-)号者舍去,其他仍按前面规则进行。 例如:将下面数字修约到个位数后进行判定(报出值多留一位到一位小数)。 实测值 报出值 修约值 15.4546 15.5(-) 15 16.5203 16.5(+) 17 17.5000 17.5 18 -15.4546 -(15.5(-) ) -15,4、 不许连续修约,指定修约间隔为指定数位的0.5单位,即修约到指定位数的0.5单位。将拟修约的数乘以2,按指定数位依规则修约,所得数值再除以2。,5、0.5单位修约(半个单位修约),例如:将下列数字修约到个位数的0.5单位(或修约间隔为0.5) 拟修约数值 乘2 2A修约值 A修约值 A 2A (修约间隔为1) (修约间隔为0.5) 60.25 120.50 120 60.0 60.38 120.76 121 60.5 -60.75 -121.50 -122 -61.0,指定修约间隔为指定数位的0.2单位,即修约到指定位数的0.2单位。将拟修约的数乘以5,按指定数位依规则修约,所得数值再除以5。 例如:将下列数字修约到“百”位数的0.2单位(或修约间隔为20) 拟修约数值 乘5 5A修约值 A修约值 A 5A (修约间隔为100) (修约间隔为20) 830 4150 4200 840 842 4210 4200 840 -930 -4650 -4600 -920,6、 0.2单位修约,1)0.5单位修约法 把拟修约位看作是个位,如果这一位和以下的“小数位”构成的数等于或小于2.5,则把这位变成0,其后面的数舍掉;若等于或大于7.5,则进一位(即其左一位加1),同时把这位变成0,其后面的数舍掉;若大于2.5小于7.5,则把这位变成5,其后面的数舍掉。 例如:将下列数按0.05间隔修约 原 数: 30.025 30.019 30.026 30.075 30.099 修约数: 30.00 30.00 30.05 30.10 30.10,下面介绍一下0.5和0.2单位修约法的简捷方法,2)0.2单位修约法 首先看拟修约位是奇数还是偶数(含0),若这位数已是偶数,则将其后面的数舍掉;若拟修约位是奇数,且其后有不为零的数,则把这位数加1变成偶数,其后面的数舍掉;若拟修约位是奇数,且其后面已没有数或全为0,这时就要往左看一位,使这一位和拟修约位构成两位“整数”,加1减1,取能被4整除的数作为结果。 例如:将下列数按0.2间隔修约 原 数: 30.498 30.401 30.501 30.599 30.3 31.300 修约数: 30.4 30.4 30.6 30.6 30.4 31.2,下面介绍一下0.5和0.2单位修约法的简捷方法,根据有效数字算 (1) 13.650.00821.6320.002 (2) 703.210.354.022 解答;(1)13.650.0081.6320.00212.02812.03 (2)7030.35/4.0261.261,将下列数据化为4位有效数字: 3.14159,14.005,0.023151,1000501 解答:3.142,14.00,
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 2025年淮北国安电力有限公司招聘6人笔试参考题库附带答案详解
- 2025年四川长虹民生物流股份有限公司招聘单证专员等岗位4人笔试参考题库附带答案详解
- 2025国冶一局集团有限公司(中国冶金地质总局一局)高等院校应届毕业生春季招聘47人笔试参考题库附带答案详解
- 2025四川泸天化弘旭工程建设有限公司社会招聘3人笔试参考题库附带答案详解
- 重庆售房合同协议
- 2016任务驱动型作文完全解读
- 2025年多方共同投资成立公司股权合作协议书合同
- 2025中国平煤神马集团开封华瑞化工新材料股份有限公司招聘21人笔试参考题库附带答案详解
- 微课拍摄合同协议
- 消防外委合同协议
- 2025山东司法警官职业学院教师招聘考试试题及答案
- 中国糖尿病防治指南(2024版)解读
- 【北师大版】六年级下册数学教学设计-总复习《数的认识》(1)
- 行政事业单位财务管理制度范文
- 机房专用精密空调巡检维护
- 养老机构服务高质量115项明细
- 动、静平衡原理及平衡方法
- 船舶首制船设计任务书doc
- 创业路演路演(PPT课件)
- 拱桥桥支架方案
- 石油行业各种特种车辆的介绍
评论
0/150
提交评论