数值修约及运算规则_第1页
数值修约及运算规则_第2页
数值修约及运算规则_第3页
数值修约及运算规则_第4页
数值修约及运算规则_第5页
已阅读5页,还剩16页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

《数值修约及运算规则》主要内容一、数值修约概念 (1)概念; (2)修约规则; (3)其他规定; (4)其他修约的间隔;(5)有效数字概念二、极限数值的表示和判定(一)概念1.数值修约:通过省略原数值的最后若干位数字,调整所保留的末位数字,最后所得到的值最接近原数值的过程。注:经数值修约后的数值称为(原数值的)修约值。

2.有效数值:一个数从左边第一个不是零的数字数起一直到最后一位数字(包括零、科学计数法不计10的N次方)称为有效数字。0.0109 3.109×105

0.0230 是三位是三位是四位(一)概念

3.修约间隔:修约的最小数值单位。注:修约间隔的数值一经确定,修 约值即为该数值的整数倍。如:指定的修约间隔为0.1。修约值

应在0.1的整数倍中选取,相当于将数值修约到一位小数。(一)概念(二)修约规则1、确定修约间隔(确定有效位数),

0.0356修约到0.01得

保留一位有效数字,

2、进舍规则: 1)拟舍弃数字的最后一位数字小于5,

则舍去。保留其余各位数字不变。

12.1498修约到“1”,;修约到

0.1,得

0.040.041212.12)拟舍弃数字的最后一位数字大于5.则

进一,保留数字的末位数加1。

1268修约到“100”位.

13×102也意味着有效数字为位。 1300意味着有效数字为位。24(二)修约规则3)拟舍弃数字的最左一位数字是5,且

其后有非零数字也进一,保留数字

的末位数字加1.

10.5002.修约到“1”.得11

(二)修约规则4)拟舍弃数字的最后一位数字是5,且其后无数字或为0时,若所保留的数字为 奇数(1、3、5、7、9),则进一。即保留数字的末位数字加1.若保留的末位 数字为偶数(0、2、4、6、8)则舍去。1.050 修约间隔为“0.1”。10×10-1(或1.0)有效数字为2位。0.35 修约间隔为“0.1”。4×10-1(或0.4)有效数字为1位。2500 修约间隔“1000”。2×103(2000)有效数字1、4位。3500 修约间隔“1000”。4×103(4000)有效数字1、4位。(二)修约规则5)口诀四舍五入,逢五看前数,奇入偶不入。6)负数修约,先以负值绝对值按上述修约后,加上负号。

-15.456绝对值15.456.修约间隔“0.1”、

15.5.加上负号;-15.5。

(二)修约规则(三)其他规定1.不允许连续修约:拟修的数字应在确定修约间隔或指定修约数位后一次修约获得结果,不得连续按上述要求修约。正确:97.46修约间隔“1”不允许:97.46→97.5→9897(三)其他规定2.特殊情况:具体实施中,有时测试与计算部先将获得数值按指定的修约数位多一位或几位报出,而后由其他部门判定。为免产生修约的错误,应按下述步骤进行:1)报出数值最右的非零数字为5时,应在数值右上角“+”或“-”,或不加符号,分别表明已进行过舍,进或未进。16.50+表示实际值在修约前大于16.50,经修约舍弃后为16.50;原数值可为:16.501“-”则是小于16.50比如16.499。

(三)其他规定2)如果修约后的数字为5“+”者进一“-”者舍去

原数值修约再修15.454615.5-15-15.4546-15.5--1516.520316.5+1717.500017.518(四)其他修约间隔还有以0.5和0.2单位修约的,方法如下:0.5单位修约:被修约的数乘以2,进行间隔修约后再除以2,得到修约值。0.2单位修约:被修约的数乘以5,进行间隔修约后再除以5,得到修约值。

(四)其他修约间隔下列数值修约得到“个位”的0.5单位修约被修约数值X2X2X修约X修约值60.25120.512060.060.38120.7612160.5

(四)其他修约间隔下列数值修约得到“百位”的0.2单位修约被修约数值X5X5X修约X修约值83041504200840842421042008408324160420084093046504600920

(五)有效数字的运算

1.加减法运算

以参与运算的各数中末位的修约间隔最大的数为准。其余的数均比它保留多一位,多余的应按规定修约。计算结果的末位的修约间隔,应与参与运算的数中末位的修约间隔最大的那个数相同。如果是过程计算,则可多保留一位:

(五)有效数字的运算

18.3+1.4546+0.87618.3为末位最大数量级的数,为“0.1”。则以“0.1”增加一位进行修约。

18.3+1.45+0.88=20.63修约:

如果还要参加下一步运算则取

20.620.63

(五)有效数字的运算

2.乘、除(或乘方、开方)运算:

以参与运算的各数中有效数字位数最少的那个数为准。其余多保留一位。运算结果的有效数字位数应与参与运算的数中有效数字位数最少的那个数相同。若是过程计算,则可多保留一位。

(五)有效数字的运算

1.1x0.3268x0.103001.1有效位数最小,

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论