数值修约与检测结果表达_第1页
数值修约与检测结果表达_第2页
数值修约与检测结果表达_第3页
数值修约与检测结果表达_第4页
数值修约与检测结果表达_第5页
已阅读5页,还剩28页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、数值修约与检测结果表达数值修约与检测结果表达一、数值修约的概念及意义一、数值修约的概念及意义二、数值修约的基础知识二、数值修约的基础知识三、数值修约规则及注意事项三、数值修约规则及注意事项四、数值运算规则四、数值运算规则五、检测结果的表达五、检测结果的表达u测量及测量结果测量及测量结果u数值修约的概念及意义数值修约的概念及意义一、数值修约的概念及意义一、数值修约的概念及意义u测量及测量结果测量及测量结果 测量测量是以确定量值为目的的一组操作。量值是由一个数(值)乘以测量单位所表示的特定量的大小。 测量有间接和直接之分:直接测量的结果可直接测到而不必通过函数计算;而间接测量的结果需将直接测量的结

2、果代入函数计算才能得到。测量结果测量结果 由测量所得的赋予被测量的值称为测量结果。 由测量与测量结果的概念可看出,测量结果可表示如下:测量结果测量结果= =数(值)数(值)单位量值单位量值例如:用分析天平称得一个试样的质量为 1.1080g, 1.1080g就是一个测量结果。 根据误差公理,测量总是存在误差的,测量结果只能是接近于测量真值的估计值,因而表示测量结果的数(值)是含有误差的数(值)。表示测量结果的的数值是一个近似值!:期望值:期望值 :标准差:标准差x0 :真实值:真实值u 数值修约的概念及意义数值修约的概念及意义概念概念 对某一表示测量结果的数值(拟修约数),根据保留位数的要求,

3、将多余的数字进行取舍,按照一定的规则,选取一个近似数(修约数)来代替原来的数,这一过程称为数值修约。意义意义准确表达测量结果的需要。准确表达测量结果的需要。 测量结果大都是通过间接测量得到的,间接测量的结果通常是通过计算得出的,其组成数字往往其组成数字往往较多较多, 但具体测量的精度是确定的,就是说表示合理表征测量结果的数字个数应是确定的,最终提供的测量结果应合理反映这一点。橡胶密度的测量(gb/t 533-2008) : : 水的密度水的密度mm1 1:试样在空气中的质量:试样在空气中的质量mm2 2:试样在水中的质量:试样在水中的质量例如:例如: 为为0.998205 g/cm3 m1:1

4、.2153 g m2:0.1654 g1.155 g/cm31.16 g/cm3 即使采用直接测量,有时在提供测量程序要求的但高于实际测量精度的测量结果时也需要进行合理的数值修约。 鞋底重量:鞋底重量:156.23 g 156 g156.23 g 156 gu 有效数字有效数字u 修约间隔修约间隔u 修约数位及确定修约位数的表达方式修约数位及确定修约位数的表达方式 二、数值修约的基础知识二、数值修约的基础知识有效数字有效数字有效数字有效数字是指在分析和测量中所能得到的有实际意义的数字。测量结果是由有效数字组成的(前后定位用的“0”除外)。如:测量结果如:测量结果1.1080 g1.1080 g

5、,有效数字是几位?,有效数字是几位?有效数字位数有效数字位数的确定原则的确定原则 由于有效数字的位数反映了测量结果的精确度,它直接与测量的精密度有关。因此,在科学实验和生产活动中正确记录有效数字,不能多写或少写,多写了不能正确反映测量精度,则该数据不真实,因而也就不可靠;少写损失测量精度度。试看下面各数据的有效数字位数:1.0008 433830.5000 20.76%0.0257 15410-1053 0.00700.02 210-103600 100五位有效数字五位有效数字四位有效数字四位有效数字三位有效数字三位有效数字二位有效数字二位有效数字一位有效数字一位有效数字有效数字位数不定有效数

6、字位数不定修约间隔修约间隔 修约值的最小数值单位,系确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍 。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。 确定修约位数的表达方式确定修约位数的表达方式 指定数位(指定修约间隔); 指定将数值修约成n位有效位数。四舍六入五考虑,四舍六入五考虑,五后非零则进一,五后非零则进一, 五后皆零视奇偶,五后皆零视奇偶,五前为偶应舍去,五前为偶应舍去, 五前为奇则进一,五前为奇则进一,不论数

7、字多少位,不论数字多少位,都要一次修约成。都要一次修约成。 进舍规则进舍规则三、数值修约规则及注意事项三、数值修约规则及注意事项 拟舍弃数字的最左一位数字小于拟舍弃数字的最左一位数字小于5 5时,则舍去,即时,则舍去,即保留的各位数字不变。保留的各位数字不变。例1:将12.1498修约到一位小数,得12.1。例2:将12.1498修约成两位有效位数,得12。 拟舍弃数字的最左一位数字大于拟舍弃数字的最左一位数字大于5 5;或者是;或者是5 5,而,而其后跟有并非全部为其后跟有并非全部为0 0的数字时,则进一,即保的数字时,则进一,即保留的末位数字加留的末位数字加1 1。例1:将1268修约到“

8、百”数位,得13102(特定时可写为1300)。例2:将1268修约成三位有效位数,得12710(特定时可写为1270)。例3:将10.502修约到个数位,得11。 拟舍弃数字的最左一位数字为拟舍弃数字的最左一位数字为5 5,而右面无,而右面无数字或皆为数字或皆为0 0时,时, 若所保留的末位数字为奇数(若所保留的末位数字为奇数(1 1,3 3,5 5,7 7,9 9)则进一,)则进一, 若所保留的末位数字为偶数(若所保留的末位数字为偶数(2 2,4 4,6 6,8 8,0 0)则舍弃。)则舍弃。例1:修约间隔为0.1 拟修约数值 1.050修约值结果 1.0 负数修约时,先将它的绝对值按数字

9、修约负数修约时,先将它的绝对值按数字修约规定进行修约,然后在修约值前面加上负规定进行修约,然后在修约值前面加上负号。号。 例1:将下列数字修约到“十”数位 拟修约数值 修约值 -355-3610 不许连续修约不许连续修约 拟修约数字应在确定修约位数后一次修约拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按进舍规则连续修获得结果,而不得多次按进舍规则连续修约。约。例如:修约15.4546,修约间隔为1 正确的做法: 15.454615 不正确的做法:不正确的做法: 15.454615.45515.4615.516 15.454615.45515.4615.516四、数值运算规则四、数值

10、运算规则u 加减运算u 乘除运算u 乘方和开方u 对数和反对数u 平均值u 方差和标准偏差 加减运算加减运算 应以各数中有效数字末位数的数位最高者为准(小应以各数中有效数字末位数的数位最高者为准(小数即以小数部分位数最少者为准),其余数均比该数数即以小数部分位数最少者为准),其余数均比该数向右多保留一位有效数字。向右多保留一位有效数字。 例如:例如:29.2+36.582-3.0281=?29.2+36.582-3.0281=? 按上述规测计算如下:按上述规测计算如下: 29.2+36.582-3.028129.2+36.58-3.03=62.75 29.2+36.582-3.028129.2

11、+36.58-3.03=62.75 最后计算结果保留一位小数,为最后计算结果保留一位小数,为62.862.8。 乘除运算乘除运算 应以各数中有效数字位数最少者为准,其余数均多应以各数中有效数字位数最少者为准,其余数均多取一位有效数字,所得积或商也多取一位有效数字。取一位有效数字,所得积或商也多取一位有效数字。 例如:例如:0.2354380.23543828.628.661.8911 61.8911 0.2354 0.235428.628.661.8961.89 = =414.6707116414.6707116 三个参与运算的数值的有效数字位数分别为六三个参与运算的数值的有效数字位数分别为六

12、位、三位、六位,所以最终计算结果用三位有效数字位、三位、六位,所以最终计算结果用三位有效数字表示,为表示,为415415或或4.154.1510102 2。 乘方和开方乘方和开方 其结果可比原数多保留一位有效数字。其结果可比原数多保留一位有效数字。 例如:例如: 1.41.42 21.96 1.96 1.231.233 3=1.861 =1.861 。 对数和和反对数对数和和反对数在数值对数计算时,所取对数的小数点后的位数(不包括首数)应与真数的有效数字位数相同。换言之,对数有效数字的位数,只计小数点以后的数字的位数,而不计对数的整数部分。 例如:log(100.44) = log(1.004

13、4102) = 2.0019067。最后结果应为2.00191,结果的有效数字位数是五位(小数后位数)而不是六位(整数位数加小数位数),因整数部分只说明该数的10的方次。 平均值平均值计算几个数值的平均值时,先将计算结果修约至比要求的位数多一位,再按数值修约规则处理。 方差和标准偏差方差和标准偏差方差和标准偏差在运算过程中对中间结果不做修约,只将最后结果修约至要求的位数。 注意注意 在所有计算式中,常数(、e等)以及非检测所得的计算因子(倍数或分数,如、 等)的有效数字位数,可视为无限,需要几位就取几位。322、五、检测结果的表达五、检测结果的表达u 皮革厚度 u 耐黄变u 耐折u 硬度u 粘合强度u 密度u国标耐磨udin耐磨u低温屈挠项目项目标准方法标准方法结果表示结果表示说明说明皮革厚度qbt 2709-2005 1.41 mm取三次测量的平均值耐黄变hgt

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论