《测量误差与数据处理》课件-有效数字与数据运算_第1页
《测量误差与数据处理》课件-有效数字与数据运算_第2页
《测量误差与数据处理》课件-有效数字与数据运算_第3页
《测量误差与数据处理》课件-有效数字与数据运算_第4页
《测量误差与数据处理》课件-有效数字与数据运算_第5页
已阅读5页,还剩17页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

《测量误差与数据处理》有效数字与数据运算什么是有效数字呢?数据计算中又该如何处理有效数字呢?有效数字的概念01CONTENTS目录数字舍入规则02数字运算规则03有效数字的概念PART01一、有效数字的概念含有误差的任何数,从这个近似数左方起的第一个非零的数字,称为第一位有效数字。从第一位有效数字起到最末一位数字止的所有数字,不管是零或非零的数字,都叫有效数字。有效数字:具体地说,是指在分析工作中实际能够测量到的数字。所谓能够测量到的是包括可靠位数的全部数字加上最后一位估计的,不确定的数字。一、有效数字的概念

若具有n个有效数字,就说是n位有效位数。例如取π=3.14,第一位有效数字为3,共有3位有效位数;又如0.0027,第一位有效数字为2,共有两位有效位数;而0.00270,则为3位有效位数。一、有效数字的概念若近似数的右边带有若干个零的数字,通常把这个近似数写成a×10n形式,而1≤

a

<10。利用这种写法,可从a含有几个有效数字来确定近似数的有效位数。如2.400×103表示4位有效位数;

2.40×103和2.4×103

,分别表示3位和两位有效位数。一、有效数字的概念

在测量结果中,最末一位有效数字取到哪一位,是由测量度来决定的,即最末一位有效数字应与测量精度是同一量级的。例如用千分尺测量时,其测量精度只能达到0.01mm,若测出长度

l

=20.531mm,显然小数点后第二位数字已不可靠,而第三位数字更不可靠,此时只应保留小数点后第二位数字,即写成

l

=20.53mm,为4位有效位数。由此可知,测量结果应保留的位数原则是:其最末一位数字是不可靠的,而倒数第二位数字应是可靠的。测量误差一般取1~2位有效数字,因此上述用千分尺测量结果可表示为l=(20.53±0.01)

mm

。一、有效数字的概念在进行比较重要的测量时,测量结果和测量误差可比上述原则再多取一位数字作为参考,如测量结果可表示为15.214±0.042。因此,凡遇有这种形式表示的测量结果,其可靠数字为倒数第三位数字,不可靠数字为倒数第二位数字,而最后一位数字则为参考数字。一、有效数字的概念在数据处理和计算中,我们需要遵循一些基本的规则来正确运用有效数字。这些规则包括:非零数字都是有效数字。例如,数值123.45中的1、2、3、4和5都是有效数字。规则一零的左边第一个非零数字及其右边的所有数字都是有效数字。例如,数值0.00345中的3、4和5都是有效数字。规则二

科学计数法中的指数部分不参与有效数字的计算。例如,数值1.23×104中有3个有效数字,分别是1、2和3。规则三数字舍入规则PART02二、数字舍入规则“四舍六入五留双”规则“四舍”是指舍去部分<5时,该数字舍去;“六入”是指舍去部分>5时,则进位;“五留双”指的是舍去部分=5时,根据5前面的数字来定:①5前为奇数,舍5入1;②5前为偶数,舍5不进。奇留偶不留当舍入足够多时,舍和入的概率相同,从而舍入误差基本抵消,又考虑到末位是偶数容易被除尽,减小计算误差。二、数字舍入规则将下列数字保留三位有效数字:【例】9.8249→9.829.82671→9.839.8350→9.849.8250→9.829.82501→9.83数字运算规则PART03三、数字运算规则在近似数运算时,为了保证最后结果有尽可能高的精度,所有残余运算的数字,在有效数字后可多保留一位数字作为参考数字(或称为安全数字)。1.三、数字运算规则在近似数做加减运算时,各运算数据以小数位数最少的数据位数为准,其余各数据可多取一位小数,但最后结果应与小数位数最少的数据小数位相同。2.【例】2643.0+987.7+4.187+0.2354≈2643.0+987.7+4.19+0.24=3635.13≈3635.1三、数字运算规则在近似数乘除运算时,各运算数据以有效位数最少的数据位数为准,其余各数据可多取一位有效数,但最后结果应与有效位数最少的数据位数相同。3.【例】15.134×4.12≈15.13×4.12=62.3356≈62.3三、数字运算规则在近似数平方或开方运算时,近似数的选取与乘除运算相同。4.

使用计算器进行计算时,一般不对每一步骤的结果进行舍入,仅对最后的结果进行舍入,使其符合事先所确定的位数。三、数字运算规则科学计数法有效数字的运算规则。5.

假设我们需要计算数值1.23×104和数值4.56×102的和。

首先,我们将两个数值转换为相同的数字形式:

1.23×104=12300,4.56×102=456。

然后,我们进行加法运算:12300+456=12756。根据有效数字的规则

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论