有效数字及运算法则_第1页
有效数字及运算法则_第2页
有效数字及运算法则_第3页
有效数字及运算法则_第4页
有效数字及运算法则_第5页
已阅读5页,还剩27页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

有效数字及运算法则第一页,共三十二页,编辑于2023年,星期三一、有效数字的一般概念例:用米尺测量物体的长度

L1=L2=3.43.45656

3.43.4第二页,共三十二页,编辑于2023年,星期三定义:在测量结果的数字表示中,由若干位可靠数字加一位可疑数字,便组成了有效数字。上述例子中的测量结果均为三位有效数字一、有效数字的一般概念第三页,共三十二页,编辑于2023年,星期三二、有效数字位数的确定1.关于“0”的有效问题①.当“0”在数字中间或末尾时有效如:、、等中的0均有效。注意:不能在数字的末尾随便加“0”或减“0”数学上:物理上:第四页,共三十二页,编辑于2023年,星期三1.关于“0”的有效问题②.小数点前面的“0”和紧接小数点后面的“0”不算作有效数字如:0.0123dm、0.123cm、0.00123m均是3位有效数字。注意:进行单位换算时,有效数字的位数不变。第五页,共三十二页,编辑于2023年,星期三2.数值的科学记数法数据过大或过小时,可以用科学表达式。某电阻值为20000(欧姆),保留三位有效数字时写成2.00104又如数据为0.0000325m,使用科学记数法写成3.2510-5m第六页,共三十二页,编辑于2023年,星期三3.有效数字与仪器的关系有效数字的位数

测量值本身的大小、仪器的准确度

20分度游标卡尺L=2.525cm

(四位有效数字)

螺旋测微计L=2.5153cm

(五位有效数字)米尺L=2.52cm

(三位有效数字)第七页,共三十二页,编辑于2023年,星期三三、直接测量有效数字的确定

——如何读数(1)用米尺测长度例:读数的一般规则:读至仪器误差所在的位置第八页,共三十二页,编辑于2023年,星期三当物体长度在24㎜与25㎜之间时,读数为24.*㎜当读数正好为24㎜时读数为24.0㎜被测物体第九页,共三十二页,编辑于2023年,星期三三、直接测量有效数字的确定

——如何读数(1)用米尺测长度例:(2)用0.1级量程为100mA电流表测电流

读数的一般规则:读至仪器误差所在的位置第十页,共三十二页,编辑于2023年,星期三△仪=100mA×0.1%=0.1mA指针在82mA与83mA之间:读为82.*mA指针正好在82mA上:读为82.0mA对于0.1级表:第十一页,共三十二页,编辑于2023年,星期三△仪=100mA×1.0%=1mA对于1.0级表指针在82mA与84mA之间:可读为82mA、83mA或84mA指针正好在82mA上:读为82mA第十二页,共三十二页,编辑于2023年,星期三四、间接测量量有效数字的确定

——有效数字的运算法则1.加减法第十三页,共三十二页,编辑于2023年,星期三62.5+1.234=63.7

62.5+1.234—————63.734–––––––结果为63.7–例1:第十四页,共三十二页,编辑于2023年,星期三其中:试确定N的有效数字。解:(1)求出N的不确定度(2)(3)用误差(估计误差范围的不确定度)决定

结果的有效数字例2第十五页,共三十二页,编辑于2023年,星期三四、间接测量量有效数字的确定

——有效数字的运算法则1.加减法加减法运算后的有效数字,取到参与运算各数中最靠前出现可疑数的那一位。运算规则:第十六页,共三十二页,编辑于2023年,星期三例19.68-5.848=13.83

19.68-5.848—————13.832––––––结果为13.83––第十七页,共三十二页,编辑于2023年,星期三四、间接测量量有效数字的确定

——有效数字的运算法则1.加减法2.乘除法第十八页,共三十二页,编辑于2023年,星期三3.216.5=21

3.216.5—————1605––––––结果为21––1926—————20.865–––––––例4:第十九页,共三十二页,编辑于2023年,星期三其中:试确定N的有效数字。解:(2)计算不确定度(1)先计算N(3)根据误差(不确定度)决定有效数字,有:例5第二十页,共三十二页,编辑于2023年,星期三四、间接测量量有效数字的确定

——有效数字的运算法则1.加减法2.乘除法乘除运算后结果的有效数字一般以参与运算各数中有效数字位数最少的为准。运算规则:第二十一页,共三十二页,编辑于2023年,星期三例62121.843=0.96____结果为0.96_第二十二页,共三十二页,编辑于2023年,星期三四、间接测量量有效数字的确定

——有效数字的运算法则1.加减法2.乘除法3.乘方与开方第二十三页,共三十二页,编辑于2023年,星期三结果的有效数字与其底或被开方数的有效数字位数相同。如:错误正确运算规则:1002=100102100=10.049=7.049=74.02=164.02=16.0第二十四页,共三十二页,编辑于2023年,星期三四、间接测量量有效数字的确定

——有效数字的运算法则1.加减法2.乘除法3.乘方与开方4.函数运算第二十五页,共三十二页,编辑于2023年,星期三(1)对数函数lgx的尾数与x的位数相同例7lg100=2.000

lg1.983=0.297322714

0.2973lg1983=3.29722714

3.2973第二十六页,共三十二页,编辑于2023年,星期三

(2)指数函数10x或ex的位数和x小数点后的位数相同(包括紧接小数点后面的0)例8106.25=1778279.411.8106100.0035=1.00809611.008第二十七页,共三十二页,编辑于2023年,星期三四、间接测量量有效数字的确定

——有效数字的运算法则1.加减法2.乘除法3.乘方与开方4.函数运算5.自然数与常量第二十八页,共三十二页,编辑于2023年,星期三①自然数不是测量值,不存在误差,故有效数字是无穷位。

②常数、e等的位数可与参加运算的量中有效数字位数最少的位数相同或多取一位。如在D=2R中,2不是一位有效数字,而是无穷位例10L=2R其中R=2.3510-2m就应取3.14(或3.142)即L=23.1422.3510-2=0.148(m)第二十九页,共三十二页,编辑于2023年,星期三综合运算举例

50.00(18.3016.3)(1033.0)(1.00+0.001)=50.002.0

1001.00=1.0102

100=1.0第三十页,共三十二页,编辑于2023年,星期三10.02

lg100.0

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论