3、有效数字及运算法则_第1页
3、有效数字及运算法则_第2页
3、有效数字及运算法则_第3页
3、有效数字及运算法则_第4页
3、有效数字及运算法则_第5页
已阅读5页,还剩18页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

有效数字及运算法则定义:在测量结果的数字表示中,由若干位可靠数字加一位可疑数字,便组成了有效数字.仪器上显示的数字匀为有效数字。一、有效数字的一般概念二、有效数字位数的确定1.关于“0”的有效问题①.当“0”在数字中间或末尾时有效如:、、等中的0均有效。注意:不能在数字的末尾随便加“0”或减“0”数学上:物理上:1.关于“0”的有效问题②.小数点前面的“0”和紧接小数点后面的“0”不算作有效数字如:0.0123dm、0.123cm、0.00123m均是3位有效数字。注意:进行单位换算时,有效数字的位数不变。2.数值的科学记数法数据过大或过小时,可以用科学表达式。某电阻值为20000(欧姆),保留三位有效数字时写成2.00104

又如数据为0.0000325m,使用科学记数法写成3.2510-5m3.有效数字与仪器的关系有效数字的位数反应了测量值本身的大小、仪器的准确度

20分度游标卡尺L=2.525cm

(四位有效数字)

螺旋测微计L=2.5153cm

(五位有效数字)米尺L=2.52cm

(三位有效数字)三、直接测量有效数字的确定

——如何读数读数的一般规则:读至仪器误差所在的位置例:(1)用米尺测长度(2)用0.1级量程为100mA电流表测电流当物体长度在24㎜与25㎜之间时,读数为24.*㎜当读数正好为24㎜时读数为24.0㎜被测物体△仪=100mA×0.1%=0.1mA指针在82mA与83mA之间:读为82.*mA指针正好在82mA上:读为82.0mA对于0.1级表:四、间接测量量有效数字的确定

——有效数字的运算法则1.加减法加减法运算后的有效数字,取到参与运算各数中最靠前出现可疑数的那一位。运算规则:例162.5+1.234=63.762.5+1.234—————63.734结果为63.7例219.68-5.848=13.83

19.68-5.848—————13.832––––––结果为13.83––2.乘除法运算规则:乘除运算后结果的有效数字一般以参与运算各数中有效数字位数最少的为准。例33.21

6.5=21

3.21

6.5—————1605––––––结果为21––1926—————20.865–––––––例42121.843=0.96____结果为0.96_如:错误正确1002=100102

100=10.0

49=7.049=74.02=164.02=16.03.乘方与开方运算规则:结果的有效数字与其底或被开方数的有效数字位数相同。(1)对数函数lgx的尾数与x的位数相同例5lg100=2.000

lg1.983=0.297322714

0.2973lg1983=3.29722714

3.29734.函数运算

(2)指数函数10x或ex的位数和x小数点后的位数相同(包括紧接小数点后面的0)例6106.25=1778279.411.8106100.0035=1.00809611.008首先用传递公式计算cosx的不确定度x=20018’

x=1’

0.0003弧度

求cosx的有效数字(3)三角函数解:误差位在小数点后第四位而cos20o18’=0.937889…...根据不确定度:cos20o18’=0.9379例7

cosx=|sinx|x=sin(20018’)0.0003=0.0001①自然数不是测量值,不存在误差,故有效数字是无穷位。

②常数

、e等的位数可与参加运算的量中有效数字位数最少的位数相同或多取一位。如在D=2R中,2不是一位有效数字,而是无穷位例8L=2R其中R=2.3510-2m

就应取3.14(或3.142)即L=23.1422.3510-2=0.148(m)5.自然数与常量综合运算举例

50.00(18.3016.3)(1033.0)(1.00+0.001)=50.002.0

1001.00=1.0102

100=1.0

10.02

lg100.0

27.321

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论