版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
《路基路面试验与检测》课程主讲:张小利试验检测数据的处理—有效数字与修约规则《路基路面试验与检测》课程1、有效数字概念目录2、零的有效数字目录3、有效数字修约规则4、修约间隔2、有效数字运算规则引言《路基路面试验与检测》课程
如:1.0g与1.00g的测量精度分别为±0.1g、±0.01g。两者有不同含义,1.0g表示被测物质的质量为1.0±0.1g,1.00g表示被测物质的质量为1.00±0.01g。
在分析测试中,为了得到准确的分析结果,不仅要准确地进行各种测量,而且还要正确地记录和计算。分析结果所表达的不仅仅是试样中待测组分的含量,而且反映了测量方法、仪器的准确度。
1.有效数字概念《路基路面试验与检测》课程
概念:---实际能测到的分析数据a.用万分之一分析天平:10.2345g实验数据的准确性与分析测试仪器的测量精度有关:同一试样采用不同测量精度的仪器测量,所得数据的有效数字位数不同,其中有效数字位数多的测量更精确。准确数字可疑数字都是有效数字准确数字可疑数字b.用精度为±0.01g的天平:10.23g如称量某一试样的质量6位4位若干位准确数字末位可疑数字+有效数字=《路基路面试验与检测》课程m◆分析天平(称至0.1mg):12.8218g(6),0.2338g(4),
千分之一天平(称至0.001g):0.234g(3)
1%天平(称至0.01g):4.03g(3),0.23g(2)
台秤(称至0.1g):4.0g(2),0.2g(1)例:
1.有效数字概念
2.零的有效数字计算《路基路面试验与检测》课程出现在第一位有效数字之前,不算有效数字
0.02000L(4位),0.0280g(3位)出现在两个非零数字之间或所有非零数字之后,记入有效数字
10.0400(6位)
记录数据的时候不能将尾数的“0”任意增减
0.10mL0.1mL
改变单位,有效数字不变
0.02000L20.00mL
科学记数法表示有效数字
数字后的0含义不清楚时,最好用指数形式表示
26800?
2.68×1043位;2.680×1044位;2.6800×1045位《路基路面试验与检测》课程有效数字位数的确定0.100020.78%0.05263.59×10-60.02
1×103
4位3
位1
位
2.零的有效数字计算《路基路面试验与检测》课程1.00081.98×10-10
0.004036003.6×103
,3.60×103,3.600×103
(5位)(3位)(2位)(模糊)
2.零的有效数字计算《路基路面试验与检测》课程
3.有效数字修约规则四舍六入五考虑五后非零则进一五后为零视奇偶奇升偶舍要注意修约一次要到位《路基路面试验与检测》课程
3.有效数字修约规则例:要修约为四位有效数字时:尾数≤4时舍,0.52664-------0.5266尾数≥6时入,0.36266-------0.3627尾数=5时,若后面数为0或无数字,观察所保留的数字末位数为奇数进一,偶数舍去.15.15----15.2,15.25----15.2若5后面还有不是0的任何数皆入:18.0850001----18.09《路基路面试验与检测》课程
4.修约间隔
修约间隔是指确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。
例如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。又如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。最基本的修约间隔是10n(n为整数),它等同于确定修约到某数位。《路基路面试验与检测》课程
4.修约间隔0.5单元修约将拟修约数值乘以2,按指定数位依照修约规则进行修约,所得数值再除以2。60.38120.7612160.560.25120.5012060.0《路基路面试验与检测》课程
4.修约间隔0.2单元修约将拟修约数值乘以5,按指定数位依照修约规则进行修约,所得数值再除以5。例如:将下列数值修约间隔为20。830
4150
4200
840842
4210
4200
840
《路基路面试验与检测》课程
5.有效数字运算规则(1)加减运算:
以各项中绝对误差最大的数为准,和或差只保留一位可疑数字,即与小数点后位数最少的数取得一致。28.510.030.712+4.131643.3736
?28.510.00.7+4.143.3先修约,后计算
±0.1
±0.01±0.001±0.0001《路基路面试验与检测》课程
5.有效数字运算规则(2)乘除法:
以相对误差最大的数为准,积或商只保留一位可疑数字,即按有效数字位数最少的数进行修约和计算。解:计算:0.0235×20.03÷3.1816=0.147946002?0.0235×20.0÷3.18=0.148注意:首位数字为8或9,可多保留一位有效数字。9.35×0.1856=1.736如《路基路面试验与检测》课程
5.有效数字运算规则(2)乘除法:
以相对误差最大的数为准,积或商只保留一位可疑数字,即按有效数字位数最少的数进行修约和计算。解:三个数的最后一位都存在±1的绝对误差,相对误差各为:(±1/31816)×100%=±0.003%计算:0.0235×20.03÷3.1816=0.147946002?(±1/2003)×100%=±0.05%(±1/235)×100%=±0.4%0.0235相对误差最大,修约时按3位有效数字计算0.0235×20.0÷3.18=0.148注意:首位数字为8或9,可多保留一位有效数字。9.35×0.1856=1.736如《路基路面试验与检测》课程
5.有效数字运算规则(3)乘方或开方运算原数据有几位有效数字,结果就可保留几位,若一个数的乘方或开方结果,还将参加下面的运算,则乘方或开方后的结果可多保留一位有效数字。3.142=9.860=9.86例:《路基路面试验与检测》课程
5.有效数字运算
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 2025年度大数据分析处理个人劳务合同3篇
- 2025年浙江嘉兴市海宁市城投集团招聘笔试参考题库含答案解析
- 二零二五年度鞋类产品回收与再利用技术研究合同3篇
- 2025年度个人健康保险连带担保协议4篇
- 2025年辽宁鞍山国家高新技术产业开发区国有企业招聘笔试参考题库附带答案详解
- 2025年度个人果园生态旅游开发与承包经营合同4篇
- 二零二五年度绿色能源贷款担保服务协议4篇
- 二零二五年度门窗五金件行业人才培养与引进合同4篇
- 二零二五年度民办学校学生宿舍维修与设施更新合同4篇
- 2025年度智能门禁系统节能环保改造合同文档4篇
- 第22单元(二次函数)-单元测试卷(2)-2024-2025学年数学人教版九年级上册(含答案解析)
- 蓝色3D风工作总结汇报模板
- 安全常识课件
- 河北省石家庄市2023-2024学年高一上学期期末联考化学试题(含答案)
- 2024年江苏省导游服务技能大赛理论考试题库(含答案)
- 2024年中考英语阅读理解表格型解题技巧讲解(含练习题及答案)
- 新版中国食物成分表
- 浙江省温州市温州中学2025届数学高二上期末综合测试试题含解析
- 2024年山东省青岛市中考生物试题(含答案)
- 保安公司市场拓展方案-保安拓展工作方案
- GB/T 15843.2-2024网络安全技术实体鉴别第2部分:采用鉴别式加密的机制
评论
0/150
提交评论