版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
第一章
误差和分析数据的处理第二节有效数字及其运算规则一、有效数字
二、有效数字运算规则2024/6/201.2.1有效数字:指在分析工作中实际能够测量得到的数字。在保留的有效数字中,只有最后一位数字是可疑的(有的误差),其余数字都是准确的。2.11.0两位有效数字
1.980.0382三位有效数字
18.79%0.7200四位有效数字432191.0008五位有效数字
4.20×10-6
三位有效数字pH=3.02;pH=0.02二位有效数字3600100有效数字位数不确定1.2有效数字及其运算规则2024/6/201.实验过程中常遇到的两类数字(1)数目:如测定次数;倍数;系数;分数(2)测量值或计算值,数据的位数与测定准确度有关。记录的数字不仅表示数量的大小,而且要正确地反映测量的精确程度。结果绝对误差相对误差有效数字位数0.51800±0.00001±0.002%50.5180±0.0001±0.02%40.518±0.001±0.2%32024/6/202.数据中零的作用数字零在数据中具有双重作用:(1)作普通数字用,如0.51804位有效数字5.180
10-1(2)作定位用:如0.05183位有效数字5.18
10-22024/6/203.改变单位,不改变有效数字的位数如:24.01mL24.01
10-3
L4.注意点(1)容量器皿;滴定管;移液管;容量瓶;4位有效数字(2)分析天平(万分之一)取4位有效数字(3)标准溶液的浓度,用4位有效数字表示:0.1000mol/L(4)pH=4.34,小数点后的数字位数为有效数字位数对数值,lgX=2.38;lg(2.4
102)2024/6/201.2.2有效数字修约规则
在处理数据过程中,涉及到的各测量值的有效数字位数可能不同,因此需要按下面所述的计算规则确定各测量值的有效数字位数。可归纳如下口决:“四舍六入五成双;五后非零就进一,五后皆零视奇偶,五前为偶应舍去,五前为奇则进一”。
2024/6/20典型例题将下列数据修约到保留两位有效数字:1.43426、1.4631、1.45007、1.4500、1.3500解(1)1.43426修约为1.4(2)1.4631修约为1.5(3)1.45007修约为1.5第三位为5,但其后面并非全部为0应进1。(4)1.4500修约为1.4;1.3500修约为1.4第三位为5,并且后面数字皆为零,则视其左面一位,若为偶数则舍去,若为奇数则进1。2024/6/20二、运算规则1.加减运算
结果的位数取决于绝对误差最大的数据的位数(即以运算式中小数点后位数最少的数据为依据)
例:0.0121绝对误差:0.000125.640.011.0570.00126.709126.712024/6/202.乘除运算时有效数字的位数取决于相对误差最大的数据的位数(即以运算式中有效数字位数最少的数据为依据)
例:(0.0325
5.103
60.0)/139.8=0.0711791840.0325±0.0001/0.0325
100%=±0.3%5.103±0.001/5.103
100%=±0.02%60.06±0.01/60.06
100%=±0.02%139.8±0.1/139.8
100%=±0.07%0.07122024/6/203.注意点(1)分数、比例系数、实验次数等不记位数;(2)在乘除运算过程中,首位数为“8”或“9”的数据,有效数字位数可以多取一位。如:8.48,按4位算;(3)在混合计算中,有效数字的保留以最后一步计算的规则执行
;(4)注意pH计算,[H+]=5.02
10-3;pH=2.299;
有效数字按小数点后的位数计算。(5)表示分析方法的精密度和准确度时,大多数取1—2位有效数字。2024/6/204有效数字运算规则在分析测试中的应用
1.记录测定结果时,只应保留一位可疑数字。2.有效数字位数确定以后,按“四舍六入五成双”规则进行修约。3.几个数相加减时,以绝对误差最大的数为标准,使所得数只有一位可疑数字。4.对于高含量组分(例如>10%)的测定,一般要求分析结果有4位有效数字;对于中含量组分(例如1~10%),一般要求3位有效数字;对于微量组分(<1%),一般只要求2位有效数字。通常以此为标准,报出分析结果。5.当涉及到各种常数时,一般视为准确的,不考虑其有效数字的位数。2024/6/20有效数字处理实例2024/6/201.3.3置信度(置信水平)与平均值的置信区间(1)置信度(置信水平,P)
:真实值(测定结果的平均值)落在区间内的概率.一般P=90%或95%.(2)平均值的置信区间:在一定置信度下,以平均值为中心,包括总体平均值的置信区间,即
表
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 园林景观石材安装合同
- 新学期自律保证书范文
- 九年级化学上册 第五单元 定量研究化学反应 第一节 化学反应中的质量守恒同步教案 (新版)鲁教版
- 2024秋九年级语文上册 第二单元 写作 观点要明确教案 新人教版
- 2024-2025学年新教材高中政治 第三课 只有中国特色社会主义才能发展中国 2 中国特色社会主义的创立、发展和完善(2)教案 部编版必修1
- 2024八年级数学下册 第22章 四边形22.3三角形的中位线教案(新版)冀教版
- 2024-2025学年高中历史 第二单元 凡尔赛-华盛顿体系下的世界 第1课 巴黎和会(4)教学教案 新人教版选修3
- 2023六年级语文下册 第二单元 口语交际:同读一本书配套教案 新人教版
- 2023三年级数学上册 五 周长第3课时 长方形的周长说课稿 北师大版
- 2023七年级英语上册 Module 6 A trip to the zoo Unit 1 Does it eat meat教案 (新版)外研版
- 生态护林员日常巡护记录本、生态护林员工作职责
- 小记者第一课我是一名小记者
- 在建工地第三方安全文明巡查方案、在建工地安全文明施巡查方案
- 2024年福建省托育服务职业技能竞赛理论考试题库(含答案)
- 2024下半年江苏苏州城市学院招聘管理岗位工作人员27人历年(高频重点提升专题训练)共500题附带答案详解
- 《生物安全培训》课件-2024鲜版
- 中国农业文化遗产与生态智慧智慧树知到期末考试答案章节答案2024年浙江农林大学
- 慢阻肺健康知识宣教完整版课件
- 增值税预缴税款表电子版
- 二年级乘除法口算题大全500题(可直接打印)
- 宝钢冷轧产品包装现况调研及其优化探讨
评论
0/150
提交评论