有效数字与运算规则_第1页
有效数字与运算规则_第2页
有效数字与运算规则_第3页
有效数字与运算规则_第4页
有效数字与运算规则_第5页
已阅读5页,还剩8页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

第一章

误差和分析数据的处理第二节有效数字及其运算规则一、有效数字

二、有效数字运算规则2024/6/201.2.1有效数字:指在分析工作中实际能够测量得到的数字。在保留的有效数字中,只有最后一位数字是可疑的(有的误差),其余数字都是准确的。2.11.0两位有效数字

1.980.0382三位有效数字

18.79%0.7200四位有效数字432191.0008五位有效数字

4.20×10-6

三位有效数字pH=3.02;pH=0.02二位有效数字3600100有效数字位数不确定1.2有效数字及其运算规则2024/6/201.实验过程中常遇到的两类数字(1)数目:如测定次数;倍数;系数;分数(2)测量值或计算值,数据的位数与测定准确度有关。记录的数字不仅表示数量的大小,而且要正确地反映测量的精确程度。结果绝对误差相对误差有效数字位数0.51800±0.00001±0.002%50.5180±0.0001±0.02%40.518±0.001±0.2%32024/6/202.数据中零的作用数字零在数据中具有双重作用:(1)作普通数字用,如0.51804位有效数字5.180

10-1(2)作定位用:如0.05183位有效数字5.18

10-22024/6/203.改变单位,不改变有效数字的位数如:24.01mL24.01

10-3

L4.注意点(1)容量器皿;滴定管;移液管;容量瓶;4位有效数字(2)分析天平(万分之一)取4位有效数字(3)标准溶液的浓度,用4位有效数字表示:0.1000mol/L(4)pH=4.34,小数点后的数字位数为有效数字位数对数值,lgX=2.38;lg(2.4

102)2024/6/201.2.2有效数字修约规则

在处理数据过程中,涉及到的各测量值的有效数字位数可能不同,因此需要按下面所述的计算规则确定各测量值的有效数字位数。可归纳如下口决:“四舍六入五成双;五后非零就进一,五后皆零视奇偶,五前为偶应舍去,五前为奇则进一”。

2024/6/20典型例题将下列数据修约到保留两位有效数字:1.43426、1.4631、1.45007、1.4500、1.3500解(1)1.43426修约为1.4(2)1.4631修约为1.5(3)1.45007修约为1.5第三位为5,但其后面并非全部为0应进1。(4)1.4500修约为1.4;1.3500修约为1.4第三位为5,并且后面数字皆为零,则视其左面一位,若为偶数则舍去,若为奇数则进1。2024/6/20二、运算规则1.加减运算

结果的位数取决于绝对误差最大的数据的位数(即以运算式中小数点后位数最少的数据为依据)

例:0.0121绝对误差:0.000125.640.011.0570.00126.709126.712024/6/202.乘除运算时有效数字的位数取决于相对误差最大的数据的位数(即以运算式中有效数字位数最少的数据为依据)

例:(0.0325

5.103

60.0)/139.8=0.0711791840.0325±0.0001/0.0325

100%=±0.3%5.103±0.001/5.103

100%=±0.02%60.06±0.01/60.06

100%=±0.02%139.8±0.1/139.8

100%=±0.07%0.07122024/6/203.注意点(1)分数、比例系数、实验次数等不记位数;(2)在乘除运算过程中,首位数为“8”或“9”的数据,有效数字位数可以多取一位。如:8.48,按4位算;(3)在混合计算中,有效数字的保留以最后一步计算的规则执行

;(4)注意pH计算,[H+]=5.02

10-3;pH=2.299;

有效数字按小数点后的位数计算。(5)表示分析方法的精密度和准确度时,大多数取1—2位有效数字。2024/6/204有效数字运算规则在分析测试中的应用

1.记录测定结果时,只应保留一位可疑数字。2.有效数字位数确定以后,按“四舍六入五成双”规则进行修约。3.几个数相加减时,以绝对误差最大的数为标准,使所得数只有一位可疑数字。4.对于高含量组分(例如>10%)的测定,一般要求分析结果有4位有效数字;对于中含量组分(例如1~10%),一般要求3位有效数字;对于微量组分(<1%),一般只要求2位有效数字。通常以此为标准,报出分析结果。5.当涉及到各种常数时,一般视为准确的,不考虑其有效数字的位数。2024/6/20有效数字处理实例2024/6/201.3.3置信度(置信水平)与平均值的置信区间(1)置信度(置信水平,P)

:真实值(测定结果的平均值)落在区间内的概率.一般P=90%或95%.(2)平均值的置信区间:在一定置信度下,以平均值为中心,包括总体平均值的置信区间,即

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论