有效数字、修约、精密度、准确度_第1页
有效数字、修约、精密度、准确度_第2页
有效数字、修约、精密度、准确度_第3页
有效数字、修约、精密度、准确度_第4页
有效数字、修约、精密度、准确度_第5页
已阅读5页,还剩34页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

.,1,一、有效数字,二、数字修约的规则,三、精密度,四、准确度,珠海,五、精密度与准确度,.,2,一、有效数字,有效数字的定义有效数字的意义有效数字的运算规则,.,3,有效数字的定义:,定义:就是一个数从左边第一个不为0的数字数起到末尾数字为止,所有的数字(包括0,科学计数法不计10的N次方),称为有效数字。,.,4,有效数字的定义:,特点:位数与小数点的位置无关。35.76cm=0.3576m=0.0003576km0的地位0.00035763.0053.000都是四位,0在数字中间和末位有效,在小数点前面或紧接小数点后的是无效的.,.,5,有效数字的定义:,0.0109?前面两个0不是有效数字,后面的1、0、9均为有效数字。0.0230?前面的两个0不是有效数字,后面的2、3、0均为有效数字。3.109*105?3、1、0、9均为有效数字,后面的10的5次方不是有效数字。5.2*106?5、2是有效数字。,pH=12.68?,有效数字有几位?,.,6,氢离子浓度指数:是指溶液中氢离子的总数和总物质的量的比。一般称为“pH”,而不是“pH值”。表示溶液酸碱度的数值,pH=-lgH+即所含氢离子浓度的常用对数的负值。pH=12.68,即,有效数字的定义:,H+=2.110-13mol/L,两位,有效数字有几位?,.,7,有效数字的定义:,从第一位不为“0”数起科学记数:3600、3.6103、3.600103不同倍数、分数、次数等视为无限多位对数如pH、pM、lgK等取决于小数部分(尾数)例:1.00085位10.98%4位1.2310-53位0.0242位pH=11.202位(相当于H+=6.310-12molL-1),.,8,有效数字的意义:,有效数字:是指实际上能够测到的数字,其保留的位数由测量仪器、分析方法的准确度来决定;保留原则是只有最后一位可疑数字。读数误差溶液体积24.41ml0.01ml,组成=全部准确数字+最后一位可疑数字,.,9,有效数字的意义:,1.能表示测量数值的大小,可反映出用于测量的量具。74.6334g0.0001g,.,10,有效数字的意义:,2.记录的数字不仅表示数量的大小,而且要正确地反映测量的精确程度。,.,11,有效数字的运算规则,除特殊规定外,一般可疑数表示末位一个单位的误差。复杂运算时,其中间过程多保留一位有效数字,最后结果须取应有的位数。加减法计算的结果,其小数点以后的保留的位数,应与参加运算各数中小数点后位数最少的相同。乘除法计算的结果,其有效数字保留的位数,应与参加运算各数中有效数字位数最少的相同。方法测定中按其仪器准确度确定了有效的位数后,先进行运算,运算后的数值再修约。,.,12,有效数字的运算规则,加减运算,“尾数取齐”。例如:278.2+12.451=290.7位数取决于绝对误差最大的数据的位数278.2绝对误差:0.112.4510.001乘除运算,“位数取齐”。例如:5.43820.5=111位数取决于相对误差最大的数据的位数。5.4380.001/5.438100%=0.02%20.50.1/20.5100%=0.5%,.,13,有效数字的运算规则,成方、立方、开方,有效数字位数例如:6.542=42.8进行对数计算时,对数尾数的位数应与真数的有效数字位数相同。例如:H+=6.310-11mol/L,PH=10.20,.,14,有效数字的运算规则,计算中涉及到常数、e以及非测量值,如自然数、分数时,不考虑其有效数字的位数,视为准确数值。若数据进行乘除运算时,第一位数字大于或等于8,其有效数字位数可多算一位。如9.46可看做是四位有效数字为提高计算的准确性,在计算过程中可暂时多保留一位有效数字,计算完后再修约.运用电子计算器运算时,要对其运算结果进行修约,保留适当的位数,不可将显示的全部数字作为结果。表示分析结果的精密度和准确度时,误差和偏差等只取一位或两位有效数字。,.,15,二、数值修约,数值修约的定义数值修约的间隔数值修约的规则,.,16,数值修约的定义,数值修约通过省略原数值的最后若干位数字,调整所保留的末位数字,是最后所得的值最接近原数值的过程。注:经数值修约后的数值称为(原数值的)修约值。,.,17,数值修约的间隔,修约间隔修约值的最小数值单位。注:修约间隔的数值一经确定,修约值即为该数值的整数倍。例1:如指定修约间隔为0.1,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到百位数。,.,18,数值修约规则,1、确定修约间隔指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;例:修约间隔10-1指定修约间隔为1,或指明将数值修约到“个”位数;指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”数位。,.,19,数值修约规则,2、进舍规则四舍六入五成双例,修约间隔0.1(或10-1)7.5497510-1(特定场合可写成7.5)8.3698410-1(特定场合可写成8.4)7.45007410-1(特定场合可写成7.4)7.35007410-1(特定场合可写成7.4)7.45017510-1(特定场合可写成7.5)注:负数修约规则同上。,7.4501,拟舍弃数字的最左一位数字是5,且其后有非0数字时进一,.,20,数值修约规则,一次修约如:将15.4546修约成整数。,.,21,数值修约规则,一次修约例:用国标的直接干燥法测定(GB50093-2016),当样品重量为3.2986g,称量铝盒加入样品干燥前后的重量之差为0.1542g,运算后的数值为4.674710483(g/100g)。按附录A6.1.4修约后,保留四位有效数,即水分(g/100g)4.675,报告结果时按比卫生标准多一位有效数再次修约保留三位有效数,即水分(g/100g)4.68。犯了连续修约的错误。此时应按比卫生标准多一位有效数进行一次修约得出报告结果,即水分(g/100g)4.67。,不允许连续修约,.,22,数值修约规则,一次修约在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。报出数值最右的非零数字为5时,应在数值后面加“”或“”或不加符号,以分别表明已进行过舍、进或未舍未进。如:16.50+表示实际值大于16.50,经修约舍弃成为16.50;16.50表示实际值小于16.50,经修约进一成为16.50。,.,23,数值修约规则,一次修约如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有“+”者进一,数值后面有“-”者舍去。例如:将下列数字修约到个数位后进行判定(报出值多留一位到一位小数),.,24,数值修约规则,0.5单位修约与0.2单位修约必要时,可采用0.5单位修约和0.2单位修约。0.5单位修约是指按拟定修约间隔对拟修约的数值0.5单位进行的修约。将拟修约数值X乘以2,按指定修约间隔对2X依规定修约,所得数值再除以2。如:将下列数字修约到个数位的0.5单位(或修约间隔为0.5),.,25,数值修约规则,0.5单位修约与0.2单位修约0.2单位修约是指按拟定修约间隔对拟修约的数值0.2单位进行的修约。将拟修约数值X乘以5,按指定修约间隔对2X依规定修约,所得数值再除以5。如:将下列数字修约到“百”数位的0.2单位修约,.,26,三、精密度,精密度的定义精密度的测定精密度的表示,.,27,精密度的定义,精密度:表示在相同条件下,同一试样的重复测定值之间的符合程度。精密度高低用偏差大小表示。,.,28,精密度的测定,测定:在某一实验室,使用同一操作方法,测定同一稳定样品时,允许变化的因素有操作者、时间、试剂、仪器等,测定值之间的相对偏差即为该方法在实验室内的精度。,.,1.绝对偏差与相对偏差绝对偏差(d):是某一测定值Xi与平均值x之差。相对偏差(Rd):是绝对偏差与平均值之比,常用百分率表示。平行样相对误差(%),精密度的表示,.,2.标准偏差算数平均值(X):标准偏差(S):它反映随机误差的大小。由于实际工作中只作有限次测量,测定值的分散程度要用样本标准偏差S表示。样本为从总体中随机抽取的一部分。相对标准偏差(RSD):为偏差与平均值之比,用百分率表示。,精密度的表示,.,31,四、准确度,准确度的定义准确度的测定准确度的表示,.,准确度:测定值与真实值符合的程度,准确度的定义,.,测定:某一稳定样品中加入不同水平已知量的标准物质(将标准物质的量作为真值)称加标样品;同时测定样品和加标样品;加标样品扣除样品值后与标准物质的误差即为该方法的准确度。,准确度的测定,.,用回收率表示方法的准确度。加入的标准物质的回收率(P)按式计算:,准确度的表示,.,35,五、精密度与准确度,精密度与准确度的关系提高准确度,.,36,准确度:分析结果与真实值相接近的程度,说明分析结果的可靠性,用误差来衡量(误差是客观存在的)精密度:在相同条件下,几次平行测定,分析结果相互接近的程度,即重复性或再现性,用偏差来衡量二者关系:概念不同,精密度是保证准确度的先决条件,但精密度高并不一定准确度高,只有精密度高、准确度高的测定数据才是可信的,即应以两方面来衡量测定结果的好坏,精密

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论