有效数字运算及修约课件_第1页
有效数字运算及修约课件_第2页
有效数字运算及修约课件_第3页
有效数字运算及修约课件_第4页
有效数字运算及修约课件_第5页
已阅读5页,还剩43页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

数值修约规则及极限数值的表示和判定

Significantfigure数值修约规则及极限数值的表示和判定

Significant1情景导入进行化学滴定分析时,当凹液面在两刻度线之间时,需要对两刻度线之间的体积进行估读,梅仁耀读取到23.44mL、梅仁爱读取到23.46mL、梅仁姓读取到23.45mL;梅闻画看到一试剂柜中的NaOH标准滴定溶液的浓度写着:0.1065(+)mol/L。情景导入进行化学滴定分析时,当凹液面在两刻度线之间时,需要对2有效数字的定义数学定义:从左边第一个不是0的数字算起,到精确到的位数为止,所有的数字都叫做这个数的有效数字。分析化学定义:在分析工作中实际能够测量到的数字。能够测量到的是包括最后一位估读的,不确定的数字。我们把通过直读获得的准确数字叫做可靠数字,把通过估读得到的那部分数字叫做存疑数字,把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。有效数字的定义数学定义:从左边第一个不是0的数字算起,到精确3有效数字位数判定1.000843.181五位0.100010.98%四位0.03821.98×10-10三位540.0040两位3600100位数模糊注意:1、以上数据中0的左右的差异;2、对于3600之类的数字,一般看成4位有效数字,但它也可能是2位(3.6×103)或3位(3.60×102)有效数字位数判定1.000843.1814有效数字位数判定1、在分析化学计算中,常遇到倍数、分数关系,这些数据不是测量直接得到的,可视为无限多位有效数字;2、对于pH、pM、lgc、lgK等对数值,其有效数字取决于小数部分的位数,因为整数部分只代表该数字的方次。e.g.pH=11.20,换算为H+浓度时,应为c(H+)=6.3×10-12mol/L,有效数字是两位。有效数字位数判定1、在分析化学计算中,常遇到倍数、分数关系,5数值修约规则数值修约:通过省略原数值的最后若干位数字,调整所保留的若干位数字,使最后得到的值最接近原数值的过程。修约间隔:修约值的最小数值单位。修约间隔的数值一经确定,修约值一定是该数值的整数倍。e.g.1:修约间隔为0.1(或10-1),表示将数值修约至一位小数;e.g.2:修约间隔为100(或102),表示将数值修约至百位数。极限数值:标准(或技术规范)中规定考核的以数量形式给出且符合该标准(或技术规范)要求的指标数值范围的界限值,即指标的上限或者下限。数值修约规则数值修约:通过省略原数值的最后若干位数字,调整所6数值修约规则数值修约的步骤大体分两步:1、确定修约间隔;2、根据修约的进舍规则对数值进行修约。数值修约的规则:1、进舍规则;2、不允许连续修约;3、0.5单位修约;4、0.2单位修约。数值修约规则数值修约的步骤大体分两步:7进舍规则大规则:四舍六入五成双①拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变;e.g.将12.1498修约至个位数,得到12,修约至小数点后一位,得到12.1.②拟舍弃数字的最左一位数字大于5,则进一,即保留位数的末位数字加一;e.g.将13.1634修约至小数点后一位,得到13.2。进舍规则大规则:四舍六入五成双8进舍规则③拟舍弃数字的最左一位数字是5,且其后有非0数字时进一,即保留数字的末位数字加1。e.g.将11.5002修约至个位数,得12。④拟舍弃数字的最左一位数字是5,且其后无数字或皆为0时,若所保留数字的末位数字为奇数时则进一,若所保留数字的末位数字为偶数时则舍去。e.g.将1.050修约至小数点后一位得1.0,将0.35修约至小数点后一位得0.4。⑤负数修约时先取绝对值,按照①②③④中的规则进行修约,然后在其前面加上负号。进舍规则③拟舍弃数字的最左一位数字是5,且其后有非0数字时9不允许连续修约规则(1)拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果,不得按照进舍规则多次进行多次修约。e.g.将97.46修约至个位数正确做法:97.46→97错误做法:97.46→97.5→98不允许连续修约规则(1)拟修约数字应在确定修约间隔或指定修10不允许连续修约规则(2)在具体实施中,有时测试与计算部门先将获得的数值按照指定的修约数位多一位或几位报出,而后再由其它部门判定。为了避免产生连续修约的错误,应按以下两个步骤进行操作。不允许连续修约规则11不允许连续修约规则Ⅰ.报出数值最右的非零数字为5时,应在数值的右上角加上“+”或“-”或不加符号,分别表明进行过舍、进或未舍未进。e.g.16.50+,表示实际值大于16.50,16.50-表示实际值小于16.50。Ⅱ.如对报出值需进行修约,当拟舍弃的最后一位数值为5,且其后无数字或皆为0时,数值右上角有“+”者进一,有“-”者舍去,其余按照①②③④中的规则进行修约。不允许连续修约规则Ⅰ.报出数值最右的非零数字为5时,应在数值120.5单位修约和0.2单位修约定义:0.5单位修约是指按指定修约单位间隔对拟修约的数值的0.5单位进行的修约。步骤:将拟修约数值X乘以2,按指定修约间隔对2X根据上述进舍规则进行修约,得到的数值(2X修约值)再除以2。0.2单位修约的定义和步骤跟0.5单位修约类似,将倍数“2”变为“5”。0.5单位修约和0.2单位修约定义:0.5单位修约是指按指定13有效数字运算及修约课件14有效数字的+-×÷在实际的分析工作中,经常会遇到计算公式,而计算公式中的不同项目所保留的有效数字的位数是不同的,最终的计算结果到底保留多少个有效数字值得关注。有效数字的+-×÷在实际的分析工作中,经常会遇到计算公式,而15有效数字的+-运算在几个数据相加或相减时,有效数字的保留,应该以小数点后位数最少的数字为根据。e.g.0.0121+25.64+1.05782=?每个数据最后一位都有±1的绝对误差,即0.0121±0.0001;25.64±0.01;0.10572±0.00001;以上数据中以25.64的绝对误差最大,在加减运算中最终结果的绝对误差决定于该数据,故最终结果的有效数字位数决定于25.64这个数据。So上式变换为:0.01+25.64+1.06=26.71有效数字的+-运算在几个数据相加或相减时,有效数字的保留,应16有效数字的×÷运算在几个数据相乘或相除时,有效数字的保留,应与几个数据中相对误差最大的数相对应,通常根据有效数字最少的数据来进行修约。e.g.0.0121×25.64×1.05782=?每个数据最后一位都有±1的绝对误差,三个数据的相对误差分别是:0.0121的相对误差最大,故运算时以它为标准将另外两个数据修约为三位有效数字的,再相乘。即0.0121×25.6×1.06=0.328有效数字的×÷运算在几个数据相乘或相除时,有效数字的保留,应17极限数值的表示和判定书写极限数值的一般原则一、标准(或其它技术规范)中规定考核的以数量形式给出的指标或参数等,应当规定极限数值。极限数值表示符合该标准要求的数值范围的界限值,它通过给出最小极限值和(或)最大极限值,或给出基本数值与极限偏差值等方式表达。二、标准中的极限数值的表示方式及书写位数应适当,其有效数字应该全部写出。书写位数表示的精确程度,应能保证产品或其它标准化对象的性能和质量。极限数值的表示和判定书写极限数值的一般原则18表示极限数值的基本用语及其组合表示极限数值的基本用语及其组合19带有极限偏差值的数值带有极限偏差值的数值20测定值或其计算值与标准规定的极限数值的作比较方法1)全数值比较法2)修约值比较法当标准或有关文件中,若对极限数值(包括带有极限偏差的数值)无特殊规定时,均应使用全数值比较法。如规定修约值比较法,应在标准中加以说明。若标准或有关文件规定了使用其中一种比较方法时,一经确定,不得改动。测定值或其计算值与标准规定的极限数值的作比较方法1)全数值比21全数值比较法将测试所得的测定值或计算值不经修约处理(或虽经修约处理,但应标明它是经舍、进货未舍未进而得),用该数值与规定的极限数值作比较,只要超出极限数值规定的范围(不论超出程度大小),都判定为不符合要求。修约值比较法将测定值或其计算值进行修约,修约位数应与规定的极限数值位数一致。当测试或计算精度允许时,先将获得的数值按指定的修约数位多一位或几位报出,再按进舍规则修约值规定的位数。用该数值与规定的极限数值作比较,只要超出极限数值规定的范围(不论超出程度大小),都判定为不符合要求。全数值比较法将测试所得的测定值或计算值不经修约处理(或虽经修22两种判定方法的比较对于同样的极限数值,若它本身符合要求,则全数值比较法比修约值比较法更加严格。两种判定方法的比较对于同样的极限数值,若它本身符合要求,则全23有效数字运算及修约课件24数值修约规则及极限数值的表示和判定

Significantfigure数值修约规则及极限数值的表示和判定

Significant25情景导入进行化学滴定分析时,当凹液面在两刻度线之间时,需要对两刻度线之间的体积进行估读,梅仁耀读取到23.44mL、梅仁爱读取到23.46mL、梅仁姓读取到23.45mL;梅闻画看到一试剂柜中的NaOH标准滴定溶液的浓度写着:0.1065(+)mol/L。情景导入进行化学滴定分析时,当凹液面在两刻度线之间时,需要对26有效数字的定义数学定义:从左边第一个不是0的数字算起,到精确到的位数为止,所有的数字都叫做这个数的有效数字。分析化学定义:在分析工作中实际能够测量到的数字。能够测量到的是包括最后一位估读的,不确定的数字。我们把通过直读获得的准确数字叫做可靠数字,把通过估读得到的那部分数字叫做存疑数字,把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。有效数字的定义数学定义:从左边第一个不是0的数字算起,到精确27有效数字位数判定1.000843.181五位0.100010.98%四位0.03821.98×10-10三位540.0040两位3600100位数模糊注意:1、以上数据中0的左右的差异;2、对于3600之类的数字,一般看成4位有效数字,但它也可能是2位(3.6×103)或3位(3.60×102)有效数字位数判定1.000843.18128有效数字位数判定1、在分析化学计算中,常遇到倍数、分数关系,这些数据不是测量直接得到的,可视为无限多位有效数字;2、对于pH、pM、lgc、lgK等对数值,其有效数字取决于小数部分的位数,因为整数部分只代表该数字的方次。e.g.pH=11.20,换算为H+浓度时,应为c(H+)=6.3×10-12mol/L,有效数字是两位。有效数字位数判定1、在分析化学计算中,常遇到倍数、分数关系,29数值修约规则数值修约:通过省略原数值的最后若干位数字,调整所保留的若干位数字,使最后得到的值最接近原数值的过程。修约间隔:修约值的最小数值单位。修约间隔的数值一经确定,修约值一定是该数值的整数倍。e.g.1:修约间隔为0.1(或10-1),表示将数值修约至一位小数;e.g.2:修约间隔为100(或102),表示将数值修约至百位数。极限数值:标准(或技术规范)中规定考核的以数量形式给出且符合该标准(或技术规范)要求的指标数值范围的界限值,即指标的上限或者下限。数值修约规则数值修约:通过省略原数值的最后若干位数字,调整所30数值修约规则数值修约的步骤大体分两步:1、确定修约间隔;2、根据修约的进舍规则对数值进行修约。数值修约的规则:1、进舍规则;2、不允许连续修约;3、0.5单位修约;4、0.2单位修约。数值修约规则数值修约的步骤大体分两步:31进舍规则大规则:四舍六入五成双①拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变;e.g.将12.1498修约至个位数,得到12,修约至小数点后一位,得到12.1.②拟舍弃数字的最左一位数字大于5,则进一,即保留位数的末位数字加一;e.g.将13.1634修约至小数点后一位,得到13.2。进舍规则大规则:四舍六入五成双32进舍规则③拟舍弃数字的最左一位数字是5,且其后有非0数字时进一,即保留数字的末位数字加1。e.g.将11.5002修约至个位数,得12。④拟舍弃数字的最左一位数字是5,且其后无数字或皆为0时,若所保留数字的末位数字为奇数时则进一,若所保留数字的末位数字为偶数时则舍去。e.g.将1.050修约至小数点后一位得1.0,将0.35修约至小数点后一位得0.4。⑤负数修约时先取绝对值,按照①②③④中的规则进行修约,然后在其前面加上负号。进舍规则③拟舍弃数字的最左一位数字是5,且其后有非0数字时33不允许连续修约规则(1)拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果,不得按照进舍规则多次进行多次修约。e.g.将97.46修约至个位数正确做法:97.46→97错误做法:97.46→97.5→98不允许连续修约规则(1)拟修约数字应在确定修约间隔或指定修34不允许连续修约规则(2)在具体实施中,有时测试与计算部门先将获得的数值按照指定的修约数位多一位或几位报出,而后再由其它部门判定。为了避免产生连续修约的错误,应按以下两个步骤进行操作。不允许连续修约规则35不允许连续修约规则Ⅰ.报出数值最右的非零数字为5时,应在数值的右上角加上“+”或“-”或不加符号,分别表明进行过舍、进或未舍未进。e.g.16.50+,表示实际值大于16.50,16.50-表示实际值小于16.50。Ⅱ.如对报出值需进行修约,当拟舍弃的最后一位数值为5,且其后无数字或皆为0时,数值右上角有“+”者进一,有“-”者舍去,其余按照①②③④中的规则进行修约。不允许连续修约规则Ⅰ.报出数值最右的非零数字为5时,应在数值360.5单位修约和0.2单位修约定义:0.5单位修约是指按指定修约单位间隔对拟修约的数值的0.5单位进行的修约。步骤:将拟修约数值X乘以2,按指定修约间隔对2X根据上述进舍规则进行修约,得到的数值(2X修约值)再除以2。0.2单位修约的定义和步骤跟0.5单位修约类似,将倍数“2”变为“5”。0.5单位修约和0.2单位修约定义:0.5单位修约是指按指定37有效数字运算及修约课件38有效数字的+-×÷在实际的分析工作中,经常会遇到计算公式,而计算公式中的不同项目所保留的有效数字的位数是不同的,最终的计算结果到底保留多少个有效数字值得关注。有效数字的+-×÷在实际的分析工作中,经常会遇到计算公式,而39有效数字的+-运算在几个数据相加或相减时,有效数字的保留,应该以小数点后位数最少的数字为根据。e.g.0.0121+25.64+1.05782=?每个数据最后一位都有±1的绝对误差,即0.0121±0.0001;25.64±0.01;0.10572±0.00001;以上数据中以25.64的绝对误差最大,在加减运算中最终结果的绝对误差决定于该数据,故最终结果的有效数字位数决定于25.64这个数据。So上式变换为:0.01+25.64+1.06=26.71有效数字的+-运算在几个数据相加或相减时,有效数字的保留,应40有效数字的×÷运算在几个数据相乘或相除时,有效数字的保留,应与几个数据中相对误差最大的数相对应,通常根据有效数字最少的数据来进行修约。e.g.0.0121×25.64×1.05782=?每个数据最后一位都有±1的绝对误差,三个数据的相对误差分别是:0.0121的相对误差最大,故运算时以它为标准将另外两个数据修约为三位有效数字的,再相乘。即0.0121×25.6×1.06=0.328有效数字的×÷运算在几个数据相乘或相除时,有效数字的保留,应41极限数值的表示和判定书写极限数值的一般原则一、标准(或其它技术规范)中规定考核的以数量形式给出的指

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论