数值修约规则与极限数值的表示和判定PPT课件_第1页
数值修约规则与极限数值的表示和判定PPT课件_第2页
数值修约规则与极限数值的表示和判定PPT课件_第3页
数值修约规则与极限数值的表示和判定PPT课件_第4页
数值修约规则与极限数值的表示和判定PPT课件_第5页
已阅读5页,还剩38页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、1,2,几个问题,1、误差与偏差、绝对误差与相对误差、精密度与准确度分别有何区别? 2、用万分之一天平称取物品的质量为0.0236g,该测量结果的有效数字位数为多少?准确的数字是那些? 3、计算12.365+5.1+8.73.4525=?(结果不参与后续运算) 4、在钢材物理性能拉伸试验中,测得的断后伸长为74.37mm,则该断后伸长的报出值为 ?,3,4,主要内容,一、误差理论的相关概念; 二、有效数字的概念及运算规则; 三、数值修约的规则及技巧; 四、极限数值的表示与判定;,5,一、误差理论的相关概念,6,1、测量误差的定义:,客观真实值(未知),测量误差 = 测得值 - 真值,-测量所得

2、数据与其相应的真值之差,1)误差(绝对误差),x = x x0,2)相对误差,-测量的绝对误差与被测量的真值之比,绝对误差很小,7,表示:百分数(%)- 分子分母量纲相同,例:质量G1=50g,误差1=2g;质量G2=2kg,误差2=50g,- G2的测量效果较好,确切反映测量效果:被测量的大小不同 - 允许的测量误差不同,被测量的量值小 - 允许的测量绝对误差也越小,1、测量误差的定义:,8,2、误差的分类:,按误差来源:装置误差、环境误差、方法误差、人员误差, 系统误差(System error),由特定原因引起、具有一定因果关系并按确定规律产生,按掌握程度:已知误差、未知误差,按特性规律

3、:系统误差、随机误差、粗大误差,- 有规律可循,理论分析/实验验证 - 原因和规律 - 减少/消除, 随机误差(Random error),因许多不确定性因素而随机发生,偶然性(不明确、无规律),概率和统计性处理(无法消除/修正), 粗大误差(Abnormal error),检测系统各组成环节发生异常和故障等引起,按变化速度:静态误差、动态误差,9,3、精密度与准确度的区别与联系:,1)精密度,指多次重复测定同一量时各测定值之间彼此相符合的程度,精密度是指量具能区分出微量的程度,亦即量具能区分之最小距离,此精密度在量具制造时已决定。,精密度是表示测量的再现性,是保证准确度的先决条件,但是高的精

4、密度不一定能保证高的准确度。,表征测定过程中随机误差的大小。,好的精密度是保证获得良好准确度的先决条件,一般说来,测量精密度不好,就不可能有良好的准确度。反之,测量精密度好,准确度不一定好,这种情况表明测定中随机误差小,但系统误差较大。,10,3、精密度与准确度的区别与联系:,2)准确度,指在一定实验条件下多次测定的平均值与真值相符合的程度,以误差来表示。它用来表示系统误差的大小。,测量仪器的准确度指测量仪器给出接近于真值的响应能力。准确度只是一个定性概念而无定量表达。测量误差的绝对值大,其准确度低。,3)二者联系 任何测量都要求精确。精确性是评价观测成果优劣的准确度与精密度的总称。准确度是指

5、在对某一个量的多次观测中,观测值对该量真值的偏离程度,观测值偏离真值愈小,则准确度愈高。精密度简称精度,指在某一个量的多次观测中,各观测值之间的离散程度,若观测值非常集中则精度高;反之则低。一个观测列可能精度高而准确度低,也可能精度低而准确度高。,11,3、精密度与准确度的区别与联系:,12,4、偏差:,一个值减去其参考值,成为偏差。,这里的一个值是指测量得到的值,参考值是指设定值、应有值或标称值。,偏差=实际值标称值,尺寸偏差=实际尺寸应有参考尺寸,加工一个准确值为1kg的砝码,实际加工的为1.002kg,此时偏差为+0.002kg;如果砝码按1kg使用,则有-0.002kg的示值误差。,偏

6、差与误差等值相反。,解决偏差问题,需要对砝码进行修正,修正值为+0.002kg,修正值对测量值而言,而偏差是对标称值而言。,13,二、有效数字的概念及运算规律,14,1、有效数字:,把准确数字加上最后一位有实际意义的估计数字总称为有效数字。,2、有效位数:,测量结果用且只用它的有效数字表示,有效数字的个数叫作有效位数。,3、仪器读数规则,(1) 刻度式仪表,在最小分度值后要估读一位 (2) 数字显示仪表,直接读取仪表的示值。 (3) 游标类量具,读到游标分度值的整数倍。,15,刻度式仪表,5.737mm,5.5000.237,16,数显仪表及有十进步式标度盘的仪表,17,游标类量具,49.00

7、0.8249.82mm,18,在科学实验中,为了得到准确的测量结果,不仅要准确地测定各种数据,而是还要正确地记录和计算。分析结果的数值不仅表示试样中被测成分含量的多少,而且还反映了测定的准确程度。所以,记录实验数据和计算结果应保留几位数字是一件很重要的事,不能随便增加或减少位数。例如用重量法测定胶中TVOC含量时,若称取试样重为0.2187克,经过一系列处理后,得到固体重0.2132克,则其百分含量为: TVOC % =(0.0055/0.2187)100%2.1514860539%,19,上述分析结果共有11位数字,从运算来讲,并无错误,但实际上用这样多位数的数字来表示上述分析结果是错误的,

8、它没有反映客观事实,因为所用的分析方法和测量仪器不可能准确到这种程度。那么在分析实验中记录和计算时,究竟要准确到什么程度,才符合客观事实呢?这就必须了解“有效数字”的意义。,20,有效数字是指在分析工作中实际上能测量到的数字。记录数据和计算结果时究竟应该保留几位数字,须根据测定方法和使用仪器的准确程度来决定。在记录数据和计算结果时,所保留的有效数字中,只有最后一位是可疑的数字。,1、有效数字的意义及位数,21,例如: 坩埚重18.5734克 六位有效数字 标准溶液体积24.41毫升 四位有效数字 由于万分之一的分析天平能称准至0.0001克,滴定管的读数能读准至0.01毫升,故上述坩埚重应是1

9、8.57340.0001克,标准溶液的体积应是24.410.01毫升,因此这些数值的最后一位都是可疑的,这一位数字称为“不定数字”。在分析工作中应当使测定的数值,只有最后一位是可疑的。,1、有效数字的意义及位数,22,有效数字的位数,直接与测定的相对误差有关。例如称得某物重为0.5180克,它表示该物实际重量是0.51800.0001克,其相对误差为: (0.0001/0.5180)100%0.02%,1、有效数字的意义及位数,如果少取一位有效数字,则表示该物实际重量是0.5180.001克,其相对误差为: (0.001/0.518)100%0.2%,23,1、有效数字的意义及位数,表明测量的

10、准确度后者比前者低10倍。所以在测量准确度的范围内,有效数字位数越多,测量也越准确。但超过测量准确度的范围,过多的位数是毫无意义的。 必须指出,如果数据中有“0”时,应分析具体情况,然后才能肯定哪些数据中的“0”是有效数字,哪些数据中的“0”不是有效数字。,24,1、有效数字的意义及位数,例如: 1.0005 五位有效数字 0.5000;31.05% ;6.023102 四位有效数字 0.0540;1.8610-5 三位有效数字 0.0054;0.40% 两位有效数字 0.5 ; 0.002% 一位有效数字 在1.0005克中的三个“0”,0.5000克中的后三个“0”,都是有效数字;在0.0

11、054克中的“0”只起定位作用,不是有效数;在0.0540克中,前面的“0”起定位作用,最后一位“0”是有效数字。同样,这些数值的最后一位数字,都是不定数字。,25,1、有效数字的意义及位数,因此,在记录测量数据和计算结果时,应根据所使用的仪器的准确度,必须使所保留的有效数字中,只有最后一位数是“不定数字”。例如,用感量为百分之一克的台秤称物体的重量,由于仪器本身能准确称到0.0l克,所以物体的重量如果是10.4克,就应写成10.40克,不能写成10.4克。 分析化学中还经常遇到pH、lgK等对数值,其有效数字的位数仅取决于小数部分数字的位数,因整数部分只说明该数的方次。例如,pH12.68,

12、即H+2.1l0-13mol/L,其有效数字为两位,而不是四位。,26,2、有效数字的运算规则 加减法,例如0.0121+25.64+1.05782=? 5.2727+0.075+3.7+2.12=?,27,2、有效数字的运算规则 加减法,当几个数据相加或相减时、它们的和或差的有效数字的保留,应以小数点后位数最少,即绝对误差最大的数据为依据。,因此,0.0121应写成0.01;1.05782应写成1.06;三者之和为: 0.01+25.64+1.0626.71 在大量数据的运算中。为使误差不迅速积累,对参加运算的所有数据,可以多保留一位可疑数字(多保留的这一位数字叫“安全数字”)。如计算5.2

13、727、0.075、3.7及2.12的总和时,根据上述规则,只应保留一位小数。但在运算中可以多保留一位,故5.2727应写成5.27;0.075应写成0.08;2.12应写成2.12。因此其和为: 5.27+0.08+3.7+2.1211.17 然后、再根据修约规则把11.17整化成11.2。,28,3、有效数字的运算规则 乘除法,求0.012125.641.05782=? 0.345117.92.0786=?,29,3、有效数字的运算规则 乘除法,几个数据相乘除时,积或商的有效数字的保留,应以其中相对误差最大的那个数,即有效数字位数最少的那个数为依据。,30,3、有效数字的运算规则 乘除法,

14、设此三数的最后一位数字为可疑数字,且最后一位数字都有1的绝对误差,则它们的相对误差分别为: 0.0121:1/12110008 25.64: 1/256410000.4 1.05782:1/10578210000.009 第一个数是三位有效数字,其相对误差最大,以此数据为依据,确定其他数据的位数,即按规则将各数都保留三位有效数字然后相乘: 0.012125.61.06 = 0.328 若是多保留一位可疑数字时,则 0.012125.641.058 = 0.3282 然后再按“四舍六入五留双”规则,将0.3282,改写成0.328。,31,4、有效数字的运算规则 乘方、开方运算,例如, 6.54

15、 =?,进行数值乘方或开方时, 结果有效数字位数不变。 6.54 =42.8,2,2,32,5、几点注意,1、计算公式中的常数如 、 等都是正确数,在运算中可以根据需要截取其有效位数,2、首位数字为8、9的数字,其有效数字可比实际的位数多一位,如8749可认为其为5为有效数字,923可认为其为4位有效数字,3、为减少数字的舍入误差,对参与运算的各有效数字进行修约时,可比实际需要多保留一位,0.038659.41.327 = ? 若是多保留一位可疑数字时,则 0.038659.41.327 =,33,三、数值修约的规则及技巧,34,1、数值修约规则,(1) 四舍六入五凑双 具体的做法是, 1、拟

16、舍弃数字最左一位数字4时将其舍去; 2、拟舍弃数字最左一位数字6时就进一位; 3、如果拟舍弃数字最左一位数字为5而后面的数为0时,如所保留的数字的末位数字为奇数则进一,如所保留的数字的末位数字为偶数则舍去; 4、当“5”后面还有不是0的任何数时,都须向前进一位,无论前方是奇还是偶数,“0”则以偶数论。,35,1、数值修约规则,0.536640.5366 0.583460.5835 10.275010.28 16.405016.40 27.185027.18 18.0650118.07 (2)修约间隔 0.2 、0.5 0.5单位修约,将拟修约数值乘以2后正常修约,得到的数再除以2。 例:修约到

17、个数位的0.5单位: 60.25、60.38、60.75 60 60.5 61,36,1、数值修约规则,0.2单位修约,将拟修约数值乘以5后正常修约,得到的数再除以5。 例: 修约到百位数的0.2单位 830、842、930 840 840 920 (3)不可连续修约 必须注意:进行数字修约时只能一次修约到指定的位数,不能数次修约,否则会得错误的结果。 如:97.46修约到1为97,37,1、数值修约规则,(4)、 特殊数值的表示 报出的数值最右的非零数字为5时,应在数值右上角加“+”或“-” 或不加符号,以分别表明已进行过舍,进或未舍未进。 例:实测值 报出值 修约值 -15.4546 -1

18、5.5 -15 16.5203 16.5 17,-,+,38,2、数值修约方法总结,(1)如果为修约间隔整数倍的一系列数中,只有一个数最接近拟修约数,则该数就是修约数。 例:将1.150001按0.1间隔进行修约。1210 例:将1.0151修约至十分位的0.2个单位。5.075 5.1 1.02 例:将1.2505按“5”间隔修约至十分位。 (2)如果在修约间隔整数倍的一系列数中,有连续的两个数同等地接近拟修约数,只有为修约间隔偶数倍的那个数才是修约数。 例:将1150按100修约间隔修约。1200 例:将1.500按0.2修约间隔修约 到个数位 7.500 8.000 1.6 例:将1.025按“5”间隔修约到三位有效数字。,39,四、极限数值的表示和判定,40,1、极限数值的表示,带有极限偏差值的数值的表示,表示的含义:从79mm到82mm符合要求,41,2、极限数值的判

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论