第二章 误差及分析数据处理_第1页
第二章 误差及分析数据处理_第2页
第二章 误差及分析数据处理_第3页
第二章 误差及分析数据处理_第4页
第二章 误差及分析数据处理_第5页
已阅读5页,还剩82页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、1 第二章第二章误差与分析数据处理误差与分析数据处理2掌握误差和偏差的表示方法。掌握误差和偏差的表示方法。掌握有效数字的计算规则和应用。掌握有效数字的计算规则和应用。熟悉误差产生的原因和种类。熟悉误差产生的原因和种类。3第一节:准确度和精密度及误差产生的原因第一节:准确度和精密度及误差产生的原因4有关误差的一些基本概念有关误差的一些基本概念 基本概念:真实值、平均值、中位值、基本概念:真实值、平均值、中位值、 总体平均值、样本平均值。总体平均值、样本平均值。 总体:随机变量的全体。总体:随机变量的全体。 样本:随机变量中的一部分。样本:随机变量中的一部分。5一一 准确度和精密度准确度和精密度1

2、. 误差与准确度误差与准确度 准确度是指: 测定结果与测定结果与“真值真值”接近的程度接近的程度. 用误差表用误差表 示。误差的表示方法有示。误差的表示方法有相对误差和绝对误差。绝对误差:绝对误差:Ea=测量值测量值-真实值真实值%100TEaEr相对误差:6 用相对误差比用绝对误差表示结果的准确度更确切和更用相对误差比用绝对误差表示结果的准确度更确切和更客观客观. 例如:甲乙两人分别买例如:甲乙两人分别买10.0斤和斤和1.0斤肉斤肉,价钱为每斤价钱为每斤10元元,回家一称分别为回家一称分别为9.9斤和斤和0.9斤斤,则则:回家称得的是测量值回家称得的是测量值, 10.0斤和斤和1.0斤肉是

3、真值斤肉是真值. 绝对误差绝对误差: 甲甲: 9.9- 10.0=-0.1(斤斤) 乙乙: 0.9- 1.0=-0.1(斤斤) 相对误差相对误差:甲甲: 0.1/ 10.0100%=-1.0% 乙乙: 0.1/ 1.0100%=-10% 相对误差和绝对误差都有正负之分。正值表示测量结相对误差和绝对误差都有正负之分。正值表示测量结果偏高;负值表示测量结果偏低。果偏高;负值表示测量结果偏低。7 滴定的体积读数误差:滴定的体积读数误差:V(消耗体积)(消耗体积)Ea(读数误差。每读(读数误差。每读一次规定有一次规定有 0.01 mL 的绝对误差的绝对误差)Er(相对误差)(相对误差)20.00 mL

4、 0.02 mL(二次读数(二次读数的误差)的误差) 0.1%2.00 mL 0.02 mL 1.0% 滴定过程中,为了减少读数误差。滴定剂的体积用量,对于25mL的滴定管,要在 20-25mL之间,对于50mL的滴定管,则要在 30mL左右。每一个实验测定值,最后一位数都有正负一个单位的误差,如:8二二.偏差与精密度偏差与精密度精密度是指:平行测定的结果互相靠近的程度精密度是指:平行测定的结果互相靠近的程度,用偏差用偏差表示。有时也用重现性和再现性表示。表示。有时也用重现性和再现性表示。 偏差:即各次测定值与平均值之差。偏差:即各次测定值与平均值之差。 缺点:缺点:大偏差得不到应有反映。在要

5、求较高时,用标准偏差表示。nXXd平均偏差:xxd绝对偏差:%100%xdRD相对偏差:%100%xdd相对平均偏差:9三、标准偏差三、标准偏差%100%XSRSD相对标准偏差:121nXXSni标准偏差: 标准偏差又称均方根偏差;其平方称方差。 标准偏差的计算分两种情况:1 1当测定次数趋当测定次数趋n n无穷大时无穷大时 为无限多次测定 的平均值(总体平均值); 即: 当消除系统误差之后,即为真值。 2 2有限测定次数有限测定次数nX/2总体标准偏差:Xnlim10 用标准偏差比用平均偏差能更科学更准确地反映出数据的离散程度。 例: 两组数据 (1) 偏差d: 0.11, -0.73, 0

6、.24, 0.51, -0.14, 0.00, 0.30, -0.21, n=8 平均偏差d1=0.28 s1=0.38 (2)偏差d :0.18,0.26,-0.25,-0.37, 0.32 , -0.28, 0.31, -0.27 n=8 平均偏差d2=0.28 s2=0.29 d1=d2,s1s2 显然显然,第一组数据比第二组数据离散第一组数据比第二组数据离散;但平均偏差显示不出来但平均偏差显示不出来,而标准偏差则显示出来而标准偏差则显示出来.11 A、B、C、D 四个分析工作者对同一铁标样四个分析工作者对同一铁标样(WFe=37.40%)中的铁含量进行测量,得结果如图示,比较其准确度与

7、精密度。中的铁含量进行测量,得结果如图示,比较其准确度与精密度。 36.00 36.50 37.00 37.50 38.00测量点测量点平均值平均值真值真值ABCD准确度高准确度高精密度高精密度高准确度低准确度低精密度高精密度高精密度差精密度差12准确度与精密度的关系:准确度与精密度的关系:(1)回答各自定义)回答各自定义(2)准确度高,要求精密度一定高;但精密度好,准)准确度高,要求精密度一定高;但精密度好,准 确度不一确度不一 定高。定高。(3)准确度反映了测量结果的正确性,精密度反应了测)准确度反映了测量结果的正确性,精密度反应了测量结果的重现性量结果的重现性(4)精密度好是准确度好的前

8、提;精密度好不一定准确)精密度好是准确度好的前提;精密度好不一定准确度高,只有在消除系统误差以后,精密度好的准确度度高,只有在消除系统误差以后,精密度好的准确度才高才高. 13例:水垢中例:水垢中 Fe2O3 的百分含量测定数据为的百分含量测定数据为 (测测 6次次) :79.58%,79.45%,79.47%,79.50%,79.62%,79.38%求平均值、平求平均值、平均偏差、标准偏差、相对标准偏差。均偏差、标准偏差、相对标准偏差。解:平均值解:平均值 = 79.50% ;平均偏差;平均偏差=0.047% s = 0.09% RSD(%)= 0.04% 14 在相同条件下,对同一样品进行

9、多次重复测定,在相同条件下,对同一样品进行多次重复测定,所得数据的精密度称为方法的重复性。所得数据的精密度称为方法的重复性。 在不同条件下,用同一方法对相同样品重复测在不同条件下,用同一方法对相同样品重复测定多次,所得数据的精密度称为分析方法的重现性。定多次,所得数据的精密度称为分析方法的重现性。 15例:测定铁矿石中铁的质量分数(以表示),5次结果分别为:67.48% 67.37%, ,67.47%,67.43%和67.40%。计算:(1)平均偏差(2)相对平均偏差 (3)标准偏差;(4)相对标准偏差;(5)极差。 %43.675%407.67%43.67%47.67%37.67%48.67

10、x%04. 05%03. 0%04. 0%06. 0%05. 0|1idnd%06.0%100%43.67%04.0%100 xddr%05. 015%)03. 0 (%)04. 0 (%)06. 0 (%)05. 0 (122222ndSi%07. 0%100%43.67%05. 0%100 xSSrXm=X大-X小=67.48%-67.37%=0.11%16回忆:1.准确度与精密度的概念及表示方法2.绝对误差、相对误差、绝对偏差、相对偏差、平均偏差、相对平均偏差的公式17五五 误差产生的原因及减免办法误差产生的原因及减免办法定量分析的任务是准确测定试样中组分的含量,要求定量分析的任务是准确

11、测定试样中组分的含量,要求分析结果必须具有一定的准确度。因此必须认识到:分析结果必须具有一定的准确度。因此必须认识到:1.1.误差是客观存在误差是客观存在2.2.必须对分析结果进行评价必须对分析结果进行评价18误差误差系统误差系统误差方法误差方法误差操作误差操作误差偶然误差偶然误差仪器和试剂误差仪器和试剂误差191系统误差系统误差(systematic error) (可测误差) 由一些固定原因所造成造成的误差。所以在多次测定中重复出现 为单向性。影响分析结果的准确度。它是可避免和消除的。特点:具单向性、重现性,可测性特点:具单向性、重现性,可测性20系统误差的来源系统误差的来源: 方法误差方

12、法误差: 溶解损失、终点误差用对照溶解损失、终点误差用对照实验校正实验校正 仪器误差仪器误差: 刻度不准、砝码磨损校准刻度不准、砝码磨损校准(绝绝对、相对对、相对) 主观误差主观误差: 颜色观察颜色观察 试剂误差试剂误差: 不纯空白实验不纯空白实验21其大小、正负可以测定出来,因而是可以其大小、正负可以测定出来,因而是可以校正的。校正的。 校正系统误差的方法校正系统误差的方法: 校准仪器、对照实验校准仪器、对照实验(标准方法、标准标准方法、标准样品、标准加入)、空白实验样品、标准加入)、空白实验22对照实验(标准方法、标准加入)对照实验(标准方法、标准加入) : 标准方法:用标准方法和被检验的

13、方标准方法:用标准方法和被检验的方法分析同一样品,其差值为系统误差。法分析同一样品,其差值为系统误差。 标准样品:用标准方法和被检验的方标准样品:用标准方法和被检验的方法分析同一标准样品,其差值为系统误差法分析同一标准样品,其差值为系统误差(或求校正系数)。(或求校正系数)。23标准加入法:标准加入法:即回收试验,是在测定试样即回收试验,是在测定试样某组分含量(某组分含量(X1)的基础上,加入已知量)的基础上,加入已知量的该组分(的该组分(X2),再次测定其组分含量),再次测定其组分含量(X3)。计算回收率。)。计算回收率。 回收率回收率=(X3-X1)/X2 100%。24 空白实验:以配制

14、试样溶液用的蒸馏水代替试空白实验:以配制试样溶液用的蒸馏水代替试液,在相同条件和方法下进行试验,称为空白液,在相同条件和方法下进行试验,称为空白试验。空白试验的意义是:试验。空白试验的意义是:(1)检查试剂、辅助试剂或器皿是否引进被鉴定离检查试剂、辅助试剂或器皿是否引进被鉴定离子,以及是否有发生类似反应的其他物质。子,以及是否有发生类似反应的其他物质。 (2)当鉴定反应的现象不够明显时,与空白试验当鉴定反应的现象不够明显时,与空白试验对照观察,有助于作出正确的判断。对照观察,有助于作出正确的判断。252.偶然误差偶然误差 (random error) (也称不可测误差也称不可测误差, 随机误差

15、随机误差) 由某些难以控制且无法避免的偶然因素(如环境温由某些难以控制且无法避免的偶然因素(如环境温度、湿度、电压、污染等)造成的误差,是可以允许度、湿度、电压、污染等)造成的误差,是可以允许的误差。的误差。26偶然误差的性质:偶然误差的性质: a. 测定次数不多时,误差没有规律性,测定次数不多时,误差没有规律性, b. 产生原因一般不易察觉,难以控制产生原因一般不易察觉,难以控制 c. 消除系统误差后,增加平行测定次数时,误消除系统误差后,增加平行测定次数时,误差服从正态分布(即对称性、有界性、抵偿差服从正态分布(即对称性、有界性、抵偿性)性) 。服从统计规律:不存在系统误差的情况。服从统计

16、规律:不存在系统误差的情况下,测定次数越多其平均值越接近真值。一般下,测定次数越多其平均值越接近真值。一般平行测定平行测定3-6次。次。27偶然误差与精密度: 偶然误差使分析结果在一定范围波动,其方向、大小不固定,从而决定精密度的好坏. 3. 过失过失(mistake) 由粗心大意引起,可以避免的由粗心大意引起,可以避免的28(一一) 选择合适的分析方法选择合适的分析方法(二二) 减小测量误差减小测量误差 仪器和量器的测量误差也是产生仪器和量器的测量误差也是产生系统误差的因素之一。系统误差的因素之一。100)(VmEEr29 分析天平一般的绝对误差为分析天平一般的绝对误差为0.0002g ,欲

17、使称量的相对误差不大于欲使称量的相对误差不大于0.1%,那么应那么应称量的最小质量不小于称量的最小质量不小于0.2g。 在滴定分析中,滴定管的读数误差一般在滴定分析中,滴定管的读数误差一般为为0.02mL。为使读数的相对误差不大于。为使读数的相对误差不大于0.1%,则滴定剂的体积就应不小于,则滴定剂的体积就应不小于20mL。300.00.20.40.60.81.00510152025平均值的标准偏差平均值的标准偏差测量次数测量次数31 是检验和消除方法误差的有效方是检验和消除方法误差的有效方法。用待检验的分析方法测定某标准法。用待检验的分析方法测定某标准试样或纯物质,并将结果与标准值或试样或纯

18、物质,并将结果与标准值或纯物质的理论值相对照。纯物质的理论值相对照。32是在不加试样的情况是在不加试样的情况下,按照与试样测定完全相同的条件下,按照与试样测定完全相同的条件和操作方法进行试验,所得的结果称和操作方法进行试验,所得的结果称为空白值,从试样测定结果中扣除空为空白值,从试样测定结果中扣除空白值就起到了校正误差的作用。白值就起到了校正误差的作用。33加加标标量量测测定定值值加加标标试试样样测测定定值值试试样样加加标标回回收收率率100标准物质的保证值标准物质的保证值测定的平均值测定的平均值方法回收率方法回收率10034例1: 指出在下列情况下,各会引起哪种误差?如果是系统误差,应该采用

19、什么方法减免?(1)砝码被腐蚀;(2)天平的两臂不等长;(3)容量瓶和移液管不配套;(4) 试剂中含有微量的被测组分;(5)天平的零点有微小变动;(6)读取滴定体积时最后一位数字估计不准;(7)滴定时不慎从锥形瓶中溅出一滴溶液;(8)标定HCl溶液用的NaOH标准溶液中吸收了CO2。35答:(1)系统误差中的仪器误差。减免的方法:校准仪器或更换仪器。(2)系统误差中的仪器误差。减免的方法:校准仪器或更换仪器。(3)系统误差中的仪器误差。减免的方法:校准仪器或更换仪器。(4)系统误差中的试剂误差。减免的方法:做空白实验。(5)、(6)偶然误差。(7)过失误差。(8)系统误差中的试剂误差。减免的方

20、法:做空白实验。36 2如果分析天平的称量误差为0.2mg,拟分别称取试样0.1g和1g左右,称量的相对误差各为多少?这些结果说明了什么问题? 解:因分析天平的称量误差为0.2mg。故读数的绝对误差 为0.0002g. 根据%100ar%2 . 0%1001000. 00002. 01 . 0gggr%02. 0%1000000. 10002. 01gggr 这说明,两物体称量的绝对误差相等,但他们的相对误差并不相同。也就是说,当被测定的量较大时,相对误差就比较小,测定的准确程度也就比较高。37 2. 当置信度为0.95时,测得Al2O3的置信区间为(35.210.10)%,其意义是( )A在

21、所测定的数据中有95%落在此区间内;B若再进行测定,将有95%的数据落入此区间;C在此区间内包含值的概率为0.95; 答:C 3. 衡量样本平均值的离散程度时,应采用( )A 标准偏差B 相对标准偏差C 极差D 平均值的标准偏差 答:D38 第二节:定量分析数据的处理方法第二节:定量分析数据的处理方法39 解决两类问题解决两类问题:(1) 可疑数据的取舍可疑数据的取舍 过失误差的判断 方法:Q检验法; 格鲁布斯(Grubbs)检验法。 确定某个数据是否可用。(2) 分析方法的准确性分析方法的准确性 系统误差的判断 显著性检验显著性检验:利用统计学的方法,检验被处理的数据 是否存在 统计上的显著

22、性差异。 方法:t 检验法和F 检验法; 确定某种方法是否可用,判断实验室测定结果准确性。40置信度与置信区间 置信度:真值落在某一范围的可信程度(概率)(概率) 置信区间:某一置信度下,真值落在某一范围 1.极差极差(全距全距) R= xmax-xmin 2.公差:是生产部门对于分析结果允许误差的一公差:是生产部门对于分析结果允许误差的一种表示方法种表示方法 。 3.超差:分析结果超出允许的公差范围。超差:分析结果超出允许的公差范围。411 1n n1 1n nn nX XX XX XX XQ Q1 Q 检验法检验法步骤步骤: ( 1) 数据排列 X1 X2 Xn (2) 求极差 Xn X1

23、 (3) 求可疑数据与相邻数据之差 Xn Xn-1 或 X2 X1 (4) 计算:比较比较Q的计算值和的计算值和Q的临界值的临界值.42(5) 根据测定次数和要求的置信度,(如90%)查表: 表1-2 不同置信度下,舍弃可疑数据的Q值表 测定次数测定次数 Q90 Q95 Q99 3 0.94 0.98 0.99 4 0.76 0.85 0.93 8 0.47 0.54 0.63 (6)将Q与QX (如 Q90 )相比, 若Q QX 舍弃该数据, (过失误差造成) 若Q G 表,弃去可疑值,反之保留。 由于格鲁布斯(Grubbs)检验法引入了标准偏差,故准确性比Q 检验法高。基本步骤:基本步骤:

24、(1)排序:1,2,3,4(2)求和标准偏差S(3)计算G值:SXXGn计算44 回忆SXXGn计算1 1n n1 1n nn nX XX XX XX XQ Qxxd%100%xdRDnXXd%100%xdd121nXXSni%100%XSRSD%100TEaErux Ea?nX/24546几几 个个 重重 要要 概概 念念置信度置信度 P :误差误差(或测定值或测定值)在某个范围在某个范围内出现的概率。内出现的概率。置信区间:在一定置信度下,误差置信区间:在一定置信度下,误差(或测或测定值定值)出现的区间。具体表示为:出现的区间。具体表示为:显著性水平:落在此范围之外的概率显著性水平:落在此

25、范围之外的概率 ux 471. 表明表明无限多次无限多次测定结果测定结果的分布。的分布。曲线两侧对称曲线两侧对称对称性对称性中间高,两侧低中间高,两侧低 单峰性单峰性正负误差出现的概率相等正负误差出现的概率相等 小误差出现的概率大,小误差出现的概率大,大误差出现的概率小大误差出现的概率小48%.368492. 正态分布曲线仅依赖于正态分布曲线仅依赖于 和和两个基本参数。两个基本参数。 其中,其中,表示数表示数据的分散程度。据的分散程度。小,曲线瘦高小,曲线瘦高大,曲线矮胖大,曲线矮胖同一总体,精密度不同同一总体,精密度不同50(一一) 偶然误差的正态分布曲线偶然误差的正态分布曲线标准正态分布标

26、准正态分布 (高斯分布高斯分布)2 22 22 2) )( (x xe e2 21 1f f( (x x) )y y式中:式中: y :测定值出现的概率密度:测定值出现的概率密度 x :测定值:测定值:无限多次测量的总体平均值:无限多次测量的总体平均值:总体的标准偏差:总体的标准偏差51 二、二、t分布分布 当无限次数测定时当无限次数测定时 即即 ,上式表,上式表明:当测定值的误差呈明:当测定值的误差呈 t 分布时,在一定置信度下,真值所在的分布时,在一定置信度下,真值所在的置信区间。置信区间。 而在实际工作中,当测定数据有限时,样本平均值的置信区而在实际工作中,当测定数据有限时,样本平均值的

27、置信区间为间为 即即 上式表明:当测定值的误差呈上式表明:当测定值的误差呈 t 分布时,在一定置信度下,真值分布时,在一定置信度下,真值所在的置信区间。若将置信度固定,当测定的精密度越高和测定所在的置信区间。若将置信度固定,当测定的精密度越高和测定次数越多时,置信区间越小,表明次数越多时,置信区间越小,表明x 或或 越接近真值,即测定的准越接近真值,即测定的准确度越高。确度越高。 n nS St tx xf fP P, ,x xS SX Xt t计计算算n nS S/ /X Xt t计计算算52 标定标定HCl溶液的浓度时,先标定溶液的浓度时,先标定3次,结果为:次,结果为:0.2001mol

28、/L、0.2005mol/L和和0.2009mol/L;后来又标定后来又标定2次,为次,为0.2004mol/L和和0.2006mol/L。试分别计算试分别计算3次和次和5次标定结果计算总体平均值次标定结果计算总体平均值的置信区间的置信区间,P=0.95。解:标定解:标定3次时次时故故查查表表,.=.=,/.=,.78200030200504950tSLmolx30004030420050.=,nstxfP标定标定5次时次时故查表,.,/.,.30400040200502950tSLmolx50003078220050.=,nstxfP0010020050.=0004020050.=53 b.

29、 b. 由要求的置信度和测定次数由要求的置信度和测定次数, ,查表查表, ,得得: : t t表表 c. c. 比较比较 t t计计 t t表表, ,表示有显著性差异表示有显著性差异, ,存在系统误差存在系统误差, ,被检验被检验 方法需要改进。方法需要改进。 t t计计 t t表表, ,表示无显著性差异,被检验方法可以采用。表示无显著性差异,被检验方法可以采用。分析方法的准确性分析方法的准确性 系统误差的判断1. 1. 平均值与标准值平均值与标准值( ( ) )的比较的比较 t t 检验法检验法 a. 计算t值n nS S/ /X Xt t计计算算54 查表(自由度查表(自由度 f f 1

30、f 2n1n22 2), ,比较:比较:2.2.两组数据的平均值比较(同一试样)两组数据的平均值比较(同一试样)(1) (1) t t 检验法检验法计算计算值:值: 新方法-经典方法(标准方法) 两个分析人员测定的两组数据 两个实验室测定的两组数据a a求合并的标准偏差:求合并的标准偏差:2)()(212122211121nnnxxnxxSiiii合212121nnnnSxxtR 计计55显著性差异,则两组平均值不存在如,ftt著性差异,则两组平均值存在显如,ftt56(2) F检验(检验(检验两组数据是否存在显著性差异的方法检验两组数据是否存在显著性差异的方法)计算计算值:值:b.查表(查表

31、(表),比较表),比较F计计Q0.90,4 , 故故1.83这一数这一数据应弃去。据应弃去。 (2) 查表查表2-4得得Q0.90,5=0.64,因因Qt计算说明测定结果与标准值无显著差异。59 t 检验检验检验方法的系统误差检验方法的系统误差 F 检验检验检验方法的偶然误差检验方法的偶然误差 G 检验检验异常值的取舍异常值的取舍可疑值的可疑值的取舍取舍精密度显著性精密度显著性检验检验准确度或系统误准确度或系统误差显著性检验差显著性检验60例:例: 10名病人服药前名病人服药前( )后后( )血液中血红血液中血红蛋白含量如下表所示,问该药是否引起血红蛋白含量如下表所示,问该药是否引起血红蛋白含

32、量的变化。蛋白含量的变化。(显著性水平显著性水平0.05)ixiy12313012011010012813515015011338637207010122712013811414712013513514013814010987654321编号编号ixiyiiiyxd61 先用先用F检验法检验检验法检验 和和 是否相等是否相等x y ny=10nx=10y x28. 28 .103 .162222小小大大计计SSF根据根据=0.05,查,查F值表:值表:10. 3)9 , 9(05. 0F62表表计计FF无显著性差异无显著性差异2、用、用t 检验法检验检验法检验 与与x y 212121nnnn

33、SxxtR 计计13. 1计计t无显著性差异无显著性差异2)()(212122211121nnnxxnxxSiiii合63一、相关系数一、相关系数niniiiniiiyyxxyyxxr11221=)()()(=64一元线性:一元线性:y=a0 +a1x实验点:(yi,xi) (i=1,2,3,.,m)实验点数 m未知数个数,矛盾方程组,假设求得: a0 ;a1 代入 yi=a0 +a1xi 得直线方程。实测值yi与计算值 yi之间偏差越小,拟合的越好,偏差平方和最小。miiimiiixaayyyaas12102110,65最小二乘法拟合最小二乘法拟合02; 0211011100imiiimii

34、ixxaayaSxaayaSimiimimiimiimiiyxxaxaymxmaai1121101110;1将实验数据代入,即可求得将实验数据代入,即可求得 a0,a1;miimiimiimiiiymyxmxxayaxmxyxmyxa1110122111;1;66二、相关系数 RR=1 ;存在线性关系,无实验误差;R=0;毫无线性关系;2122121ymylxmxlyxmyxllllRmiiyymiixxmiiixyyyxxxy671. 当所有的当所有的 值都在回归线上时,值都在回归线上时,R = 1iyxyR = 02. 当当 R 的绝对值在的绝对值在 0 1 之间时,可根据测量的次之间时,

35、可根据测量的次数及置信水平与相应的相关系数临界值比较,绝数及置信水平与相应的相关系数临界值比较,绝对值大于临界值时,则可认为这种线性关系是有对值大于临界值时,则可认为这种线性关系是有意义的意义的 68相关系数的临界值表(部分)相关系数的临界值表(部分) f = n20.100.050.010.00110.988 0.997 0.99980.99999920.900 0.9500.9900.99930.805 0.8780.9590.9916912122111)(niniiiniiniiiniiixxnyyxyxbxbynxbyaniinii=1170第四节:有效数字及运算规则第四节:有效数字及

36、运算规则71 记录实验数据和计算结果应保留记录实验数据和计算结果应保留几位数字是一件很重要的事,不能随几位数字是一件很重要的事,不能随便增加或减少位数。便增加或减少位数。%.%10045380137402SiO%.2776553543072(一一) 有效数字的意义有效数字的意义 1. 有效数字的问题是因为测量仪器有效数字的问题是因为测量仪器不同而产生的。测量得到的数据的最不同而产生的。测量得到的数据的最后一位数字是称为可疑数字。后一位数字是称为可疑数字。73例如:例如:称得某物质的质量为称得某物质的质量为0.5180g 记录值记录值0.5180g实际质量实际质量201005180000010.

37、%.相对误差相对误差 0.51800.0001g0.518g0.5180.001g210051800010%. 结论:在测量准确度范围内,有效数字结论:在测量准确度范围内,有效数字位数越多,测量越准确位数越多,测量越准确742. “0”的作用的作用有双重作用:普通数字、定位有双重作用:普通数字、定位数 字有效数字位 数1.00050.5000; 31.05% ;6.0231023五位五位四位四位0.0054 ; 0.40%两位两位754. pH、pC、lgK等对数值,其有效数等对数值,其有效数字的位数取决于小数部分,其整数部字的位数取决于小数部分,其整数部分只说明该数的方次。分只说明该数的方次

38、。3. 改变单位,不改变有效数字位数改变单位,不改变有效数字位数如:如:20.41mL0.02041L均为均为四位四位有效数字有效数字pH=12.68两位两位76(一一) 记录数据时,只保留一位可疑数字记录数据时,只保留一位可疑数字(二二) 有效数字的整化有效数字的整化(或修约或修约) 四舍六入,四舍六入, 五后有数就进一五后有数就进一,五后无数看单双。五后无数看单双。7718.06501保留四位有效数字18.070.58352.当尾数当尾数=5时时(1) 若若 5 后还有数字,则应进位后还有数字,则应进位1.当尾数当尾数4,舍去,舍去;当尾数当尾数6,进位;,进位;0.53664保留四位有效

39、数字0.53660.58346保留四位有效数字7816.4050保留四位有效数字16.400.215保留两位有效数字0.2227.1850保留四位有效数字27.18(2) 若若 5 后面均为后面均为“0”,则看保留下的,则看保留下的末位数是奇数还是偶数。末位数是奇数还是偶数。5 前为前为奇奇则则进一进一, 5 前为前为偶偶则则舍弃舍弃。793. 一次整化,不得分步整化一次整化,不得分步整化13.456513.45613.4613.51413.456513801.1.加减法加减法 以以小数点后位数最少小数点后位数最少的数据的位数为准,即取决于绝的数据的位数为准,即取决于绝对误差最大的数据位数。对

40、误差最大的数据位数。 2.乘除法乘除法 以以有效数字位数最少有效数字位数最少的数据的位数为准,即取决于相的数据的位数为准,即取决于相对误差最大的数据位数对误差最大的数据位数。3.混合运算混合运算 关键是按照算式的运算顺序,每当遇到加减或乘除关键是按照算式的运算顺序,每当遇到加减或乘除转换时,分步修约,如加减算完,结果进行乘除运算时,转换时,分步修约,如加减算完,结果进行乘除运算时,先对加减结果修约,在将修约后的结果进行乘除计算,然先对加减结果修约,在将修约后的结果进行乘除计算,然后结果再按乘除规则修约。后结果再按乘除规则修约。814. 常数常数、e 等有效数字位数无限制等有效数字位数无限制5. 5. 当首位数字当首位数字88,有效数字位

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论