检测数值读取与数值修约

1、测量测量(cling)数值读取与数值数值读取与数值修约修约精品资料有效数字与检测(jin c)结果的关系(1) 检测过程往往由多个分过程组成，每个分过程产生(chnshng)一组或一个数据，对每个检测分过程得到数据进行数据处理得到检测结果，因此，检测过程数据读取(读取位数的确定)和数据处理是检测过程的必须环节。 检测数据含有误差，测量结果误差与检测数据误差有关。因此，检测数据或测量结果的有效位数的取舍应适宜，太多会使人误认为测量精度很高，同时也会带来计算上的繁琐；太少则会损失测量准确度。精品资料有效数字与检测(jin c)结果的关系(2) 检测数据的有效数字位数反映了测量结果的精确度，它直接与

2、测量的精密度有关。因此，在检测过程中正确记录有效数字，是检测人员保证检测质量(zhling)的重要内容。精品资料有位数字(shz)读取举例(1) 实验室购置一台液晶显示数字的千分之一天平，天平生产厂家为了(wi le)体现其高分辨力或高灵敏性，显示的输出的数据全部取位到满位，如称量约1克重量时的显示为：1.012346512， 问题提出： 1.如何读取记录数据? 2.精度为千分之一，是否应该要像常规的读数一样估读到精度位数的下一位? 3.不需要的位数应该如何舍入?精品资料有位数字(shz)读取举例(2) 解决方法：解决方法： 仪器读数的有效位数跟精度仪器读数的有效位数跟精度(jn d)位数相同

3、，位数相同，不再显示下一位，多余位数将其按一定原则不再显示下一位，多余位数将其按一定原则舍入。舍入。 精度精度(jn d)为百分之一仪器：读数为：为百分之一仪器：读数为：1.01； 精度精度(jn d)为千分之一仪器：读数为：为千分之一仪器：读数为：1.012； 精度精度(jn d)为万分之一仪器：读数为：为万分之一仪器：读数为：1.0123； 精度精度(jn d)为十万分之一仪器：读数为：为十万分之一仪器：读数为：1.01235；精品资料 可知测量数据或仪器显示数值(shz)读数的取位是否合理，其具有系统和规范的要求。 拟从以下两个方面徐述： 一.测量结果的有效位数的规定 二.多余位数如何修

4、约精品资料一.测量结果(ji gu)有效位数的确定精品资料1.测量(cling)、测量(cling)结果 测量是以确定(qudng)量值为目的的一组操作。量值是由一个数(值)乘以测量单位所表示的特定量的大小。 测量不可避免的存在误差，测量读数由准确数字和可疑数字组成，仪器的精度和最小刻画所标识的数字均为可准确测度数据的最小数字，比此数字小的均为可疑数字。精品资料2.有效数字(yu xio sh z)(1) 有效数字指在分析和测量中所能得到的有实际意义的数字。测量结果(ji gu)是由有效数字组成(前后定位用的“0”除外)。 有效数字组成中除最后一位是可疑数字或不确切值外，其余的前面位数都是准确

5、数字。有效数字由准确数字和可疑数字组成。 除有效数字外其余数字为多余数字。精品资料2.有效数字(yu xio sh z)(2) 例: 用万分之一天平称量物品，从刻度盘或数字显示(xinsh)读数为1.0123，前几位数字1、0、1、2都是称量读到的准确数字，最后一位数字3则是在没有刻度的情况下估读出来的（即读数指针位于两刻度之间的估值），是不准确的或者说可疑的。精品资料2.有效数字(yu xio sh z)(3) 有效数字是处于(chy)表示测量结果的数值的不同数位上。所有有效数字所占有的数位的个数称为有效数字位数。 例如：数值3.5，有两个有效数字，占有个位、十分位两个数位，因而有效数字位数

6、为两位；而3.501有四个有效数字，占有个位、十分位、百分位等四个数位，因面是四位有效数字。精品资料2.有效数字(yu xio sh z)(4) 测量结果的数字，其有效位数反映了测量结果的精确度，它直接与测量的精密度有关。这也是有效数字(yu xio sh z)实际意义的体现。 例如前述例子中，若测量结果为1.0123g，则表示测量值的误差在10-4量级上，天平的精度为万分之一；若测量结果为1.012g，则表示测量值的误关在10-3量级上，天平的精度为千分之一。精品资料3.确定(qudng)有效数字位数时遵循的原则(1) （1）数值中数字19都是有效数字。 （2）数字“0”在数值中所处的位置不

7、同(b tn)，起的作用也不同(b tn)，可能是有效数字，也可能不是有效数字或多余数字。判定如下：精品资料3.确定有效数字(yu xio sh z)位数时遵循的原则(2) 1）整数前面的“0”无意义，是多余(duy)数字，如0023。 2）对纯小数，在小数点后，数字前的 “0”只起定位，决定数量级的作用(相当于所取的测量单位不同)，不是有效数字，或是多余(duy)数字。 如，0.0257中，“2”前面的两个“0”均非有效数字。0.123、0.0123、0.00123中“1”前面的“0”也均非有效数字。 3）数值中夹在数字中间的“0”是有效数字。 例如，数值1.008中间的两个“0”均是有效数

8、字；数值8.01中间的“0”是有效数字。精品资料3.确定(qudng)有效数字位数时遵循的原则(3)4）数值未尾的“0”属于是否算有效数字(yu xio sh z)，分几种情况。数后面的“0”，若把多余数字的“0”用10的乘幂来表示，使其与有效数字(yu xio sh z)分开，这样在10的乘幂前面所有数字包括“0”皆为有效数字(yu xio sh z)。例如，0.5000（可表示为：5.00010-5）中，“5”后面的三个“0”均为有效数字(yu xio sh z)；0.0050(可表示为：5.010-2)中，“5”后面的一个“0”也是有效数字(yu xio sh z)。又如：3.20001

9、05，为5位有效数字(yu xio sh z)；3.20105，为3位有效数字(yu xio sh z)；3.2105，为2位有效数字(yu xio sh z)。精品资料3.确定(qudng)有效数字位数时遵循的原则(4) 作为测量结果并注明误差值的数值，其表示的数值等于或大于误差值的所有数字，包括(boku)“0”皆为有效数字； 上面两种情况外的数后面的“0”则很难判断是有效数字还是多余数字，因此，应避免采用这种不确切的表示方法。精品资料3.确定(qudng)有效数字位数时遵循的原则(5) 以“0”结尾的正整数，“0”是不是有效数字不确定，应根据测试结果的准确度确定。如，3600，后面的两个

10、“0”如果不指明(zhmng)测量准确度就不能确定是不是有效数字。 测量中遇到这种情况，最好根据实际测试结果的精确度确定有效数字的位数，有效数字用小数表示，把“0”用10的乘方表示。如， 将3600写成3.6103；表示此数有两位有效数字； 将3600写成3.60103；表示此数有三位有效数字； 将3600写成3.600103；表示此数有四位有效数字。精品资料4.有效数字(yu xio sh z)位数辨别注意(1) 一个数，有效数字占有的位数，即有效数字的个数，为该数的有效位数。 有效数字位数例子比较：如：00816，0.0816, 8.16, 8.16102，8.1610-5，这五个数的有效

11、位数均为3，有效数字都是3个。 若给出的数值为816000，则为不确切的表示方法。它可能(knng)是816103 ，也可能(knng)是8.160105，也可能(knng)是8.1600105，也可能(knng)是8.16000105，。即有效数字可能(knng)是3个，4个，5个或6个。若无其它说明，则很难判定其有效数字究竟是几个。精品资料4.有效数字(yu xio sh z)位数辨别注意(2)各数据的有效数字位数各数据的有效数字位数3.080665383五位有效数字0.600030.87%四位有效数字0.03692.3710-9三位有效数字630.0090二位有效数字0.0371010一

12、位有效数字3800200有效数字位数不确定精品资料5.直接测量(cling)结果位数规定(1) 总则 凡是用测量仪器直接测量的数据，读数一般要求在读出仪器最小刻度(kd)所在位置的数值(可靠数字)后，再向下估读一位(不可靠数字)，这里不受有效数字位数的限制。精品资料5.直接测量结果(ji gu)位数规定(2) 细则 （1）最小刻度值(精度)是1、0.1、0.01的应读到最小刻度值(精度)的下一位； （2）最小刻度值(精度)是2、0.2、0.02，5、0.5、0.05的应读到最小刻度值(精度)的同一位；同一位分别按二分之一或五分之一估读，不足半小格的舍去，超过半小格的按一个(y )格估读。 （3

13、）秒表读数时不需估读，单位：秒，一位小数；精品资料5.直接测量(cling)结果位数规定(3) 例:直列刻度(kd)值的读数: 读数:1.62cm=16.2mm 读数:2.00cm=20.0mm 精品资料5.直接测量结果(ji gu)位数规定(4) 例：秒表(圆盘(yun pn)刻度值)的读数 读数为96.4秒精品资料5.直接(zhji)测量结果位数规定(5) 例：(0.2刻度值)刻度天平的读数 天平平衡时，右盘中有26g砝码，游码在图中所示位置，则被测物体(wt)质量为（ ）? 答案：26.32g(最小刻度为0.02g，不是10分度，因此只读到0.02g这一位)。精品资料二.数值(shz)如

14、何修约精品资料数值(shz)修约-讨论内容 （一）数值修约的概念及意义(yy) （二）数值修约的基础知识 （三）数值修约规则及注意事项 （四）数值运算修约规则精品资料(一).数值(shz)修约的概念 对某一表示测量结果的数值(拟修约数)，根据保留位数的要求，将多余的数字(shz)进行取舍，按照一定的规则，选取一个近似数(修约数)来代替原来的数，这一过程称为数值修约精品资料(一).数值(shz)修约的意义(1) 1）出于准确表达测量结果的需要 测量结果大都是通过间接测量得到的，间接测量的结果通常是通过计算得出的，其组成数字往往较多，但具体测量的精度是确定的，最终提供的测量结果应合理反映这一点，故

15、此，通过计算方法和直接测量得到的数据的分析处理，得到合理的保留位数，以得到合理反映测量精度的测量结果就非常必要。另外，即使采用直接测量，有时在提供测量程序要求(yoqi)的、但高于实际测量精度的测量结果时也需要进行合理的数值修约。精品资料(一).数值(shz)修约的意义(2) 2）在进行具体的数值计算前，对参加计算的数值进行修约，可简化计算，降低计算出错的机会(j hu)。 例如：(2.17+5.985616)3.13212.357621398=? 若不先进行数值修约就进行直接计算,繁琐且容易出错.若在计算前先按数值修约规则进行修约,舍去多余参与计算的数值之中没有意义的数位,则计算会简单得多,

16、计算也就不容易出错.精品资料(二)数值(shz)修约的基础知识(1) 1.修约间隔 修约间隔：修约值的最小数值单位，又称修约区间或化整间隔，系确定修约保留修约位数的一种方式。修约间隔一般以k10n(k=1,2,5；n为整数 )的形式表示(biosh)，将同一k值的修约间隔，简称为”k”间隔。修约间隔的数值一经确定，修约值即应为该数值的整数倍. 例1.如指定修约间隔为0.1，修约值即应在0.1的整数倍中选取，相当于将数值修约到一位小数。 例2.如指定修约间隔为100，修约值即应在100的整数倍中选取，相当于将数值修约到”百”数位。精品资料(二)数值(shz)修约的基础知识(2) 2.修约数位及确

17、定修约位数的表达方式 修约时拟将拟修约数的哪一位数位后部分按修约规则舍去，则该数位就是修约数位。 数值修约时需要先明确修约数位，确定修约位数的表达方式如下： (1)指明具体的修约间隔：如指明将某数按0.2(210-1)修约间隔修约，或者,按100(1102)修约间隔修约等； (2)指定将拟修约数修约至某数位的0.1，0.2或0.5个单位； (3)指明按”K”间隔将拟修约数修约为几位有效数字，或修约至某数位。这时”1”间隔可不必(bb)指明，但”2”间隔和”5”间隔必须指明。精品资料(三)数值(shz)修约规则-1数值数位数值数位(shwi)进舍进舍(修约修约)规则：规则：四舍六入五考虑，四舍六

18、入五考虑，五后非零则进一，五后非零则进一，五后皆零视奇偶，五后皆零视奇偶，五前为偶应舍去，五前为偶应舍去，五前为奇则进一，五前为奇则进一，不论数字多少位，不论数字多少位，都要一次修约成。都要一次修约成。精品资料(三)数值(shz)修约规则-2 实例实例: 请将下列数据修约到只保留二位小数：请将下列数据修约到只保留二位小数：302.21549；302.22499；302.22600；302.22500；302.21500； 答案答案: 302.21549302.22（五后非零则进一）；（五后非零则进一）； 302.22499302.22（四舍六入五考虑（四舍六入五考虑(kol)，按规则一，按规则

19、一次修约，不能多次修约成次修约，不能多次修约成302.23）；）； 302.22600302.23（四舍六入五考虑（四舍六入五考虑(kol)）；）； 302.22500302.22（五前为偶应舍去）；（五前为偶应舍去）； 302.21500302.22（五前为奇则进一）；（五前为奇则进一）；精品资料(三)数值(shz)修约规则-3 在数值修约的实施中，有时获取测量数据人员(rnyun)与数据计算人员(rnyun)先将获得数值按指定的修约位数多一位或几位报出，而后由其他部门判定。 修约时为了避免产生连续修约的错误，也可按下述步骤进行:精品资料(三)数值(shz)修约规则-4 1报出数值最右的非零

20、数字为5时，应在数值后面加“（+）”或“（-）”或不加符号，以分别表明已时行过舍、进或未舍未进。 例如： 16.50(+)表示(biosh)实际值大于16.50,经修约舍弃成为16.50. 16.50(-)表示(biosh)实际值小于16.50,经修约进一成为16.50.精品资料(三)数值(shz)修约规则-52.如果判定报出值需要进行修约,当拟舍弃数字(shz)的最左一位数字(shz)为5而后面无数字(shz)或皆为零时,数值后面有(+)号者进一,而数值后面有(-)号者舍去,其他仍按数字(shz)修约规则进行.例如:将下列数字(shz)修约到个数位后进行判定(报出值多留一位到一位小数).实测

21、值 报出值 修约值15.4546 15.5(-) 1516.5203 16.5(+) 17-17.5000 -17.5 -18-15.4546 -(15.5(-) -15精品资料(三)数值(shz)修约规则-6 特例情况: 非连续型数值 个数、分数、倍数、名义浓度(nngd)或标示量等是没有欠准数字的，其有效位数可视为无限多位。 常数、e和系数2，1/2等数值的有效位数也可视为是无限多位。精品资料(三)数值(shz)修约规则-7 例如: 1分子式“H2SO4”中的“2”和“4”是个数： 2含量测定项下“每1ml的XX滴定液(0.1m0l/L)”中的“0.1”为名义(mngy)浓度，其有效位数均

22、为无限多位； 3规格项下的“0.3g”或“1ml”,“25mg”中的“0.3”、“1”和“25”的有效位数也均为无限多位。在计算中，其有效位数应根据其他数值的最少有效位数而定精品资料(三)数值(shz)修约规则-8 PH值 PH值等对数值，其有效位数是由其小数点后的位数决定(judng)的，其整数部分只表明其真数的乘方次数。 例如： PH=11.26(H+=5.510-12mol/L) 其有效位数只有两位。精品资料(四)运算(yn sun)过程中的修约规则-1 在一个具体的测量过程中,一般(ybn)都要经过多个测量环节,而每个测量环节都有具体的测量数据,如砂子表观密度测定时称量比重瓶与水,试样

23、的总质量,倾出试样后称量瓶与水的质量;滴定试验时滴定前滴定管的初始读数与滴定至终点时,溶液体积的读数等. 这些测量所得的数据,在参与测量结果计算的过程中,若要修约应怎么修约,计算得到的结果怎么修约,就是运算法则所要解决的问题.精品资料(四)运算(yn sun)过程中的修约规则-2 1.加减运算(yn sun) 2.乘除运算(yn sun) 3.乘方和开方 4.对数和反对数 5.平均值 6.方差和标准偏差精品资料(四)运算过程(guchng)中的修约规则-31.加减运算加减运算几个数相加减的结果，经修约后保留有效数字的位数，取几个数相加减的结果，经修约后保留有效数字的位数，取决于绝对误差最大的数

24、值，计算结果应以绝对误差最大决于绝对误差最大的数值，计算结果应以绝对误差最大(即即小数点后位数最小小数点后位数最小)的数据为基准的数据为基准(jzhn)来决定计算结果数来决定计算结果数据的位数。据的位数。在实际运算过程中，应以各数中有效数字末位数的数位最在实际运算过程中，应以各数中有效数字末位数的数位最高者为准高者为准(小数即以小数部分位数最少者为准小数即以小数部分位数最少者为准)，其余数均比，其余数均比该数向右多保留一位有效数字；而计算结果有效数字的位该数向右多保留一位有效数字；而计算结果有效数字的位数应与有效数最少的一数相同。数应与有效数最少的一数相同。例如例如: 29.2+36.582-

25、3.0281=?按上述规则计算如下按上述规则计算如下:29.2+36.582-3.028129.2+36.58-3.03=62.75最后计算结果保留一位小数最后计算结果保留一位小数:为为62.8精品资料(四)运算过程(guchng)中的修约规则-4 2.乘除运算乘除运算 几个数据的乘除运算以相对误差最大几个数据的乘除运算以相对误差最大(即有效数字位即有效数字位数最少数最少)的数值为基准来决定结果数据的位数。的数值为基准来决定结果数据的位数。 在实际运算中，先将各数值修约至比有效数字位数在实际运算中，先将各数值修约至比有效数字位数最少者多保留最少者多保留(boli)一位有效数字运算，计算结果一位

26、有效数字运算，计算结果的有效数字的位数与有效数字位数最少的数值相同的有效数字的位数与有效数字位数最少的数值相同 (与小数点位置无关与小数点位置无关) 。 例如例如: 0.23543828.661.8916 0.235428.661.89 =414.6707116 三个参与运算的数值的有效数字位数分别为六位、三个参与运算的数值的有效数字位数分别为六位、三位、六位，所以最终计算结果用三位有效数字表三位、六位，所以最终计算结果用三位有效数字表示，为示，为415，或，或4.15102。精品资料(四)运算过程(guchng)中的修约规则-4 精品资料(四)运算过程(guchng)中的修约规则-5 4.对

27、数运算 数值对数计算时，所取对数的小数点后的位数(不包括首数)应与真数的有效数字位数相同。换言之，对数有效数字的位数，只计小数点以后的数字的位数，而不计对数的整数部分。 例如： Log(100.44) =log(1.0044102) =2.0019067。 最后(zuhu)结果应为2.00191，结果的有效数字位数是五位(小数后位数)而不是六位(整数位数加小数位数)，因整数部分只说明该数的10的方次。精品资料(四)运算(yn sun)过程中的修约规则-6 5.平均值 计算几个数值的平均值时，先将计算结果(ji gu)修约至比要求的位数多一位，再按数值修约规则处理。 例如： x =(8.67+8

28、.69+8.66+8.68+8.67+8.69+8.71)/7=8.6814285718.681 修约后平均值计算为8.68。 6.方差和标准偏差 方差和标准偏差在运算过程中对中间结果(ji gu)不做修约，只将最后结果(ji gu)修约至要求的位数。精品资料(四)运算过程(guchng)中的修约规则-7 注意： 1）在所有计算式中，常数（、e等）以及非检测所得的计算因子（倍数或分数）的有效数字位数，可视为无限，需要几位就取几位。 2）使用计算器（或电脑）进行计算进，一般不对中间每一步骤的计算结果进行修约，仅对最后(zuhu)的结果进行修约，使其符合事先所确定的位数。精品资料三.检测值与标准规

29、定的极限数值(限值界限(jixin)值)的比较和判定精品资料极限(jxin)数值(界限值/)： 标准（或技术规范）中规定考核的以数量形式给出且符合该标准（或技术规范）要求(yoqi)的指标数值范围的界限值。精品资料检测值(结果(ji gu)与标准规定限值作比较的方法-1 (1)在判定测量值或计算值是否符合标准要求时，应将测量所得的值或其计算值与标准规定的极限数值作比较(bjio)，比较(bjio)的方法可采用： 全数值比较(bjio)法； 修约值比较(bjio)法。 (2)当技术文件中，若对极限数值（包括带有极限偏差值的数值）无特殊规定时，均应使用全数值比较(bjio)法。如规定采用修约值比较(b