试验检测数据的处理-有效数字与修约规则

《路基路面试验与检测》课程主讲：张小利试验检测数据的处理—有效数字与修约规则《路基路面试验与检测》课程1、有效数字概念目录2、零的有效数字目录3、有效数字修约规则4、修约间隔2、有效数字运算规则引言《路基路面试验与检测》课程

如：1.0g与1.00g的测量精度分别为±0.1g、±0.01g。两者有不同含义，1.0g表示被测物质的质量为1.0±0.1g，1.00g表示被测物质的质量为1.00±0.01g。

在分析测试中，为了得到准确的分析结果，不仅要准确地进行各种测量，而且还要正确地记录和计算。分析结果所表达的不仅仅是试样中待测组分的含量，而且反映了测量方法、仪器的准确度。

1.有效数字概念《路基路面试验与检测》课程

概念：－－－实际能测到的分析数据a.用万分之一分析天平：10.2345g实验数据的准确性与分析测试仪器的测量精度有关：同一试样采用不同测量精度的仪器测量，所得数据的有效数字位数不同，其中有效数字位数多的测量更精确。准确数字可疑数字都是有效数字准确数字可疑数字b.用精度为±0.01g的天平：10.23g如称量某一试样的质量6位4位若干位准确数字末位可疑数字+有效数字=《路基路面试验与检测》课程m◆分析天平(称至0.1mg):12.8218g(6),0.2338g(4),

千分之一天平(称至0.001g):0.234g(3)

1%天平(称至0.01g):4.03g(3),0.23g(2)

台秤(称至0.1g):4.0g(2),0.2g(1)例:

1.有效数字概念

2.零的有效数字计算《路基路面试验与检测》课程出现在第一位有效数字之前，不算有效数字

0.02000L(4位),0.0280g(3位)出现在两个非零数字之间或所有非零数字之后，记入有效数字

10.0400(6位)

记录数据的时候不能将尾数的“0”任意增减

0.10mL0.1mL

改变单位，有效数字不变

0.02000L20.00mL

科学记数法表示有效数字

数字后的0含义不清楚时,最好用指数形式表示

26800？

2.68×1043位；2.680×1044位；2.6800×1045位《路基路面试验与检测》课程有效数字位数的确定0.100020.78%0.05263.59×10-60.02

1×103

4位3

位1

位

2.零的有效数字计算《路基路面试验与检测》课程1.00081.98×10-10

0.004036003.6×103

，3.60×103，3.600×103

（5位）（3位）（2位）（模糊）

2.零的有效数字计算《路基路面试验与检测》课程

3.有效数字修约规则四舍六入五考虑五后非零则进一五后为零视奇偶奇升偶舍要注意修约一次要到位《路基路面试验与检测》课程

3.有效数字修约规则例：要修约为四位有效数字时:尾数≤4时舍,0.52664-------0.5266尾数≥6时入,0.36266-------0.3627尾数＝5时,若后面数为0或无数字,观察所保留的数字末位数为奇数进一,偶数舍去.15.15----15.2,15.25----15.2若5后面还有不是0的任何数皆入:18.0850001----18.09《路基路面试验与检测》课程

4.修约间隔

修约间隔是指确定修约保留位数的一种方式。修约间隔的数值一经确定，修约值即应为该数值的整数倍。

例如指定修约间隔为0．1，修约值即应在0．1的整数倍中选取，相当于将数值修约到一位小数。又如指定修约间隔为100，修约值即应在100的整数倍中选取，相当于将数值修约到“百”数位。最基本的修约间隔是10n（n为整数），它等同于确定修约到某数位。《路基路面试验与检测》课程

4.修约间隔0.5单元修约将拟修约数值乘以2，按指定数位依照修约规则进行修约，所得数值再除以2。60.38120.7612160.560.25120.5012060.0《路基路面试验与检测》课程

4.修约间隔0.2单元修约将拟修约数值乘以5，按指定数位依照修约规则进行修约，所得数值再除以5。例如：将下列数值修约间隔为20。830

4150

4200

840842

4210

4200

840

《路基路面试验与检测》课程

5.有效数字运算规则（1）加减运算:

以各项中绝对误差最大的数为准，和或差只保留一位可疑数字，即与小数点后位数最少的数取得一致。28.510.030.712+4.131643.3736

?28.510.00.7+4.143.3先修约，后计算

±0.1

±0.01±0.001±0.0001《路基路面试验与检测》课程

5.有效数字运算规则（2）乘除法:

以相对误差最大的数为准，积或商只保留一位可疑数字，即按有效数字位数最少的数进行修约和计算。解：计算：0.0235×20.03÷3.1816=0.147946002？0.0235×20.0÷3.18=0.148注意：首位数字为8或9，可多保留一位有效数字。9.35×0.1856=1.736如《路基路面试验与检测》课程

5.有效数字运算规则（2）乘除法:

以相对误差最大的数为准，积或商只保留一位可疑数字，即按有效数字位数最少的数进行修约和计算。解：三个数的最后一位都存在±1的绝对误差，相对误差各为：(±1／31816)×100％=±0.003％计算：0.0235×20.03÷3.1816=0.147946002？(±1／2003)×100％=±0.05％(±1／235)×100％=±0.4％0.0235相对误差最大，修约时按3位有效数字计算0.0235×20.0÷3.18=0.148注意：首位数字为8或9，可多保留一位有效数字。9.35×0.1856=1.736如《路基路面试验与检测》课程

5.有效数字运算规则（3）乘方或开方运算原数据有几位有效数字，结果就可保留几位，若一个数的乘方或开方结果，还将参加下面的运算，则乘方或开方后的结果可多保留一位有效数字。3.142=9.860=9.86例：《路基路面试验与检测》课程

5.有效数字运算