有效数字与数字修约

有效数字与数字修约目录TOC\o"1-2"\h\z\u1. 目的 22. 范围 23. 引言、定义和缩略语 24. 程序 24.1 原始数据的读取和修约 24.2 有效数字的运算规则 24.3 数据修约规则 34.4 注意事项 34.5 实例 45. 登记和归档 46. 职责 57. 培训 5目的本条SOP的目的是保证正确记录和处理原始数据。范围引言、定义和缩略语有效数字是指实际能够测量到的数字，它由可靠的数字加上一位估计的、不确定的数字组成。有效数字的位数是指从该数左方第一个非零数字算起到最末一个数字（包括零）的个数，不取决于小数点的位置。即第一个非零数字前的零不是有效数字；第一个非零数字后开始的所有数字（包括零）都是有效数字。例如，0.568和0.0568都有三位有效数字；2.70有三位有效数字，而2.700则有四位有效数字。有效数字位数的多少，表明了测量所能达到的准确程度，这与所被测物和测量工具的精度有关，即当被测物和测量工具被选定后，测量值的有效数字位数就已经确定了。例如，测得物体的长度为3.36cm，有三位有效数字，若使用千分尺测量，应为3.3600cm，有五位有效数字。程序原始数据的读取4.1.1读取至测量工具的最小单位。如有必要或需要进一步计算，可再向下估读一位。即读取测量值时应确定测量工具的精确度。例如，50ml和250ml容量瓶的精度分别为0.01ml和0.1ml，所配溶液体积应分别为50.00ml和250.0ml。4.1.2对于带数字显示或打印机的仪器设备，有效数字直接为显示值或打印值，并与仪器设备和试验方法保持一致。有效数字的运算规则在计算过程中，有效数字的确定遵循以下标准：修约，修约仅需考虑最后一位有效数字后一位的数字。例如：2.154546保留三位有效数字正确修约：2.154546→2.15错误修约：2.154546→2.15455→2.1546→2.155→2.16。4.4.3单位转换时，为了使有效数字的位数不变，尽量使用科学计数法。例如，70cm可记为700mm，有效数字的位数改变了，可用7.0×10cm和7.0×102mm表示，不改变有效数字的位数。此外，数字过大或过小时，也应尽量使用科学计数法表示。实例4.5.1经计算得到某物重量为4.3415mg，不确定度为2.0478mg。首先，将不确定度修约为两位有效数字2.0mg（注意，非零数字后的零为有效数字），则重量值修约为4.3mg。注意修约后该值及不确定度的小数点后位数应一致。故修约结果为4.3mg±2.0mg。4.5.2经计算得到某容量瓶容积为2000.714431ml，不确定度为0.084024ml。首先，将不确定度修约为两位有效数字即0.084ml，则容积值修约为2000.714ml。注意修约后该值及不确定度的小数点后位数应一致。故修约结果为2000.714ml±0.084ml。4.5.3经计算得到某物重量为285.41mg，不确定度为102.98mg。由于其不确定度大，首先，将该值及不确定度转换为较大的常用单位，即0.28541g和0.10298g，然后将不确定度修约为两位有效数字0.10g（注意，非零数字后的零为有效数字），则重量值修约为0.29g。注意修约后该值及不确定度的小数点后位数应一致。故修约结果为0.29g±0.10g。4.5.4经计算得到某物重量为285.41mg，不确定度为33.4875mg。首先，将不确定度修约为两位有效数字33mg，则重量值修约为285mg