有效数字和数值的修约及其运算标准操作规程

1、文件名称有效数字和数值的修约及其运算标准操作规程文件编号SOP-QC-01-003/01编 制 人审 核 人批 准 人编制日期审核日期批准日期颁发部门质量部分 发 号生效日期发送单位档案室、质量部、化验室一、目的： 建立有效数字和数值的修约及其运算标准操作规程，确保有效数字和数值的修约及其运算结果的准确性。二、适用范围： 适用于有效数字和数值的修约及其运算操作。三、责任：QC检验人员负责本规程的实施，QA负责人、QC负责人监督检查。四、内容：1有效数字的根本概念1.1有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的，这种由可靠数字和最后一位不确定数字组成的数值，即为

2、有效数字。最后一位数字的欠准程度通常只能是上下差1单位。1.2有效数字的定位数位，是指确定欠准数字的位置。这个位置确定后，其后面的数字均为无效数字。1.3有效位数在没有小数位且以假设干个零结尾的数值中，有效位数系指从非零数字最左一位向右数得到的位数减去无效零即仅为定位用的零的个数。例如35000中假设有两个无效零，那么为三位有效位数，应写作350×102；假设有三个无效零，那么为两位有效位数，应写作35×103 或3.5×104。在其它十进位数中，有效数字系指从非零数字最左一位向右数而得到的位数。例如3.2、0.32、0.032均为两位有效位数，0.320为三位有

3、效位数、10.00为四位有效位，12.490为五位有效位数。非连续型数值如个数、分数、倍数是没有准数字的，其有效位数可视为无限多位；例如分子式“H2SO4”中的“2”和“4”是个数。常数、和系数2等数值的有效位数也可视为是无限多位；含量测定项下“每1ml的XXXX滴定液0.1mol/l······中的“0.1”为名义浓度，规格项下的“0.3g或“1ml：25mg为标示量，其有效位数也均为无限多位；即在计算中，其有效位数应根据其他数值的最少有效位数而定。1.3.4 PH值等对数值，其有效位数是由其小数点后的位数决定的，其整数局部只说明其

4、真数的乘方次数。如PH=11.26H+=5.5×10-12mol/l，其有效位数只有两位。有效数字的首位是8或9时，其有效位数可以多计一位。例如85%与115%，都可以看成是三位有效位数；99.0%与101.0%都可以看成是四位有效数字。2.数值修约及其进舍规那么。2.1数值修约 是指对似修约数值中超出需要保存位数时的舍弃，根据舍弃数来保存最后一位数或最后几位数。2.2修约间隔 是确定修约保存位数的一种方式，修约间隔的数值一经确定，修约值应为该数值的整数倍。例如指定修约间隔为0.1，作约值即应在0.1的整数倍中选取，也就是说，将数值修约到小数点后一位。2.3确定修约位数的表达方式指定

5、数位.1指定修约间隔为10-nn为正整数，或指明将数值修约到小数点后n位。.2指定修约间隔为1，或指明将数值修约到个数位。.3指定修约间隔为10nn为正整数或指明将数值修约到10n数位，或指明将数值修约到“十”、“百、“千······数位。指定将数值修约成n位有效位数n为正整数。2.4进舍规那么拟舍弃数字的最左一位数字小于5时，那么舍去，即保存的各位数字不变。将12.1498修约到一位小数十分位，得12.1。将12.1498修约成两位有效位数，得12。拟舍弃数字的最左一位数字大于5，或者是5，而其后跟有并非全部为0的数字时，那么进一，

6、即在保存的末位数字加1。将1268修约到百数位，得13×102。将1268修约到三位有效位数，得127×10。将10.502修约到个数位，得11。拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，假设所保存的末位数为奇数1，3，5，7，9那么进一，为偶数2，4，6，8，0那么舍弃。修约间隔为0.1或10-1拟修约数值 修约值1.050 1.00.350 0.4修约间隔为1000或103拟修约数值 修约值2500 2×1033500 4×103将以下数字修约成两位有效位数 拟修约数值 修约值 0.0325 0.032 32500 32×103

7、不许连续修约 拟修约数字应在确定修约位数后一次修约获得结果，而不得屡次按前面规那么-2.4.3连续修约。例 修约15.4546，修约间隔为1正确的做法为：15.454615。不正确的做法为：15.454615.45515.4615.516。为便于记忆，上述进舍规那么可归纳成以下口诀：四舍六入五考虑，五后非零那么进一，五后全零看五前，五前偶舍奇进一，不管数字多少位，都要一次修约成。但在按英、美、日药典方法修约时，按四舍五入进舍即可。3.运算规那么 在进行数学运算时，对加减法和乘除法中有效数字的处理是不同的。3.1许多数值相加减时，所得和或差的绝对误差比较任何一个数值的绝对误差大，因此相加减时应以

8、诸数值中绝对误差最大即有效数字的数位最大的数值为准，以确定其它数值在运算中保存的数位和决定计算结果的有效数位。3.2许多数值相乘除时，所得积或商的相对误差比较任何一个数值勤的相对误差大。因此相乘除时应以诸数值中相对误差最大即有效位数最少的数值为准，确定其它数值在运算中保存的位数和决定计算结果的有效位数。3.3在运算过程中，为减少舍入误差，其它数值的修约可以暂时多保存一位，等运算得到结果时，再根据有效位数弃去多余的数字。13.65+0.00823+1.633=?本例是数值相加减，在三个数值中13.65的绝对误差最大，其最末一位数为百分位小数点后二位，因此将其它各数均暂先保存至千分位，即把0.00

9、823修约成0.008，1.633不变，进行运算：13.65+0.008+1.633=15.291最后对计算结果进行修约，15.291应只保存至百分位，而修约成15.29。14.131×0.07654÷0.78=?本例是数值相乘除，在三个数和值中，0.78的有效位数最少，仅为两位有效位数，因此各数值均应暂保存三位有效位数进行运算，最后结果再修约为两位有效位数。 14.131×0.07654÷0.78 =14.1×0.0765÷0.78 =1.08÷0.78 =1.38 =1.4例3 计算氧氟沙星C18H20FN3O4的分子量

10、。在诸元素的乘积中，原子数的有效位数可视作无限多位，因此可根据各分子量的有效位数对乘积进行定位；而在各乘积的相加中，由于中国药典规定分子量的数值保存到小数点后二位百分位，因此应将各元素的乘积修约到千分位小数点后三位后进行相加；再将计算结果修约到百分位，即得。 12.011×18+1.00794×20+18.9984032+14.006747×3+15.9994×4 =216.20+20.1588+18.9984032+42.020241+63.9976 =216.20+20.159+18.998+42.020+63.998 =361.375 =361.3

11、84本卷须知4.1正确记录检测所得的数值 应根据取样量、量具的精度、检测方法的允许误差和标准中的限度规定，确定数字确实有效位数或数位，检测值必须与测量的准确度相符合，记录全部准确数字和一位欠准数字。4.2正确掌握和平运用规那么 不管是何种方法进行计算，都必须执行进舍规那么和运算规那么，如用计算器进行计算，也应将计算结果经修约后再记录下来。4.3要根据取样的要求，选择相应的量具。“精密称定系指称取重量应准确到所取重量的千分之一。可根据称量选用分析天平或半微量分析天平；“精密量取系指量取体积的准确度选用符合国家标准中对该体积移液管的精密度要求；必要时应加校正值。称定或量取系指称取的重量或量取的容量应准确至所取重量或容量的百