实验数据处理和分析-沈向红

实验数据处理和分析浙江省疾病预防控制中心沈向红2006.3一.误差及表示方法误差：在分析过程中，由于不可避免地存在一些影响因素，使测定值与真值之间存在一定的差值，这个差值就是误差误差的分类：随机误差系统误差过失误差1.随机误差来源于分析过程中一系列微小的随机波动，主要有仪器示值的波动，读数误差；实验室环境中气温、气流、光线、和湿度的变化，检验者的取样和视觉误差等。特点：1)对称性（绝对值相等的正误差于负误差相等）

2)单峰性（绝对值小的误差比绝对值大的误差次数要多）

3)有界性（一定测量条件误差绝对值不超过一定范围）

4)抵偿性（测量次数增加，算术平均值趋向0）减小该误差方法可对同一样品进行重复测定取平均值的方法2.系统误差系统误差由某些确定因素引起：方法的不完善，试剂不纯，仪器不准，操作不熟练等。系统误差的种类：方法误差仪器试剂误差操作误差减小此种误差的方法：1.找原因，并在分析过程中加以改正。2.对原因明确的的定值系统误差测定其大小，在处理结果时加以校正3.过失误差过失误差是由测量、过程出现的错误造成的：如器皿不洁净，加错试剂，溅失样品或试剂，读数错误，数据记录及计算错误等。加强责任心，认真仔细作好记录，认真进行复核。二准确度和精密度（1）准确度的定义分析结果(单次测定值或均值:x)与假定的或公认的真值(A)之间符合程度的度量。准确度是反映测定方法系统误差和随机误差的综合指标，它决定测定方法的可靠性。准确度表示方法：用绝对误差和相对误差、回收率表示绝对误差=测定值－真值绝对误差相对误差＝×100%真值X1:测定值X1-X0X0:本底值回收率（％）=×100m:标准加入值

m当测量值大小相近时，绝对误差来比较反映测量准确度；但一般分析结果的准确度多用相对误差表示。如：标准值10.2mg/kg实测值为10.0mg/kg，其绝对误差0.2mg/kg；相对误差2%标准值100.2mg/kg实测值为100.0mg/kg，其绝对误差0.2mg/kg；相对误差0.2%。

评价准确度常用的方法1)用标准物质评价：根据待测样品选择基体相同或相近、化学组成与物理形态、浓度水平、准确度水平合适的标准物质与样品在相同条件下进行测定，如果标准物质的测定结果与证书上的标准值一致，表明分析方法与测定过程的准确度令人满意，样品分析结果准确可靠。方法可行。（灌木叶粉）2)加标回收率评价：向样品中加入一定量待测物质，用选定的分析方法进行测定，计算加标回收率。加标回收率有三种：A.绝对回收率：提取物中加标样后的测定值与标样未经任何处理的测定值的百分比。（用于考察基质的影响）。B.相对回收率：标样加入到样品中处理后的测定值与空白样品提取物中加入标样后测定值的百分比。C.提取回收率：标样加入样品中提取后的测定值与标样未经任何处理的测定值的百分比。2)加标回收率评价：通常我们用提取回收率考察方法回收率，也有人建议用相对回收率，同时用绝对回收率考察基底的影响。加标回收率的要求一般为85~120％。含量在mg/kg时，收率在90~110%；含量在ug/kg回收率在80%~120；繁琐的方法其回收率最低不能小于50%。注意事项：a）加标量应于样品中的含量接近。b）当含量低于检出限时，按检出限加标。c）加标量不得比试样中被测物的含量大3倍。d）用高、中、低三个浓度。加标后的在测定值不能超过方法的线性范围的上限。

e）加入标准物的形态应尽量与样品一致。若不一致，会影响加标回收率的准确性；特别提醒：样品中某些共存物对待测物质测定的干扰，有时在加标回收率试验中不能发现。

3)与标准方法对照评价：用待评价的方法与标准方法同时测定相同的样品，（最好是用高、中、低三种不同的浓度样品）进行对照，测定结果经显著性检验，若两种方法测定结果差异无显著性，则该方法的准确度是满意的。（2)精密度定义：在一定测量条件下，对同一被测量对象进行连续多次测量所得结果的一致性或分散程度，反映分析方法的随机误差的大小。主要有

a）重复性:相同测量条件在短期内重复测定。相同测量条件是指相同的测量程序、观察人、使用条件、仪器、地点，b)重现性：在改变了测量条件下，对同一被测量对象的测量结果的一致性。改变的条件：原理、方法、观察人、仪器、参考测量标准、地点、使用条件等。精密度的表示方法有

a偏差和相对偏差

b平均偏差和相对平均偏差

c标准偏差和相对标准偏差等。方法：通常在测定方法的线性范围内，选取低、中、高三个不同浓度的待测样品（或加标样品），每类浓度取六个平行样，在相同条件下连续重复测定六天，分别计算各种浓度的日内和日间测定的相对标准偏差。一般要求测定方法的相对标准偏差≤10%（ng级为50%）实验室编码5758606265mgkg18.9519.2020.0020.8721.05平均值：19.9357号绝对偏差：18.95-19.93=-0.98mg/kg相对偏差：-0.98÷19.93×100=-4.92%mg/kg平均偏差：0.688mg/kg相对平均偏差：0.688÷19.93×100=3.45%标准偏差：S=0.87mg/kg相对标准偏差：RSD=0.87÷19.93×100=4.37%准确度与精密度的关系准确度是反映分析方法或测量系统总系统误差和随机误差大小的综合指标，精密度则反映随机误差大小的指标。关系：精密度不好，准确度不高，精密度是保证准确度的先决条件。精密度好，准确度不一定高。因有系统误差消除系统误差后，高精密度才能得到高准确度。分析数据的处理1.有效数字(1).有效数字：指在测量中能测到的实际意义的数字由可靠数与估计数组成。（天平）0.1mg“0”有双重意义：1）定位时不是有效数字0.45;0.0045

2）表示测量准确度时为有效数2.0022；2.023;56.9002.有效数的修约规则实验数据进行计算前应根据有效数字的运算规则，正确保留有效数字的位数，按照“四舍六入五单双”进行修约。“五单双”：拟舍去部分大于五时进一，等于五时则保留末位成偶数。3.241596.3785013.216505.26353.2426.3793.2165.2643.有效数字的运算规则1.加减运算几个数相加减时，结果保留的位数应与数据中小数点后位数最少者相同。先将各数据修约至比数据中小数点后位数最少者多保留一位小数。结果按几个数相加减时，结果保留的位数应与数据中小数点后位数最少者相同。乘除运算：几个数相乘除时，所有的积和商的有效数字位数与数据中有效数字位数最少者相同。计算时先将各数据修约至比数据中有效数字位数最少者多保留一位有效数字计算结果按以上处理。乘除运算中第一位是“8”，“9”的数据有效数字可多计一位，如0.956可看成四位有效数字3.乘方与开方原数据有几位有效数字，计算结果就保留几位有效数字。

2.532=6.4009=6.40

4.对数对数计算时，对数尾数有效数字应与真数有效数字相同。如透光率T=63.8%，吸光度A=-

lg(1/T)=lg(1/0.638)=0.1954.可疑数据的取舍对同一样品进行多次重复测定时，有时会发现某个测量值比其他值大或小，也就是说有离群值或可疑数据。发现离群值或可疑数据不能随意舍取，因找原因，如已查明是由实验技术失误，实验条件改变，系统误差引起，则将该异常数据舍去。若无法判定由上述原因引起，则需进行统计检验。方法常用的有：Q检验法Q检验法适用于3-10个数据的检验检验步骤：1）将n个测定值按从小到大的顺序排列

x1,x2,x3…..xn2）计算极值xn－x13）计算可疑值与其相邻数值之差x可疑－x临近4）计算Q计值｜x可疑－x临近｜/（xn－x1）5）根据测定次数n和置信水平查Q值表（90%）6）Q计与Q表比较，若Q计＞Q表该可疑值舍去。Q值表测定次数345678910Q0.900.940.760.640.560.510.470.440.41Q0.951.531.050.860.760.690.640.600.58Grubbs检验法Grubbs检验法适用于检验一组或多组测量值的一致性和舍取其中的可疑数据。方法：1）计算n个测定值的平均值x和标准差S。2）当可疑值x1＜平均值x时，

T计=（平均值x-可疑值x1）/标准差S3）当可疑值x1＞平均值x时，

T计=（可疑值x1-平均值x）/标准差S4）根据置信水平和测定值的个数n查表得T表5）当T计＞T表可疑值舍去，否则应保留。Grubbs检验临界值T表表

显著性水平α显著性水平αn0.050..01n0.050.0131.1531.155102.1762.41041.4631.492112.2342.48551.6721.749122.2852.55061.8221.944132.3312.60771.9382.097142.3712.65982.0322.221152.4092.70592.1102.323162.4432.747分析数据得显著性检验分析工作中通常对其数据进行比较，分析和判断分析结果。如一组测定平均值与标准值得比较；不同分析方法测定同中样品时二组测定平均值得比较；不同实验室或不同检测人员对同一样品测定结果的比较等。看数据间是否存在差异，这需要用统计的方法加以检验。常用的方法有F检验和t检验法F检验F检验法适用于两组测定数据的精密度差异是否有显著性的检验。先计算各自的方差(S2)1(S2)2计算F计=(S2)1/(S2)2根据n