（环境科学与工程专业论文）分析检出限的实验测量和计算方法的研究.pdf

摘要 分析检出限的实验测量和计算方法的研究 摘要 随着实验测试技术的不断进步，痕量分析逐步成为分析测试的重 要工作，针对痕量分析方法以及一些基本应用理论的研究也越发重要。 在痕量分析中，检出限是一个重要的概念。很多分析化学家对检出限 投入了极大的兴趣，他们不仅是出于学术好奇，也是出于它的重要现 实意义：检出限是一种评估分析方法和分析仪器性能的广泛使用的参 数。目前有关检出限的计算方法有很多，它们是基于不同的角度或不 同的侧重点得到的。这些检出限计算方法主要可以被分为两类：一是 基于空白波动性的单浓度校正法；二是基于校准曲线偏差特性的标准 曲线法。 检出限是个统计概念，因此，在检出限区域，测量结果不可避免 的出现假正值或假负值。通过研究分析，本工作将检出限定义为：在 置信水平为9 9 的条件下，当测量结果的假正值概率为10 时分析 物的浓度或量。该理论将测量结果可能出现的正偏差和负偏差全部考 虑了进来。同时，本工作的检出限计算方法还规定了定量限的假正值 概率为5 。该工作首先需要建立一个新的检出限计算方法；接着利 用多种分析仪器进行痕量分析；然后使用已建的计算方法对实验数据 进行处理，得到各自的检出限；最后对得到的检出限进行分析比较， 从中找出一定的规律性。 北京化t 大学硕： ：学位论文 本工作建立了一套完整的检出限计算方法，并采用一次函数的数 据模型对各个分析方法的实验结果进行拟合，从而得到一系列检出限 计算结果。 关键词：检出限定量限置信水平假正值一次函数数据模型 摘要 a n a l y s i so fe x p e r i m e n t a lm e a s u r e m e n ta n d c a l c u l a t i o n m e t h o d so fd e t e c t i o nl i m i t a b s t r a ct w i t ht h ec o n t i n u o u sp r o g r e s so fe x p e r i m e n t a lt e s t i n gt e c h n i q u e s ， t r a c ea n a l y s i sh a sg r a d u a l l yb e c o m ea ni m p o r t a n tw o r kf o ra n a l y s i sa n d t e s t i n g ，a n di ti sa l s oi n c r e a s i n g l yi m p 0 1 c a n tf o rt h es t u d yo f t r a c ea n a l y s i s m e t h o d sa n ds o m eb a s i ct h e o r i e s i nt h et r a c ea n a l y s i s ，d e t e c t i o nl i m i ti s a ni m p o r t a n tc o n c e p t d e t e c t i o nl i m i ti sp o s s e s s e do fag r e a td e a lo f i n t e r e s ta m o n ga n a l y t i c a lc h e m i s t s ，b e c a u s ei tisn o to n l yo fa c a d e m i c c u r i o s i t yb u ta l s oo fp r a c t i c a ls i g n i f i c a n c e ：d e t e c t i o nl i m i ti saw i d e l y u s e dc r i t e r i o nt oe v a l u a t ea n a l y t i c a lm e t h o d sa n dt h eq u a l i t yo fa n a l y t i c a l i n s t r u m e n t s p r e s e n t l y , t h e r ea r em a n ym e a n st oc a l c u l a t ed e t e c t i o nl i m i t ， w h i c ha r eb a s e do nd i f f e r e n tp e r s p e c t i v e so rd i f f e r e n tp r i o r i t i e s ，b u tt h e s e c a l c u l a t i o nm e t h o d sc a nb ed i v i d e di n t ot w oc a t e g o r i e s ：o n ei st h e c o r r e c t i o nm e t h o do fs i n g l ec o n c e n t r a t i o n ，w h i c hb a s e do nb l a n k v o l a t i l i t y ；t h eo t h e ri st h es t a n d a r dc u r v em e t h o d ，w h i c hb a s e do nt h e d e v i a t i o nc h a r a c t e r i s t i c so fc a l i b r a t i o nc u r v e t h ed e t e c t i o nl i m i ti sas t a t i s t i c a lc o n c e p t ，s oi ti si n e v i t a b l e e m e r g e n c e o fc o n d i t i o no ff a l s ep o s i t i v ev a l u ea n df a l s en e g a t i v ev a l u e t h r o u g ht h er e s e a r c ha n a l y s i s ，i nt h i sw o r k ，t h ed e t e c t i o nl i m i ti sd e f i n e d 北京化丁- 大学硕士学位论文 a s ：w i t ha tl e a s t9 9 c o n f i d e n c e ，t h ea n a l y t ec o n c e n t r a t i o no ra m o u n ti s d e t e c t e db ya n a l y t i c a li n s t r u m e n t sw h e nt h ef a l s ep o s i t i v ep r o b a b i l i t yo f m e a s u r e m e n tr e s u l t si s10 t h ea b o v et h e o r yt a k e sb o t hp o s i t i v e d e v i a t i o na n dn e g a t i v ed e v i a t i o no fm e a s u r e m e n tr e s u l t si n t o c o n s i d e r a t i o n a tt h es a m et i m e ，i td e f i n e st h ep r o b a b i l i t yo ff a l s ep o s i t i v e o fq u a n t i f i c a t i o nl i m i ta s5 f i r s t l y , i ti sn e e d e dt oe s t a b l i s ht h e c a l c u l a t i o np r o c e d u r eo fd e t e c t i o nl i m i t ；s e c o n d l y , av a r i e t yo f a n a l y t i c a l i n s t r u m e n t se n t e ri n t ot r a c ea n a l y s i s ，a n di tt a k e st i m et oo b t a i nt h e r e s p e c t i v ed e t e c t i o nl i m i t ；f i n a l l y , d e t e c t i o nl i m i t so b t a i n e da r ea n a l y z e d a n dc o m p a r e d ，t r y i n gt of i n do u ts o m er e g u l a r i t y i nt h i sw o r k ，w ee s t a b l i s hac o m p l e t es e to fc a l c u l a t i o nm e t h o do f d e t e c t i o nl i m i t a n dw i t ht h ed a t am o d e lo fl i n e a rf u n c t i o nt of i t e x p e r i m e n t a lr e s u l t so f v a r i o u sa n a l y s i sm e t h o d s ，s e q u e n t i a l l y , as e r i e so f r i g o r o u sa n dr e l i a b l ed e t e c t i o nl i m i tc o u l db er e c e i v e d k e yw o r d s ：d e t e c t i o nl i m i t ，q u a n t i f i c a t i o nl i m i t ，c o n f i d e n c el e v e l ， f a l s ep o s i t i v e ，l i n e a rf u n c t i o n ，d a t am o d e l l v 目录 目录 第一章绪论1 1 1 检出限的研究意义1 1 2 检出限的定义和分类2 1 3 检出限的计算方法4 1 3 1i u p a c 方法5 1 3 2e p a 方法6 1 3 3h u b a u x v o s 方法8 1 3 4i s o 方法9 1 3 5 信噪比( s n ) 方法1 0 1 4 目前对检出限规定的争论1 1 1 5 检出限实验的实际考虑1 2 1 5 1 分析体系1 2 1 5 2 选择适当的加标水平1 2 1 5 3 平行样的准备1 3 1 5 4 分析空白13 1 5 5 离群值的检验1 3 第二章理论部分15 2 1 实验原理15 2 2 模型的建立1 6 2 3 实验步骤18 第三章原子荧光光谱法的检出限的计算2 1 3 1 原子荧光光谱2l 3 2 实验试剂21 3 3 实验仪器2 2 3 4 仪器工作条件2 2 3 5 标准系列的配制2 3 3 6 加标水平的优化2 4 3 7 实验结果2 5 v 北京化工人学f 顽i j 学位论文 3 7 1 数据结果2 5 3 7 2 回收率随浓度的变化2 6 3 7 3r s d 随浓度的变化2 7 3 8 纯净水中a s 的检出限的计算2 9 3 8 1 纯净水中a s 的检出限模型2 9 3 8 2 检出限结果3 0 3 9 矿泉水中a s 的检出限的计算3 1 3 9 1 矿泉水中a s 的检出限模型3 1 3 9 2 检出限结果3 2 第四章离子色谱法的检出限的计算3 5 4 1 离子色谱3 5 4 2 实验试剂3 5 4 3 实验仪器一3 6 4 4 仪器工作条件3 6 4 5 标准系列的配制一3 6 4 6 加标水平的优化3 7 4 7 实验结果3 8 4 7 1 数据结果3 8 4 7 2 回收率随浓度的变化3 9 4 7 3r s d 随浓度的变化4 0 4 8 纯净水中c l 的检出限的计算4 l 4 8 1c l 。的检出限模型4 1 4 8 2 检出限结果4 2 4 9 纯净水中n 0 3 的检出限的计算4 3 4 9 1n 0 3 - 的检出限模型4 3 4 9 2 检出限结果4 4 第五章高效液相色谱法的检出限的计算4 7 5 1 高效液相色谱一4 7 5 2 实验试剂4 7 5 3 实验仪器一4 8 5 4 仪器工作条件一4 8 5 5 标准系列的配制一4 8 5 6 加标水平的优化一4 9 v i 目录 5 7 实验结果5 0 5 7 1 数据结果5 0 5 7 2r s d 随浓度的变化5 2 5 7 3 回收率随浓度的变化5 l 5 8 纯净水中苯酚的检出限的计算5 3 5 8 1 苯酚的检出限模型5 3 5 8 2 检出限结果5 4 5 9 纯净水中对苯二酚的检出限的计算5 5 5 9 1 对苯二酚的检出限模型5 5 5 9 2 检出限结果5 6 第六章其它仪器的检出限的计算5 9 第七章结论6 l 参考文献6 3 致谢6 7 研究成果及发表的学术论文6 9 导师和作者简介7 1 v i i 原书空白页 不缺内容 目录 co n t e n t s c h a p t e r1i n t r o d u c t i o n i 1 it h er e s e a r c hs i g n i f i c a n c eo f d e t e c t i o nl i m i t 1 1 2t h ed e f i n i t i o na n dc l a s s i f i c a t i o no f d e t e c t i o nl i m i t 2 1 3c a l c u l a t i o nm e t h o do f d e t e c t i o nl i m i t 4 1 3 1i u p a cm e t h o d 5 1 3 2e p am e t h o d 6 1 3 3h u b a u x v o sm e t h o d 一8 1 3 4i s om e t h o d 9 1 3 5s nm e t h o d 1 0 1 4t h ed e b a t ea b o u td e t e c t i o nl i m i t 11 1 5t h ep r a c t i c a lc o n s i d e r a t i o n so f d e t e c t i o nl i m i t 1 2 1 5 1a n a l y s i ss y s t e m 1 2 1 5 2t h ec h o i c eo f a p p r o p r i a t es p i k e dl e v e l 1 2 1 5 3t h ep r e p a r a t i o no f p a r a l l e ls a m p l e s 1 3 1 5 4b l a n ks a m p l e 13 1 。5 5t h et e s to f o u t l i e r 13 c h a p t e r2t h e o r y 15 2 1e x p e r i m e n tp r i n c i p l e 15 2 2e s t a b l i s h m e n to f t h em o d e l 1 6 2 3e x p e r i m e n t a lp r o c e d u r e 1 8 c h a p t e r3c a l c u l a t i o no fd e t e c t i o nl i m i tw i t ha t o m i cf l u o r e s c e n c e s p e c t r o m e t r y 2l 3 1a t o m i cf l u o r e s c e n c es p e c t r o m e t r y 2 1 3 2e x p e r i m e n tr e a g e n t ，2 1 3 3e x p e r i m e n ti n s t r u m e n t ：! ：1 3 4w o r k i n gc o n d i t i o n so f i n s t r u m e n t 2 2 3 5t h ec o n f i g u r a t i o no fs t a n d a r ds e r i e s 2 3 3 6t h eo p t i m i z a t i o no f s p i k e dl e v e l 2 4 i x 北京化工人学硕二j j 学位论文 ：；7e x p e r i m e n t a lr e s u l t 2 5 3 7 1e x p e r i m e n t a ld a t a 2 5 3 7 2r e c o v e r yw i t ht h ec h a n g eo f t h ec o n c e n t r a t i o n 2 6 3 7 3r s dw i t ht h ec h a n g eo f t h ec o n c e n t r a t i o n 2 7 3 8c a l c u l a t i o no f d e t e c t i o nl i m i to f a si np u r ew a t e r 2 9 3 8 1m o d e lo f d e t e c t i o n1 i m i to f a si np u r ew a t e r 2 9 3 8 2d t e c t i o n1 i m i tr e s u l t s 3 0 3 9c a l c u l a t i o no f d e t e c t i o nl i m i to f a si nm i n e r a lw a t e r 31 3 9 1m o d e lo f d e t e c t i o nl i m i to f a si nm i n e r a lw a t e r 3 1 3 9 2d e t e c t i o nl i m i tr e s u l t s 。3 2 c h a p t e r4c a l c u l a t i o no fd e t e c t i o nl i m i tw i t hi o nc h r o m a t o g r a p h y 一3 5 ， 4 1i o nc h r o m a t o g r a p h y 3 5 4 2e x p e r i m e n tr e a g e n t 3 5 4 3e x p e r m e n ti n s t r u m e n t 3 6 4 4w o r k i n gc o n d i t i o n so f i n s t r u m e n t 3 6 4 5t h ec o n f i g u r a t i o no f s t a n d a r ds e r i e s 3 6 4 6t h eo p t i m i z a t i o no f s p i k e dl e v e l 3 7 4 7e x p e r i m e n t a lr e s u l t 3 8 4 7 1e x p e r i m e n t a ld a t a 3 8 4 7 2r e c o v e r yw i t ht h ec h a n g eo f t h ec o n c e n t r a t i o n 3 9 4 7 3r s dw i t ht h ec h a n g eo f t h ec o n c e n t r a t i o n 4 0 4 8c a l c u l a t i o no fd e t e c t i o nl i m i to fc 1 i np u r ew a t e r 4 1 4 8 1m o d e lo f d e t e c t i o nl i m i to f c l 一i np u r ew a t e r 一4 1 4 8 2d e t e c t i o nl i m i tr e s u l t s 4 2 4 9c a l c u l a t i o no f d e t e c t i o nl i m i to f n 0 3 一i np u r ew a t e r 4 3 4 9 1m o d e lo f d e t e c t i o ol i m i to f n 0 3 一i np u r ew a t e r 4 3 4 9 2d e t e c t i o nl i m i tr e s u l t s 4 4 c h a p t e r5 c a l c u l a t i o no fd e t e c t i o nl i m i tw i t hh i g hp e r f o r m a n c e l i q u i dc h r o m a t o g r a p h y 4 7 5 1h i g hp e r f o r m a n c el i q u i dc h r o m a t o g r a p h y 4 7 5 2e x p e r i m e n tr e a g e n t 4 7 5 3e x p e r m e n ti n s t r u m e n t 4 8 5 4w o r k i n gc o n d i t i o n so f i n s t r u m e n t 4 8 x 。 日录 5 5t h ec o n f i g u r a t i o no fs t a n d a r ds e r i e s 4 8 5 6t h eo p t i m i z a t i o no f s p i k e dl e v e l 4 9 5 7e x p e r i m e n t a lr e s u l t 5 0 5 7 1e x p e r i m e n t a ld a t a 一5 0 5 7 2r e c o v e r yw i t ht h ec h a n g eo f t h ec o n c e n t r a t i o n 5 1 5 7 3r s dw i t ht h ec h a n g eo f t h ec o n c e n t r a t i o n 5 2 5 8c a l c u l a t i o no f d e t e c t i o nl i m i to f p h e n o li np u r ew a t e r 5 3 5 8 1m o d e lo f d e t e c t i o nl i m i to f p h e n o li np u r ew a t e r 5 3 5 8 2d e t e c t i o nl i m i tr e s u l t s 5 4 5 9c a l c u l a t i o no f d e t e c t i o nl i m i to f h y d r o q u i n o n ei np u r ew a t e r 5 5 5 9 1m o d e lo f d e t e c t i o nl i m i to f h y d r o q u i n o n ei np u r ew a t e r 5 5 5 9 2d e t e c t i o n1 i m i tr e s u l t s j 5 6 c h a p t e r6c a l c u l a t i o no fd e t e c t i o nl i m i tw i t ho t h e ri n s t r u m e n t s 5 9 c h a p t e r7c o n c l u s i o n s ：6 1 r e f e r e n c e s 6 3 a c k n o w l e d g e m e n t s 6 7 p u b l i c a t i o n s 6 9 i n t r o d u c t i o no f t h es u p e r v i s o ra n da u t h o r 7 1 原书空白页 不缺内容 符0 说明 符号说明 x ，：样品的响应信号 瓦：多次测得的空白响应信号的平均值 s 。：多次测得的空白响应信号的标准偏差 k ：根据一定置信水平确定的系数 a ：校准曲线的斜率，方法灵敏度 v ：自由度 口：显著水平 t 。：自由度v ，置信水平口条件下的s t u d e n t s t 值 & ：剩余标准偏差 ：浓度点数 n ：重复测定次数 冶。：置信区间 ：潜在离群值 x ，：接近离群值的数值 x 数据集中的最大值 ：数据集中的最小值 d l ：检出限 s ：假正值测量结果出现区域的积分面积 是：检出限范围内所有测量结果出现区域的积分面积 s d ：标准偏差 r s d ：相对标准偏差， 曼：样品测量信号的平均值 第一章绪论 1 1 检出限的研究意义 第一章绪论 氯霉素在早期是被广泛用于动物各种传染性疾病治疗的广谱抗生素。后来研 究发现它在动物体内的残留会给人类健康带来巨大的威胁，引起了一些国家组织 和团体的高度重视，对氯霉素限量的要求越来越严格。图1 1 中列出了美国和欧 盟对氯霉素的限量要求的变化趋势。美国对氯霉素的限量的规定由1 0 l ag k g 逐 渐降至0 11 1g & g ，降低了三个数量级；欧盟对氯霉素限量的规定是由5 1 1 e c l , g 降至o 3l ag k g ，降低了两个数量级，现在欧盟在研究能将限量降至0 1u 班g 的 方法。要降低氯霉素的限量需要提高分析方法的灵敏性，而检出限是考察分析方 法灵敏性的一个重要参数。可见，检出限具有很重要的现实意义，它不仅关系到 人类的健康，而且也会引起国际间的技术壁垒。 美国 欧盟 图1 1 美国和欧盟对氯霉素限量的规定 f i g i - id e t e c t i o nl i m i to fc h l o r a m p h e n i c o lr e q u i r e db yt h eu n i t e ds t a t e sa n dt h ee u r o p e a nu n i o n 随着分析方法的发展，精密仪器的研发以及对测量结果准确度的要求，痕量 分析成为现在分析化学中的重要研究内容，同时痕量分析方法学的发展带来了一 系列与低浓度分析物的分析方法有关可行性问题，而检出限是痕量分析中一个很 重要的参数。早期有关分析检出限的论文多是由h k a i s e r 和l l o y da c u r r i e 发表的，为检出限的研究做出了很大的贡献，许多化学家建立的检出限计算理论 0 8 6 4 2 0 一犍)i、j一枷啊 吆嘛 北京化工大学硕二i ：学位论文 就是从他们的检出限理论发展而来的。“检出限”这个名字也是逐渐发展得来的。 1 9 8 8 年发表的化学检出限历史回顾中给出了一部分术语汇编，里面提到了检出 限名字的由来与发展，例如它最早是被称为“识别限”，然后到“可检测浓度限” 再到“保证纯度限”，发展到现在的“检出限”得到了广泛的认可【2 1 。 近几十年来，检出限在分析检测中的地位越来越重要，它评价了一个分析方 法在低浓度范围内的检测水平的高低p 4 j 。在低浓度水平，准确地检测样品中分 析物的能力在评估一个地方潜在污染物方面具有极其重要的作用 5 】。例如，当监 测危险废物设施时，对地下水中某一个挥发性有机物的检测作为依据，证明该设 施对下游环境质量有直接的影响。一直以来检出限被学者引述来描述痕量分析方 法的性能特征。因此，检出限对于痕量物质的研究是很有价值的，它在分析实验 室是值得保留的。应该指出的是，某一特定的检出限不仅与分析方法有关，还与 实验室用水，实验室环境等条件有关，因而，检出限会随着实验室的的改变而改 变，即使同实验室在不同的分析时间得到的检出限也会有变化【6 岱j 。 1 2 检出限的定义和分类 尽管检出限的概念明显简单，但是它的使用一直存在着一定程度的混乱i 圳。 这科- 混乱来源于对包含一定分析物的样品的响应与空白的响应区别的“合理的置 信水平”的不同解释。一个困难在于不同类别的分析科学家对检出限概念的不同 定义，例如，那些分析仪器丌发人员和与分析仪器使用有关的人员对检出限的定 义的侧重点是不同的。这种混乱包括检出限的计算以及检出限概念本身。目 前许多国际组织或机构，如国际纯粹与应用化学联合会( i n t e r n a t i o n a lu n i o no f p u r ea n da p p l i e dc h e m i s t r y , i u p a c ) 、美国化学学会( a m e r i c a nc h e m i c a ls o c i e t y , a c s ) 、国际标准化组织( i n t e r n a t i o n a lo r g a n i z a t i o nf o rs t a n d a r d i z a t i o n ，i s o ) 、美 国环境保护署( e n v i r o n m e n t a lp r o t e c t i o n a g e n c y , e p a ) 等，根据各自领域的实际 情况，对检出限的定义的规定并不是完全相同j 。但总的来说，检出限的定义可 以被认定为：某样晶- i 目标分析物能被准确检出的最小量二b j 。另一个困难在于 对检出限和检测下附认识的混乱。国内很多人认为检出限和检测下限是相同的概 念，在国外的一些文献中将检出限和检测下限都命名为“d e t e c t i o nl i m i t ” 1 6 j 。事 实上，检出限和检测下限是两个不同的概念，但是它们也有一定的联系，而和检 测下限的含义相同的是定量限，只是说法不同。检测下限( 或定量限) 是指某分 析方法能够准确的定量检测分析物的最小浓度或量7 , 1 8 o 图1 2 中明确显示了检测下限和检出限的关系。在分析检测中，常常会用到 工作曲线。要想获得一个好的、可靠的工作曲线，必须找到一个合适的线性范围。 2 第一章绪论 对于一定的仪器、样品和分析物，并不是在所有的浓度或量的范围内与响应信号 都是成线性的。例如，利用原子荧光光谱仪测定纯净水中a s ，在一定的范围内， 原子荧光强度和a s 的浓度是线性关系，但是在较低浓度和较高浓度，荧光强度 和浓度就不再是线性关系，见图1 。2 。图中成线性关系的区域是b c 段，而在b 以下和c 以上区域，是没有线性关系的。b c 段就是线性范围，c 点就被称为检 测上限，是线性的最大值；b 点是检测下限，是线性的最小值【l 圳。从以上分析研 究中可知，所以检出限是低于检测下限，它们不是相同的概念。 a 坦 毯 挂 图1 2 检山限和检测限的关系 f i g 1 - 2t h er e l a t i o n s h i pb e t w e e nd e t e c t i o nl i m i ta n dl o w e rl i m i to fd e t e c t i o n 尽管对于检出限的定义至今仍有歧义，但是对于检出限的分类，均较为一致 地将其划分为两类：一、仪器检出限；二、方法检出限。仪器检测到样品中的分 析物的最低量是仪器检出限。该仪器检出限实际上是仪器能检测到的区别于背景 噪音的最小信号。计算仪器检出限其实是为了考察仪器的灵敏度，对仪器性能进 行比较，得到的结果只能进行统计分析。例如原子荧光光谱仪和电感耦合等离子 体质谱仪( i n d u c t i v e l yc o u p l e dp l a s m am a s ss p e c t r o m e t r y , i c p m s ) 均能对样品中 的重金属进行检测，而i c p m s 得到的仪器检出限就会低很多。对痕量分析而言， 以该仪器进行分析检测的结果会更准确可靠。仪器检出限反映了仪器的背景噪音。 低的仪器检出限说明了背景干扰小，以及仪器稳定性能好。某样品经过特定的分 析方法之后，被测分析物能够在一定的置信水平下报出并区别于空白的最小量就 是方法检出限【2 0 1 。方法检出限是针对某一特定的分析方法，具有很强的针对性。 它不仅包含了仪器的背景噪声的干扰，还将经过处理后样品基体的干扰考虑在内， 北京化工大学硕二l ：学位论文 因此方法检出限总是要比仪器检出限高。而且仪器检出限不能像方法检出限那样 报出数据，而主要是用于比较不同仪器的性能。图1 2 中在检出限范围(