检出限几种计算方法标准解读

方法检出限几种计算方法标准解读国家环境分析测试中心李玉武2014年8月26日[e-mail]010-84665752北京朝阳区育慧南路1号100029检出限常见几种评估方法示意图单点浓度法I=1,J7同方差同方差异方差多点浓度工作曲线法（I≥5,J≥3）美国EPA标准工作曲线法ISO标准ASTM标准常数模型ASTM及ISO标准线性、指数模型等单点浓度法：美国EPA-1997；IUPAC-1998;HJ168-2010;工作曲线法：ISO11843.2-2000;GB17378.2-2007；数学模型法：ASTMD6091-2007；GB/T27415-2013；经典方法：HJ168-2010HJ168-2010回收率要求；s/N（信噪比）要求；比值要求；2倍浓度验证GB17378.2-2007通常检出限值偏低。即使样品浓度大于检出限，也未必能检出。保证限=2×检出限（保证在大于该浓度时，方法能检测出）（参见《X-射线荧光分析原理与应用》理学电机工业株式会社应用研究中心、中国理学XRF光谱仪用户协会合编）；陆晓华，化学计量学；华工理工大学出版社，1997）《全球环境监测系统水监测操作指南》附录A〈资料性附录〉海水分析空白上阳、撞出熙、副定下限的估A.1桂准曲线估算法水质分析的呼号臼上限X1:、检L限.，X测在下限X8(见图A.l)应1+Jf向方法估11:r，ru4一民山下。今--;J，吨\'、.XIl{ZXE曲民的性:1:b-5y-l-.'位:llli曲fEtHJ41年;余怀耻};..;;dli利'1'(自由野盯.Hubaux-Vos方法（工作曲线法）分析方法基本性能参数：测量数据的三个区域,(x0)(xx)2(0x)111(0x),(bbN(xx)2i1中文原文有错误2YcaVBYatSYNniYYc)1nii12YcaSY检出限：xNxcVBxt(xix)i111(xix)bnkVBSYnx22工作曲线中某一点测量值不确定度：n为工作曲线点个数（IJ，I为浓度个数，J为相同浓度溶液重复配制个数，k为未知样配制个数英文原文有错误,(xx)(xx)2(xcx)11YNa2VBYa2tSYni12ciN,(YY)(xx)2(YNY)11nii1b22NatSYbbNYNxBxNVBx定量下限：小结：用于计算检出限的工作曲线要求是在低浓度范围，一般不会超过检出限的10倍。这明显不同于未知样品的校准计算的工作曲线范围。重要应用条件：工作曲线范围内，不同浓度的测量值标准偏差是常数。应用实例：工作曲线法结果：LD=0.84LC=0.50信噪比工作曲线法迭代计算公式)(xx)2(LDx)11N(xx)2(0x)11Ni12(n2,1)i12(n2,1)t检出限：LSY（tniniDbICP-OES测定As数据：参数设置对结果影响：1、工作曲线点个数2、两种风险率n(xix)i11(0x)sy0bns2201n(xix)i11(Lx)1nsDDyDbs220(1,n2)L0stCDDC(1,n2)sLLtC(1,n2)0sLtLCLDt(1,n2)sDD(1,n2)0(1,n2)DsLtst公式推导：BSISO11843-2:2000BRITISHSTANDARDCapabilityofdetection一Part2:MethodologyinthelinearcalibrationcaseXd=δ生J工+工+主2ATMAGJVL-J户IVZ一1《41-Jl-rAσx-一切一+一-J一-I一+÷1-K-Eh-o-AbVXbK.1.JSxxForα=βandv3，xdisapproximatedbySxx=iL.，(Xi-王)2Xdz2tO_95咛;+古+三==2xcv(川)=Y(Fohv(d)4卡+二)叫二古+二)σ2非中心t分布的非中心参数ISO11843.2附录应用实例1（同方差）0.00250.00200.00150.00100.00050.00000.00.51.01.52.02.53.03.5浓度（ng/g)sdISO11843-2附录应用实例2（异方差）250020001500100050000500010000浓度（pg/100uL)1500020000sd工作曲线法异方差计算公式工作曲线法（同方差）ICP-OES-AS数据（美国ASTMD6091-2007，s(c)数学模型法）●实验室间检出限LD：能以较高概率检出的最小浓度，即在90%置信水平下，浓度是LD的样品被检出的实验室的比例为95%，浓度是0的样品不被检出的实验室的比例是99%。●实验室间定量限LQ：rsd等于Z%时（Z=10，20，30)对应的最小浓度。●实验室间临界限LC：在90%置信水平下，浓度为0的样品正确不被检出的实验室的比例是99%。GB/T27415-2013分析方法检出限和定量限的评估方法检出限、定量限浓度VS响应值浓度VS标准偏差临界限、检出限示意图方法检出限、定量限定量限示意图LC和LD示意图检出限LD和定量限LQ实验设计方案分析物选择•选择痕量或接近痕量浓度的分析物。•最大T应超出LD或LQ的预期值2倍以上。•模型R应涵盖0到最大T范围内的样品，以便估计模型的统计显著性。浓度设计•检出限：T至少选择5个，以下方案可任选之一：1、0，LD/4，LD/2，LD，2×LD，4×LD。2、0，LD/2，LD，(3/2)×LD，2×LD，(5/2)×LD。3、其它方案，空白，至少一个近似2×LD，至少一个低于LD的非0浓度。•定量限：T至少选择7个，以下方案可任选之一：1、0，LQ/4，LQ/2，LQ，2×LQ，4×LQ，8×LQ。2、0，LQ/2，LQ，(3/2)×LQ，2×LQ，(5/2)×LQ，3×LQ。3、其它方案，空白，至少一个近似2×LQ，至少一个低于LQ的非0浓度。IDE和IQE评估数据处理步骤作T关于sd的散点图，并使用OLS，对sd关于T进行回归，如果是线性模型，其关系式如下：sd=g+h×T(求出回归系数g和h）（其他还有指数模型等）回收模型R的拟合：加权最小二乘法（更多关注低浓度）Y=a+b×T（求出回归系数a和b）；w=1/s计算使用直线模型，将每次迭代所估计的LD代入到递归式中，给出新的LD，直至迭代求得连续LD之差小于1%。按下式来进行迭代：2LD(i+1)=[k1×s(0)+k2×(g+h×LD(i)]/b初始值：LD(i=1)=2×LC;LC=k1×s(0)/b(IDE=LD)公式推导：x0；sx（0）sy（0）/bk1xxk2LDLcLDLc；Lck1sy（0；LcL）s（xLD）sy（LD）/bbbs（LD）Dk2ybsy(LD)k2bsy(0)LDk1数据处理步骤：加权最小二乘法k1和k2的确定（n=实验室个数×浓度水平个数）nk1k2(k1+k2)/k154.673.401.73103.532.571.73153.212.331.73203.052.211.72252.952.131.72302.882.081.72352.832.041.72402.792.011.72首先求LQ(10%)，若LQ(10%)不存在,可计算LQ(20%)，若LQ(20%)不存在,可计算LQ(30%)。Z的计算公式：Z=100×h/b在不同模型下获得LQZ%，其中的Z按升序近似取值10、20或30。常数模型的LQ计算公式：LQ=100/Z×s/b直线模型的LQ计算见下式：(g+h×T)/b=Z/100LQZ%=g/(b×Z/100-h)LQ的调整值，LQ’=LQ×a调整定量限IQ的计算ASTM方法标准特点及标准附录数据处理结果测量值的标准偏差有时不是一个常数，与浓度水平有关。采用WLS拟合，更多关注低浓度点；重点强调要同时控制α和β两个错误概率是新方法的亮点。采用基于实验点n的90%置信下单侧容忍区间。经典方法结果：ASTM方法结果：标准附录数据1#2#3#4#5#6#7#8#9#10#0.001.413.942.223.481.960.922.172.364.503.260.254.103.514.074.344.542.762.034.136.066.470.503.977.346.416.256.387.644.676.744.386.481.007.547.688.387.143.1210.9711.1510.449.737.272.008.2013.9712.8818.3116.4716.0612.5614.2113.9617.37标准附录2套数据y=0.957x+1.089R=0.90523.53.02.52.01.51.00.50.00.00.51.01.52.02.5Csd-3.00.03.06.09.012.015.00.05.010.015.0标准值测定值y=0.1885e0.1871xR=0.981720.00.51.01.52.00.05.010.015.0标准值标准偏差051015200.00.51.01.5标称值2.02.5测定值单点浓度法与数学模型法结果比较（标准附录异方差数据）残差平方和LCLDLQ(10%)LQ(20%)LQ(30%)线性模型0.2250.190.451.120.43指数模型0.0230.541.041.300.79ISO11843.20.440.88钒的测定-ETAAS，同方差数据g/L01.02.04.06.010.0Ave(A)0.00100.00270.00410.00730.01020.0169SD0.0004110.0001350.0003780.0002540.0003630.0003413*SD0.00120.000400.00110.000760.00110.0010DL0.780.260.720.490.690.654*DL3.141.032.891.942.772.60rsd0.39970.05010.09120.03480.03550.0201比值3.852.788.168.7015.40.000450.000400.000350.000300.000250.000200.000150.000100.000050.000000246浓度（g/L)81012测量值sd钒的测定-ETAAS，同方差数据小结：经典法计算的检出限为空白溶液上限，检出限结果偏低。如果涉及扣除背景，应再乘以22；基于工作曲线数据的H-V法(ISO标准）应是低浓度，注意有同方差与异方差两种类型。处理公式不同；ASTM标准（数学模型法）有扎实的数理统计基础，但工作量大，浓度与标准偏差函数关系质量高是重要前提；检出限附近，大多是常数；是常数关系时，k1+k2=1.72,可用作简便处理；检出限的比较建议用同一种计算方法；实际工作中采用的中、高浓度工作曲线不宜用于检出限评估。