第二章-分析数据处理

第二章分析数据处理•§2.1分析数据的位数•§2.2可疑数据的取舍•§2.3显著性检验•§2.4标准曲线的相关性检验§2.1分析数据的位数一、有效数字有效数字构成：由全部准确数字和一位不确定数字构成。有效数字的位数反映了测量的准确度。记录实验数据和计算测定结果应根据分析方法和分析仪器的准确度来确定有效数字的位数，其位数不能任意增减。（1）它是否是有效数字，取决于它处在近似数中的位置；（2）小数点以后的零反映了近似数的误差，不能随意取舍；（3）在第一个有效数字之前的零与误差无关，起定位作用，与测量的准确度无关，不是有效数字。●数字“0”对有效数字的影响。（见教材P18）二、有效数字的位数例如：23.51为几位有效数字？四位，两位小数0.235为几位有效数字？三位，三位小数1.0008426780.100025.52%0.02041.98×10-5120.00200.082×1055600100五位有效数字四位三位两位一位位数不确定5.6×103,5.60×103pH=2.48两位四要舍，六要上，五字看单双；单数在前进一位，双数在前五舍先；五后有数五进一，连续进位不应当。1、基本修约规则1.3274651.327461.32751.328×如：修约为四位有效数字1.3274651.327正确修约为：三、数字的修约修约间隔是确定修约保留位数的一种方式，修约间隔的量一经确定，修约值即为该量值的整数倍。修约间隔的量值指定为10m（m可为负整数、零、正数）的形式。（１）当m为负整数时，表明将数值修约到m位小数。如m＝－1，相当于将数值修约到一位小数；十分位如m＝－2，相当于将数值修约到二位小数；百分位（２）当m＝0，相当于将数值修约到个位；（３）当m为正整数时，表明将数值修约到10m数位。如m＝2，相当于将数值修约到“百”位2、修约间隔102m102m3、舍入误差设a为待修约的数，b为修约后的近似数，则修约引起的舍入误差：׀δ׀＝b－a׀δ׀≤由修约规则可见，舍入误差的绝对值不超过近似数末位的半个单位，即10m为修约间隔102m׀δ׀＝׀3.13－3.1346׀＝＜0.0046102m例2：a＝3.1450，m＝－2，则b＝3.14例1：a＝3.1346，m＝－2，则修约到二位小数，修约为b＝3.13，舍入误差的绝对值为：׀δ׀＝׀b－a׀=׀3.14－3.1450׀＝0.005＝例3：将数8750按100间隔修约，要求m＝2，并求舍入误差。（相当于修约到百位）则8750≈舍入误差＝8800－8750＝50＝10m/28800（5前为单数，应进）四、记数规则1、记录测量数据时，只保留一位可疑数字；2、表示精密度（标准偏差和不确定度）时，通常只取一位到两位有效数字。3、在数值计算中，当有效数字位数确定后，其余数字应按修约规则进或舍。4、在数值计算中，某些倍数、分数、某些物理量的有效数字的位数可视为无限。如π、测定次数n、自由度ƒ。5、测定结果的有效数字位数不能低于方法检出限的有效数字位数。6、测定结果的有效数字位数应与分析方法的精密度或不确定度相适应。7、测定结果的有效数字位数与待测组分在试样中的相对含量有关。高含量组分测定（10%）保留四位有效数字；中含量组分测定（1%~10%）保留三位；微量组分测定（1%）保留两位。五、有效数字的运算规则（教材P18~19）1、加减运算：计算结果小数位应与其中小数点后位数最少的数相同。(即绝对误差最大的数的位数)例1：求1648.0+13.65+0.0082+1.632＋86.82＋5.135+316.34+0.545＝？上述数中小数位最少的为一位，因此它们的和必须保留一位小数。1648.0+13.65+0.0082+1.632＋86.82＋5.135+316.34+0.545＝2072.13≈2072.12、乘除运算：计算结果有效数字位数应与各乘、除数中有效数字位数最少的数相同。(即相对误差最大的数的位数)例1：1.364×0.0026＝0.0035464≈0.0035注意：当舍去的多余位数为整数位时，被保留的有效数字必须保持它原来的数位不变。例2：18673.8×0.48＝≈90×1028963.4243、乘方和开方运算：计算结果有效数字位数应与其底数的有效数字位数相同。例1：（1.52）2＝2.31043.1643≈2.31≈1.7788例2：＝1.778847941•••4、对数运算：计算结果有效数字位数与其真数位数相同。5、在计算4个以上数的平均值时，其有效数字可增加一位。（1）在运用计算器等计算工具时，可适当多保留有效数字或小数位数；（2）测量误差和测量不确定度一般只保留一至两位有效数字，其余按规则舍入；（3）提高精密度，依靠增加测定次数，降低随机误差，增加结果有效数字位数。注意：一、技术性取舍§2.2可疑数据的取舍（异常值检验）二、统计检验取舍统计检验可疑数据的法则：“4d”检验法、莱因达检验法、格鲁布斯（Grubbs）检验法、狄克逊（Dixon）检验法和科克伦（Cochran）检验法等。过失误差（操作人员的主观因素）：如样品溅失、加错试剂、计算差错等外界测定条件突然变化（外界条件的客观因素）：仪器失常、环境突然影响等原因可疑数据，作技术性剔除，否则应保留。（3）计算标准偏差2/1isXXnmin1XXGSmaxnXXGS或（5）给定显著性水平α（α=1-P）,α=0.05（6）比较计算值G1（或Gn）与G（α,n）临界值，若G1（或Gn）＜G（α,n），则该可疑值应剔除，否则保留。G（α,n）值见教材P223附表5/iXXn●检验程序如下：（1）将数据由小到大排列：X1，X2，X3···Xn（2）计算此组数据的平均值（4）计算统计量G1或Gn1、Grubbs检验法（格鲁布斯法）测定次数n置信度95%α=0.05置信度99%α=0.0131.151.1541.461.4951.671.7561.821.9471.942.1082.032.2292.112.32102.182.41112.232.48Gα,n值表min130.1330.020.0671.641.67XXGS查G（α,n）临界值表n=5，α=0.05时，（附录表5教材P223）G（0.05，5）=1.67，G1＜G（0.05，5）判断可疑值30.02%应保留。5个值都应参与均值，不应剔除。例：测定某铁矿石中Fe2O3（%）得到5个分析数据，按其大小排列为30.02、30.12、30.16、30.18、30.18，第一个数据30.02可疑，试判断是否应舍去（P=0.95）？解：30.1330.020.067XS，其中偏差最大，故首先检验该数●教材P16例1-13（２）如果可疑值有两个，而且都在X1、X2、X3···Xn-1、Xn同一侧，若X1、X2为可疑值，先检验X2，测定次数应作少一次，计算G2检验X2的取舍。如X2舍去，则X1舍去。注意，检验内侧数据时计算平均值X和S不应包括外侧数据。（１）对一组数据中偏高或偏低的可疑值进行检验，一般作一次检验。（３）如果可疑值有两个，而且分配在X1、X2、X3···Xn-1、Xn的两侧，若X1、Xn为可疑值，分别检验X1、Xn是否应舍去。如有一个数据决定舍去，再检验另一个数据时，测定次数应作少一次处理。注意：●检验程序如下：单侧情形（1）将一组数据由小到大顺序排列：8≤n≤10X1，X2，X3···Xn-1，Xn（异常值出现在两端）（2）根据测定次数n，选择相应的D统计量计算D值。教材P17表1-321111nXXDXX12nnnnXXDXX2、Dixon检验法（D检验法）该法比较简单，不需要计算平均值和标准偏差，可进行多次检验，根据分析数据由小到大排列后的顺序及测定次数，以统计量来判断最小、最大可疑数据的取舍。（检验最小值，第一个数据）（检验最大值，最后数据）（3）给定显著性水平α和测定次数n（4）查Dixon检验单侧临界值D（α,n）（教材P223附录表6）（5）比较D计算值与D（α,n）：若D计＜D（α,n），则判断该可疑值应弃去，否则保留。例：一组测定值（%）按由小到大顺序排列为14.65，14.90，14.90，14.92，14.95，14.96，15.00，15.00，15.01，15.02，检验最小值14.65是否该舍去?（显著性水平α=0.05）解：n=10，计算统计量D21111nXXDXX12nnnnXXDXX检最大值Xn：检最小值X1：X1=14.65%，X2=14.90%，Xn-1=15.01%211114.9014.650.69415.0114.65nXXDXX计由α=0.05，n=10查Dixon检验单侧临界值D（α,n）附录表6：D（α,n）=D（0.05,10）=0.477代入D计＜D临最小值14.65%应剔除。当再检验下一个数时，已检验并应剔除的数应先删除，再进行检验，此时n’=n-1。●3≤n≤7、8≤n≤10、11≤n≤13统计量D计算式有所不同。见教材P17表1-3１、3≤n≤7，采用统计量D计算式：2111nXXDXX11nnnnXXDXX检最大值Xn：检最小值X1：2、8≤n≤10，采用统计量D计算式：12nnnnXXDXX检最大值Xn：21111nXXDXX检最小值X1：●教材P17：例1-14；例1-15（1）根据表1-3，选择相应的D统计量计算D1和Dn；X1，X2，X3···Xn-1，Xn（2）给定显著性水平α和测定次数n，查双侧临界值（教材P223附录表6）；（3）当Dn＜D1，Dn＜，判断Xn为异常值；当D1＜Dn，D1＜，判断X1为异常值；应弃去，否则保留。(,)nD(,)nD(,)nD●检验程序如下：双侧情形3、Cochran最大方差检验法2max21minSCS用于剔除多组测定值中精密度较差的一组数据，也用于多组测定值的方差一致性检验，即等精度检验。●检验程序如下：（1）将m组测定值，每组n次测定，按其标准偏差大小顺序排列，S1，S2，···Sm，其中最大标准偏差为Smax，最大方差Smax2。（3）给定显著性水平α，测定值组数m，每组测定次数n，自由度ƒ。（4）查表得科克伦最大方差检验临界值C（α,m,ƒ）。（2）计算统计量（5）若计算值C计＜临界值C（α,m,ƒ），则可疑方差为离群方差，即该组数据精密度过低，应该剔除；若计算值C计≤临界值C（α,m,ƒ），则判断该可疑方差为正常方差，应予保留。●蔡明招主编的“实用工业分析”P15表1-6“科克伦检验临界值表（显著性水平α=0.05）”计算值C计≤临界值C（α,m,ƒ），故2.172为正常方差，即6个实验室的测定为等精度，应予保留。克服了各实验室之间的系统误差。例：6个实验室分析同一样品，各测定5次，其标准偏差0.84，1.30，1.48，1.67，1.79，2.17，检验6个实验室的测定是否等精密度。解：其中最大标准偏差为2.17α=0.05，m=6，n=6，ƒ=5，查表得C（α,m,ƒ）=0.444722max222222212.170.841.301.481.671.792.174.70890.30815.2879minSCS对可疑数据总的处理步骤：（１）检验可疑数据：从原始数据到操作方法、条件等，如可疑数据确定是由过失误差或外界客观原因引起的，应舍去该数据。否则必须用统计检验方法进行检验判断后确定取舍。●一般仅存一个不能充分肯定的可疑值，应以Grubbs检验法判别其取舍；如同时存在两个可疑值，应以Dixon检验法单侧或双侧检验最低、最高值。（２）Grubbs检验和Dixon检验时，应将数据由小到大排序后，逐一检验可疑数据，偏差最大的先检验。（4）完成可疑数据取舍后计算测定结果的平均值、标准偏差以及其他数理统计工作。（3）检验剔除一个数后，如要检验下一个数，则应注意试验数据的总数n已变化，各试验