有效数字的运算规则

第六讲分析数据与处理荆州职业技术学院纺织服装系邹筠一、有效数字及其应用１、有效数字的意义及位数２、数字修约规则３、有效数字的运算规则４、有效数字运算规则在分析化学实验中的应用１、有效数字的意义及位数坩埚重18.5734克六位有效数字标准溶液体积24.41毫升四位有效数字由于万分之一的分析天平能称准至±0.0001克，滴定管的读数能读准至±0.01毫升，故上述坩埚重应是18.5734±0.0001克，标准溶液的体积应是24.41±0.01毫升，因此这些数值的最后一位都是可疑的，这一位数字称为“不定数字”。在分析工作中应当使测定的数值，只有最后一位是可疑的。例如：有效数字的位数，直接与测定的相对误差有关称得某物重为0.5180克，它表示该物实际重量是0.5180±0.0001克，其相对误差为：(±0.0001/0.5180)×100%＝±0.02%例在测量准确度的范围内，有效数字位数越多，测量也越准确如果少取一位有效数字，则表示该物实际重量是0.518±0.001克，其相对误差为：(±0.001/0.518)×100%＝±0.2%哪些数据中的“0”不是有效数字？1.00050.5000；31.05%；6.023×10230.0540；1.86×10-50.0054；0.40%0.5；0.002%五位有效数字四位有效数字三位有效数字两位有效数字一位有效数字在记录测量数据和计算结果时，应根据所使用的仪器的准确度，必须使所保留的有效数字中，只有最后一位数是“不定数字”。用感量为百分之一克的台秤称物体的重量，由于仪器本身能准确称到±0.0l克，所以物体的重量如果是10.4克，就应写成10.40克，不能写成10.4克。例如遇到pH、pC、lgK等对数值，其有效数字的位数怎么算？有效数字的位数仅取决于小数部分数字的位数，因整数部分只说明该数的方次pH＝12.68，即[H+]＝2.1×l0-13mol/L，其有效数字为两位，而不是四位。例还有什么特例？对于非测量所得的数字，如倍数、分数、π、e等等，它们没有不确定性，其有效数字可视为无限多位，根据具体情况来确定。如果有效数字位数最少的因数的首位数是“8”或“9”，则有效数字可认为比这个因数多取一位。２、数字修约规则当尾数≤4时将其舍去，尾数≥6时就进一位；如果尾数为5而后面的数为0时则看前方：前方为奇数就进位，前方为偶数则舍去；当“5”后面还有不是0的任何数时，都须向前进一位，无论前方是奇还是偶数，“0”则以偶数论四舍六入五留双0.53664→0.53660.58346→0.583510.2750→10.2816.4050→16.4027.1850→27.1818.06501→18.07例３、有效数字的运算规则(一)加减法(二)乘除法(１)加减法当几个数据相加或相减时、它们的和或差的有效数字的保留，应以小数点后位数最少，即绝对误差最大的的数据为依据。0.0121＋25.64＋1.05782＝0.01＋25.64＋1.06＝26.71例什么叫安全数？在大量数据的运算中。为使误差不迅速积累，对参加运算的所有数据，可以多保留一位可疑数字(多保留的这一位数字叫“安全数字”)。如计算5.2727、0.075、3.7及2.12的总和时，根据上述规则，只应保留一位小数。但在运算中可以多保留一位，故5.2727应写成5.27；0.075应写成0.08；2.12应写成2.12。因此其和为：5.27+0.08+3.7+2.12＝11.17然后、再根据修约规则把11.17整化成11.2。(２)乘除法几个数据相乘除时，积或商的有效数字的保留，应以其中相对误差最大的那个数，即有效数字位数最少的那个数为依据。0.0121×25.64×1.05782＝0.0121×25.6×1.06＝0.328４、有效数字的运算规则在分析化学实验中的应用1．根据分析仪器和分析方法的准确度正确读出和记录测定值，且只保留一位可疑数字。2．在计算结果之前，先根据运算方法确定欲保留的位数，然后按照数字修约规则对各测定值进行修约，先修约，后计算。二、有限实验数据的统计处理１、测定结果的表示２、置信度与置信区间３、可疑数据的取舍１、测定结果的表示（１）算术平均值：数据的集中趋势（２）标准偏差：数据的分散程度（３）变异系数：ＣＶxＳ表７-４t分布值表t值P90%95%99%99.5%f(n-1)16.3112.7163.66127.3222.924.309.9214.9832.353.185.847.4542.132.784.605.6052.022.574.034.7761.942.453.714.3271.902.363.504.0381.862.313.353.8391.832.263.253.69101.812.233.173.58201.722.092.843.15301.702.042.75(3.01)601.672.002.66(2.87)1201.661.982.622.81∞1.641.962.582.81２、置信度与置信度区间３、可疑测定值的取舍（１）Q检验法检验步骤①将测定值由小至大按顺序排列，其中可疑值为x1或xn：x1＜x2＜x3＜…＜xn②求舍弃商值③查Ｑ表。表７－５为两种置信度下的Ｑ表。若Ｑ计＞Ｑ表，则舍去可疑值；若Ｑ计≤Ｑ表，则可疑值应保留。最小值最大值临近值可疑值计－－Q=Q值越大，说明离群越远，远至一定程度时则应将其舍去。故Q称为舍弃商。112xxxxQn－－=Ｑ值计算式可疑值取舍训练题某人测定一溶液浓度，获得以下结果：0.2038mol/L、0.2042mol/L、0.2052mol/L、0.2392mol/L，第四个数据应否弃去？结果应如何表示？若又测定了第五次，结果为0.2041mol/L，这时第四个数据可以弃去吗？（置信度为90%）表７－５两种置信度下舍弃可疑数据的Ｑ表测定次数３４５６７８９１０P=0.950.940.760.40.560.510.470.440.41P=0.951.531.050.860.760.690.640.600.58练习１、甲乙二人同时分析一矿物试样中硫的质量分数时，每次称取试样3.5g，分析结果报告为；甲，0.042%；0.041%乙，0.04099%、0.04201%。问哪一份报告是合理的，为什么？2、下列数值各有几位有效数字？0.038；42.080；6.3×10-8；2.310×109；1000；200.00；pH=6.63、按有效数字计算下列结果：（1）231.64+4.4+0.3244（2）（3）pH=12.20溶液的［Ｈ＋］4182.13246.3)..(.÷××3614222009830－=236.3=2.594=6.3×10-13