工程结构试验与检测中的数值修约规则土木建筑工程学院2008.05.01A.数值修约规则•适用范围:科学技术与生产活动中试验测定和计算中的各种数值修约。(特殊规定除外)。1.术语•1.1修约间隔它是指确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。•例l:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。•例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到百数位。1.2有效位数•对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数;•对其它十进位数,从非零数字最左一位向右数而得到的位数,就是有效位数。•例1:35000,若有两个无效零,则为三位有效位数,应写为350×102,若有三个无效零,则为两位有效位数,应写为35×103。•例2:3.2,0.32,0.032,0.0032均为两位有效位数,0.0320为三位有效位数。•例3:12.490为五位有效位数,10.00为四位有效位数。•注意和有效数字之间的关系。1.30.5单位修约(半个单位修约)•指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。•例如,将60.28修约到个位数的0.5单位,得60.5(修约方法见本规则5.1)。1.40.2单位修约•指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位。•例如,将832修约到百数位的0.2单位,得840(修约方法见本规则5.2)。2.确定修约位数的表达方式•2.1指定数位•a.指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;•b.指定修约间隔为1,或指明将数值修约到个数位;•c.指定修约间隔为10n,或指明将数值修约到10n数位(n为正整数),或指明将数值修约到十,百,千……数位。2.2指定将数值修约成n位有效位数•5.368---(指定3位有效位数)----5.373.进舍规则四舍六入五考虑,五后非零则进一,五后是零看前位,前位为奇则进一,前位为偶应舍去。•3.1拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。(四舍)•例1:将12.1498修约到一位小数,得12.1。•例2:将12.1498修约成两位有效位数,得12。•3.2拟舍弃数字的最左一位数字大于5,或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加l。(六入;五后非零则进一)•例l:将1268修约到百数位,得13×102(特定时可写为1300)。•例2:将1268修约成三位有效位数,得127×10(特定时可写为1270)。•例3:将10.502修约到个数位,得11。•注:本标准示例中,特定时的涵义系指修约间隔或有效位数明确时。•3.3拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。•(五后是零看前位,前位为奇则进一,前位为偶应舍去)•例1:修约间隔为0.l(或10-1)•拟修约数值修约值•1.0501.0•0.3500.4•例2:修约间隔为1000(或103)•拟修约数值修约值•25002×103(特定时可写为2000)•35004×103(特定时可写为4000)•例3:将下列数字修约成两位有效位数•拟修约数值修约值-0.032•3250032×103(特定时可写为32000)•3.4负数修约时,先将它的绝对值按上述3.l~3.3规定进行修约,然后在修约值前面加上负号。•例l:将下列数字修约到十数位•拟修约数值修约值•-355-36×10(特定时可写为-360)•3250032×103(特定时可写为-320)•例2:将下列数字修约成两位有效位数•拟修约数值修约值•-365-36×10(特定时可写为-360)•-0.0365-0.0364.不许连续修约•4.1拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按第3章规则连续修约。•例如:修约15.4546,修约间隔为1•正确的做法:•15.4546---15•不正确的做法:•15.4546----15.455----15.46---15.5---16•4.2在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。•4.2.1报出数值最右的非零数字为5时,应在数值后面加(+)或(-)或不加符号,分别表明已进行过舍,进或未舍未进。•例如:16.50(+)表示实际值大于16.50,经修约舍弃成为16.50;16.50(-)表示实际值小于16.50,经修约进一步成为16.50。•4.2.2如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有(+)号者进一,数值后面有(-)号者舍去,其它仍按第3章规则进行。•例如:将下列数字修约到个数位后进行判定(报出值多留一位到一位小数)。•实测值报出值修约值•15.454615.5(-)15•16.520316.5(+)17•17.500017.518•-15.4546-(15.5(-))155.0.5单位修约与0.2单位修约•必要时,可采用0.5单位修约和0.2单位修约。•5.10.5单位修约•将拟修约数值乘以2,按指定数位依第3章规则修约,所得数值再除以2。•例如:将下列数字修约到个数位的0.5单位(或修约间隔为0.5)•拟修约数值乘22A修约值A修约值•(A)(2A)(修约间隔为1)(修约间隔为0.5)•60.25120.5012060.0•60.38120.7612160.5•-60.75-121.50-122-61.0•简单判定:[0,2.5)[2.5,7.5)[7.5,10)0510•5.20.2单位修约•将拟修约数值乘以5,按指定数位依第3章规则修约,所得数值再除以5。•例如:将下列数字修约到百数位的0.2单位(或修约间隔为20)•拟修约数值乘55A修约值A修约值•(A)(5A)(修约间隔为100(修约间隔为20)•83041504200840•84242104200840•-930-4650-4600-920•注:•1.试验记录中有效位的选择:•(1)按仪器的最小分度值来读数;•(2)对需要进一步运算的数值,常在最小分度值再估读一位。2.计算过程中有效位的选择•(1)加减:以小数部分位数最少的为准,其它修约比最少的多一位;•如:50.155+3.086+1.4+0.3681=50.16+3.09+1.4+0.37=55.19(2)乘除:以有效位数最少的为准,其它修约比它多一位;•如:13.525×0.0112(3位有效数字)×1.9726=13.52×0.0112×1.937=0.3074(4位)(3)开方和乘方:原来有几位有效数字,结果即是几位,如还要多加运算,则多保留一位。•如:4.52=20.25=20,(3.46开平方)=1.860=1.86。(4)常数,如圆周率,以有限有效的原则。•(5)对数运算所取对数应与真数有效位数相等。•(6)查角度的三角函数所用函数值的位数通常随角度误差的减小而增多。2误差•1.误差的定义误差定义为测量值和真值之差。按表达方式分为绝对误差和相对误差。•(1)绝对误差•δx=x-(2-2-1)•式中δx表示绝对误差,x表示测量值,x0表示真值。•该误差反映了测量的准确度。由于误差存在于一切测量过程中,真值虽然是客观存在的实际值,但无法得到。因此等精度测量中常用测量值和平均值之差估算绝对误差。其表达式为:•δx=x-(2-2-2)•在估算绝对误差时,有时用被测量的公认值、理论值或更高精度的测量值来代替真值x0,这些值叫做“约定真值”。•(2)相对误差:•E=|δx/|×100%(2-2-3)•用绝对误差和真值比的绝对值(百分数)表示,也称百分误差。•2.误差的类型及处理方法•(1)系统误差在对同一物理量进行多次等精度测量时,误差为常数或以一定规律变化的误差称为系统误差。系统误差分为可定系统误差和未定系统误差。•①系统误差产生的原因•由仪器不确定度产生的系统误差;•由测量公式产生的系统误差;•由测量环境产生的系统误差;•由操作人员产生的系统误差.•②发现系统误差的方法•理论分析法:从原理和测量公式上找原因,看是否满足测量条件。例如用伏安法测量电阻时实际中电压表内阻不等于无穷大、电流表内阻不等于零,会产生系统误差;•实验对比法:改变测量方法和条件,比较差异,从而发现系统误差。例如调换测量仪器或操作人员,进行对比,观察测量结果是否相同而进行判断确认;•数据分析法:分析数据的规律性,以便发现误差。例如残差法,对一组等精度测量数据,通过计算偏差、观察其大小和比较正、负号的数目,可以寻找系统误差。•(2)随机误差多次等精度测量中,误差变化是随机的,忽大忽小,忽正忽负,没有规律;当测量次数比较多时就满足一种规律——统计规律。最常见的就是正态分布(也称高斯分布),如图所示。满足高斯方程212)x(21f(δx)e=图2-2-2正态分布曲线图•①正态分布的特性•高斯方程中称为标准差,是随机误差δx的分布函数f(δx)的特征量。其表达式为:nlimniixxn120)(1=确定,f(δx)就唯一确定;反之f(δx)确定,的大小也就唯一确定了。越小,测量精度高。曲线越陡,峰值越高,随机误差越集中,测量重复性越好;越大则反之。如图所示。对f(δx)的影响示意图•为了统计随机误差的概率分布,将概率密度函数在以下区间积分,得到随机误差在相应区间的概率值分别为:•P(-∞,+∞)==1•P(=68.3%•P(=95.4%•P(=99.7%•由上式可以看出,随机误差落在±3之外的概率仅为0.3%,是正常情况下不应该出现的小概率事件,因此将±3定为误差极限,即:时的为坏值。)()(xdxf),)()(xdxf22)()(xdxf)2,2)3,333)()(xdxf3ix•正态分布具有4个重要特性,分别为:•单峰性:小误差多而集中,形成一个峰值。该值出现在δx=0处,即真值出现的概率最大。•对称性:正负误差出现的概率相同。•有界性:|3|为误差界限。•抵偿性:正负误差具有抵消性。当n→∞时,→0,→x0。因次,对随机误差的处理方法是采取多次测量,取算术平均值作为测量结果,以减小随机误差,提高测量精度。__x_x•(3)粗大误差•粗大误差又简称粗差,是实验者粗心大意或由于环境突发性干扰而造成的,为坏值。在处理数据时不能计算在内,应予以剔除,具体做法是求出和,作区间x=(±3),则测量列中数据不在此区间内的值都是坏值,应剔除掉,这种方法称为3法则。•在测量中,若一组等精度测量值中的某值与其它值相差很大。找一下原因,判断是否是粗差引起的,若是,则将其剔除。若找不出原因,或无法肯定,就先求出所有测量值(包括可疑坏值)的标准差,然后用3法则判断并剔除。用剩余的数据重新计算,再进行检验,直到没有坏值,才能计算、分析测量结果。当怀疑有坏值时要多测几个数据。x•例1:对液体温度作多次等精度测量,测量值分别为20.42、20.43、20.40、20.43、20.42、20.43、20.39、20.30、20.40、20.43、20.42、20.41、20.39、20.39、20.40。试用3准则检验该测量列中是否有坏值,并计算检验后的平均值及标准差。3.关于定性评价测量的3个名词•(1)准确度:表示测量值偏离真值的程度,反映系统误差对测量结果的影响。•(2)精密度:表示测量值的分散程度,反映随机误差对测量结果的影响。•(3)精确度:表示测量值的重复性以及和真值的偏离度,反映系统误差和随机误差对测量结果的共同影响。如下页图所示为打靶时着弹点的分布情况:•(a)准确度低,精密度高;•(b)