物理实验绪论1---有效数字运算

整理文档很辛苦,赏杯茶钱您下走!

免费阅读已结束,点击下载阅读编辑剩下 ...

阅读已结束,您可以下载文档离线阅读编辑

资源描述

有效数字运算有效数字运算有效数字的定义说明有效数字的运算规则加减运算规则乘除、乘方、开方规则函数运算规则常数运算规则舍入规则有效数字运算有效数字的定义可靠数字存疑数字测量中得到的全部可靠数字和欠准数字可疑数字欠准数字有效数字运算例:7.98mm和0.00798m都是三位有效数字例:0.0079800m是多少位?有效数字的说明有效位的多少,是测量实际的客观反映,不能随意增减测得值的有效位有效数字只有最后一位是欠准的有效数字的位数与小数点位置无关从第一位不为0的数字数至最后一位包括后面的0有效数字运算在单位换算时,有效数字的位数不变例:7.98mm=0.00798m表达测量结果的有效数字,其尾数应与不确定度值尾数对齐例:L=(98.600.06)cm对较大或较小的数,尽量采用科学记数法例:0.00798m记为7.98×10-3m对齐有效数字运算草稿纸有效数字运算规则加减运算规则运算结果末位数字所在位置,与参与加减运算的各数中末位数字位置最高的一个相同例:10.1-4.179=?10.1-4.1795.9215.9有效数字运算乘除、乘方、开方运算规则运算结果的有效数字的位数,与参与运算各数中有效数字位数最少的那个数相同例:10.1×4.179=?10.1三位4.179四位结果三位42.2(4.179)2=?17.46=17.5?4.1810.14.179=?2.42有效数字运算三角函数运算规则将自变量欠准位变化1,运算结果产生差异的最高位就是应保留的有效数字的最后一位大学物理实验中,角度一般读到秒三角函数运算保留4位有效数字例:sin30020.500503748sin30020.5005sin30030.500755559有效数字运算对数函数运算规则对数函数运算结果的有效数字中,小数点后面的位数取成与真数的位数相同例:lg1.983=0.2973lg19.83=1.2973lg198.3=2.2973ln19.83=2.9872有效数字运算指数函数运算规则指数函数运算结果的有效数字,按科学记数法,小数点后的位数取成与指数中小数点后的位数相同例:e9.14=9.32×103有效数字运算常数运算规则常数不影响最后的计算结果有效位数。运算中其位数比计算式中其它测量值中有效位最少的多取一位例:D=2RS=R2设R=4.000mmD=8.000mm=3.1416有效数字运算舍入规则(四舍五入取偶)小于5时,舍去;大于5时,进1等于5时,如后面没有数字或为0时,按欲保留的末位为奇数时则进1,为偶数时舍弃例:保留4位有效数字4.327494.3275144.325014.327504.328504.3274.32844.334.3284.328

1 / 11
下载文档,编辑使用

©2015-2020 m.777doc.com 三七文档.

备案号:鲁ICP备2024069028号-1 客服联系 QQ:2149211541

×
保存成功