分析实验中有效数字的运算法则
2021-10-23赵新颖曹奇光
赵新颖 危 晴 曹奇光 袁 騉
(北京电子科技职业学院,北京 100176)
确定了数值的有效数字位数,并按照修约原则修约后,还要对有效数字进行运算。运算法则主要有加减法、乘除法和连续运算法则。
1 运算法则
1.1 加减法
以小数点后有效数字位数最少的数值为依据,对其他数值的有效数字进行修约后,再进行运算。如:0.0243、7.1058、70.06、164.2和1000的连续加和运算,需要以小数点后有效位数最少的164.2为依据,对其他数据进行保留1位小数的修约,再进行加和运算,结果为1241.4。也可以164.2为依据,对其他数据进行保留两位小数的修约,加和运算后结果为1241.39;再以164.2为依据进行修约得到1241.4。二者结果完全一致。值得注意的是0.0243,如果保留1位小数修约结果为0.0,则记为0.0,说明该数值对运算误差没有影响(表1)。减法、加减混合运算也遵循该法则。

表1 有效数字加减法运算分析
1.2 乘除法
以所有参与运算的数值中相对误差最大的数值为依据,确定有效数字的位数,然后对其他数值进行有效数字修约,再进行运算。如:0.0243、7.1058、70.06、164.2和1000的乘除法运算(0.0243×7.1058×70.06×1000÷164.2)。
首先,分别计算所有数值的绝对误差和相对误差。如:7.1058的有效数字为5位,可能产生的绝对误差为小数点之后第四位,即±0.0001,则相对误差为:[(±0.0001)÷7.1058×100%=(±0.001)%]。
然后,将所有数值按照相对误差由大到小排列:0.0243、1000、164.2、70.06、7.1058。
第三,选择相对误差最大数值确定有效数字保留位数,并以此为依据对其他数值进行有效数字修约。如:0.0243的相对误差为(± 0.41),在上述5个数值中最大,以它为依据确定有效数字保留3位,其他数值修约后为1000、164、70.1、7.11;或者多保留一位有效数字,即4位有效数字,其他数值修约后为1000、164.2、70.06、7.106。……
