测量结果数据修约及速算法
2011-07-26刘湘桂周星明桂林市计量测试研究所
刘湘桂 周星明/桂林市计量测试研究所
0 引言
按有关规范的规定,测量仪器的最小分度值d 的数值应遵循以下规则:

n为正整数、负整数或零。
因而测量结果经修约后的数据最末位的数值也应该相应的为 1×10n或2×10n或5×10n,经修约后的末位估读值应是1×10n-1或2×10n-1或5×10n-1。
1 数显读数装置及模拟读数装置测量结果修约的区别
数显测量仪器的测量读数不存在估读值,按相关的技术规范规定的程序测量n次,读取n个测量值,若取平均值作为测量结果,则平均值按四舍大于五入五凑偶的法则取舍末位,而后再对应测量仪器的最小分度值对经取舍后的平均值末位进行相应的修约。
若最小分度值是d=2×10n,则末位数值应修约为2、4、6、8、0(末尾数字应为偶数),例如用500 g砝码在分度值为2 g的电子秤上称量三次,读数分别为500 g、500 g、502 g,由于电子秤是直读数显仪器,不存在估读值,平均值只取到对应分度值那一位,即取平均值为501 g,电子秤的分度值d=2 g,不可能显示出501 g,因而平均值为501 g仍不能作为最终的测量结果,要对其对应分度值进行修约,其最终结果要么为500 g,要么为502 g,按修约规则是将此平均值乘以5,再按四舍六入五凑偶的法则取舍末位后除以5即为最终的作为测量结果的平均值。501×5=2 505,末位5前面的0为偶数,5不入舍去,2 505修约为2 500,2 500÷5=500,即取500 g为测量结果的平均值而不是取501 g。
若最小分度值是d=5×10n,则末位数值应修约为0.5,例如用100 kN标准负荷检测分度值为0.5 kN的数显压力试验机,三次测量读数分别为100.0 kN、100.5 kN、100.5 kN,平均值 100.3 kN,分度值为0.5 kN的数显压力试验机不可能显示出100.3 kN,要将此平均值乘以2,再按四舍大于五入五凑偶的法则取舍末位后除以2即为最终的测量结果的平均值。……
