基于labview的数值修约程序设计方法探讨
2021-07-04王凌杰欧贞婷钱沈廉
科学与财富 2021年10期
王凌杰 欧贞婷 钱沈廉

摘 要: 在日常計量工作当中,测量数据需要人为进行数值修约,这样不仅费时而且容易出错。本文依据GB/T 8170-2008《数值修约规则与极限数值的表示和判定》介绍了在数值修约规则和检测数据保留小数位数的方法,以及利用LabVIEW平台设计实现检测数据小数位数保留和修约的程序。对从事计量检测工程技术人员和程序软件设计开发者具有一定的参考价值。
关键词:保留小数;LabVIEW ;数值修约
1引言
在日常计量工作中,测量结果往往需要人为进行数值修约,鉴于目前部分计量标准设备基于Labview实现自动检测校准,所以采用Labview进行数值修约程序的编写,实现测量结果的自动数值修约。
2数值修约规则
数值修约是指通过省略拟修约值得若干位数字,调整保留的有效位数字,使最后得到的数值最接近于原数值的过程[1]。目前数值修约的方法均参照GB/T 8170-2008《数值修约规则与极限数值的表示和判定》。该标准规定了确定修约间隔的规则、数值修约的进舍规则、不允许连续修约的规则、0.5单位修约和0.2单位修约的规则[2]。
2.1确定修约间隔的规则
修约间隔是指被修约数的最小数值单位,当修约间隔数值确定,被修约数为修约间隔的整数倍,即通过修约间隔可得到拟保留位数。
例:如指定修约间隔为0.1,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。
2.2数值修约的进舍规则
数值修约的进舍规则可概括为“四舍六入,逢五凑偶”,具体是将拟修约数按照拟保留位数划分为拟保留数和拟舍弃数两部分,……p>
登录APP查看全文
