崔淑玲（呼伦贝尔市产品质量计量检测所）

浅谈检验过程中测量数据处理及修约方法

崔淑玲（呼伦贝尔市产品质量计量检测所）

本文论述了测试数据处理种类及适用范围，如何优化数据处理、有效给出测试数据。

数据处理 适用范围 有效

化学实验中常见的数据处理有: （1）公式计算;（2）用实验数据作图或对实验数据计算后作图; （3）线性拟合,求截距或斜率; （4）非线性曲线拟合; （5）作切线,求截距或斜率。计算机作图软件越来越多。利用计算机Origin 软件可方便地进行作图、线性拟合、非线性曲线拟合等数据处理,还可以求出R2（相关系数的平方） 、SD （标准偏差） 、RSD （相对标准偏差）、ρ值（ R2= 0 的概率）等。能够满足化学实验数据处理的要求，特别是先进的仪器设备大都具备自动检测及数据处理功能,但是对于一些异常值的处理和判定,仪器设备还存在缺陷和不足，仪器有时会出毛病，需要人工验证。本文介绍常规检验中一些小数据的处理方法适用范围、优缺点。

1 实验数据修约、修正

1.1 数据修约

实验数据修约按GB/T 8170—2008《数值修约规则与极限数值的表示和判定》，按照其修约间隔或指定单位进行修约，比如按0.1，0.2，0.5修约间隔及指定单位修约。如检测化肥中有效磷的修约用0.1修约间隔，假设磷含量15.1160%，标准要求三位有效数字，在运算过程多保留一位，所以修约15.12%；如柴油中闪点的数据修约要求按0.5修约间隔，假设闪点数值56.4℃，则按修约要求修约后为56.4×2=112.8℃=113℃,113÷2=56.5℃。不允许连续修约,如45.4546,按1修约间隔,要求保留整数,正常修约为45,要是连续修约（错误的修约）就是45.455→45.46→45.5→46。……