APP下载

带有可信度标记的增量式数据修复方法研究

2021-10-12李海林

计算机与生活 2021年10期
关键词:规则方法

黄 慧,李海林

1.三江学院 计算机科学与工程学院,南京 210012

2.南京航空航天大学 电子与信息工程学院,南京 211100

随着大数据时代的到来,劣质数据也随之增长,给社会、企业带来不可预知的经济损失[1]。据国外权威机构的统计数据显示,在对数据融合、加工、处理的过程中,企业有1%~30%的数据不可避免地存在各种不一致和错误[2];约13.6%~81.0%的重要医疗数据存在缺失或过时的现象[3];全球财富1 000 强的企业中,超过25%的企业信息系统中存在错误数据[4]。近年来,在软件开发过程中,数据修复工作占有越来越重要的地位[5];学术界,数据质量问题也引起学者们的高度关注,其中,不一致性是数据质量的关键问题之一。

通常,不一致数据的检测普遍基于函数依赖X→Y[6-7]。按照函数依赖规则,不难发现例1 中存在数据不一致问题。

例1考虑关系模式Employee(ID,EmpID,Office_Tel,Office,Department)由五个属性组成,分别表示为元组编号、员工编号、办公室电话、办公室、所在部门。其中,Employee:D0是由若干空值和正确数据组成的原始数据集。在员工信息管理的过程中,由于人员的调动、办公室的迁移等产生了信息的更新,这些更新处理存放在操作日志(operator log)中,D0在经过了七步操作之后形成了Employee:D7,如图1所示。

图1 中的φ1为数据集D7上的函数依赖,表示办公室电话唯一决定办公室的值,用于检测D7的一致性。D7中的元组t1~t4违反了该约束,同理,t5和t6两条元组也违反了φ1。

Fig.1 Inconsistent data set Employee and operator log图1 不一致数据集Employee和操作日志

通常,大多的数据不一致性错误是数据在经过加工、处理的过程中产生的。图1 中,由于操作人员的不慎或对数据处理环节的不熟悉等原因,使得操作日志中存在着错误的处理,最终形成了D7中的不一致数据。……

登录APP查看全文

猜你喜欢

规则方法
撑竿跳规则的制定
数独的规则和演变
学习方法
规则的正确打开方式
让规则不规则
TPP反腐败规则对我国的启示
搜索新规则
用对方法才能瘦
四大方法 教你不再“坐以待病”!
赚钱方法