APP下载

大数据环境下一种基于模式匹配的实体统一方法

2018-08-15熊安萍龙林波

计算机应用与软件 2018年8期

熊安萍 詹 妮 邹 毅 龙林波

1(重庆邮电大学计算机科学与技术学院 重庆 400065)2(重庆邮电大学软件学院 重庆 400065)3(重庆市公安局网安总队 重庆 401121)

0 引 言

随着互联网、移动互联网、物联网的蓬勃发展,数据产生的方式不断在扩展,数据之间的关系变得千丝万缕,呈现出大规模数据关联、交叉和融合的局面[1]。数据融合的概念最初来源于多传感器数据融合,主要集中于军事领域。在信息检索领域也存在数据融合的概念,旨在将多个独立的数据集上的检索结果合并成一个统一的结果,使得合并后的检索效果尽可能接近在一个集中数据集上进行检索的效果。大数据融合更为具体和形象的解读在于:通过对融合数据进行实体统一、冲突解决、数据关联,形成以目标实体为中心的多侧面全景视图[2]。实体统一一直以来都是数据融合和数据清洗中的重点研究内容,是指将表示同一现实世界实体的不同记录识别出来,并进行合并,从而达到消除数据冗余,提高数据质量的目的,其结果影响着数据质量[3-4]。

1 相关概念

当前实体统一主要有三种基本的解决思路,第一种是穷尽式的实体统一即传统的实体统一方法,通过两两比较数据集中的所有实体即实体匹配操作,判断两个实体是否为同一个实体。这种传统实体统一算法计算代价是相当高的,其主要针对小数据集,重点关注统一结果的准确性。随着大数据时代的到来,传统的实体统一方法由于时间复杂度较高,难以处理大规模数据。……

登录APP查看全文