联邦学习中的隐私保护研究进展
2020-12-02王周生
南京邮电大学学报(自然科学版) 2020年5期
杨 庚,王周生
(1.南京邮电大学 计算机学院、网络空间安全学院,江苏 南京 210023 2.江苏省大数据安全与智能处理重点实验室,江苏 南京 210023)
日益增长的互联网数据处理使机器学习方法得到了越来越广泛的应用,传统机器学习方法把所有数据汇总于一台机器或是一个数据中心,由一个数据分析者进行集中式的模型训练。但是实际应用中,很多领域内的数据集有时无法进行有效聚合。例如出于安全考虑,不同银行之间,或是电商平台与银行之间很难完全共享数据,因此存在着严重的“数据孤岛”问题。
另外,由于需要集中储存大量数据,传统机器学习经常会造成原始数据拥有者的隐私泄露,甚至引发某些更为严重的社会问题,例如Facebook公司的数据泄露事件[1]。为此世界各国也出台一系列举措以保护用户隐私。如欧盟于2018年颁布了《通用数据保护条例》;中国于2017年颁布的《中国网络安全法》要求,互联网公司不得泄露或篡改其收集的用户个人信息,并且在与第三方进行数据交易时,他们需要确保双方均遵守用户数据保护义务[1-3]。这些条例与法案的通过有效地保护了用户隐私,但从另一方面来说也制约了机器学习的发展,导致海量的数据难以被挖掘与利用。
为了应对“数据孤岛”与隐私泄露,人们尝试在不违反各地法律法规的前提下进行数据利用。谷歌公司于2017年首次提出了联邦学习[4]。在联邦学习中,数据的拥有者无需上传原始数据,而在本地接收当前模型,通过自己的数据更新模型参数,并与其他参与者共享,实现多人化、本地化、去中心化的机器学习。……
登录APP查看全文
