芦效峰 廖钰盈 Pietro Lio Pan Hui

1(北京邮电大学网络空间安全学院 北京 100876)

2(剑桥大学计算机实验室 英国剑桥 CB3 0FD)

3(香港科技大学计算机科学与工程学院 香港 999077)

机器学习已经逐步地改变我们生活、学习、工作的方式，其在语音、图像和文本识别[1]，语言翻译等方面都取得巨大突破.谷歌、Facebook和苹果等大型公司从用户端收集大量训练数据，实现大规模的深度学习网络.虽然深度学习的实用性是不可否认的，但其使用的训练数据却可能涉及严重的隐私问题：数百万人的照片、视频被集中收集，这些数据被大公司永远地保存，用户既不能删除这些数据，也不能控制这些公司如何使用数据.其次，图像和视频中很可能包含大量敏感信息[2]，如面孔、车牌、电脑屏幕、其他人的对话等.互联网巨头垄断这些“大数据”，独享数据背后巨大的经济效益.

众所周知，随着训练数据量的增大，多样化的增多，机器学习所训练的模型会变得更好.然而，在许多领域，尤其与医学相关的领域，法律规定不允许共享与个人相关的数据.自2017年6月1日《中华人民共和国网络安全法》开始实施，个人信息安全被列入重点保护范围，国家对隐私条款提出了明确的要求，进一步完善了对个人信息的保护.因此，相关行业的研究人员只能对属于他们自己机构的数据集进行分析和挖掘.如果单个组织(如特定的医疗诊所)所拥有的数据量不是非常大，并且相似度较高，多样化不足，则在这样的数据集上进行……