贾章范

清华大学，北京 100084

一、问题的提出

2019年8月30日，陌陌公司旗下的“换脸”软件ZAO正式发布。该软件利用深度伪造技术将网络用户的面部特征替换至影视片段中的相关角色，从而实现具有高度相似性的“一键换脸”。随后，该软件因《用户使用协议》涉嫌过度索取个人信息、存在数据泄露风险等问题而引起社会舆论高度关注。2019年9月3日，工业和信息化部网络安全管理局就网络数据安全问题约谈陌陌公司负责人，并对个人信息安全保护、新技术安全评估和风险防范等问题作出相应要求[1]。其实，早在2017年11月，匿名网络用户u/deepfakes就在社交门户网站Reddit上传了与影视明星相关的伪造视频，深度伪造技术进入社会公众视野，并呈现出快速发展趋势，诸多社会公众人物成为深度伪造技术的受害者。

“深度伪造”（deepfake）是深度学习（deep learn-ing）和伪造（fake）的合成词，是一种基于深度学习和机器学习而生的新兴技术，能应用于视频伪造、语音合成、图像替换、笔迹模仿等领域，并产生具有高度相似性的逼真效果[2]。虽然利用计算机技术对视频或图片进行编辑的现象已屡见不鲜，但直接将不相关言语和行为与特定个人相联系，并产生以假乱真效果的应用程序仍属罕见。随着深度伪造技术的发展和“一键换脸”等类似应用的普及，非专业人员也能快速制作出具有高度相似性且难以识别的图片和视频。

在传统社会语境下，视频和音频曾是对现实的可靠记录，但深度伪造技术有可能改变这一传统认知观念，并对个人认知、社会秩序和国家安全产生影响。……