张桦

（中共广州市委党校信息网络中心，广州 510070）

0 引言

深度伪造是“生成对抗网络”的产物，具有智能化和高度的逼真性，使得非当事人很难分辨真假。加之，制作成本低、品质高，这使得深度伪造愈发对社会、政治制度和商业构成重大威胁。自2017年Reddit用户发布Deepfake视频［1］后，深度伪造对社会产生了广泛的威胁。如深造伪造可以使新闻业面临巨大的公众信任问题；深度伪造可以通过传播政治宣传或破坏选举活动来威胁国家安全；深度伪造可能会妨碍公民对政府或权威机构发布信息的信任；深度伪造可以用于发布虚假信息进行市场操作；深度伪造还可进行身份欺诈等活动。

随着网络、信息技术的发展，人类生存除依赖于物理空间提供的基础物质外，愈发依赖于网络、信息所构建的网络空间，网络空间已经成为人类赖以生存的除物理空间外的第二大空间［2］。当前，深度伪造已在国外引起了重视，特别是在政治民主安全、社会公众安全、军事安全等方面［3-7］。

国内外对于深度伪造技术威胁的防御基本都处于起步阶段。在技术层面，主张通过自动检测技术（如基于深度学习的自动检测）或新技术（如基于区块链的验证系统）的方法检测、防御深度伪造［8-11］。标称深度伪造技术的检测准确率在71%～95%之间。在社科层面，主张通过可靠平台向社会科学研究人员发布大型社交媒体数据集，以研究错误虚假信息传播的解决方案［12-13］。在管理层面，主要是主张加强深度伪造的有关立法，明确媒体平台、创作者等的责任，制定切实可行的处罚措施［14-16］。……