郑子亨 王哲

近年来，Deepfakes技术不断进化，使用门槛不断降低，一些不法分子将其应用于制造假视频和假新闻、煽动网络暴力、破坏政治选举、扰乱外交关系、伪造虚假证据、降低民众对政府和媒体的信任度，带来极大负面影响。对此，我国应予以高度重视，并提前布局、积极应对。

“Deepfakes”是“deep machine learning”（深度学习）和“fake”（造假）的英文组合词，又被称作“深度伪造”，是一种基于深度学习的人物图像合成技术，由于Deepfakes最常见的方式就是在视频中把一张脸替换成另一张脸，因此也被称作“人脸交换”（Face Swap）技术。Deepfakes算法常常被运用在图片和视频制作过程中合成新的视频或图像，目前，其技术门槛正在不断降低，非专业人员已经可以利用简单开源代码快速制作出以假乱真的视频和图像，使用Deepfakes技术制作的音视频很难被肉眼辨别真伪。Deepfakes技术正被滥用于网络暴力、破坏政治选举、扰乱外交关系等方面，给社会和国家带来极大风险，对此，我国应予以高度重视，并提前布局积极应对。

Deepfakes技术滥用引发社会风险

Deepfakes技术正在不断演进。Deepfakes是一套基于生成对抗网络的深度学习算法模型，可以实现模拟真人声音、图像视频内容替换、图像生成等内容。目前，Deepfakes被越来越多地使用在视频领域，使用者利用Deepfakes技术可嫁接和重构视频内容特性，将视频中人脸进行替换。Deepfakes视频人脸替换实质是将视频进行逐帧处理，达到换脸的效果，整个处理流程主要包括三个步骤：一是图像预处理，二是模型训练，三是图像融合。在生成视频前，神经网络需要大量目标任务图像数据进行学习，图像的数量、质量和多元性决定了神经网络的学习效果，即学习数据越多，模拟效果越逼真。换脸技术曾长期被大型数字特效公司用于视频的制作，然而，使用传统技术进行换脸需要耗费大量时间和计算资源，随着Deepfakes技术的发展，这一过程得到极大简化。近年来，Deepfakes技术自身也在不断迭代更新，基于新型无监督视频重定向方法（Recycle-GAN）的Deepfakes算法，不仅实现了对音视频材料空间信息和时间信息的抽取，也改进了Deepfakes伪造视频的真实度，不过，该技术的应用目前尚不成熟。

Deepfakes技术滥用愈发严重。近年来，Deepfakes技术门槛不断降低，部分人将Deepfakes技术用于煽动网络暴力、破坏政治选举、扰乱外交关系、伪造虚假证据等不法用途，在“所见即真实”的认知定律下，虚假视频及新闻在社交媒体的加持下加速传播，使得Deepfakes技术滥用的后果不断加剧。例如，2018年4月，网络黑客运用Deepfakes技术伪造了美国前总统奥巴马语言侮辱特朗普的视频，该视频在推特上短时间被点击200多万次，对美国政府形象造成了极大的不良影响。今年以来，利用Deepfakes伪造的美国众议院议长佩洛西、美国总统特朗普等政要的虚假谈话视频纷纷出现在社交媒体上，并被广泛快速传播。Deepfakes技术的恶意应用还极大影响了个人生活，2019年6月，基于Deepfakes技术开发的应用程序DeepNude“走红”网络，该应用可以自动消除图片中女性衣物，被应用于制作名人的虚假色情视频，对女性隐私以及日常生活造成严重影响，引发了全社会对于人工智能技术不正当利用的担忧，目前该应用已被开发者禁用。此外，Deepfakes还可被用来提供虚假证据，一些不法分子可以制作出关于企业负责人行为不当的虚假视频，以此来要挟和敲诈企业。

Deepfakes将带来一系列社会风险。Deepfakes技术的滥用会给国家、社会和个人带来极大危害。首先，Deepfakes存在降低国家信誉、威胁国家安全、损害国际形象的隐患。深度伪造技术可以让虚假信息以高度可信的方式呈现给社会公众，从而操纵观众的情绪反应，引发社会广泛的不信任。此外，Deepfakes可能被敌对国家和势力利用，作为诋毁政党、煽动恐怖和暴力活动、挑拨国家矛盾的工具。美国外交政策研究所认为，Deepfakes技术正被滥用于制作抹黑美国国家元首的视频，其在社交媒体上的大肆传播可能对美国2020年大选存在威胁。其次，Deepfakes技术的滥用将对社会媒体的公信力产生动摇，加剧社会公众对记者和媒体的不信任，阻碍证据的呈现和对真相的报道，进而引发全社会的信任危机。最后，Deepfakes技术将对个人权益造成严重损害。目前，DeepNude等应用对女性恶意污化，使受害人名誉、隐私严重受损，并使其承受着极大的精神折磨。同时，人脸识别技术已经在上班打卡、刷脸购物、支付、手机解锁等场景得到广泛应用，如果Deepfakes技術被应用于上述领域，则将对公民个人隐私、财产安全、生命安全等产生重大威胁。

技术创新和立法监管双管齐下，积极应对Deepfakes带来的挑战

从算法角度看，对抗Deepfakes造假的新型AI视频识别技术逐步成熟。目前，研究者正在利用Deepfakes的算法漏洞研制对抗识别算法，准确度已经达到90%以上。例如，美国南加州大学的研究人员发现，用于生成Deepfakes伪造视频的主流方法都忽视了视频的连贯性，使得生成视频中的人物移动不流畅并且出现抖动情况。他们利用该漏洞，训练出基于递归卷积神经网络的深度学习模型，该模型以人类说话时的面部移动特征为学习数据，能够自动检测视频的抖动和连贯性情况，判断Deepfakes伪造视频的准确率超过90%。加州大学伯克利分校的研究者构建了高度个人化的“软生物识别指标”，并利用这些指标来区分真实和虚假视频。他们发现，人类讲话时会以微妙但独特的方式来移动身体，每个人都有特定的运动轨迹，现有的Deepfakes视频伪造技术并没有考虑该因素，而以该特征训练神经网络模型能以92%的准确率识别Deepfakes伪造的视频。此外，IBM基于Debater项目研发了AI造假探测器，并已投入使用，其客户可以利用IBM Watson Studio等各类解决方案开发高质量模型，防范包括Deepfakes在内的AI造假威胁和欺诈活动。不过，虽然基于深度学习的Deepfakes识别技术的发展势头良好，但现有检测方法的准确率仍不能充分满足现实需求。与此同时，区块链技术作为一种可能的溯源解决方案被提出。区块链是一种全新的分布式基础架构，具有分布式、开放性、独立性、安全性、匿名性等特点，在视频真伪鉴定领域有很大优势，不仅可以对视频发布者进行标记，并将标记值使用区块链进行存放，也可保证视频哈希值既可公开查询又无法被篡改，为用户进行视频真假校验提供了极大便利，可以作为甄别伪造视频技术的未来发展方向加以探索。

从立法角度看，各国政府积极推动建立Deepfakes的立法鉴定系统。Deepfakes的技术滥用正引起美欧各国政府监管层的重视，许多国家正在酝酿出台法律条文应对技术滥用隐患。欧盟在打击Deepfakes产生的虚假新闻方面采取了有效的措施。2019年年初，欧盟发布了一项打击虚假新闻的战略，包括应对Deepfakes的指南。该指南强调公众参与的必要性，帮助人们更容易分辨出某条信息的来源以及可信度。欧盟委员会还要求建立一个独立的欧洲事实核查机构，帮助分析网络内容的来源、创建和创建过程。美国政府高度重视反Deepfakes滥用的立法进程。2019年7月，三位美国参议员撰写公开信，呼吁国家情报局局长深入调查外国政府、情报机构和个人如何利用Deepfakes来损害美国的利益，并加以提前应对。2019年7月1日，美国弗吉尼亚州政府正式宣布扩大化的复仇色情法生效，严禁制造和传播经过“深度伪造”的内容。该法律条文覆盖了利用Deepfakes等技术制作或操纵的视频和图像等，违法者最高可被判处12个月的监禁并罚款2500美元。英國政府正在酝酿出台滥用数字技术和产品的法律，专门涉及制作和分享非自愿的亲密图像，英国立法机构将重点关注复仇性质的色情视频，以及利用Deepfakes算法生成的色情内容。

对策建议

制定标准，明确Deepfakes的使用范围和不正当使用及其后果。Deepfakes算法正被广泛运用于不同领域，亟须推动全社会对Deepfakes接受范围的大讨论，明确规定Deepfakes的使用范畴，帮助社交媒体规范平台管理，对内容进行合规审核。在此基础上，可借鉴欧盟打击Deepfakes等AI造假指南文件的制定过程，加强Deepfakes概念界定和监管标准研制，增强AI算法的安全可控、透明可释、保护隐私、多元包容等伦理原则的可衡量性，同步建设相应的测评能力，对Deepfakes技术的侵权问题和法律界限进行约束和界定。

加强与社交媒体、新闻机构、非政府监管机构共享Deepfakes信息。可借鉴欧美等国家和地区的做法，在Deepfakes来源方面加强与社交媒体、新闻机构等平台组织的信息共享，在Deepfakes虚假新闻形成规模传播前向上述平台发出警告，并同步共享给主流新闻机构，做到事前管理、事前预警，减少虚假新闻的波及范围。例如，美国2015年通过的网络安全信息共享法案就允许平台在虚假信息传播至其他平台之前进行警告，并在虚假新闻传播至主流新闻圈前提醒新闻机构。

积极推动AI造假溯源和Deepfakes对抗技术的探索研究。目前，区块链技术在虚假视频信息溯源中的应用尚在发展早期，没有成熟应用，而Deepfakes对抗算法的创新研究成果也主要出现在美国。例如，美国国防部高级研究计划局（DARPA）正在大力投资“反AI变脸计划”，确保侦测到最先进的AI造假技术。我国应积极参与并推动上述技术的研究实践，尤其要重视将国内区块链技术的创新引导向AI造假的侦测、溯源和取证等方面，从而实现多主体间的信息共享和一致决策，确保信息的不可篡改和公开透明。