黎凌　郭曦

摘要：Deepfake是人工智能的为基础的图像合成技术。它能复制任何人的脸到任何视频中并且惟妙惟肖。任何技術的出现都是双刃剑，好的方面是大大缩短制作周期，降低视频制作难度和成本，显著增强视频呈现效果;另一方面技术它也带来现实威胁且影响巨大，为此对Deepfake的现实威胁进行了研究。

关键词：Deepfake;换脸;威胁;GANs;造假视频

引言

很多人看过吴宇森的经典之作《变脸Face/Off》。“变脸”这样的效果需要大量的资金和专业团队才能完成，而今一个人、一台电脑、几张照片就能实现。爱因斯坦几十年前预言奉劝人们呆在家中对抗新冠病毒视频（图一）。但很显然这是假的，这是位视频特效师疫情期间一个人在家用Deepfake技术完成的假视频。

一、Deepfake的起源

2017年末 Reddit社区一位昵称为“Deepfakes”的用户发布篡改过的女明星换脸色情视频。女明星与色情的信息标签，让视频迅速传播，引起了社会轩然大波。视频效果看起来就像那个人真的干了某些事。自此Deepfake凭借逼真换脸效果广为人知。Reddit社区的始作俑者将自己的技术代码开源。这项技术吸引了相当多的人前来研究并不断“改良”并同样公之于众。

二、浅谈Deepfake的原理

Deepfake的理论基础GANs（生成式对抗网络，论文《Generative Adversarial Nets》中提出），原理是让两个网络相互竞争，一个网络制造假图片，一个网络检造假照片，这样进入到相互博弈的过程，直到出现无法发现破绽的图片。

更形象的比喻，生成器是造假币的犯罪分子，而判别器是警察，犯罪分子不断造出假币，警察鉴别发现各种漏洞，这样就迫使犯罪分子不断提高造假手段最终造出一张无限接近真实的假币。这也就是GANs的核心目的，从数据中生成全新样本。

三、Deepfake的现实威胁

1.Deepfake带来的影响首当其冲指向女性

报告《DeepFake现状：前景、威胁和影响》指出，互联网96% Deepfake视频是色情视频，目标是女星。波士顿大学教授 Danielle Citron 曾表示，“Deepfakes 已经成为了攻击女性的武器。"

普通女性面对的困扰不这么简单，造假视频让她们很有可能面对敲诈、报复、恶意诽谤等财产和名誉风险行为。

2.deepfake技术被应用到灰色地带甚至犯罪

在国内给一百多元，提供一张照片，就可以让任何人成为小视频的主角。之前这样的活动是要在暗网中的交易，而今渗透进国内知名二手交易平台。这让每一个普通人的利益都有可能受损，因为你不知道自己哪天就“火”在微信群中。

更加严重的是，媒体报道国外一家公司的多名员工就已经被Deepfake制作的CEO假声音，诈骗多达22万欧元的资金。Deepfake技术的引入，让犯罪分子手中的造假人像，造假语音等难以辨别，也令犯罪活动更加难以侦查，难以防御，难以反击。

3.Deepfakes 技术在政治、安全等方面的影响是巨大深远的

“无论是视频音频，还是文本，我们社会依赖和信任的多个数字通信渠道都已遭到了颠覆。”一位研究者如是说道。2018 年，非洲加蓬总统 Ali Bongo因为患上严重的中风而消失。但政府封锁了消息，他的消失引发了社会的不安和某些人的躁动。为了消解人们的疑虑和怀疑，政府公布利用Deepfake制作的 Ali Bongo 录制的新年致辞的视频。反而引发更大的疑虑，军方甚至以此为借口出动军队发动政变。

这事件表明Deepfake技术在政治活动中已经被使用，影响效果巨大到可以破坏某些政治进程改写一个国家的历史。

四、Deepfake技术泛滥的应当引起重视

目前涌现了大量人脸fake的软件，如FakeApp、ZAO等等。使用者甚至完全不需要技术背景，技术“小白”可以轻松使用。

Deepfake的巨大威力让很多人坐立不安，美国共和党参议员卢比奥，就曾将Deepfake与核武器相提并论。

尽管大家不都认同他的看法，但这仍旧引起广泛的关注。2019年6月美国众议院提出法案打击Deepfake滥用 。同年9月，Facebook、微软联合举办deepfake识别竞赛，而早在2018年谷歌发布大型数据集打击deepfake滥用。上述的外国政企界应对措施，deepfake的危害更应该引起我们的警醒。

五、结束语

时间已经来到2020年，由于新冠疫情的影响，正在深刻的塑造着当今以及未来的世界格局，这其中免不了一番国与国之间明争暗斗。而这样的技术我们也应当加紧制定法规来约束其发展。正如老祖宗告诉我们的：害人之心不可有，防人之心不可无。

参考文献

[1]Ian Goodfellow .[1406.2661] Generative Adversarial Networks，2014.

[2]Deep Trace Labs .The State of Deepfakes： Landscape，Threats， and Impact 2019-09.

[3]孙妍，李玉洋.闲鱼涉黄，花150元就能把你的脸安在色情视频里.2020-08-14

http：//www.it-times.com.cn/a/hulianwang/2020/0814/32485.html.

[4]PingWest. DeepFake“换脸视频”：当你的头出现在A片演员身体上，2019-01-07

https：//tech.sina.com.cn/it/2019-01-07/doc-ihqhqcis3799077.shtml.

[5]伍文靓. AI 大毒瘤：96% 的 Deepfakes 视频涉及色情，还搅动多国政局，2019-10-15

https：//www.leiphone.com/news/201910/6GlP2CNmf9I96Wu8.html.

作者简介

黎凌（1989.12-），男，汉族，籍贯广西柳州，本科，助理工程师，研究方向：信息安全。