傅磊

深度学习作为时下最热门的科技概念——人工智能（AI）的子概念之一，是学习样本数据的内在规律和表示层次，在这些学习过程中获得的信息对诸如文字、图像和声音等数据的解释有很大的帮助，其最终目标是让机器能够像人一样具有分析学习能力，能够识别文字、图像和声音等数据。目前正被广泛地运用于通讯、工业制造、交通、金融、医药、传媒、娱乐等各行业。生活中，人们可以利用深度学习的人脸识别进行身份认证和便捷支付等行为，一度使其被奉为科学技术的又一次革命。然而，前段时间“明星换脸”技术于社交媒体的爆红，引发了巨大的社会争议。“深度伪造”是利用深度学习技术中的“对抗生成网络”模型形成的智能视频处理技术，“明星换脸”则是该技术最为典型的应用。利用该技术基于娱乐或其他目的伪造的政客演讲、电影片段等足以以假乱真，引起了公众的警觉和国家安全部门的注意。在深度伪造技术水平日新月异而鉴别手段相较被动的现实环境下，利用兼具真实性、便捷性和快速演化性的深度伪造进行心理战正逐渐成为可能。

深度伪造技术的概念与原理

“深度伪造”（Deepfakes）由英文“深度学习”（deep learning）和“伪造”（fakes）二词结合而来，表明该技术是基于深度学习的一种新型信息篡改与替换手段。与深度学习不同的是，深度伪造技术是一种“无监督学习，通过对抗生成网络（GAN， Generative Adversarial Networks）”。

在自我优化中生成伪造的数据。对于这种技术逻辑，只要有足够的数据和运算速度，理论上生成模型会在“对抗”中持续自我迭代并不断优化伪造视频。2019年3月，一则技术人员利用该技术换脸“杨幂”的事件在舆论上引起热议，国内第一次掀起“换脸”热潮。随后不久，明星“换脸”手机应用程序“ZAO”上架开放下载，短时间内便冲上各大应用商店下载排行榜第一位，一时间网络社交媒体上充斥着网民将自己与明星“换脸”出没于电影片段或演出场合的视频，极大的满足了网民的“明星梦”。

对抗生成网络示意图

但昙花一现后由于“ZAO”中涉及的隐私条款因涉嫌侵犯公民隐私权而遭到舆论的声讨，导致应用程序下架。事实上，深度伪造“换脸”技术早在几年前就在美国有过重要尝试，如Cycle GAN，可以说是所有人脸转换早期的重要尝试。Face 2 Face则可以说是一次“标准的、规矩的”的尝试。但当下国外最火热、最广为流传的深度学习换脸模型毫无疑问是Deepfake。值得一提的是，该技术还首先被国外色情网站Reddit的用户用来将好莱坞明星与色情视频中的艳星“换脸”，从而招致网民广泛传播，给当事明星造成了极大的困扰。

不仅只有视频“换脸”，深度伪造技术通过数据采集和学习，还能模仿目标对象的语音。早在2018年1月，国内科技企业科大讯飞公司董事长刘庆峰就曾在发布会上现场利用深度伪造框架下的语音合成技术演示美国总统特朗普对发布会致以贺词，“特朗普”甚至还能以一口流利的中文向大家问好。用刘庆峰的话说，“我们用机器模仿特朗普讲话，连美国人都信以为真”。此外，来自英国伦敦大学的研究团队还研发出了一种基于深度学习的全新智能算法，只需提供目标对象的笔迹样本即可实现完美“复刻”，难以辨认。除了语音和笔迹、指纹、文风甚至是微表情等个人独有的生物和思维特征难题也已全面被深度伪造技术攻克，可以说，只要采集了足够的数据，深度伪造完全能制造出“另一个你”。这个“你”不受你的意识控制，却可以向你的社交、生活和工作圈发布本尊从未授意过的信息——不论你是士兵、营长、司令还是总统。由此，深度伪造技术的心理战潜力可见一斑。

深度伪造技术的战场运用策略

早在深度伪造技术初露雏形时，美国国家安全部门就敏锐地察觉到了该项技术存在着威胁国家安全的巨大隐患，因而开始在政策层面、法律层面和技术层面加大了对该技术的限制力度，美国参众两院议员相继推出了《2018年恶意伪造禁令法案》《深度伪造责任法案》《2019年深度伪造报告法案》以防止别有用心者恶意利用该项技术。与此同时，深度伪造技术应用于作战的巨大潜能也被察觉，有众议员在2019年6月提请众议院授权开展深度伪造鉴别技术竞赛，要求美国国防部高级研究计划局（DARPA）实施一项有竞争力的奖励计划，刺激技术的研究、开发或商业化，实际上是激励人才将该项技术军事化，从而应用于心理战和舆论攻防。

深度伪造“换脸”过程

科研团队伪造的奥巴马视频效果

舆论压制，抢占国际话语高地。在与敌国的争锋中，国际社会的舆论支持也是必要的，哈佛大学肯尼迪政府学院下属的Belfer 研究中心曾发布的一篇《AI与国家安全》报告指出：“敌对国家的网络间谍在窃取一国的真实机密文件后，同时泄露该真实文件和一些相应的伪造文件，再利用深度伪造技术合成相应的音、视频材料来佐证相關的伪造文件，该伪造文件的可信度将极大提升，由此操纵公众舆论，影响国家政权稳定。”当前各国领导人的外貌、语音甚至笔迹、文风数据极易获取，美国两任总统奥巴马和特朗普的换脸视频已在全球范围内广泛传播，2019年初，比利时某政党甚至发表了特朗普批评比利时在气候变化问题立场的视频，引发网友对美国政府干预比利时内政的强烈不满，这一视频后来也被证实是基于深度伪造技术的假视频。而视频从引起争议到最终辟谣之间有一个时间差，“不怕事后被人骂，只怕当时没人信”。深度伪造的产品结合社交网络的涟漪效应，可以带来大规模的以讹传讹式的扩散，充分利用这个时间差，在反制力量还未作出反应时就进行有利于己的国际舆论引导，对敌进行舆论压制，抢占话语高地，赢得国际支持，一定程度上能够起到可观的效果。