○杨俊丰 曾莎莎

一、深度伪造的产生与发展

深度伪造技术（deepfake）依托于“生成式对抗网络”（GANs）的机器学习模型，是将图片或者视频合并叠加到原图片或视频上，借助神经网络技术进行大样本学习，利用多种样本和数据，采用相互检验和匡纠模型，将想要模仿的人的声音或者面部表情等其他动作合成虚假内容的一项人工智能技术。

深度伪造最早是在2014 年由苹果公司伊恩·古德费罗为核心的小组发明出来的，2019 年8 月，陌陌公司旗下一款名为“ZAO”的应用正式发布，这让深度伪造技术走进国内大众的视野，该软件可以对用户上传的面部特征进行分析，从而实现用户随意想成为某个角色的体验，因此这款软件也被用户称为“一键换脸”，风靡一时，随后因涉嫌过度搜集用户隐私信息被要求下架。

目前深度伪造技术已应用于众多行业，传媒、医疗、教育甚至政治等领域都能看到深度伪造的身影。2020年美国总统选举期间，特朗普就在推特上转发了一条深度伪造的视频，视频内容是拜登伸出舌头在胡言乱语，这条伪造视频混淆了选民的判断。俄乌冲突中，乌克兰总统泽连斯基宣布投降的视频在社交媒体平台爆火，但随后被判定为深度伪造作品。除此之外，利用深度伪造换脸女明星制作视频催生了一批黑灰产业。

二、深度伪造对新闻行业的冲击

新闻专业主义的基本理论框架是倡导新闻报道的真实性、客观性和公正性，强调媒介的社会责任。新媒体时代，传播生态已经发生了重大变革，人们更倾向于从社交媒体获取信息，而深度伪造带来的各种深度虚假内容借助社交媒体传播，使信息更加鱼龙混杂，这对新闻行业追求的真实、客观、公正都造成了冲击。

（一）冲击“新闻真实”

真实是新闻的生命，在新闻报道中，最基本的要求就是坚持新闻真实。从摄影摄像等视图技术产生以来，视图所代表的客观性就在新闻和法律等领域慢慢建立起来，成为表达真相最有力的证据，因为人们通常相信“眼见为实，耳听为虚”。然而，深度伪造的技术特征使“眼见为实”这一理念遭受了前所未有的冲击。深度伪造带来的图像、音视频的高度逼真性，使众多信息成为了“合成真实”的信息，受众接收到这些信息时认为是真实的，但其实是经过处理、合成后的“真实”，其本质上是虚假信息。在视频中进行深度伪造，更换关键新闻细节或人物面部特征，都足以让整个新闻事件产生截然不同的“事实”。如今深度合成事实越来越容易，部分依托于深度伪造技术的软件已经能够实现一键换脸，用户可以简单而轻松地操作，通过替换人脸、声音等特征达到伪造事实的效果。特别是新媒体时代，大量新闻的来源是各大社交媒体平台，因此社交媒体也成为新型伪造技术发挥的重要舞台，进一步加速了虚假信息的泛滥。目前市场上还没有出现可以轻易鉴别深度伪造作品的技术或工具，因此对合成产品的辨别仍是一大难题。

（二）造成“深度后真相”

“客观事实对于形塑公共舆论的影响力，不如诉诸个人的情感与信念。”这是牛津词典对后真相的定义。注意力经济背景下，传统媒体、新媒体、非专业媒体都在抢夺用户的注意力，谁能够吸引用户的注意力，谁就能率先抢占市场，由此导致了许多自媒体为了流量和曝光率不顾新闻事实的乱象。后真相时代，真相的传播呈现出扭曲状态，部分新闻媒体不求“最准”只求“第一”，在事实真相还未完全暴露之前就匆匆定下了结论。在这种浮躁的传播环境下，深度伪造具备了快速发展的条件，部分软件甚至“一键式”就能实现轻松换脸，高度逼真的“事实”混淆了大众的视听，扰乱了大众的理性思考能力。由于鉴别和识破深度伪造作品需要更高的技术、更多的时间和精力，因此立场和情绪先一步取代真相。即使最后成功鉴别并还原了真相，但是在此期间伪造作品大量传播，用户已被立场和情绪裹挟，不愿意再相信真相。注意力的争夺加上深度伪造的难以察觉，使真相愈加滞后和隐蔽。

（三）违反新闻伦理与法规

深度伪造终究属于技术范畴，技术的使用在于人为，合理使用会促进新闻行业和其他领域的发展，但是滥用的话就将侵害公民的合法权益。首先是侵犯公民的隐私权。在司法实践中，公民个人的电话号码、个人身体状况、其他隐私等受到法律保护。在新闻报道中，为了获得某些新闻当事人的线索和细节，利用深度伪造技术，编造假的新闻细节，或者随意合成图片或视频，这将侵犯公民的隐私权。其次是损害公民的名誉权。英国Wired杂志曾报道，自2020年7月份以来，一款名为DeepNude的深度伪造机器人攻击过至少10.4万名女性，每个月都有成千上万的用户使用该技术来创建他人的裸照。这些无中生有的裸照严重损害了受害者的名誉，造成她们个人社会评价降低。最后，深度伪造技术还可能侵犯公民的肖像权和声音权。深度伪造最常见的方式就是人脸与声音的合成或替换，无论是对人脸的“移花接木”，还是对声音的合成篡改，都将给公民的肖像权和声音权带来风险。

（四）带来媒体信任危机

信息爆炸的今天，受众每天面对来自媒体和众多自媒体的海量信息，其中充斥着大量带有个人情绪和主观感受的新闻信息，受众却难以及时察觉到危险的信息并加以辨别，这种态度会影响媒体的公信力。风险的社会放大理论认为，风险事件与心理、社会等因素相互作用，可以增强或减弱风险的公众感知，媒体在对风险事件进行社会加工的过程中也会对风险的强度和广度产生影响。特别是在新媒体时代，新媒体、社交媒体平台成为受众获取信息的主要途径，深度伪造制作简单，只需辅助性工具，受众即可成为伪造者，创作伪造作品。深度伪造的作品迎合受众的需求，因此在形式上更容易获得受众认同，在初期会得到受众的信任。一旦用户发现喜爱的作品是经过合成的，这种信任立马会转变为不信任，连带着对整个媒体平台都持有怀疑的态度。目前还没有开发出有效的应对深度伪造的技术，因此如果媒体在难以辨别事实真假的情况下，随意使用或者传播深度伪造作品，对其公信力会造成巨大冲击。

三、应对深度伪造的对策

面对深度伪造给新闻行业带来的负面影响，应从多个维度着手，借助社会各界的力量。新闻工作者要提升专业素质，提高辨别深度伪造作品的能力，不随意生产、传播并能够及时核查；相关部门应加强对深度伪造技术的规制，对其进行严格监管防止被滥用。

（一）专业媒体机构：完善事实核查机制

随着深度伪造技术的成熟与普及，新闻报道的客观性与公正性受到严重冲击。“合成的真实”“拼接真实”“眼见不一定为实”给专业新闻工作者对事件的判断造成了困扰。受深度伪造技术的影响，传统的核查方式很难做到客观、公正、全面。因此新闻专业主义也应当随着技术的发展丰富其内涵、拓展其体系。深度伪造技术之下，图片和视频已经不能作为有力的证据，新闻工作者需要寻找多种信息源线索并加以求证。并且传统的靠人力核查方式已经不足以核查当下人工智能时代的所有信息，这就需要专业媒体机构加快对鉴别技术的研究和引进，配合新兴的算法、大数据、人工智能、云计算等技术，辨别各渠道信息源的真实性，新闻工作者也需要尽快学习先进技术的使用，共同构建更加全面真实的新闻原貌。

（二）社交媒体平台：强化社会责任

如今，以微博、抖音、小红书等为代表的社交媒体快速发展，成为信息广泛传播的重要平台和渠道，也是对新闻信息传播造成冲击的环节之一。社交媒体的便利性，降低了利用互联网刻意散播深度伪造产品的成本。同时也得益于网络的发达，用户发布的信息能够实现病毒式传播，在传播期间，作品的发布人可以随时变换，始发者可以藏匿，这也令建立起来的监管机制难以迅速有效执行。我国现行《网络安全法》显示，网络运营者有责任对用户发布的信息进行监督管理，发现发布或者传输法律、行政法规禁止的信息，应当立即停止该信息的传输，并采取消除等措施。基于深度伪造技术的特殊性，社交媒体平台的社会责任应当强化。首先，深度伪造产品没有被明确列为是法律、行政法规禁止发布或传输的信息，因此社交媒体平台需要自觉承担社会责任，对于内容明显存在社会风险或违反法律法规的深度伪造作品进行删除和屏蔽。其次，若用户上传深度伪造作品，平台应予以明显的标记，从传播源头提醒其他受众。最后，若深度伪造产品出现大范围的传播，平台应给予限制，最大程度地减少深度伪造产品带来的负面影响。

（三）技术应对：重视辨识工具的开发

加快鉴别、监测等技术的研发是防范深度伪造的重要手段，只要让鉴别技术先于并且比深度伪造技术更成熟，那么深度伪造技术带给人类社会的危险程度就会下降，对新闻行业的冲击也会减小。尽管深度伪造技术能够合成高度逼真的图片、视频和声音，但是由于人体特征的特殊性和灵活性，任何伪造产品都很难做到与真实人物完全一样。例如，伪造人物的面部表情很难有真实人物的面部表情那么丰富和灵动。随着越来越多学界和业界人士对深度伪造技术的重视和反思，目前针对深度伪造的检测技术也有所进展。美国国防部曾研究出全球首个通过预测眼睛状态的“反换脸”工具，能达到99%的准确率。不过深度伪造技术也在不断更新换代，因此检测技术也要不断升级，先后有研究人员利用区块链和其他分布式账本技术、采取多特征融合检测方法、基于VGG16和卷积神经网络结构等方法进行检测技术的升级。不过道高一尺魔高一丈，这些检测技术还不足以应对深度伪造技术大规模的使用。相关检测技术的发展应当引起相关部门的重视。

（四）法律规制：推进监管更新

2017 年，一段关于伪造奥巴马演讲的视频引起社会各界对此技术的关注，随后美国出台了《深度伪造责任法案》等多个针对深度伪造技术的法案。中国在这方面也取得了进展，《民法典》中有规定任何组织或个人不得利用信息技术伪造等手段侵害他人肖像权。但是规定中仍然不是明确地针对深度伪造，对滥用深度伪造技术的处罚也没有明确的规定，其适用范围“肖像权”有一定的局限性，深度伪造技术不断升级，不仅会侵犯公民肖像权，还会侵犯公民的名誉权、声音权等多种权利。因此应当对相关法律进行进一步完善。此外还应当设置专门的监管部门，对深度伪造技术的运用进行严格监管，对滥用技术的组织和平台给予严厉打击，并开启投诉通道。深度伪造技术已经发展得越来越成熟，并且应用前景广阔，急需更新的法律规范该技术在市场中的运用。

四、结语

虽然目前在国内深度伪造技术还没有被滥用，但是在国外主流社交媒体平台已经出现了大量深度伪造产品，对传媒等行业产生了许多负面影响，造成了更加复杂的舆论环境。由深度伪造带来的深度假信息冲击着客观事实，混淆了大众对真相的认知，污染了传媒生态环境。深度伪造技术无论是对个人还是行业都有着极大的风险，新闻行业必须及时意识到潜在的危险性，与其他行业和部门协作应对，掌握对新技术的主动权，防止深度伪造的滥用造成更大的威胁。