徐燕萍

DOI：10.16644/j.cnki.cn33-1094/tp.2021.11.033

摘  要： 近年来“深度伪造”技术不断迭代，在给社会带来诸多发展机遇的同时，也带来了许多伦理问题。以“Deepnude”为代表的相关色情软件，引起了社会各界人士的广泛关注与讨论。文章旨在厘清“深度伪造”的概念，分析基于深伪技术的色情软件“Deepnude”带来的侵犯女性权益、社会安全风险、信任危机等伦理问题，并从国家、相关职能部门和第三方平台的角度提出对策。

关键词： 深度伪造; 色情软件; 伦理问题; 对策

中图分类号：TP399          文献标识码：A     文章编号：1006-8228（2021）11-118-04

Ethical reflection on "deepfake" technology

——Take the one-click undressing software "Deepnude" as an example

Xu Yanping

（School of Humanities and Social Sciences， Nanjing Forestry University， Nanjing， Jiangsu 210037， China）

Abstract： In recent years， the "deepfake" technology has been iterated continuously， which has brought many development opportunities to the society， but also brought many ethical issues. Related pornographic software represented by "Deepnude" has aroused widespread concern and discussion among people from all walks of life. This article aims to clarify the concept of "deepfake"， analyze the ethical issues of infringement of womens rights， social security risks， trust crisis， etc. brought by the “deepfake” technology based pornographic software "Deepnude"， and proposes countermeasures from the perspective of the state， relevant functional departments and third-party platforms.

Key words： deepfake; pornography; ethical issues; countermeasure

0 引言

近兩年来，“深度伪造”见诸报端，成为媒体争相报道的对象。“深度伪造”是基于人工智能的一种合成技术，于2017年横空出世，在一位名为“deepfake”的美国社交用户利用该技术生成、上传一段不雅视频后，逐渐进入大众视野。发展之初，深伪技术主要用于制作娱乐视频，如人脸替换，此时期的替换痕迹较为明显，非专业人员也易于鉴别虚假视频。随着技术的飞速发展，合成的虚假图像、视频愈加逼真，同时其实现成本也逐渐降低，“深度伪造”开始走向技术普及。

如今，作为一种编织虚假信息的强大工具，再借助互联网的强“连接”性，“深度伪造”开始遍布互联网的各个角落。据中国信通院2020年12月9日发布的《人工智能安全框架（2020年）》蓝皮报告显示，随着全球人工智能规模化建设和应用加速，人工智能带来的安全风险日益凸显。“深度伪造”作为人工智能的一项子技术，其带来的诸多安全风险同样值得我们警惕，比如已经引发民众担忧的色情视频、声音诈骗、扰乱政治选举等问题。当伪造内容越来越数字化，我们势必应予以重视。

1 “深度伪造”技术

“深度伪造”由英文“deep machine learning”（深度机器学习）和“fake photo”（假照片）组合而成，本质上是一种深度学习模型在图像合成、替换领域的技术结合，属于深度图像生成模型的应用。

“深度伪造”能基于人类行为特征如面部、声音等合成图像、视频、音频。2014年有研究者提出了“对抗生成网络”（Generative Adversial Networks，GAN）。GAN的核心思想在于两个网络：生成器和判别器。生成器负责生成图像欺骗判决器，判别器负责区分真实或合成的图像，这两个网络在不断博弈中能产生逼真的图像输出结果，“深度伪造”便是基于GAN原理的一种技术。

目前，“深度伪造”已被应用于电影、广告、医疗、政治、媒体等诸多领域。正如“技术中性论”这一科技价值观，即科技的每一次突破，都会带来意想不到的福音。利用“深度伪造”技术，电影公司能轻松替换影视作品中演员的脸、广告主能实现一键“虚拟试衣”与千人千面的广告植入、医疗人士能利用该技术改善医学图像分析等等。但基于“深度伪造”技术的应用并非都是正面积极的，一些应用也在挑战着伦理边界，甚至构成了犯罪。如利用“深度伪造”技术制作色情视频，进行声音诈骗，篡改图像和视频传播虚假新闻，以及扰乱政治、操纵舆论等诸多问题。

2 色情软件“Deepnude”带来的伦理问题

根据2019年一项针对15，000个“深度伪造”视频的统计显示，96%的深度伪造视频是黄色成人视频。基于此，文章主要对深伪技术所带来的色情视频泛滥这一伦理问题进行探讨。2019年6月，一键脱衣软件“Deepnude”刷爆网络。据英国Wired杂志报道，2020年7月份以来，至少有10.4万名妇女受到深度伪造机器人“Deepnude”的攻击。“Deepnude”软件使用深度学习和生成对抗网络生成受害者的裸体图片，其AI算法是在真实裸照的大型数据库上训练出来的，能够在最终图像中合成身体敏感部位。用户只需上传一张女性照片，软件就能在30s内自动除去女性的衣物。可见，“深度伪造”技术将假冒滥用推向了危险的新领域，带来了侵犯女性合法权利、社会安全风险、信任危机等伦理问题。

2.1 侵犯女性合法权益

2.1.1 肖像权

“Deepnude”软件在生成色情视频之前，需要相关女性的照片作为样本，以此将色情视频中女演员的脸替换为其他女性的脸，这显然侵犯了女性的肖像权。肖像权作为一种重要的人格权，在我国的诸多法律条文中都对保护肖像权作出了明文规定。且根据2021年1月1日起实施的《民法典》第一千零一十九条，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。

2.1.2 名誉权

每个公民或法人都具有保持并维护自己名誉的权利，色情视频并非是积极向善的东西，对女性受害者的名誉会造成一定损害。女性受害者分为两类：女明星和普通女性。女明星由于知名度高，伪造视频较易被澄清，但却没有人去为普通女性证实/澄清。对于普通女性而言，這些色情伪造视频不仅会损害她们的名誉，她们的工作前景、人际关系和精神健康都会受到影响，甚至完全毁掉她们的生活。

2.1.3 隐私权

隐私权起源于19世纪末的西方，我国在2010年的《侵权责任法》中将隐私权正式明确列为独立的权利。如今对个人隐私的追逐已成为商业机构获利的方法之一，正如“Deepnude”软件通过挖掘女性在社交媒体上发布的照片生成色情内容获取利益。印度记者拉娜·阿尤布曾因卧底报道了印度某暴乱中的教徒屠杀，被报复者利用“Deepnude”软件伪造了色情视频。随后阿尤布的个人信息被曝光，并受到了大量死亡和强奸威胁。这一事例足以证明色情伪造视频对女性隐私权的侵犯。

2.2 威胁社会公共安全

眼下，技术能重塑人们的认知这一点无可辩驳，正如算法能通过个性化推送固化人们的既有认知，同样的，“深度伪造”的开发者也将固有的偏见传递给了技术[1]。色情造假软件背后隐藏着深刻的社会性结构偏见，并通过技术放大了这种不公正的社会结构，强化了既有的、结构性的性别秩序[2]。因而，软件极有可能沦为男性“色情复仇”的武器，造成一些恶性犯罪事件。其他伪造内容同样存在安全风险，2018年，社交媒体软件“WhatsApp”上有人造谣多名印度人绑架小孩或涉及其他犯罪，导致这些人遭受暴力致死。未来可能还会有不法分子利用伪造内容，煽动暴力冲突，威胁公共治安、公民的生命安全。

“深度伪造”带来的财产安全、政治安全问题同样值得警惕。2019年3月，英国某能源公司被敲诈22万欧元，正是因为犯罪分子利用了“深度伪造”技术模仿公司CEO的声音。近年来“深度伪造”语音诈骗正在兴起，目前的诈骗对象多为公司高管，未来诈骗对象可能会涉及普通民众，威胁民众的财产安全。其次是政治安全问题，“深度伪造”可能会在背后操纵选举，对西方国家的民主选举造成威胁。2016年美国选举期间，就有特朗普的支持者伪造其竞争对手南希佩洛西的演讲视频，使其看上去像喝醉了酒，说话含糊不清。未来“深度伪造”可能继续被用于伪造政治领导人的相关视频，扰乱政治安全，干扰选举。

2.3 引发社会信任危机

目前色情伪造视频已经发展到了高度精准化的程度，普通人难以鉴别真伪，这会进一步引发人与人之间的猜疑，将人们包围在“不确定性”之中，使社会的信任体系面临崩塌。此外，“深度伪造”对企业信誉、媒体信誉也会产生影响。企业信誉是一个企业在激烈的市场竞争中屹立不倒、维持其经营活动的必要条件。设想某企业在首次募股前，被人恶意伪造该企业CEO宣布破产的假视频，后果将不堪设想。同样的，利用“深度伪造”技术篡改企业负责人的公开谈话视频，诋毁其形象，也会影响到企业的信誉与经济利益。而利用“深度伪造”传播虚假新闻，对媒体的公信力也会造成破坏。后真相时代，媒体已经面临信任危机，若公众长期处于“深度伪造”营造的虚假信息环境中，更会加剧这种不信任[3]。

3 “深度伪造”伦理问题的解决对策

现如今，“深度伪造”的门槛已大大降低，普通人通过一台手机、电脑甚至某个软件就能实现AI换脸。如2019年风靡国内社交媒体的软件——ZAO，用户只需上传一张自己的照片，就能轻松实现人脸替换。技术门槛的降低同时，也意味着风险的增加，因此，相应的防御措施、解决对策需尽快提上日程。

3.1 国家：制定相关法案

在新技术的治理与风险防范方面，法律规制一直是必不可少的手段[4]。我国目前还未针对“深度伪造”专门立法，但相关法案已有所涉及。如2019年11月29日国家网信办发布的《网络音视频信息服务管理规定》第10-13条，提出了AI造假视频不得随意发布等诸多相关规定;2020年3月1日发布的《网络信息内容生态治理规定》中，规定网络信息内容服务使用者、生产者和平台不得开展网络暴力、人肉搜索、深度伪造、流量造假、操纵账号等违法活动。总体上，我国关于人工智能等先进技术的立法还不全面。因此，在立法方面可以借鉴美国，美国是最早提出对“深度伪造”技术进行立法的国家，相关法案较多且比较完善。如2018年12月，美国参议院提出的《2018年恶意伪造禁令法案》;2019年3月，美国参议院提出的《2019年商业人脸识别隐私法案》;2019年6月，美国参议院提出的《2018年恶意伪造禁令法案》等等。这些法案针对“深度伪造”可能造成的风险作出了各种规定，值得我国借鉴。

3.2 相关职能部门

3.2.1 政府：加强对公民的宣传教育

随着人工智能技术的不断迭代，基于“深度伪造”合成的视频将会越来越逼真，普通公众难以鉴别，也容易上当受骗。为此，政府首先应加强对公民进行“深度伪造”这类新兴技术的宣传与教育，为公民科普相关知识，提升公民的警惕意识。其次，注意力经济时代，政府要注重培养公民的信息素养。由于“深度伪造”产品比较新颖，能够抓住人们的猎奇心理，如果公民不假思索地跟着转载、点赞，很可能会加速和扩大假消息的破坏性影响。因此政府在确保为公民提供可靠信息渠道的同时，也要教育公众审慎传播信息，避免虚假信息的二次传播与泛滥。最后，政府也应资助“深度伪造”检测工具的研发，尽管目前还没有完善的检测技术，但伪造内容也并非毫无破绽。为了在新的“深度伪造”产品出现之后能尽快地研发出相应的检测工具并推广，政府的资助是必要的。

3.2.2 专家：制定相关的伦理指南

眼下，一些不法分子公然利用“深度伪造”技术展开犯罪活动，有些行为如伪造色情视频或许尚不构成犯罪，但也对他人造成了一定伤害。由于网络的使用成本低，检测技术也不够精准能够找到伪造者，因此，对于“深度伪造”技术的治理，将会是一场持久战。除了硬性措施的规范，也离不开道德的约束。在这方面，可以借鉴欧盟人工智能高级专家组于2019年4月8日发布的《可信赖AI的伦理指南》[5]。指南第一章就概述了适用于人工智能系统的四项伦理原则：①尊重人类的主体性;②避免伤害;③公平性;④可解释性。该指南将这些原则视为AI从业者应始终坚持的“伦理准则”。我国也可以参照该指南制定相应的“深度伪造”伦理指引，虽然伦理准则不具备强制约束力，但对于规范“深度伪造”创建者、使用者的行为，也能够起到一定的作用。

3.2.3 研发机构：开发检测技术

应对“深度伪造”技术带来的伦理问题，开发相应的检测工具至关重要。目前学界和业界已经有了诸多研究成果：2019年，加州大学伯克利分校和南加州大学的一个团队训练了一个模型，来寻找精确的“面部动作单位”以识别伪造视频[6]。近日，来自商汤科技的研究人员与新加坡南洋理工大学合作，设计了“DeeperForensics-1.0”，這是一种用于人脸伪造检测的数据集，这些数据集带有标签，能够指示哪些内容是由人工智能处理的。此外还有专门针对声音的检测工具，如Resemble团队研发的名为“Resemblyzer”的开源工具，该工具使用人工智能和机器学习来获取语音样本的高级表示，能够预测语音的真实性。国内也有许多相关研究成果，如腾讯优图实验室的人脸合成检测平台——“FaceIn人脸防伪”、人工智能企业RealAI研发的深度伪造视频检测工具——“DeepReal”等等。但目前检测器还未能达到完美的精度，深度伪造的假冒者身份仍然无法确定，并且由于生成器和鉴别器之间持续博弈的状态，任何检测技术随时都可能被突破，未来仍需不断完善与发展。

3.3 第三方平台：加强监管，完善管控措施

如今，社交媒体已成为人们获取信息的重要渠道，同时社交媒体也是造假者发布伪造内容的天堂。当平台发现伪造内容时，是简单删除规避责任还是任其传播？显然，全盘否定与放任自由都过于极端。社交媒体应主动承担社会责任，从各方面出台管控措施[7]。与第三方合作以识别伪造内容是社交媒体的首要任务，如脸书为应对社交网络中充斥的色情视频造假问题，发起了“深度伪造”挑战赛，与微软以及麻省理工、牛津等院校的学者合作，力图开发能有效识别假视频的技术。在能够识别伪造内容之后，社交媒体应建立统一的标准管控伪造内容。目前各大平台标准不一，有些只删除使用人工智能制作的假视频，有些对伪造视频和剪辑视频都会贴上假视频的标签，这种模棱两可的做法可能会让伪造者有机可乘[8]。因此，各大社交平台应选择合作，针对“深度伪造”建立统一的管控标准。对于一些违反伦理道德、构成犯罪的伪造内容，严格将其下架，对于一些普通的伪造内容也要贴上相关标签，以防误导受众。

4 结束语

在“深度伪造”技术迅猛发展的当下，本文以色情伪造软件“Deepnude”为个案，探讨了“深度伪造”技术可能会带来的系列伦理问题，包括侵犯女性权益、社会安全风险、信任危机等等。此外，本文提出了国家应制定相关法案、政府应加强对公民的宣传教育、专家应制定相关伦理指南、研发机构应开发检测技术以及第三方应加强监管、完善管控措施等建议。虽然目前“深度伪造”还未在我国得到大规模应用，但国外的种种案例警醒我国也应提前针对“深度伪造”做好对策部署，在具体如何应用“深度伪造”技术层面，值得进一步研究。

参考文献（References）：

[1] 位云玲，冯广圣.算法新闻推荐的社会责任反思[J].新闻知识，2020.9：23-26

[2] 吕志文.构建与解构：“男性向”网络小说改编剧分析[J].艺海，2020.7：82-83

[3] 位云玲.新闻反转的内在机理、影响及治理探究[J].新闻知识，2019.4：86-89

[4] 李越，吴斯，冯广圣.UGC视角下的网络社区内容分层管理个案研究——以站酷社区为例[J].东南传播，2019.7：121-123

[5] 张涛.后真相时代深度伪造的法律风险及其规制[J].电子政务，2020.4：91-101

[6] 陈昌凤，徐芳依.智能时代的“深度伪造”信息及其治理方式[J].新闻与写作，2020.4：66-71

[7] 王灿.基于营销3.0视角的企业整合品牌传播研究——以宜家家居为例[J].东南传播，2019.5：136-138

[8] 高威，萧子豪，朱益灵.DeepFake技术背后的安全问题：机遇与挑战[J].信息安全研究，2020.6（7）：634-644