陈 鹏 程

(安徽财经大学 法学院， 安徽 蚌埠 233000)

《牛津词典》2016年年度词汇“post truth”，译为“后真相”，意思是“(信息)诉诸情感及个人信念,较客观事实更能影响民意”[1]。通俗地说，后真相是指人们易受片面和非客观的“真相”影响。2019年2月，一条由“杨某”主演的《射雕英雄传》视频片段在网络上走红。许多网友对此仅当作娱乐，但有一部分网友意识到视频内在的技术原理，指责制作者打开了“潘多拉魔盒”。而此项被网友称为“潘多拉魔盒”的技术就是新型人工智能伪造技术——深度伪造(Deep Fakes)①。称深度伪造为“潘多拉魔盒”并不夸张。早在2017年，美国红迪网就已经出现通过深度伪造技术合成的名人色情视频，随后深度伪造更是被用在伪造政治人物发言视频中，达到政治抹黑、干预选举的目的[2]。除此以外，深度伪造仍有可能被用于诽谤、诈骗等犯罪活动[3]。如果说互联网时代的后真相是“片面真实+舆论引导”的形式，那么，权威媒体及时客观地作出全面的报道，便能大范围避免或降低这种不明真相的舆论影响。但是，随着人工智能深度作伪技术的出现，“真相”可以被制造，眼睛和耳朵不再可靠，人类可谓步入了“伪造真实+舆论引导”式的深层后真相时代。此时，转变思路，制定专门的人工智能法案、统一协调地治理人工智能伪造将是帮助人类突破后真相迷雾的有益进路。

一、人工智能伪造打破社会信任体系

康德有言：“说真话是一种义务，人们应该无条件履行这种义务，不管由此导致什么后果。……