中图分类号：D924 文献标识码：A 文章编号：1007-8207（2025）07-0075-15

一、引言

自2022年底Open AI推出生成式人工智能ChatGPT以来，因其能利用复杂算法和深度学习模型辅之大数据集中学习，具备强大的文本处理能力和流畅应对能力而惊艳世界，短短两个月用户即破亿。而Sora和Demo等模型的问世，更是将生成式人工智能推向了前所未有的关注高度，它们表明生成式人工智能相关模型获得了可媲美人类的判断推理和行动能力。就技术而言，生成式人工智能遵循着“准备-运算-生成\"的运行逻辑，借助日益强大的算法和成熟的前置训练数据，最终产生了与原始数据类似但又新颖独特的文本、图像、音频和视频等信息，简而言之即模型根据指令生成某种内容。可见，创造性与自主性是生成式人工智能的重要特征。

然而，在技术狂欢背后却暗藏着风险，由于训练数据可能存在的漏洞以及算法固有黑箱等，生成式人工智能输出的新内容可靠性低，极易产生虚假有害信息。此外，技术获取的便利性也大大降低了虚假有害信息生成成本，其可借助新型媒介广为传播。加之，技术进步导致犯罪门槛降低和监管缺失，进一步加剧虚假有害信息的泛滥，极易滋生恶劣影响。英国学者辛顿曾警告称：“生成式人工智能正制造大量虚假的文本、图片和影像如不有效规则，人类将失去对AI的控制。”虽然因技术进步而引致的虚假有害信息已然出现，但相较于之前技术，生成式人工智能技术具有高度自主性以及交叉性，其不仅可“主动\"凭空捏造或“被动\"训练出虚假有害信息，而且虚假有害信息高度逼真以致难以跟踪治理。……