王四新

刚上线的换脸软件“ZAO”一夜爆红，同时也带来很多争议。除容易想到的版权、肖像权问题之外，还引发人们对用户隐私和数据安全的担忧。而隐私和个人数据安全出问题的话，又会产生社会管理问题。刚开始大家可能更多关注的是它对用户产生的影响，而用户使用软件过程中又可能对第三方产生大规模侵权，并引发更多的社会管理问题。

虽然目前它已经修改了用户协议中过度使用“肖像权”的内容，但这并不能解决它所存在的安全问题。换句话说，能不能有效保护消费者的隐私和数据安全不是通过用户协议来实现的，用户协议只是一个方面，更关键的问题是用户协议如何落实。用户数据的使用方式和保护方式，也非常重要。如果不对其进行有效监管，很可能会出现数据被非法使用并对消费者产生更多次生灾害的情况。此外，随着平台用户和数据的增多，平台网络安全措施是否足以应对用户激增以后产生的管理风险，也是一个问题。

社会管理的有效进行，建立在可以对行为的实施者进行识别并对之进行追踪的基础上的。政府可以运用社会的认证体系提升行为人的责任意识，可以利用证据等找到真正的罪犯或者说实施者，这是社会管理得以运行的基础。这类App很容易产生深度伪造（deepfake）的现象，以假乱真的视频、音频挑战了公众“眼见为实”认知，也挑战着现有社会管理的基础。从这个软件使用的情况来看，如果不严格限定其使用范围和使用方式，它完全有可能为各种各样的违法者提供技术上的便利，并给政府的有效监管带来意想不到的挑战。……