王?峰 栾群

大数据、云计算等技术的进步促进了人工智能产业发展，成为未来经济社会发展的重要方向和支柱。人工智能开始在各个领域广泛应用，带给人类便捷与高效的同时衍生出一系列安全问题，如数据与个人隐私的保护、算法透明度与可解释性的缺失、系统安全风险等，安全问题也成为阻碍行业发展的一个主要障碍。解决这一问题需要靠技术，同时还要加强法律治理，确保人工智能安全、可靠、可控发展。

目前存在的主要风险

数据与个人隐私保护防范难度增加。人工智能的发展需要海量数据的收集、应用和共享，但是，数据收集、深度处理和全球化传递中都可能危及数据和隐私安全。主要表现在三方面：一是智能设备和算法对于个人隐私的发掘分析能力远超以往技术，隐私所有权人防范的难度大大增加。二是用于身份识别验证的生物信息具有较强的稳定性，一旦发生泄露无法找回或重置，生物信息的价值大大减损，且与个人生物信息绑定的相关安全验证都将面临很高的安全风险，目前对生物信息安全问题关注远远不够。三是个人行为数据被智能设备和定位系统记录、存储和分析后会全面呈现个人的行为偏好、习惯和生活状态，目前只规制“出售或提供行踪轨迹信息，被他人用于犯罪的”情形，其他领域行为数据如何保护尚缺少相应规定。

算法透明度与可解释性缺失。一是人工智能算法的学习与决策存在海量数据本身的不确定性，使得算法的决策过程和决策规则难以被人类明悉，造成人工智能算法的透明度与可解释性缺失。……