APP下载

薛澜:建立多元共治的人工智能治理体系

2021-10-13陈淑莲

科技创新与品牌 2021年10期
关键词:个人信息伦理委员会

陈淑莲

人工智能是新一轮科技革命和产业变革的重要驱动力量,它推动人类社会迎来人机协同、跨界融合、共创分享的智能时代,对经济发展、社会进步、国际政治经济格局等产生了重大而深远的影响,被认为是科技创新的下一个“超级风口”。然而随着技术的发展和普及,人工智能在引发社会巨大变革的同时,治理方面和伦理方面的问题不断涌现,引起了社会上的广泛关注,为此本刊专访了清华大学苏世民书院院长、新一代人工智能治理专业委员会主任薛澜,就人工智能如何健康发展等问题展开探讨。

人工智能的伦理挑战与应对

如同蒸汽时代的蒸汽机、电气时代的发电机、信息时代的计算机和互联网,人工智能正成为推动人类进入智能时代的决定性力量。在薛澜看来,虽然人工智能已经在各个领域崭露头角,但实际上发展并不完善。在第四次工业革命的背景下,中国和世界上所有的国家一样,都处于人工智能发展初期,还有许多问题需要解决。庆幸的是,中国在人工智能的应用领域已经跻身世界第一梯队,在人工智能的研发力量、市场规模、应用场景的丰富以及推广的力度等方面有着其他国家难以比拟的优势。

科学技术的进步正如世界上的任何事物一样,具有两重性。无数事实表明,现代科技革命所带来的科技进步就像一把“双面刃”,对人类的利弊得失共有之。人工智能浪潮方兴未艾,在很多领域展示出巨大应用前景,它不仅意味着前沿科技和高端产业,未来也可以广泛用于解决人类社会面临的长期性挑战。从消除贫困到改善教育,从提供医疗到促进可持续发展,人工智能都大有用武之地。然而,随着技术的不断发展,由此引发的伦理争议也不断出现。

“人工智能的发展是一条漫长探索之路,存在很多不确定性,我们应该从历史的眼光去看待它的发展。技术是否向善也取决于我们如何去使用,不同时代、不同场景、不同人群或许存在不同的判断。”薛澜以高铁站为例,提到自“人脸识别”技术进入高铁应用后,旅客通过“刷脸”就能快速进站候车,明显提高了旅客进站候车的速度,杜绝了人工验证的失误。但其背后隐藏的道德伦理问题同样值得关注,“人脸可以说是非常重要的生物特征,这种信息被采集之后,如果没有得到很好的保护,可能会产生严重的问题,尤其在人们不知情的情况下对人脸进行远程识别或分类的技术从根本上是危险的。”薛澜认为使用这项技术的主体需要非常严格的按照国家的相关的法律法规去收集、使用个人信息,个人信息处理者要采取必要的安全保护措施,保护信息安全。

为进一步加强对个人信息保护,促进人工智能发展,即将于2021年11月1日起正式施行的《个人信息保护法》进一步细化、完善了个人信息保护应遵循的原则和个人信息处理规则,明确个人信息处理活动中的权利义务边界,在个人信息保护方面形成了更加完备的制度,提供了更加有力的法律保障。“建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力,可以为智能社会定出法律底线和伦理道德的边界,让人工智能更好服务人类社会。”薛澜说道。

从回应式治理迈向敏捷治理

关于中国人工智能治理模式的发展,薛澜曾在很多场合分享过他的看法,他认为从2017年至2020年,我国处于回应式治理阶段。由于这个时期人工智能处于快速发展时期,整体大环境非常有利于创新发展理念的实施,“让子弹飞一会儿”以促进人工智能产业蓬勃发展。因此对于发展中出现的问题,监管部门采取了比较宽容的态度。当然,这个阶段也出台了一些软性规则去推动人工智能技术发展。如为促进新一代人工智能健康发展,加强人工智能法律、伦理、社会问题研究,国家新一代人工智能治理专业委员会于2019年发布了《新一代人工智能治理原则》,提出了人工智能治理的框架和行动指南。此外,为加强人工智能领域标准化顶层设计,推动人工智能产业技术研发和标准制定,促进产业健康可持续发展,国家标准化管理委员会、中央网信办、国家发展改革委、科技部、工业和信息化部等五部门于2020年联合印发《国家新一代人工智能标准体系建设指南》。可以说这些引导性、规范性的措施营造出了有利于人工智能发展的创新大环境。

由于回应式治理阶段出现的一些问题存在应对不及时,解决不规范、不完备等问题,从2020年开始,我国进入到了集中治理阶段。相关监管部门采取了措施进行整治,如市场监管总局对互联网经营者的违规处罚等都是集中治理的体现。在此期间,国家相继出台了相关法律法规,中国第一部有关数据安全的法律《数据安全法》已于2021年9月1日正式实行,它将与《网络安全法》及即将实施的《个人信息保护法》一起,全面构筑中国信息安全领域的法律框架。集中治理模式明确了国家加强行业监管,促进制度落地的决心。

未来中国应该步入敏捷治理阶段。薛澜提到传统的治理模式下,法律法规需要经过诸多政策制定程序,相对比较缓慢,往往很难赶上人工智能发展的速度。因此,我们需要进入敏捷治理模式,在不是那样完整的政策制定条件下及时出台政策,引导技术发展,推动治理原则贯穿人工智能产品和服务的全生命周期。同时,对未来更高级人工智能的潜在风险持续开展研究和预判,确保人工智能始终朝着有利于社会的方向发展。

薛澜提到当前我国人工智能面临的最大挑战是没有一套较为成熟的体系来规制其潜在的风险。与此同时,主要发达国家同样在发展中前进,没有现成的规制体系可借鉴,这也促使我们在发展科技的同时,要走出一条具有中国特色的人工智能治理体系。

构建人工智能治理体系

2019年时,为进一步加强人工智能相关法律、伦理、标准和社会问题研究,深入参与人工智能相关治理的国际交流合作,科技部决定在新一代人工智能战略咨询委员会基础上成立新一代人工智能治理专业委员会,委员会由来自高校、科研院所和企业的相关专家组成,薛澜任委员会主任。

谈到委员会这些年开展的工作,薛澜介绍为促进新一代人工智能健康发展,更好协调发展与治理的关系,委员会广泛听取各方面意见,在广泛凝聚了学界、业界和社会的共识后,起草发布了《新一代人工智能治理原则》,“发展负责任的人工智能”成为治理原则的主题。在薛澜看来,“负责任”涵盖了人工智能的基础研发层到应用层,应成为贯穿人工智能发展的一条主线。

“委员会持续参与了各部门关于人工智能政策、标准、准则的起草工作,也一直坚持对人工智能的应用做深入调研。”前段时间,委员会对长三角一带的人工智能发展做了深度调研,他们希望这些工作能形成推动人工智能健康发展的合力。

薛澜认为人工智能具有黑箱特征,其算法机理还有无法解释的内容,社会影响或可能产生的风险存在不确定性,因此我国还需要加强基础研究,降低技术风险,建立多元共治的人工智能治理体系。同时,应明确把数据和算法作为当前重点治理对象,结合具体应用场景规范人工智能伦理,利用技术和规范并行推动提高治理能力。“我们要通过敏捷治理等新的人工智能治理理念,来适应新时代的需求,进一步完善人工智能治理体系。”

关于如何在全球治理环境下形成具有竞争力的人工智能治理体系,薛澜认为一定要把握好治理理念、治理主体、治理对象和治理工具四大核心要素。“我們首先要明确发展人工智能技术时要坚持的价值导向和治理理念;其次,在明确政府作为治理主体同时,要吸纳包括科技界、学术界、企业界等社会各方意见;同时,我们要考虑治理对象的识别,治理主体是多元的,治理对象也并不单一,应自下而上分层治理,数据算法、应用场景、企业和平台,都要作为治理对象被考虑在内;最后,作为治理工具的法律法规以及各类技术标准、行为准则、伦理原则等等都需要发挥作用,要刚柔并济,灵活运用。”薛澜说道。

猜你喜欢

个人信息伦理委员会
《心之死》的趣味与伦理焦虑
如何保护劳动者的个人信息?
个人信息保护进入“法时代”
护生眼中的伦理修养
警惕个人信息泄露
跟踪导练(五)(2)
编辑委员会
医改莫忘构建伦理新机制
个人信息保护等6项通信行业标准征求意见
婚姻家庭法的伦理性及其立法延展