限制超级人工智能,需要中国参与
2015-09-03赛斯鲍姆编译孙梦璠
博客天下 2015年18期
文 赛斯·鲍姆 编译 孙梦璠
限制超级人工智能,需要中国参与
文 赛斯·鲍姆 编译 孙梦璠
一旦机器人进化成为超级人工智能,人类极有可能完全无法招架或反攻。这种强弱形势跟人和动物差不多—无论鸡或猪如何努力,都无法摆脱由人类主宰的命运。

赛斯·鲍姆为美国非营利智库全球风险研究所执行理事,也是生命未来研究所的资助对象,资助项目名为“超级人工智能安全发展路径评估”
人工智能使人类受益良多。随着科技不断进步,人工智能仍将为人类带来便利;但同时,与其他科技一样,人工智能也可能造成危害。
当今国际上关于人工智能的争论主要集中于自主武器,即能够在无人干预情况下独立搜索、识别并攻击目标的新式武器。目前,人类还在控制着攻击行为的决策过程,包括远程无人机攻击在内;仅有极少的情况不由人类决策,例如边境自动防御系统。但是,自主武器的广泛应用或许并不久远。
自主武器的优势早已为人熟知—让士兵免受战场伤害,同时避免了无人机操作者的疲劳问题。但另一方面,自主武器在识别攻击对象的过程中,可能为了完成任务而毫无人性地伤害人类,导致更多人员伤亡。基于种种原因,人们开始反对自主武器,出现了Campaign to Stop Killer Robots(禁止机器人杀手运动)之类的国际非政府组织。
英国牛津大学哲学教授尼克·博斯特罗姆(Nick Bostrom)、美国加利福尼亚大学伯克利分校人工智能研究专家斯图尔特·罗素(Stuart Russell)以及美国麻省理工学院物理学家马克斯·泰格马克(Max Tegmark)都曾表示对超级人工智能风险性的担忧。……
登录APP查看全文
