李华晶

起：人工智能应当性本善

机器伦理并不是新鲜话题，而且从一开始就确定了善的本性。在标志人工智能诞生的1956年达特茅斯会议之前的1942年，美国作家艾萨克·阿西莫夫就在其短篇科幻小说《环舞》中提出了具有伦理属性的机器人三定律：第一，机器人不得伤害人类，或者不能无视受到伤害的人类；第二，在不违背第一定律前提下，机器人必须服从人类命令；第三，在不违背第一与第二定律前提下，机器人有义务自我保护。

这三个定律虽然来自近80年前的科幻作家，却一直伴随并深刻影响着人工智能技术的发展，就像悬在空中的“达摩克利斯之剑”，时刻警示着人们防止人工智能像罂粟花一样美丽绽放之后结出恶果。

1950年，阿兰·图灵发表的论文《计算机器和智能》被视为人工智能的先声。其实，这篇发表在英国哲学杂志《心智》上的论文也是哲学史上的经典之作，不仅展示了人工智能技术的发展方向，同时也提醒了人工智能对人类的可能威胁。标志人工智能缘起的1956年达特茅斯会议成员马文·明斯基，被称为人工智能之父。他在2012年接受他的学生、奇点理论提出者雷·库兹维尔的采访时说，他相信奇点的到来，机器智能超越人脑可能就在我们的有生之年。霍金生前也多次警告“人工智能在并不遥远的未来可能会成为一个真正的危险”。

虽然现在尚无法确定人工智能是好是坏的唯一答案，但可以确定的是人工智能应当性本善。人类要尽全力确保人工智能发展对于人类和环境有益，尤其在人工智能再次爆发的今天，人工智能性本善应当受到关注和重申。……