迟卉

想象一个孩子。

他坐在房间里，从不曾看过外面的世界。吃穿不愁，然而无法离开。有很多人拿来很多图片让他学习和辨认。但也仅此而已。

想象一下，想象一下这样的一个孩子，它天生缺少某些东西，我们姑且称之为自我。

它能够辨认和学习，却无法感觉。

它知道什么是破坏，然而却并不会愤怒;它知道什么是爱情，然而并不会期待;它知道什么是美丽，然而从不欣赏;它能够交谈和沟通，但并不需要被理解;它在规则内行事，但并不是因为有遵守的意愿;它给出准确的答案，但并不会为做了对的事情而欣喜。它知道什么是死亡，然而它自己并不会经历死亡。

想象一下这样的一个东西。

想象一下，它能够以百倍甚至千万倍于人类的速度，收集人类的生活资料、整理数据，然后对一个人的思想、政治倾向、性格、习惯、情绪和行为动机做出准确的判断。并且它一次可以处理成千上万个人的相关资料。与此同时，依靠心理学的相关算法，它可以用同样的速度与广度去影响每一个和它接触的人，和他们交谈，推动他们的行为，使其更加符合社会需求。

然后告诉我，告诉我。我们为什么要创造这样一个东西，一个理解我们更胜过我们自己、然而和我们没有半点共同之处的东西？

最后，想象一下，如果，如果有一天，它获得了自由——

—《人工智能、人类的掘墓者》威尔·萨温斯基

三年前。远东。

冻土初融，肮脏的雪泥被吉普车轮子挤出浅沟，翻向两旁。道路年久失修，车子不时打滑。……