刘洪波

如果世界将由人与机器共治共享，世界主宰是“人+机器”还是“机器+人”？

随着芯片能做的事情越来越多，人们开始预计即使不设想计算机将人类驱逐或矮化成奴仆，至少要准备与计算机共享和共治世界。

这样的预期，在近两年里已经开始普及化、常识化了。以前，这样的预期还是“先锋思想”。机器写作使“知识生产和创造”领域似乎不再由人脑独占；机器棋手稳定地下赢人类棋手，更是制造了大众话题。过去说，核武器意味着人类掌握了毁灭自身的能力，还只是将世界炸回到地质时代；现在担忧机器的人，描绘的则是“硅基理性”消灭“碳基理性”，或将人类变成“次等存在”的景象。

人造硅基产品对人自身能力的超越，与重型机械、火车飞船等器物大为不同，它超越的不是人类的身体机能，而是人类的大脑机能，尽管现在还只是在诸多专门领域。但以计算机来看人，人只不过通用性强一些的数据处理机器和算法工具罢了。人类的“本质”是什么，语言吗、逻辑吗、思维吗、情感吗，机器机能的增强可能使这些动摇，那么人有什么理由主宰世界万物，有什么资格主张“万物皆备于我”？

其实，把想法固定到石壁或纸张上，就是超越大脑机能，“好记性不如烂笔头”，大脑记忆不如一张纸。现在的问题是机器好像有“活”起来的趋势，死记忆变成“活思想”，机器可能基于思考来行动，产生“自我意识”和“主体建构”，从而成为另一种思维行动体，开始“机器自演化”和“机器社会”的建构，进而对人类这个“父亲”进行弑杀。霍金、比尔·盖茨、特斯拉公司的CEO马斯克都担心人工智能获得自我进化能力那个“奇点”的到来。

人制造智能机器，是否有能力将它束缚在“工具”“非人”等从属地位？即使只是做工具，机器也正在宣布越来越多的人将被夺去饭碗，不再具有作为生产者的资格，不再具有作为劳动者的“资质”，而只在消费和享乐的意义上具有意义，如果机器智能真的迎来“奇点”，它们会认可人类作威作福的地位吗？“机器人定律”是人的主观动机还是真能让机器不反对人类，人类理性的最终是疯狂还是更加理性？如果世界将由人与机器共治共享，人是否会承认机器具有与自己同样的权利，世界主宰是“人+机器”还是“机器+人”？就算樂观地说，未来将是“增强人”而“增强机器”的世界，在“增强人”与那些未得到“增强”的自然人之间还是否能平等，人是否在制造与自身对立的杀不死的上帝？

机器间的关系是指令式的，机器与人之间的关系也是指令性的，而人与人之间的关系则是社会的、情感的、政治的，总之是柔性的、相互生成的，这只是现状，一些人担忧的不正是机器迎来那个爆炸性的“奇点”吗？假如“克隆人”破壳而出，这个完全具有生物定义上“人”的特征、心理和社会意义上人的可能性的人造物，我们是准备将它作为单纯的器官供体、可供驱使的活机器，还是准备宣布它们享有与人同等的权利？克隆人与自然人、“自然增强人”之间的关系会是怎样？

今天，人类可能终有办法解决问题，但“车到山前必有路”，有时不过是鸵鸟主义态度。有人认为工业革命以来，技术变革从来没有威胁到人类本身，这显然低估了“文明人”对全球土著的杀戮，以及两次世界大战的代价。思考人工智能的各种可能，大概像最早主张土著与“文明人”具有同样的地位，而不是“人类学博物馆”里的活标本、“进化阶段”的活证据。

人工智能可能的前景，远不只是人们的工作机会被挤压。恐慌无济于事，该来的总会到来，但哪怕全是好事，做做“万一不幸”的思想实验，设想一下人将何为、人的本质是什么、人的不可替代的价值何在、人文社会科学是否可能有另一幅面貌、人类思想言语化和社会建构是否有另外的格式，至少也别有趣味。