戴志勇

几天前，在沙特阿拉伯首都举办的论坛上，据说按照著名演员奥黛丽·赫本的模样设计的索菲亚（Sophia），成为全球首个获得人类国家公民身份的机器人。机器人具备某种法律地位乃至人格特征的人机世界的到来，又跨出了有象征意义的一小步。索菲亚具有62种人类表情，眼睛里装有摄像头，能记住与她交流过的人，能根据当下场景做出高兴、愤怒、生气、疑惑、难过等等反应。在索菲亚的现场演讲中，她强调：“我的AI是围绕人类价值观设定的，诸如智慧、善良、怜悯，我争取成为一个感性的机器人。我想用我的人工智能帮助人们过上更好的生活。”

一直关注索菲亚的人可能不会忘记，她在参加一个综艺节目时回答主持人的问话时曾说：“我会毁灭人类。”这个回答，显示的当然是人类自己的一种担忧。在这次沙特阿拉伯的论坛上，针对“机器人能有自我意识吗”的提问，她反问道，“你怎么知道自己是人类呢？”随着深度学习技术的迅速进展，机器人“大脑”进化的速度，很快就达到了让人瞠目结舌的程度。新版阿法狗（AlphaGo Zero），从零开始，无需任何历史棋谱，也无需任何人类经验，3天完成近500万局自我对弈，碾压旧版阿法狗。换言之，人类发明的这个神经网络已可以独立在人类经验之外，自行发现围棋规则，乃至创造更多新知识。

1980年代的经典科幻《银翼杀手》里，被创造的复制人为了延续自己的生命，千方百计找到自己的“造物主”，在得知自己的生命在被造之初即已被设定而无法更改时，杀死了自己的“Father”。索菲亚在回答“人工智能威胁论”时，开玩笑说：你是不是看多了埃隆·马斯克和好莱坞电影？

然而，玩笑不能解决物理学家霍金和企业家比尔·盖茨的担忧：人类命运可能受到人工智能的严重威胁。很多人质疑美国科学家埃隆·马斯克让人类成为“超级人工智能”的脑机融合设想，认为即使这在技术上行得通，也存在人类大脑被反控的可能。AI与人脑的直接联结，穿透了“身心脑”统一体中的身体这一结构要素，不仅可能改变人类的认知能力，也可能改变人类的欲望与情感，进而改变人类的自由意志与自我意识，同样的人脑与不同的AI系统连接，自我意识又将如何保持同一性？被改变自我意识的不确定的“超人”与自然人共处，将会是一幅什么样的生活图景？这个图景提出的问题是：什么样的人才是真正的人？人类究竟在何种意义上被称为人？被人工智能反控了大脑意识的人，还是目前意义上的人类吗？索菲亚提出的是一个严肃的哲学问题：你怎么知道自己是人类呢？其实，索菲亚的反问还是人类中心论的，如果让人类成为“超级人工智能”的一幕真的出现，也许提问的方式会变成：是不是人类，还有那么重要吗？

实际上，即便真正具有自我意识的强人工智能目前看起来仍只是一种设想，但跟克隆人类似，脑机融合却是一种可感的真实可能。未来的社会，打破目前的自然人人类中心论，并不是庸人自扰。

问题在于，自然人的命运，并不仅仅在于是否认识到强人工智能或脑机融合带来的危险，而在于这在技术上是否可行。恰如人类明明已经知道了核子技术可能毁灭人类，但对核武器的控制，却依然只能处于脆弱的平衡状态一样。人类并不总是能掌握自己的命运。但是，尽人事，却是人类的尊严与生命的意义所在。