高霈宁

什么是人工智能？

1950年，“人工智能之父”圖灵提出了一个鉴定机器是否具有智能的方法—“图灵测试”。他认为，让若干测试者在与机器隔开的情况下随意向机器提问，如果机器的所有回答中有30%让测试者误认为它是人，那么就可以说机器具有智能。今天，尽管偶尔有计算机程序通过了“图灵测试”，但是以模拟人的思维为目标的通用性人工智能仍然离我们较为遥远。2017年机器人“索菲亚”被授予沙特阿拉伯国籍，而且在接受媒体采访时对答如流、妙语连珠。然而不久即曝光出“索菲亚”不过是在背诵事先设定好的台词而已。即使苹果公司的智能语音助手Siri也不断被全球用户吐槽过于笨拙，像个智障。

通用型人工智能的发展不尽如人意，而美国哲学家塞尔则将矛头直接指向了“图灵测试”。塞尔认为，即使机器能够与人类进行对话，也丝毫不能证明机器能够理解人类语言的意义。他提出了一个“中文屋”的思想实验。假设有一个完全不懂中文的人被关在一个屋子里，屋里只有一大堆中文符号和一本说明书。屋外的人频频递进来一些用中文书写的问题卡片，而屋内的人则按照说明书的指示将相应的中文符号递出去。假设说明书记录了所有问题的答案，那么屋内的人就能够成功地骗过屋外的人，让对方相信自己是懂中文的。塞尔的这个反驳有力地证明了，智能的存在与外在行为之间没有必然的联系。

不过，通用型人工智能的发展遭遇瓶颈并没有阻碍人工智能的进步，反而引导它更多地向着功能型方向发展。功能型人工智能不追求“再现”人的思维，而是专注于某个特殊的领域，如自动驾驶、语音识别、人脸识别等方面。这一转变让人工智能脱胎换骨，不仅不再显得“笨拙”，而且还展现出了远超人类的“智力水平”。例如击败卡斯帕罗夫的计算机“深蓝”和击败柯洁的AlphaGo就属于功能型人工智能。在人工智能如此强大的运算和学习能力面前，人类只能望而却步。

500年前，莎士比亚说人是“宇宙之精华，万物之灵长”。而如今，人类在智力上却受到了人工智能的全面碾压。被自己的造物所超越，这究竟是幸还是不幸？

值得庆幸的是，即使人工智能在功能性上可以完胜人类，但是在通用性上却依然“弱智”。无法与人类进行流畅的对话，意味着它仅仅能够完成被指派的特定任务，却无法进入意义的世界。北京大学哲学系教授何怀宏在《奇点临近：福音还是噩耗》一文中提出，哲学、宗教、文学、艺术这些人文领域可能是人类最后可以保守的家园，因为这是独属于心灵的世界。

机器人会反叛人类吗？

南风窗：通用性人工智能一直是很多人梦寐以求的目标。2017年机器人索菲亚被授予沙特阿拉伯国籍，科幻电影中还描述过未来人类抚养机器人小孩，或者和机器人谈恋爱的场景。如果当有一天，人工智能和人的行为难以区分时，我们是不是可能会以人的态度来对待它们？

何怀宏：通用型机器人在某种意义上讲就是超级机器人，或者说是很类似于人的智能，乃至超过人的智能的机器人。关于机器人索菲亚被授予沙特阿拉伯国籍这件事，我觉得这很可能只是一种宣传，乃至说是媒体的噱头，因为机器人不可能是真实的公民，也不可能实际履行公民的权利和义务。它投票吗？它定居在哪里？目前的机器人再智能也需要有真实的人在后面管理和操纵它，所以很难说机器人具有自主性和主体性。那么在社会生活中，我们也就不可能把它当作真正的人来看待。

我不否认有些人可能会对机器人产生特殊感情，就像某种恋物癖。但这是单向的。如果机器人要普遍地被社会当作人来看待，那它就必须具有主体意识，有自我。这个时候它才具备被当作“人”的条件。但是目前，我们还看不到这种可能性。人和机器之间仍然有很大的界限。人的感情，甚至包括动物的感情都要立足于碳基生物这个前提，但机器是硅基的，它不具有感受性。如果以后机器有一个独立的世界，那是另一个世界。其实动物比机器与人更接近，我们对能力上弱于我们的动物甚至应该负有某种“道德代理人”的责任，但它们能够成为“公民”吗？还是不可能。

南风窗：一提到人工智能，很多人会联想到机器人未来可能会“统治”人类。如果我们在程序上为机器人事先设计一套伦理法则，是不是可以保证机器人在未来不会“反叛”呢？

何怀宏：人类可以为机器人的行为设定法则，但是使用“伦理法则”这个词不一定合适。因为伦理法则首先涉及道德主体间的自我意识，而机器人不大可能有类似人的道德意识。我们可以给机器人的行为制定一些规则，比如说绝不允许它使用暴力，甚至当它有可能“造反”或者危害人类的时候，启动自毁程序。但这并不是要先给它建立一个伦理意识，让它自觉地遵守规则，而是人类为了自保而不得不如此。

按照海德格尔的说法，技术的本质就是一个系统、一个架构。人一旦被嵌入其中很难摆脱，甚至无法摆脱。

但即便有这样的规则是否能确保机器不会“反叛”人类呢？最早的一个写机器人的科幻小说就描述了这种“反叛”。我的确觉得人的规则是否能够成功是很难说的。因为机器如果在智能上超过人，就可能会有破解的方法。即使我们事先给它设定了规则，它也可能慢慢发展出反制的手段。如果它比人类更聪明，那么它就能够想出超过人的办法。它们可能毁灭人，而且是不带感情地毁灭，没有爱，也没有恨地毁灭。这个时候就真的没有什么伦理道德可讲。我们不可能跟没有人类道德意识的机器讲道德。

所以，对于一个拥有比我们人类更高能力的存在，我们能否成功有效地确立这些规则，我还是怀疑，但有总是比没有好。

无用阶层不一定生活就很糟糕

南风窗：就目前来看，机器人的“反叛”离我们还比较遥远。但是在可预见的未来，你认为人工智能的普及将给予人自由还是剥夺人的自由呢？

何怀宏：我觉得既是给予也是剥夺。人工智能可以让少部分人获得更大的自由，但是对于更多的人来说，情况或许恰恰相反。很多人可能会因此失业，因为他们之前所学的专业技能将被人工智能取代。就像工业革命时期，很多手艺人失去了他们原来的谋生手段—那些精致的，可能需要毕生学习和传承的手工技艺、工匠技艺，或者说失去了保留原来职业的自由。所以人工智能的影响是双向的，它是一把双刃剑。

我认为更可能的后果是，人工智能将越来越多地限制大多数人的自由空间。因为机器的功能越是发达，它对人的监督和控制能力也就越强。也许发展到最后，极少数人通过操纵机器就能够牢牢控制整个社会。并非完全不存在这种危险，我对此不抱乐观态度。

其实，这个问题的背后涉及技术的本质。技术会给人们带来很多的便利，这个是不容否认的，但是能不能带来更大的自由空间，或者说让人有更多的闲暇，就要打个大大的问号了。

按照海德格尔的说法，技术的本质就是一个系统、一个架构。人一旦被嵌入其中很难摆脱，甚至无法摆脱。不只是人工智能会剥夺人的自由空间，从普遍意义上讲，这就是技术给人类带来的后果。就以汽车为例，当汽车刚刚发明出来时，人们不会觉得步行受到影响，因为那时路上的车很少。但是当汽车变得越来越多时，人们就会发现不能走在路中央了，大路就不是人走的大路了，而是车走的大路了。因为可能会被撞到，只能走在人行道上。

机器确实可以代替人做很多事情，但是这又会引发另外一个更重要的问题：当人获得了闲暇之后会做什么？如果人把工作都交给机器人来做，那么人可能会产生“我活着还有什么意义”这样一种疑问。机器或许可以很好地养着人类，但是无所事事会幸福吗？

南风窗：当人工智能可以全方面替代人的时候，对人自身是不是一种矮化呢？或者说人会不会受到变相的歧视？

何怀宏：人工智能在专门的功能上肯定会超过人，甚至在一般的智能上也有可能会超过人，那么矮化是必然的。未来可能很多企业家都更愿意使用机器人来工作，因为机器人不会偷懒，不会罢工，也不用交社保，多方便。其实现在很多代工厂已经在大规模使用机器人。所以，未来至少有相当一部分人会变成无用阶层。无用阶层并不一定是无产阶层。他们的生活可能并不糟糕，但是却“无用”，因为好像社会并不需要他们。这样一种状态是比较让人担心甚至是可怕的。

精神领域对于人来说不可或缺

南风窗：我设想，人类在未来为了避免被歧视，可能会改造自己。其实很多科幻片也描述过这种场景，比如《钢铁侠》。假如有一天，我的四肢甚至大脑都可以借助于机器变得更强大，但是这样的“身体”还是我的身体吗？

未来的趋势不仅是机器的人化—准确的说，是类似于人，最后超过人的智能化。另一方面，现在的肉体人也可能也会被“机器化”，被“物化”。

何怀宏：是的，未来的趋势不仅是机器的人化—准确的说，是类似于人，最后超过人的智能化。另一方面，现在的肉体人也可能也会被“机器化”，被“物化”。我们会不断地更换我们的器官，最后可能所有的身体器官都换了一遍，甚至记忆和情感也被“外包”了出去。这时我们可能会怀疑：这还是我自己的身体吗？这还是我的大脑吗？我还是我吗？人会出现自我认同的危机，这在将来会是一个大问题。

南风窗：你曾经提出过，当人工智能在体力和智力上全面超越人之后，人的价值将只能局限在精神领域，比如文学、艺术创作等。但是当人类在物理世界输给机器之后，在精神世界的追求还有价值吗？

何懷宏：不能因为人的精神成就可能会最终毁灭就认为它没有价值。哪怕没有机器人，人类未来有一天也会毁灭，可能是由于自然灾害、某种疾病，或者其他什么原因而毁灭。但那可能是很漫长的时光之后。即便这样，也并不意味着人类前面的追求就毫无意义。在人类的文明历程中，每一个时代的人都在欣赏和享受这些追求和创造的价值。即使它们注定会消逝，会毁灭，也仍然具有自身的意义。而且人也是注定要去追求意义，这样才会觉得人生是值得过的。所以精神领域对于人来说不可或缺，是“人禽之别”的基本标志。

但是机器不可能理解人在精神世界的追求，也不可能理解人的创造。机器没有人的心灵的欣赏能力，看不懂蒙娜丽莎，看不懂罗丹的雕塑，听不懂贝多芬的交响乐。对机器来说，蒙娜丽莎可能和原始人乃至动物的几笔涂鸦差别不大。而艺术作品对人就很珍贵。我们不仅能够理解其中的价值，还能享受这些作品带给我们的愉悦。

另外，如果真的如一些人所相信的那样世界上存在上帝，那么就还存在一种永恒的记忆，永恒的观照。人也不会白白地追求，因为人所追求的一切可能在上帝那里都已经获得了永存。这更让人觉得安慰了，但这没办法证实，也没办法证伪。

人是有价值追求的，包括追求超越的存在、追求上帝，包括艺术的创造、哲学的沉思，这是机器做不到的。至于它们能做到什么，它们会有什么样的追求和创造，我们不知道。大概就是两不相关。