薛巍

人机大战，哲学家另有思考方式。

“阿尔法围棋”（AlphaGo）赢了李世石两局之后，阿尔法围棋团队的工作人员非常喜悦，李世石心情沉重，但我写邮件询问两位专家的看法，发现他们的反应都很平静。一直认为人工智能研究一开始就注定会失败的美国哲学家约翰·塞尔说：“没有意识，机器人就无法真正地下棋。所以（机器人下棋）只是一个比喻。比喻是无害的，除非你把它当真。”美国量子物理学家戴维·多伊奇说：“我认为这是一个令人印象极其深刻的成就，但这几乎跟人类意义上的通用智能无关。”他们都建议我去读他们以前的文章，说明阿尔法狗的胜利并没有改变他们之前的观点。

英国《卫报》的报道说：“比赛开始时，李世石按照韩国人的传统向对手鞠躬表示尊敬，而这次他的对手既看不见他，也感知不到他的存在。”还不仅如此。2014年约翰·塞尔在《你的电脑不知道什么》一文中说：“我们经常会看到有人说，‘深蓝下棋赢了卡斯帕罗夫。这种说法很可疑。卡斯帕罗夫要下棋并获胜，他必须得意识到他是在下棋，并意识到无数其他东西，如他的王后受到了威胁。‘深蓝对这些都没有意识，因为它对什么都没有意识。为什么意识如此重要？如果你没有意识，你就不能真正地下棋或者做任何认知行为。”

1984年，塞尔在BBC瑞思讲座第二讲的标题是：电脑能不能思考？他的回答是否定的。他说，按照电脑的定义，无论它们多么先进，它们都不会思考，但这不等于说电脑不强大。而人工智能研究者的乐观和自信也是非常惊人。比如日本人工智能专家松伟丰就说：“如果人类的思维也是某种计算的话，那么它就完全有理由通过计算机来模拟和实现。人类所有的大脑活动，包括思考、识别、记忆、感情，全部都可以通过计算机得到实现。只要我们通过计算机来实现人工智能，我们就可以为它配备一个类似于人身体的东西，可以将它设置成偶尔也会犯些错误。”塞尔把这种乐观的看法称作“强人工智能”派。在他们看来，人脑的运行跟电脑的运行是类似的，人脑就是一个计算机，心灵相当于电脑的程序。

根据这种观点，人类的心灵没有什么本质性的生物学特点。所以任何有着恰当的程序、恰当的输入和输出的物理系统都跟人一样，有其心灵。例如，如果你用旧啤酒罐做了一个风力驱动的电脑，如果有着合适的程序，它就会有心灵。卡内基梅隆大学的休伯特·西蒙说，我们已经有了能够思考的机器，现在的电脑已经跟人一样有思想。西蒙的同事阿兰·纽厄尔声称，我们已经发现，智能只是一个物理信号操作的问题;它跟生理或身体硬件没有本质关联。麻省理工学院的马文·明斯基说，下一代电脑会非常智能，以致如果它们愿意让我们留在家中当宠物，我们就很幸运了。最夸张的是人工智能一词发明人约翰·麦卡锡的说法：甚至连温度计那样简单的机器都有信念。温度计有什么信念呢？他说：“我的温度计有三个信念：这里太热，这里太冷，以及这里不冷不热。”

塞尔说，电脑的运行是纯粹形式化的，我们用抽象的符号来确定电脑运行的步骤，比如印在纸带上的0和1的序列。电脑的规则将确定，当电脑处于某个状态、纸带上有某些符号时，它就会运行某种运算。但这些符号是没有意义的，它们没有任何语义内容。比如0和1，它们甚至不代表数字。正是电脑的这种特征使得它们如此强大。同一种硬件可以运行各种程序。同一种程序可以在各种硬件上运行。

但程序的这种纯粹形式化或句法化的特征决定了，程序的运行过程和人的精神过程是不一样的。拥有一个心灵不只是有一个形式化、句法过程。我们内在的精神状态是有内容的。“如果我想到某个城市或者想喝点冰啤酒，在其形式化特征之外，我的精神状态是有一定的内容的。即使我的思想是一系列符号，但思想不只是抽象的序列，因为这些序列本身没有任何意义。如果我的思想是关于某种东西的思想，那么这一序列必须要有意义。换言之，心灵不只是句法的，还有语义学内容。电脑程序永远都成不了心灵，因为电脑程序只是句法的，而心灵不只是句法的。心灵是语义学的，它们不只有形式化结构，还有内容。人的思考不只是操作无意义的符号的问题，还包括有意义的句法内容。这些句法内容就是我们所说的意义。”所以，“不管电脑技术发展到什么阶段，不管计算机科学有多么惊人的进步，不管计算机运行得有多快，如果它是一个电脑，它的运行就是句法的，而意识、思想、感觉、情绪等都不只涉及句法。电脑的模仿能力不管有多强大，都无法复制这些特征”。

塞尔在2014年的文章中以另一种方式说明了电脑和人脑的差异：商用电脑是完全没有意识的。“比如我纠正自己的拼写和电脑的拼写检查。我希望正确地拼写，我也相信我能在词典里查到一个词正确的拼法，所以我就去查。我的行为有三个层次：神经生理学层次、在神经生物学层面引发和实现的精神或意识层次，以及心理学层面引发的意向性行为层次。如果我拼错了一个词，电脑把它显示为红色，并提示正确的拼写。电脑希望得出正确的拼法吗？它相信我拼错了吗？电脑有一个单词的清单，如果我打出的词不在这个清单上，它就把它标成红色。电脑只有两个层次：硬件层次和行为层次，没有中间的真实心理层次。”

我们会不会被比自己更聪明的电脑消灭？塞尔认为这是无稽之谈。“电脑有真正的智能吗？一点都没有。它们也没有思考、记忆、决定、欲求、动机、学习和信息处理能力，更不用说下棋和回答问题的能力了。一些商用计算机能够卓越地完成它们的任务，但永远都不要以为它们有任何心理现实。为什么这种系统要有产生意识的能力？恰当的行为为什么还不够？对许多目的来说，这确实足够了。如果电脑能够开飞机、驾驶汽车、赢棋，谁管它有没有意识啊？但是如果我们担心一个有着邪恶动机的超智能会消灭我们，那这种邪恶动机应该是真实的。没有意识的话，这种可能性就不是现实的。电脑没有任何智能、动机和自主性。我们很容易就能想象一个有意识的心灵给机器人装上程序，让它们去杀人，但超级智能电脑有意识地去杀人是不切实际的。”

英国前皇家学会副主席阿里斯泰尔认为：“再过几十甚至几百年，人类大脑进化出的许多复杂的信息处理系统也不能在任何机器上复制出来。大脑极其复杂。人类和机器之间将依然存在人格鸿沟，人类的智能、情绪方面的洞察力和处理不确定性的能力是机器得不到的。在目前可以想象的将来，人类和机器将保持互补。我们要学习如何跟它们共处，但它们无法取代我们。”