智能革命与第四次科技革命

刘大椿

(中国人民大学哲学院教授， 北京 100872)

近年来，人们越来越意识到智能革命将成为人类未来的大趋势，并称之为第四次科技革命。对此，应该进一步廓清智能革命与第四次科技革命等概念，方能准确把握它们所描述的人类未来前景的深刻意涵。要理解智能革命，就要站在历史的高度把握第四次科技革命和产业革命的特征，进而透过整体生成和系统演化的视角洞察其实现机制和深远影响。

什么是智能革命？从人类现代化进程来看，智能革命是自17、18世纪第一次科技革命以来的第四次科技革命以及与之相对应的产业革命。此前还有三次与其同样重要的革命：蒸汽革命、电力革命、信息革命。什么是科技革命和产业革命？简单地讲，科技革命就是科技进步系统演化和综合发展过程中出现的历史性的重大突破；产业革命则指突破性的、关键的且起引领作用的系统性与全局性的产业创新和综合，往往会对人类社会生产和生活方式产生巨大影响。

第一次科技革命就是17、18世纪的科学技术革命，主要是物理学，特别是力学有了突破，也就有了现在所谓的科学。到18世纪以后数、理、化、天、地、生这些学科都基本成形了，科学大厦由此得以支撑。和17、18世纪的科技革命相对应的产业革命就是蒸汽革命，英国因此崛起为现代化的先驱，机器自此逐渐成为人类生产和社会生活的主导性角色。在19世纪到20世纪初的第二次科技革命中，热力学、统计物理、电磁学及相对论和量子力学等的发展使现代物理学的理论架构基本确立，电能的使用和生产设备的电气化令重化工业得到空前发展，与之相对应的产业革命就是电力革命。其领先者英、法、德、美等成为现代化的典范，自此人类找到了运用自然力的普遍能源形式和普遍的控制手段。第三次科技革命即20世纪80年代所说的第三次浪潮，是当时在信息、微电子、生命、新材料、新能源、航空航天等领域发生的高新科技革命，与之相对应的产业革命是信息革命。信息革命使美国在计算机、网络等产业的创新和商业化方面领先世界，世界各国的实力在信息革命中此消彼长，而中国近四十年快速发展的重要原因之一就是抓住了信息革命的机遇趁势而上。至此，科学和技术就不再仅仅局限于原先的数理化天地生的学科划分，而转向更宏观的领域拓展，在过去重视物质科技和能源科技的基础上，开始聚焦于信息科技和生命科技，继而出现了信息、纳米、生命、认知等融合科技；同时，在产业分布上也出现了相应的变化，信息科技领域的创新不仅在技术上使得各种机器、产品和包括社会交往在内的所有人类活动都可以通过信息得以控制和联通，而且还触发了以信息革命为特征的产业革命，以信息为基础的知识产业和服务业等第三产业上升为最重要的产业部门，加之第一产业与第二产业的信息化改造，信息化成为工业化第二阶段的主导方向。第四次科技革命是本世纪以来由移动互联网、大数据、机器人、计算机视觉、深度学习等智能化科技促成的以人工智能为核心的新一轮科技革命。随着智能化科技的发展，包括人在内的万事万物都会通过数据流联结为可以感知和回应环境变化的泛智能体，整个世界将有可能演变为复杂、泛在的智能化虚拟机器。同时，以人工智能为核心的产业群初见端倪，信息革命跃迁到其第二阶段，即智能革命的新阶段，而工业化也正在走向其第三阶段，即从信息化迈向智能化。面对智能革命的挑战，美、中、欧、英摩拳擦掌，世界各主要国家和地区的竞争与协作态势也必将面临一系列前所未有大变局。

这四次科技革命之所以至关重要，之所以对人类文明具有根本性的变革功能，乃在于它们每每能促成新一轮的产业革命，并与之相互激荡。而科技革命与产业革命实现协同激励的关键在于，以科技创新打通科学发现与产业需求的通道，从而透过产业化这一集约的全要素和系统性的资源组织形式推动了社会变革乃至文明转型。这反过来又促使全社会和民族国家纷纷将知识发现和科技创新视为发展的关键和国力的基石。如果说，科学革命源自人类对自然奥秘永恒的好奇心与求知欲，科技革命势不可挡的革命性乃在于科技创新一旦站上产业革命的舞台，就急剧放大上升为撬动社会变迁和文明转型的力量。今天，我们谈论智能革命，就应该从科技革命与产业革命互为条件、相互激荡和交错跃升出发，探究其本质、前瞻其态势。

我们今天探讨智能革命的前景和人类未来，应该进一步关注和主题相关联四个层面的问题。

第一，技术层面。随着智能革命的推进，技术上会出现哪些新东西？国内有一个偏向，技术界和产业界比较关注技术层面的问题，不太关注社会影响等其他方面的问题；而哲学和人文界则对技术层面的关注不是太够。根据笔者对硅谷地区的实地观察，美国非常关注技术，在技术上面花的工夫是我们难以想象的。同时，其体制也提供了很好的条件，在技术上有想法的人总有办法去弄到资金来进行开发，也许这就是他们能在智能革命方面走得比较前面的原因。此外，他们高度重视技术预见。例如，有一项研究详细探讨了可能在最近三五年引起重大改变的23个技术，包括现在流行的智能驾驶。其中，对于这些技术若干年之后会进入什么样的状态，会实现百分之多少，或者有可能实现的概率是多少，80%还是90%，还是50%？诸如此类，都有非常有根据的介绍和预测。

第二，产业层面。伴随着第四次科技革命，会有哪些产业呈突破之势或可能脱颖而出？技术层面和产业层面虽然联系紧密，实践上却是两回事。以智能驾驶为例，目前在智能驾驶的技术层面投入很大，花很大功夫才能取得一点进展，很多研发企业都在组织开发、努力跟进。但同时，那些以产业实现为目标的企业和机构，从一开始就关注在产业层面怎么去实现技术的应用。以一家研发智能驾驶的企业为例，在智能技术层面，他们的宾利车组装起来，可以从硅谷一直开到拉斯维加斯，在非常复杂的气象条件下展开测试；他们还在智能货卡上安装了各种各样的探头、传感器，在各种环境下进行测试，并且取得了相当的进展。但他们认识到，比此更重要的是，技术层面的发明怎么在产业方面实现？这就必须考虑技术应用的可能性有多大，而且产业的实现必定关系到社会，就不仅仅是技术问题。目前比较看好的一条路，就是寻求智能货卡的商业化路径。货卡实现智能控制的可能性比较大，一旦实现，必定产生非常大的效益。据统计，美国货运的年产值是四万亿，如果有1%愿意采用他们的方案，涉及的产值就是400亿。如何将智能革命落实到新的产业应用和原有产业的升级改造，在产业层面应该深入考量。

第三，社会层面。智能革命会带来哪些社会问题？例如，如果不要那么多驾驶员了，那这些人去干什么？几十万驾驶员失业了怎么办？就智能医生而言，如果都可以用人工智能来看病诊断了，那还要医生干什么？这些都是我们现在就可以想到的社会层面的问题。

第四，精神层面。精神层面最大的问题，是多数人今后还有什么用？活着还有什么意义？以后的社会是不是5%的人去把人工智能开发出来，剩下的事就交由机器人操作，其他95%的人，说的好就是享受，说的不好听就成了废人。大多数人不需要有效工作，这种社会行不行呢？肯定是不行的。马克思曾经批判资本绑架科技，就会造成人的异化。原先的手工艺工人是有技术的，到机器大生产时代工人却被机器代替了。这些问题，不管是搞技术的也好，搞社会学的也好，还是搞哲学的也好，是不能不关心的。其实，智能革命给所有人提出了人性本质问题：无论智能革命如何推进，人类生命和社会文明如何演化发展，怎样使每个人在由人类所开创的深度智能化的未来都有事情可做？如何让一切人群都在心理和精神上呈现出朝气蓬勃和幸福快乐的状态，而不是自惭形秽、百无聊赖的失败者？

智能革命与人类的前景

成素梅

(上海社会科学院哲学研究所研究员，上海 200235)

我们探讨“智能革命与人类的前景”这个主题的一个前提假设是，设想一下，如果智能化社会能够到来的话，我们现在应该如何做好怎样的迎接准备。我将从三个方面来阐述这个话题。第一，人工智能威胁论的误区；第二，智能革命是文明的选择；第三，为休闲社会的到来作准备。

首先，关于人工智能的威胁论的误区。

大家对人工智能威胁论应该都不陌生，而且有很多相关的论点与报道。在这些威胁论中，有两种突出的担忧，其一是担忧机器人有朝一日会全面替代人类所做的一切工作，从而使人变得无所事事，最终成为“无用”之人；其二是像诸多科幻影片中所设想的那样，人工智能的发展必然会在未来制造出全面控制人类的具有强大能力的智能体，从而导致人类文明的终结。担任多家科技公司CEO的埃隆·马斯克预言，人工智能是人类文明最大的威胁；宇宙物理学家史蒂芬·霍金警告说，人工智能可能致使人类文明走向终结；《未来简史》的作者尤瓦尔·赫拉利则认为，智能机器的普及必然会导致产生一个“无用”阶级，如此等等。这两类观念有很多想象的成份。《失控》的作者凯文·凯利认为，人工智能威胁论蕴含的五个假设无异于宗教信仰，没有证据支持。我个人也认为，人工智能的发展对我们人类带来的最大威胁，既不是失业问题，也不是它能强大到足以消灭人类的问题，而是对人类在工业文明基础上形成的发展观、就业观、财富观、分配制度等治理体系与传统的概念框架的挑战。如果我们从人类文明的视域来分析，威胁论似乎返回到了人类文明的初期。在人类文明初期，之所以诞生了许多神话、图腾崇拜、祈祷仪式、形成宗教信仰等，在很大程度上体现了人类对当时无法解释和无法控制的自然现象的惧怕，后来，随着科学技术的发展，人类最终借助于强大的科学技术力量战胜了有神论的推测与信仰，从而把检验真理的标准转向了观察和实验。

同样，我们今天正在向着人工智能时代飞跃，而这种飞跃是跨跃式的。我们一方面还在面临着需要解决从工业文明向信息文明转型过程中出现的问题，比如，当我们从过去信息匮乏时代转向信息过剩时代时，就个人而言，面临着信息超载、信息碎片化、注意力分散等问题；就社会而言，面临着社会安全、社会治理等新问题；当人类社会从依赖于信息技术发展的工业社会，转向了受信息技术驱动发展的信息社会时，面临着与社会转型相配套的一系列制度变革等问题。另一方面，自2010年以来，随着智能化技术向着各行各业的渗透，智能化不仅深化了信息化的进程，推动了信息文明的纵深发展，而且预言着一个新的智能化时代即将到来。我们面临着旧问题还没有解决，而新问题又不断产生的困难局面。特别是，因为我们想象不出未来的智能体是什么样的，如果真的像科幻小说、电影中所描绘的那么强大无比，那么，人类文明似乎就面临着灭亡的危险。事实上，这同样是对人类失去控制力的恐惧。人的安全感来自对控制力的把握，对能够把控的事情就不会感觉到恐惧，反之则不然。

不仅如此，我们还会面临选择悖论，即，科学技术越发达，人们的选择越多样，但反而越感到有危机。这是对不确定性的一种恐惧。同样，这种恐惧也是对掌握控制权的向往。这点实际上和我们长期以来形成的控制论的思维方式有关。我们现有的概念工具箱和概念框架以及包括制度设计在内的思想体系，不足以理解和应对人工智能的发展所带来的改变，我认为这是威胁论出现的主要原因。具有来说，是把人工智能带来的挑战看成是无法避免的灾难，而不是看成由于概念工具箱匮乏、思维方式固化和制度安排落后的产物，因而拒斥在运用旧范畴体系时无法理解和赋予意义的新生事物，并对不确定的未来充满恐惧，做出消极评估。所以，当环境变化太快，原有的概念框架跟不上变化的步伐时，概念框架的缺失不只是一个问题，更是一种风险。

关于“无用”论的担忧同样如此。从农业文明到工业文明的转型，诞生了农业文明中不曾有过的许多新行业，比如机械制造业、航海业、铁路运输业等。工业文明抛弃的不是土地生产，而是以机械化与自动化的形式改变了土地耕耘方式，并以新的联合方式变革了农业文明时代的制度安排，形成了新的概念框架和新的经济、文化、法律等制度体系。同样，从工业文明再到信息文明的转型，也诞生了工业文明时代所没有的一系列新行业，比如网络通信、电子商务、人工智能等。信息文明也没有摒弃土地和工厂，而是以网络化、数字化和智能化的方式变革工业生产方式，并再次变革农业生产方式。但是社会变革至今依然处于进行之中，远没有完成。[注]参见成素梅：《信息文明的内涵及其本质》，《学术月刊》2018年第5期。

其次，智能化的革命是一种文明的选择。

从人与自然的关系来看，人工智能的发展迎来了“人成之为人”的第二次过程。“人成之为人”的第一次过程是人与自然界的分离，从此人与自然界的关系由整体性关系变成了对象性关系。与此相对应，地球的进化经历了从无机物到有机物再到进化出人类，而人类一旦出现，就相异于其他动物。我们知道，动物的生存是自然选择的结果，强者生、弱者亡，遵守丛林法则。但人类则不同，从原始人开始就知道利用联合的力量来生存。联合的力量形成之时就是人类文明开始之时，然后逐渐地形成了社会制度等自治体系。因此，利用科学技术推动人类文明进程的发展，是人类文明的必然选择。从这个意义上来看，智能革命和以前的技术革命一样，也是文明选择的方向，不管人们对发展人工智能有多么的恐惧，人工智能肯定是要继续发展下去的。当前，各国政府的重视，社会资本的涌入，都在助推人工智能的大力发展。[注]参见成素梅：《信息文明时代的到来与挑战》，《中国社会科学报》2018年1月3日。

人类文明的演化方向有四个特征。第一就是越来越向着违反自然选择的方向发展，即人类联合起来抗击各种自然灾害；第二是联合的力量越来越强大，联合起来保护其成员不受外来侵害也是人类文明发展的方向，因此，从这个意义上来说，战争也是文明的产物；第三是关爱弱者，这是人类与动物的最大区别，是社会进步的标志之一；第四是社会化程度不断提高，也体现出人与人之间的相互依赖性不断加强。智能革命显然满足了这四个特征，或者说，智能革命是人类文明发展的选择。

第三，为休闲社会的到来作准备。

工业社会主要是建立在物质生产基础上，大家把劳动看作是正事，把休闲看作是无所事事、不务正业，强调应该是以劳动为主，休闲不过是对劳动的奖赏。但是随着智能革命的兴起，当全社会的各种工作逐渐地由机器人替代时，当人类将会有很多时间进行自由支配时，休闲社会就会到来。智能文明是信息文明的高级阶段，就像信息文明的初级阶段是工业文明的高级阶段一样，信息文明的高级阶段是智能文明的初级阶段。在这个阶段，人类的身心解放不是使人成为无用之人，而是需要寻找新的联合方式。而这种新的联合方式，在很大程度上就是让人们越来越从劳动中解放出来时，人类的追求将会逐渐地从物质追求转向精神追求，从而迎接休闲社会的到来。

我们应该为休闲社会的到来作什么样的思想准备？这是值得研究和探讨的关键问题。我们注意到，智能革命有可能为“人成之为人”提供第二次机会，如果说第一次是人与自然的分离，那么这一次将会是人重新回归自然、重新尊重自然，改变工业文明时代形成的索取和掠夺自然的生产与消费方式。我们现有的联合方式是围绕解决经济问题而形成的，现有的社会制度、教育体制、政府管理部门等，都是围绕劳动经济为核心来展开的。但是，智能化社会的到来必然会增加人的休闲时间，这时如果我们的劳动观和发展观不改变，我们就会变得无所适从，甚至变成自己的敌人，从马克思批判的劳动的异化走向休闲的异化。

如果说，解决经济的压力是人类长期以来面对的最大挑战，那么，塑造以休闲为核心的社会并具备休闲的能力，则是人类进入智能文明时代所面临的更大挑战。人类自古以来是以解决经济问题为目标的，在智能化社会这个目标有可能不再是人类追求的唯一重要的目标，人类长期以来形成的一切习惯就必须改变。但问题是当我们解除了经济压力并面对休闲时，应该在各方面提前做好怎样的准备，如何改变现有的制度架构、思维方式、概念范畴，如何使人能够成为提升自我修养、开发个人兴趣、懂得在活动中享受快乐、塑造幸福感的人，这也是使人成为“有用”之人的一种方式。因此，当我们把追求生命意义和社会价值放在首位时，我们的评价标准就会发生改变。

从历史上看，劳动和休闲的关系有四个层次。一是纯劳动型，对所从事的劳动没有任何兴趣，只是为了糊口赚钱；二是劳动-休闲型，以劳动为主、休闲为辅，休闲是劳动的奖励；第三是休闲-劳动型，以休闲为主、劳动为辅，把劳动变成一种休闲方式，以休闲的心态对待劳动，即休闲式劳动，是把劳动当作自己兴趣的一种方式；第四是纯休闲型，这是人类生活最理想的状态。但是，这个理想的纯休闲型状态，并不是吃喝玩乐的意义上休闲，而是指亚里士多德意义上的对生命意义的追求过程，使人的一生成为生命意义的展现过程，这是理想的精神状态。

智能化数据解析社会的政治伦理考量

段伟文

(中国社会科学院哲学研究所研究员，北京 100732)

近年来，人工智能应用的热点是数据智能，其主要背景是世界的数据化。所谓世界的数据化，简单地讲就是：世界就是数据，数据就是世界。什么是数据？英文中的数据一词是data，但其内涵不仅与数字或科学观测有关，更是对世界的记录。当初傅统先在译杜威的《确定性的寻求》时，将data翻译为素材。当前，我们所说的大数据和数据智能中的数据的含义就是素材，更确切地讲是电子化的素材，比方说报告的录音、录像等。有些素材的元数据是可以量化和结构化的，这些数据起到了测量世界和人的行为过程的作用。近年来，由于素材或数据存储与处理的成本不断降低，我们能够把很多东西记录下来，虽然记录的时候有各种各样的目的，一旦记录下来以后就可以变成素材而用于别的用途，如可作为其他主题的数据挖掘之用。值得指出的是，当我们讲“世界就是数据”和“数据就是世界”时，应该看到所谓的世界的数据化并不是抽象的，用数据呈现世界和人的行为的方式取决于具体的记录、传感、测量和分析技术，而任何方式都会突出与强化世界与人的行为的某些方面而忽视与弱化另一些方面。

数据智能和智能算法的应用是现代社会治理与个人治理日益量化的最新表现，这一趋势与发端于17世纪的“政治算术”、始于19世纪的“控制革命”密切相关，其新近的发展正在导致“解析社会”的来临。首先，所谓政治算术可以追溯至17世纪刚兴起的统计学的社会应用。当时，统计学的社会应用的倡导者将统计学称为“政治算术”，当时的哲学家和古典经济学家威廉·配第还专门写了本题为《政治算术》的小册子，以强调统计数字对于政治具有至关重要的作用。其次，使政治算术的理念得以普遍推行的则是被称为“控制革命”的信息技术的发展。20世纪80年代，信息技术史家贝尼格(James R.Beniger)在《控制革命》一书中指出，19世纪以来，信息技术的发展实质上是为了克服由城市化和大工业生产所带来的控制的危机而形成的一系列控制革命。

20世纪的最后30年间，伴随着对以工业化为特征的现代化的弊端的反思，微电子、个人计算机、网络和移动通信等信息通信技术的发展为信息化开辟了道路，其间不仅涌现出后工业社会和第三次浪潮等社会理论与未来学思潮，而且还由反主流文化孕育出为虚拟空间奠基的赛博文化，其结果导致了20世纪末具有虚拟性、匿名性和多主体交互性的网络空间的崛起。但这种貌似个体可以通过虚拟的网络空间摆脱现实社会制约的幻象很快就破灭了。随着谷歌搜索对百科全书检索式的雅虎等早期门户网站的超越以及Web2.0和网络社交新媒体的发展，用户网络活动所生成的内容即UGC(User-generated content)不仅使网络为用户数据所驱动，而且这些数据反过来成为人们的数据足迹。随着移动互联网、网络社交媒体、智能手机、可穿戴设备等信息技术的发展和各种数据的指数化增长，对人的线上和线下行为数据的搜集和分析则可能使每个人成为被追踪、观测、分析的对象，数据的掌握者由此可对数据进行认知计算，借助一定的算法对数据主体展开行为评分和内容推荐，从而对人的行为进行评判、引导和干预。

不论是运用数据表征或干预世界和人的行为，还是运用各种可穿戴设备对数据采集与分析对他人或自己的生活进行量化自我等管理与治理，都预示着一个全新的社会——解析社会或数据解析社会的来临。数据解析社会这种新的社会形态是革命性的。一方面，数据所扮演的角色如同13世纪时出现的透镜，如果说透镜所制造的望远镜和显微镜让宇宙和微观世界得以清晰地观测与呈现，如今“数据透镜”则使人的行为得到量化的记录与透视；另一方面，就像17世纪笛卡尔发明解析几何使得自然界的结构与规律得以探究一样，数据分析与智能算法的应用正在使人的行为规律得到洞察和解析。

不论数据解析社会的构建如何展开，智能算法对人们生活的影响已无处不在。从企业对员工的评价、人事简历自动筛选、商业信用评分到区域犯罪预测、城市警力分布、自我健康管理，数据分析与智能算法在人们生活中涉及的各种评价、筛选和决策中日渐扮演着举足轻重的角色，我们业已步入由算法规制生活和引导人的行为的算法生活时代。政府和企业为了各种目的在其管理和运营中引入了很多智能算法，这些算法在执行中会形成各种影响人的生活的算法权力。这种算法权力很容易遭到滥用，甚至会发展为所谓的算法霸权。首先，姑且不提算法可能存在的黑箱问题(不透明、不易解释等)，供机器学习的数据，如大量罪犯行为数据本身是由人记录和处理的，本身就带有人的各种偏见(如种族偏见、社区偏见等)，在此基础上所进行的算法决策很容易使这些偏见放大。其次，智能算法往往只考虑到某些特定的视角而缺乏整体性的思考。其三，智能算法中存在的不合理之处往往缺乏反馈与纠正的渠道，如果不能引入受到算法权力伤害或不公正对待的人能够及时参与的反馈纠错机制，算法的主导者很难主动发现问题并加以反思和修正。

进一步而言，智能算法的应用建立在一种基于预见的可能性而采取控制行动的政治逻辑之上，我们可以称之为可能性的政治。在斯皮尔格导演的电影《少数派报告》中对未实施的犯罪的阻止甚至惩罚虽然不一定发生，但数据分析和智能算法的控制者显然会用它们来预测、引导或阻止人的行为，不论其方式是柔性的计算机说服技术或智能化助推，还是刚性的简历筛选和对行动自由的限制，都体现了某种宰制性的权力或霸权。以所谓人的数据画像为例，虽然人的数据画像如同人的“数据孪生兄弟”，但其本身是没有主体性和能动性的，而只是体现了数据分析与智能算法的掌控者对数据画像的对象的主体性或能动性的猜测，其中所折射的是他人的主体性、能动性或意向性。因此，数据孪生兄弟实际上是缺失心灵的数据僵尸。

由此，要克服数据分析与智能算法的数据霸权与算法权力，应该从主体的能动性构建出发，使人的主体性、能动性或意向性免于被数据僵尸所取代的命运。这就要求我们通过与数据霸权与算法权力的缠斗寻求人的能动性与算法权力关系的再平衡：始终从使用者或人的角度去评判智能算法的合理性；智能算法应发挥普遍性赋能作用，使每个人的能力增强，权利也得到相应扩充；人与算法要建立起一种伙伴关系，即，使智能算法成为陪伴人、帮助人的伴侣技术。

最后，值得指出的是，智能原本源自生命与社会，生命、智能与社会共同构成了日益复杂的生命-智能-社会复合体。从“生命-智能-社会复合体”这一分析框架出发，有助于总体把握智能革命以及人类社会深度智能化的前景：人工智能体将以拟主体的形式整合到生命-智能-社会复合体之中，泛主体社会或泛智能体社会即将来临。当我们面对陪伴机器人、智能音箱以及层出不穷的智能体或泛主体时，将会越来越多地思考它们是什么样的拟主体，又具有什么意义上的能动性。

智能革命与机器乌托邦

刘永谋

(中国人民大学哲学院教授，北京 100872)

智能革命与技术治理的关系是一个大题目。智能革命已经到来，这个提法是站得住脚的。学界提出的各种“革命”太多，就工业革命而言，有人都提到第六次工业革命了。实际上，“革命”不过是一个隐喻，能不能成立并不重要，重要的是提出这个“革命”要表达什么，是否有价值。显然，智能革命会大力推动整个社会技术治理的程度和水平，同时会导致社会风险。智能革命社会风险包括运用智能技术的智能治理风险，不是科学技术本身的问题，根本上是政治、制度和实践问题。关于这个问题，技术哲学荷兰学派如佛贝克等人力推的道德物化的角度很有启发性，但道德物化处理的问题过于细节，大的问题还是要借助制度安排来应对。

智能革命和AI技术对社会公共治理会有什么样的影响？对此问题，大家都是基于智能革命和AI技术充分发展的远景来回答的。答案存在两种相反的极端态度：一种是乐观主义的，像成素梅教授那样，认为以后可能出现一个“AI理想国”；还有一种是悲观主义的，可以称之为“AI机器乌托邦”。这里先讨论一下悲观的想法，过后再讲乐观的想法。

很多人都讨论过物联网和大数据对于技术治理的推动作用。家用的小米机器人，它要在家扫地，当然要搜集和分析房间的信息，也就是说，AI应用离不开物联网和大数据，如果后两者对技术治理有推动，那么AI对技术治理的推动就不言而喻了。

悲观主义者总是担忧智能治理和AI治理：智能革命时代，电子圆形监狱(electronic panopticon)会不会到来？大家研究信息哲学，都知道边沁和福柯提出的圆形监狱理论，以及后来流行的电子圆形监狱概念。用圆形监狱理论分析物联网的结构与功能，会发现物联网会偏好极权控制，因而本底上是会侵犯人的隐私的。在具体意象上讲，就是小说《1984》中无处不在的电幕，对所有人进行监视。这主要考虑的是物联网隐私问题，到了AI技术和智能革命的时代，这就不光是一个隐私问题，除了监视，机器人当然是可以诉诸实际行动的，比如对人进行拘押。机器人收集和行动的能力如果扩展到社会公共事物和政治领域的时候，会产生比电子圆形监狱更强的负面效应。换句话说，到了智能革命时代，电子圆形监狱才可能成为真正的监狱：从监视、审判到改造可以一体化完成。也就是说，电子圆形监狱会不会成为机器乌托邦？这就是当今敌托邦科幻文艺的一个大类，即“AI恐怖文艺”所要抨击的景象，在好莱坞电影《终结者》系列中得到最著名的呈现：机器人对所有人的牢狱统治。

当然，所谓隐私是社会建构的，是历史变化的，是有地方性的。为什么当代中国人越来越讲隐私，但同时很多人在朋友圈晒自己的私密生活？这说明没有普遍的一致的隐私，隐私观是很不同的。在中国古代，人们是缺少隐私观念的，或者说隐私观念是很不同的。古人讲，不发人阴私，这不是说尊重人权，而是说要做君子。中国古代最高权力者皇帝是没有隐私的，他的一举一动都在《起居注》中记载得清清楚楚。旧式大家族中人们同样没有隐私，年轻人要早晚向父母请安，什么事情宗族都会知道、要干预。隐私与人权有关，中国传统是没有这个概念的。奇怪的是，没有隐私，数千年来中国社会治理和社会生活大体运行得也很平稳。实际上隐私观在中国就是随着ICT技术和网络兴起传到中国来的，在80年代都很少有中国人讲究隐私。随着物联网和大数据技术的推进，中国人还在形成中的隐私观很快会发生改变，比如很多人现在出门在“去哪儿”APP上定房间、安排行程，把个人信息让商家知道，觉得很方便。

隐私社会建构论实际上并没有否定物联网偏好极权的观点。隐私观的改变，从某种意义上说是对技术发展的屈服。然而到了智能革命时代，极权的触角可能伸到的地方不再仅仅是看，而是会有具体的行动、对肉体和思想的严格控制。如果电子圆形监狱在社会上广泛建成的时候，这就是所谓的最坏的智能治理社会，即“机器乌托邦”就会到来。也就是说，AI技术是有可能催生机器乌托邦的。

机器乌托邦会是什么样的？通过对批评既有的技术治理、智能治理以及AI在社会公共领域应用的各种思想文献来进行分析，可以得出它的基本意象。当代西方的科幻小说有个很重要的特点，即乐观主义情绪很少，并且基本上都与对智能革命的想象有关系。这样一种想象在西方是很流行的，它所勾勒出来的未来社会是一架完整、严密和智能的大机器：由于AI技术的广泛应用，每个社会成员都是这个智能机器上的一个小智能零件，而且是可以随时更换的零件，和钢铁制造的零件没有差别，这就是“AI机器乌托邦”。以好莱坞为代表的科幻影视，对此有各种各样的刻画。

从批评的文献、文艺和影视作品中，可以归纳出AI机器乌托邦的四个主要特点。第一个是AI机械化，即把人、物、社会所有都看成纯粹机械或智能机器，对所有的一切要事无巨细地进行智能测量，包括人的思想情感，可以还原成心理学和物理学的事实以此来进行测量。第二个是AI效率化，也就是说，AI机器乌托邦它核心的价值主张是效率，智能要讲求效率，科学技术是最有效率的，没有效率的东西比如文化、文学和艺术都是可以取消。AI机器乌托邦社会运行的目标就是科学技术越来越发达，物质越来越丰富，人类文明不断地扩展，要扩展到整个地球，扩展到月球，扩展到火星。第三是AI总体化，也就是说整个社会是一个智能总体，按照建基于物联网、大数据、云计算和AI等智能技术之上的社会规划蓝图来运转。所有国家政党、社会制度、风俗习惯以及个人生活全面被改造，没有人能够逃脱总体化的智能控制。第四是AI极权化，AI机器乌托邦是反对民主和自由的，认为民主和自由没有效率，支持的是由智能专家、控制论专家掌握国家大权，公开实现等级制度，然后以数字、智能和控制论的方式残酷地统治社会。

用AI技术对社会进行公共治理是不是就必然会导致机器乌托邦呢？不一定，因为所有的技术治理包括智能治理可以有很多不同的模式。一种是激进的，整个社会要打乱重新按照智能蓝图来建构；另一种是温和的，在现有的基础上进行改良，而温和派之间也有很大差别，所以历史上是有很多不同的技术治理模式。

对AI机器乌托邦意象的总结有何教益？西方对智能治理、AI治理的批评，我们并不完全赞同，但是从理论上考虑AI机器乌托邦的危险或风险是很有必要的。在历史上并没有真正出现过AI机器乌托邦，它还只是在人们恐惧的想象中，但是从理论上说它还是可能出现的，因此要避免极端的AI机器乌托邦的出现。上述AI机器乌托邦意象的四种特征，是要在AI技术、智能技术应用于社会公共治理的过程中极力避免的，当然这是非常复杂的问题。这里有一些初步的思考，比如要避免AI总体化，必须要避免封闭性智能社会，实际上封闭性在网络社会是很难完全做到的；比如避免AI机械化，涉及社会主流观念尤其是科学观的改变，一百年前主流的科学观是机械主义的，现在并不如此；比如避免AI极权化，关键是选择适当的智能治理模式，不一定和自由民主相冲突。奥尔森指出，技术治理在21世纪有“软”化的趋势，不像以前那么“硬”了。比如，要避免AI经济至上的观点，社会局部的规划要服从更高制度的安排，智能治理不能成为惟一或最高的治理安排，而应该是作为一种局部的工具。总之，智能革命的到来加大了AI机器乌托邦的风险，因此必须考虑制度设计与应对，这个问题从根本上说不是技术问题，而是政治问题。

智能革命与人类记忆

杨庆峰

(上海大学哲学系教授，上海 200244)

对人工智能的讨论需要放置到人与技术的关系框架中进行。首先要做的是对人与技术的关系框架加以反思。传统的观点是“工具论”，即把包括人工智能在内的技术当做一种工具或者对象，用来解决问题或者处理一些其他的事情，这种人与工具形成非常固定的模式，成为我们分析人与技术关系的主导模式。“工具论”模式背后是一个主体、客体分离的理论基础。这种传统模式后来受到了很多哲学家的严厉批判，如海德格尔、芬伯格他们对这一观点进行了很深入的批判，尤其是海德格尔在批判的基础上提出了现象学的模式，而芬伯格把政治维度和社会因素加进去了。他们的批判导致了另外一种关系模式“居中说”(人在世界之中、人在技术之中)，这为本文“旋涡论”的提出奠定了理论前提。旋涡论，即人在技术的漩涡之中。

从词源学角度看，旋涡的英文是volution，依次词根会出现三个变形词：convolution、evolution和revolution。这三个词恰好可以用来描述与人工智能有关的过程或状态。Convolution是卷积或卷绕，可以用来描述人工智能内部的算法机制，比如卷积神经网络算法(CNN)用来图像识别。Evolution是进化，可以用来描述智能本身是进化的过程。Revolution则是革命或旋转，可以用来描述智能本身是革命的过程，如技术奇点。所以“旋涡论”能够很好地描述人与智能机器的关系，又能够描述智能的内在机制，更重要的是有助于我们在人与智能技术的漩涡当中反思如何在进化与革命之间保持自身并构建其自由关系。

从记忆哲学入手看待人工智能是一个新的角度。人类记忆不是宏大的生存层面的东西，而是人类学里非常重要的一个规定性。在哲学人类学当中，康德提出了五感实际上就隐含着一种记忆的概念，只不过在他的哲学人类学当中多谈到的是五感知觉[注]康德哲学人类学著作中提到第一类感觉包括触觉 (touch,tactus)、视觉 (sight,visus)、听觉(hearing,auditus)；第二类感觉包括味觉 (taste,gustus)、嗅觉 (smell,olfactus)，统称为五感。Immanuel Kant,Anthropology from a Pragmatic Point of View,Translated by Victor Lyle Dowdell,Revised and Edited by Hans H. Rudnick,Southern Illinois University Press,1996：41.，对记忆也谈到了，“将过去有意地视觉化的能力是记忆能力，把某物作为将来视觉化的能力是预见能力。”[注]Ibid,73.但只是蜻蜓点水，一笔带过。

那么何为记忆？从传统哲学角度看，存在着四种理解路径。第一种构成路径，即把记忆当做灵魂实体的构成部分，讨论记忆是在人理性的层面当中还是感性层面当中。第二种是能力路径，即把人类记忆的解释当做一种精神性的或者灵魂性的能力，比如说人类具有一种回想能力。第三种是状态路径，即把记忆看做是意识或者心理状态之一。这种观点持续的时间非常长，一直持续到20世纪。心理学家普遍认为记忆是心理状态，和感知、情绪是相并列的状态。对这种心理学的理解后来胡塞尔、伽达默尔都提出批判。第四种是行为路径，即把记忆看做是意识行为。比如说构造过去对象的一种行为，或者说使得过去当下化的这样一种行为。

但是随着神经科学、心理学的发展，哲学观点受到了自然科学观点的反驳。有一些心理学家提出一种新的理解叫“精神性的旅行”，用这种方式来解释人类的记忆。整个心理学的理解可以纳入到哲学的第二层理解当中，它属于精神的一种能力。神经科学则提出了记忆作为信息过程(编码、存储和提取)的三阶段理论。与记忆的维度相对的是“遗忘”，它实际上被看作是记忆的对立面，这是个通常的观点。比如说灵魂构成的丧失或者记忆能力的丧失、状态的失控，这时候就把遗忘看作是自然能力的丧失。

要审视人工智能与人的关系，仅仅是传统哲学和神经科学中的记忆理论是不够的，需要新的理解。本文提出记忆作为条件的理论。这一理论源头在于布伦塔诺和胡塞尔等人。在笔者看来，记忆作为三种条件形式存在：认知与情感的基础条件、理解人类自身的历史条件和实现自我和他者认同的条件。第一，记忆是认知和情感产生的基础条件。如果没有了记忆这样的基础维度，实际上情感和认知是不可能的。第二，记忆是理解人类自身的历史条件。这是关于一种人类历史的构建，比如说怎么去面对历史，这时候就需要回忆把它构建出来。第三，记忆是实现自我及其他人认同的必要条件。这具体到个体来说实际上是对自我的认同。我们能够知道我是谁，又通过怎么样的方式去知道我是谁。在这个过程当中，传统认识论和知识论的学者认为认知起了非常重要的作用，但是记忆与回忆的作用不容忽视，回忆包括记忆实际上是另外一个不可忽视的条件，但在通常的哲学史当中把记忆放在了认知底下其作用完全被忽略掉。

当采取记忆哲学维度去看，人工智能是进化的过程还是革命的过程的问题就可以获得解答的可能性。从前面所提到的三个条件来看对这问题就可以做一个有效回答。如果把记忆理解成信息的编码、存储、提取这样一个过程，那么人工智能是无法从进化突变到革命的，就没有革命，只有一种进化。但如果进一步把记忆理解为认知和情感产生的前提条件的话，实际上就具备了一种可能性，就说它能够突破技术奇点。

更重要的是，记忆和回忆的关系问题没有受到重视，因为太多的理解强调记忆作为信息的编码、存储和提取过程了，以至于把回忆的维度给忽略掉。回忆是人类特有的一种现象。亚里士多德就指出来说动物和人可以拥有记忆，但是唯独人才能拥有回忆。从他的观点看，人工智能是不可能拥有回忆的，因为它与动物一样，缺乏足够强大的意向性。所以人们这时候就不用担心它有一天会超越人。但是在笔者看来，如果把回忆维度考虑进去，这个问题就有无限的可能性了。具有回忆能力意味着机器具有了重构过去经历的能力，具有了重构过去经历的可能性。换句话说，对人工智能机器而言，它具有经历，意味着它具有了过去的时间概念。这远远不同于只是信息保存和提取的记忆过程，而是能够将过去当下化的过程。最近人工智能学者阿尔伯特·艾如斯勒姆(Albert Ierusalem)也指出了人工智能可能会具有自身的经历。“基于经历(experience)，如果系统能够在每一个环境中选择正确的行动，这使得计划变得不必要。”[注]Albert Ierusalem,Catastrophic Important of Catastrophic Forgetting, https://arxiv.org/pdf/1808.07049.pdf ,11[2018-10-9]人工智能能够感知世界这已经成为常态，只是人工智能回忆自身的经历却是一个具有挑战的事情，不仅仅是关系到技术怎么去实现，比如说让机器去回忆世界，更重要的是会涉及到人工智能的革命性突破。如果能够实现这点的话那么人工智能走向强人工智能会成为一个必然。