王汝坤

(重庆理工大学马克思主义学院，重庆 400054)

一、 引 言

长期以来，人类专注于改造客观世界的同时，也在改造自身，主要改造的是人的“精神世界”。人工智能作为人类改造自身的新起点，将改变作为物质实体的人，以及人类的命运。有人说，人工智能是人类的最后一项发明，因为它最终会在世间代替人类，人工智能的时代即后人类时代——这一观点还存在诸多疑问。

人工智能技术的快速发展引发了许多伦理与社会问题，相关的研究和实践正在蓬勃开展。学者们探讨的主题包括但不限于以下一些问题： 智能机器自身的道德和法律地位问题，智能机器的思维和意识问题，人工智能系统在实际应用中存在的侵犯隐私和监控问题，(1)Roessler B. X: Privacy as a Human Right[J]. Proceedings of the Aristotelian Society， 2017， 117(2)： 187-206.(2)Macnish K. The Ethics of Surveillance： An Introduction[M]. London： Routledge， 2017.在设计时存在的歧视或偏见问题，(3)Daniels J， Nkonde M， Mir D. Advancing Racial Literacy in Tech [EB/OL]. (2019-05-22)[2021-10-01]. https://datasociety.net/output/advancing-racial-literacy-in-tech/.在运行和决策中的不透明性问题，(4)Danaher J. The Threat of Algocracy： Reality， Resistance and Accommodation[J]. Philosophy & Technology， 2016， 29(3)： 245-268.在推广后对就业的冲击以及使人类“衰弱”或“去技能化”问题，(5)Danaher J. Automation and Utopia： Human Flourishing in a World Without Work[M]. Cambridge， MA： Harvard University Press， 2019.(6)Vallor S. Technology and the Virtues： A Philosophical Guide to a Future Worth Wanting[M]. New York： Oxford University Press， 2016.人机交互(HRI)问题，人工智能的技术奇点和价值目标一致性问题，(7)Kurzweil R. The Singularity Is Near： When Humans Transcend Biology[M]. London： Penguin Books， 2005.(8)Ord T. The Precipice： Existential Risk and the Future of Humanity[M]. London： Bloomsbury， 2020.等等。总体来讲，已有研究大多关注于人工智能现有技术成果在社会伦理现实的背景下拥有怎样的机遇与挑战，以及对人工智能发展历史的考察，但很少对前人工智能时代(特别是对自然物—生物—机器的演进过程)作综合考察。本文不会就上述某个专门问题展开探讨，而是提供一种研究视角，即从广义进化论的视角出发，对人工智能作历时态的考察，把对人工智能的历史考察拓展到前人工智能时代，使研究更具溯源性，并将各类智能体的演进过程联为一体。在本文中，广义进化的主体为自然物、生物、人、机器和人工智能，在考察自然物、生物、人、机器演进关系的同时也考察了人类史或宇宙史。同时，我们也将从共时态角度进行考察，对人工智能与自然物、生物、人、机器之间的现实关系进行对比分析，在相关问题上得出一些新结论或启示，进而深入理解人工智能及其发展的意义。

二、 自然物与人工智能

从进化论的角度，一切事物都来源于自然物。浩瀚宇宙，其主体即自然物，智能体只占其微不足道的一部分，智能体对整体自然物的影响也是如此。一般意义上的自然物没有智能，更不具有人工智能。正因如此，对待自然物通常不涉及伦理，但对待融入人类社会的自然物(即人化自然)则会有所不同，例如在牵扯到金钱、农作物的问题上，自古容易引发利益争夺。直到第二次世界大战后，名义上的“自然伦理学”才开始涌现(如大地伦理、生态伦理等)，此时作为伦理对象的自然物多属于公共自然物，与从前那种私人自然物存在差异。而公共自然物之所以此时成为伦理对象，是因为人们发现人类与目前的人化自然构成的系统是相对封闭的(如“地球村”)，人们从前认为可以向自然单向和无限地索取，现在发现自然也是有限且非循环的，这些公共自然物因此变得珍贵、稀缺，需要对其进行伦理约束。总之，由于自然物没有智能，也非生命体，赋予它伦理意义只是因其介入了人类社会，并且这是基于人类立场而非其自身立场(它也不具备自身立场)的考虑，这就使之与下文的生物、人、机器等区别开来。

但是，自然物不具有智能这一点，只是理智时代以来人们的认识。在远古时代，“泛灵论”曾是人类的主流观念，那时人类与那些神圣、敬重、恐惧的自然物也存在伦理关系，而且在各民族的神话体系中自然物之间也有伦理关系。可以说后来关于机器具备智能的传说或假设都可以溯源至此。直至今日，泛灵论仍存在一些变体形式。自然物所体现的自然规律和自然反应本身不是智能，人们曾有自信掌握它们，然而，随着光速不变性原理、测不准原理、不完备性定理的发现，人们认识到了物理世界的局限性、认识的有限性、真理的相对性等等，(9)乔治·扎卡达基斯.人类的终极命运： 从旧石器时代到人工智能的未来[M].陈朝，译.北京： 中信出版社，2017： 196.人们似乎又被打回到对自然缺乏认知的洪荒状态，这时上帝造物的思想就开始甚嚣尘上，自然物是上帝智慧的化身，意味着它本身也有智能。

不过，另有乐观派认为，人类发展的趋势是其智能的能力和范围不断扩展的过程。有人说人类的终极目标是“活化自然”或“活化宇宙”，就像现在有的建筑师或居民把房子修建成智能家居，房间里的每个物品都成为智能系统的一部分或外设。或许人类终有一天会把整个宇宙智能体系化，至少是在不断向这个目标迈进，自然物会在与智能体的交互中不断融入其(人工)智能体系中去。“万物与我为一”，人类也将跃升为神。当然在这个过程中，自然物会被附加大量的技术手段，变成“人工自然物”，制造机器人只是一个开端。

三、 生物与人工智能

从进化论的意义出发，动植物是地球上出现的第一种智能体形态，虽然它不是人工的。生物具有多样性，后来衍生出高智能的人类。人类很容易对动植物产生伦理感情(甚至对蘑菇、鸡蛋)，但对机器无感，因为动植物是自然生命而非人工生命，它们从人类产生之初就与我们朝夕相伴并有着亲缘关系，如今，人类的食物几乎仍全部来源于此。植物与动物之间也存在不同： 植物虽然是生命体，但不具有智能，缺少神经结构与功能。

与人类和人工智能相比，动植物可以说是有趣的存在。它们似乎是自然物向人类发展的中介和桥梁，过去人类的很多做法其实是“过河拆桥”，通常把动植物看作是一种可以随意占用的资源和财富。农业时代过后，人们对待农业生物和野生生物的态度有所分别。在历史上，一些农业生物通过驯化的方式可以为人所用(家畜、宠物等)，在一定意义上它们成为初级形式的“人工智能生物”。在当代，人类利用基因技术可以改造一些现有的生物，复原或重现从前被淘汰掉的生物，甚至造出一些不曾存在但可能存在的生物，基因技术可被视为人类制造“人工智能生物”的又一种方式。

动物是人类的前世，人工智能则是人类的未来。有人把我们如何对待动物与人工智能将如何对待我们相类比。理论上除了农业生物之外，人类的生存并不需要野生生物的存在，甚至未来人类的生存可以不依赖任何动植物的存在；但是由于认识到与它们的亲缘关系以及其他附加原因，现在我们对保持生物的多样性有着紧迫需求，我们在营造一种与动植物和谐相处的模式，然而这种和谐实际上似乎只是一种人类自以为是的和谐。人类对待动物的不光彩历史很多书中都有谈到(最经典的莫如彼得·辛格的《动物解放》)，遗憾的是这一现象在今天仍然存在。今后一段时间内，人工智能总体上仍弱于人类(“弱人工智能时代”)，犹如动物弱于人类，我们要像对待动物一样对待它们吗？(10)Darling K. Extending Legal Protection to Social Robots： The Effects of Anthropomorphism， Empathy， and Violent Behavior towards Robotic Objects[C]//Calo R， Froomkin A M， Kerr I. Robot Law. Cheltenham： Edward Elgar Publishing Limited， 2016： 213-234.未来的人工智能会怎样对待我们呢？有人设想在所谓的“超人工智能时代”，人工智能体统治或奴役人类，就像我们现在对待家畜或宠物一样。这样一来，虽然生存境遇不佳，但人类这个物种至少不会灭绝。有一种叫“同类竞争效应”的生存法则在许多生物领域都存在，狮子不会跟羚羊竞争，只会跟其他狮子或野兽竞争，甚至狮子如果足够聪明的话，还会豢养羚羊，超级人工智能对待人类也可能如此。再好一点的情形是，它们会像对待野生动物一样对待我们，要么把我们养在“野生动物园”，要么把我们遗弃在太阳系让我们自生自灭，而它们则移民外太空。在这一设想下，人类会像被诅咒一样不再敢尝试研制人工智能，避免技术奇点。不过在人工智能问题上，笔者对人类的未来并不持悲观态度，下文再细述。

笔者相信人类对待动物会越来越友好。在不远的将来，农业动物会得到持续解放，毕竟人们养殖、杀死、食用这些动物的本意，并不是以杀生为乐，只是为了获取高品质的蛋白质，而蛋白质可以靠生物技术解决和替代，比如“肉类培养皿”不以个体动物为培养对象，只是对肌肉组织的一种培养，因此从培养到食用的过程中，不存在主体的痛苦感觉，就像我们食用植物一样。目前，人造鸡肉已获批销售，(11)辛斌.“人造鸡肉”首次在新加坡获批[N].环球时报，2020-12-03(11).在未来的农业中，动物们会得到彻底解放(可能人对动物的伤害停止的那一天，人对人的伤害还没有消失)。这或许可以作为未来人工智能与人类良好关系的一个隐喻，而我们首先要做到的就是善待动物，善待弱人工智能。

现在还是回到一种比较现实的类比上： 将初级形式的人工智能(或弱人工智能)与动物相类比。目前两者存在很大差别，但并非一方在所有方面都强于另一方。初级人工智能在符号化计算和机械化工作等方面的能力甚至远超人类，但今天的人工智能在综合能力方面还达不到低等动物的水平。神经网络模拟一派的研究表明，“与人类的大脑相比，线虫的大脑连接组非常简单，只有302个神经元(人类有850亿个神经元)和7 000个突触连接。事实证明，就算用线虫的大脑连接组复制它的小思维也是极端困难的”。(12)卡鲁姆·蔡斯.人工智能革命： 超级智能时代的人类命运[M].张尧然，译.北京： 机械工业出版社，2017： 75.因此，现在的人工智能技术要全面仿真模拟动物或人类，还有很长的一段路要走。

动物与人之间最主要的区别在于智能上的鸿沟。利用人工智能技术我们或许可以进行这样一个大胆的尝试： 通过“动物增强”工程抹掉这种鸿沟，使动物在智能上达到或接近人类的水平，构建一个真正的“动物世界”。不过这个计划暂时还难以推进，除技术原因外，还存在回报不确定、充满风险等问题。但是，如果说插上人工智能的技术翅膀后，人类自身有实现“超级智能”的能力，那么将其添在某些动物身上，至少也有了实现“人类智能”的潜力。某种意义上，完成这项“动物增强”的工程才能更彻底地实现动物解放。

四、 人与人工智能

人类的历史只有几百万年(智人的历史大约只有7万年)，相对于浩渺的宇宙，我们每个人都是过客，甚至最终整个人类(至少是现代意义上的人类)都是过客。我们已经初步了解我们从哪里来(通过进化史)，但是仍不知道向何处去，人工智能是可预见的人类未来形态之一。

人类是人工智能的唯一制造者。理论上人类实现人工智能主要有两种途径： 一种是通过对人造物“机器”的不断改进，另一种就是从人直接过渡到人工智能，当然还有两者相结合的方式。我们现在研发和采用的硅基技术、神经模拟等手段都属于前者，而后者主要指人机融合、基因技术等。我们应该改变那种“人工智能只能源自机器”的观念，人本身就是人工智能的原料或半成品，我们可以通过“人类增强”技术开拓出人工智能发展的另一条路径。也就是说，实现人工智能既可以从机器出发，也可以从人出发。目前从机器出发的研发进度很快，这是因为机器这个起点比人脑低很多，有一定的“后发优势”，而从人脑出发不仅有较高的技术门槛，而且做人脑或人体实验还有很高的伦理门槛，相对而言，现在的脑科学研究还很落后，而在未来的人工智能领域，生物技术和计算机技术将走向融合，并驾齐驱。

人类对自身局限的不满由来已久。目前人对自身的智能显然不够满意甚至失望，这在与电脑的多项对比中有深刻体现。例如人类从出生到成人所花费的成长或培养的时间达20年，而电脑几乎不需要这样一个漫长的“成长”过程。人脑仍在进化，但是我们还未搞清楚它进化的机制和方向，否则就可以用人工方法让它加速。虽然有人认为智人的大脑几万年来在智力方面的发展不多，但是人脑仍有优化的潜力，尚未达到神经元有机体蕴藏的智能极限，一些人类天才的存在可以证明这一点。现在的天才儿童往往被认为是人脑在进化过程中出现的一种突变现象，可以预想，在未来可以利用人工智能技术让人人都成为天才。用人工智能技术改进过的新人类可以被称为“人工智能人”，仍然是“以人(类)为主”，与从机器发展而来的“人工智能机器人”相对。就像上文所说，由于从人类出发的“人工智能人”研究进展缓慢，狭义上所说的机器人往往指后者，甚至我们平常说的人工智能也主要指机器方向的人工智能。但两者对人类的命运都可以产生巨大推动力，也可能造成严重威胁。需要注意的是，后文中再使用“人工智能”一词时，在特定语境下可能指广义上的人工智能。人工智能革命将加速人类进化的进程，从这个意义上可以说是人类几万年以来经历的一次变革。人工智能不仅可以改变人类，也会改变动物的生活、机器的性质、自然物的状态。

有人认为有机生命在本质上只不过是一种“算法”，(13)邓少平.算法与生命： 兼论世纪之交的生命观[J].科学(中文版)，1996(10)： 6-8.这一点上它与其他智能体没什么两样，或者说两者都是由编码产生： 人是由基因编码，机器则由程序语言编码。把生命归结为算法或编码，意味着无主体，生命的意义也会随之消解，笔者并不认同这种虚无主义或还原主义。人类由分子、原子等无生命的物质实体构成，但这些原子统合在一起就形成了活生生的人。同样，算法本身没有任何生命价值和主体意义，但诸多算法嵌入于智能体后就构建了意义。可以说对于“意义”，我们从作为有机整体的人的角度来理解才适宜，而不是从构成人的化学原子、程序算法、基因编码层面去理解。

与某些研究者一样，笔者对未来人工智能的安全问题总体上持谨慎的乐观态度，主要基于三点： 首先，人是人工智能的创造者，因此人可以预先设计“安全阀”，就像现在对核武器、转基因那样加以限制。第二，通过人机融合、人类增强实现“我们就是‘他’”或“我们强于‘他’”。第三，现在人类虽存在劣势，但与人工智能(狭义)相比仍有很多优势，并且有继续保持优势的可能。由半导体技术发展而起的“硅基生命”，与以人类为代表的“碳基生命”(可能还会有“硼基生命”)相比，并不存在一方在各个方面都强于另一方的情况。据测算，人脑作为一个综合系统，其计算速度高达每秒1018次浮点运算，(14)卡鲁姆·蔡斯.人工智能革命： 超级智能时代的人类命运[M].张尧然，译.北京： 机械工业出版社，2017： 73.比2020年超级计算机冠军日本富岳(Fugaku)还要快两倍多，并且它体积小，功耗只有20 W左右，体温仅提高1～3℃。(15)加来道雄.心灵的未来[M].伍义生，付满，谢琳琳，译.重庆： 重庆出版社，2015： 228.可以说，人脑中蕴含的碳基算法相对于目前的硅基算法，优势明显。未来的人工智能技术要想在运算速度、算法、能耗、信息存储、体积等方面达到完美平衡，这是一个极大的挑战，而且这些要素之间可能根本上存在一个极限的约束定理，使其难以超越人脑。此外，有人认为智能机器人相对于人类可以在更严酷的环境里工作生活，这其实是一个误解。半导体的工作环境也受到严格限制，需要远离高低温、辐射、潮湿等环境，之所以认为它可以承受严酷的条件，是因为对它加强了外在保护或者只是它的外设具备此种能力，但在这方面，它本身并不比人类强多少。以上三点需要人类好好把控，如果把控不好，悲剧仍可能发生。与人类的其他事业一样，人工智能问题也没有绝对的安全。

每个物种都有自保性，这通常是合理合法的，而非物种层面的种族主义。人类有必要创造一个新物种(智能机器人)来代替自己吗？人类研制机器人根本上是为了为我所用，但绝不是为了代替人类。有人说当人工智能在一些关键方面超越了人类，为了某个更高的宇宙目的人类就该“退位”，甚至把人工智能视为人类之子而甘愿自我牺牲。(16)加来道雄.心灵的未来[M].伍义生，付满，谢琳琳，译.重庆： 重庆出版社，2015： 217.笔者不能苟同这种想法。人类与狭义的人工智能(智能机器人)存在异质性，绝非“父子”关系。智能机器人即使通过了“图灵测试”，也只是在功能主义的意义上等价于人，而非完全意义上的人。每个物种都有正当的自保性，我们虽然爱护动物，但不会为了不让狮子饿死而将自己投喂给它。这涉及“类伦理”或跨界伦理(当然普通动物并不具有类意识)。人类作为物种愿意牺牲自己，大概只会在下面两种情况下发生： 其一，人与人工智能融为一体，相差无几；其二，人类由于某种原因无法生存发展下去，那么他会把世界的未来交还给动物或机器人，而正常情况下人类绝不会把他的生存权和某种意义上对世界的控制权交给其他物种，所谓“更高的宇宙目的”只是一种虚构的形而上学和意识形态。在人工智能问题上笔者持一种人本主义立场，它基于这样的信念： 相信人类现有的或潜在的优势终究强过其他物种，或者出于人类物种的自保性——从这一立场出发再阐述人工智能与人的其他可能性，事实上现在国际社会已提出的各种人工智能伦理准则也是以此为前提的。

五、 机器与人工智能

近年来，从机器出发的人工智能研究进展很快。机器发展的历史大致可以分为从自然状态到机械化、自动化、智能化、人机一体化几个阶段，对应工业1.0至4.0。机械化源自原始时代人类制造出的第一件粗陋的劳动工具，如木器、骨器、石器，到今天催生了各种精密金属以及合成材料。机械化发展的重点在于优质的材料和精细的制作，还有规模化，“世界七大奇迹”均规模宏大，代表着古人的机械化成就。

自动化源自古代农业中的风车、水车和生活中的一些精巧设计，如鲁班的“削竹木以为鹊，成而飞之，三日不下”，(17)墨子.墨子·鲁问[M]//徐翠兰.墨子.太原： 山西古籍出版社，2003.到今天的工业流水线(或者所谓的工业机器人)、汽车、计算机、人造卫星等。自动化发展的重点在于动力输入和过程控制。例如汽车制造追求节能减排，工业生产讲究效率。在此意义上，蒸汽机的发明其实是自动化发展的一个里程碑，机器从此获得了持久的新动力，这种热力是人类历史上获得的第一种超越了体力和宏观机械力(如水力、风力等)限制，并且能够自我主导的、独立的、便捷的能量。蒸汽机的发明通常被认为代表着“机械化大生产时代”，事实上正因为找到了这种便捷的能量与极其巧妙的工业设计，从而使这种机械模式得到了广泛应用，因而是自动化发展过程中的一次飞跃。

一般认为，机器的智能化从1956年达特茅斯会议开始，此乃公认的标志人工智能科学诞生的事件。智能化的本质是机器可以不依赖外在因素的输入或干预，独立地处理和适应不同的环境条件，当它把人类视为外在因素时，它已是独立的活动主体(虽然未必具有自我意识)。由此看来，目前我们仍处于人工智能的初级阶段。从算法的角度出发，自动化是由人设定过程或算法，智能化则是机器自己设定和修改算法。智能化发展的重点在于智能的提升以及不同智能体之间关系的协调，目前实现的智能化都是人的智能的反映和集成，体现的完全是人的智力和意志而不是机器自身的，因此某种意义上只是一种升级版的自动化。智能化是未来机器产业发展的方向之一，机器智能化达到一定程度后就会生成智能机器人，人和机器的关系也会出现某种重大转折。(18)成素梅.智能社会的变革与展望[J].上海交通大学学报(哲学社会科学版)，2020(4)： 9-13.

关于人机一体化，不是指人佩戴耳机、脑电传感器，或通过脑机接口连接其他可穿戴设备，而是智能化高度发展后的阶段。目前在人机关系上，机器只是附属于人的工具，在未来，由于机器也具有主体性，人与机器将是交互的关系，即两个最智能的物种(人机)实现共生，也即两个主体共存一体，而现在的人机关系显然还只是单一主体。就像在斯派克·琼斯执导的科幻电影《她》(Her)里，男主人公可以与一个操作系统相爱，这是一套非常先进的人工智能辅助系统。当然目前的发展状况可作为未来人机一体化的起点或先导，人机一体化的发展重点应落到人机的内在耦合以及脑联网的互通。机器对人的异化由来已久，如果从机器的角度看问题，这同时也是机器与人的同化过程，会随着人机一体化达到极限。需要注意的是，机器如果不走人机一体化的道路，那么将可能成为一个独立的物种，对人类产生威胁。

人机合一与人机相分，是一对需要由历史来检验的矛盾。古人(特别是统治者)的理想是把人驯化为机器；今天，人类的理想是把机器研制成人。前一个理想众所周知失败了，因为它利用了人的“机械性”“可塑性”，却忽视了人性中对自由的追求；后一个理想我们拭目以待，在机器中可以构造人性吗，还是说机器终究不过是机器？不过，直到现在人类仍未放弃这两个理想。关于“人机合一”，按照传统对“天人合一”的理解，“天人合一”并不意味着天与人无差别地合而为一，而是两者既独立又和谐共生，这里的“人机合一”也当如此理解。不过有人设想，有一天我们可以把人脑的全部信息拷贝到机器人大脑中运行，实现人机转换或者身份互换。人脑电子信息化后，可以突破有机体的界限，如实现超时空飞行、虫洞瞬移等，寿命无限更是小问题。这在理论上可行，但在技术上还存在很多难题。如果实现的话，人类将面临两种选择： 是选择有机(碳基)大脑，还是硅基大脑，以及相应地适配什么类型的身体。目前我们还不能明确有机体和硅基体各自的优势与界限是什么，所以对于人类以后的选择也不能下定论(辩证法告诉我们，通常是两者各有优缺点)。不过这种自由选择意味着人机之间的无差别化，机器人伦理的问题就会变得简单许多： 我们可以按照人类的原则处理机器人的问题。这可被视为人机一体化发展的一个更高阶段或另一种形式。

对以上四点内容我们用一个表格作简要的概括，见表1。

六、 人工智能与人工智能社会

在“生理”意义上，智能机器人与人类存在很大差异，进而机器人的价值观、审美观与人也会有很大不同。由于进化、生理结构、与自然生态的共生等原因，人类的很多本性、观念和习俗都可以溯源到动物群落时代。人类属于“湿件”，既沉醉于自己创造的科技与人文成果，也喜欢自然古朴的生态环境，喜欢社团生活、亲近动植物，既热爱自由也喜欢专制，既自私也懂得利他，等等。但是机器人，从半导体的“生理结构”来讲，更喜欢干燥清洁的环境，或许还有整齐划一的世界；它讨厌洗澡，讨厌自然生物，因为这些低智能动物会给它造成不少麻烦，它会与这些“湿件”保持一定距离，它没有从其他物种进化而来的漫长进化史，只与人类有一定的“亲缘关系”，是由机器不断的智能化演变而来。因此它的身上刻有人—机的烙印，“人类美学”与“机器美学”共存于其身，而这两者或许会有矛盾(就像当人类同时具备人性与自然性时产生的矛盾)，在极端情况下它可能需要作出唯一的选择。智能机器人拥有了“自我意识”以及“类意识”，就会从整体上考虑怎样与人类共享或划分这个世界，双方要么“协商”，要么诉诸暴力。

从社会化角度看，智能机器人与人类有着亲缘关系。机器人无疑是伦理化、社会化的，它的价值观、审美观在一定意义上也由人类赋予。从这一意义上来看，我们与其担心人工智能的威胁，不如担心来自外星人的威胁，因为外星人跟我们才是真的“一点关系”也没有；但是，拥有自我和智能后的生命体无疑具有自主意识，它的价值观、审美观虽然建立在人类的基础上，但又会超越这种界限。此外，在人类社会发展的过程中，人类的能力和价值观相互协调发展，保证人类社会的健康与稳定，这种协调是人类在长期的生存竞争与协作中逐渐锻造出来的，而智能机器人却缺少这一过程。智能机器人虽然也有换代升级和快速深度学习的能力，但这个过程充满人为的干预和直接的赋予，它的智力与价值观之间未必协调。人类也有过很多科技发明，但因为整体道德水平的局限或治理能力的不足，有些发明的推广受到限制，如自由飞行器、隐身衣、枪支等。因此要实现人与机器人友好相处，必须要在能力和价值观方面实现协调。为此，在机器人技术发展中必须加强对过程的控制，对其智能，特别是价值观的发展过程进行控制，需要给机器“增加一个伦理维度”，(19)Anderson M， Anderson S L. Machine Ethics[M]. Cambridge， UK： Cambridge University Press， 2011： 22.防止发生某种异变。不过这里使用“控制”一词似乎又意味着人类与其在根本地位上的不平等，因此准确地说，至少在某一阶段必须是控制关系，之后再达到人机和谐共生的状态。

机器人的世界或人工智能社会会是怎样的？很多科幻影片给了我们一些启发，例如史蒂文·斯皮尔伯格执导的电影《人工智能》(AI)。这里我们简单地思考以下几个问题： 第一，机器人的繁衍与生产问题。同一类或同一批机器人可能具有出厂的同一性，这对先验论哲学构成一定的挑战，相对而言，机器人的个性更多取决于后天的“学习”。机器人具有寿命无限的特点，即使经历两千年，机器小男孩还可以“苏醒”寻找妈妈，此时它的人类“妈妈”早已消失。第二，机器人的情感、欲望问题。机器人会有七情六欲吗？它们如何组织社会关系？由于机器人是由人类设计制造出来的，所以早期智能机器人的感情、欲望等都是被设计出来的，等有了自我意识以后，它们才会对感情、欲望有自己的选择。在某种意义上，机器人对住别墅、开跑车、海边度假等是没有需求的，也不存在对“异性”的爱慕或歧视。但对于“友谊”(代表着合作)和“舒适”(如降低自身损耗)还是有需要的。第三，机器人社会的等级性。机器人社会也会分为三六九等。机器人的系统升级和更新换代在未来仍会继续，任何机器人都不想被淘汰，它们的这种需求和愿望恐怕来源于与人类长期生活所受的影响(类似于人类饲养宠物，宠物间也会争宠)；另外生命在本质上具有自保性，生命的延展也需要一种竞争机制。由于升级迭代以及具体的专业职能不同，机器人的多样性、等级性要远超人类。例如在该影片中，机器小熊是机器小男孩的宠物，其智能显然低于机器小男孩。第四，机器人的死亡或淘汰问题。机器人的世界也存在“机器屠宰场”。机器人也有一个梦，就是想成为超级机器人。在机器人社会中占统治地位的往往是最智能、最强大的一类机器人。作家乔治·奥威尔有一个寓言，《动物农场》里的猪从人类的奴役中寻求解放，但是革命成功后它们本身又构建了一个“人类社会”。机器人社会的形成也可以此类推。

由于人工智能脱胎于人类社会，人类的思想观念和行为模式为人工智能提供了一个样板，这也警示我们要小心对人类社会的运行模式和发展目标进行界定，因为若出现错误(如以智能化为最高目标)，这一界定可能成为我们被人工智能替代的理由之一。就像电影《黑客帝国》里“矩阵”特工史密斯说：“人类是地球上的一种疾病，而我们是解药。”当然在另一部电影《银翼杀手》中，“复制人”罗伊最后选择放弃自己的生命不去伤害人类，又给人以感动。人类追求的“繁荣和进步”具体指什么？我们(应当谦逊地表示)并不清楚，如果能清楚地“计算”出来，反而更加危险。

七、 总结： 对人工智能伦理的展望

“人工智能”一词在现实中存在误用、滥用的问题，亟须作一个严格的语义学界定，其中最大的误用是在现实中多用它来指一种以计算机为核心的机器，而严格地说，它指的是一种智能化的技术方式或方法。因此把它固定用作一个名词，反而不如用作一种摹状定语来得恰当(例如“人工智能是否可以成为道德主体”这一表达其实存在一定问题)。从这一点出发，“人工智能生物”“人工智能机器”“人工智能人”等概念应运而生，并且在现实中，我们都可以找到它们的确切含义，甚至“人工自然”也升格为“人工智能自然”。结合实际，这体现的是对人工智能的形态或发展方向的一种新的分类方法，可以依此对人工智能伦理体系进行系统化思考。

人工智能伦理的核心问题或终极问题是机器人伦理问题。虽然近期人工智能技术发展迅速，但还没有发展到高度智能化的程度，所以现在的人工智能伦理面对的伦理对象还只能被称为高度自动化的机器，如自动驾驶汽车，以及将来要推广的助老机器人等。这些“智能机器”几乎都不是严格意义上的道德主体，它们获得的某种“拟主体性”是人类(部分)赋予的，而不是自己获得的。因此，相对而言现在人工智能案件中的主体责任还是容易区分的，如自动驾驶汽车事故的责任认定，无外乎在设计者、生产商、使用者、市场管理部门等之间进行权衡划分。(20)杜严勇.人工智能伦理引论[M].上海： 上海交通大学出版社，2020： 184.让汽车来承担主体责任是没有意义的，就算采取召回和维修，影响的还是上面那些主体的利益。因此，伴随智能化的提升，机器人伦理才是人工智能伦理的核心和难点问题。我们对人工智能伦理的展望，也主要是基于这一点。

对于人工智能发展的未来，很多问题是不可预知的，对此，我们需要提前作好规划，以应对可能存在的各类风险。我们应该有一个“应对方法序列”。根据前文的阐述，未来人工智能的发展方向可以划分为三个领域： 机器智能(机器人)、人机一体、人类增强。未来的人工智能伦理主要取决于这三个领域的发展状况，三者相互关联，共同决定未来人工智能伦理的格局。这三个领域分别对应三个问题：“机器(人)会是什么样”，“机器(人)和人类结合会是什么样”，“人类会是什么样”。整体上，三者的伦理风险系数依次降低。

首先，在机器智能方面。目前智能机器几乎没有主体性，更无自我意识，无独立的价值观。机器伦理虽然对于人类安全性良好，却不够便利。因此需要进一步推动智能化，机器智能化大体可以分为两个阶段： 第一阶段使之具有主体性或能动性，类似一般动物，当然专项能力远超动物；第二阶段是具有自我意识，进而具有独立的价值观。按有关学者的分类，前者可以称为“强AI2”，后者可以称为“强AI1”。(21)王彦雨.“强人工智能”争论过程中的“态度转换”现象研究[J].科学技术哲学研究，2020(6)： 26-33.在第一阶段，机器人对人有一定的危险性，但是应该不难控制，因为它虽然可以独立活动，但总体上还处在与人类的协作、依赖关系中。比如，古人云：“天高任鸟飞，海阔凭鱼跃。”鸟兽鱼的遨游本领和猎食本领都强过人类自身，但它们并不会威胁到人类，因为它们之间是孤立的而非联合的，它们的目标也不在于人。在这一阶段人类总体上仍是安全的，但再往后发展则会进入高风险阶段。正如何怀宏先生所说，“我们也许还应该有意让人工智能变得‘笨’一些，即有意地让它们的功能比较专门化、小型化，限制它们的自主意识和综合能力，防止它们向超级通用智能的发展”。(22)何怀宏.人物、人际与人机关系： 从伦理角度看人工智能[J].探索与争鸣，2018(7)： 27-34.在第二阶段，机器人具有自我意识及独立价值观，这意味着机器人获得了和人类同样的社会身份和道德主体地位，而这同时也指向另一种可能： 它们甚至会超越人类。人类的社会地位会遭到挑战，而且很可能甘拜下风，在目前的人类观念中，这是无法接受的。因此，这就非常有赖于后两个方向的发展，即人类增强和人机一体，也即未来的人类将怎样保持自己在技术能力上的优势以及与机器进行融合、合作。人类不可能一心只想着壮大对方，自己却毫无进步。因此，在机器智能进一步提高的同时，人类智能或人机一体的能力也需要同步发展，这样才能从根本上保证人类不处于弱势或被淘汰，否则尽量不要做第二阶段的尝试。阿西莫夫的“机器人三定律”在第一阶段就需要考虑，因为到了第二阶段，严格来说机器人已不在人类的“控制”之下(在伦理意义上我们和它已不是控制与被控制的关系)。我们首先需要谨慎、友好地对待它们，这样即使它们超过人类，也可能对我们“投我以木桃，报之以琼瑶”；当然如果仍然出现全面失控、无法挽回的局面，那么人类也只能接受自己的命运。

其次，人机一体方面。人机一体的前提是人和机器之间相协调，这样才能一体。人类有了智能机器的帮助，能力将变得更强大，利用人机各自的优势，理论上可以超越单纯的智能机器人。因此，人机一体的发展在一定程度上可以降低人工智能发展的风险系数。不过此方向显然有赖于其他两个方向取得突破。对比这三个方向，从长远来看，人机一体可能更有优势和前景，因为它可以利用人机各自的优势超越单纯的机器人和增强人类。自人类发明机器后，人类与机器就处于复杂的、难以割舍的对立和融合的关系中，这种历史还将延续下去。不过在人机一体中，人机之间能否保持协调，是否会有智能机器觉得人类是个累赘而不匹配不合作的一天出现？在“一体”中，人和机谁占主导地位？因此，风险还是存在的，一切安全归根结底都离不开人类自身能力的增强。

最后，人类增强方面。人类增强更多指的是依靠生物科技，改变人自身的大脑结构及生理机制，使人类能力变强。当然也可以加入一些机器的元素，只不过这样会接近于人机一体。笔者认为人类增强有很大的潜力。在生物进化方面，猿类从刚出现到进化为南方古猿用了两千多万年，从南方古猿进化到智人用了几百万年，智人或者现代人的历史则只有几万年，从这个时间序列来看，现代人进一步发展的潜力还很大，而且会更快，人类增强在这里将发挥重要作用。人类增强也存在其他的可能，凡是能保证人类的本质规定具有延续性的方式都可以用来实现人类增强，如前文提过的“人机转换”设想。一切伦理关系归根到底取决于双方在能力、地位上的对比。理论上讲，人类增强可以使人类面对智能机器人时保持相对优势，能够最大限度地降低人工智能带来的风险。

关于未来人工智能的发展情况及相应对策，我们可以做一个总结，见表2。

表2 人工智能的发展方向及对策

需要指出的是，我们不要误以为智能化的程度越高越好、范围越广越好。助老机器人不久将向市场推广，但是为父母订购助老机器人是在体现子女对父母的关怀，还是会导致子女与父母之间感情的淡漠？恐怕后者居多。智能化普及后，很多人开始享受智能机器人提供的生产和生活服务，而自己则蜕变为“废柴”(如整日游戏、娱乐、消费)，这一点需要警醒。(23)Russell S. Human Compatible： Artificial Intelligence and the Problem of Control Kindle [M]. Lodon： Penguin Books， 2019.现代人类发展了上万年，至今仍有人像农业时代一样亲自种田，有时这只是一种难以忘怀的生活乐趣；同样，智能化的发展不能、也不应该替代人类的一切生产生活方式，因为它们代表着人类文明进步的阶梯。还有一个挑战是人工智能可能发展为“脑联网”形态，即所有的智能体共存于一套系统中，依赖并受制约于它，这将对个体价值产生严重威胁。对于人工智能的发展，我们每个人都有监督权、建议权。在这一点上笔者不同意《人工智能简史》一书的作者尼克教授的观点，他似乎很介意哲学家染指人工智能。(24)尼克.人工智能简史[M].北京： 人民邮电出版社，2017： 192.他无疑是人工智能领域的资深专家，不过就好像对待智能手机，关于它的性能、设计及使用，我们普通消费者应该都有提建议的资格。

人工智能的发展将改变人类的生存方式，也将改变人类自身。最根本的问题在于，我们怎样认识“生命的意义”这个既是科学、又属于哲学的问题。“我们为什么要发展人工智能？”“人工智能最终将把我们带向何处？”“人工智能是我们的工具，是我们的伙伴，还是我们异化出来的敌人？”这些问题都溯源于此。首先，人既有动物性，也有机器性，目前人与动物、机器的根本差别在于人有特殊的生命体验，包括情感体验、感知觉体验和思想体验等。对于人类而言，没有自我意识和体验，一切活动都没有了实在意义，生命的直接意义就在于体验或者被体验。生命体验可以还原为神经元末梢的生化反应，目前这种体验还无法实现相互替代(蜜蜂的视觉体验，我们还无法直观地感受，“机器的体验”更是难以想象)，但是未来呢？另外，人类当然可以拥有其他新伙伴，只是目前在人类内部，东西方人之间，宗教、种族之间都做不到和睦融洽，还能奢望人类与其他物种融洽吗？或许人类的特性在于，允许弱者存在(如其他动物)，惧怕强者(如机器人)，而对于同类则相互竞争、毫不手软(当然也存在合作)。同现代人类一起进化而来的直立人在几万年前就消失了(被我们的先辈智人消灭)，人类感到孤独了吗？人类一直在试图寻找外星人，但究竟是想寻找外星人，还是想寻找适于生存的外星球？几百万年前类人猿就凝望着的浩渺星空，会突然有什么奇迹发生吗？其实对我们而言，更现实一点的期盼是： 奇迹还是要靠我们自己来创造，我们要研制一种新“人类”，重要的是我们要成为“更好的自己”。