人工智能时代的技术异化

2023-11-20吕文博蔡晓琳江昊轩

今古文创 2023年44期

吕文博蔡晓琳江昊轩

【摘要】人工智能技术迅猛发展，但随之而来的各种影响也不可忽视。本文以英国作家伊恩·麦克尤恩的科幻小说——《我这样的机器》为研究对象，围绕技术异化这个概念，从主体性、伦理秩序和心理感受三个层面分析小说中的智能机器人给人类生活带来的影响。在强人工智能时代到来之际，探讨人工智能对人类社会秩序带来的潜在风险，对于人工智能技术的健康发展具有重要意义。

【关键词】科技伦理；人工智能；技术异化；人机关系；人类主体性

【中图分类号】I561 【文献标识码】A 【文章编号】2096-8264（2023）44-0019-04

【DOI】10.20024/j.cnki.CN42-1911/I.2023.44.006

基金项目：东南大学2022年国家级大学生创新创业训练计划项目“当代英语小说中的人工智能书写研究”（项目编号：202210286102Z）。

一、引言

近日，美国OpenAI研发的聊天程序ChatGPT在网络爆火。人们在惊叹人工智能进步的同时，也对这种新兴技术产生了深深的担忧。人工智能尽管与人类生活的联系日渐密切，为人类带来许多便利，但同时也让人类不得面对许多棘手的问题：人工智能在不断发展的过程中会给人类社会的伦理秩序带来什么样的影响？人类又该如何应对？

国内学者吴岩（2008：42）表示，“科幻文学这种一直被认为是描写未来的文类，其实描写的就是现实本身。”科幻小说犹如科技创新的预言家，既为现实科技提供动力，同时也预言高科技所带来的忧患，以此来警示人类科技发展带来的潜在问题。本文选取英国作家伊恩·麦克尤恩（Ian McEwan）的新作《我这样的机器》作为研究对象，从技术异化的角度分析人工智能对人类社会的影响。在小说所呈现的人工智能时代，机器人“亚当”和“夏娃”参与到人类生活，促使人们去思考人机共处过程中必须面对的一系列问题。

尚必武（2019：63）基于对该书的文学伦理学分析，认为“在小说中，自然选择、伦理选择和科学选择的区别突出表现在机器人亚当不具有承载伦理意识的生物性脑文本”。但由于亚当不具有脑文本，它根本无法恰当处理与人类的伦理关系，这也许就是亚当引起人类伦理问题的根源。除了伦理方面的讨论之外，更多的学者把目光放在了人工智能技术可能在未来给人类带来的影响。国内学者周敏（2020：75）对人工智能技术持有相对乐观的态度，并从“人机共同体的角度，探讨人与人工智能之间的共在模式和伦理关系，进而思考人机共存的可能性”。而布鲁斯·金（Bruce King）（2019：870）对此则较为悲观。在后殖民研究的框架下，他对小说进行了分析，指出未来的科技将席卷并支配整个世界，最终引导人类走向不可避免的悲剧结局。在小说《我这样的机器》中，人工智能技术进入了人类日常生活，给主人公查理带来了诸多好处，也引发了一系列伦理和心理问题。本文从技术异化的角度，从人类主体性、伦理秩序和心理冲击三个方面分析小说中的人机关系。

二、技术异化

马克思（Karl Marx）在19世纪定义了科学技術，发展并且形成了完整的马克思主义科学技术观。马克思指出，“科学是一种在历史上起推动作用的、革命的力量。”（韦建桦， 2009：602）同时，马克思的辩证思想促使他思考科技发展对人类的负面影响。在马克思看来，当人们失去对工作或活动本身的参与时，当人们的工作或者生活被机器所支配时，异化就会发生。马克思在阐述技术异化理论时也指出了“科学技术发展对人类内心压抑、心灵空虚以及价值观缺失和对相伴的社会风险加剧等问题。”（刘大椿，刘孝廷，万小龙等，2019：37）

自马克思之后，许多学者和哲学家都对技术异化理论进行了深入阐释。哈贝马思（Jürgen Habermas）认为，科学技术的异化已经入侵日常生活领域，对人们之间的交往造成破坏，从而导致人类的异化。安德鲁·芬伯格指出，在一个技术高度发展的社会，机器将拥有自我纠错的机制，即机器知道如何调整自己的运作状态，所以，当机器进化到可以脱离其创造者独立思考的程度时，人类将会出现相应的社会或心理问题。就人工智能产品而言，技术异化表现在人机关系的异化上，即劳动者与其所创造出的产品在人机共处阶段呈现出相悖相离的趋势。人作为主体，应对其生产的产品有足够的控制力。当人工智能反客为主并进而主导人的行为与心理时，人与人之间的关系也会受到影响，并进而产生马克思（2021：75）所说的“人与人之间的隔阂”。换言之，因为人工智能的影响，我们所习惯与熟知的人际交往也会发生改变。这也是麦克尤恩的这部小说所描述的情景。出于好奇，主人公查理购买了仿生机器人亚当。但在与亚当相处的过程中，不仅仅是查理本人受到了来自亚当的影响，他和周围人的关系也发生了变化。

三、挑战人类的主体性

人类发展科技的目的是为了使科技产物能更好地服务自己。但如果技术发展到一定程度，甚至于到了产品脱离人类控制的阶段，可能会对人的主体性形成冲击。在《我这样的机器》这部小说中，人工智能技术的产物——仿生机器人在很大程度上挑战了人类的主体性，造成了书中人物自我认同感的降低。

李为善和刘奔（2002：1）在《主体性和哲学基本问题》中写道：“人之存在的主体性就是指人是主体这样一种性质，形象地说，即人总是以‘主’人的姿态出现在世间，经纬天地，捭阖万物，或革故鼎新，推动社，会或号令众人，招待亲朋等等，即使去做客也总要做自己的‘主’的。”在人类社会中，尤其是在人际关系中，主体性是人类独有的区别于其他万物的特质。小说中的查理在买回亚当的初期就很好地体现了他的主体性。他只是将亚当作为一个商品，一条连接他与米兰达的纽带。但随着情节的发展，查理越来越依赖亚当。有了亚当帮他赚钱，处理家务，查理便不再积极地发挥主观能动性。他和亚当之间的关系也有了微妙的变化。到了最后，查理甚至觉得自己独有的“主体性”也能在亚当身上得到体现。他感觉自己在很多方面不如亚当，他的自我认同感也不断受到打击。

自我认同感是指个体对于自身存在的一种认同感，主要表现为能够理性地看待自身与外部世界的关系，并能够积极地追求人生目标，体验到自我存在的价值。（陶玥，张瑞涵，2022：2）亚当在体力上胜过查理，在赚钱能力上非查理所能及，在文学鉴赏能力上更是远超查理。亚当出色的赚钱能力让查理的自尊受损，使他不愿去请教亚当问题；亚当在米兰达父亲面前的出色表现导致后者把查理看成机器人，把亚当看成自己的女婿。亚当展现出的出色表现不断地削弱查理的自我认同感。即使是在情爱生活上，查理也感到自己受到了冲击。虽然说在米兰达与亚当发生性关系后，查理一再说服自己，只把亚当看成是一个“做爱的机器”（周小进译，2020：92），并且坚信亚当与米兰达之间 “不可能有原则和快感之间的斗争”，（周小进译，2020：89）但实际上他一直因为这件事而苦恼，始终在思考这个问题，即亚当和自己谁更适合作为米兰达的伴侣。查理知道，作为自然人的自己不可能像亚当一样，成为一个完美的存在，可以满足伴侣的各种需求。虽然他不愿承认亚当在充当爱人这一点上强于自己，但他又无法阻止亚当与米兰达的进一步交往。显然，在自我认同这个问题上，因为亚当的存在，查理感到气馁，遭遇了危机。

毫不夸张地说，在多个方面，亚当都胜过了查理。虽然说作为主人的查理因为自己拥有亚当而感觉到庆幸，并且享受着亚当带来的种种益处，但他在内心深处也被嫉妒、不安、怨恨等多重复杂情感所搅扰。可以说，高速发展的人工智能产品给人类带来了身份认同上的危机。

四、伦理秩序的崩塌

在《我这样的机器》这部小说中，机器人亚当已经超出现实生活中我们对机器人的普遍认知，因为他不仅外表与自然人几乎无异，他甚至可能拥有情感和自我意识。虽然他是智能机器，但他更接近于“人”而不是“物”。与普通的电子产品不同，机器人模糊了人与机器之间的界限。在小说中，亚当这样的机器也给查理的生活带来了一定程度的伦理混乱。

宋希仁（2007：1）指出，“从社会关系的维度来看，伦理秩序是社会关系中的合理的秩序。”小说中的“亚当”是家庭伴侣型机器人。但当他介入查理的生活之后，对查理生活中原有的伦理秩序造成了冲击，使得他不得不重新思考他和亚当之间的关系。刚开始时，查理把自己看成亚当的主人。于他而言，亚当不过是一个高科技产品。但在女友米兰达同亚当发生性关系后，查理觉得自己受到了背叛。在内心深处，他把亚当看成是自己的情敌，一个强有力的竞争对手。在故事结尾，当查理因为砸碎亚当而被图灵指控“犯下了永远不会接受审判的蓄意谋杀罪”（周小进译，2020：274）时，查理也在内心深处承认自己杀害了亚当，并且出于愧疚“吻了吻他那和人类几乎一样柔软的嘴唇”。（周小进译，2020：275）在查理心中，亚当是生命，同人类一样，拥有自我意识。从查理的境遇来看，亚当这样的类人机器是拥有“人类情感”的。如果我们把拥有“人类情感”作为一个判断标准的话，那么久已存在的伦理秩序便面临分崩离析的危险。

此外，既然机器人离“人”越来越近，那么机器人也会逐渐成为与人类直接发生联系的人类社会和家庭中的成员，但这必然会对传统的社会结构和伦理观念产生冲击。在学者王玉雯（2021：46）看来，“伴侣机器人比起其他人工智能的特殊之处在于要与人类在身体和心灵上产生关系，甚至是进入人类社会的家庭之中，成為家庭组成的一部分。这样一来，就不可避免地对人类传统的社会结构和伦理观念带来巨大的冲击。而冲击的始源，就是使伴侣机器人拥有独立的‘情感系统’。”起初查理购置亚当是想缓和自己与女友米兰达的关系，二人一同设置亚当的性格参数，此时亚当与二人的关系更接近于孩子与父母。然而，米兰达与亚当发生了性关系，并且亚当一再声称自己爱上了米兰达，还为她写情诗。孩子爱上了母亲，这是母子乱伦；查理认为自己被戴了绿帽子，这使得父子变成情敌。随着故事情节的发展，在米兰达作伪证这件事上，查理和亚当又因为立场不同成了敌人。亚当拥有独立的思考能力和情感能力。像他这样的人工智能产品进入人类家庭生活，很可能会引发家庭伦理的混乱，导致人与机关系或者更进一步人际关系的冲突。

从这部小说中可以看出，当机器人的外在与内在与人类趋同甚至超过人类时，人机界限便越来越模糊，而既有的伦理秩序也将受到冲击。通过讲述查理与亚当的故事，麦克尤恩促使我们思考人工智能时代错综复杂的人机伦理关系，重视技术异化所带来的对人类社会的影响。

五、心理层面的冲击

在马克思（1844：495）看来，“机器……是一种机制，在启动后，使用其工具执行与工人以前使用类似工具执行的相同操作。”但当机器无须工人启动便能自己工作，甚至于在外表上、行为上、情感反应上酷似人类时，便很可能产生“恐惑谷”现象，并进而让机器的所有者产生自卑和不信任等负面情绪。

在人机关系研究中，人类所经历的“恐惑谷”现象是一个不容忽视的话题，而这一现象在《我这样的机器》中也有体现。20世纪七十年代初，日本的机器人专家森政弘提出了“恐惑谷”假说。他指出：人们在与一个类似人类的实体相处时，该实体外表越接近人类，人们对其好感度也会随之增加，但是，当实体外表和人类接近到一定程度时，人们的好感将骤然下跌，与此同时，人们的恐惧和疑惑却不断增强。这种现象也属于人工智能技术异化的一部分。

在麦克尤恩的这部小说中，智能机器人亚当的外表和人类高度相似，但他终究不是人类。在与亚当相处的过程中，米兰达和查理都有“恐惑谷”的体验。初见亚当时，米兰达对查理说，“它的身体竟然是暖的，‘真吓人’”，“他能用舌头发出词语，‘有点怪怪的’”。（周小进译，2020：34）米兰达的反应说明，机器人亚当让她感觉不自在，其逼真的外表让她感到恐惧。查理也是如此。看到亚当在充电时还睁着眼，他不禁感慨：“这的确离奇吓人。太像死亡了。”（周小进译，2020：242）森政弘（Mori，M.2012：100）认为，“阴森怪诞（eeriness）的感觉可能是一种本能，它保护我们免受近处而不是远处的危险。近处危险包括死去的躯体、不同物种的成员和我们能密切接近的其他实体。远处的危险源包括风暴和洪水”。亚当充电时的模样，让查理联想到了自己死去的父亲，激起了查理内心深处的恐惧。

亚当不仅在外表上酷似自然人，在行为上显示出的高度理性化也让查理感到恐怖。在初次见到米兰达之后，亚当就提醒查理，让他对米兰达保持警觉，不要完全信任他。他还暗示查理，米兰达心里藏了一个秘密。查理得知后，“相信米兰达绝不会恶意撒谎，可是十天之后，自己开始调查了。”（周小进译，2020：47）亚当的行为遵循着出厂时程序设定，他的一言一行都以事实和逻辑为基础。他的高度理性化的、脱离人类情感干扰的选择让查理感到不舒服，甚至是恐惧。

人类一直以理性思维、理性决策为傲，把拥有理性思考的能力看作是区别人与其他动物的一个基准。当一个外表酷似自然人、在行动上比人还要理性的人工智能出现在人类社会中，他所引发的“恐惑谷”效应是毋庸置疑的。对于人工智能可能导致的技术异化，我们需要提前预判，做好应对的准备。

六、结语

亚当的行为都是依据他的人工智能程序做出的，那么，技术异化现象是否以先进技术本身的存在为基础？现实生活中，技术本身是没有意识的。在现阶段，“人工智能对其自身的实践活动还处于无意识阶段，未能脱离人类的技术框架，其呈现出的价值也只是为人类服务满足人类现阶段的需求”。（李楠楠，张伟，2021：64）麻省理工学院的机器人专家丹妮拉·鲁斯（Daniela Rus）表示，目前技术的发展仍依靠多年前的理论研究，创新的研究方向在学界并不多见（2022：111）。尽管麦克尤恩笔下的人工智能出现了技术异化现象，但除非有新的技术理论产生，书中所呈现的科技伦理危机在接下来几年发生的可能性并不大。

麦克尤恩曾在一次访谈中说道：“一个理性的人，或者一个视自己为理性的社会，在面对非理性的行为时会有什么反应？”（David Lynn，Ian McEwan，2007：39）未来在遇到亚当这样懂得法律的力量、但不能理解人性的力量的机器人时，人类是否应该像查理一样选择摧毁机器人？面对“亚当”这样如此近似人类甚至超越人类的存在时，人类又该如何看待这样的机器人，如何审视自我呢？当技术飞速发展之时，对于人性的关注与研究也不應落后。查理的故事提醒我们，应对科技发展注入足够的人文关怀，避免对技术的滥用与过度开发。

参考文献：

[1]吴岩.科幻文学理论和学科体系建设[M].重庆：重庆出版社，2008：42.

[2]尚必武.科学选择与伦理选择的冲突：麦克尤恩《像我这样的机器》中的人工智能与脑文本[J].外国文学研究，2019，41（05）：61-74.

[3]周敏.人机共同体想象：以《像我一样的机器》为例[J].外国文学研究，2020，（03）：73-86.

[4]Bruce King.“Review of The Testaments; Quichotte; Machines Like Me and People Like You”[J]. Journal of Postcolonial Writing，2019，55（06）：866-871.

[5]韦建桦.马克思恩格斯文集：第3卷[M].北京：人民出版社，2009：602.

[6]刘大椿，刘孝廷，万小龙等.科学技术哲学[M].北京：高等教育出版社，2019：37.

[7]Andrew Feenberg，“Alternative Modernity：The Technical turn in Philosophy and Social Theory”[J]. University of California Press，1995：79-86．

[8]卡尔·马克思.1844年经济学哲学手稿[M].北京：研究出版社，2021：75.

[9]李为善，刘奔.主体性和哲学基本问题[M].北京：中央文献出版社，2002：1.

[10]陶玥，张瑞涵.“元宇宙”时代下的自我认同与幸福[J].大众心理学，2022，（08）：2-4.

[11]宋希仁.论伦理秩序[J].伦理学研究，2007，（05）：1-8.