造物奇迹背后的危机

2019-07-15姚含钰

北方文学 2019年20期

姚含钰

摘要：在玛丽·雪莱的《弗兰肯斯坦》中，隐藏着预言般的对启蒙理念中自然科学崇拜的反思。它既认可了启蒙思想中的科学热情，但也对人类自我中心的科学热情进行了超前的预警。人类自我中心的科学热情，会导致人类对“全能造物主身份”的迷恋，从而导致“造物”行为的无约束性，最终导致自然和造物的报复。《弗兰肯斯坦》对人类造物激情及伦理缺失带来的问题的揭示，与今天的人工智能时代所要面临的问题不谋而合，具有很强的启发性。

关键词：《弗兰肯斯坦》;启蒙理念;造物现象反思

《弗兰肯斯坦》是英国十九世纪作家玛丽·雪莱（1797-1851）的著名小说作品，故事描述青年科学家维克托·弗兰肯斯坦通过试验制造出了一个“人造人”，却因其丑陋恐怖而抛弃了自己亲手制造的怪人。怪人在人类社会处处碰壁，开始仇恨自己的创造者。他以弗兰肯斯坦亲友们的安全为要挟，让他为自己创造一个伴侣。弗兰肯斯坦忌惮这种创造给人类社会带来的混乱，最终没有满足怪人的要求。气愤的怪人陆续杀死了弗兰肯斯坦的众多亲友。绝望的弗兰肯斯坦决定杀掉自己创造的怪人。他追杀怪人直到北极，最终筋疲力尽死在探险队长沃尔顿的船上。怪人来到死去的弗兰肯斯坦身边，向沃尔顿讲述了自己的痛苦，也忏悔了自己的罪恶，表示将乘坐冰筏去往北极，找个无人之处以自焚的方式结束此生。然后怪人就跳上海浪中的冰筏，消失在茫茫的黑夜之中。

这部作品想要表达的内涵，向来众说纷纭。本文认为，这部作品隐含着对于一个重要文明现象及其危机的表现，那就是启蒙运动以来人类的造物激情以及由此而来的人类危机。

一、启蒙理念与造物激情

《弗兰肯斯坦》整个故事的起点是弗兰肯斯坦的“造人”行为。弗兰肯斯坦能够拥有这种造人能力，是因为他掌握了自然科学技术：“对自然科学的所有学科，特别是对化学的研究便占据了全部的时间和精力”，而“人体构造这一大自然的杰作”也勾起了“我特殊的兴趣”[1]。掌握了自然科学的弗兰肯斯坦经过艰苦卓绝的实验室生活，才实现了“造人”的奇迹。

这个故事背后，体现的正是启蒙运动以来对于自然科学的高度崇拜。欧洲社会自中世纪以来长期处于神权的控制之下，否定人类自身的创造能力和经验价值，认为世界万物皆为上帝的造物，即便人类也是上帝的造物。作为“上帝的造物”而存在的人类，个人的价值只能体现在对于上帝的驯服和跟随之上。这就极大地压抑了人类的创造欲望和对自身能力的认知。

因此从文艺复兴开始，鼓励人类求知、探索和创造，就成为思想启蒙的重点，这种思想理念最终发展为从17世纪中后期到18世纪在欧洲掀起的启蒙运动。启蒙运动最核心的思想就是反对神权对于人类自身能力的否定和漠视，致力于引导民众发现人类自身的创造力，“坚信人的能力具有无限的创造力，人也可以完全能够不断地改造自然、改造社会、改造人本身”[2]。

启蒙运动让人们相信，假如上帝可以用神力来创造世界，那么人类也可以拥有自己的创造世界的“神力”，那就是包括物理机械、电学、化学、生理学等等在内的自然科学。对于自然科学的发现和深入研究，让人类拥有了前所未有的自信，人类的造物激情被极大地激发了出来，人们改造自然、发明机器，感觉到上帝创世和造物的激情体验。这种造物激情也的确“成为当代科学技术发展的最重要的动力，导致19世纪到20世纪空前的科学和生产的大发展”[3]。

而“造人”则是“造物”梦想的最高级别的最极致体现，也是人类足以证明自己具有跟上帝比肩的创造力的重要依据。因此，18世纪的启蒙文学家歌德创作的《浮士德》中，就出现了科学造人的情节。浮士德的学生瓦格纳经过科学实验，用一个玻璃烧瓶和各种矿物质制造出了一个“人造人”荷蒙库鲁斯。荷蒙库鲁斯这一作为科学结晶而存在的“人造人”，无疑代表着歌德对于自然科学最高的期望。

同样，《弗兰肯斯坦》中的“人造人”，也是自然科学的产物。弗兰肯斯坦利用化学和生理学等自然科学赋予的技术创造了“人造人”，体现出的正是启蒙运动以来利用自然科学进行造物的激情。这种对于人类科学创造能力的推崇，毫无疑问具有积极的历史意义。它不仅推动了欧洲社会工业革命的全面发生，并且也成为此后人类社会不断深入探索自然科学，不断研究科学技术，用科学创造一个个奇迹的巨大动力。

最重要的是，正是这种对于科学创造精神的持续追求，延续到今天才催生了人工智能时代的到来。“人工智能”指的是“通过某种方式让机器拥有像人一样的逻辑判断能力或思维能力”[4]。“在云时代人工智能的设计和发展越来越朝向让机器拥有自主决策能力，届时机器不仅会独立思考，而且还会未经人类同意而擅自行动”[5]。可见，人工智能是瓦格纳和弗兰肯斯坦“造物”梦想、特别“造人”梦想的最终实现。从启蒙理念的角度说，人工智能时代的到来，是启蒙运动科学理念和梦想的高峰体现。沿着这条历史脉络，我们可以看到人类在启蒙思想解放之后，孜孜以求，努力证明自己创造能力的艰难历程。从这个方面说，《弗兰肯斯坦》洋溢着浓厚的启蒙理念和启蒙精神，是对于18世纪启蒙思想的高度继承和延续。

但，这并不是《弗兰肯斯坦》最重要最宝贵的内容。

与《浮士德》不同的是，在歌颂人类的创造精神的同时，《弗兰肯斯坦》非常超前且可贵地对人类的创造行为又进行了反思。这种反思是如此可贵——《弗兰肯斯坦》所擔忧的问题，正在成为今天人工智能时代所必须面对和思考的命题。因此我们才说，《弗兰肯斯坦》这部书最大的价值不只是对启蒙精神进行了歌颂，更重要的是对启蒙理念进行了反思。

二、启蒙反思与造物的伦理危机

弗兰肯斯坦创造了“人造人”，却最终受到了“人造人”的巨大伤害，他的科学成果把他自己的亲人、家庭和人生都整个地毁掉了。不难看出，《弗兰肯斯坦》不仅讲了“创造带来的奇迹”，更要讲“创造带来的毁灭”。

这几乎跟今天人们面临人工智能时代的担忧一脉贯通！正如有学者指出的，随着人工智能时代的到来，“人工智能的理论和技术背后的确存在着一些难以预知的后果和难以掌控的风险”[6]，即便科技界的先锋人物埃隆·马斯克也认为对待人工智能人类需要谨慎，因为人工智能有可能成为人类未来最大的生存威胁[7]。

从这个角度说，《弗兰肯斯坦》的作者几乎就像预言家一样，提醒着“造人”梦想所带来的危机。在这种背景下重读《弗兰肯斯坦》，必将得到许多的启发。

我们不妨设问：《弗兰肯斯坦》中的弗兰肯斯坦，这位创造了科学奇迹的科学家，到底是因为什么，被自己创造的科学奇迹毁灭了呢？我们又可以从中看到怎样的警示呢？

首先，面对世界和自然，人类到底应该持有怎样的身份自设？

在“造人”行为的背后，隐含着的是人类对于上帝般的“造物主”身份的向往和自设。弗兰肯斯坦在“造人”之前所怀有的期待是：“由我缔造的一种新的生物将奉我为造物主而对我顶礼膜拜、感恩戴德”;他把自己比为“父亲”，把自己的“造物”比为“孩子”，他期待自己的“造物”将会为自己“结草衔环、感激涕零”;弗兰肯斯坦说，正是这种期待“鼓舞着我的士气，激励着我满怀热情、孜孜不倦地从事这项工作”[8]。

可见，在“造人”行为中，弗兰肯斯坦所向往的是那种“造物主”的权力身份。在这种创造中，与其说是为了“造物”，不如说为了创造自己“身为造物主”的至高地位和权力。这种创造思维的背后是人类的自我中心主义。在这种创造思维前提下的创造行为，一开始就隐含了巨大的危险：由于“人越来越盲目地妄自尊大，无所不在、无所顾忌地突出人的存在、人的力量、人的重要性、人作为宇宙的主宰，肆意地征服和掠奪自然”[9]，正如弗兰肯斯坦，就连生死的界限都肆意突破：“在我眼里，生与死的界限是虚化的、并不实际存在的，我应该率先打破这一界限，让万丈光芒普照那黑暗中的冥冥世界”[10]。

但是，人类这样的狂妄，很可能导致可悲的结果，即，“人也越来越多地受到自然的报复”。因为，只要人类持有这种“身为宇宙主宰”、可以任意而为的狂妄身份意识，就必然会忽略一个重要问题的思考，那就是：“造物者”真的拥有对于“所造之物”的绝对控制权和控制力吗？

弗兰肯斯坦不但把自己设定为像上帝一样被膜拜的“造物者”，而且他也把自己设定为如同上帝一样的“全能者”。所谓“全能”，就是既可以创造一切、也可以控制自己所创造出的一切的能力。弗兰肯斯坦身为全能造物者的自我意识，来自一个基本的假设，那就是造物者一定优越于造物，因此拥有对造物的全面控制能力和支配能力。这种全能意识，曾是上帝的优越感，也成为弗兰肯斯坦这样充满科技野心的科学家试图拥有的优越感。

但问题是，人类真的能优于自己的造物吗？我们看到弗兰肯斯坦所创造的怪人拥有远远超越于弗兰肯斯坦之上的肉体力量。就像怪人所说的：“请你记住，是你赋予了我力量，使我比你更强大。我身材比你高大，四肢比你灵活”[11]。这绝对不是玛丽·雪莱的臆断。以今天的人工智能为例，人类限于自身的生理局限，“难以突破大脑容量的上限，或者直接将人脑外接硬件进行扩容”[12]，但人工智能可以;同样，人类无法无限制地高速搜寻资源和信息，但人工智能也可以。无怪乎学者们大多认为，在人类与人工智能的资源竞争中，人工智能会大概率地获胜[13]。

如果人类并不能绝对维持对于所造之物的优势，又如何认定自己能够全面控制自己所创造的一切呢？事实上，面对自己所创造出来的怪人，弗兰肯斯坦全程处于完全失控的状态。他无法控制怪人心中渐渐增长的恶念，也无法控制怪人愈演愈烈的暴行。他眼睁睁地看着怪人滥杀自己身边的亲人，除了恐惧和躲避，根本无力对抗。即便他决心反击，但直到临死之前，怪人也一直不在他的控制之中。

这种对于自己“所造之物”的失控悲剧，揭示出了人类“全能造物者”身份自设的荒悖和虚弱。“人类逐渐向其能力所及的领域扩展，这种时候应考虑的问题是：凡是‘人能够做到的事，做什么都可以吗？是不是要限制人类的任性和放纵？”[14]人类必须认识到自己面对自然、以及面对所造之物的局限性，才能对自己的身份做出更为合理的设定。假如人类痴迷于这种“全能造物者”的身份自设，等待人类的将是一场科技带来的危机。正如爱因斯坦所言：科学技术“是一种强有力的工具。怎样用它，究竟是给人带来幸福还是带来灾难，全取决于人自己，而不取决于工具。刀子在人类生活上是有用的，但它也能用来杀人”[15]。

其次，人类与“所造之物”之间，应该缔结怎样的关系呢？

造成弗兰肯斯坦悲剧的原因，除了他狂妄自大的“全能造物主”的自我身份自设，还有一点就是他对于自己亲手制造的怪人的不负责任的态度。弗兰肯斯坦在把怪人制造出来之后，发现怪人不像他想象的那样美好，出于恐惧和反感，他就一走了之，抛弃了刚刚被他带到世界上的怪人，任其自生自灭。

怪人一开始并非没有向善的、与人类互相辅助的可能性。比如，怪人在流浪中遇到德拉西一家，看到他们一家人相亲相爱的状态，就心生艳羡，这就是他对于美好情感的最初向往。他也懂得欣赏德拉西一家优雅的举止：“我仰慕崇高的情操，赞美善良的情感，钦慕这一家人文雅的举止与和蔼可亲的品质”;他渴望文明的熏陶和教化，热衷于学习人类的语言：“这些想法使我精神大振，激发了我新的学习热情去掌握语言这门艺术”;他甚至学会了读书，如饥似渴地阅读了《少年维特之烦恼》、《失乐园》和普鲁塔克《名人传》，并且表现出了极高的灵性：“我感到心中涌起了一股极其强烈的情感——对美德的渴望和对罪恶的痛恨”。他甚至也表现出了强烈的同情心和正义感，偷偷地帮助善良且不幸的德拉西一家，甚至认为“也许我有能力使这些理应享有幸福的人重新获得幸福”[16]。

但是，怪人对善与美的最初追求没有得到人类的呼应和确认，相反，他的制造者抛弃他，而他帮助过的德拉西一家也因为他的外表驱赶他。这一切人类赋予他的不公平的态度，渐渐冷却了他向善的信心，而仇恨、绝望则渐渐引发了他内心的恶念。最终，就连他想得到一个伴侣的愿望也被拒绝了，他内心所有的希望都破灭了，他开始放纵自己的恶与仇恨，对自己的创造者弗兰肯斯坦开始凶猛的报复。

怪人这种从善到恶的堕落，正体现出了一个严峻的问题：造物者和造物之间到底应该是什么关系？弗兰肯斯坦无疑代表着一种错误的倾向：那就是忽略对所造之物的伦理思考。也就是仅把所造之物视为工具之物，而不认为自己负有对其进行伦理引导和伦理构建的责任。正是身为造物者的弗兰肯斯坦对于怪人的不负责任的态度，导致怪人的行为最终无法与人类的价值理念和规范意识相融合，最终导致彼此的严重伤害。

在怪人从善到恶的故事中，作者玛丽·雪莱同样提出了一个超前的天才警示，那就是人类应该把自己的所造之物，特别是高级智能的所造之物，纳入人类自身的伦理体系，对所造之物进行伦理方面的設计和引导，使之与人类的价值、伦理和规范互相契合，只有把高级智能纳入人类的伦理体系，才会实现人类与“人造人”（人工智能）之间的共生共存。

玛丽·雪莱提出的问题，正与今天面对人工智能的伦理思考不谋而合。人们今天已经普遍认识到，虽然人工智能是否能够作为道德主体而存在，还需要进一步的商榷，但重视人工智能的伦理设计和伦理构建，却是发展人工智能的必要前提。既要预防人工智能对于人类的控制和束缚，更要预防人工智能与人类伦理的相互冲突。只有把人工智能纳入到人类伦理体系之中，“注重人工智能与人的个性、意识、价值、艺术创造相融合，并以此展示人的全面性，通过在人工智能的展示过程中不断拓展人的全面性的新内容，进而完善人自身”[17]。

看到这一点，我们不能不叹服《弗兰肯斯坦》天才般的预言性质。

综上所述，《弗兰肯斯坦》对于自然科学对人类的意义，做出了令人惊叹的辩证思考。它既认可和延续了启蒙思想中的科学热情，又对这种科学热情进行了超前的反思。无论对于人类造物的激情，还是对于人类造物行为行将带来的后果，作者都做出了天才的评价和预警。“《弗兰肯斯坦》绝不是对历史、绘画和神话中惊慌的深思;它的魅力和力量在于它的预见性思考……它着重于责任和现在被称为‘科学的知识体系一种德行上的试探”[18]。随着人工智能时代的到来，这本超前思考人类“造物”激情和“造人”梦想的作品，将彰显出越来越难以忽视的价值和意义。

参考文献：

[1]（英）玛丽·雪莱.弗兰肯斯坦[M].刘新民译.上海译文出版社，2014，41-42.

[2]哈佛燕京学社.启蒙的反思[M].江苏教育出版社，2005，1.

[3]哈佛燕京学社.启蒙的反思[M].江苏教育出版社，2005，1.

[4]崔鹏.人工智能演进中的伦理悖论与社会危机[J].大数据时代，2017（02）.

[5]董青岭.人工智能时代的道德风险与机器伦理[J].云梦学刊，2018（05）.

[6]李熙等.从三种伦理理论的视角看人工智能威胁问题及其对策[J].江汉大学学报，2019（01）.

[7]马修·谢勒，曹建峰等.监管人工智能系统：风险、挑战、能力和策略[J].信息安全与通信保密，2017（03）.

[8]（英）玛丽·雪莱.弗兰肯斯坦[M].刘新民译.上海译文出版社，2014，45.

[9]哈佛燕京学社.启蒙的反思[M].江苏教育出版社，2005，2.

[10]（英）玛丽·雪莱.弗兰肯斯坦[M].刘新民译.上海译文出版社，2014.45.

[11]（英）玛丽·雪莱.弗兰肯斯坦[M].刘新民译.上海译文出版社，2014，95.