王　云， 刘亚平

(长安大学 政治与行政学院，陕西 西安　710064)

人工智能的发展越来越受到人们的重视，发展人工智能技术本身是为了造福于人类，而今看来所发生的一系列问题却是人类始料未及的。那么，人工智能技术究竟是福还是祸，不仅是科学家应该思考的，更是决策者，乃至每个人应该思量的。

一、人工智能基本概述

(一)什么是人工智能

从人工智能的历史发展来看，要追溯到1946年第一台电子计算机的诞生，并且经历了“孕育时期(1956年前)、形成时期(1956-1970年)、暗淡时期(1966-1974年)、知识应用时期(1970-1988年)和集成发展时期(1986年至今)[1]。智能是人类有别于其他生物的智慧能力，能够对事物感知、学习、理解和思维，而人工智能则是一门研究、理解、模拟人类智能的科学技术。“阿兰·图灵被尊为人工智能之父的标志是‘图灵测试’(1950年提出)用来判定一个计算机和人比较是否有智能。”[2](P7)随着数字科技的革新，“自第一台计算机问世以来，计算机的发展速度大致是平均每十五年速度提高十倍，体积和成本降低十倍，这种发展势头至今仍无减弱”[3](P541)。从1946年至1971年电子计算机的发展已经历了四代，均属于冯·诺依曼机的范畴，其“一般特征是存储程序，机器按照线性顺序依次执行程序指令”[3](P542)。但人类并不满足于此，继续不遗余力地使计算机越发智能化，于是计算机科学便出现了新兴的分支，即人工智能(Artificial Intelligence)，简称AI。“人工智能”[4]这一术语自1956年由麦卡锡(John McCarthy)教授在Dartmouth学会上正式提出以来，不论在学界、政界、商界还是民间，关于人工智能的话题热度都只增不减。由于对人工智能的理解角度不同，研究者对这一概念性的回答亦存在一定差别，对人工智能的确切定义至今并没有一个统一的论说。但总的来说，都表达出对人类的意识、思维的信息过程的模拟，使其具有人的思考、学习能力，从工程视阈来讲，“它是人类智慧在机器上的实现”[5]，并且与生理学、心理学、哲学等学科交叉，可以说极富有挑战性。

(二)人工智能的发展

依托计算机科学的人工智能发展并不总是一帆风顺的，经历了近十年的灰暗时光直到20世纪80年代初期，第五代计算机才开始具备真正意义上的人工智能，能根据存储的知识进行判断和推理，即部分模拟人类思维了，主要以神经元网络电子计算机为代表。不久，第六代生物计算机已能够模仿人的大脑判断能力和适应能力，广泛应用于模式识别、智能控制等领域。由此可知，类似人类智能的人工智能，经过不断发展很可能在某个领域超越人类智能。最引人瞩目的表现是在1997年，IBM公司的“更深蓝”(Deeper Blue)战胜国际象棋世界冠军，标志着在一定领域，人工智能可以与人类智能相媲美。人工智能越来越受到人们的重视，2016和2017年，Google研制的Alpha Go再次战胜世界顶级围棋冠军[6]。人工智能越来越受到社会的关注，人工智能的开发和利用走向人类生活的方方面面。2017年，我国将人工智能的发展规划更是上升到了国家战略的高度，国务院印发《新一代人工智能发展规划》[7]和十九大报告都明确指出要大力发展人工智能。

随着科学技术的发展，人工智能毫无疑问会越来越先进，惊叹并受益于人工智能的人类对其发展寄予了深切的厚望，但这并不表示，人工智能带给人类的警惕之心可以忽视。虽然人工智能在实际应用中为人类社会带来了许多福音，诸如代替人类做危险复杂的工作、解放一部分工人的机械化、重复性劳动、智能家居为人类提供越来越人性化的服务等，都让人类满怀欣喜。但是，人工智能技术发展仍然面临着许多困难和挑战。由于全球人工智能与其伦理思考都处在发展的初始阶段，伦理思想的支持较为匮乏，从而暴露出越来越多的道德问题。在许多新闻中，时常可以听到智能机器致人于危险的境地甚至致人死亡的报道。恩格斯曾说：“不管自然科学家采取什么样的态度，他们还是得受哲学的支配。问题只在于：他们是愿意受某种坏的时髦的哲学的支配，还是愿意受一种建立在通晓思维的历史和成就的基础上的理论思维的支配。”[8]而“人工智能是人生产出来的机器，它为人类服务，从属于人，这是理解人工智能的基本立场；由此而引出的服从原则可谓人工智能伦理的首要原则”[1]。为了人与自然能够可持续发展，走出生态伦理困境，学者、科学家、政商领导以及普通人都逐渐意识到人工智能技术发展中的伦理问题不容忽视。“我国当前既要大力发展现代化科学技术，也要注意克服工业文明带来的诸多伦理问题，这样，加强伦理建设就显得尤其重要。”[9]

二、当代人工智能伦理问题及困境

如何解决人工智能技术带来的伦理道德难题，还要从计算机的本质谈起。“计算机科学研究‘问题求解’的核心是算法。”[2](P4)简单来说，我们曾畅想某一天足不出户就能网络购物、网上交易、甚至发明机器人代替人类做一些事情等等，这些就是“问题”，现在我们不仅已经解决了这些“问题”，而且随着人工智能的不断发展，我们人类正在探索更多可能性，以便更好的为人类服务，这便是所谓的“解”。“解”是通过算法实现的，算法就是计算机的硬件和软件程序指令求解某一类问题的策略或者方法。学者陈钟认为，普及推广“计算思维”是人工智能发展的基础。因此，从计算机的本质出发，面对未来人工智能可能失控于人类造成可怕灾难的忧虑，我们仍然要基于算法基础上进行科学、合理的设计，以避免悲剧的发生。

(一)当代人工智能伦理问题的产生与演变

说到人工智能伦理问题思考的起源，其实，人工智能技术产生时就已经有人提出要重视除了技术以外的伦理考量。其中包括：图灵在《智能机器》中不但详细讲述了人工智能技术的发展趋势和方向，同时也提到了人工智能迟早会威胁到人类的生存；科幻作家阿西莫夫(Issac Asimov)在其小说《我，机器人》中提出了三条准则——工程安全措施和内置的道德准则，以保证机器人会友善对待人类并使人类免于机器末日。大众对智能机器的恐惧大多来自科幻小说及影视剧作品，对智能机器的本质认识尚浅，对其危害也流于表面。

毫无疑问，任何技术都是双刃剑。一方面，人工智能技术的发展确实将一部分人从脑力、体力劳动中解放出来，为人类带来了自由。另一方面，人工智能机器暴露出的可怕后果早已见端倪：新闻报道中不时出现智能机器出现故障或不按指令行事而带来不可估量损失的消息。因而，有人担忧，应当节制人工智能技术的发展，避免受制于智能机器。一些学者认为，机器毕竟是人为的，应当积极关注人本身，提高科学家的伦理道德素养和技术水平，使之有机会在伦理设计中赋予智能机器以普遍的道德律令。这样一来，不论智能机器处于何种发展程度，人都是可以预料的和可控的。

人工智能伦理问题的演变不再简单地停留在思考上，而是从实践中开始准备对技术加以规范。谷歌作为人工智能技术的引领者之一，为避免人工智能技术被滥用，在2014年首当其冲成立了人工智能伦理委员会，以规范人工智能技术的开发和利用。因为越来越多的人对人工智能技术的未来并不持乐观态度。尤其是物理学家霍金(Stephen William Hawking)曾预言：“强人工智能的发展可能意味着人类的终结。人类受到了缓慢的生物进化的限制，根本无法与之竞争，而将被取代。”同样的，科技富豪马斯克(Elon Musk)也不无担忧公开表示过强人工智能“可能比核武器更危险，而最近人工智能是我们最大的生存威胁”。正如人类社会历史发展一样，人工智能技术的发展并不会因为人类的担忧而停止不前，因此，人类更应该在所谓的灾难来临之前，审慎地思考和行动。

综上所述，不难看出为了人类及其他生物的可持续发展，人工智能技术的发展已然遭遇了前所未有的困境。

(二)当代人工智能遭遇的生态伦理困境

从普通人便可触手可及的智能手机到遥远的太空探索用到的器械都与人类的生活息息相关，人工智能已经无可抗拒地渗透到人类生活的点点滴滴。卢风教授曾说：“生态学，让我们看到了物理学、化学的局限，让我们看到了按物理学、化学规律征服自然的巨大风险！现代科技已渗透于文明(广义的文化)各个维度，科技的生态学转向不可能孤立地发生于科技领域。生态主义就是呼唤生态文明的崭新的哲学。”[10](P8)因而，生态伦理则是使这般理论走向实践的路径之一。

生态问题(环境问题)实质上是人的问题，是社会、经济、生态环境之间的协调发展问题以及资源的合理开发利用问题。在工业文明推进的过程中，生态自然一直被视为“征服”“统治”的对象，人类对自然资源的不合理利用和对生态环境的破坏，致使地球出现种种生态环境问题。近几十年来，随着社会的迅猛发展和各种技术的广泛使用，过去早已出现的生态环境问题变得更加突出，同时新的生态环境问题又不断涌现。当今人工智能技术带来的生态环境问题集中表现在资源能源危机上以及智能机器故障导致的生态破坏和环境污染，该由谁来承担伦理道德上的责任甚至法律责任？时代遭遇的生存困境离不开与时俱进的科技，而科技的双刃剑后果已然引起人们的关注和反思：要解决这些问题，首先要清楚人工智能技术遭遇生态困境的成因是什么，才好对症下药。

谈到人工智能技术发展遇到的生态伦理困境，一般会以为是人工智能技术的问题，实质上也是人的问题。换言之，人工智能技术引发的生态伦理问题就是人与自然的关系问题。如今人工智能技术愈发受到人类的重视，发展及应用愈发受到关注，地球家园愈多一类危险。因而，探究人工智能技术造成的生态伦理困境成因亦迫在眉睫。

人与自然是一个整体，人依赖自然而生存并影响和改变着自然。从20世纪开始直至今日，整体论的盛行源于兼具理论与现实意义的生态学学科，它与生物学、计算机科学、哲学等多个学科形成关联，这样的交叉学科为促成新科学打下了理论基础。生态学本身就是基于整体主义的视域，并且是关于生物与其生存环境关系的理解和研究。随着生产力的发展和科技的进步，人类干预自然的能力大大增加，人类活动将自然环境的原貌改变的面目全非：生活环境受到水、空气、食物污染，自然资源被滥用，生物多样性在减少、人为造成物种濒临灭绝的速度远远大于自然灭绝的速度……人类作为生态系统的重要因素，处于食物链的顶端，如此一来对人类自身的存在和发展也构成了威胁。因而，生态学的研究价值越发受到重视。基于整体主义的视角，循环、平衡、多样性是生态学中突出的三大基本观念。对生态系统的破坏一般基于反对整体主义思想下做出的，相应地生态系统的整体主义特征是由生态科学所诠释。康芒纳这样写道：“环境的恶化很大程度上是由新的工业和农业生产技术的介入引起的，这些技术在逻辑上是错误的，因为它们被用于解决单一的彼此隔离的问题，没有考虑到那些必然的‘副作用’。这种副作用的出现，是因为在自然中，没有一个部分是孤立于整体的生态网络之外的。反之，技术上的支离破碎的设计是它的科学根据的反映。因为科学分为各个学科，这些学科在很大程度上是由这样一种概念所支配着，即认为复杂的系统只在它们首先被分解成彼此分割的部分时才能被了解。还原论者的偏见也趋于阻碍基础科学去考虑实际生活中的问题，诸如环境恶化之类的问题。”[11]而“直面环境日益恶化和生态危机之现实的生态科学，是新科学的曙光。它以活生生的例证向人们展示整体论被忽视的恶果互换整体论科学的全面复兴”[3](P580)。由此可知，哲学、科学、技术、生态环境并不是彼此孤立的，而是有着千丝万缕的联系，“牵一发而动全身”，因而在技术设计时，要考虑哲学、科学以及生态环境的相互作用。

生态伦理学是哲学的思考，并与科学的生态学一脉相承，同样重在揭示人与自然的关系，旨在倡导人与其它生物共生共荣。生态伦理学是对人类活动破坏、损耗、污染地球生态环境的反思，以生态学、伦理学、人类学等学科为研究背景，是传统伦理学从人类社会走向自然领域的发展。在生态伦理学来看，人与大自然有着不可分割的关系，人来源于自然，并依赖自然而生存，最终也归于自然。因而爱护自然就是珍爱家园，守护家园的安危人类责无旁贷。科学技术使得人类对自然的干预能力变强，对自然的破坏程度也加剧，人类必须清楚地认识到科学技术只是为人谋福利的方式和工具，人类的持久幸福不仅需要物质上的满足更有精神上的追求，要实现这些愿望，人与自然的协调发展是基本条件。

人工智能技术是人类智慧的结晶，一门新兴科技带来的福与祸总是相伴而行。就对生态环境的影响而言，必然会出现一定的生态破坏和环境污染。自工业革命以来，科学技术不断推动生产力的发展，先进生产力同样也反作用于科学技术，形成互动。不论是国家还是个体都享受着科技进步带来的福利，同时，也逐渐意识到这些福利带来的弊病，如资源损耗、生态破坏及环境污染等。随着1962年蕾切尔·卡逊《寂静的春天》问世，在世界范围内掀起了环境保护运动。自此以后，公众对化学品带来的危害、对滥用自然资源以及工业污染等情况表现出极大的愤慨之情。破坏生态环境、浪费自然资源、泯灭道德良知的、无休止的商业买卖等行为，已然引起公愤，保护环境、节约资源成了普遍的公德和行为规范。

生态伦理学便是规范人与自然和谐关系的学问。生态学本是基于整体论的，因此，根本不是某个体、某国家的行为规范，而是全球的伦理规范。随着科技的发展，尤其是互联网的影响，全球化加剧了世界贸易和各国间经济合作，世界早已成为一个地球村。地球生态系统是一个整体，江河湖泊局部的污染会飘散到周围区域，核辐射、臭氧层空洞以及温室效应等都是无国界的。而人工智能已经越来越多的深入到人们生产和生活的各个领域中，特别是生产制造各种智能机器的过程中也会产生地球资源的大量消耗，随着社会的发展，这也意味着人工智能技术的耗材量将越来越大。如今在大量生产、大量消费、大量废弃的消费主义盛行的风气之下，地球上的不可再生资源将会被逐一消耗殆尽。不可否认，人工智能技术为我们带来巨大的财富满足和日益便利的生产生活，有可能某一天还会使科技避免生态危机。但是现在，我们美丽富饶的地球家园已满身疮痍，满是钢筋水泥混凝土的大厦、千疮百孔的大地、穹顶之下雾霾重重等，生态环境恶化情势远比人们想象的更加严峻。

显然，人工智能技术给人类带来的生态伦理问题已经不容忽视。除了资源消耗和环境污染，人工智能引发的道德追责也不可小觑。比如不具有像人类一般情感和道德的智能机器，做出损害人类的后果时，谁应当承受道德的谴责，乃至法律审判？进而，发展到具有道德决策能力的智能机器仍然造成不符合伦理道德后果时，是否应按照追责人类道德伦理的情形来承担相应的代价？这一系列道德危机这也将进一步加剧生态危机。

通过以上分析可知，人工智能技术之所以产生生态伦理问题，可能由于人们在研究和设计智能机器伦理时尚不周全。其一，从生态伦理学本身来看，比起计算机科学的发展及壮大，无疑是一门年轻的学科，扎实的基础理论或有待完善；其二，与时俱进的生态伦理理论其真理性需要经过实践和时间的检验，而人工智能研发技术的速度远远快于理论发展，在进行伦理设计时难免会出现偏颇；其三，研发设计人员是否具备科学的生态伦理观，进而他们是否把正确的生态观渗透到智能机器的设计中；其四，人类是有一定生态伦理观的，但尚不能切实履行到实践中，智能机器即使具备人类一样的生态伦理观，也不能保证比人类更具有美德；其五，政治、经济、文化相互影响，国家间的利益争端难免会插手科技的发展，科技的指向并不会完全造福于全人类。

三、当代人工智能技术发展的启示

人工智能技术发展虽然遭遇了生态伦理困境，但是随着人类对问题逐渐有了清晰和正确的认识后，同样也启发人类应该重视生态伦理问题，并通过适当的途径走出困境、缓解生态危机。

(一)坚定指导思想：以马克思主义生态观指导人工智能技术的发展

21世纪集结着各种科技呼啸而来，为了人类和其它生物可持续的生存下去，生态文明是一切生物共同的未来。同样，从科学技术发展角度看，四次工业革命把人类从劳动中逐渐解放出来，享受安乐的同时，人口骤增、资源枯竭、环境恶化等问题接踵而至。生态观即使不能直接解决这些问题，但能揭示人与自然和谐共处的发展方向和规律。因此，马克思、恩格斯的生态哲学思想是我国科技可持续发展的导向[12]。

生态环境问题由来已久，马克思、恩格斯虽然没有系统化的研究，但其著作里却体现着从人类社会发展的历史角度上对生态问题的深刻认识，尤其是人与自然关系的理论，科学的揭示了人在自然界的地位，为当代生态哲学的研究奠定了理论前提。马克思、恩格斯的思想理论是与时俱进的，他们的许多观点仍然沿用至今，为当代生态伦理学的研究提供了坚实的理论基础。作为一种科学的世界观和方法论从现实意义讲，研究、继承并发展马克思、恩格斯的生态思想可以“为我们制定切合中国社会现实的科学发展观，走可持续发展道路提供理论上的支撑和方法论上的启示。马克思、恩格斯生态思想不仅为建构生态文明、环境友好型社会提供了理论基础，同时为生态问题及解决途径指明了方向，也为我们构建社会主义和谐社会提供了理论和实践指导”[13](P60)。弗罗洛夫则说：“无论现在的生态环境与马克思时代所处的情况多么不同，马克思对这个问题的理解、他的方法、他解决社会和自然相互作用问题的观点，在今天仍然是非常现实而有效的。”[14]

生态哲学是人类社会由工业文明时代迈向生态文明时代的产物，它承担着重要角色，即人与人、人与自然相互关系的方法论体系。生态哲学是马克思主义人与自然辩证关系学说在生态领域的具体表现，使人们正确认识社会环境与自然环境之间的互动关系，更加合理地、明智地对待自然界的思想武器。生态伦理是生态哲学具体的方法论之一。其实，科技发展与生态伦理之间并不冲突，要使二者发展协调且有序的进行，就需要牢牢把握人工智能引发生态伦理困境的成因，并在此基础上进行更加深入的分析后拟定相应的策略。

马克思着重论述了人在大自然中的地位和作用。首先，人与自然万物是相互依存的关系；其次，人作为能动的存在物在处理生态危机的角色中有不可推卸的责任；最后，人的能动性有限，因而人不是自然界的绝对主体，要想可持续发展下去，必然受制于生态环境并遵循于自然规律。那么在处理人与自然关系问题上，马克思始终是从人类社会历史的角度去理解自然，其自然观带有鲜明的社会历史性。马克思指出：“社会是人同自然完成了的本质的统一，是自然界的真正复活，是人的实现了的自然主义和自然界的实现了的人道主义。”[15]

随着时代的进步，科学技术已然成为人们改造自然的利刃。“科学技术影响和改变人与自然的关系。马克思一直很重视科学技术在社会发展中的作用，在他看来，科学技术作为‘物化的智力’，作为‘经过加工的劳动资料’是‘历史上的有力杠杆’，在人与自然的关系中起重要的作用。一方面，人借助于科学技术把自然力纳入自己的活动范围，使自然力充当人的助手；另一方面，科学技术把人改造自然的成果带进人的生活，使人的生活条件得以改善，文明程度得以提高。科学技术起到了影响和改变人与自然关系的作用。”[13](P41-42)

马克思还辩证地分析了科学技术对人类的影响，一方面科学技术确实能够推动人与自然的和谐；另一方面，“在马克思的理论中，资本主义的生产不仅是生产，更重要的是剩余价值的生产，这是一种强制性的过程，在追求这一目标的过程中埋下了环境危机的隐患”[16]。科学技术被资本家视为榨取剩余价值的工具，只关心经济效益和利润是否客观，丝毫不在意科学技术所带来的恶劣的社会效益和生态效益。不难想象，科学技术成了造成生态危机的帮凶之一。而现代科技仍然摆脱不了“资本逻辑”的支配，它鼓励人们信奉物质主义、消费主义和经济主义，这透露出来的是十分粗鄙的人生观、价值观及道德观。如芒福德所言，“科学和技术使我们的道德观变得更僵化了。”[17]在马克思看来，这其实是科技的异化和偏差，生产关系和生产方式的不合理是导致异化和偏差的原因。因此，要想克服科学技术偏差，那便需要进一步适时变革生产关系和生产方式。马克思认为，与科学技术的发展相适应的生产关系和生产方式，加之合理地运用科技的力量，定能够改善生态环境，化解生态危机。

(二)不断发展人工智能技术：完善人工智能伦理设计

科学技术的先进与否只是人们实现更好生活的工具而不是目的。马克思恩格斯已经辩证地论述过科学技术作用于人类的两面性，既然科学技术是工具，那工具带来的效果取决于人类。随着社会的发展，科学技术不断向前发展势在必行。因此，人类即使面对人工智能技术带来的消极影响，也不能就此停止对这一科技的深入研究。

爱因斯坦对科学技术有过这样发人深省的评价：“怎样用它，究竟是给人类带来幸福还是灾难，全取决于人自己，而不取决于工具。”[18]这样看来，不论人工智能的潜在威胁如何可怕，其伦理设计工作还是由人来完成，主动权还是掌握在人手中的。而“科学家们并非是能够免除谬误、不受任何基本动机影响、仅对理性呼唤作出回应的逻辑机器”[19]。由此可见，科学家的良知是何等重要。在卢风教授看来，现代科技表现出很强的“去道德”倾向，应肯定道德是科技内在维度[10](P9)。

科学家对智能机器的伦理设计不是一蹴而就，更不是一劳永逸的。首先，在技术上尽可能克服伦理道德设计的难关，明确人工智能机器所承担的生态伦理责任和义务，使其工作时，能够三思而行，如此便能够将一部分危险防患于未然。其次，对研发、生产、加工及销售等环节必须制定严格的标准和责任制度，以确保每一个环节都在人为可控的范围。在人工智能机器出产时，设计者和生产制造者在其使用说明和安全提示中必须明确该智能机器可能带来的风险及应对措施，对操作不当而使人工智能机器工作时出现故障造成的生态破坏和污染情形，应当对其所有者追究一定的道德及法律责任。最后，不论人工智能技术如何发展以及带来怎样的后果，都与最终的决策者息息相关，科技本身不具有伦理道德性，只要决策者始终以全人类的福祉为首要因素，不为短视利己主义而枉顾生命造成不可挽回的损失时，我们应当肯定，这不是科技带给人类的幸运，而是人类为自身所作的善的选择。

(三)不断深化对生态伦理学的调查、研究、教育、宣传及实践

“从环境伦理学的性质和目的看，调整不同利益主体之间的关系以维护人类长久的生存和发展始终是环境伦理学的中心。”[20]可见，生态伦理学的旨归与可持续发展的内涵是一致的，二者在社会功能上具有不可分割的关联，可以说生态伦理学是实现可持续发展观在理论和实践上的必然要求，因此必须重视对生态伦理学的调查、研究、教育以及实践。

对生态伦理进行研究根本的应当有现实层面的了解，即调研，只有做好了调查工作，论述才有理有据，实践才有针对性。“环境伦理的研究和宣传具有认识和批判功能、教育和激励功能、调节和规范功能。”[21]

不断深化对生态伦理的调查、研究和宣传，有利于实践的开展。然而，我国的生态伦理学研究开始于20世纪80年代，而西方在20世纪60年代就已经掀起了波及世界范围的环境保护运动，相较而言，我国的生态伦理研究、教育、宣传和实践等基础都比较薄弱。如此一来，首先应当提高全社会的生态伦理意识。在家庭教育中，父母长辈当继承和发扬中华民族传统美德，以勤俭节约为荣，身体力行，以微小的行动潜移默化地影响孩子；在大、中、小、幼学校德育教育方面设置相关的课程和社会实践，在其中德育工作者以身作则给予学生正确的引导和教育；在社会教育方面提倡榜样力量，加强宣传，对在生态伦理方面做得好的个人和团体给予鼓励和表彰，使这一行为得以弘扬，进而形成良性循环。在法律及制度保障上，是基于对生态伦理学进行科学的、细致的前期调查、研究、教育，才能为后续措施的实施打下牢固的基础，才能有法可依，各项法律和制度才能贯彻落实。

四、结语

人类运用科技改善生活无可厚非，但妄自尊大的以科技征服并试图控制自然的欲望愈加强烈，自然反馈给人类的责罚亦愈加深重。发展人工智能也好，其他科技也罢，都是为了人能过上所谓幸福且有意义的生活。发展的步伐或许太快了，人们甚至还未想明白：幸福究竟是来自技术胜利的快感还是某种希望使然。

科学技术会促进人类社会的进步，接受科学技术带来的挑战是当代人的必然选择。出现问题，人类便要积极应对。尽管人工智能技术会促使智能机器无比接近人类智能，假以时日甚至出现超人工智能，但本质上，人类要清楚，任何发明创造都是基于人类及其环境可持续发展的目的。谨遵这一根本原则，才能够谈人工智能技术的发展问题，才能知道如何解决人工智能技术带来的发展困境。在发展人工智能技术的过程中，我们应该关注什么？希望我们都能谨记爱因斯坦曾对加州理工学院学生所说的话：“如果你们想使你们一生的工作有益于人类，那么，你们只懂得应用科学本身是不够的。关心人的本身，应当始终成为一切技术奋斗的主要目标；关心怎样组织人的劳动和产品分配这样一些尚未解决的重大问题，用以保证我们科学思想的成果会造福于人类，而不至于成为祸害。在你们埋头于图标和方程时，千万不要忘记这一点！”[22]