徐春园，王 前

(大连理工大学 人文与社会科学学部，辽宁 大连 116000)

近些年来，人工智能以惊人的发展速度参与人们的日常生活以及教育、 医疗、 金融、 制造、 交通等众多领域，在为人类带来诸多便利的同时也引发了人们对智能机器伦理的关注以及对人类自身主体地位的担忧。 在保持人工智能技术持续发展的同时，现在有必要对人机关系的新特征进行哲学反思，以期消除人们对相关问题的担忧和顾虑。

一、 高科技时代人与机器关系的新特征

(一) 从对立走向融合——赛博格和机器人的出现

在赛博格和机器人出现之前，人类与机器的关系是呈现对立状态的，二者之间甚至存在冲突现象，人不完全适应机器，机器开始出现时也不适应人。 在古代，以马车、 浑象仪等为代表的古代实物机器都相对简单，这时的机器只是人的某些器官的辅助和延长，人类制造机器时“懂得按照任何一个种的尺度来进行生产，并且懂得处处都把内在的尺度运用到对象上去”[1]，人和机器的关系是“机器附属于人”。 近代工业革命以后，开始出现了大规模的实物机器。 此时的人与机器仍然是分开的，但人们开始用机器的原理来解释人类，拉美特利(Julien La Mettrie)认为“人体是一架会自己发动自己的机器： 体温推动它, 食料支持它”[2]。 在现代，人与机器二者开始出现相互融合，智能机器人对人类更多的工作进行取代，以至于人类开始出现对机器人失控后的某种担忧。

进入了高科技时代，人与机器的关系逐渐转向融合状态。 以类似耳蜗、 义肢、 心脏起搏器等附加设备为例，人类身体某些部位可以在技术的干预下进行修整和替换，身体的某些性能可以在经由机器拓展之后突破原有的束缚和限制，如此的融合形式被称为“赛博格”(Cyborg)。 唐娜· 哈拉维(Donna Haraway)在其著作《类人猿、 赛博格与女人》中将赛博格阐释为“一种由有机体和机器组成的混合型生物”[3]。 当赛博格与个人、 社会的界限被技术和媒介拓展到不易被察觉之时，这便意味着机器已经成为我们人类身体的组成部分。

除了人身体里越来越多地包含着机器的成分，机器也在科学技术的助推下在外形、 功能等方面更接近人。 当前已经实现的智能机器人有家务机器人、 垃圾分类机器人、 物流机器人、 乒乓球发球机器人、 消毒机器人、 医疗保健机器人、 画像机器人等[4]。 这表明功能日益强大的智能机器人正在融入我们的生活，成为人类的“贴身管家”，不仅完成人类的复杂工作，也承担着陪伴家人、 呵护家人的角色，为人类提供了更加便捷的生活服务。

在未来，科学技术的发展可能会使机器人日益具有判断思考和自行复制的能力。 在科幻作品中，《机械姬》里的Ava(埃娃)能够通过图灵测试与人类“谈情说爱”，《黑客帝国》里的Neo(尼奥)既能够通过计算机发送信息又能在大脑中创造信息。 这些科幻作品中展现的人机高度融合状态可能存在对人类有益的方面，也可能存有威胁，人类有必要从中受到启示，防微杜渐，从源头处引导技术向善。

(二)从分离走向依赖——手机控与网瘾的形成

人与机器关系的第二个新特征是二者的关系逐渐由分离转向依赖。 机器设计的初衷是与人相互分离，且分离的程度越深越符合人们的要求，人们希望机器的运动过程可以完全独立于人。 例如工厂中工人与生产机器是两个相互独立的群体，除了工厂运作之外，生产机器不会影响人们的日常生活，二者呈分离的状态。 但在当下，人们对机器的依赖性越来越强，甚至离不开机器，尤其随着以通信技术为依托的智能机器设备的发展，人们离开智能机器便犹如身体的某些部位被剥离，不依赖机器就无法完成某些行动，人们对机器的依赖在一定程度上已经变成了戒不掉的“瘾”。

作为一种工具，手机相比于人类历史上的任何工具都更具有控制力，未曾有一种工具能够像手机一样让人们在生活中几乎一刻也离不开。 先人们曾发明各种单一性能的工具以适应某一方面的需要，但手机与网络的结合能够满足吃、 住、 行、 游、 娱、 购等方面的全部需求。 手机的社交功能也在改变着人们的交往方式，人们对手机产生了更强烈的依赖感，无论是带有某种目的的需求或是漫无目的的消遣，手机都能给予随时随地的陪伴和满足。 中国互联网络信息中心(CNNIC)发布的最新版本《中国互联网络发展状况统计报告》显示，连续两年手机网民比例超过99%，基本达到全民手机上网[5]。 在过去，我们更多地听说人们对喝茶上瘾、 对喝酒上瘾，这更多是出于不同角度，在某一时间段对一件事情的追求，不同的瘾适用的人群不同，但上网成瘾显然已经成为不分性别、 年龄、 群体的普遍性特质。

在全民皆是网民的时代，技术产品带给人类的风险同样不容小觑。 对网民个人来说，将时间、 精力长时间耗费在信息爆炸的网络空间中，大脑获取大量零碎且未经证实的信息，使审美跟随在半虚假的“网红”风潮后，这势必会削弱自身的想象力、 创造力、 辨别能力、 审美能力和整体思维能力。 除了人类对自身造成的伤害，更严重的隐患多数来自其他方面。 以高科技时代的隐私危机为例，近年来，人工智能以数据和算法为核心技术，以海量的网民个人信息为基础，带有传感器、 处理器、 数字摄像头、 语音识别技术、 图像识别技术等的人工智能产品不断涌现，无时无刻不在窥视着人们的学习、 工作和生活[6]。 当网民对智能服务的追求与享用要以让渡更多的个人信息为代价时，当更多的隐私数据被他人掌握与利用时，结果只能是让网民越来越难以保护自己的切身利益。

(三)从敬畏走向担忧——“奇点”会出现吗

人与机器关系的第三个新特征是人对机器的态度逐渐由敬畏走向担忧。 机器能够以超出人类几十倍甚至数百倍的效率代替人类完成很多工作，因而人们面对机器时普遍怀有一颗敬畏之心。 技术发展到今天，高度智能化的机器不仅能运行人脑无法运行的程序，更重要的是，人们担心它是否会在未来的某一天通过“图灵测试”，变成一台有“自我意识”的机器，而人类是否会被机器统治？

人工智能的加速发展将技术奇点论 (technological singularity) 不断推向新的阶段。 “技术奇点”是指未来技术的发展会在无限短的时间里取得无限大的进步，机器智能可以进行自我进化并且超越人类智能，最终达到无法被人类所理解甚至无法预警其发生的程度，这表明作为人之为人根本的“人类智能”也将在奇点临近的那一刻被爆炸式发展的人工智能所超越[7]。 20世纪为人类所发现并投入运用的核能震惊世界，其产生的灾难性后果是大规模地毁灭人类和破坏环境。 与人工智能相比，核武器本身并没有智能化，对核武器的使用和控制的权力掌握在极少数人的手里。 而如果拥有智能且能掌控事物的超级智能出现，人类将丧失更多的主动权和防范机会，智能机器可能要成为自己的主人。 对人工智能发展给人类带来的挑战，库兹韦尔(Ray Kurzweil)曾指出： “科技是一把双刃剑，在奔向奇点的道路上，与走向奇点的可能一样，我们也很可能会走向岔路，造成令人担忧的后果。”[8]这种担忧现在产生了越来越大的影响。

二、 人与机器关系的新特征引发的哲学问题

(一)人与机器的本质区别在哪里

与动物的生命相区分，人的属性包含着复杂、 开放和系统的生命形式，例如丰富的情感、 心理、 意识以及包括学习、 记忆、 劳动、 创造、 想象、 判断、 理解等在内的精神活动，具有较高的一致性和稳定性，只有人类发生进化时才得以变化发展。 从扬弃异化劳动的视角对人的本质进行阐释，马克思认为人不仅是有意识的类存在物，能够有意识、 有目的地实现自由自觉的活动，还是有需要的个体存在物，人不仅需要依赖自然界获取基本的条件以满足生存需要，更需要与他人发生各种关联进而满足自身的发展需要[9]。 人的本质特征建立在人的生物属性基础之上，表示社会关系或社会性质的总和，且始终随着社会的政治、 经济、 文化及其体现的各种形式和关系的变化而变化。

从词源学对机器及其本质特征进行考察，在西方“machine”不仅包含机械、 工具、 构造物、 构架、 设备的含义，还表示方法、 权宜之计、 补救措施[10]。 在中国“机”表示机械的装置，但同时也遍及用兵、 艺事甚至生活的全面，这表明对机器本质的理解和探究要从“工具化”深入到人机关系当中。 机器作为一种人造物，在哲学上有其本体论的内涵，体现在“人工性”上。

在人工智能时代，人类与机器的本质划分更加变成了一个不可回避的基本问题，虽然人们在该问题上尚未达成共识，但从未停止对其进行追问。 首先，从生物性进行区分，机器并不具有人类的身体，即使技术的发展将机器打造得外表更加与人相像，机器也无需通过食物和呼吸维持生命的基本运转，也没有能力进行有性繁殖，机器并不具有人类的意识。 其次，从社会性进行界定，社会是人的关系网络，人类为了生存发展而产生了分工协作，在人际交往中建立了各种各样的社会关系； 而机器的执行行为完全是一种机械的物理过程，因而不具有社会性。 再次，从创造性、 情感性和意向性进行辨别。 创造性是人类特有的综合性能力，蕴含创造者独特的见解及其所处的特定社会文化； 情感性是人类个体在满足社会性需要和适应环境过程中形成的； 意向性被胡塞尔称为“主体的人本身纯粹固有的本质的东西”[11]。 相比而言，机器无论如何复杂，都不会像人类那样机智地应对生活的多重偶然性[12]。

(二)人与机器融合的合理限度在哪里

凯文·凯利(Kevin Kelly)在《技术元索》中曾说： “随着机器人继续改进对我们的模仿，人类与机器人之间的差异变得逐渐模糊起来”[13]。 人和机器作为独立的个体在彼此运行过程中相互依赖、 相互渗透、 相互嵌入。 随着智能技术的发展，人们不断探寻新的人机关系。 在未来，人与机器的融合是人机智能的融合，这是一种将人与机器双方优势充分利用而形成的新的智能形式。 在人机智能融合时，人类要充分理解机器对世界的看待方式，并在机器的限制范围内有效地做出决策。 人机融合的合理限度最主要在于人的自我意识。 假若人的自我意识被技术封闭并被安装上大脑芯片，这相当于电脑里被放置了黑客和木马，整个人的思想被控制、 行为受摆布，如此行尸走肉般便丧失了原来的自我、 失去了做人的根本，在此情景下人类势必会处于危险境地。 首先，自我意识是指人意识到自己是主体，并肯定自己的主体地位，对自我与他人之间的关系进行界定和反思，意识到自我有自主选择的权利，拥有自信、 自立、 自爱等意识，具备不断否定并超越自身的能力。 其次，自我意识具有能动性和创造性，人在自我意识的驱动下通过实践活动改造客体，甚至按照自己的观念和想象创造出现实世界中尚未存在的客体，将世界打造成人类理想中的世界。 再次，人类最高层次的自我意识形态体现在哲学反思层面，哲学反思的自我意识更加系统地塑造观念体系和完善人类能力，提高自身的人格魅力和社会地位。 以往人类在每一次的技术进步后，从体力到脑力，从主动到被动，从外界到内在，其相应的功能都会有所退化[14]。

面对人类对智能技术发展可能会取代自身主体地位等的担忧，我们应该明确人与机器的融合主要是主观与客观的融合，是灵活的意向性与精准的执行力的结合，并将其注入技术发明创造及使用的全过程。 人机融合的合理限度应当保证“以人为本”的融合原则，保证人的主体性，不能够冲击人的尊严和社会意义上人的存在。 人机融合可以在保证人类主体性的前提下进行，但是不能因为人机融合使人格受到侵犯、 能动性受到限制以及“以人为本”的原则受到损害。 明确并捍卫人机融合的合理限度，才会使人机融合保持健康的姿态和谐发展。

(三)人与机器关系中蕴含哪些伦理风险

在高科技时代，全新的人机关系伦理图景正呈现在眼前。 人工智能可能带来的伦理风险直接关乎人类社会发展，必须予以高度重视[15]。 失控的技术增长将分裂文化的伦理根基，瓦解人的精神活动和社会关系，消解人类的生存意义和价值。

人类能够考虑到事件相关、 局部、 动态、 隐性的众多细节。 然而在快节奏的信息社会，人们更习惯接受来自网络终端碎片化且未经去伪存真的观点和信息，并据此做出推理决策。 长此以往，人类会丧失清醒的头脑和理性的判断，在信息爆炸的社会里忽略自身独有的想象、 直觉等能力的优势，最终造成对集体价值观和责任感的逐渐缺失，对人类社会全面发展的漠视，对环境污染、 生态危机、 能源紧张等全球性问题的不担当和不作为。

以往人们通过课堂、 书本、 报纸、 杂志等传统途径获取知识，在这一过程中可以对知识进行获取、 吸收进而形成自己的观点看法，形成独到的人生观、 价值观和世界观。 然而智能机器的丰富性和便捷性潜移默化地改变着人类价值观念。 人们长期通过对信息随取随用的方式进行思考，不利于大脑健康的思维方式的养成。 在对机器依赖性增强的同时，大脑会懒于思考，降低自身的认知能力、 计算能力和主动思考能力，甚至逐渐丧失对问题存在的敏感性及问题解决的责任性。 在虚拟技术深入普及的情况下，一部分人减少了对现实世界的参与，更多地存在于相对独立的虚拟空间中，以至于在长期缺乏现实生活中面对面的人际交往和情感交流后越发空虚，越发感受不到社会的认同和生活的希望，最终可能出于报复社会或出于博取存在感等原因而做出偏激的行为。

在隐私安全方面，个人隐私存在着泄露的可能。 可以说“隐私权已经陷入了风雨飘摇的困境”[16]，人的全部信息在人工智能时代都有可能被动或主动地暴露在虚拟的网络空间中。 科技应用以庞大的社会数据资源为基础，大量的数据包括个人在生活和工作中产生的痕迹、 行为和生理数据，甚至在以个人隐私交换利益和便捷为条件的情况下，依然有很大一部分人有意愿做出交换。 个人信息被信息科技企业做出不当利用、 二次使用、 未经授权使用的行为举动，也进一步提升了个人数据被侵害的风险。 此外，随着人工智能技术的不断发展，不法分子的欺诈手段也会越发隐蔽和多元化。

综上，人机融合所面临的伦理风险，昭示着人工智能技术发展的任重道远。 对于伦理风险的审思和规避，决定了未来人工智能发展的走向，也直接关系到人类社会自身发展的前途命运。 在面向人工智能时代的伦理实践之时，我们需要从人与机器关系的新特征出发，积极寻找所面对的伦理风险对策，令人工智能以更积极的形式融入人类社会。

三、 应对人与机器关系新特征带来的伦理风险的对策

时至今日，人工智能已经成为了人类社会最具辅助性的手段和工具，未来人工智能在人类生活中的参与和融入程度越来越深，随之而来的有关机器人是否应该享有权利，而当机器人拥有了自主决策权以及决策能力之后是否会对人类进行反控制，人工智能的道德体系是否应该依据不同的文化进行多层次和多角度的构建等问题都会涌现在人们面前。 因而有必要从技术哲学、 伦理学等视角积极探讨，对合理调整人与机器边界的问题提出对策。

(一)确立“以人为本”的基本原则

自孔子提出“仁者爱人”、 君主要施行“仁政”，再到孟子提出“民贵君轻”的民本思想，“以人为本”的核心和原则在儒家思想中确定下来，成为中国哲学一以贯之的重要原则。 近代西方随着人文主义和理性主义的兴起，人们的研究重心由客观世界转向人的意识世界，从对本原的追问转向对人的精神世界的探索。 马克思在对人的主体地位和主体价值肯定的基础上，结合资本主义社会的现实情况和对工人阶级的剥削问题，扬弃了黑格尔和费尔巴哈“抽象的人”，提出了以劳动实践为本质的“现实的人”的主体性思想，并把“人”作为其思想的永恒主题。 这是确立人工智能时代“以人为本”的基本原则的思想基础。

“以人为本”的人工智能发展策略可在一定程度上应对人际关系新特征所引发的伦理风险。 首先，面对“从对立走向融合”的特征，“以人为本”原则可以明确人与机器的融合边界，使赛博格技术或智能机器人在与人类融合的基础上更加注重人类的能动性，保持人类自决，并由人类监督[17]。 英国哲学家安迪·克拉克(Andy Clark)指出： “现代的人已经不再是单纯意义上的人，而是一种心智、 身体和技术化工具混合体的赛博格人。”[18]因此在坚持“以人为本”的原则上，要明确人类心灵与意识在人机融合中所占据的主导地位。 无论何种“赛博格人”诞生，主导其行动的心灵始终都是人类的心灵，应确保人工智能系统不会破坏人的自主权或造成其他不利影响，切实保证真正为人类所用并造福人类。 其次，面对“从分离走向依赖”的特征，“以人为本”原则可以使人类在五花八门的技术世界中明确人的主体性，既不过分依赖机器带给我们的便利，同时也使自身不受技术的限制。 遵循“以人为本”原则可以保证对隐私的保护，使机器人制造者在创造AI(人工智能)时便为其植入保护自由与隐私的理念。 再次，面对“从敬畏走向担忧”的特性，“以人为本”的原则可以阻止智能技术失控局面的降临。 按照“以人为本”原则造出的人工智能，不会像技术奇点论支持者所想象的终极智能，而是一种对人类智能的放大或可以更好地为人类服务的智能体。

综上，“以人为本”既是最基本的人文素养，也是技术应用于人类的终极价值。 在当前及未来，都要始终倡导和坚持“以人为本”，所有的人工智能、 机器人和大数据等行动都要围绕“人”来展开，为满足人的需要提供服务和工作支持。 在未来的技术社会中，人们所需的各种产品和服务都能被精细地理解和掌握，人工智能技术将人们从陌生和琐碎的工作环境中解脱出来，帮助更多的人创造出更高品质的生活。 面对伴侣机器人将怎样改变家庭关系和婚姻关系、 手术机器人引发的医疗事故责任如何界定、 人工智能技术创造的财富如何分配等现实和未来的问题，强调“以人为本”的发展原则尤为必要。

(二)深化机器人伦理的研究

面对人工智能引发的人类种种担忧和不安，各领域学科专家需要共同探索机器人伦理，这需要不同文化背景、 语言文化、 研究方向的学者开展深入的交流与合作。 机器人伦理确保在不被滥用的前提下推动机器人使命的完成和文明社会的构建，这需要人类将相关的伦理因素注入对智能体的设计中。 虽然当前阶段的人工智能还无法做到道德能力指导下对身体的认知和对社会技能的掌握，但是人工智能已经实实在在地进入了国际市场。 机器人伦理应该从全球性的视野出发，汇集不同的文化历史背景、 不同的宗教信仰体系、 不同的法律法规制度等，进而形成对全世界具有普遍意义的理论模式。

机器人设计伦理包括“设计的伦理”和“伦理的设计”两个层面。 “设计的伦理”指的是设计过程中蕴含的伦理价值，而“伦理的设计”则指以伦理为导向的设计过程[19]。 在设计机器人以及人工智能的过程中，设计参与者应当为人工智能注入正确的伦理价值，蕴含为人类谋福祉、 避免与人类发生伦理冲突的道德规则，发挥价值敏感性设计的作用。 由此在设计初期便尽早避免人机之间的伦理冲突问题，最终引导机器人“向善”的和谐未来。 相关行政管理部门应该时刻保持对机器人伦理相关问题的敏感性和前瞻性，加强数据保护和自动驾驶等方面的技术评价和立法前期工作，协调和规划好机器人相关的监管体系，不断对技术创新做出评估和调整。

(三)负责任的技术评估及创新

“负责任创新”理念自被提出后，便得到了理论界与社会的广泛重视，很多国家开展一系列相关研究活动。 目前来看，该理念可能成为继“可持续发展”之后的又一全球性发展理念[20]。 负责任创新也为解决人机关系新特征带来的伦理风险提供了对策。

英国学者欧文(Owen)提出了包含预测、 反思、 协商、 反馈的“四维度”负责任创新理论模型，各维度分阶段参与负责任创新的全过程。 对协调高科技时代人机关系而言，预测维度可以提前防范人机融合所带来的依赖特性，在创新之前预测可能会带来的伦理风险，明确人在人机融合中的主体地位，通过对技术的评估及预判还可以有效避免“奇点”的来临，使人机保持一种健康的关系。 反思维度可以通过多学科合作与训练、 伦理的技术评估等方法应对人机关系新特征所带来的伦理风险，在进行人机融合时充分反思制度、 社会秩序、 隐私和可持续性等方面的行为准则。 协商维度可以使机器人的制造者们进行集体审议，广泛征求公众和不同利益相关者的意见，保证在研发健康的人机融合机器时可以群策群力，使人机关系新特性所带来的伦理风险降到最低。 反馈维度可以根据利益相关者的情况来调整框架和方向，通过为新技术的使用创造空间进而协调社会-技术变革的动力机制。

综上，依据负责任创新的四个维度，可以有效应对高科技时代人机关系所带来的伦理风险，但除这四个维度之外，还应当明确人机融合的合理限度，在保证不影响人类作为融合主体的条件下，使机器更有效地服务于人并与人类和谐共存。