万礼洋，易显飞

（1.长沙理工大学 哲学系，湖南 长沙 410004；2.长沙理工大学 社会治理创新研究中心，湖南 长沙 410004）

脑机接口（brain-computer interface，BCI），有时也称作“大脑端口”（direct neural interface）或者“脑机融合感知”（brain-computer fusion perception），该系统包括信号输入、信号处理、数据处理、转译以及操办协议等环节，这些环节构成了一个具备信号收集与匹配功能的复杂系统。可以说，BCI 是一种通过建立大脑与外部设备的直接连接，从而实现信息的交换与响应的技术。“接口”可以类比于两类或多类事物之间的界面或中介，并起着事物之间联系和相互作用的功能；“脑机接口”则是活的神经组织和人造设备之间的直接连接，在计算机和脑之间建立了信息沟通通道。必须承认，通过脑机接口技术中的人与“机”的双向反馈，患有诸如身体残障、瘫痪、神经系统受损等患者可以重获运动、语言、思维等方面的能力。［1］然而，脑机接口技术在某种程度上是对人的身体尤其是身体最关键的“脑”的深度“介入”，因而在该技术的使用过程中也引发了一系列不容忽视的伦理问题。

一、脑接接口技术伦理问题的主要表征

脑机接口可以被视为人机接口的高级形式，是一种“心物连接”；同时也是一种“去边界化”的过程，人脑和计算机的边界逐渐变得模糊化，呈现出二者一体化的趋势。当人脑和计算机结合变得异常紧密，甚至“合二为一”之时，其技术系统内部的矛盾性和互斥性及其引发的伦理问题也就逐渐显露出来。这些伦理问题包括：安全性问题、公平性问题、行为主体的可控性问题、人的自由与尊严等基本权利问题，等等。

首先是安全性问题。技术的安全性是技术伦理系统中需要考察的一个基本要素，一旦技术与人“打交道”，其安全风险对人产生的影响就会进入技术伦理考察的视野。脑机接口的核心机理，在于实现大脑信号的采集和传达，其中信号的采集方式分为非侵入式、半侵入式和侵入式三种。如果要提高信号捕捉的精准性和稳定性，仅仅设置在大脑表层的端口，其“敏感”程度是远远无法达到的，这就要求进行更深层次的“创口”的技术操作。如菲尔·肯尼迪（Phil Kennedy）当时使用侵入式电极信号收集数据，相比非侵入式脑电设备（如利用皮层脑电P300 信号响应获取信号），就可以更精确有效地实现“交流”。需要指出的是，在当前的技术水平下，信号采集的精确度与受体所承担的安全风险程度是成正比的。毕竟，在受体接受脑机接口技术的过程中，可能会使大脑组织产生局部的“机械损伤”，如深层脑技术（DBS）数据显示，在脑部手术中大出血和术后感染的风险概率都达到了2-6 个百分点。而且，对于接受侵入式脑机接口技术的实验者，有极大可能性出现后遗症，导致大脑的局部出现不可逆性受损。除了生理上的损害，受体在术后可能还存在精神和心理上的障碍。有临床案例表明，受体在接受脑机接口技术介入后，性格产生“颠覆”；甚至有少数案例显示，受体变得爱上赌博或是出现精神错乱等现象。另外，电极植入后的使用时长目前也尚无可靠数据，这表明电极本身植入人的身体后依然存在着较难预测的安全隐患。

其次是公平性问题。在某种意义上，技术可以视为通向“善”的可能性道路。然而任何技术，其积极价值的实现往往与“公平问题”相互纠缠，使技术的正面形象大打折扣。脑机接口技术在被应用于治疗特殊群体的患者或帮助残障人士恢复运动能力以融入正常生活方面，彰显了其积极价值；但是一旦该技术被“滥用”于“正常人”，它所带来的机体“增强”效果以及由此产生的不公平现象也是无法忽视的。如在竞技运动中，运动员依靠脑机接口技术“操纵”外骨骼设备，获得更加强劲的运动能力（包括速度、力量、敏捷性等），这样就由于脑机接口技术的介入而使得所有参赛队员并没有真正站在同一“起跑线”参与竞赛，比赛的公平性也就无从谈起。再比如，研究表明，在动物身上植入脑机接口装置，不仅可以恢复其失去的记忆，而且可以在一定程度上加强其记忆能力。因此在教育领域，个体通过接受脑机接口技术往往就具备了优于常人的信息贮备能力，计算能力，理解能力。这样，脑机接口技术使用者可能借助这种方式轻松拉开与常规竞争者的距离，通过各种竞争性考试获得更好的教育资源，这将导致新的教育不公平问题。还如，在司法领域中，司法实践主体也有可能通过脑机接口技术而具备更强的记忆能力与逻辑推理能力，甚至可以通过脑机接口技术“洞悉”对方的所思所想，从而在法庭上获得更大的胜诉概率。这对于不具备条件或者不愿接受脑机接口技术的另一方说，法律的天平也在某种程度上已经“倾斜”了，这实际上既不公平也不公正。［2］从社会整体层面而言，几乎所有社会资源的分配在客观上都呈现出金字塔式的分布样态，这也就意味着少部分人在脑机接口技术上具有更大的获取可能性因而呈现出具有更大的优势，这必然导致不同群体在能力等方面的差距再次扩增，引起“二次不公平”。

再次是行为主体的可控性问题。技术制品作为依靠人的智慧而形成的产物，本应由人所“掌控”，符合人的价值预期。［3］换言之，技术理应“受制于人”，而非对人“反制”，而脑机接口技术则似乎在某种程度上也开始慢慢显示出“反制”的力量。约瑟夫·李（Joseph Lee）指出，运用脑机接口技术所形成的共生模式的“人机混合体”，导致人机二者的关系变得复杂且微妙，身心的“关系”问题进一步凸显，这又具象化为行为主体的“可控性”方面。［4］比如，当脑机接口技术受体在同一时间接受了多种信号后，有时会出现无法进行选择或者仅仅根据信号强弱来自动选择的情况，这样可能导致无法预期的后果。如人在愤怒的时候，会出现一些相对极端的想法，但大多数情况下，“理智”可以起到控制人类行为的作用。但是，当某脑机接口受体安装了人工机械臂，机械臂在接收到大脑的愤怒信号后，就有可能直接做出过激行为。再比如，一个需要依靠脑机接口技术控制的机械手臂来行动的患者，在医嘱的禁烟禁酒甚至戒毒的情况下面对“诱惑”，一方面，人脑的“奖赏系统”会提出行动要求来获得“快感”，另一方面，大脑前额叶所释放的自控信号又会对这种要求加以抵制。如果脑机接口仅依据奖赏系统的活动来决定个体的行为，机械臂解析相应信号，就会产生违背使用者“意志”的严重错误。［5］机械体行为的产生，究竟由哪些相关信号共同作用所导致的？而这些信号之间又应该如何组合才能使机械体行为代表着最优化的决策结果？这些技术受体的“可控性”问题，蕴含的复杂的身心二元论问题，需要从伦理层面加以回应。

最后是人的自由、尊严等基本权利问题。自由、尊严等都是人的最为基本的权利。现代技术的发展一方面使人类的某些基本权利得到进一步彰显，另一方面又阻碍了某些权利的充分实现。在许多人文主义技术哲学家看来，技术往往不是实现自由等属于人的基本权利的手段；相反，技术进步会使人的自由和尊严等基本权利“泯灭”。［6］当脑机接口技术试图进入到人类社会各个领域并产生作用的同时，也有可能会因为与人的基本权利相违背而陷入伦理窘境。比如，史蒂芬·施泰纳特（Steffen Steinert）和欧尔绍尧·弗里德里希（Friedrich Orsolya)的研究指出，当脑机接口技术用于企业管理时，组织通过对员工大脑信息（包括情绪）的监测以考察他们的忠诚度时，或检测到更多受试者不愿分享和公开的精神隐私时，这实际上是一种在商业功利模式下技术对尊严与自由的威胁与弱化，意味着人的基本权利受到损害。［7］再比如，神经生理学家为了治疗抑郁症患者，利用电极仿真一些女性大脑，使她们体验到了快乐的感觉，并且暂时性缓解了抑郁症状。在这个过程中，接受实验的对象并没有受到什么生理上的伤害，但是，她们无一例外地、很快地“爱上”了对她们进行实验的科学家。后续研究表明，这并不是接受治疗者在正常心理状态下的“自主选择”，而是脑机接口技术所带来“快感”，使她们产生了很强的依赖性。这种依赖性在某种程度上影响着患者的情绪和心理，以此来间接性地“左右”患者的自由意志与自主选择能力。还如，黑客技术一旦用于脑机接口系统，就有可能对受体脑部进行信息窃取、破坏和控制。马尔塞洛·卡伦（Marcello Lenca）和皮姆·哈斯拉格（Pim Haselager）认为，这其中甚至包括假肢的“无线劫持”，对神经刺激疗法的恶意重新编程（如无线更改设备设置以产生不安全的大脑刺激），窃听大脑植入物的信号以泄露私人信息，等等。上述这些示例，可以说都是非常具体的“神经犯罪”现象，其目的不仅仅是破坏神经设备，而是直接获取大脑信息。［8］以上种种，都构成了对人的自由与尊严等最为基本的权利的严重挑战。

二、脑机接口技术伦理问题的成因分析

脑机接口技术与其他人类增强技术制品相比，它所引发的伦理问题既有相似之处，又有所区别。技术本身的不成熟、责任归属欠明晰、相关主体的伦理素养不足、技术的文化与社会背景等，都是我们在剖析其伦理问题成因时不可忽视的重要因素。

首先是脑机接口技术本身的不成熟问题。应该说，脑机接口技术目前还处于一个快速发展的阶段，技术本身并不成熟，也因此导致该技术的风险系数难以准确评估。萨沙·伯威尔（Sasha Burwell）和马修·桑普尔（MatthewSample）指出，就现阶段脑机接口技术发展水平来看，存在着技术受体是否安全维度上的技术不成熟问题。人们对脑机接口的关注与人们对任何其他新的生物医学设备的关注焦点是一致的，即由于其现阶段技术发展的局限，BCI 可能会对使用者造成直接伤害的风险，特别是对于需要手术干预的环节。［9］其一，现阶段技术尚不足以消除技术受体自身的“排他性”，且受体的多样性导致了手术的不可控性。每个人的体质各不相同，身体免疫系统对于外界“异物”的反应也会有强有弱，相同的技术手段有可能仅仅适应于一部分符合身体条件的受体。其二，作为脑机接口技术载体的器件的质量和稳定性有限。一旦电极在体内被神经元所形成的疤痕组织包裹和围绕，那么BCI 信号将受到很大程度的减弱，导致其信号质量降低。电极在体内随着时间的推移，会受到不同程度的腐蚀，若电极与有线处理系统和电源系统的连接过于牢固，就会导致电极从目标组织中脱离出来，从而对受体带来不可逆的损害。其三，BCI 系统的供电过程存在操作层面的风险，导致人体不同程度地存在安全风险方面的威胁。如有线形式的电池更换频率过多增加了手术风险；无线形式的电磁场射频则对人体存在潜在健康影响。对于上述安全性问题，我们不得不在不断改进和发展该技术的同时，采取谨慎的态度来使用它。

其次是责任归属欠明晰问题。一般认为，技术活动中的“责任”为活动主体本身需承担的“义务”，技术伦理中的“责任”为主体的行为自觉来保持技术活动的“善”性。［10］脑机接口技术引发的责任伦理，往往归属主体划界不明，这主要是此类技术的特殊性所带来的“非单一责任主体”所致。正是因为脑机接口作为复杂的人机混合模式，从而出现了多个责任主体（研发者、制造者、使用者、监管者等），进而出现了“有组织的不负责任”的责任扩散现象，即当责任可以分担至多个不同主体时，所涉及的每一方都存在逃脱责任的倾向。［11］目前，脑机接口技术在使用主体和研发主体之间的责任体系相对模糊，存在着较大的辩解空间。由于现阶段智能系统还不具备真正意义上的自我人格，有观点认为系统故障所导致的事故责任应归咎于研发方，而这无疑会使真正的责任主体免于问责。毕竟，责任主体是多元的，除了研发方，还包括质检部门、制造商、销售商和使用者等主体。比如，当脑机接口技术使用者提出吸食毒品等不合理要求时，倘若脑机接口系统不加鉴别的响应和服从，它则成了违法犯罪的“帮凶”。再比如，由于脑机接口技术使用主体处于情绪过激状态下的“一念之恶”，从而诱发了外骨骼设备做出了某些破坏性的举动，而这些举动可能恰恰存在违法乱纪的情况。上述种种情形的后果，一旦出现，各个责任主体往往都各执一词来推卸责任。研发者可以认为脑机接口技术控制的外骨骼行为皆是使用主体的“指示”所为，而不是信息接受和响应有误所导致的，因此责任应该归于使用者。而使用者也可以认为法律无权限制其思想，不管它有多么的恶劣。只是因为脑机接口技术对指令不加鉴别就盲目地为他们的思想做出反应才会导致这种不良后果，换作是他们自己的手臂，这种情况绝对不会发生。可见，在人机混合体的多方责任主体模式下，责任追究因此变得复杂且模糊。

再次是相关主体的伦理素养不足的问题。在现代化视域下，伦理素养的高低程度往往是影响技术发展进步的重要因素。［12］对脑机接口技术的研发主体而言，他们对技术制品的设计动机在很大程度上决定着该制品商业化后的价值定位，而他们的设计动机，又与其技术伦理素养水准息息相关。比如，技术研发主体缺乏伦理底线，研发BCI 的动机主要是军事目的，那么该技术的具体功能就有可能会偏向脑部的信息窃取与控制外骨骼装甲等，其后果有可能是引发新的一轮军备竞赛，产生更残酷的现代高技术战争。对于BCI 的制造主体而言，伦理素养的不足可能导致他们为了降低产品成本，将那些质量检测不过关的芯片堂而皇之地植入技术使用者体内，而这将带来更为严重的技术安全风险。对于BCI 的销售主体而言，其伦理素养的不足则可能会使他们为了盲目地追求经济价值而将相关制品提供给不符合道德或法律要求的使用主体，如供应给对社会安全有极大危害的不法分子、身体状态不满足手术条件却执意接受脑机接口技术的个体、试图成为“增强人”以破坏某种公平机制的个体，等等。对于BCI 的使用主体而言，其伦理素养不足带来的社会价值最为直接，因为使用主体决定着BCI 最终以何种方式被使用，而这些方式往往是多种多样且难以防范的。使用主体有可能借助BCI 所带来的能力“增强”在各个竞争环境中取得绝对的优势，产生诸如公平公正方面的伦理风险。

最后是BCI 技术发展的文化与社会背景问题。技术发展依赖于其所处的文化与社会背景，并被其深刻地影响着，其中，与该技术相关的社会舆论就是最为重要的因素之一。［13］人类社会普遍受到认可与尊重的价值观念，如公平、正义、勤奋等，不应该随着新技术的创新与使用而被贬损。如果脑机接口技术逐渐地深入到社会各个领域各个层面，并以其出色的“增强”效果对人类社会的美好价值形成异化，如果在这个时候，社会舆论还以麻木与沉溺的纵容态度来对待BCI 的价值冲击，那么，我们基本上可以判断，BCI 技术发展处于一个“有问题”的文化与社会背景中，这对于该类技术的建构与发展是极其不利的。比如，部分学生在脑机接口技术的增强下获得了常人无论如何努力都难以匹敌的出色的学习能力，而此时的舆论环境依然麻木地倾向于用最终的结果（而非努力学习的过程）来进行价值评判，那么，教育领域中那些勤奋、努力、公平的价值就会越来越虚弱。因为，BCI 的使用者会变得越来越自负且懒惰，因为他们不需要付出常人的努力，就可以轻松取得常人无法触及的成就；而那些未接受BCI 介入的受教育者，则会变得失去信心和动力，也不再相信自己的勤奋与努力会带来改变，因为无论怎样，他们都无法达到“增强人”所能达到的高度。

三、脑机接口技术伦理问题的治理对策

脑机接口技术所带来的伦理问题是目前急需应对的问题，用滞后的眼光和极端的应对方式都是与其快速发展和日益泛化的使用不相匹配的。因此需要以发展的态度和合理的治理方式来引导脑机接口技术的发展。

第一，BCI 技术本身的进一步发展与完善。人脑相对于身体其他部位在结构上更为复杂，作用于脑部的技术产生的风险也更高。从技术本身而言，应力求从整体上提升BCI 的技术水平，为安全风险的下降提供更坚实的技术支撑。总体来看，BCI 技术的努力方向，首先应以解决芯片材料的耐腐蚀性、体积的微小化、对人体的无毒无害性作为研发的基本取向。如脑机接口芯片所具有的化学属性应尽可能弱化，从而减少化学性危害，使芯片等材料植入人体不至于影响人体生命系统的正常运行，最大限度地与人体环境契合，缓解甚至消除其排异性。对于机体的排异性差异问题，人类在疾病防治工作上为了研制疫苗而不断完善基因库，并对相关数据进行整合分析的方式值得借鉴，因为在对人体相关数据的掌握达到一定的程度后，人们面对脑机接口个体的差异而导致的风险进行处置时就会变得更有经验。再如脑机接口中因供电引发的安全风险问题，马斯克团队提出的无线充电模式以及国内设计出的超低功耗的混合信号集成电路，都为BCI 的电力供应“瓶颈”打开了新的大门。

第二，系统算法的合理选择与相关政策的优化。在算法问题上，关键在于如何使脑机接口系统具备鉴别本体指令是否合理的能力。虽然目前利用人工神经网络算法有望赋予人工智能系统自我学习、自我思考、自我改进的能力，但是由于技术的不确定性，多数科学家对此持有审慎的态度。［14］因此，当下应该更倾向于通过计算机将普遍的行为数据特征提取出来，并对那些违背道德法律的“恶性”行为进行特征分类与总结。依照此模式，脑机接口系统在接受繁杂指令时，先对指令进行鉴别和过滤，再决定是否做出响应的工作模式是可取的。通过这种技术上的改进，可以在一定程度减少责任问题的出现，因为，在技术处理下的“恶性”指令过滤机制能够让那些不合适的本体意图无从通过机械体来实现。在法律上，对于行为主体的划分问题更为复杂。对于人工智能实施侵害的责任主体，美国与欧盟均认为生产者、销售者和使用者应当作为相应的责任主体，却对是否将人工智能视为拥有独立人格的责任主体存在争议。［15］但现阶段由于脑机接口技术尚未达到自主思考和决策的程度，且盲目的赋予其独立的法律主体地位，只会让它成为一个帮助真正责任主体逃脱罪名的“傀儡”。萨沙·伯威尔（Sasha Burwell）和马修·桑普尔（MatthewSample）认为，就现阶段来看，对于BCI 引发的法律责任承担问题，可以综合运用现有的法律责任归责模式。他们强调脑机接口技术的使用者应该对任何无意的情况负责，使用者必须承担使用潜在危险工具的责任；同时他们认为，意想不到的行为被认为是设备本身存在的缺陷，则首先应追查技术制品的研发方、供应方和质检方责任，再借鉴现有法律归责模式，根据具体情节追究或免除使用者的责任。［9］同时，可以考虑从政策优化的层面降低BCI 引发的各种风险。政府应该投入适量的资金，组建BCI 伦理审查委员会，为脑机接口技术的伦理风险规避在建制层面保驾护航。在不同的领域，脑机接口技术的适用类型应该受到明确规制。比如，在医学领域，根据患者的不同需求，可以对应采取侵入式、半侵入式、非侵入式的设备介入形式。但是在要求相对常规化的服务业领域，则只允许采取非侵入式的设备介入形式。换言之，能够采取非侵入式的情境下，绝对不允许采取更深层次的技术介入，这也在一定程度上降低了BCI 使用带来的风险。

第三，提升BCI 相关主体的伦理素养。对于BCI 研发主体，在行业内要建立教育和审核制度，构建专业技术与科技伦理“不分家”的研发模式，将科技伦理素养纳入相关考核指标中，对伦理素养不过关的研发主体进行合理规制。保罗·钱德勒（Paul McCullagh）等认为，BCI 研发组织应聘请相关专家和道德顾问对技术制品的伦理风险进行评估和审核。［16］同时，BCI 研发组织设立伦理审查委员会，对BCI 的创新活动进行贯穿始终的评价，达到持续的伦理监督的效果。在这里有必要做到两点，一是要求贯穿始终，避免遗漏任何中间环节，包括对技术发展动机的伦理考察，对研究过程的透明化监督，对投入应用前的风险评估，以及对应用后的反技术异化跟踪；二是在加强对BCI 研发领域的伦理管制的同时，要给予一定的弹性和空间，以免阻碍BCI 创新的活力。针对脑机接口技术使用主体，应该由专门的委员会提出具体可行的伦理规范与准则，其宗旨应该是引导使用者尽可能消除或避免BCI 应用带来的负面的效应或影响。

第四，为BCI 技术的发展营造适合的社会舆论环境。各种媒介作为舆论传播的主要介质，应该扮演社会大众对BCI 形成正确认知的关键角色。多样化的媒介渠道对引导正确的社会舆论起着至关重要的作用。通过多种媒介渠道共同作用，可以帮助人们客观正确地看待脑机接口技术的社会介入行为，从而调和社会中那些对脑机接口技术发展与使用方面的极端舆论。精英和学者在社会舆论的塑造方面，要扮演好监督者和引导者的双重身份。一方面，考虑到普通民众对脑机接口技术的认知有很大的局限性，对媒介上传播的信息判断能力较弱，为了避免谣言传播和商业性欺诈，精英学者需要时刻保持敏感度和警惕性，以免社会大众遭受某种误导。另一方面，精英学者需站在服务大众的立场上，“自主”地提出BCI 领域的正确观点和看法，引导舆论的健康走向。