人机伴生：从机器人伦理到道德机器(1) 本文系国家社会科学基金重大项目“智能革命与人类深度科技化前景的哲学研究”(17ZDA028)的阶段性成果。

段伟文

所谓人机伴生，要强调的是在人工智能和机器人的发展进程中，一直通过人与机器的协同而演化。如果认识不到这一点，就很容易忽视人类智能与机器智能的现实关系，脱离由两者构成的智能生态谈论奇点和强人工智能。这就涉及哲学研究，不仅仅是提供答案或者解决方案，还要对问题本身进行分析和重构，让人们能够从更好地体现实际的视角看到问题的本质。每个人都想成为解决问题的高手，各个学科提供了各自的视角，而哲学总在试图告诉人们，还可以用另外一种方式来面对问题。这就是哲学的思考，不断地变换角度，使从其他角度不显见的现实得以呈现。

一、作为文化创新的机器人文化

从某种程度上讲，这种惧怕技术和机器人的技术文化与机器人文化决定了西方机器人文化的基调，也成为机器人文化反思与创新的出发点。此后，比较有代表性的文化创新者有阿西莫夫的机器人定律和日本的机器人文化。20世纪30-40年代，阿西莫夫着手创作科幻小说时，面对各种机器人故事中过于人性化的“威胁人类的机器人”和“引人同情的机器人”，他看到了另一种可能——由工程师制造的内设安全机制并用于执行特定工作的机器人产品，它们既不会威胁人类，亦无从引人同情。为此，他在《环舞》等小说中提出了机器人三定律，为理想的机器人设定了一套假想的可通过机器执行的道德体系，让人们看到机器人是可控的。……