张 黎（广东工业大学 艺术与设计学院，广东 广州 510062）

一、人工智能时代的“科林格里奇”困境

未来具能高力的人工智能及其自主系统，将对世界产生像工业革命一般规模的变革性影响。然而，与每次生产力革命一样，繁荣背后的风险与问题，同样值得重点关注。在 AI 技术逐渐主流化的当下，需要确保这些技术与人类在道德价值观和伦理原则方面保持一致，已成为当代技术伦理学的主要议题。2017年 9 月，联合国教科文组织发布《机器人伦理报告》，建议各国制定 AI 伦理准则。美国电气和电子工程师协会（IEEE）于 2016 年启动发布的“关于自主/智能系统伦理的全球倡议”及其《人工智能设计的伦理准则白皮书》，并于2017年12月发布第二版“合乎伦理设计（Ethically Aligned Design，简称 EAD）”的指南，已得到业界的广泛认同。人工智能这类新兴技术的伦理问题得到世界性关注，其中很重要的原因之一被描述为“科林格里奇”困境。

英国技术哲学家大卫·科林格里奇（David Collingridge）在其1980年的著作《技术的社会控制》中提出过一种“控制的悖论”，[1]即当一项技术处于早期发展阶段时，虽有较大可能去干预其发展方向，但由于尚未充分了解技术将如何影响社会以及将会产生哪些影响，从而无法实施干预。然而，一旦技术完成深度的社会嵌入，人们虽已确切了解其结果和意义，但已很难再去改变它的发展方向和程度。这一难题被称为“科林格里奇”困境，也是技术伦理学面临的经典挑战之一。

当代技术伦理学已发展出了几……