沈苑 汪琼

[摘   要] 人工智能教育应用的伦理风险可能成为阻滞其发展的重要影响因素。文章从伦理价值角度出发，分析了人工智能应用于教育中会出现的典型伦理困境以及教育环境中处理伦理问题的特殊性，建议采用价值敏感设计作为突破上述困境的方案。在面临准确与透明、隐私与效用、自主与效率、个性与交流等价值冲突造成的伦理困境时，传统的伦理解决方案会在教育环境下面临多重挑战，價值敏感设计作为一种将伦理考量嵌入技术设计的高效方法，坚持人与技术动态交互，要求技术设计彰显利益相关者的价值，采用三方方法论在技术设计前期规避潜在的伦理风险，能够有效推动可信赖的人工智能在教育中的发展。在对人工智能教育应用开展价值敏感设计的过程中，研究者需持中立、开放、敏感的态度，在保持对价值敏感的前提下灵活地选择研究方案，将价值敏感设计扩展到人工智能的全生命周期。

[关键词] 价值敏感设计； 人工智能； 教育应用； 伦理困境； 价值冲突

[中图分类号] G434            [文献标志码] A

[作者简介] 沈苑（1996—），女，江苏苏州人。博士研究生，主要从事人工智能教学应用伦理的研究。E-mail：shenyuan@pku.edu.cn。汪琼为通讯作者，E-mail：wangqiong@pku.edu.cn。

基金项目：教育部科技司2022年教育领域智能社会研究“智能教学环境人机合作平衡点探查”（项目编号：D2022010）；2022年江苏高等教育学会《江苏高教》专项课题“人工智能高等教育应用伦理研究”（课题编号：2022JSGJKT001）

一、引   言

近年来，人工智能（Artificial Intelligence，简称AI）技术以其特有的学习和预测能力受到教育学界的广泛关注。……