沈苑 汪琼

[摘   要] 在倡导教育包容与公平的时代背景下，教育面临着以个性化、自适应为特征的智能技术所带来的偏见风险。在智能教育产品的研发过程中，潜在的设计偏见、数据偏见和算法偏见会使教育领域面临多重风险，如教育活动的公平性受阻、教育系统内部的歧视加剧、教育中的多元化特质消解和学生思想窄化。学校、科技公司、监管机构等组织应当携手共进，提前侦测偏见风险并加强治理，包括：提升研发团队的教育理解和多元眼光，让师生成为产品的合作创造者，加强偏见检测和道德评估过程，建立可解释、可审查、可纠正的系统优化机制，开展面向师生的人工智能素养教育，确立人工智能在教育中的应用范围和伦理规范，从而争取实现人机良性互动，打造多元包容的智能教育環境。

[关键词] 人工智能教育应用; 人工智能伦理; 教育包容; 算法偏见; 数据偏见

[中图分类号] G434            [文献标志码] A

[作者简介] 沈苑（1996—），女，江苏苏州人。博士研究生，主要从事人工智能教育应用伦理研究。E-mail：shenyuan@pku.edu.cn。

一、引   言

当前，关于人工智能教育应用（Artificial Intelligence in Education，简称AIED）的讨论非常热烈。无论是作为辅助教学、校园管理的工具，还是学科教育的重要内容，人工智能都为教育发展注入了新动力。有支持者主张，AI是基于真实教育数据做出决策的，较之人类决策更加客观、公正和权威。然而，真的是这样吗？普林斯顿大学的一项研究发现，AI和人类一样带有偏见，它们会将女性群体与“家庭”“艺术”挂钩，将男性群体与“事业”“野心”挂钩，将有色人种群体与一些令人不悦的词语挂钩[1]。……