付睿云 白庆春 吕泰

1.上海开放大学浦东东校

2.上海开放大学上海开放远程教育工程技术研究中心

●引言

人工智能技术发展带来了诸多便利，但所引发的问题也受到广泛关注。谷歌人工智能负责人约翰·詹南德雷亚认为人工智能真正的安全问题是：“如果我们给系统有偏见的数据，它们就会有偏见。”[1]英国学者塔迪欧建立的三元数据伦理框架认为偏见来自数据、算法以及实践。[2]国内学者沈苑认为在人工智能教育应用研发过程中，偏见来自设计偏见、数据偏见以及算法偏见，其中数据偏见是社会结构性壁垒的复制与重现。[3]李昭熠从智能传播数据库层面分析，认为数据库的偏见来自数据库本身的隐形偏见。[4]在文献梳理过程中，笔者发现对偏见的研究主要是从人工智能整体角度或数据伦理角度进行研究，并且针对人工智能教育应用的数据偏见及其治理的研究，大多比较简略。另外，从人工智能教育应用的生命周期角度来看，偏见的源头是数据。同时，人工智能的反馈循环设计思想还可能会放大预先存在的偏见，走向一种复杂混沌的局面。这些显性或隐形的问题，导致人们必须重新考虑数据。因此，从数据层面研究此类偏见具有重要意义。

数据偏见的治理有具体的内容和特定的结构，需要自上而下、由表及里、系统全面地推进。而在教育界，基础教育和高等教育对数据偏见的思考和规划不尽相同。高等教育往上走，注重理论性、科学性、技术性的创新治理，而基础教育往下走，更贴近学生，需要可操作性强、适应性强的治理方案。……