黄晓伟　李育慧

摘要：近年来的数据集下架潮、算法偏见大辩论使得算法偏见成为一个不可忽视的社会问题，这归根结底是由算法的政治性决定的。本研究从技术与权力的互构共生关系视角，批判了算法的价值中立论，在算法赋权的社会—技术系统中，算法作为非人类行动者参与到人类行动者的决策过程中。算法偏见可以区分出若干类型，其实质是当代数字化社会的一种形式偏见，可能加剧新兴的数字排斥。算法社会的道德底线应该是不造成算法伤害，避免算法作恶，同时还要从激励性伦理的角度推动算法的负责任创新，实现算法向善。算法风险的基本治理机制是算法透明，而同样重要的是算法问责。

关键词：算法偏见;算法权力;技术与权力的互构;数字排斥;算法向善

中图分类号：B829;TP18     文献标识码：A     文章编号：1003-1502（2021）01-0039-10

在启蒙现代性发端之初，英国哲学家培根发出了“知识就是力量”的时代呼唤。随着工业化进程的扩散，世界各国人民也确实见证了现代技术迸发的巨大力量。20世纪以来，现代性的迷思为世界大战、环境公害、核威胁、恐怖主义等风险事件所动摇，居于技术力量背后的“权力”幽灵不再游荡，“知识即权力”以及“技术即权力”的观念受到越来越多思想家的重视和讨论。近年来，算法创新、海量数据与运算能力共同推动了新一代人工智能的蓬勃发展，由于算法创新的核心驱动作用及其广泛的社会影响，一些社会理论家们甚至宣称“算法社会”正在来临。……