石颖

〔摘要〕算法歧视是新兴技术风险的典型代表，主要是由于算法内部演算和数据分析所导致的对特定群体或个人的不公正对待。算法歧视是一种不合理的区别对待，是智能机器自动化决策的产物，以“隐蔽性”和“不可逆性”为表征。相较于一般歧视来说，算法歧视所带来的是一种更深层次的歧视和不平等，并引发了伦理问题。算法歧视是人类社会歧视在算法领域的转化，体现为归纳式的算法思维逻辑、算法黑箱与非中立性等算法技术设计所导致的算法歧视，更体现为算法运行中的决策性歧视，即由于“冗余编码”和“信息茧房”等数据动态交互所产生的算法歧视，以及因数据评估的导向性而引发的算法歧视。对此，应通过伦理审计与公平性约束、数据信息的区别保护与算法解释，以及建立算法的监管制度来实现对算法歧视的法律规制，同时还要在特定重大领域慎用算法决策系统，以此来塑造算法时代的法律秩序，确保数字社会中人类的安全和发展。

〔关键词〕算法歧视，数据信息，算法黑箱，冗余编码，算法解释

〔中图分类号〕D90-052 〔文献标识码〕A 〔文章编号〕1004-4175（2022）03-0122-07

〔收稿日期〕2022-03-31

〔作者简介〕石 颖（1994- ），女，陕西西安人，西北政法大学法治学院2019级博士生、中共陕西省委党校（陕西行政学院）法学与社会治理教研部讲师，主要研究方向为法学理论。

随着数字技术的快速发展，人们已经能够利用算法来帮助处理社会生活各领域的复杂问题，如利用算法决策系统作出信用评价、用人管理、政府治理、产品定价等。……