程 蕾

（华东政法大学 法律学院，上海 200000）

一、数字时代下算法歧视的表现

（一）数字时代下算法歧视的产生

人工智能在当前的技术革命中发挥着重要驱动作用，一系列新生事物与行业随之产生。随着人工智能与大数据的深度结合，我们的生活发生着翻天覆地的变化。此次的技术革命相比于之前的工业革命，其适用领域更广，影响程度更深，全新的数字生活时代正在被重构，新的生活理念与生活方式正在形成。在2017年我国发布的《新一代人工智能发展规划》中，明确提出确保人工智能的深度发展，制定与人工智能发展相匹配的法律法规等内容。

算法是人工智能的三要素之一，也是对人工智能发展至关重要的因素，数字时代的到来，让算法在人工智能中的应用不断增多，使得我们每个人都处于算法带来的便捷之中，也使得人们的隐私信息处于算法的漩涡之中。比如，公司在招聘时以算法筛选简历；外卖平台通过算法推测顾客的喜好进行精准推荐；银行通过算法决定是否通过借贷人的信贷审核；法院和检察院可以通过算法辅助生成法律适用方案等。算法在商业与公共治理场景下被广泛使用，在带来便捷与准确的同时，也会给个人甚至社会带来不利影响，增加侵犯人们权利的风险。

在人工智能算法带来的诸多挑战中，“非歧视”是高度关注的风险话题之一。算法决策是大规模使用相关数据做出决策，通常认为，流程式的算法决策相比于人工决策会更加客观公正。……