陈飏 裴亚楠

摘 要：伴随算法决策在行政、司法和商业等领域的深度应用，隐私泄露、算法歧视与人类自主性受损已成为三大主要风险。为防范该类风险，首要的是须重申、确立并加强人的主体地位意识，以此反向定位算法决策的工具属性。在此前提条件下，亦应借力他山之石雕琢己玉，积极借镜以美国、欧盟和德国为代表的域外经验，研习其有关算法决策的制度构建与规则设计，尤其要关注法律制度、规则设计的针对性与专业性。当然，更需立足我国国情，切实把脉时代发展，在适时运用比例原则以加强算法决策风险评估机制的同时，科学合理界定责任主体，明确制定该类风险责任承担的相关法律法规，以最大化降低因法律模糊性而遭致数据主体的二度伤害。

关键词：算法决策;算法决策风险;风险评估;责任规定

中图分类号：D920.4

文献标识码：A

文章编号：1673-8268（2021）03-0072-10

一、问题的提出

大数据时代，以海量数据收集和机器自主学习为基础的算法决策技术日臻发展，正逐渐取代传统意义上的人为决策，广泛且深入地改变着我们的生活方式与社会发展。如在应聘与招聘、购物与旅游、租房与卖房等社会生活方式中，算法决策已成为诸等商业网站为达成利益目标而首选的智能技术。此外，算法决策也更多地运用于司法、行政等公权力领域，如刑事审判中，美国以算法决策技术构建再犯风险评估内容（COMPAS），并以此作为重要量刑依据[1]74，其部分州还采用公共安全评估（PSA）和服务级别目录修订版（LSI-R）等罪犯风险性评估软件[2]。……