江溯

内容摘要：卢米斯案引发了算法规制问题的广泛讨论。多数学者认为，该案判决低估了算法的准确性、歧视性和透明度风险，高估了法官识别算法风险的能力。为了应对普遍的算法风险，GDPR引入了算法可解释性规则，但在解释论构造、正当性、可行性和有效性等方面均存在争议。尽管学界对算法规制的具体进路看法不一，但在算法透明原则方面达成了共识。我国应当采取立法、司法与行业自律并行的算法规制策略。立法者应当制定场景化的算法透明和责任规则。在司法领域，要明确算法决策仅具有辅助性地位，不能替代人类法官进行判案，并设计出更为精细的算法透明制度。此外，还应当鼓励行业内部协商制定伦理标准和技术标准。

关键词：自动化决策 算法规制 正当程序 刑事司法 算法透明 算法正义

中国分类号：DF6  文献标识码：A  文章编号：1674-4039-（2020）03-0076-88

引  言

近年来，人工智能成为引爆第四次工业革命的重要力量。我国作为人工智能发展迅速的国家，在政策上一直鼓励相关产业的发展，并希望以此为各行各业赋能，推动产业结构优化升级。人工智能作为新生事物，在改变社会生活面貌的同时，也为各个行业带来了新的风险。当新兴的人工智能与古老的法律行业相遇时，一系列新问题随之而生。一方面，越来越多的法律人开始思考如何将人工智能带来的算法权力关进法治的笼子里。无论是对人工智能主体性的展望，还是对自动驾驶、机器创作、智能投顾等具体应用场景的分析，都体现了人工智能对现有法律的挑战。……