APP下载

算法自动化决策的法律纠错机制研究

2021-07-06姚玲

卫星电视与宽带多媒体 2021年7期

【摘要】科技革命推动人类社会进入到以算法为中心的智能社会法律秩序,自动化决策在便利司法实践的同时也带来了巨大的风险与挑战。“COMPAS预测罪犯再犯概率错误”、“GAAP加大数据鸿沟”等问题都凸显了算法决策的不足。技术的进步与法治的发展呈现出不协调性,自动化决策纠错的法律规制研究顺理成章。

【关键词】算法解释权;决策影响评估机制;更正权

中图分类号:G212                文献标识码:A                     DOI:10.12246/j.issn.1673-0348.2021.07.091

1. 算法自动化决策概念

算法自动化决策是与自然人决策相对立的概念,意指利用计算机技术、算法程序、深度学习或神经网络替代自然人处理关键数据,凭借其自动生成对数据主体具有法律效果的决策的行为。《中华人民共和国个人信息保护法(草案)》将自动化决策定义为利用个人信息对个人的行为习惯、兴趣爱好或者经济、健康、信用状况等,通过计算机程序自动分析、评估并进行决策的活动。

在《通用数据保护条例》中自动化决策又称为自主化的个人决策,其产生的合法性有三个途径,一是基于数据主体明确同意后的自动化处理;二是基于数据主体和另外一个数据控制者合同履行的必要;三是在控制者为数据主体,以及确立保护数据主体权利、自由和正当化利益的适当措施是联盟或成员国法律所规定时候。

自动化决策根据数据模型对数据主体作出反应或预测。因此,自动化决策分为预测型算法自动化决策和反应型算法自动化决策,反应型算法自动化决策的基本模型为收集数据——匹配条件——作出决策;预测性算法自动化决策是指根据以往的数据资料,预先对数据主体作出判断,最常见的预测性算法自动化决策是根据某人征信记录来限制高消费。……

登录APP查看全文