吴椒军 郭婉儿

摘    要：算法作为人类利用机器抓取、处理并输出数据的手段，其所得结果受到编写者主观偏差，技术偏差等多种影响。因算法编写的高度专业性，用户无法知悉有关于自身信息数据被抓取，处理以及应用的细节，这样的不透明性显然对用户的权益与社会秩序造成影响，对我国的法律机制也带来极大挑战。针对算法的运行模式，剖析算法黑箱带来的个人信息数据侵权、算法偏见及司法救济三重危机。通过对欧盟《通用数据保护条例》与欧洲《人工智能伦理与数据保护宣言》对算法黑箱的治理条款，针对上述三重危机从技术角度、法律角度与伦理角度对算法黑箱进行法治化管理，以实现算法黑箱法治化治理层面的合法性与最佳性耦合。

关键词：算法黑箱;算法偏见;个人信息;人工智能;技术伦理

中图分类号：D 923.8             文献标志码：A               文章编号：2096-9783（2021）01-0019-10

引  言

2013年，美国康斯威星州法院以五项罪名指控一位名叫Eric的公民，在量刑阶段，州法院根据政府罪犯改造部门提供的量刑前调查报告，判决Eric 6年监禁5年监外管制。该判决依据由美国一技术开发公司研究的COMPAS算法，根据其各项个人数据和先前的调查，计算出被评估者再次犯罪的可能性。Eric不服判决，认为COMPAS算法的技术提供方亦无法确保该算法计算出的数据是否绝对准确。然而COMPAS算法技术提供方以算法逻辑是商业机密为由拒绝公开，最高法院也未曾要求其做出解释。

算法作为一种输入-处理-输出结果的方法，其运作依靠数据汇集和机器深度学习。……