张 慧

一、问题的提出

算法是Web、App等信息平台赖以进行自动化决策的技术基础，和数据结构共同组成计算机程序，并完成给定的计算处理任务。近年来，算法学习决策能力显著扩张，如基于多层神经网络大脑开发技术的Alphago首次战胜人类顶尖棋手，这也导致了购物、娱乐、金融、医疗等私人生活越来越多受到算法的控制和支配：在购物网站上优先呈现的商品、新闻页面上相似内容的重复推送、视频网站上“洞察人心”的广告……令人好奇的是，这些行为是如何发生的呢？隐藏在信息平台后面的“算法”究竟如何运行？算法对个人生活的“入侵”是否脱离了人们的掌控？算法的这种不可控制性，引发了国内外学者的一致担忧，如Frank Pasquale将算法世界称之为“黑箱社会”(1)[美]弗兰克·帕斯奎尔(Frank Pasquale)：《黑箱社会：控制金钱和信息的数据法则》，赵亚男译，北京：中信出版社，2009年。，Lilian Edwards & Michael Veale 将算法称为“看不见的手”，把受算法影响的人称为“算法的奴隶”(2)Edwards, Lilian, and Michael Veale, “Slave to the Algorithm: Why a Right to an Explanation Is Probably Not the Remedy You Are Looking for,” Duke Law & Technology Review, vol.16, no.1, 2017-2018, p.19.。

这些担忧的关切点在于，算法的不可控制性，将产生不透明、歧视、权力失衡、程序不正当、责任缺失、监管空白等系列问题。可以看出，该批判的研究维度尚处于“法律价值”层面的人文担忧，研究视角是将算法作为全球性、无差别的问题进行分析，还尚未涉及到某个国际或地区现行法律条文的具体理解和适用。

该研究范式确实有利于不同国家的情感和理性共鸣，但随着抖音、今日头条等在国外频频遭受“其推荐算法侵害隐私权”的技术质疑(3)中国日报网：《弃微软，挑甲骨文：TikTok 能避开美国封杀一劫吗？