刘 蓓 马 昊

（长春工业大学,吉林 长春 130000）

随着互联网技术的发展，越来越多与个人权利、社会福利和国家安全相关的决策权，在一定程度上让渡给算法平台的自动化决策算法。然而，算法天然的黑箱性导致算法决策的不透明，人工智能和深度学习技术的发展使得算法逐渐超出辅助工具的范畴，同时又加深了算法决策的不透明性，这就使得算法平台和算法相对方的“数字鸿沟”逐渐加大。当前为了缩小“数字鸿沟”、避免算法权力的异化，立法者和学术研究者提出了诸多方案。例如，对算法平台设置一定程度的披露义务，以提高算法透明度；设置专门的监管机构、配置个人权利；等等。在赛博空间个人权利的配置主要包括两个方面：一是对数据权利的保护，二是对算法权利的赋予和保障。其中，如何通过法律的手段进行有效赋权和规制就成为当前的重要课题。

1 算法知情权、算法解释权的内涵和关系

算法权利与个人信息权关系密切，算法通过对个人信息的收集和处理，做出会对个人产生实际影响的决策，个人当然享有对该种算法和其所做出决策的某些权利，如知情权、理解权、自决权等。另外，无论是公权力机关还是商业平台做出的对个人权利造成影响的决策，都理应符合程序正当原则，该原则既体现在法律规范之中，也体现在商业平台制定的规则之中，这意味着算法权力的行使应当满足程序正当的要求[1]。另外，算法虽不能和人工一样充分考虑个人个性化的需求，但其决策也需要满足“平等、自由、正义”的价值主张。因此，算法权利是规范与个人权利和人格利益密切相关的算法，保障个人权利和人格利益不受算法侵犯的权利。其中最具代表性的就是算法知情权和算法解释权，两者之间也有千丝万缕的联系。

1.1 算法知情权的内涵

1.1.1 算法知情权的法律依据

总体上讲，当前算法知情权的规制体系由个人信息处理者的告知义务和个人信息主体的访问权构成[2]。欧盟《通用数据保护条例》（General Data Protection Regulation,GDPR）和我国的《中华人民共和国个人信息保护法》（以下简称《个人信息保护法》）都规定了个人对算法享有知情权，但两者的规定有所区别。GDPR第14条规定，数据控制者在收集与数据主体相关的个人数据时，应当告知数据主体，包括数据控制者的身份与详细联系方式、数据保护官的详细联系方式、数据处理将涉及的个人数据的使用目的，以及处理个人数据的法律依据等。我国《个人信息保护法》规定了处理个人信息前算法提供者的告知义务，也对算法实际结果的知情权做了规定，即“通过自动化决策方式向个人进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式。通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定”。虽然未明确个人对算法的访问权，但是允许个人对结果提出质疑，也暗示了个人有权对算法结果知情的内涵。

1.1.2 算法知情权的价值

算法知情权虽然在算法运行的各个阶段的具体内容有所不同，但是贯穿于算法运行的全过程。

算法知情权的访问权内容要求相对人积极主动行使访问权，表面上看，这是积极性权利，但其目的依然是防止受到不合理侵害或者在自身权益受到侵害时寻求救济。因此，从本质上讲，它仍是一种具有防御属性的权利。

1.2 算法解释权的内涵

1.2.1 算法解释权的提出

算法相对人作为算法相对弱势方，有权充分理解算法决策的内容和依据，以便在对该项算法决策充分知情的情况下自主决定是否同意该项决策以及对该项决策提出质疑[3]。因此，旨在使算法相对人充分理解算法，保障相对人程序性权利的算法解释权便应运而生。

1.2.2 算法解释权的法律内涵

第一，算法解释权是一种请求权。算法解释权的权利主体是算法相对人，即“符合条件”的算法被决策者，请求对象是保险机构、信贷机构、投顾机构等引入智能化算法作为新型业务手段的传统企业和具有交易、社交、娱乐、资讯、融资、计算等功能的专门的互联网平台，可统一称为“算法平台”或“算法部署者”，请求权的客体即算法平台的算法解释行为。算法平台应当按照权利主体的要求和法律规定或合同约定履行解释义务。

第二，通常来说，算法解释权的启动时机为做出算法决策之后，即当且仅当算法相对人认为某项算法决策会对自身产生重大影响时，相对人才有权提出此项请求。这里的“重大影响”被认定为“构成法律或其他类似重大影响”。

第三，作为算法解释权的客体，算法解释行为应当是明确且有效的。这就要求算法解释的内容和形式都要明确且有效。一般来说，算法解释的内容以做出具体算法决策的相关系统功能为出发点，也应当包括该系统所使用的个人信息等输入信息、做出决策的各种指标的功能权重，以及相对人进一步救济的权利等；其形式上，要具有可理解性，即要有被或许未受过算法教育的个人理解的可能[4]。

此外，由于算法适用领域不同、对个人影响不同，也应当允许算法平台对算法决策有不同程度、不同层次的个案解释。

1.3 算法知情权和算法解释权的关系

就算法知情权和算法解释权的关系而言，有人认为算法解释权是基于算法知情权所推定出来的权利，是算法知情权的具象化，也有人认为算法知情权实则是一种弱化版本的算法解释权理论[5]。可见，在相关研究者看来，算法解释权和算法知情权存在着明确的位阶关系，两者有千丝万缕的联系。

当算法决策会对相对人产生不利影响或者有产生不利影响的可能时，相对人才有权请求算法平台对算法进行解释，因此，就权利属性而言，算法解释权本质上和算法知情权相同，都是一种防御性的权利。

算法知情权和算法解释权都包含一定程度的算法解释内容。有学者根据GDPR对个人数据权利的规定构建出算法知情权体系，认为算法知情权涵盖一定程度的算法解释内容，也有学者根据GDPR的规定构建出算法解释权体系，但是算法解释权所蕴含的算法解释明显超出了法条的字面含义，从而导致两种权利之间的差别。

首先是两者权利目的不同，算法知情权的目的是在相对人对算法有初步的认识之后获取其对算法的信任，算法解释权的目的则是实现“实质性的程序正当”。其次，目的不同导致两者告知的内容也有所不同，GDPR仅要求对基本逻辑和预期结果进行告知，即仅要求对算法进行外部解释，而算法解释权要求的告知内容更加复杂，甚至要求一定程度上打开“算法黑箱”。最后，两者行权的时机不同，算法知情权作为一种知情权，仅需满足最低程度的知情需求，因此该项权利贯穿算法运行始终，但是算法解释权是由算法决策引起的解释请求权，即事后解释，其权利只能在事后行使。即便是提出事前解释的学者，也认为事前解释并不能要求解释义务达到事后解释的程度[6]。

2 算法解释权的质疑

作为新型的算法权利，算法解释权并未作为一项具有普适性的权利被各国立法接受，也并未被学界普遍认可。GDPR虽为算法权利之滥觞，但有学者梳理其正文的相关条文，发现通篇并未提及算法解释权，据此认为欧盟的GDPR并未创设算法解释权[7]。也有学者认为GDPR的序言虽没有法律效力，但结合其和正文中明确提出的反自动化决策权的相关规定，可以归纳出算法解释权的基本内涵。两者各执一词。另外，有学者认为我国《个人信息保护法》规定了算法解释权，但其内涵也和学界普遍认为的“算法解释权”相去甚远。到底是何种质疑，导致算法解释权迟迟不能落地？

2.1 算法解释权必要性质疑

诸多赞同此权利的学者认为算法解释权的设置能保障个人的合法权益，能保障“实质性”的程序正义。然而有关算法的程序正义，却并非一定要通过设立解释权来实现。

2.1.1 算法解释权的必要性不足

算法解释权的必要性被质疑的首要原因就是解释本身的必要性不足[8]。我国相关法律对算法平台的主体责任进行了明确规定，算法平台侵犯个人利益，并不能因为其使用算法就能免责，遑论拿算法缺陷当“挡箭牌”。算法可能会影响个人权利是算法解释权的前提，但是算法对个人实体权利的影响是显而易见的，个人完全可以通过更有效的救济手段维护自己的权利。在商业领域，如“外卖配送算法”增加外卖员的劳动强度，外卖员可以向社会保障部门投诉解决，而算法解释权的提出掩盖了劳动权利保障的缺位。即便是引发学界普遍担忧的“信息茧房”，也很难被认为是算法对个人利益造成的负面影响，有通过请求对算法进行解释以维护个人权利的必要性。我国《互联网信息服务算法推荐管理规定》规定了算法推荐服务提供者的说明义务，但很难认为其重点在于对算法本身的穿透性解释。在公共领域，司法和行政权力的运行都内含程序正当原则，公众更关心行政或司法决策本身的正当性，与其说公众需要对公法领域自动化决策算法行使解释请求权以保障其合法权益，不如说公众会对公权力机关使用算法进行自动化决策本身的程序正当性提出质疑。

虽然某些算法决策由于“算法黑箱”的不透明性导致公众对其产生的合理性提出质疑，影响相对人的个人利益，只需明确算法平台和算法决策行为即可确定主体责任，但是算法本身并没有解释的必要性。

2.1.2 权利赋予和行权的矛盾

算法解释权的权利普遍性和行权难度之间存在矛盾。首先，学界普遍认为，自动化决策算法解释权的启动不以算法结果错误为前提，用户仅需举证算法结果与自身的关联关系，即算法结果对自身有法律效力或重大影响，就可行使算法解释请求权。这就意味着算法解释权具有普遍性的特点。但是，有学者认为应当由算法主体对算法解释请求先行审查，以确定其主体是否适格、请求内容是否合法有效等，这就导致算法解释权的行权成本大幅增加。其次，互联网深入发展导致“对个人有法律效力或重大影响”的算法渗透到个人生活的方方面面，个人若充分按照学界对该项权利的期望行使此项权利，无疑会导致大量“数据噪声”的出现。此外，鉴于算法权利与个人信息权利的密切关系，有观点认为该项权利并不属于非自然人，但是，从算法解释权的内涵来看，非自然人主体应用算法也应当享有请求解释算法的权利。

2.1.3 权利期望和结果的矛盾

算法解释权提出的期望是在算法权利不对等、算法决策不透明的情况下降低相对人问责难度，及时为相对人提供救济，甚至解决算法嵌入各领域中产生的“算法歧视”问题，以维护社会公平[9]。不可否认，通过请求算法平台对算法进行解释，算法相对人能够更深刻地理解算法如何做出决策，但是这对于事后救济似乎可有可无，因为即便不请求对算法进行解释，相对人也有权要求算法平台对算法决策侵犯个人利益的事实负责[10]。

相较于对算法系统功能进行解释，输出结果符合一般人的预期更能获取公众信任。算法相对人正是由于算法结果不符合其预期，才需要算法平台对算法本身进行解释。例如，2016年7月，美国威斯康星州终审判决的威斯康星州诉卢米斯案（State v.Loomis），该案被告人认为，法官依靠自动化决策结果对其量刑的行为，侵害了其正当程序权利。虽然终审法院经过审理后驳回了他的上诉理由，但学界对该判决结论的反对声音不绝于耳。卢米斯案及其相关论争反映了算法风险与程序正义的复杂问题。可以说，直接满足个人对算法决策结果的救济权，比通过算法解释权间接获取救济权更能维护个人正当权利。

2.2 算法解释权可行性质疑

2.2.1 算法解释权内容不能明确统一

目前，对于算法解释权的具体内容，学界仍未达成共识，或者说，几乎不可能达成共识。即便是算法解释权的支持论者，也认为算法解释权的行权需要结合算法的应用目的、对个人权利的影响程度等内容区分算法的应用场景。那么，考虑到相对人对算法的理解程度和算法素养存在区别，作为回应相对人请求的算法解释应当是格式性的还是特定性的呢？如果是格式性的，那么对不特定人的算法解释和算法披露有什么区别？或者说，将算法披露归纳到事前解释的范畴？如果是个性化的，由于相对人对算法的理解能力存在差别，如何才能实现“有意义的算法透明”，满足所有对算法结果提出质疑的相对人的解释请求呢？

2.2.2 算法解释权和其他利益的冲突

当前无论是支持算法解释权的群体，还是反对算法解释权的群体，都不能回避一个问题：算法相对人与算法平台之间的利益冲突。算法平台由于其权利属性不同，引起的利益冲突也有所不同。商业算法平台的算法作为商业秘密、知识产权受到法律保护，对算法进行解释势必要求商业算法平台对其合法权益做出一定程度的让步，会引发商业秘密泄露和知识产权被侵犯的风险，此外还存在泄露其所收集个人信息的风险。公权力算法平台作为算法应用方，应当保障程序正当性和公民合法的知情权，也就是说公权力机关应用算法的程序正当位阶高于商业秘密，但是公权力机关因算法解释权导致国家秘密、公民隐私泄露风险也是得不偿失。除此之外，公权力机关应用算法的目的是提高工作效率，但是公众对算法决策的结果质疑使得他们不得不增加工作量解释算法决策，在提高工作效率的同时又增加了成本。

被普遍赋予的算法解释权的必要性和可行性不足，难以对算法权力的规制有实质作用，对算法霸权下的个人权利救济力度也未可知。算法解释权可能会流于形式，成为“僵尸权利”，甚至会引发新的问题，产生新的风险。

3 算法知情权和算法解释权的双轨制

当前对算法解释权的研究显示，表面上其看似是规制算法权力、保护个人利益的理想手段，但实际上存在层层阻碍，并不能提供有效的帮助。然而，这并不意味着算法解释权的内涵毫无可取之处。算法知情权和算法解释权本身存在很强的关联性，甚至有学者认为算法知情权即为算法解释权的弱化版本。算法解释权本身也存在很大的灵活性，以至于似乎和算法知情权有所交叉。笔者认为，两者并非你中有我我中有你的关系，而是可以作为两个独立的权利并行不悖。

3.1 算法解释的不同内涵

算法知情权和算法解释权都要求算法平台履行一定程度的算法解释义务，但是两者对解释程度的要求不同。同时，算法解释又不仅局限于算法权利。

算法知情权仅要求最低程度的算法解释，甚至不要求个案解释，如GDPR所规定的算法主体对算法“基本逻辑和预期后果”的解释，我国《互联网信息服务算法推荐管理规定》仅规定算法主体应当对算法推荐服务的基本原理、目的意图和主要运行机制等内容进行公示性、一般化的告知。

然而，根据当前对算法解释权研究的观点，算法解释权中的算法解释主要包括以下几个方面：一是算法所需信息及其类别、权重、相关性解释；二是对做出决策的算法系统的解释，如系统逻辑功能、决策与信息相关性、权重等；三是对算法决策进行救济的内容，如是否有拒绝算法决策的权利以及拒绝之后的权利等。

最高程度的算法解释层次是要求算法解释的权力导致的算法解释，该项权力并不属于个人权利范畴，而属职权等“权力”。其应用场景多体现在与算法有关案件法官依职权对算法的查明、监管机构对算法主体应用算法的调查，此处不再赘述。

可见，从层次上可以区分算法知情权和算法解释权要求的算法解释程度。

3.2 以算法主体区分算法知情权和算法解释权

由本文第2部分可得出结论，算法解释权难以成为全体算法相对人的权利。那么，由当前对算法侵权理论研究中三方主体之间的关系（见图1），是否可以划定算法知情权和算法解释权的范围？

图1 算法侵权理论研究中三方主体之间的关系

首先，算法相对人的算法知情权。当算法开发者和算法平台不为同一主体时，算法相对人不直接对算法开发者享有权利，算法相对人对算法平台享有的权利应认定为算法知情权，仅需明确算法主体身份和其使用算法的侵权行为即可明确侵权关系，也保证了一定程度的程序性权利。

其次，算法平台的算法解释权。对算法平台而言，其有要求算法开发者进行充分的算法解释的权利，但当前由于知识产权和商业秘密的掣肘，算法平台并未能完全享有此项权利。此处的算法解释应属于两个平等主体之间依据算法开发承揽合同产生的算法解释权内容，而非依公权力产生的算法解释义务。值得注意的是，此时请求解释算法的权利就不再属于全体“认为算法造成不利影响的个体”，而属于在算法开发者和使用者并非同一法人主体情况下的算法平台。

依据算法主体划定算法权利，可以解决当前对算法解释权的诸多质疑。以本文第2部分为例，算法解释权是明确算法开发者和使用者责任的重要权利，算法开发者切实履行算法解释义务，并对解释日志进行留存，算法平台明确算法的功能属性，能够在算法导致侵权时明确双方责任，确定双方应当承担的责任类型，从而解决算法解释权的必要性问题。算法解释权的权利义务并不针对不特定主体，而是明确的算法开发承揽合同双方，充分的算法解释，甚至可以引入第三方评价，是算法平台通过验收的必要条件，不会导致算法开发者不合理的解释负担，不会引起算法权利的越界导致知识产权和商业秘密的泄露，从而解决算法解释权的可行性问题。

4 结论

由于知识产权和商业秘密的约束，算法自身存在黑箱特征，正是黑箱特征导致算法平台有利用算法侵犯公民合法权利、损害公民合法利益、危害社会利益的风险。然而，这并不意味着算法相对人需要相当深度的算法权利以弥合“算法鸿沟”“数字鸿沟”。权利的出发点是好的，但是不合理的负担可能会导致结果与预期南辕北辙。赋予公民广泛的算法知情权和特定主体的算法解释权，应在保障个人权利的同时，保证算法平台不会产生不合理的负担，让他们有更多的精力投入科技创新，更有利于社会公共价值的实现。