黄磊

《人物》杂志的一篇报道《外卖骑手，困在系统里》引起热议，成为现象级稿件。外卖骑手在算法困境中不断奔波在生死时速的边缘让人感慨、令人同情。在文章成为现象级稿件的背后，还有着人们在信息时代下由人及己、由此及彼的焦虑。当算法偏离法理和伦理，这种失控狂奔将会把我们带入何种境地，每一个个体是否都将陷于不同的算法困境中？

违法与超时的两难困境

“快”是快餐行业的第一个字，是消费者的核心诉求之一。从外卖平台的角度而言，更快周转增加成交量也是保证利润高歌猛进的关键环节。并且，从外卖行业竞争来说，“快鱼吃慢鱼”更强化了这种角力。故此，“比快”不仅是营销宣传点，也是盈利关键点和平台角力点。

数字经济的到来，尤其是大数据处理、AI算法系统的运用为推动路径优化、实现时间压缩提供了可能。正如《外卖骑手，困在系统里》一文中所叙述的，系统在接连不断地吞掉时间，3公里送餐距离的最长时限从2016年的1小时到2018年的38分钟，这种缩短就恰如极品飞车类游戏一般，不断在取最高值中无限逼近理论值。

但這种极致算法并没有考虑现实的法律限制，和法律法规发生冲突不可避免。2019年4月15日起正式实施的《电动自行车安全技术规范》中新国标要求最高时速不超过25公里/小时，而现实中大多数骑手的速度都是逼近电动车的最高时速，即40公里/小时左右。即便在规范出台后，限速装置也经常被拆卸、改装。

倘若说国标作为生产标准对骑手并无强制力，那闯红灯、逆行、违规并道乃至碰撞他人导致交通意外，无疑违反交通法规。上海公安交警部门官方微信之前发布数据，2020年以来，上海公安机关共查处快递、外卖骑手各类交通违法行为4.3万余起。在深圳，仅2020年8月，全市就查处快递、外卖送餐行业交通违法1.2万起，占非机动车违法案例总数的10%以上。

相对违法的恐惧，骑手们更在意的是超时的惩罚。在系统算法中，“按单计价”“翻倍超时罚款”“准时率与接单优先权绑定”“等级与奖励收入绑定”等，形成了一个密不透风的运算体系，超时意味着收入锐减甚至无单可接。但不超时则往往意味着要违法，况且现实生活终究不是电脑游戏，堵车、红绿灯、雨雪天气、信号不好等因素都可能导致超时发生。骑手们唯一能做的，就是把油门加到最大并忽视交通规则。

“违法还是超时？”对骑手来说是两难的选择题，题目背后隐藏着生计问题，违章大数据已告诉我们答案。但对社会治理来说，这个问题更像是一个论述题，背后隐藏的是价值位阶问题。生命健康权无疑具有最高价值，在此基础上才有进一步探讨自由、正义、秩序以及效率的空间。正因如此，只有正确认识算法责任中蕴含的价值原理，充分考虑社会实践中的价值取向，才能形成正向的算法文化，推动社会有序前行。

然而，算法的“强大”、利润的迷惑以及法理规制的缺失，让骑手们失控狂奔，本应具有积极性、主动性、创造性的人类，只被视为一组可以持续优化的模块。我们毫不怀疑智能时代算法具有的价值，但我们同样质疑，当平台决策者将人的因素物质化、模块化之后，同样被吞噬的还有应有的理性以及更可贵的人文关怀。

并未默认的“默认为”

据北京日报消息，北京市民周女士的微信账户突然被扣了52元，查来查去，她发现OFO季卡竟然还在自动续费，且其无法在客户端取消自动扣费的功能，本想向OFO投诉，但联系电话已成空号，而向第三方扣费平台投诉却未得到答复。同时，还有律师称只要用户默认应用扣款、自动续费条款，应用即可发起代扣，只要经营主体存在，其对公账号仍旧正常使用，便可发起自动扣款。

“你默认你活该，我扣钱我合理”显然不能被民众接受，“非但不还钱，反而变本加厉扣钱”被骂上热搜。上一次OFO上热搜还是2018年底，当时现场退押金排队人数接近千万。

算法的“强大”让骑手们失控狂奔（图/视觉中国）

早已销声匿迹的小黄车，让所谓的“季卡”变得名不副实，无法消费的扣费无异于欺诈。从合同义务来说，OFO早已违约在先并无履行能力，在这种情况下部分律师以合同未解除为由认定自动续费有效显然站不住脚，况且系统还变相剥夺了消费者取消自动扣费的权利。“无救济则无权利”，当取消自动扣费和投诉都难以救济时，相关企业就不仅仅是违约，甚至还有侵犯消费者选择权、救济权之嫌。

存在同样问题的不仅仅有OFO。主体业务不再经营、应用不再更新，但会员年费、季卡仍在自动续费的，还有其他App。这种被称为“懒人功能”的代扣业务做法其实被多种视频、音频应用软件及小程序使用，只需要消费者一次绑定并予确认，默认续费的代扣就自动履行。虽然很多程序并不像OFO般无法关闭，但结果往往都是以消费者遗忘关闭而导致扣费，最终承担风险的还是消费者本人，毕竟，“消费或者不消费，扣款就在那里”。

利用人们思维路径依赖和消费习惯，进行暗中挖坑的算法还有“大数据杀熟”。央视二套财经频道曾点名在线旅游平台的“大数据杀熟”现象，提到相关平台针对不同消费特征的旅游者对同一产品或服务在相同条件下设置差异化的价格。从技术角度来说，“大数据杀熟”属于定价算法，即销售方通过大量数据的分析，掌握消费者消费习惯和心理承受的价格区间后，以可接受的最高价格将消费者压榨殆尽，最直观的感受即“不同人不同价”“不同手机不同价”现象。

种种方式就像不少应用中勾选、推定默认的小伎俩，以及动辄几页、十几页且是蝇头小字的各种须知一般，表面上系统已经履行了“告知义务”，并且将选择权交给了消费者，实际上消费者除了打勾或者选择不使用外，并没有谈判和议价的权利。所谓的“默认”大多数情况下既没有认知，也没有认可。

通过算法极尽可能地追逐利益最大化并非个例。更不得不防的是，类似于定价算法的应用可能使得商家之间达成默契垄断协议，构成“算法共谋”，在一次次的免密支付、无感支付、快捷支付中，侵害消费者权益，扰乱市场秩序。

解铃与系铃的博弈

触动利益往往比触及灵魂还难。面对骑手困境，某平台所给的答案是让消费者选择“是否愿意多等5分钟”，看似充满人文关怀的答案背后，实则是将自己应当合理优化算法的义务，转化为对消费者的道德绑架。

相对来说，管理部门就更加有力。2020年10月1日起施行的《在线旅游经营服务管理暂行规定》就针对“大数据杀熟”作出规定：“在线旅游经营者不得滥用大数据分析等技术手段，基于旅游者消费记录、旅游偏好等设置不公平的交易条件，侵犯旅游者合法权益。”

诚然，相关规定具有推广借鉴价值，但当前的权利救济框架显然难以应对算法时代带来的巨大挑战。其前沿的技术性和应用的广泛性特点使得算法侵权更为轻易也更为普遍，方式方法更加多样且更为隐蔽，法律性质更加复杂更难断定，所产生的损害结果影响范围更大、持续时间更久，相应的救济也变得更加困难。

比如就骑手与平台的关系，天津市中院对一起劳动争议作出判決，认定骑手与电商之间不存在劳动关系，认定理由是双方签有《合作协议》，并不具备劳动合同的人身依附性;而西安中院对类似的劳动争议作出判决，则认定骑手与电商之间存在劳动关系，理由是骑手提供劳动并接受管理，送餐工作属于经营范围。不同的判决显然不利于民事主体权益的维护，况且这还是骑手与平台双方的直接关系，如果加上消费者以及餐馆等多个主体，民事关系难免会更加错综复杂。

且从算法本身来讲，它有别于静态的、格式化条款或者规则，在丰富的数据资源和人工智能不断发展的现状下，算法会不断演化进化，甚至变成算法开发者或使用者都无法解释的自主化算法，这使算法由原本的“执行者”变成“决策者”，不仅使政府监管、市场监管变得更难，同时也对传统的法学理论抛出了难题。

算法透明是监管的前提，但囿于两方面原因让算法透明变得异常困难。一是部分公司企业将算法列为商业机密，以知识产权的方式让算法系统难以窥探;二是在技术门槛方面，相关监管部门没有足够的技术支持。但可以肯定的是，基于这种算法自动化决策的不透明性和应用的大规模化，侵权风险会加大，所带来的损害也会大大增加。

算法系统所带来问题的背后，与其说是程序研发的技术问题，更不如说是价值观问题，技术、程序可以说没有立场，但算法背后的研发者、管理者却不能没有社会责任感。从责任体系来说，企业负有对算法的设计、应用的全程监管、控制及修正义务，同时基于算法系统直接或间接关系到广大民众的生命、财产、健康问题，故相关公司需要承担与违法行为、违法结果相匹配的“严格责任”，在归责上应当采取无过错责任。

但“解铃还须系铃人”，在专业化的巨大鸿沟下，对算法治理的落脚点和最终依托还需要回归到企业，回到以算法规则进行制衡。从社会治理角度而言，企业自律是基石，需要通过行业规范等方式修正“唯利益化”的算法价值观，融入企业社会责任、国家的法律法规。在此基础上，媒体、监管部门、法律的外部监督与约束也不可或缺，需要同步建立起满足事后救济、事前预防两大传统功能的责任体系。

当前，我国虽尚未出台专门法律法规，但全面将算法规则纳入监管领域，并针对算法技术性特点进行法律规制已是大势所趋，随着立法水平的提升和司法实践的丰富，相信相关立法也能够逐渐完善，进而在法律框架内实现对算法的良好驾驭，形成社会、企业及个人的多赢局面。