周先伟

（东华理工大学，江西南昌，330000）

一、算法歧视现状

（一）事例导入

1.2016年，刘某在某机场通过网约车平台预约“普通型车辆”，实际来的却是七座商务车。尽管网约车平台特殊时期实行“调换车型，费用不变”举措，但实际却按商务车型收费。

2.廖某因出差需要经常预订国内某知名酒店。廖某用自己和朋友的账户在相同条件下查询的房价居然相差50元。酒店平台回复称可能是手机后台缓存的问题。

3.2014年，亚马逊公司上线了一款名为“算法筛选系统”的程序，设计人员发现该算法程序识别出“女性”或“女生”相关词汇的时候，会给该份简历相对较低的分数。

（二）问题归纳

上述事例共同点体现为当事人受到算法不平等的对待。事例1中，网约车针对同一客户给出不同价格，尽管网约车平台给出“服务升级，费用不变”的解释，但实际仍按升级后的车型计费；事例2中，不同用户查询的客房价格不同，按常理，回头客都会有相应的优惠待遇，然而廖某不仅没有享受到优惠反而因为“特殊身份”收到了更高价格待遇[1]；事例3中，“算法筛选系统”在无形之中对女性产生歧视。分析可知，造成该结果的原因在于程序设计员输入的原始数据存在片面性，缺少足够数量的女性求职者简历。

三事例显然违背了企业经营应遵循的公平诚信原则，同时也违背了正当程序要求。举例言之，当下线上购物狂潮火热，愈来愈多人选择线上购物，消费者在特定网站平台购物，网站显示的商品价格比同一平台其他用户查询的价格高，此种行为即违背正当程序的要求；……