梁宪飞

一、算法歧视概念

算法歧视就是在人们在使用人工智能的过程中，在算法内部通过一系列的演算从而伤害公民的基本权利，违背社会公共伦理的一种规则或者是制定者本身设定的算法就是不公平的一种规则。算法歧视分为两种：第一种是涉及第三人的的算法歧视。这种规则本身就是一种不公平的歧视。比如百度上的搜索排名。这个排名本身是一种有偿服务，不涉及歧视。但是当这个规则涉及到第三人利益的时候，就会导致对第三人产生一种误导，导致第三人的利益产生了严重的伤害。比如之前在百度上出现的莆田系医院，从而导致魏则西的事件的发生。只是这种歧视，平台负不负责任就难以界定。如果平台要对此负责的话，那么对于网络空间的发展是很不利的。这是2019年5月17日刘艳红教授来安徽大学的关于网络犯罪的讲座给予我的启发。第二种就是不涉及第三人的算法歧视。算法本身就是针对使用者。因为算法规则本身不公平或者是由于算法收集的数据本身导致的歧视。算法歧视的特征主要有不透明性、不确定性、广泛性。

二、规制算法歧视的必要性

在王思聪的微博抽奖事件中，还有大数据杀熟的问题上，我们可以看到商家一种歧视。大数据杀熟是利用算法来达到一级价格歧视，但是王思聪微博事件体现的则是微博背后的算法规则商业气息越发浓厚。在抽奖这上面，用户大多是收入尚可，年纪较轻的年轻女性。……