聂龙

AI检测一定公平吗？绝大多数人对这个问题的答案很可能是肯定。在2018年，美国社交媒体Facebook开发了新的代号为Rosetta的AI系统，用以检测自己社交平台上的仇恨性言论。然而，两年之后，美国南加州大学的研究人员发现，包括Facebook在内的所有AI语言检测系统实际上也带有偏见，黑人、同性恋和变性人所发的信息更容易被这些AI标记为“具有仇恨的”。例如，黑人的推特（美国另一个社交媒体，类似中国的微博）被AI标记为“带有种族歧视”的可能性是其他族裔的1.5倍，这个数值在其他研究当中甚至高达2.2倍。

AI并没有我们想象中那样的公平，这是怎么一回事？

“学坏”的AI

为什么AI也带有偏见？这是因为AI“学坏”了。AI是在某一种机器学习模型的基础上发展起来的，而所有的机器学习模型都需要大量的数据来进行训练和充实自己的数据库。如果把AI比作高楼，那么机器学习模型就是这座AI高楼的设计图纸，而那些数据就是建造这座AI高楼的砖瓦。

然而，机器学习模型所使用的数据来自于现实生活中的各大社交平台，这些社交平台当中的信息又都充满了偏见，有的社交平台甚至专为种族歧视者服务。因此，基于“偏见”砖瓦所垒砌的AI高楼，带有偏见也就不足为奇了。

另外，这些AI采用的还是“关键字”的检测方式，完全忽略了上下文和语境。就拿“nigger”这个英文单词来说，它的中文意思是“黑鬼”，是一个极具种族歧视色彩的单词，也是AI所检测的重点单词之一。但是，如果情况是黑人自己说了nigger这个词（无论对象是谁），那么这个词的意思却是“好兄弟”、“好朋友”或“死鬼”（死鬼：在黑人妇女称呼自己黑人丈夫的语境下），等等。……