吕之品

太拘泥于细节的AI

最近一段时间，AI（人工智能）被炒得神乎其神，似乎它无所不能。但事实上，据社交网站“脸谱”披露，要想欺骗AI把某个不存在的东西当作真实存在，比你想象的要容易得多。

譬如，在一張高清晰度的图片中，随机地降低某些地方的像素。这么一点微不足道的变化，人眼根本难以觉察，也不会影响我们的判断；但AI却能觉察出来其中的差异，并因此严重干扰了判断，比如说把图中的猫误认作了狗。

再比如，据说现在谷歌的语音识别AI功能已经非常强大，能一边听语音，一边笔录成文字。但一位AI工程师略施小计，就把它给耍弄了：他在语音文件中掺入少量数码噪声，这点噪声对于我们是不会有什么影响的，但让谷歌的AI去识别，结果却是笔录下来的文字已跟原意大不一样。

这些低级错误揭示出当前AI的一个重大缺陷：太拘泥于细节，“只见树木，不见森林”，让无谓的细节影响了对整体的判断。如果这个弱点被黑客利用，后果将不堪设想。他们将能够操纵无人驾驶汽车狂奔，无视红绿灯；或者让犯罪嫌疑人轻易躲过AI控制的监控摄像头。

AI的决策规则不易被人知

为了解决这个问题，这就需要我们先去了解AI是如何自我学习，如何做决策的，但这一直是个难题。因为AI在自我学习过程中，经过海量的数据训练之后，会自创一套决策规则，但它最后创立的规则到底是什么，这对于AI的设计者有时候都是一个谜。这一点其实跟人也是相似的。……