文／本刊记者 陈 杰

人工智能技术一直是当前科技领域的热点，不论是从图像分析到自然语言理解，再到科学领域。得益于神经网络的“深度”变革，以大量数据和算法加持的算力去处理复杂的数据已成为日常，而这在过去是无法想象的，背后则是人工智能技术突飞猛进发展的必然结果。

在刷脸、自动驾驶、智慧家庭等各种人工智能应用场景纷纷落地日常生活的当下，从消费者的视角来看，人工智能已经让生活变得更美好了，但这一技术是否已经足够强大了呢？学术界的答案却恰恰相反——当前的人工智能技术在安全可靠方面其实完全不够看！

人工智能并没有那么可靠

在日前召开的首届“青年科学家50²论坛”上，清华大学教授朱军对正在高速发展的人工智能产界泼出一盆冷水：今天的人工智能远远算不上完美。首先是深度学习仍然面临着鲁棒性差的问题，比如很多手机都会配备人脸识别方案，但通过一副打印了特殊纹理图案的眼镜，就能轻松解锁很多手机；再说到安全需求更高的自动驾驶系统，黑客们只需要在标识牌上加上特定图案，就能让系统将限速标识识别为停止标识，导致致命事故的发生……

这些看似非常符合人们直觉或者是常见的问题，放到很智能的系统面前，却会出现错误的结果，背后的原因是什么？

“这里面一个关键的问题，是现在的人工智能技术‘不知道自己不知道’。”朱军表示，人类都能够遵循“知之为知之，不知为不知，是知也”的道理，但当前的人工智能主流技术，绝大部分都欠缺这种能力。