方少芹等

最近读谢熊猫君翻译的《为什么最近有很多名人，如比尔·盖茨、马斯克、霍金等，让人们警惕人工智能？》一文，心情非常复杂，一方面期待人工智能为生活带来更多的便利，另一方面又担忧人工智能可能带来的生存危机。

为何人工智能专家、未来学家、思想家、科学家们要提醒人们警惕人工智能呢？如文章开篇所言——我们正站在变革的边缘，而这次变革将和人类的出现一般意义重大。“变革的边缘”指的是人工智能实力可能出现的变化。人工智能按实力可分为三大类：弱人工智能、强人工智能和超人工智能。

目前，弱人工智能在生活中随处可见，强人工智能尚未实现，而引发众大家焦虑的是未来可能实现的超人工智能。当超人工智能出现时，人工智能系统的智能瞬间可达到普通人类的17万倍，这个级别的智能不是人类能够理解的，“就好像蜜蜂不会理解凯恩斯经济学一样”。那么，超人工智能可能在什么时候实现呢？全世界的人工智能专家推测2060年将可能达成超人工智能。对人工智能的未来最有发言权的Ray Kurzweil甚至提出：“到了2045年，我们不但会有超人工智能，还会有一个完全不同的世界——奇点时代。”

Kurzweil的奇点时代是生物技术、纳米技术和人工智能技术的共同革命造成的。当我们拥有了超级智能和超级智能所能创造的技术，超人工智能便可以解决人类世界的所有问题，从而帮助我们达到永生，当然也可能使我们出现生存危机。也就是说，当超人工智能降临时，掌握它的人将决定人类是永生还是灭绝。Kurzweil预言：“超人工智能正从多方的努力中出现，它将深深融入到我们文明的基建中。它会亲密地被捆绑在我们的身体和大脑中，反映我们的价值，因为它就是我们。”然而，霍金、比尔·盖茨、马斯克以及许多专家则担心超人工智能是对人类最大的威胁，因为超人工智能会改变所有的事情，而我们对那个领域无法操控。

读完这篇文章，我发现自己对强人工智能和超人工智能从最初的期盼变成深深的担忧。这些年无论是在信息技术教学上还是在信息技术课外活动的开展上，我都一直在尽自己小小的力量推动着人工智能在本地区中小学的普及。现在，我该怎么做呢？目前，我能想到的是和伙伴们一起把这篇文章介绍给学生，让他们及早了解人工智能潜在的危险以便在未来做出积极的反应。同时，我们要通过“生存危机”来引导有志于人工智能的学生树立制造友善的超人工智能的价值观，并在信息技术课上加大对学生计算思维培养的力度，从而让学生拥有行走在智能社会的基本思想方法和程序设计能力。

（本文摘编自方少芹老师博客）