人工智能“革命”的

“近忧”和“远虑”

新近一期的《哲学动态》刊载了赵汀阳的文章，认为人工智能在给人类带来巨大利益的同时也蕴含巨大风险。

赵汀阳说，二十一世纪以来，与人类未来命运最为密切相关的大事莫过于人工智能基因工程的惊人发展，这些技术将给人类带来存在论级别的巨变。

人工智能的发展涉及许多理论上的根本困惑，以至于难以判断。仅就单纯的技术应用而言，人工智能似乎能够普惠人类，并不违反平等原则，因此在伦理学上并无明显疑点；但就其革命性的存在论后果来看，人工智能有可能改变或重新定义“存在”概念，有可能在存在论层面上彻底改变生命、人类和世界的存在性质。

尽管有些预言家 （例如库兹韦尔）相信达到 “存在升级” 的人工智能 “奇点” 已经胜利在望，但更多的科学家认为 “奇点”仍然是比较遥远的事情。我们可以将能够形成 “存在升级”的人工智能看作属于 “远虑” 的知识论和存在论问题，而把将在近年内确定能够实现的人工智能看作属于 “近忧”的伦理学问题。作为 “近忧”，人工智能的技术应用非常可能面临以下伦理学问题。

其一， 自动智能驾驶悖论。假如人工智能的自动汽车在路上遇到突然违规的行人， 是保护乘车人还是行人？这似乎很难做到两全其美，于是形成了一个两难选择。自动智能驾驶悖论在伦理学上无 “解”。我们可以寄希望于将来会有一个完美的技术 “解”， 即自动智能汽车的技术能够达到同时保护行人和乘车人。……