稀星

近几年，人工智能（AI）不断被玩出新花样，例如当起法官的AI，抢了福尔摩斯和医生饭碗的AI……AI已经渗透进人类生活的方方面面，以至于现在许多职业都担心将来被AI取代。

然而，祸兮福所倚，AI在给人们带来便利的同时，也可能引发灾难。美国麻省理工学院媒体实验室新开发出的“精神变态”AI诺曼，引出人工智能领域急需面对的难题——AI很可能会走上邪路。

精神变态的AI诺曼

诺曼是一个能够理解图片并用文字表达的智能算法，与阿尔弗雷德·希区柯克执导的恐怖电影《惊魂记》中男主人公诺曼·贝茨同名，也像这部电影的同名主人公一样，AI诺曼的“内心”是阴暗的。科学家让诺曼和其他AI一同参加罗夏墨迹测验（通过向被试者呈现标准化的由墨渍偶然形成的模样，并让其说出由此联想到的东西，进而分析被试者人格），诺曼给出了与其他AI完全不一样的答案。例如图1，其他AI联想到一群鸟儿坐在树枝上的美好画面，而诺曼却给出一名男子被电击致死的惊人答案；再如图2，别的AI看着像花瓶与花的特写，诺曼却联想到一名男子被枪杀的画面。测验的图片还有很多，但是诺曼无一例外都从中看到了血液、死亡和事物的毁灭。

“内心”阴暗的诺曼令人感到不安，有些人甚至对科学家为何创造这样的AI提出质疑。当然，创造诺曼的目的不是为了威吓人类，而是要让大家重视一件事，用于训练AI的数据会对其行为造成重大影响，变态的数据也就导致了精神变态的诺曼。