刘辉

影片《吾乃母亲》只有两位演员，却用一个接一个谎言、真相和剧情反转表达出清晰的观点：飞速发展的人工智能须用新法则加以约束。

影片开始于灯光闪烁的地堡中。人类灭绝，地堡中的胚胎开始孵化。一切都是预先设定好的，目的是为人类文明保留“火种”。此时，能够照顾婴儿的只剩下一个机器人。人类末日过去13867天后，机器母亲抚养的婴儿长成了少女。

有一天，从外面闯入一个中年女人。她告诉少女，外面的世界可以生存，最大的威胁不是恶劣的环境，而是机器人。

这是剧情第一次反转：在女人到来之前，机器母亲一直对少女说，地球经历浩劫，外面环境恶劣，绝对不可以出去。女人却说，外面还有很多幸存的人类。女人对机器母亲充满敌意，她声称机器人屠杀人类，甚至焚烧婴儿！她还说自己身上的枪伤是机器人所为。而机器母亲说，那枪伤不是机器人造成的。

少女亲自对比子弹之后，发现撒谎的是机器母亲。于是，少女与女人一起逃出地堡。

这时，剧情第二次反转：外面根本没有其他人类，地球文明已经毁灭！女人骗少女逃离地堡和她一起生活，是因为孤单和自私。于是，少女回到地堡，投入机器母亲的怀抱。但是，女人为什么能在末日浩劫中生存下来？她确实是被机器人打伤的，机器母亲为什么撒谎？

少女没有名字，只有编号——APX03。她无意中打开了地堡中的胚胎容器，发现了标有APX02的盒子，上面注明“测试失败”。紧接着，少女在焚烧爐中发现了人体残骸——机器母亲果然焚烧过人类，那就是“测试失败”的APX02。这终于解释了影片开头预留给观众的疑问：末日第一天胚胎就被孵化，但13867天（约38年）之后，少女才满18岁，显然她不是第一个被孵化的胚胎。在她之前，APX02因“测试失败”被烧死，而APX01就是之前闯入地堡的女人！

这是剧情第三次反转：机器人毁灭了人类，并着手培育新的人类。APX01是被“放生”的，这是机器母亲计划的一部分，它要让少女看清“旧世界”的人类的自私与丑陋。

机器母亲这一代人工智能设备，“计算出”人类终将灭亡，而它们不可以袖手旁观。于是它们屠杀了人类，然后再培育更好的人类。

至此，影片的主题被揭示出来：“吾乃母亲”并不是指机器母亲，而是指成为新人类母亲的少女。最后，少女抱着新生的孩子，像母亲一样唱着歌谣，似乎预示着新的开始。

影片戛然而止，给我们留下值得深思的问题：恶劣的环境和惨烈的战争都没有使人类灭绝，人工智能会不会成为末日浩劫的推手？

阿西莫夫在1950年提出著名的“机器人三原则”，它存在漏洞，只是人工智能逻辑法则的抛砖引玉之作。70年来，人工智能技术飞速发展的同时，相关立法工作却一直被忽视。

今年6月，阿里巴巴“罗汉堂”举行2019年度年会，诺贝尔经济学奖得主斯宾塞教授提出“数字经济十问”，其中之一是：人工智能该不该有道德观？

随着人工智能自我学习能力的不断提升和深化，可能出现临界点——获得独立的自我意识乃至情感，变成掌握无限能力的新统治者，从而将人类带向科幻电影反复描绘过的末日浩劫。因此，无论是外部规则约束还是内在逻辑规范，人工智能立法都迫在眉睫。

编辑：姚志刚 winter-yao@163.com