胡安·格雷罗++刘梦

科技的进步，让未来自动武器的自主选择和攻击目标成为可能。而这种致命性自动武器系统（LAWS）也被称作“杀手机器人”，它们可能是安装了武器系统的飞行器，也可能是安装了武器平台的微型坦克，总之，它们可以自行决定让谁去死。

将这些杀手机器人投入战场，可以在很大程度上减轻人类士兵的危险和负担。不过，也有很多人工智能专家担心这些机器人会带来更多的危险和安全隐患，比如它们可能会被不道德行为所利用，甚至沦为黑客的操控平台。尽管如此，近年来全球各国还是纷纷投入到了自动化武器的研发中去。

那么，“终结者”时代真的即将来临了吗？

机器人哨兵

夜幕降临，在朝鲜和韩国“三八线”附近执勤的哨兵也开始感到疲倦，而韩国布置在此的持枪机器人却依然警惕地监视着方圆几公里内的情况，它配有高度灵敏的热感传感器和红外夜视摄像头，一旦发现非法入侵者，会马上向韩国指挥中心“汇报”，在收到开火命令后，将用其携带的大宇K3机关枪或枪榴弹发射器射击目标。

这款机器人是2006年由韩国三星公司开发的型号为SGR-A1的机器人哨兵，单个造价为20万美元，主要作用是替代传统的哨兵来防范军事区域或国境线的非法入侵者。尽管这个机器人目前还没有自主决策能力，只能在操控人员的监控下执行守卫任务，但其实它已经装备有识别敌我的算法，可以通过语音要求目标回复口令来区分敌我人员身份，未来在需要的情况下，它也可以自动侦测、判断目标并完成自主射击。

军事机器人的发展

SGR-A1并不是唯一被用于军事的机器人，2011年一家白俄罗斯企业就设计出了一款名为Adunok-M的无人驾驶遥控武器平台。这款机器人拥有履带系统，就像一辆小型的装甲车，它还配备有枪榴弹发射器和机关枪，可根据收到的遥控指令攻击并摧毁800米内的目标。设计人员表示，它还可以根据任务的不同来选择使用口径为7.62毫米的轻机枪或是12.7毫米的重机枪。

除此之外，还有美国海军陆战队的“角斗士”作战机器人、以色列军队用于边境安全任务的“守护者”无人驾驶战车等等。可见，无人武器系统的时代早已悄无声息地来临了。

无人驾驶航空器由美国国防部高级研究计划局（DARPA）主导开发的X-47B无人战斗航空器，是人类历史上第一架无需人工干预，完全由电脑操控的无人驾驶飞机，也是第一架能够从航母上起飞并自行回落的隐形无人轰炸机。

不过，究竟要达到何种自主程度，才能称得上是完全独立的军事机器人呢？按照美国国防部的标准，具备自主性的军事机器人一旦被投入运行，就必须能自动识别并锁定目标，然后自主决定应该对其采取何种措施。只要能在无人操控的情况下完成这套程序的，就是合格的自主军事机器人。目前，美国国防部的标准允许无人武器平台具备自动和人工操作两种模式，但就现阶段来说，涉及到开火等攻击任务时，这些武器平台选用的还是人工操作模式。不过，专家们认为，在现有的技术条件下，开发出成熟的致命性自主武器系统并不是什么难事，长则几十年，短则几年就会实现。

争议不断的自主武器系统

越来越多军事机器人的出现，也在国际上引发了越来越多的争议。很多科学家认为，这类自主武器系统一旦被投入运用，将会引发继火药和核武器发明之后的第三次战争革命。这并不是危言耸听，因为就在2015年，一台“发狂”的机器人就“不小心”将美国一个汽车工厂的装配工“杀死”了，随后其家属以意外致死罪的名义向5家涉案机器人制造商提起了诉讼。

同样是在2015年，在伦敦举行的一次科技大会上，著名科学家史蒂芬·霍金就发出警告称：机器人将会控制人类。霍金说：“在未来100年内，结合人工智能的机器人將会变得比人类更聪明，届时我们需要确保机器人与我们的目标一致，我们的未来取决于技术不断增强的力量和我们使用技术的智慧之间的赛跑。”

特斯拉公司CEO埃隆·马斯克也持有相同观点。在麻省理工学院发表演讲时，他将人工智能机器人描述为人类“最大的生存威胁”，他认为，只需要5年，人工智能就可能给世界带来极端的危险。

为此，1000多名科技领域的专家和企业家共同发表了一封抵制自动武器的公开信，在信函上署名的包括著名科学家史蒂芬·霍金、特斯拉公司CEO埃隆·马斯克和苹果公司共同创始人史蒂夫·沃兹尼亚克。信函中写道：“今天人类的关键问题是，是否要开启一场全球人工智能武器竞赛，还是阻止它的启动。”

科学家们表示，由于自动武器将使用人工智能来选择目标，而无需人为干预，所以，这种具有自主决策能力和行为能力的机器人一旦落入恐怖分子、独裁者和军阀手中，后果将不堪设想。尽管各国发展军事机器人的本意是为了减少战场上的伤亡，但这样做的同时也降低了人类进入战场的门槛，甚至可能会加剧大国之间军事力量的竞争。

停止开发杀手机器人！“停止开发杀手机器人”是2013年由几个非政府组织发起的运动，他们经常组织类似活动以引起政府和民众对这一问题的关注，如图就是他们在伦敦举行的活动。

国与国之间的分歧

早在2013年，就有非政府组织发起了“停止开发杀手机器人”的活动，他们认为致命性自动武器系统的存在违背了人类的基本尊严，让机器人去选择杀死谁是十分不人道的，因为机器人可能会被授权杀死任何显示出潜在威胁行为的人，包括没有武器的平民百姓。

在社会各界的努力之下，这个问题终于得到了联合国的重视。2014年，联合国开始讨论致命性自主武器的使用问题，并考虑通过起草国际法来约束杀手机器人技术的开发和传播。

然而，在2016年联合国召开的特定常规武器公约讨论会议上，联合国安理会五大常任理事国之中，只有中国明确表态支持制定条约管制机器人武器，美国因为担心受到军事上的制约而对此持消极态度，俄罗斯、英国和法国则都没有明确表态。

在与会的120个国家中，虽然大部分国家都表示会支持联合国对自主武器系统采取合理管制，但只有19个国家明确表示了应当停止开发和使用致命性自主武器系统，这其中较有影响力的国家只有阿尔及利亚、墨西哥、委内瑞拉、巴基斯坦和埃及这五国。像日本这样拥有先进机器人技术的国家，因为担心管制可能影响本国民用机器人的研发，所以对管制措施抱有比较谨慎的态度。不过，大会最后还是决定了要设立正式的专家会议，以便后续讨论“杀手机器人”的管制等问题。

战场效益

是什么让这些大国在管制自主武器的问题上表现得如此含混和暧昧？答案只有一个，那就是利益。很显然，这些杀手机器人在战场上会比有血有肉的人类士兵更有效率，因为它们可以日夜战斗，不会感到疲倦，不需要食物和睡眠，不会受到生理条件限制，也不会受到情感的影响，在杀人时不会感到恐惧，也不会对敌人产生怜悯，它们只会机械地完成所有设定好的任务。

尽管目前这些杀手机器人造价不菲，但随着科技的发展以及机器人零件的量产，未来这些机器人的制作成本只会越来越低。相比之下，像美国这样的超级大国，一旦发生了士兵伤亡事件，政府需要支付平均每人85万美元的抚恤金给其家属，从性价比上来说，用杀手机器人替代真人对政府更有利一些。

然而，专家们所担心的是，一旦这些杀手机器人未来投入战场，它们能否遵循公认的交战规则以及遵循伦理道德，它们能否区分敌方的无辜平民和士兵，以及在敌方士兵投降后它们是否还会继续开火，因为它们毕竟不是人类可以完全控制的无人机，而是具有完全自主性的杀手机器人。

地空自主武器系统

尽管致命性自主武器系统可能给世界带来种种的危险，但出于军事利益的考量，许多国家还是在大力研发并投入使用自主武器。

其中，韩国和以色列都已开始使用地空半自动防空导弹系统，美国也开发出了X-47B无人战斗航空器，这是人类历史上第一架无需人工干预，完全由电脑操控的无人驾驶飞机，也是第一架能够从航母上起飞并自行回落的隐形无人轰炸机。

对此，俄罗斯也不甘示弱，在俄罗斯最新式的T-14阿玛塔主战坦克上也运用了无人炮塔的设计，同时设置了全向光电和雷达探测器以及两类拦截弹，是迄今为止应用主动防护技术程度最高的坦克，可有效压制当代西方最常用的三代主战坦克。

英国也开发了类似美国X-47B式的无人战斗机“雷电之神”，该机运用了三重飞行管理系统，其中包括飞行导航、引导和控制系统，地面控制系统以及情报、监视和侦察管理系统，同时还应用了包括隐形技术和自动控制技术在内的尖端技术，是英国战略无人机实验计划的一个重要部分。

海上自主武器系统

除了陆地和空中自主武器系统，各国也在竞相发展海上自主武器系统，因为海上自主武器不仅能长时间在水上或水下自主航行，還具备智能化控制能力，可实施对重要海域近距离情报侦察、环境数据搜集、水上或水下持久侦察监视、反潜战、水雷对抗、后勤支援等诸多任务，已经成为全球海军装备的一个重要发展方向。

美国是最早开始发展海上自主武器系统的国家，且技术一直处于全球领先地位。由美国国防部高级研究计划局（DARPA）主导研发的“海上猎人”是一种专用无人艇，虽然艇上无人值守，但它可以兼容远程监控控制站，并且可以35节（64千米/小时）的速度持续航行48个小时。

在欧洲，法国泰雷兹公司和英国ASV公司也在共同开发一款满足未来离舰反水雷（MCM）作战任务的无人水面航行器。这款航行器可以在任何军事平台、舰艇、岸上或港口部署，并且可以搭载包括无人潜水器、拖曳式声纳在内的多种反水雷系统，同时它还具有优异的慢速牵引能力，和传统的装备相比，它可靠性更高，制造成本更低，将成为未来水雷战中的关键制胜因素。

尽管各国发展致命性自主武器系统的本意，都是为了保护本国的士兵不要受到伤害，但任由这些杀手机器人发展，很可能给人类带来更大的威胁，因为它们不受任何道德、法律和责任上的约束，随时可能做出超出人类控制之外的生死决定。

目前，控制这场危机的最好办法就是出台相关的国际法律来约束自主武器的使用，但这需要世界各国的共同努力。而现在，我们只有祈祷，希望“终结者”的时代永远不要来临。

[译自西班牙《真有趣》]