迈卡·泽维尔·约翰逊（Micah Xavier Johnson）在达拉斯社区学院的一栋建筑里度过了他生命中的最后一天。当时他已经枪杀了16人，并和警方陷入了对峙的僵局。谈判专家到达了现场，但是，一直到第二天的凌晨2:30，现场的警察局长放弃了谈判。他已经失去了两名警官，另有9名警察受伤，其中三人在抢救中重伤不治。2016年7月7日上午，这位失去了好几名手下的警察局长，要求他的特警队提出一个行动计划，不要再让任何人被约翰逊的火力伤害。

30分钟后，诺斯罗普-格鲁曼公司制造的4轮机器人 Mark 5A-1到达了现场。Mark 5A-1最初的设计是作为拆弹机器人，警方购买它是为了拆除那些危险的炸弹。但是，在那天早上，警察把多达一磅重的C4炸药绑在了Mark 5A-1机器人那伸出的手臂上，并操作将它送到了约翰逊设置的路障的走廊。炸弹立即炸死了他。机器人则在简单的修理后可以继续使用。

约翰逊在退役前曾在阿富汗服役。很有可能，他在爆炸之前认出了这个机器人——在阿富汗，有大量的拆弹机器人帮助美军拆除那些路边炸弹。约翰逊由此成为历史上第一个在美国的土地上被机器人（包括地面无人平台和无人机）所杀死的美国人。

大约20年前，一位名叫海伦·格里纳的年轻的机器人专家在波士顿的一家科技公司做了一场演讲。当20多岁的格里纳站在人群前时候，她戴着遮住半张脸的眼镜，满头金发，操着一口略带口音的英国腔。在演讲中，她展示了一段视频，视频的主角是一个名叫“鹅卵石”（Pebbles）的机器人，这是一种用金属片制作的亮蓝色机器人。

多年来，人工智能领域一直面临一个关键问题：如何为现实世界制造机器人?一个遵循脚本的机器人很简单；但是要处理无法预见的事情（比如，一个洞穴或栅栏），程序员必须为每一个可以想象到的场景编写指令。对工程师来说，这意味着要用更复杂的大脑创造设备。

格里纳的教授罗德尼·布鲁克斯认为这种方法是行不通的。与其试图设计一个真实世界的模型，不如用这个世界作为自己的模型。如果你想让你的机器人在没有撞到东西的情况下打开门，你不应该给它一个详细的房间地图；你应该告诉，让它沿着直线运动，直到它感觉到前面的东西。这两个独立的目标——笔直向前，而不是撞击物体——不需要统一在机载大脑中。相反，你可以拥有两个独立的子系统，一个子系统用于控制直线行进，在需要的时候，由另一个子系统观察发现附近的障碍物。这就是著名的“包容架构”概念。

“包容架构”让“鹅卵石”变得既简单又可行。它的每一个机载系统都是精简的，为了一个简单的任务二设计。该装置对周围世界的反应能力，很自然地，来自于它的各个部分的相互作用。

格里纳和布鲁克斯花了数年时间试图创造出实用的、有市场价值的机器人。在此期间，格里纳会做很多类似的演讲，展示她的作品，希望能激起人们对她产品的兴趣。在她的演讲中，格里纳注意到一个人似乎比其他人表现出了更多的兴趣。那人是一个特种部队成员，对机器人技术很着迷。他看着“鹅卵石”移动，同时注视着把那个视频和音频传送到整个房间的演讲者。“我们必须把这些机器人送到空军学院。”他告诉格里纳。

很快，格里纳被邀请参加与其他机器人公司的军事训练演习——这对她还是第一次。这个邀请让她看到了她迫切需要的一个机会：她的公司iRobot公司破产了。“当时，我们都担心资金问题，”她说。“我们在银行里的钱还不够在年底发放工资。”

她立刻预订了飞往丹佛的机票，和她一起去丹佛的是一台名叫“ROAMS”的“鹅卵石”机器人，还有一名工程师罗萨里奥·罗伯特。罗伯特领导了他们二人之间的ROAMS项目。海伦·格里纳从事机械方面的工作：制图、焊接、钻孔。她还为机器人加装了一个更好的照相机，一套GPS系统(当时GPS还是一项全新的技术)，提升了机器人的高度。她还在展示前的一晚通宵熬夜，在机器人的金属框架上添加手绘迷彩图案。

他们开车到了丹佛南部的一个停车场。当他们到达时，是凌晨3点。一群士兵从黑暗中走出来，带走了罗姆斯，随后消失在夜色中。

那场展示包括派遣机器人去监视停在附近机场上的飞机，所以这些都没有被派驻在山上的士兵发现。那个星期早些时候，一位专业人士去了沃尔玛，买了一打泡面。他利用业余时间制造一颗假的“导弹”，上面挂着一个手绘的小牌子，写着“你的盖革计数器现在被钉住了。”这是为了让机器人展示如何离目标足够近，可以向基地发送一个清晰的信号视频。

在高山沙漠的夏夜总是很凉爽。有些夜晚，你甚至可以看到你的呼吸模糊了尖刺的山峰轮廓。罗伯特记得自己坐在黑暗中，感到焦虑。ROAMS是他们所谓的“实验室女王”，它原是为控制环境而建造的机器。他罗伯特无法保证它会在海拔6000英尺以上的高原上，在空军基地外的草原站住脚。这里的风景是干燥平坦的，几乎没有什么特色，或许对矮小的兔子和皂草来说并非如此。这是一个冷漠、开放的州，很难给人带来什么惊喜。

在演习结束时，士兵们与格里纳和罗伯特会面。他们给了这个女人一些建议，让机器人成为军队在战场上实际使用的东西。他们说，最重要的是，下一个机器版本必须更坚固强壮。“我们要把它扔到C-130的后面。”

显然，ROAMS已经表现得很好了。它可以在崎岖不平的旷野中行进。因为它运行的很酷——也就是说它没有显示在热成像仪上——它成功地逃脱了敌人的探测。但真正的区别在于它的大小。在美国政府耗费了数百万美元之后，它所投资的那些研究项目所制造出的军用机器人，绝大多数重量都达到了数千磅。ROAMS只有30磅左右，体型小到可以在地面移动而不引起注意。

几周后，有人向一位将军展示了一段视频。再之后，iRobot公司的财务困境就此结束。几个月后，该公司获得了一份来自美国国防部先进技术研究局（DAPPA）的合同，价值74万美元。在1998年，DAPPA又增加了约120万美元的投入。

海伦·格里纳的机器人将比任何人能预测到的更成功。但是，他们越是向军方证明自己的价值，他们就越需要调整自己适应军队的目的，直到格里纳不得不面对一个意想不到的问题：当你为拯救生命而建造的机器人成为杀人武器时，会发生什么?

随着自动武器在全球范围内的扩张，这个问题变得越来越紧迫。机器人不仅仅是被投放在战场上，它们正在学会如何扣动扳机。

拥有像起重机一样的履带，还有一个长而机动性的头部，PackBot看起来很可爱。这款机器人是ROAMS的最新版本：它是一种带有gps功能的、可爬楼梯、可移动的机器，能从10英尺高的地方摔下来而依然存活下来。格里纳在12岁时就开始对机器人着迷，她观看了《星球大战:新希望》(Star Wars: A New Hope)。对她来说，莱娅和卢克只是配角。她最著名的作品——军用PackBot——都有电影中R2D2机器人的魅影子。图8

1990年，格里纳和她的教授、另一个研究生科林·安格尔（Colin Angle）一起创办了iRobot公司。那些年，她和她的队友们在马萨诸塞州萨默维尔市的实验室里度过了他们的每一个白天天，有时还要包括夜晚。在以前的生活中，这座建筑是作为屠宰场经营的。从屠宰场过渡到建造拯救生命的机器人的实验室似乎很合适。当时，波士顿正处于从一个萧条的城市向世界著名的科技中心过渡的转型时期。

第一个PackBot原型机是2002年在阿富汗部署的。PackBot主要在隧道里工作，沿着狭窄的通道寻找诡雷。这是一个天然的巡逻机器人，可以被派去侦察和监视任务。它可以爬楼梯，穿越泥潭、岩石和雪地，操作者从一公里远的地方遥控操作它。但是，直到伊拉克战争和路边炸弹的出现，军用机器人才变得不可或缺。

从2006年到2011年，军士长伊丽莎白·巴特勒(Elizabeth Butler)曾是一名空军爆炸物管制员，但和她之前的其他技术人员不同，巴特勒有一个秘密武器:PackBot。

巴特勒和她的两个队友在一辆装满枪支、防弹衣和机器人的卡车里度过了一天。巴特勒戴着一个眼罩，这个眼罩从机器的角度给她提供了一个直接的视频信息。她的控制器看起来几乎和游戏平台的一样。她熟练地摆弄着她的手指，引导PackBot进行搜索，找到然后拆除一个简易爆炸装置。在美国空军的爆炸性军械处理（EOD）技术人员中，巴特勒是罕见地从来没有丢过机器人的一个。

艾伦·珀迪(Ellen Purdy)在阿富汗和伊拉克战争期间领导了美国国防部的联合地面机器人企业。她认为，PackBot的成功在于iRobot快速适应的能力。伊拉克和阿富汗战争是一个“反对抗”的场景：一场由叛乱分子和美国军队之间的竞赛——一方设计，另一方对抗那些越来越复杂的“简易爆炸装置”（IED）。格里纳和iRobot将会部署可以剪断电线的PackBots。叛乱分子将开始把电线埋在地下。珀迪要求PackBot工程师开发一个可以挖掘的版本。巴特勒和其他EOD技术人员将更新他们的模型，学习新的规范，并再次部署到伊拉克和阿富汗。

“人们没有意识到，海伦和她的工程师们拯救了多少生命。”珀迪说。“他们真的是一些无名英雄。”美国国防部的一名成员，他收到了所有在战斗中被炸飞的海军反IED机器人。从1997年到2012年，他统计了超过260个被爆炸破坏的机器人。他表示，每一个被炸毁的机器人，都意味着它们至少减少了一个人的伤亡。珀迪领导的联合项目不仅包括美国海军，还包括美国空军、美国陆军和吗美国海军陆战队。她估计，反IED机器人拯救了成千上万人的生命。许多士兵在他们的机器人被炸飞后变得心烦意乱，他们试图为它举行葬礼。

2018年3月是PackBot问世20周年，其中4000多台PackBot已经被部署。它们已经被世界各地的军队收买了。在对焦哈尔·察尔纳耶夫（Dzhokhar Tsarnaev，波士顿爆炸案的凶手）的抓捕行动和福岛核电站灾难后的搜救行动中都用到了PackBot，它们也被用于“9·11”事件后搜救行动。

珀迪认为PackBot的成功改变了军方对技术的看法。她说:“PackBot有助于让军队接受你可以自动完成任务的想法。”她认为机器人“能比人做得更好”。

2007年，美国国防部发布了其第一个无人系统路线图，为所有军用机器人编列了27亿美元的预算。从2014年到2018年，五角大楼为无人系统编入了将近240亿美元的预算。“军队内部发生了一些变化。”前国防部官员保罗·沙雷(Paul Scharre)说，他曾协助起草了国防部关于自主武器系统的第一个指令。

五角大楼的官员们看到了一个未来，每个士兵都被增强了，人类和机器进入了一种共生关系。他们称之为“半人马战争”(centaur war)，这是罗伯特·沃克(Robert Work)所倡导的战略，他在奥巴马和特朗普政府任职期间是美国国防部副部长，曾在2017年卸任。

2016年的达拉斯对峙是第一次机器人在美国领土上杀人。在美国以外的地方，这种情况已经持续了10年。在2000年左右，一群士兵用胶带把一枚“阔刀”地雷绑在一个小型监视机器人上，然后把它送到伊拉克的一条小巷里，杀死了一名男子。这是士兵们第一次意识到为拯救生命而建造的机器人也能终结他们的生命。

虽然在达拉斯和伊拉克的机器人使用的机器人都不是iRobot公司制造的，但该公司已经尝试了武器化的机器人。iRobot宣称自己的产品是一种“平台”。任何人都可以在自己的机器人上增加一些东西，比如盖格计数器、炸药“嗅探器”或面部识别摄像头。2007年，iRobot公司发布了一个半自主机器人，该机器人装备了“金属风暴”机枪。这种武器每一根并联枪管可以每秒发射16发子弹（相当于一名普通射手每秒钟可以发射两轮AR-15）。该型机器人从来没有在野外使用过，但它是该公司的一个转折点。

格里纳于2008年离开iRobot，前往CyPhy公司工作，直到最近，她一直担任首席技术官。PackBot已经进化了，在没有她的情况下。Endeavor Robotics公司(iRobot公司的副产品，生产军用机器人)最近创建了一个不需要操作员的版本。他们模拟将其送入建筑物，以绘制布局图，并标出高辐射、化学物质或敌方战斗人员的区域。他们也开发了一些武器化的版本。

虽然格里纳在这些设计完成之前就离开了，她依然为此而自豪。她认为这些设计会帮助士兵脱离危险，就像早期的PackBots帮助了了排爆士兵一样。“如果我的儿子或女儿在那里，我不希望他们每天必须把头缩到角落，还要射击。”格里纳表示她为自己的产品感到骄傲：她制造了一台机器，挽救了生命。她帮助阻止了简易爆炸装置，这是现代战争中最具随机性和破坏性的力量之一。

格里纳很快就坚持认为，只要人还能可以扣动扳机，武器化的机器人的出现就是一种“公平游戏”。然而，美国政府无数一次又一次地强调，自动机器人——如果没有人类操作人员的识别和攻击——将永远不会成为美国军队的一部分。

“我希望人们能理解我们生活在美国是多么幸福，”美国国防部联合地面机器人企业的前负责人表示“我们遵守武装冲突法。我们永远不会让机器人来负责改变人生的决定。”

2012年，奥巴马政府对自主武器实施了为期5年的禁令。去年，特朗普政府支持这项禁令。但是在白宫有一个自主武器的提倡者。史蒂文·格罗夫斯(Steven Groves)是总统的一名特别助理，他为美国传统基金会(Heritage Foundation)撰写了一篇专栏文章，反对联合国提议的这项技术禁令。

其他国家也在想方设法制造自主武器。以色列的“哈比系”统能识别并攻击外国雷达，俄罗斯武器制造商卡拉什尼科夫2017年夏天宣布，它将制造一台自动机枪。珀迪说:“技术精灵已经脱离了瓶子。”但她和其他国防部官员都坚称，美国制造的机器人永远不会独立攻击人类。

对于格里纳， 珀迪和美国国防部来说，决定杀死某个人的机器人和被命令杀死某个人的机器人之间有着重要的伦理界限。他们认为，机器人不能决定一个人的生命或死亡。这类决定应该由人来做出——即使他们远在千里之外。

这一切都让人觉得有点变味：机器人可以杀人，只要他们不做军方所谓的“杀人决定”。与此同时，工程师们正在研发一种技术，可以让士兵们进一步远离战场。从某些角度看，这是在挽救生命。

但从其他人看来，事实并非如此。我们所创造的世界上最奇怪的事情之一就是，我们允许一个人杀死另一个人。在这些规则的核心——在战争中，在警察中——是当有人想要杀你的时候，你有权利杀死她。但在一场一方不能死，甚至感觉不到痛苦的战斗中，这些规则变得模糊不清。什么时候机器人应该被引导去解除武装，或者杀死敌人?

格里纳的新公司赛飞（CyPhy）成立已经10年了。在成立之初，该公司已经筹集了超过3000万美元的风险投资。但即使是在她的新角色中，格里纳也坚持她的军事“老本行”。她不能透露细节，但她说，一位“特种部队成员”告诉她，赛飞的旗舰产品——Parcdrone无人机，可以挽救生命。美国军方使用无人机进行监视行动，并在危险的检查站，提醒士兵们可能出现的意外情况。

与PackBots一样，Parcdrone也可以作为平台进行操作。它可以携带摄像头，监控设备，甚至手机网络服务器。它可以在空中停留数周，这使得其在监视或其他长期项目上非常出色。2018年今年7月4日，有人提出要把他们带到边境。

格里纳设想，在未来，Parcdrone将遍布世界各地数千个地方。最终，它们将能够独立运作，收集地面上400英尺高的信息和图像。无人机可以利用这些信息来增加自己的智能，最终取代人类成为一个更高效、更有效的监控系统，而不是过滤人类的数据。在天空中，一只自主的眼睛从不眨眼。

作为公司的技术总监（CTO）， 格里纳并不参与制定赛飞的政策或商业策略，但她经常公开谈论无人机技术的前景。在2015年波士顿TedX大会上的一次演讲中，她谈到了对人们对无人机的恐惧。“我注意到人们对飞行机器人有点担心，”她笑着说，“我想改变这种态度。”

她在舞台上慢慢踱着步，穿着一件浅绿色的夹克，播放着幻灯片。一幅图片是一架无人机递送一个小巧、整洁的包裹。之后是一片空地中间，一个人坐在电脑前。最后一张幻灯片是著名的日本涩谷十字路口的照片。她说:“一个飞行机器人可以看到在人群中掉落的背包。”她回忆起在波士顿马拉松比赛中引爆的背包炸弹。“如果现场有无人机，那些无人机可以俯冲下来，用爪子抓住它。”

许多专家认为现在停止自主武器还为时不晚.2017年，来自世界各地的116家机器人公司签署了一封公开信，要求联合国禁止机器人杀手。不过iRobot，Endeavor和赛飞公司等机器人制造巨头都没有出现在列表中。