◎ 文 《法人》全媒体记者 伍洲奇

2020年1月3日凌晨，一位身份极其特殊的人物——伊朗“圣城旅”指挥官苏莱曼尼，喋血伊拉克首都机场，同时丧命的还有数名随行和接机人员，攻击他们的是来自美国的无人机。

如果说遥控无人机还算不上完全的人工智能，那么在联合国日内瓦总部举办的特定常规武器公约大会上演示的“Slaughterbots 杀戮无人机”，早已完全具备技术生产条件，其无需遥控且杀人能力令人惊悚。

好在，著名科幻小说家艾萨克·阿西莫夫早在1942年就提出“不得伤害人类”的原则。不过，技术始终是一把双刃剑，在给人类带来便利和好处的同时，也不可避免地给人类带来创伤的可能。

那么，技术领先的人工智能又如何面对滞后的法律规范？

谁是“小智”

有趣的是，正当人们在讨论如何制定法律限制人工智能以保护人类时，人工智能正在代替法律工作人员在从事辅助性法律工作。

2019年12月24日，在浙江杭州下城区人民法院进行了这样一场庭审：原、被告双方出现在法庭内的屏幕中隔空“较量”，智能机器做着证据分析，还向原、被告自动提问，庭审完毕后，立即生成了一份判决书，主持庭审的法官当庭宣判。

这场非同寻常的民间借贷纠纷案庭审，从开庭到结案仅用了28分钟。这是浙江省高级人民法院联合浙江大学、阿里巴巴等研发的人工智能审判系统，它的名字叫“小智”。

阿里达摩院算法专家张雅婷介绍说，“小智”背后的整个智能审判系统，运用到文本生成技术 + TTS（文本转化为语音技术）、ASR技术（语音转化为文字）、OCR + NLP分类技术、NLP抽取技术 + 逻辑推理等等，不同的技术最终又要通过技术融合组成一个可以模拟法官审判逻辑的系统。

2015年到2018年，人工智能产业平均复合增长率达到54.6%，2018年，中国人工智能产业市场规模达到415.5亿元。随着产业规模的扩大，人工智能领域融资进度也在不断加快。

根据投中研究院与崇期资本联合发布的《2019中国人工智能产业投融资白皮书》显示，中国人工智能领域的总体融资规模从2015年的458亿人民币增长至2018年的1189亿人民币，增长超过两倍。

产业迅速发展的同时，人工智能机器人已经逐步具有一定程度的自我意识和自我表达能力，甚至可以与人类进行一定的情感交流。机器人本身还能够形成自学能力，对既有的信息进行分析和研究，从而提供司法警示和建议。甚至有人认为，机器人未来可以直接当法官。

此刻，人们需要思考的法律问题是：“小智”们是谁？带来巨大财富的人工智能，又是否具备法律上的主体资格？现有的权利主体、程序法治、用工制度、保险制度、绩效考核等一系列法律制度，该如何应对人工智能的挑战。

谁的产权

“树影压在秋天的报纸上，中间隔着一片梦幻的海洋，我凝视着一池湖水的天空……”这首唯美的现代诗，被收录进原创诗集《阳光失了玻璃窗》，该诗集由微软全球执行副总裁、美国国家工程院外籍院士沈向洋博士作序推荐。

人们难以想象，《阳光失了玻璃窗》竟然是人类历史上第一部完全由人工智能创作的诗集，诗集的作者是人工智能的代表性“人物”——微软小冰。

鲜为人知的是，微软还让小冰在天涯、豆瓣、简书等平台，用27个笔名发表自己的诗歌，不过并没有被人“识破”，读者们还不知道“骆梦”“风的指尖”“一荷”“微笑的白”这些笔名背后的诗人，其实并非人类。

与微软形影相随的是，百度也已经研发出可以创作诗歌的机器人，那么问题来了，这些人工智能创作作品的著作权，究竟归属于谁？是归属于机器人软件的发明者？还是机器人的所有权人？还是赋予机器人一定程度的法律主体地位从而由其自身享有相关权利？人工智能的发展将引发知识产权和更多产权背后的争议。

人工智能机器人要通过一定的程序进行“深度学习”“深度思维”，在这个过程中有可能收集、储存大量的他人已享有著作权的信息，这就有可能构成非法复制他人的作品，从而构成对他人著作权的侵害。但构成侵害知识产权的情形下，究竟应当由谁承担责任，这又是另一个问题。

至此，人工智能的发展对数据的法律保护提出了新的挑战：一方面，人工智能及其系统能够正常运作，在很大程度上是以海量的数据为支撑的，在利用人工智能时如何规范数据的收集、储存、利用行为，避免数据的泄露和滥用，并确保国家数据的安全，是亟须解决的重大现实问题；另一方面，人工智能的应用在很大程度上取决于其背后的一套算法，如何有效规范这一算法及其结果的运用，避免侵害他人权利，也需要法律制度予以应对。

谁来担责

用法律制度来应对人工智能，还是应对人工智能的设计者？这首先就是一个问题。

2016年11月16日至21日，第十八届中国国际高新技术成果交易会在深圳举办，该交易会主要展示行业领域内的先进技术和产品，凸显前沿领域的重大突破和创新创业的成就成果，不过本次高交会上出现了一个小插曲。

在会上，一个名叫“小胖”的人工智能机器人突然发生故障，在没有指令的前提下自行打砸展台玻璃，最终导致部分展台破坏，更为严重的是，该机器人还砸伤了路人。

毫无疑问，人工智能机器人是人制造的，其程序也是制造者控制的，所以，在造成损害后，谁研制的机器人，就应当由谁负责，似乎在法律上没有争议。

其实不然，人工智能机器人与人类一样，是用“脑子”来思考的，机器人的脑子就是程序。产品可以追踪属于哪个厂家，但程序却不一定能够追踪，甚至有可能是由众多的人共同开发的，程序的产生可能无法追踪到某个具体的个人或组织。

民事责任还相对容易追究，如果程序设计者故意设计程序漏洞，致人死伤，追究刑事责任的难度似乎更有争议。

2018年3月28日，美国亚利桑那州一辆Uber自动驾驶SUV撞倒一名女性行人，导致其死亡。Uber的车辆当时处于自动驾驶模式，Uber后来发现，自动驾驶软件在汽车传感器检测到行人后决定不采取任何制动。

美国国家运输安全委员会对这起事故的初步调查报告显示，Uber的自动驾驶模式使Volvo工厂安装的自动紧急制动系统失效。

一年后，就在大众舆论快要忘却这桩悲剧的时候，它有了最新判决结果，当地检察官在一封信中称，Uber在事故中负有刑事责任的指控“没有依据”，事故视频可能并未准确地描述车祸过程，需进一步调查。

无论调查结果如何，人类的命运都在不断往复：100多年前，人类发明了汽车，马车所代表的田园牧歌，就只能成为一曲挽歌；100多年后也是如此，从人类生活与人工智能相遇的那一瞬间，一切悲喜就已不可避免。