储 琪

（北京师范大学刑事法律科学研究院，北京100875）

从西洋跳棋到“深蓝”再到Alpha Go，在互联网、大数据、云计算的共同驱动下，人工智能再一次作为科技最前沿进入公众视野，迎来第三次发展热潮。无人驾驶汽车、手术机器人的出现，以前所未有的方式冲击着传统社会观念，给生产生活带来更新与便利。但是，近些年来频发的机器人杀人、公民信息泄露事件也让人们不得不承认，人工智能虽能革新视野、改善生活，却存在伤害倍增的效果，较典型的便是通过互联网技术实施的一系列如破坏计算机系统、传播虚假信息等严重危害网络安全的犯罪事件。

信息化时代带来的网络冲击，把社会组织结构中每一个单元个体的社会活动范围，以加速度的形式从物理空间扩展到网络空间[1]。在人工智能迅速占领市场的今天，理性要求我们必须改变对网络犯罪的固有认知，直面人工智能加速其异化的现实，基于此重新审视罪责问题。

一、人工智能与网络犯罪概念初探

（一）网络犯罪相关概念试析

1.网络空间的定义。

网络空间一词首次出现在小说《神经漫游者》中，书中的网络空间是一个知觉可以摆脱身体束缚自由活动的虚拟空间。伴随互联网技术的更新，当下的网络空间该如何定义？笔者认为，网络空间在技术层面表现为交互网络，尤其是以互联网为代表的通信网络。它将不同地域内的设备通过通信线路连接起来，在系统、软件及通信协议的协调下实现资源共享和信息传递[2]。意即，当下的网络空间就是运用信息技术达到资源共享的计算机系统。

2.网络犯罪的定义。

目前学界关于网络犯罪的定义颇有争议，然想要明晰事物的概念，应从其本质特征入手。叶良芳教授认为，网络犯罪的特质是场域特定性和数字技术的广泛运用性[3]。故本文研究范围内的网络犯罪，是指利用数字技术，全部或部分实行行为在网络空间内实施的各种侵害法益的行为。

（二）人工智能相关概念试析

1.人工智能并非实体机器人。

手术机器人的出现带来了颠覆性改变，它将好莱坞电影中的科幻场面变成现实，加之各国开始先后密集发布研究实体机器人的规划，无形中似乎树立了一种观念——人工智能就是实体机器人。然是否具有实体只是依据人工智能的不同形态所做的划分，物理形体并非必备要素，依靠计算机系统和网络技术得以运行的算法才是核心。苹果Siri、刷脸支付等应用已经让人工智能渗透进人类生活的各个方面，因此请抛开人工智能就是实体机器人的偏见，接纳其已无处不在的事实。

2.人工智能的类别。

人工智能在不同标准下有不同的分类。依据发展水平高低，可分为弱人工智能、强人工智能和超人工智能。弱与强的区别在于其是否具有辨认和控制能力[4]，对于超人工智能而言，目前无人可知超越人类最高水平的智慧会表现为何种能力，故暂不存在明确讨论的对象。

当下正处于弱人工智能时代，人工智能主要表现为依赖科学技术运行的计算机信息系统。结合前述分析可知，当今网络空间的构成有两个核心要素——互联网技术与计算机系统，这二者也是成立网络犯罪的必备要件，因此，在弱人工智能时代，侵犯人工智能系统安全的行为以及利用人工智能实施其他侵犯法益的行为，均可纳入网络犯罪体系中评价，故本文将二者视为一体展开讨论。因后文涉及到二者称谓问题，特在此说明。

不难发现，现有文献关注点集中在对强、超人工智能的刑事主体地位和责任能力的研究上，然而20世纪掀起轩然大波的克隆羊事件告诉我们，在不具备成熟稳定法律关系的情况下，作为最后手段的刑法，理应在狂热的科技浪潮中保持理性。基于此，本文试图研究弱人工智能时代网络犯罪的行为类型，尝试在此项下探索相应规制路径，以期为人工智能的良性发展贡献绵薄之力。

二、弱人工智能时代网络犯罪的行为模式

（一）单纯侵犯人工智能系统安全的犯罪

这种犯罪行为的作用对象是人工智能系统本身，侵犯的客体是系统安全。

前文提到，当前的人工智能系统主要表现为依赖互联网技术的计算机信息系统。因此，单纯侵犯人工智能系统安全的犯罪，实质上便是侵犯计算机信息系统的犯罪。

（二）违反人工智能安全管理义务的犯罪

一项技术从孕育到实践，期间大致要经历技术研发—服务提供—技术应用的过程。未来人工智能将普及社会化应用，但基于种类多、专业程度高等多方面因素的考量，除了要加大监管力度外，技术研发者与服务提供者也应承担起共同预防或治理人工智能犯罪的协助管理责任。除应用者以外，研发者和服务提供者作为能够对技术发展样态起全部或部分决定作用的主体，应在各自职责范围内对人工智能技术负有刑法意义上的安全管理义务，若违反相关规定或约定不履行上述义务，则可能构成犯罪。

需要强调的是，只有对研发者或服务提供者应当履行、有能力履行却不履行的行为及其造成的危害后果才能加以刑事追责，不得因网络犯罪较传统犯罪相比手段多样、社会危害性较大便随意将各类不法行为纳入刑法处罚范畴。

（三）利用人工智能系统的“不智能”实施的犯罪

这种犯罪是指在人工智能并非因行为人的行为陷入错误状态时，行为人利用人工智能的错误运行（即“不智能”）实施其他的犯罪行为。

目前人工智能的研发正处于探索阶段，运行过程中出现技术故障的情况不在少数。以当下最热门的人脸识别技术为例，据新闻报道，美国某公民2011 年因人脸识别系统故障被无故吊销驾照数周；英国南威尔士警方在2017 年欧冠联赛决赛中首次使用人脸识别相机，系统发出的2470 次警报中有2297 次错误。可见，尽管人脸识别技术在诸多领域有举足轻重的地位，但角度、光线、肤色乃至发型等因素严重影响了系统识别的准确性。实际上，除人脸识别外，指纹解锁、“扫一扫”等技术在应用过程中也是如此。由于科技发展有限，人工智能往往在不经意间“自动”陷入错误状态中，一些不法分子通常借此良机实施犯罪行为，生活中不乏利用ATM 机故障“顺手牵羊”取走机器内部大量现金事件，轰动一时的许霆案便是利用人工智能系统的“不智能”实施犯罪的典型代表。

（四）破坏人工智能系统实施其他犯罪行为的犯罪

该种犯罪是指，行为人通过各种技术手段对既有人工智能系统进行干扰，利用系统陷入错误状态来实施其他的犯罪行为。例如，行为人A 远程侵入被害人B 的无人驾驶系统秘密破坏传感器，导致汽车因传感钝化而不能正确感知车身周围的路况信息，发生撞死C 的交通事故；再如，行为人E 通过技术手段秘密入侵某公安局的内部网络，窃取大量居民的身份信息后转手贩卖给其他犯罪团伙，以此谋取不当利益等。

在前述行为模式中，人工智能不再是简单用以实施犯罪的辅助工具，更近似于连接犯罪行为与危害结果之间的媒介，破坏人工智能系统行为的实施实则是为后续实施其他犯罪行为服务，前一行为在整个犯罪过程中起铺垫作用，后一行为的完成才是最终目标。

（五）利用人工智能技术实施其他犯罪行为的犯罪

技术的革新为传统犯罪提供了“顺风车”，人工智能的快速发展使各类犯罪手段呈现智能化、高级化、冗杂化的趋势，犯罪门槛越来越低，行为的社会危害性却不降反升。

以诈骗行为为例，传统的诈骗犯罪中，行为人与受害人之间无论是直接双向的一对一接触，还是途径多道程序的一对一接触，从欺骗行为的着手到损害结果的发生，犯罪行为实施的全过程均发生在线下，即物理空间领域内；与之不同的是，在借助人工智能技术后，行为人与受害人发生接触的场所由物理领域向网络空间延伸，行为人不再仅凭言语交流对被害人实施欺骗，而是通过熟练掌握相关技术，例如利用专门软件改变人声、识别验证码以伪装身份、规避监管，迷惑受害人使之陷入错误认识，为犯罪目的的达成添砖加瓦。可见，立足于人工智能技术的网络诈骗犯罪利用最小成本实现了犯罪效益的最大化。

实际上，除诈骗行为以外，在人工智能完成由精英技术到平民技术的转变后，各类不法行为都在前者的依托下实现了量变与质变的双重飞跃，在广度和深度上对传统犯罪的势力范围进行了扩张。近些年层出不穷的网络诈骗、窃取公民个人信息案件表明，利用人工智能技术实施其他犯罪行为是当前网络犯罪最主要的表现形式。

三、弱人工时代网络犯罪的规制路径初探

（一）针对单纯侵犯人工智能系统安全的犯罪

因该种行为本质上与侵犯计算机信息系统安全并无差别，故可根据现有条文加以规制：若行为人违反国家规定，实施了法律所禁止的非法侵入等行为造成机器不能正常运行，情节严重的，可援引《刑法》第二百八十五、二百八十六条的规定，依据相应的罪名定罪处罚。

（二）针对违反人工智能安全管理义务的犯罪

该种犯罪的行为主体涉及人工智能技术的研发者与服务提供者，故刑责承担因处罚主体身份不同而有所区别。

对研发者而言，若因疏忽大意或过于自信违反预见义务，则承担一般过失犯罪的刑事责任；若因科技水平限制，研发时既不可能预见危害结果的发生又尽到了安全管理义务，则按意外事件处理；若故意违反安全管理义务，或在研发过程中对危害结果的发生早有预见却不采取措施，则认定其对犯罪行为、结果及因果关系的发生有直接或间接的犯罪故意，依据相关条文追究其不作为犯罪之刑责。

对服务提供者而言，在过失犯罪、意外事件的认定上与研发者相同，但鉴于其地位特殊，针对服务提供者故意违反安全管理义务的行为，立法者又专门设立了如拒不履行信息网络安全管理义务罪等罪名加以规制。从刑法条文可知，该罪被设定为情节犯，只有当出现“致使违法信息大量传播”“致使用户信息泄露，造成严重后果”“致使刑事案件证据灭失，情节严重”或“有其他严重情节”四种法定情形之一时才可认定罪名成立，然而从实践状况来看，前述规定也存在一些问题。

例如，情形一规定为“致使违法信息大量传播”，现行立法及司法解释却未对“大量传播”给出明确界定致使实践认定困难，反观两高在有关侵犯个人信息刑事案件的司法解释中对于“情节严重”则给出了具体规定，相比之下不得不说前者存在立法遗憾；再如，情形三规定为“致使刑事案件证据灭失，情节严重的”，此处的刑事案件若为重罪尚可理解，若仅是致使轻罪刑事案件的证据灭失，是否还能被评价为“情节严重”并动用刑法规制？

鉴于篇幅所限，本文仅起抛砖引玉之势，未来对于前述问题的解决是通过司法解释的形式追加规定还是重新确立刑事评价体系？这值得进一步探讨。

（三）针对利用人工智能的“不智能”实施的犯罪

这种模式的治理思路可分侵犯财产类和非财产类犯罪两步走。若行为人利用系统的不智能实施了诸如故意伤害等侵犯非财产类的犯罪行为，依据相应条文认定即可；若实施的是侵犯财产类犯罪例如诈骗的行为，便要探讨机器可否被骗的问题。

基于诈骗罪的犯罪构造，欺骗必须作用于被害人的大脑，而有学者认为机器本身不能被骗，但是机器背后的人可以受骗，对计算机诈骗实质上是使计算机背后的人受了骗[5]而间接承认机器可以被骗。这种观点值得商榷。以利用ATM 机故障取走钱款为例，依据该观点，是行为人利用故障使机器后的工作人员产生了错误认识并支付存款，但依常识便知既然是自助取款，那么机器的运行是靠内部算法的运转，整个犯罪过程中与行为人发生接触到最终支付款项的主体均是算法系统，而无工作人员的参与，既然不存在参与主体又何来被骗一说？

被欺骗作为一种主观意识形态活动，存在的前提是行为主体必须具备能动意识，现阶段的人工智能仅是佐助生产生活的工具，与一把刀、一支枪无本质区别，因不可能进行任何意识形态活动而不能被骗，故对利用系统不智能实施的犯罪的处罚，依据相关条文认定便可。

（四）针对破坏人工智能系统实施其他犯罪行为的犯罪

此模式下有两个行为，一是破坏人工智能系统，二是利用对系统的破坏进而实施其他犯罪，即破坏人工智能系统作为手段行为为另一犯罪的达成服务，这便是我国刑法理论中的牵连犯。刑法总则中没有规定牵连犯的处罚原则，分则对其的处罚规定却五花八门。除有特殊规定为数罪并罚外，学界在罪数问题上多坚持“以一罪论处”原则，反对数罪并罚，他们倾向于认为牵连犯是与数罪并罚相对应的一组罪数形态概念中的一个，虽存在个别特殊规定，但这是基于这类行为危害性较大、数行为间的关联度较低的考虑[6]。

上述观点值得商榷。既然牵连犯概念设立的初衷，是从社会危害性以及行为间关联关系强弱的角度将没有明文规定但具有牵连关系的数行为从数罪并罚中分离出来，那么是否成立牵连犯，便应先从社会危害性和牵连关系两方面分别评价后再确定处罚原则。

关于社会危害性。储槐植教授将社会危害性的评价指标分为主客观两方面：主观上包括罪过、主观恶性和人身危险性，客观上包括行为及危害结果[7]。近些年案发情况表明，行为人依靠黑客技术肆意猖獗，涉案数额动辄上千万，受害人数众多，行为链条冗长，隐蔽性高且取证困难，对国民经济和社会秩序造成了巨大冲击，目前尚且如此，随着技术的进一步发展，行为的社会危害性实在不可小觑。

关于牵连关系的判断，笔者认为应坚持类型说——只有当某种手段通常用于实施某种犯罪时才宜认定为牵连犯[8]，反之则需数罪并罚。以前文所举的例子来看，行为人A 侵入B 的无人驾驶系统干扰传感器，利用系统故障撞死C，车辆撞死人是常态，然而通过破坏车辆系统用以杀人并非常见的犯罪手段，二者间因不具备类型化的牵连关系而不能认定为牵连犯，这种情况下对行为人A 应数罪并罚。

因此，针对破坏人工智能系统实施其他犯罪行为的处罚，如果遵循“个案评价”原则，在具备类型化牵连关系时可考虑从一重罪或从一重罪从重处罚，在不具备牵连关系时应数罪并罚，既可体现罪责刑相适应原则，也能一定程度上遏制犯罪白热化现状。

（五）针对利用人工智能技术实施其他犯罪行为的犯罪

《刑法》二百八十七条规定，利用计算机实施金融诈骗、盗窃等其他犯罪的，依照相关规定定罪处罚，实际上已为利用人工智能实施其他犯罪行为的制裁提供了思路，在此不做赘述。值得关注的是，大数据时代的到来，公民为了享受人工智能的服务不得不将个人信息让渡出去，逐渐适应了隐私权被侵犯的现状。笔者在裁判文书网以“侵犯公民个人信息罪”为关键词进行检索，发现截止至2018 年9 月，判决文书由一开始的5 份增加至1408 份，可见信息共享使公民个人隐私权的刑法保护问题愈发严峻。当下，借助人工智能实施侵犯个人信息的犯罪行为数量攀升，对其是否可以一律套用二百八十七条定罪处罚？未必可行。

依据刑法及司法解释规定，侵犯公民个人信息罪的客观行为是指向他人出售或提供，或是购买、收受等，不包含自行利用，实践中却不乏行为人非法获取信息后自行非法利用的情形，譬如充斥购物网站的刷单行为。由于条文规制范围的狭窄，这些游离于条文以外、却与犯罪行为具有同等危害性的违法行为无法被纳入同个罪名体系内评价，这种情况下是否可以另辟蹊径为其寻找刑法规制路径？

以刷单为例，其触犯的罪名还可能包括但不限于：非法获取计算机信息系统数据罪，虚假广告罪，损害商业信誉、商品声誉罪等[9]。第一个罪的构罪前提是“非法”侵入计算机系统，而行为人利用人工智能侵犯公民个人信息时，可能具有合法的系统登入权，如通信营业厅工作人员可利用职权进入系统攫取公民信息，这种情况便因不符合构罪前提而不被认定。就第二、三个罪名而言，行为人刷单时难免会涉及对商品性能、质量等内容虚假评价，或是将获取到的公民信息利用在给同行商家恶意刷单上，形式上与构成要件最为贴合，在学理层面可以认定，而经笔者在无讼案例网查询，自网站开通以来，2018 年以两罪名起诉的案件数量最多，但各自仅有10 件，所有案件也无一涉及网络刷单行为。可见，实务中真正以这两个罪名认定的案件极少，究其原因在于该类行为发生在市场交易领域，意思自治是市场交易的基本原则，一旦大面积规制，不利于维护交易秩序的稳定；加之行为处于多法域管辖的交叉地带，涉及的法律关系错综复杂，故只要没有造成重大损害，买卖双方多对此视而不见，国家层面也仅动用行政法律法规略施惩戒，如此一来使得理论与实践背道而驰，罪名形同虚设。

由此看来，借助人工智能实施非法利用公民个人信息行为的刑法规制出现空缺，虽究竟是立法者的疏忽还是基于交叉法域地带管控难度的考量不得而知，然而放任这类社会危害性较大的行为在刑法边界之外也似乎并不恰当。进一步是对市场领域的冲击，退一步则在纵容违法行为的存在，如何妥善处理此种行为模式下衍生的多起冲突，也有待进一步探究。

四、结语

以计算机为单一犯罪对象的犯罪随着以网络为犯罪工具和空间的犯罪行为的崛起逐渐退出历史舞台，而人工智能技术的崛起又使得当下的网络犯罪朝着智能化与大数据的方向迈进。限于知识的贫乏与发展前景的未卜，本文只探讨了弱人工智能视野下网络犯罪的行为类型，试图在现有刑法体系下寻找解决路径，同时指出部分立法空白之处期以他人回应。虽一直强调应当在人工智能研究的狂潮中保持理性，但这并不代表笔者对于未来的发展持消极态度，因为无论人工智能技术最终的发展前景如何，也不论法律未来是进行改良或是面临变革，能在技术的帮助下获取幸福，才是运用它的最终目的。●