刘宪权

人工智能时代的到来必将带来风险，其中的刑事风险包括可能使得部分传统犯罪的危害性发生“量变”，可能会导致新的犯罪形式产生，以及人工智能产品可能因为种种原因脱离人类控制，进而实施严重危害社会的犯罪行为。

目前，我国刑法可以从故意犯罪和过失犯罪两个方面考虑对人工智能研发者或使用者的行为加以规制。对于故意利用人工智能技术研发或使用相应产品实施严重危害社会犯罪的，应当将人工智能产品看作行为人实施犯罪的“智能工具”，所有刑事责任应当由人工智能产品的研发者或使用者承担。在过失犯罪的情况下，刑事责任的判断标准是根据研发或使用当时的人工智能技术发展水平，考察研发者或使用者对危害结果是否负有预见义务。目前，面对人工智能时代的多重刑事风险，我国现行刑法显得力有不逮，主要包括：无法规制智能机器人的犯罪行为，对研发者和使用者故意或过失犯罪的责任追究也均存在一定的缺陷。

面对人工智能时代已经或可能出现的刑事风险，需要对刑法进行一定的修正和完善。第一，从源头防控风险，增设滥用人工智能罪。滥用人工智能行为已触犯人类社会的安全问题，刑法需要对其加以特別规制。而刑法以外法律法规的规制不足以威慑人工智能产品的研发者和使用者，无法起到防控作用。第二，确立严格责任，增设人工智能事故罪。在研发人工智能产品的过程中必须将人类社会的法律以及道德等规范和价值嵌入相应的系统之中，研发者和使用者需要在研发和使用过程中履行数据保护义务。人类必须能够完整控制人工智能自主武器系统。第三，智能机器人的行为完全可能成为法律意义上的行为，适时考虑赋予智能机器人刑事责任主体的地位。

（摘自《法商研究》，2018年第1期，第3-11页。）

*华东政法大学教授[200042]