朱一玮

（中国人民公安大学，北京 100032）

一、人工智能技术犯罪出现的背景

人工智能这一概念由约翰·麦卡锡（John McCarthy）、马文·闵斯基（Marvin Minsky）、克劳德·香农（Claude Shannon）、艾伦·纽厄尔（Allen Newell）、赫伯特·西蒙（Herbert Simon）等人于1956年在达特茅斯会议（Dartmouth Conference）中首次提出。经过60多年的发展与沉淀，人工智能已经成为一门广泛交叉的前沿学科，人工智能技术主要包括计算机视觉、自然语言处理、图像识别、机器学习等，具有巨大的发展价值。目前许多国家都在抢占人工智能的制高点，全球已经有超过2542家人工智能企业。人类科技发展的历史告诉我们，科技的发展是爆炸式的，其发展速度呈几何式提升，我们必将在不久的将来进入到人工智能N.0时代。

但是，机遇与风险总是并存，人工智能技术在快速发展的同时，带来了货币的两面效应：一方面，技术的发展成熟减少了传统事故、犯罪发生的风险，但另一方面也增加了引发新型犯罪的风险。以无人驾驶汽车为例，人工智能技术可以减少由于司机的不当操作所引起的交通事故，但在“货币”的另一面，一旦人工智能自动驾驶系统出现偏差或者被他人恶意攻击，又会引起新类型的交通事故或者犯罪。在人工智能的深度学习技术方面，犯罪分子可以利用该技术降低犯罪的门槛，提高犯罪的效率，扩大犯罪的影响链条。例如，在我国公安机关于2017年成功破获的全国首例利用人工智能技术破解互联网验证码的案件中，犯罪分子利用人工智能技术打造出一条从盗号撞库、破解验证码到贩卖公民信息、实施网络诈骗的全链条黑产。可以看出，由于人工智能各种新技术的不断落地，利用人工智能技术实施犯罪的不法行为开始展露头面。

二、“工具利用型”人工智能犯罪概念及特点

（一）概念探析

在厘清“工具利用型”人工智能犯罪的概念之前，需要了解什么是人工智能犯罪。首先从技术层面出发，人工智能犯罪伴随着技术的发展会呈现出不同的表现形态。人工智能可以划分为弱人工智能阶段、强人工智能阶段以及超人工智能阶段。目前，我们仍处于弱人工智能阶段。在弱人工智能阶段，人工智能并不会产生独立的思维能力和认知能力，意味着该阶段的人工智能犯罪仅仅指利用人工智能技术实施的犯罪，而不是由人工智能的仿真行为引起的犯罪。因此，高铭暄教授在弱人工智能的范畴内，将人工智能犯罪划分为“工具利用型”犯罪以及“产品缺陷型”犯罪。他认为“工具利用型”犯罪是指行为人利用人工智能实施其他犯罪, 进而造成严重危害社会的后果。在这种情形下, 由于第三方行为人才是实施犯罪行为的主导者, 人工智能产品仅因作为犯罪工具才直接作用于被害人。因此，具体来说，“工具利用型”人工智能犯罪是指犯罪分子将人工智能技术工具化，利用人工智能技术实施相关犯罪活动，从而达到犯罪目的，危害社会的一种新型犯罪方式。该种新类型的犯罪将传统犯罪披上人工智能的外衣，把人工智能技术作为其犯罪的工具，在很大程度上增强了犯罪的隐蔽性、智能性、效率性。

（二）特点

1. 犯罪门槛降低

技术的革新会为人类社会生活带来便利，促进人类社会的进步与发展，但这种便利是双面性的。以侦查为例，侦查人员与犯罪嫌疑人处于一个相互博弈的过程，侦查手段可以通过新技术得以改进，为侦查人员办案提供便利。但与此同时，犯罪分子也会利用新技术更新自身的犯罪手段，降低犯罪成本，提升犯罪能力，使实施犯罪更加容易，也更难被侦查人员所防控。目前，在人工智能技术水平不断提升的前提下，虽然出现了“人工智能侦查”，但是“人工智能侦查”仍然处于初步发展阶段，技术应用尚不成熟，并且许多犯罪分子已经将人工智能技术“犯罪化”，甚至产生了专门利用人工智能技术提供帮助和制造技术工具的犯罪黑产人员，这使得初入门槛的犯罪分子可以通过仅仅购买犯罪工具就能轻而易举地实施犯罪。例如，曾经火爆地下市场的“Black shades”程序软件就被形象地称为“网络犯罪分子的潘多拉魔盒”, 在“Black shades”的帮助下，使用者压根不需要懂得任何技术，用户只需要点击几下鼠标便可以实现攻击。这款恶意软件不仅可以轻易地让目标计算机感染勒索软件，而且还能对目标进行视频和音频监控。“工具利用型”人工智能犯罪就是借助人工智能技术，降低了犯罪的门槛，为犯罪分子打通了犯罪的简易通道，甚至任何一个有创造力的非专业犯罪分子都可以使用。

2. 犯罪效率提升

“君子生非异也，善假于物也”。人类发展史就是一部利用工具提升效率的革命历史，工具的革新往往意味着效率的提升，这对于犯罪同样适用。犯罪分子将人工智能技术作为工具，基于其强大的算法能力，即便是面对海量的数据，也可以在极短的时间内完成普通人在很长时间内都无法完成的数据分析工作。以“快啊答题”打码平台破解互联网验证码为例，犯罪分子通过运用人工智能技术训练机器，可以使机器本身不断自动学习识别验证码，极大提升了单位时间内识别验证码的数量。在未使用人工智能技术以前，技能最为熟练的打码人员识别一个验证码也需要一秒钟的时间，而将人工智能运用于打码，平均一秒就可以实现两千次识别。由此可以看出，通过利用人工智能技术，不仅省去了高昂的人力资本，降低犯罪成本，犯罪效率也得以大幅度提升，犯罪周期得到大幅度缩短，犯罪的危害性更是呈现出成倍递增的趋势。“工欲善其事必先利其器”，犯罪分子将人工智能技术作为犯罪的工具，搭乘科技的顺风车，做到了“事半功倍”。

3. 新型犯罪场景频出

人工智能技术已经广泛应用于语音识别、图像识别、自然语言理解等各个方面，涉及到金融、教育、医疗、旅游、物流等各行各业。可以说，人工智能正在潜移默化地影响并改变着我们的生活。但随着人工智能技术的广泛应用，新的犯罪场景也正在频频出现：利用人工智能深度学习技术将涉黄视频中色情演员的脸部和其他人进行交换，不仅侵犯个人的名誉权，如果进行恶意传播还会扰乱社会管理秩序；利用人工智能技术的超级计算能力代替低效率的人工识别验证码方式进行验证码破解，加速了黑色产业链猖獗泛滥的态势。新型犯罪场景基于人工智能技术的发展而不断涌现，两者之间在一定程度上正是“成就”与“被成就”的关系，人工智能技术运用得越广泛，就会出现越多利用人工智能技术实施犯罪的新型犯罪场景。

三、“工具利用型”人工智能犯罪主要类型及风险分析

（一）色情涉黄类

对于电影制造厂商来说，“换脸术”这一名词也许并不陌生。《阿凡达》《美国队长》《速度与激情》等电影均使用了这一技术帮助完成电影的拍摄，将电影中的人物通过计算机合成看起来栩栩如生。电影中的“换脸术”对技术和设备的要求非常之高，投入的人力和资金量也是非常巨大，但是在2017年出现的“Deepfakes”人脸交互技术彻底颠覆了人们的认知。2017年12月，国外网站“Reddit”上发布了一个涉黄视频，该段涉黄视频的主演是“神奇女侠”的扮演者盖尔·加朵，视频一经发布，立刻引起极大轰动。后来经过查证，该段视频是网友通过利用“Deepfakes”的人脸交互技术，将盖尔·加朵和色情演员的脸进行了交换。而该技术正是基于人工智能的图像识别以及深度学习技术，使得普通人通过电脑就可以将视频人物的脸部进行修改，替换成为其他人的脸部。“Deepfakes”其实是“Deep machine learning”和“Fake photo”的简写，该技术的核心就是一个“自动编码器”，即一个深度神经网络，它可以通过接收数据，并对其进行压缩，然后在这个编码中重新生成原始的输入数据，并不断进行循环往复，模拟学习，进而达到模仿人类学习的目的。而现在“Deepfakes”技术已经在GitHub平台上开源，人们可以在该平台上下载该软件，然后软件通过人工智能强大的算法对上百张同一人物的表情进行识别学习就可以将视频中的人物进行换脸。

除了“Deepfakes”，还存在“Face2Face”“Headon”“paGAN”等大量换脸技术。可以看出，人脸交互技术目前已经成为一种“平民化”技术，人人都可以利用这一技术。技术在平民化的同时也带来了风险，犯罪分子可以轻易地利用这一技术制造他人的淫秽视频并进行传播，人们很难发现该视频是假造视频，这将会影响受害人的名誉权。如果犯罪分子以牟利为目的，将假造的涉黄视频进行大肆传播，可能还会影响到社会公共管理秩序。除此之外，目前国外网络上已经出现利用人脸交互技术形成的涉及政治人物的视频，虽然该类型视频在国外以调侃讽刺等目的为主，但是公安、网信等有关部门要提高警惕，避免该类型视频在国内大肆传播，引发不良舆情事件。

（二）黑色产业链类

随着我国互联网快速发展，利用网络实施的犯罪持续高发，传统违法犯罪活动日益向网上发展蔓延，新型网络犯罪发展迅猛，犯罪手法层出不穷。目前，我国涉及网络的犯罪已占犯罪总数的三分之一。基于互联网强大的传播能力，网络犯罪的危害性不言而喻，尤其是在侵犯公民信息的案件中较为突显。同时，网络犯罪的产业化、链条化趋势也日益加剧，而且各个犯罪之间不再是单链条相互关联，更多的是多个上游与多个下游交叉连接。对黑色产业链条进行分析，可以总结出三条核心链：信息链、资金链和技术链。信息链是指上游犯罪人通过非法手段获取大量公民信息，然后为下游犯罪提供被害对象的相关信息，以便实现精准犯罪。资金链是指利用第三方支付等手段专门转移违法资金的链条。技术链，顾名思义，则是在黑产犯罪中提供技术支持的链条。而“工具利用型”人工智能犯罪正是处于技术链之中，为黑色产业链的下游犯罪提供了极大帮助。

在互联网黑色产业中，不法分子窃取互联网公司数据库之后，需要验证确认账号和密码之间的相对应关系，然后筛选出有价值的数据，这在黑色产业中被称为“晒密”（撞库）。而互联网公司为了保护自身数据库，防御不法分子“晒密”，建立起了验证码验证的安全体系，即需要正确输入网站显示的验证码（包括文字、数字等）才能登陆网站。黑产人员为了反对抗验证码体系，“打码”平台应运而生，并与“晒密”软件合作者合作，建立高效率的信息反馈机制。传统的“打码”平台采用的是人力资源型工作模式，即雇佣大量“打码”人员通过人眼识别的方式输入验证码，在这种方式下，技能最为熟练的“打码”人员每秒钟可以识别一个验证码。而利用人工智能的“打码”平台将传统的“打码”平台的效率极大提升，黑产人员利用人工智能技术训练机器，基于其强大的图文转换技术和深度学习技术，平均一秒就可以实现两千次识别。2017年，公安机关破获了我国首例甚至世界首例运用人工智能破解验证码的案件，这是一条完整的黑色产业链犯罪。“快啊答题”人工智能“打码”平台在此条黑色产业链中发挥着巨大作用，该平台通过上述犯罪机制，接入“晒密”软件100多款，接入用户高达一万余人，在2017年一季度内破解验证码259亿次，累计破解验证码1204亿次。从2016年6月到2017年3月，短短8个月的时间平台资金进账高达1650万元。黑色产业以趋利性为典型特征，高额的回报更加刺激了黑色产业的动力。在该案中，共有43个犯罪团伙被摧毁，90余人涉案被采取强制措施，查获公民个人信息高达10亿余条。利用人工智能实施犯罪的“打码”平台危害之深可见一斑。

人工智能“打码”平台与大量黑色产业勾连，成为数据清洗商重要的帮助工具，严重侵害公民的个人信息安全，其下游犯罪还会侵犯到公民的个人财产等其他权益。除此之外，“打码”平台还可应用于刷单炒信、“薅羊毛”、“黄牛”抢号、网站“水军”等需要大批量账号登陆的违法犯罪行为。而黑色产业链中的违法犯罪行为在借用人工智能技术之后，危害性必将爆炸式倍增，呈现出影响扩大化、后果严重化的趋势。因此，利用人工智能的黑色产业链违法犯罪行为，其背后的犯罪风险不容忽视。

（三）电信诈骗类

在该类型犯罪中，具体可以分成两类，一类是是黑色产业链类的下游犯罪，其预备行为是人工智能犯罪。例如，在我国首例人工智能打码的黑色产业链犯罪中，就存在被害人因好友QQ账号密码被人工智能打码平台非法获取后转卖给诈骗集团而被诈骗，进而造成财产损失的情况。

第二类是在实施电信诈骗的行为过程中利用人工智能技术伪造、模拟仿真声音。在央视播出的一档节目中，一个智能机器人经过训练就可以模仿特定人的声音与情绪并与人交流，该智能机器人正是利用了人工智能技术中的自然语言理解技术和自动语音识别技术。只要取得特定人一定数量的语音样本，并进行模拟学习，就可以发出特定人的声音，以假乱真，极大缩小了自然语言与人类语言的差距。该项技术可以应用于模拟亲人的声音去陪伴老人或者孩子，甚至可以让“哑巴”重新说话。但是其背后隐藏着巨大犯罪风险，电信诈骗的犯罪分子如果利用该项技术，伪装成被害人亲友的身份进行诈骗，将在很大程度上提升诈骗的成功率。除此之外，现在的人工智能技术还可轻松地完成对人脸的复制，这意味着该项技术一旦被犯罪分子滥用，身份识别就会成为一个大问题。目前，国外已经公开报道全球第一起人工智能电信诈骗案，犯罪分子通过人工智能技术伪造公司高管声音与下属打电话，并要求其将公司账户的钱款转移至特定账户，导致公司损失22万欧元。虽然我国目前还没有出现将人工智能技术用于伪装身份进行电信诈骗的案件，但我们并不能忽视人工智能技术在这一方面的风险。必须意识到，当一两件人工智能犯罪事件浮出水面，就意味着其背后也许成千上万的人已经遭遇了同类诈骗。

四、“工具利用型”人工智能犯罪治理

“工具利用型”人工智能犯罪可以拆解为人工智能+犯罪，在弱人工智能时代，人工智能技术本身并不存在犯罪与否。因此，针对该类型犯罪，治理的重点并不在于人工智能技术，而是在于消除人工智能与犯罪之间的“+”，所以，要从“使用”和“管理”的博弈角度出发，将重点放置于“管理”上。一方面，继续鼓励发展和运用人工智能，不能因为出现利用人工智能实施犯罪的行为就单方面扼杀人工智能，这是明显不可取的。另一方面，要着重注意对人工智能技术的合理监管，保持好天平的平衡，最大程度控制由人工智能带来的犯罪风险。简而言之，人工智能在作为社会治理的一项技术的同时，仍要将其视为社会治理的对象。对于如何做好“管理”，笔者认为可以从以下三个方面努力。

（一）政企互动，共创安全

为了预防人工智能不恰当的应用引发新类型犯罪或者社会问题，应为人工智能的研发和应用设置边界。首先，在国家大力提倡发展人工智能的前提下，政府和人工智能技术企业要加强合作，政府为技术发展提供便利，企业则要做到合法合规发展，合法合规运用，做到核心技术不外泄，避免被别有用心分子加以利用实施犯罪；其次，政府要为人工智能的发展明确标准，配套相应制度。除此之外，可以采用政府主导形式，倡议各企业联合建立“伪造数据库”来检测这些“深度伪造”的产品。新形势下，有必要明确人工智能技术发展的标准，为人工智能的发展配套相应制度，建立人工智能安全监管和评估体系，明确“可为”与“不可为”，避免人工智能“工具化”的泛滥使用。

（二）行业自律，保障发展

行业自律主要有两个角度，一是行业对国家法律法规的贯彻与遵守，二是对行业内部规制本行业行为的行规行约的遵守。从依靠行业自律引导行业发展的角度出发，就要促进人工智能行业自律，目前而言，一是在人工智能法律层面的监管措施需要尽快出台，加强对人工智能犯罪的法律解释工作。由于目前人工智能并未发展至强人工智能，所以现行法律体系框架对当前“工具利用型”人工智能犯罪仍具有约束力。但是针对该种新型犯罪，现有的法律条文在具体运用之时存在一定困难，主要是具体罪名的运用，帮助犯的界定，主体责任归属等存在争议，因此，有必要加强对有关人工智能犯罪的罪名的法律解释工作，帮助公检法机关更好地使用法律武器，加大对违反法律法规的企业的惩罚力度，加强法律威慑力，保证人工智能行业对法律法规的敬畏。二是要保障人工智能行业内部自身行规行约的有效约束力。鼓励人工智能行业组建人工智能发展协会，广泛吸纳人工智能企业入会，采取会员制度，对入会会员提供相应的政策优惠，并制定行业发展自律条例，要求入会企业共同遵守，并将违反行规行约的企业纳入行业黑名单，采取相应的惩罚措施。同时，还应鼓励企业内部制定企业发展自律规定，并要求切实遵守。发挥行业自律在人工智能技术发展中的积极作用，对人工智能行业的正确发展具有重大意义。规范行业自律，保障行业发展，当行业自律成为常态之时，人工智能犯罪治理就会更加轻而易举。

（三）以“技”治“技”，治理犯罪

以“技”治“技”，就是通过人工智能技术治理人工智能犯罪。一是加强人工智能安全技术研发。首先从技术者的思维出发，思考研发出的技术产品可以运用于哪些方面，而一旦将其运用于此，又会带来怎样的风险，即从源头思考犯罪，识别风险。以自然语言处理技术为例，技术者在研发之初是将其应用于语音识别、智能交流等方面。但与此同时，我们应该思考该技术是否会带来伪装他人声音进行诈骗的犯罪风险。其次，在识别风险的基础之上，应强化人工智能产品和系统网络安全防护，政府相关部门要加大对人工智能安全管控的各项投入, 建立防范高科技犯罪实验室, 深入研究、预防此类新型犯罪，并围绕人工智能技术产品潜在的不确定性和危害性，制定救济措施，研发相应的安全反制技术，最大程度降低“工具利用型”人工智能犯罪所带来的犯罪风险。

二是确保人工智能安全技术应用落地。即利用技术者的技术，主要以侦查机关为主体，以人工智能安全技术作为强力保障。在犯罪分子的犯罪技术不断革新的形势下，侦查机关治理犯罪的技术也要“顺应潮流”。“工具利用型”人工智能犯罪是将人工智能作为犯罪技术，而侦查机关可以将人工智能作为侦查技术以此来治理人工智能犯罪。人工智能走进侦查已经是必然趋势，作为第五代侦查技术，“人工智能侦查”虽仍处于初步发展阶段，但以“技”治“技”的侦查技术所带来的效益是不可忽视的。人工智能侦查不仅可以创新侦查模式，而且可以丰富侦查技战法，并进一步提高侦查效率、降低侦查成本。以人工智能技术换脸为例，技术者可以研发出人工智能识别系统，通过人工智能技术识别一般检测工具根本无法识别的伪造视频。美国国防部已经研发出“反AI变脸刑侦检测工具”，该工具专用于检测换脸造假技术，其工作原理是通过AI分析假视频一般不会表现出眨眼、呼吸和眼球运动等特征，检测出图像或视频中的脸是真实的还是AI生成的。可以看出，技术本身不分“善意”还是“恶意”。针对“工具利用型”人工智能犯罪，要充分运用人工智能技术，加强与人工智能企业等科技企业的合作，扩大“人工智能侦查”所能应用的场景。

利用技术者的技术，应加强人工智能安全技术的研发，并由侦查机关作为实施主体，将人工智能技术作为治理犯罪的有力工具，转被动防御为主动防御，不断增强技术防控识别和治理能力，做到“魔高一尺，道高一丈”。

五、结语

如今，我们已经处于一个即将迎来人工智能时代的节点时期，在这个时期，人工智能技术带来了大量的不确定性。人工智能犹如一把枪，用在好人手里可以惩奸除恶，用在坏人手里则是为虎作伥。因此，有必要针对人工智能技术本身的应用场景，对其犯罪的背后风险进行分析判断，提前打好“预防针”，并且采取相关措施，平稳化解人工智能犯罪背后隐藏的风险，维护社会稳定。