徐永胜 冯 俊 张 敏

为了深入学习贯彻习近平总书记关于打击治理电信网络诈骗犯罪的重要指示批示精神,坚持“四专两合力”(1)“四专两合力”是指“专题研究、专门队伍、专案攻坚、专业技术,抓好内部合力、促成外部合力”。的总体思路,推动全面落实《中华人民共和国反电信网络诈骗法》(以下简称《反电信网络诈骗法》)和中共中央办公厅、国务院办公厅《关于加强打击治理电信网络诈骗违法犯罪工作的意见》(以下简称《意见》),本文基于第二届新型网络犯罪治理智库论坛(2)2023年7月15日,全国新型犯罪研究中心浙江分中心、浙江警察学院新型犯罪研究中心在杭州举办了第二届新型网络犯罪治理智库论坛。与会领导、专家聚焦“人工智能技术背景下新型网络犯罪的创新治理”这一新时代命题,深入研讨新型网络犯罪治理的理论构建与实践探索。新型网络犯罪治理智库论坛每年举办一次,旨在汇聚各方才智,共同探讨新型网络犯罪治理的新思路、新方法、新举措,并形成智库研究报告,报送上级公安机关作为决策咨询参考。论坛搭建政府部门、公安机关、科研院所、行业企业等研讨平台,形成常态机制,以进一步凝聚共识、形成合力,为推动新型网络犯罪治理工作科学化、技术化和法治化作出积极贡献。的主要学术观点,以综述形式研究人工智能技术背景下新型网络犯罪的态势特征和规律,探讨打击治理新型网络犯罪的新策略、新技术和新方法。

一、当前新型网络犯罪的发案形势、存在问题及刑事政策选择

(一)新型网络犯罪的态势和特征

浙江省公安厅刑侦总队副总队长王火剑介绍了浙江省电信网络诈骗犯罪发案量的变化趋势,指出当前电信网络诈骗犯罪案件整体处于高位运行,损失数和发案数不断攀升,新型网络犯罪案件占比不断提高。

杭州市人民检察院法律与政策研究室副主任董彬梳理概括了杭州市新型网络犯罪案件的特征。一是网络犯罪案件在审查起诉案件总量中的比重持续提高;帮助信息网络犯罪活动罪成为网络犯罪的第一大罪;上游犯罪持续增加、电信诈骗案件数量持续下降。二是电信网络诈骗犯罪被害人来源多元化。犯罪人通过网络爬虫、钓鱼网站、短视频、直播等方式将被害人引流至犯罪场域。三是犯罪人诈骗工具多样化,包括批量注册账号、嗅探工具等。四是洗钱方式多渠道。除了传统洗钱方式之外,还包括“空包”交易、虚拟商品交易和直播代币打赏洗钱等新渠道。

(二)打击治理新型网络犯罪过程中发现的问题

关于案件高发多发的原因,王火剑认为主要是公民个人信息泄露严重、犯罪引流层出不穷、洗钱方式多种多样、一条龙式的犯罪技术支撑服务、诈骗窝点盘踞境外、相关部门监管履职不到位和群众防骗意识不够等方面。浙江警察学院侦查系副主任徐永胜副教授认为,当前打击侧的主要问题是“打不着、打不到、打不深、打不透和打不完”。“打不着”是侦查能力问题,“打不到”是司法管辖权问题,“打不深”是考核问题,“打不透”是法律问题,“打不完”是庞大的犯罪人口问题。事物的性质是由主要矛盾和矛盾主要方面决定的,电信网络诈骗犯罪持续“高发多发”“打不胜打”“防不胜防”的矛盾主要方面就是存在数量庞大的犯罪人口问题。苏州市公安局法制支队支队长周祺海认为,当前电信网络诈骗犯罪手法层出不穷、犯罪高度融合互推,以及黑灰产业推波助澜、犯罪日趋专业精准、网络侵财犯罪持续攀升、被害人不稳定情绪的酝酿爆发等因素,增加了侦查打击的难度。中国建设银行浙江省分行反洗钱中心主任金蔚琳分析了商业银行在反诈骗工作的痛点,包括支付结算与反电信网络诈骗(以下简称“反电诈”)的矛盾、商业银行尽职调查身陷困境、信息壁垒影响风险防控成效、各自为政、难以形成打防合力等。

(三)刑事政策选择

浙江警察学院院长金诚教授提出,从战略上看,要将坏事变为好事,新型网络犯罪发展态势将倒逼公安机关体制、机制和技术变革,打击治理新型网络犯罪必须坚持总体国家安全观,以科技驱动变革推进公安工作现代化,依靠人才、技术和法治来化解新型网络犯罪形成的风险与挑战,不断健全共建共治共享的新型网络犯罪治理制度,提升治理效能,尽快遏制新型网络违法犯罪蔓延扩张的态势。

王火剑阐述了浙江省公安厅打击治理电信网络诈骗犯罪的基本思路:“打防治并举,以防为主,以打为要,以治为基。”在这一思路指引下,新型网络犯罪治理的主要策略包括三个方面。一是推进反电诈综合治理体系化。开展反电诈指数评价机制、追赃挽损机制、创新省域合作集群打击机制和严格执行《反电信网络诈骗法》等机制建设;建立省、市、县贯通的反电诈体系,构建省、市、县高水平研判梯队,构建完善的督导考核体系。二是开展反电诈综合应用集成改革、警企融合技术反制等改革创新。三是抓好重点工作。打击治理电信网络诈骗犯罪的重点工作包括预警劝阻、资金管控、重点打击、灰产治理、技术反制、重点人员管控和宣传防范等。

徐永胜评析了近10年来打击治理电信网络诈骗犯罪的刑事政策。一是刑事立法政策突出预防性立法倾向。《中华人民共和国刑法》系列修正案不断将预备行为(3)参见陈兴良:《网络犯罪的类型及其司法认定》,《法治研究》2021年第3期。和帮助行为正犯化,(4)参见熊亚文:《从共犯论到法益论:帮助行为正犯化再审视》,《法学》2021年第8期。导致轻刑配置的罪名大量适用,帮助信息网络犯罪活动罪已经成为打击新型网络犯罪适用较多的第三大犯罪类型。这可能导致公安机关在实践中为优先满足考核而选择最容易打击的涉“两卡”、架设“线路”、提供互联网账号等帮助行为,而相对忽视或者减少对核心犯罪团伙的侦查打击,导致对新型网络犯罪疑难案件侦查能力的弱化。二是刑事司法政策坚持少捕慎诉慎押政策。最高人民法院于2010年印发《关于贯彻宽严相济刑事政策的若干意见》,实行宽严相济的刑事政策,而当时的背景是传统犯罪即将达到顶峰,新型网络犯罪正蓄势待发。公安机关作为犯罪前端感知部门,判断电信网络诈骗犯罪将来势凶猛。为此,公安机关积极发挥大兵团作战优势,坚持产业链打击策略,不惜通过“远洋捕捞”方式抓获了庞大的诈骗集团,但是,大量犯罪嫌疑人被人民检察院、人民法院以弱关联、缺乏本地被害人而缺乏管辖依据等为由拒绝受理。这表面上是公检法缺乏统一执法思想,实际上是司法资源配置存在问题。实际上,检法司法资源配置地方化无力消化新型犯罪网络化带来的庞大犯罪人口问题。在当前新型网络犯罪高发多发的情况下,我国的刑事政策需要调整。以电信网络诈骗为代表的新型违法犯罪规模、犯罪能力水平、犯罪数量和犯罪组织程度、发展速度等已经超越现有刑事政策可承受的限度,国家需要采取比较严厉的刑事反应,针对“乱世”需要用重典、出重拳、下重手。(5)参见徐永胜、许韬:《跨境电信网络诈骗犯罪规律特征与对策研究》,《青少年犯罪问题》2021年第4期。三是刑事社会政策执行表现为从传统价值观失控到犯罪群体失控,再到蛮力劝返。当前,我国传统犯罪减少,新型网络化犯罪增加,传统价值观失控,部分地区的犯罪群体深受犯罪亚文化支配,体现出群体无意识的特征,大量基于地缘、亲缘、血缘等社会关系的人员以集体组团方式实施犯罪。全国多地的犯罪群体管控失灵,从东南沿海到中西部地区形成了若干个地域性职业犯罪群体。(6)参见徐永胜、徐公社、韩冰:《地域性职业电信网络诈骗犯罪及其侦防对策研究》,《山东警察学院学报》2018年第1期。国务院打击治理电信网络诈骗犯罪联席会议办公室对电信网络诈骗犯罪群体集中的重点地区和突出地区进行挂牌整治。之后,全国多地陆续对非法滞留缅甸北部、阿联酋、金三角地区等境外国家(地区)人员作出惩戒决定,采取强力措施,例如一律注销户籍、暂停电话卡业务等。在这一刑事社会政策执行过程中,新型网络诈骗犯罪行为人主要从我国台湾地区开始出现,之后发展到大陆东南沿海地区的人员参与,再蔓延形成全国性、地域性职业犯罪群体,并向东南亚、非洲、中亚、欧洲等世界多地转移。核心的犯罪人口还是大规模存在,诈骗集团金主隐藏得很深。尤其是缅甸诈骗园区问题的存在,(7)参见周鑫:《缅北民族地区跨境诈骗问题及其治理》,《广西警察学院学报》2021年第2期。导致从事诈骗的犯罪人口居高不下。

基于当前背景下打击治理新型网络犯罪的未来刑事政策选择,徐永胜建议,将“降低电信网络诈骗犯罪人口”作为犯罪防控的第一战略。这一战略围绕“降低犯罪人口”,具体包括刑事司法机关统一执法标准、公安机关建立和完善远程打击机制、公安机关持续推进打击偷越国边境犯罪、公安机关依法实施限制出境措施、地方政府依法持续实施劝返工作、政府部门建立和完善惩戒机制、地方政府建立犯罪群体预防的宣传机制、司法机关建立犯罪群体的再犯罪风险防控机制等八大综合性措施。

二、数字化打击治理电信网络诈骗犯罪的浙江模式

随着社会数字化转型,电信网络诈骗犯罪实现了远程化、工业化、智能化,给公安机关提出了严峻挑战。公安部有针对性地开展了“断卡”“断流”“断号”“断链”等专项行动。浙江省公安机关立足数字化发展大省、数字化改革强省和数字经济强省的地域特色,不断推进公安数字化改革,开展以体制、机制和技术改革“三轮驱动”为主要标志的“公安大脑”建设,(8)参见林峰:《“公安大脑”建设与警务现代化:价值意蕴、逻辑建构和实践探索》,《浙江警察学院学报》2022年第6期。使得数字化打击治理电信网络诈骗犯罪成为必然趋势。嘉兴市公安局刑侦支队侦查中心专职副主任孙伟从打击实践出发,认为“断流行动”是公安部坚持源头治理、系统治理等思维,从根源上减少犯罪行为人的重大举措。嘉兴市公安局坚决贯彻公安部专项行动部署,结合浙江公安数字化改革——“公安大脑”建设,通过部督专案,总结提炼“断流行动”数字融合战法的基本原理、数字化侦查技术方案、步骤清晰的基本流程、多种类型应用场景、完善的配套机制等战法框架内容,不断丰富“断流行动”典型经验战法,为全国公安机关提供“浙江方案”。

衢州市公安局刑侦支队副支队长李道仲总结了“断卡”行动的数字治理模式,其基本原理为公安机关依托党委政府的决策部署,协同银行机构、通讯运营商、第三方支付机构等相关行业监管部门,依托大数据、互联网、人工智能等科技手段,搭建统一归口的数据资源库,运用针对性算法模型实时开展数据分析,从中精准识别预备行为和犯罪行为,即时推送情报、开展落地管控,高效开展犯罪预防和精确打击,实现涉案“两卡”源头管控治理。

三、商业银行反诈骗治理实践及政策建议

金融领域是反诈骗的三大重要领域之一,在打击治理电信网络诈骗犯罪中涉及尽职调查、涉诈异常账户识别、提供侦查溯源支撑、风险防控等制度机制建设。金蔚琳从中国建设银行浙江省分行反电诈工作体系出发,阐述浙江省分行反赌反诈反洗钱风险防控工作专班开展客户管理、账户管理、商户管理、产品和渠道管理、反洗钱牵头管理、中后台支撑等工作内容,建立起“模型托底、系统支撑、机制驱动”的商业银行反电诈工作方法。一是积极贯彻落实监管要求,主要从疑似嫌疑人角度开展工作。总结涉案账户特征,主动开展可疑账户排查与管控,加强新开户与睡眠户激活管理。搭建省分行特色反电诈系统,深入开展警银合作,从疑似嫌疑人与潜在被害人两个角度分别开展工作。积极寻求总行支持,融合疑似嫌疑人与潜在被害人两个角度进行穿透关联。深化金融科技应用,利用大数据技术分析疑似嫌疑人与潜在被害人的交易,深入挖掘可疑线索,有效扩展监测范围。二是建设反诈智能系统。通过与浙江省公安厅多跨反诈联盟链、衢州市公安局“智卡通”平台、中国人民银行“云互联”等系统对接,实现黑灰名单、可疑账户、涉案账户、“预警码”保护性止付等信息的实时交互。

金蔚琳提出完善反诈骗对策的五项建议。一是建议市场监管和民政部门关口前移,拦截风险,强化源头治理。市场监管和民政部门应加强对“空壳公司”“虚假社会组织”注册、登记审核环节的识别和拦截,从源头把控风险。二是由于商业银行的核心系统建设及功能优化权限均在总行层面,且省分行层面难以实现跨省管控,因此,为了实现客户维度的统一风险管理,建议以“总对总”方式向各商业银行法人层面推动系统建设及功能优化工作。三是针对目前不同金融机构记载交易记录的形式各不相同,甚至个别支付机构和银行还存在交易记录不全的情况,建议金融监管部门对交易记录的记载和保存要求加以统一规范,明确数据采集标准,以便对跨机构资金穿透分析。四是建议金融监管部门搭建信息交互平台,实现所需客户、交易信息的交互,加强同业之间信息共享、风险共治。五是鉴于浙江省分行通过“请君入瓮”已拦截大量涉案资金,但后续处置方式尚不明确的情况,建议政府部门以拦截资金为基础形成救济金,为“因骗致贫”的人提供适当的经济补助。

四、以被害人为中心的多维预警技术路径构建

关于如何构建电信网络诈骗犯罪的多维预警措施,中国刑事警察学院新时代犯罪治理研究中心执行主任刘道前教授提出以下三点建议。

首先,反电诈工作的重点是依托国务院部际联席会议机制和公安机关“406”机制(9)“406”机制是指公安机关内部针对电信网络诈骗案件所建立的一套快速响应、联动处置的工作机制。,坚持“一个根本遵循、一个总体思路、两条工作主线”,即以习近平总书记重要指示精神为根本遵循,以“四专两合力”为总体思路,以贯彻落实《反电信网络诈骗法》和《意见》为主线,以遏制电信网络诈骗犯罪高发态势。

其次,落实源头治理、综合治理和系统治理的理念。电信网络诈骗犯罪在本质上与传统犯罪相同,都是犯罪嫌疑人借助犯罪工具,侵犯被害人权益。其特点在于不断借助新兴技术实现诈骗方式的升级转型。对此,只打击治理电信网络诈骗违法犯罪的某一个或几个环节,难以遏制案件高发,无法实现打击治理的法律效果和社会效果的有机统一。因此,打击治理电信网络诈骗需要落实源头治理、综合治理和系统治理的理念,结合电信网络诈骗的特征,有针对性地施策。具体来说,要从严打击治理犯罪主体,加强对涉诈人员的管控、惩治;逐步提高人民群众识骗防骗的能力,有效降低被诈骗对象的数量;尽快健全金融、互联网、通讯等领域的技术规则,避免其沦为犯罪介质;建立健全法律法规,为打击治理电信网络诈骗提供完善的法律支撑;适时开展“断卡”“断流”“断号”“清源”“净边”等专项行动,做到电信网络诈骗案件“三定五清”(10)“三定”是指定人、定案、定位;“五清”是指搞清窝点位置、窝点人员、金主、资金通道和技术开发等五个方面。。

最后,以被害人的信息为基础构建反制技术路径。相对于各行业、各企业监测模型产生的预警数据,来源于电信网络诈骗案件被害人的信息最为精准。例如,诈骗团伙提供给被害人的账户(含银行账户及支付账户)等资金转移通道,与被害人建立联系的电话号码、即时聊天工具的账号、互联网账号(户)等通讯联络工具,被害人接收到的短信、链接、访问过的APP、域名等,都是准确的涉诈信息,能为预警提供依据。以电信网络诈骗案件被害人的数据信息为基础,构建资金侧、通讯侧、人员侧及综合研判结果的多维预警措施。当然,落实以被害人信息为基础的多维预警措施,需要具备一定的法律依据、政策保障及风险防控。对此,需要加强研究和论证。例如,通过研究电信网络诈骗案件被害人的数据信息,以此类数据信息为基础构建的资金侧、通信侧、人员侧及综合研判结果的多维预警措施。又如,针对个体被害人的账户、通信(互联网账户、电话、短信、网页)、个体生物信息(声音、外貌或者其他生物信息)等信息为基础构建反制技术路径。

五、关于新型网络犯罪的法律适用与证据体系

周祺海认为,当前打击新型网络犯罪的法律适用中存在共同犯罪认定困难、法律认知存在障碍和难以有效获取证据等难点。在法律适用方面,要健全针对涉网新型犯罪的立法体系,增设相关罪名,明确法律运用的统一思维和共识;在证据证明方面,要融合侦查取证手段,依托大数据构建间接证据证明体系,构建“蜂巢型”系列性的证据体系。

董彬总结了网络犯罪中存在的法律争议问题,包括虚拟币性质认定存在重大分歧、管辖争议越来越突出和共同犯罪的赔偿等,并由此提出新型网络犯罪治理的三点建议。一是坚持全链条打击,提升网络犯罪的成本。要切断网络犯罪与上下游犯罪的联系,斩断网络犯罪产业链,击溃网络犯罪产业链的中下游,揭破网络犯罪隐蔽性的伪装。其中,要重点打击引流、账号、资金三个层面。二是加大有关打击治理网络犯罪的宣传力度,加强以案释法。例如,制作防诈骗网络犯罪小视频、开展案例宣讲会、积极回应热点关注的自诉转公诉的诽谤案等宣防措施。三是检察机关要善用检察建议,推进综合治理。要以办理案件为切入口,联合行政主管部门对电信、银行、互联网科技公司的黑灰产业进行综合治理。

六、关于新型网络犯罪数字化侦查取证技术

数字化犯罪的主要表现形式是通过数据流实现犯罪,数字化犯罪的证据形式主要是电子证据。侦查起诉新型网络犯罪主要依靠电子证据证明犯罪过程。公安机关实战专家围绕电信网络诈骗犯罪中涉及的诈骗信息源头、传递环节、到达被害人终端设备等进行全流程、数字化侦查取证。为此,需要发展犯罪数据采集、分析挖掘和溯源重构等技术。

(一)涉案聊天类App调证线索挖掘与数据分析

山东省滨海公安局刑侦支队任风凯认为,在涉网新型犯罪中,犯罪人往往通过聊天类App进行引流,然后通过博彩、投资网站实施诈骗。涉案网站的服务器一般都在国外,难以实现调证和线索溯源。在这种情况下,聊天类App中嵌入的IM即时通讯服务的聊天数据就相对较为重要,不仅可以实现重要线索的溯源,而且可以实现案件的串并和预警。

(二)整合行业数据形成侦查资源库

合肥市公安局网安支队陆宇认为,网络违法犯罪已经具备了“去中心化”特征。这里的“去中心化”,不是没有中心,而是现在网络犯罪中的每个环节都可以作为中心、单独成案,根据需求对灰黑产的环节直接组合,多重组合的违法犯罪行为明显。许多黑灰产从业人员利用擦边球的方式直接或间接从事涉网络犯罪行为。侦查部门进行体系化行业资源整合已成为打击网络违法犯罪的必然要求。

(三)人工智能技术在新型网络犯罪打击中的应用

上海市公安局宝山公安分局刑事科学技术研究所胡轶川认为,伴随着网络犯罪的日益增长,服务器在网络犯罪整个链条中担任了数据存储和数据交换的重要作用。因此,服务器取证溯源已成为互联网犯罪打击工作中线索的重要来源。在人工智能席卷全球各行各业的浪潮下,利用人工智能技术辅助的新型服务器取证系统的需求也日益凸显,利用“AI+服务器”取证方向包括取证辅助、攻击行为分析、日志分析和代码分析。

(四)关于电子数据引领新型涉网犯罪侦查工作

扬州市公安局刑侦支队电子物证室主任石峻宇提出,侦查部门需要推广基础数据采集理念,以便开展解析、调证、探索分析,以提高成案效率。如何利用数据,深度挖掘涉案账户相关信息、日志、通讯号码、常用设备、IP、IM内容等研制出案件情报,进而引领新型涉网犯罪侦查工作,是精准有效打击的关键。

七、关于网络暴力犯罪治理

江苏警官学院侦查系教研室主任焦海博副教授提出,网络暴力犯罪治理存在七个难题。一是定义难。对“暴力”“网络暴力”“网暴与评论”“批评”等概念界定难。二是识别难。涉及“精准识别与避免误伤”“合理识别与平衡保护”等问题识别难。三是定罪难。涉及侮辱、诽谤、寻衅滋事、故意伤害、强制猥亵等行为定罪难。四是取证难。涉及被害人自己取证、网络服务商配合、公安机关协助取证、伤害程度等取证难。五是鉴定难。涉及身体实际伤害、精神伤害、自杀伤害等鉴定难。六是因果关系证明难。涉及网络群体性行为、伤害来源等证明难。七是预防难。网络暴力涉及萌芽、轻微、扩散等犯罪阶段,处置涉及民行规制、教育或是惩罚、删除信息、封账号、罚款等环节。网络暴力传播速度快与处置相对滞后的矛盾,导致预防难度非常大。归结起来看,就是语言行为规制的经典难题、暴力行为规制的经典难题、网络行为规制的经典难题。焦海博认为,网络暴力犯罪治理的应对策略主要在两个层面:一是在逻辑层面,应明确治理的理念、制度、规则;二是在路径层面,须建立事前预防机制、事中监管机制和事后追责与救济机制。

八、AI技术发展引发的潜在风险与对策措施

(一)AI技术应用场景与潜在风险

人工智能(Artificial Intelligence,AI),是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及其应用系统,是新一轮科技革命和产业变革的重要驱动力。但是,AI技术也给电信网络诈骗治理带来了很大的挑战。AI技术应用不仅大大提高了对潜在被害人筛选的精准度,大大提高了电信网络诈骗的迷惑性和成功率,而且加大了电信网络诈骗案件的打击难度。同时,AI技术应用还有进一步扩大的风险。不仅如此,AI技术应用是基于公民个人信息的过程,这带来了数据安全和个人隐私受侵害的问题。

国家互联网应急中心高级工程师张震提出,ChatGPT火爆的背后隐藏着一系列风险,包括竞争模式重塑、网络生态变化、信息安全风险、科技伦理问题和产业格局冲击等。徐永胜认为,人工智能犯罪风险不断增大,技术可能赋能新型网络犯罪,人工智能犯罪构成的根本独特性和可能威胁主要体现在利用深度学习、虚拟现实等人工智能算法深度伪造合成文本、图像、音频、视频、虚拟场景等,这将不断增强新型网络犯罪的犯罪能力和危害后果,也对刑事法律适用和技术反制提出了重大挑战。

中国人民公安大学侦查学院院长助理王晓伟副教授认为,AI技术安全在本质上是模型算法的安全。电信网络诈骗行为逻辑的两个核心点就是通讯联络和信任。AI技术在电信网络诈骗中的运用主要是在引流和诈骗两个环节。在引流环节主要有三个应用场景。一是AI模拟真人群呼。这是一个人工智能语言模拟真人声音、支持自动拨号、自动应答。二是AI虚拟直播。运用人工合成的技术和虚拟现实技术,通过模拟主播的言行和外貌进行自动化或者半自动化的AI虚拟直播。AI主播可以根据计算机设定的程序,包括语音合成、面部表情和动作模拟完成,这可以大大降低犯罪成本,还可以实现24小时不间断的操作。三是AI的短信群发。AI的短信群发是将文本信息转化为云文件,或者将虚假的照片、图片进行深度包装,再给客户发送短信。这样可以实现虚假内容、虚假网站等诈骗信息的自动化群发。在诈骗阶段也主要有三个应用场景。一是智能挖掘被害人。首先在网上发布各类头像、视频,根据所要实施的骗术,通过AI技术对诈骗对象进行网罗和筛选。先通过灰色营销,添加众多潜在被害人的微信、QQ,再对他们进行评估和筛选,以提高诈骗的效率。二是自助维持关系。通过AI爬虫技术模拟机器和人的聊天,以及智能主播,将大量受害者进行自动化的关系维持。三是深度伪造个人信息。主要伪造语音、图片。在声音合成方面,犯罪人先借用骚扰电话去获取声音,从而拥有伪造的样本去诈骗对方。包括人脸伪造,通过AI合成实时视频。

(二)AI技术的监管制度

张震总结了各国AI的应用控制措施:意大利、德国、加拿大等国加大数据隐私保护力度,采取相关限制措施;欧洲数据保护委员会加强数据保护;欧盟议会推进欧盟人工智能法案立法,开展责任链条、生成式内容、基础模型等分层监管;欧盟推出针对生成式人工智能的新版权规则;美国通过政府部门建立监管机构、监管原则、责任主体等的问责制。

针对AI发展引发的潜在风险,张震认为关键是要让“价值观合规”,确保内容安全可控。价值观合规要求生成内容真实准确、不得含有歧视性信息、不得侵犯他人合法权益。一是要体现社会主义核心价值观。网络信息内容生态治理以培育和践行社会主义核心价值观为根本。鼓励网络信息内容生产者制作、复制、发布弘扬社会主义核心价值观的相关信息内容。二是新增训练数据要合规。不仅训练数据来源要合规,而且训练数据自身也要合规。三是要明确程序与实体的监管要求。具体包括申报安全评估和算法备案、用户实名认证、信息留存限制、内容标识义务,以及防止网络沉迷的强制性规定。四是要明确针对生成式人工智能的精细化监管要求。具体包括产品研制中的标注要求、用户投诉及侵权内容的处理要求、服务稳定性的要求、模型优化义务和信息披露义务等。

王晓伟提出了针对涉AI技术犯罪的四个方面策略。第一,完善立法,加强监管。《生成式人工智能服务管理暂行办法》《中华人民共和国数据安全法》《中华人民共和国公民个人信息保护法》《反电信网络诈骗法》《互联网信息服务管理办法》等法律法规和部门规章初步搭建起AI技术应用及安全的框架。但是,对于相关AI技术的数据传输、存储、共享环节的监督落实、对于涉诈风险较高的AI技术应用管理方式等方面仍需要完善。除了要求从事AI技术和业务的主体加强自律之外,还需要加强对重要的AI技术的监管。第二,一案双查,联合治理。AI换脸、云合成等技术在诈骗中的运用是以被害人亲朋好友的面容、声音这些素材为基础的,而这些生物信息都是被法律保护的公民个人信息。在办理案件中要坚持一案双查,在打击诈骗犯罪的同时,严厉打击各类侵犯公民个人信息的行为。第三,加强反制,以技术对抗技术。坚持以技术对抗技术的理念,推动相关执法部门和企业加强反制技术的研发应用,如在线监测工具,加强对网站平台信息发布的监测,用AI安全技术对抗AI诈骗技术。第四,重点宣传,提升防范认知。对应用AI技术实施的电信网络诈骗或是冒充领导、熟人的诈骗,都应针对性地开展宣传,让更多的群众了解各类诈骗的模型和案例,认识其危害,掌握一定的诈骗识别方法,并在日常生活中做到不轻易提供人脸等个人生物信息给他人,不过度公开或分享个人信息。

九、开展网络空间综合立法,健全网络综合治理体系

浙江省社会科学院法学研究所所长王崟屾研究员认为,党中央高度重视互联网,发展互联网和治理互联网,统筹协调涉及政治、经济、文化、社会、军事等领域信息化和网络安全的重大问题,逐渐形成了网络强国战略思想。王崟屾提出,要加强网络综合治理立法的浙江探索,建议开展名为《浙江省网络综合治理条例》的立法工作,在浙江省开展依法治网新体系建设,在构建省域依法治网体系上率先突破,全面推进网络空间法治化。依法治网新体系主要包括完备的互联网地方性法规的规章体系、高效的互联网法治实施体系、严密的互联网法治监督体系、完善的互联网法治保障体系和互联网党内法规制度体系。作为习近平法治思想重要萌发地、网络综合治理体系建设先行省,浙江有条件、有能力在网络综合治理领域的立法方面有所突破、有所作为,为健全网络综合治理体系提供“浙江方案”。这是国家所需、浙江所能、群众所盼和未来所向。王崟屾建议秉持“立足当前、着眼长远”的基本立法理念,通过立法重点解决“谁来治理,如何治理”问题。在法律框架方面,建议采用总则、领导管理、正能量传播、生态治理、社会协同、技术治网、法律责任等篇章。

十、关于AI背景下新公安人才培养的探索

中国人民公安大学侦查学院院长助理唐云祁副教授围绕“数据侦查”实验班这一人才培养新模式,提出“数据侦查学”是信息技术与侦查学、刑事科学技术最前沿的交叉融合学科,是应对新型犯罪的新兴学科发展方向。“数据侦查学”是新文科与新工科建设的突破口,可以成为公安学和公安技术学科建设的重要增长点。当前,数据侦查人才是实战单位需求迫切的人才类型。“数据侦查”实验班开设侦查学专业、刑事科学技术专业,课程设置包括“程序设计”“数据结构与算法基础”“概率论与数理统计”等专业基础课;“数据侦查原理”“数据侦查工具与实践”“电子数据取证与鉴定”“电信网络诈骗案件侦查”等作为专业课。实验班实行独立建制,从大一学生中遴选学员,并配备班主任和导师。中国人民公安大学依托“数据侦查”实验班广泛开展校局、校企合作,拓展“数据侦查”实践教学资源,通过以赛促学、以研促学,提升学员的“数据侦查”实践能力。经过多期实践,侦查学专业“数据侦查”实验班已升格为校级创新拔尖人才班,建立了本硕一体保研机制、入党比例优势机制等。唐云祁重点指出,“数据侦查”实验班人才培养模式成功的关键是建设好符合要求的师资队伍。

浙江警察学院侦查系刑侦教研室主任张敏副教授总结了利用人工智能技术实施的犯罪类型,包括入侵计算机、虚拟角色类、信息搜集类和虚假信息类等。张敏认为,此类犯罪具有技术新、模式多、变化快和危害广等特征,侦查新型网络犯罪的难度将不断增大。因此,人工智能时代侦查人才的能力应包括犯罪数据感知能力、犯罪数据获取能力、犯罪数据分析能力、犯罪情报应用能力和新型犯罪案件办理能力等。人工智能时代新侦查人才的培养,应构建“一个数字化侦查能力核心+新型犯罪侦查实战化战斗力新标准+N门涉网侦查新课程资源体系+校企局三方师资融合机制”的模式。