杜雪涛

中国移动通信集团设计院有限公司，北京 100080

1 引言

随着人工智能技术在自然语言处理领域的突破性进展，使用计算机代替人类阅读和理解海量数据，帮助人们进行科学决策和方案制订成为可能。基于大数据的认知计算技术应运而生。随着该技术的不断成熟，其被应用到医疗、法律、教育和金融等多个领域，成为各行业的研究热点。

作为关键信息通信基础设施的运营者和维护者，运营商有义务对通信网络中传播的信息进行内容安全管控。随着信息传输速度日益加快，信息容量越来越大，信息变化速度越来越高，治理压力持续加大。面对海量数据，人工分析方法已经无法应对不良信息的快速演变。因此亟须引入基于大数据分析的认知计算技术，用其代替人工分析，自动总结最新不良信息的规律和知识，帮助内容安全管控人员快速对新型不良信息做出正确有效的响应。

虽然认知计算已经被广泛应用于多个领域，但其与内容安全治理相结合的场景尚不多见。本文讨论的内容安全治理特指不良文本内容。目前通信运营商治理不良文本内容的手段主要分为线上拦截和线下分析两种。在线上拦截中，可以配置关键词组合策略，对发送的不良文本消息进行实时拦截。在线下分析中，可以对海量数据进行大数据分析，最终实现两个目的：第一，发现线上分析无法识别的隐蔽不良文本消息，如诈骗信息与正常通信内容非常接近，很难通过定义关键词进行识别；……