王悦

摘要：内容安全作为网络安全的重要一环，越来越受到各国政府的重视。本文以英国互联网内容治理的标志性文件——《在线安全法（草案）》为基础，分析英国在互联网内容治理领域的全新监管路径与框架，如独立的监管机构、内容安全责任、注意义务等，同时结合英国的监管实践，总结归纳《在线安全法（草案）》对互联网内容治理的启示。

关键词：内容治理 《在线安全法（草案）》 网络安全 言论自由

在线服务尤其是社交媒体服务的爆炸式增长，引发了侵犯隐私、仇恨和攻击性言论、恐怖主义等一系列传播失范现象，特别是自2016年美国大选和2018年英国剑桥分析（Cambridge Analytica）丑闻以来，平台参与传播假新闻和操纵政治选举引发了人们强烈的不满。在此背景下，世界各国都加紧了对互联网尤其是非法和有害内容的治理，并在实践中不断探索互联网治理的有效路径。与此前在互联网领域强调多主体共同治理不同，政府在互联网内容监管领域发挥的作用越来越重要，这一点在英国表现得尤为明显，并且有可能从根本上改变当前英国的互联网内容治理格局。

一、《在线安全法（草案）》的诞生

英国通信管理办公室（Ofcom）发布的《在线国家报告2020》显示，英国互联网普及率达87%，在各项互联网应用程序和服务中，最受欢迎的是社交媒体。大多数成年人有着积极的互联网体验，他们依赖社交媒体和即时通讯平台来维持人际关系，但也有很多用戶对网络不良内容感到担忧。在这种背景下，英国的监管机构开始收紧对平台的监管。

1.《在线安全法（草案）》发布前的英国互联网内容治理概况。英国在互联网内容领域形成了行业自律机构、网络服务提供商、政府部门、社会团体、公共利益组织等多方主体共同配合、共同治理的格局。独立新闻标准组织（IPSO）和独立报业监管组织（IMPRESS）是英国最主要的报业自律组织，其监管范围包括报刊及其网站。视频点播和视频共享平台属于独立监管机构通信管理办公室的法定监管范围，而其他大多数在线内容包括社交媒体、搜索引擎以及门户网站上的文字、图像和视频则依靠行业自律组织和平台的自我约束。

2.《在线安全法（草案）》的诞生过程。2012年，英国制定了有关互联网监管的法律草案，明确指出政府拥有网络监管的权利，在必要时可以查看网民在网络聊天室、留言板中的留言和电子邮件。2017年，英国政府发布《互联网安全战略绿皮书》，提出希望联合社会各界解决在线安全问题，其中包括制定保护在线安全的跨平台社交媒体行为准则。2019年，英国内政部与数字、文化、媒体和体育部（DCMS）联合发布了《在线危害白皮书》和《在线社交媒体平台行为准则》，提出所有在线社交媒体平台需要遵守的原则，并拟通过立法强化社交媒体等网络平台在内容治理方面的责任，保护用户免受假新闻、极端思想和言论、网络欺凌等有害内容的影响。2021年5月，英国政府发布《在线安全法（草案）》（Draft Online Safety Bill，以下简称《草案》），正式开启了互联网立法时代。

二、《在线安全法（草案）》内容解读

《草案》一共包括七个部分，前三部分涉及不同平台的职责和行为准则，其余四部分涉及监管机构的职责和权力，如信息收集权、调查与披露权和执行权等。结合《草案》内容，本次《草案》的亮点主要表现在以下几个方面。

1.通信管理办公室获得监管权力。根据《草案》，英国通信管理办公室将成为英国互联网的内容法定监管机构。通信管理办公室的管理范围非常广泛，包括广播电视及电信网络的基础设施、节目内容及其传输等，是英国通信行业的超级管理机构。根据《草案》，通信管理办公室在互联网监管方面的主要职责是执行新的监管框架；为受监管的互联网公司发布指南、制定业务守则（Code of Practice），将《草案》的要求细化为具体步骤和措施；对服务提供商的行为进行监督和约束，如监督公司执行其用户协议和社区准则、对不履行法定注意义务（Duty of Care）的公司处以罚款、中断网络服务甚至追究法律责任等。

2.有差异的内容安全责任制度。《草案》不再强调内容与渠道的区别，而是按照服务性质的不同，将互联网服务提供商划分为I类服务和II类服务。I类服务即用户对用户服务（User-user Service），在此类服务中，用户可以浏览或分享其他用户制作、上传或共享的内容。包括YouTube、Facebook和Instagram在内的社交媒体都属于第I类服务。II类服务即搜索服务（Search Service），指的是包括搜索引擎和非用户对用户服务在内的其他互联网服务，如谷歌、亚马逊和苹果应用程序的服务都属于II类服务。

由于性质不同，I类服务与II类服务提供商所承担的内容安全责任也存在差异。其中，II类服务提供商只需要承担“最低限度”的责任，即采取措施减少非法内容和可能对儿童造成伤害的内容。I类服务提供商则承担了更高程度的内容安全职责，既包括减少非法和对儿童有害的内容，也包括保护具有民主重要性的内容和新闻内容。根据《草案》，具有民主重要性的内容包括专业媒体发布的新闻和以促进民主为目的的政治辩论，而新闻内容则指为新闻目的而生成的内容，且该内容必须与英国相关。

3.注意义务转向更清晰具体的法定责任清单。围绕识别和解决法案范围内的非法和有害内容，《草案》将平台一般的注意义务转向更清晰具体的职责清单。职责清单主要涉及风险评估和采取适当步骤解决已识别的风险。根据《草案》，所有网站、应用程序及服务都需要进行非法内容风险评估和儿童风险评估，而I类服务还另外需要进行成年人风险评估。非法内容风险评估要求识别、评估和理解以下内容的出现是否适宜：恐怖主义内容、儿童性剥削和性虐待内容、重大非法内容以及其他非法内容。儿童风险评估则需要对每种可能伤害儿童的在线内容单独评估，并将不同年龄组的儿童考虑在内。一旦确定存在对儿童或成人有害的内容，互联网公司有义务确定内容的种类及其发生频率，并及时通知通信管理办公室。

评估一项服务隐藏的非法内容可能带来的风险，主要参考以下几项重要指标：用户规模；通过该服务接触非法内容的风险；非法内容的不同表述造成伤害的风险；该服务保存和传播非法内容的风险；个人可能受到伤害的性质和严重程度；服务的设计和操作。需要注意的是，无论是在进行非法内容还是儿童和成人风险评估时，都需要特别考虑服务所使用的算法以及通过该服务传播内容的难易、快慢和广泛程度。

4.首次将有害内容纳入立法。《草案》引入了“伤害（Harm）”的概念，它將“伤害”定义为“可能使具有普通情感的人产生重大生理或心理不利影响的事物”。该定义十分模糊且具有法律上的不确定性，因此《草案》在标题中并未体现。根据《草案》，伤害可能是非法的，也可能是合法但仅仅是令人不快的，如从散播非法内容到散播煽动性言论，再到传播合法色情内容，都体现了不同程度的伤害。

关于伤害的类型和构成，《草案》并没有具体说明，而是由互联网平台决定什么内容可以传播，什么内容不可以传播。尽管法律施加了私营公司内容审查的责任和义务，但由于伤害的概念难以定义，伤害的程度也难以以量化标准去评价，有批评者担心这可能会迫使私营公司成为言论警察，从而造成在线表达的“寒蝉效应”。

三、《在线安全法（草案）》对互联网内容治理的启示

法律是物理世界和网络世界都需要遵守的基本规范。与互联网内容有关的法律不仅包括民法、刑法、反不正当竞争法等一般法律，还包括互联网领域的专门法律，如网络安全法等。英国《草案》是为了公共利益和国家安全而针对互联网内容的专门法律。

1.将有害内容纳入法定监管的范畴。随着平台的权利和影响力的扩大，将合法但有害的内容纳入法定监管成为治理有害内容的重要路径。除了英国《草案》，德国和新加坡也开始将有害内容纳入法定监管的范围。德国《网络执行法》要求社交媒体公司在收到用户通知后24小时内删除仇恨言论、煽动性言论以及虚假信息。新加坡《防止网络虚假信息和网络操纵法案》则主要保护公众免受虚假信息的操纵，促进网络广告的真实和透明。

2.加强平台的注意义务。关于平台法定注意义务的提案最初由英国学者罗纳·伍兹（Lorna Woods）和威廉·佩兰（William Perrin）于2018年提出。他们认为，平台与公共空间类似，既然公共空间的所有者和管理者负有法定注意义务，社交媒体平台也应负有注意保护其用户尤其是儿童免受有害内容侵害的义务。这与英国之前所坚持的“避风港”原则不同，服务提供商不能完全免于承担用户生成内容（UGC）的责任。如今，平台已经越来越多地参与内容的编辑和处理过程，内容与传输也很难截然分开。如果根据“避风港”原则，服务提供商无须承担与内容制作和传播有关的法律责任，但立法者并没有完全免除中介机构的责任。欧盟《电子商务指令》第48条明确保留成员国的权力，成员国可以制定法律要求中介机构履行“可以合理预期的谨慎义务……以发现和防止某些类型的非法活动”。《草案》对所有服务施加了更严格的法定注意义务。若平台未履行注意义务，监管机构将有权对公司进行制裁，并对他们处以最高1800万英镑或全球年营业额10%的罚款。

3.追求监管权力与言论自由等基本权利之间的平衡。互联网立法挑战的核心涉及表达自由。英国互联网内容治理的基本逻辑在于谨慎地实现多方利益尤其是政府的监管权与公民的言论自由和隐私权之间的平衡。为了达到这种平衡，在传媒业能够自我约束的情形下，英国禁止公权力过多干预传媒，尤其是禁止行政部门对传媒内容进行事先约束。如果是在不可能依靠自律或促进公共利益目标而必须由公权力介入时，则强调公权力的干预尽可能保持在必要的范围之内。

为了更好地平衡监管权与言论自由权，《草案》将保护言论自由设为独立的一章，并要求平台在履行职责时充分考虑言论自由的重要性。对于I类服务提供商，《草案》要求网站在决定是否删除内容、对制作上传或共享内容的用户采取行动时，应首先考虑表达自由。对用户采取的行动包括限制用户访问、向用户发出警告、暂停或禁止用户使用服务等。此外，I类服务提供商还需要定期发布言论自由影响评估报告，并证明已采取措施减轻任何对言论自由的不利影响。这些措施理论上可以减轻网络平台履行在线安全职责时过度限制内容的风险。

4.从已有监管中吸取经验和教训。大多数平台内容不受媒体规范和标准的制约，而是依靠自身的社区标准对内容进行约束，但平台内容标准之间往往存在较大差异，实施起来也存在各种问题。例如，英国下议院发布的《仇恨犯罪报告》指出，谷歌在处理YouTube上的极端主义内容和侵犯版权的内容时存在明显差异。谷歌可以在发现视频侵犯版权的情况下迅速将其从YouTube上删除，而当这些内容涉及仇恨或非法内容时，谷歌却不会立即采取同样的行动。英国防止虐待儿童协会（NSPCC）表示，行业过去采用的自愿行为守则和指南没有产生重大而持久的影响，因而需要从已有的监管中吸取经验。政府在对《互联网安全战略绿皮书》的回应中也提出了三项重要原则：线下不能接受的，线上也不能接受；应授予用户一定的内容管理权限；科技公司对其用户和内容负有主要责任。

四、结语

互联网的发展无论是对个人的人际交往，还是国家的经济发展、科技进步都带来了积极的影响，而互联网充斥的非法和有害内容也在侵蚀着人们的身体、精神和心理健康，甚至威胁国家的安全和社会的稳定。内容安全作为国家安全的重要部分，其重要性日益显现。平台作为连接用户与内容的重要纽带，其作用和影响力也大大增加，一些大型平台逐渐成为互联网的“守门人”。因此，世界各国都加强了平台的注意义务和内容安全责任，并试图将互联网有害内容纳入法定监管的范围。在英国这样一个崇尚新闻自由和表达自由的国家，对互联网进行立法经历了艰难的过程，但《在线安全法案（草案）》的出台，代表了英国在互联网内容治理领域的重大进展，也表明法定监管是互联网内容治理过程中的重要路径之一。

作者单位 中国传媒大学传播研究院

参考文献

[1]崔保国，刘金河.论网络空间中的平台治理[J].全球传媒学刊， 2020（01）.

[2]周丽娜.英国互联网内容治理新动向及国际趋势[J].新闻记者， 2019（11）.

[3]许鑫.西方国家网络治理经验及对我国的启示[J].电子政务，2018（12）.

[4] UK Parliament.Draft Online Safety Bill [EB/OL].（2021-05-12）[2021-06-15].http：//www.gov.uk/government/.publications/draftonline-safety-bill.

【编辑：陈琦】