李婷+蔡雪莹++刘印

摘 要：当今是互联网盛行的时代，网络给人们带来了许多的便利。但与此同时，网络暴力也随之产生了。本文以新浪微博上发生的网络暴力事件为例，分析了网络暴力产生原因几个重要原因，并从法律、个人素养及计算机人工智能技术等方面分析了可行的遏制措施。

关键词：网络暴力；新浪微博；原因；对策

2006年4月，一位男士声称自己的妻子有外遇并在网络上私自公布了妻子和情人长达5000字QQ对话记录，痛斥妻子与魔兽玩家“铜须”有染。随后一网友发布“铜须”的照片和视频并贴出了“江湖追杀令”，短短几天内，追查此事的人数就达到了数万。数以万计的网民通过“人肉搜索”最终查实了“铜须”的真实身份，住址，电话等个人信息，真可谓是“一呼百应”。[1]由于私密聊天的曝光，使得网友们开始对其评论，有些网友自告奋勇要当武松，去上门追杀铜须。而有些网友则组建了几百人的公会“守望慰问团”，他们在虚拟世界中以静坐，游行，谩骂，自杀等形式集体声讨公会会长铜须。这就是网络暴力。所谓“网络暴力”，是指网民对未经证实或者已经证实的网络事件，发表具有攻击性，煽动性和侮辱性的失实言论，造成当事人名誉受损；公开当事人的现实生活中的个人隐私；以及对当事人进行人身骚扰，致其权利受损的行为。[2]网络暴力分为：人肉搜索，文字形式和图片形式三类。当下，网络暴力的情况已经十分严重，它甚至影响了人们的正常生活。微博作为一个应用广泛的公共社交平台，许多信息会在其中传播、发酵，使其成为自动放大事件的一个地方。正因如此，网络暴力在微博中频频发生。一旦利用不当，它便逐渐变成了网络暴力的温床。因此，在这里，我们以最为常用的新浪微博为例，对发生在这个平台上的网络暴力做出原因分析，且提出一些解决方案。

1 微博中出现网络暴力的原因

（一）网络信息传播的逐渐娱乐化

网络娱乐化是现在网络信息传播的一种主要现象，在现在的微博信息传播过程中，较为偏重软信息的传播，严肃信息的比例不足，许多信息就算涉及严肃信息，有时也以一种大众容易接受的、通俗易懂的方式来阐述，强调信息的故事性、情节性，让网民从中得到放松和娱乐。而网络暴力常常会因网络信息过度娱乐化而产生。

2014年11月30日，19岁少年曾鹏宇将一盆即将点燃的炭发到微博上，留下一句“对不起大家，我真的要死了”，随后的直播过程里，引来了数万条的转发和评论，一些网友劝慰、报警，一些网友不屑、嘲笑。过了一会儿，他发微博说自己不想死，但是很多人用“不行”“你必须死”、“你赔我流量”等话语不断刺激他。他在生命最后时刻说不想死，但已无力回天。其死后，数以万计的网友找到他留在网站上的歌曲播放，曾嘲讽他的人态度反转，但道歉已太迟。[3]这就是网络娱乐化所带来的悲剧。在现实世界中看到自杀时，人们肯定是报警。但是在网络上居然演变为一个玩笑。其实这正是因为网络信息的娱乐化，它让严肃的信息有时也变成了全民狂欢的消遣工具和赚取点击率的商品。网络像是一个重构的造梦场，让人十分容易产生出一种“我是中心”的错觉。每当微博上有重大的新闻出现时，网民们总是一窝蜂地上前去评论，可其中，真正理性的评论只占少数。大多数网民容易被娱乐化的网络牵着鼻子走，被当前的传播的不良信息所误导。“跟风吹”、“跟风黑” 的现象层出不穷，新浪微博上几乎天天都在上演着“多数人的暴力”。

网络娱乐化除了针对普通百姓，更是经常针对公众人物，特别是明星。 2013年7月中旬，名为“袁姗姗滚出娱乐圈”的微博热门话题出现，并很快登上热门排行榜且长期占据排行榜前列。有网友认为，出演多部古装剧女主角的袁姗姗长相差、演技差，有网友组成“反袁姗姗后援团”，并很快在各大网络平台击败袁姗姗粉丝团，并喊出了“反对袁姗姗作为演员的一切”的口号。接着，很多娱乐媒体加入反袁姗姗的“大合唱”。对于反袁姗姗的理由有：长相不好看、演技太做作、被于正捧、苦情玛丽苏，更多的网友说，讨厌她的理由是——没有理由。其实，在娱乐圈中，针对明星和个人的网络暴力数不胜数，这是因为：

首先，与明星的粉丝群体相关。明星的粉丝几乎都是由年轻人组成的，在校学生算是其中的主力军。他们有自己信仰和喜恶。网络娱乐化在一定程度上激发了他们的创造性，粉丝的身份满足了他们的归属感，缓解了精神上的压力，甚至是得到了精神上的满足。但是负面的影响也不容小觑。粉丝之间，为了偶像在微博上大吵的比比皆是，他们有时也会变成网络暴力的推手。有时因为讨厌某个公众人物，便会组团跑到她（他）的微博底下破口大骂以宣泄不滿，甚至编造“黑料”来抹黑她。受到过网络暴力的公众人物不在少数，如果公众人物不发声，骂人者便肆无忌惮，如果公众人物发声，那便会被说成是“说不起”、“作为一个公众人物连这一点事情都承受不起”……

其次，一些心存不良的媒体及被人雇佣的网络水军作祟。他们经常将一些平常的事情加以炒作，让微博中的网民们不断地推动着，最终使一件平常的事情演变成为一场全民狂欢的网络闹剧。前段时间的“王宝强事件”和“乔任梁事件”由于不良媒体的大肆炒作，将事件中的道德绑架演绎得更加淋漓尽致。甚至有些人还天天跑到其他艺人的微博底下留言，指责没有为事件发声的艺人。微博娱乐公众号也实时推出相关新闻，使事件愈演愈烈，不断引导明星粉丝和路人发酵事件。

网络信息娱乐化虽是一种不可避免的趋势，但不要让娱乐变成“愚乐”，变成宣泄黑暗的工具。过度的网络娱乐化会导致全民陷入娱乐狂欢的漩涡，会导致网民的价值观扭曲、媒体的公信力受损、社会发展受影响等不良后果。而这一切不加以遏制，就会演化为网络暴力，这是我们不希望发生的。

（二）网民结构的年轻、低学历化

CNNIC报告中显示，截止到2015年12月底，中国网民数量达到7.10亿人.其中，中国29岁以下的网民占据了总网民人数的半壁江山（53.4%），其中19岁以下的比例更是高达23%.同时，在学历这方面中，小学及以下学历、初中学历的网民占比分别为14.3%、37%。 在校学生的占比仍然最高，达25.1%。[4]由此我们可以发现19岁以下，小学及初中低学历的网民仍是网民的主力军，而这也是网络暴力容易滋生的重要原因。

其一，青少年在成长过程中难免会产生偏激的想法和强烈的个人主义，且由于青春期的特性，还经常会对世界抱有对立的情绪。当现实生活中无法发泄负面的情绪时，网络就成了他们进行宣泄的重要渠道。而在这时，网络信息的娱乐化传播方式让他们看到的是更多的阴暗面，而青少年由于社会资历过浅，常常无法去辨别事情的真伪，因此容易在微博中“跟风黑”，通过微博的评论来发泄自己对世界的不满，甚至通过在评论中对他人的人身攻击来使自己获得满足感.....而由于在现实学习生活中的压抑，没有话语权，使其在网络微博中寻求更多的自由，希望在网络中夺回自己的话语权。这也造成其在微博中常常不允许他人与自己有不同的观点，“己所不欲，勿施于人”的传统美德在这里消失得无影无踪。而这样的非理性群体在网络上的集结，导致了 “沉默的螺旋”的出现。一旦有人说出相悖的观点，那些自认为是”正确“的一方便会煽动人们攻击相反言论，最终导致正确的一方不再发声，从而掩盖了真正正确的观点，导致网络暴力的发生。

第二，由于低龄或是低学历的原因，这类网民的法律意识和权利意识不强。因此才会在未经他人的许可前提下，就把他人的各人信息随意公布到网络上，而即使这样触犯法律也不自知，甚至知道是触犯法律也还会认为法不责众，可以逃过法律的制裁。

第三，网络中时常会出现一些不利于身心健康发展的信息，而它们也对网络暴力的滋生起到了引导作用据调查，有90%的大学生浏览过不良信息，65%的大学生发表过过激的言论，更加严重的是，40%表示有机会想尝试下黑客行为。[5]而网络中的不加分级限制的暴力游戏也成为影响年轻网民的心里的重要事物，因为它可以带给青年人许多在生活中所感受不到的刺激，让他们在打打杀杀中释放心里的压力。久而久之，这也为网络暴力留下的祸根。

（三）当今法律的不完善

在当前这个互联网盛行的时代里，政府针对于互联网，已经出台了几部相应的法律。例如，国家网信办在2016年11月4日发布的《互联网直播服务管理规定》中针对网络中的言论，所发布的信息等有了明确的规定：“第十条互联网直播发布者发布新闻信息，应当真实准确、客观公正。转载新闻信息应当完整准确，不得歪曲新闻信息内容，并在显著位置注明来源，保证新闻信息来源可追溯。”但是尽管如此，在许多方面还是存在漏洞。

首先，我国在对个人隐私的方面所做出的保护仍然不够。针对隐私权保护的法律条款更多地适用于现实生活，而针对互联网中侵害他人隐私权的法律仍未进一步加以完善。其次，《中国人民共和国宪法》中明确规定，公民享有言论自由的权利。但在网络中各类新词频出，看似无害的词汇，常常具有极强的攻击性，而在这一方面却未能对语言的被攻击者有更多的法律保护措施，从而在一定程度上使言论自由成为了网络语言暴力的保护伞。而同时本可以作为填补法律漏洞的举报及阻断技术仍不完善。常常无法阻断不良图片和信息的性质。导致不良信息仍在微博中横行，而当当事人或他人发现不良信息，网络暴力想要举报时，又常常无法成功举报。最后，法律中对于处罚的内容没有准确的说明。很多都是寥寥带过。例如，《互联网直播服务管理规定》：“通过网络表演、网络视听节目等提供网络直播服务，违反有关法律法规的，由相关部门依法予以处罚。”这个“相关部门”“依法予以处罚”都是模糊性的语言，哪些是相关部门？要去哪举报反映问题？“依法”处罚，依的是什么法？又会有什么样的处罚？无从得知，也让网络暴力如脱缰的野马愈演愈烈。

（四）微博事件中政府的监管力度不够

2016年9月16日22：05分，上海市公安局官微@民警直通车-上海称9月16日晚18时21分，桃浦地区祁顺路某住宅楼内有一乔姓男子（男，28岁，上海市人）死亡。网友猜测死者是艺人乔任梁。随后微博上的舆论沸腾，关于乔任梁的死因的谣言四起，不少人拿这件事情当做网络狂欢的资本，趁乱肆意散布谣言中伤死者。[6]

上海公安局的官微，作为政府部门在网上发布消息的一个窗口，在这个事件中却没有发挥其应有的作用，在事情未确定之前，就发一些模糊的言论来引发舆论浪潮，并间接推动了中伤死者的网络暴力形成，也损害了政府部门的公信力。政府本来对网络应有监管的职能，应该做的是适时地引导舆论，从而减少网络暴力网络谣言的产生，但在此事上却没有做到，反倒使谣言发酵，使网络暴力猖獗。政府有责任正确引导网络舆论，制止和控制网络暴力的发生。因为从一个事情到另一个事件，从网络舆论到网络暴力，发酵时间非常短，这个时候就需要有一股强劲的力量及时控制网络暴力，不能让权力成为摆设。而网络新闻的优劣庞杂，新浪微博推送中的新闻常常打着淫秽色情新闻的“擦边球”，却无人监管，任由其去污染那些没有判断力的受众。这也一定程度上让网络暴力更易滋生。

（五）新闻媒体人的失职

记者，编辑，这些应该是与社会良心，维持正义等词语联系在一起的职业，如今却成为了网络暴力的幕后黑手之一。有些新闻记者、编辑为了能更加博人眼球，常常在微博上利用夺人眼球却歪曲事实的标题，来引诱受众点击、推送。并常常为了提高点击率而对价值含量不高的新闻事件进行不断地炒作，从而严重影响了新闻的公信力，并诱发网络暴力滋生。最近发生山东广播电视台生活帮栏目报道了这样一则新闻：潍坊一名女子剖宫产后寝食难安，后经检查，发现医生“遗忘”一块纱布在腹內。此事一出，大众的舆论纷纷指向了医院。但后来又出现了反转，医院解释，该产妇系疤痕子宫合并前置胎盘，采用纱布止血和缝针并非“事故”，而是常见的抢救措施。尽管纱布已取出，但产妇仍拒绝出院。由于像生活帮节目组以及网上的媒体人的添油加醋，使得“纱布门”在微博上所引发的争议持续升温，让真相被淹没。[7]由此产生的网络暴力对医院以及本就紧张的医患关系更加紧张，让“纱布门”无法真正关上。

2 网络暴力的解决措施

（一）法律道德层面的相关措施

1.完善有关网络传播的法律法规

政府需要出台具体的相关法案。法案中应该要有更加细致针对网络中侵犯个人的隐私权和名誉权保护的法律条文，要有更加具体可行的惩处措施。其中特别是要针对在网络中发生的恶性营销炒作进行法律上的规范和界定，对造成不良后果的事件背后的推手、营销团队都应有更加强力地惩处措施。而此外，也应对在网络上，如微博平台上发布的不良信息、评论的人也应有相应的惩处方案，让网民知道在网络上也不是能随便用言语伤害他人的。

2.提高个人网络素养

针对在校学生，学校和家长更要全力配合，加强网络文明教育。由于网民低龄化的倾向，因此从小学开始，学校就应有相应的网络文明教育，给在校学生普及相应的与网络有关的法律法规，让他们了解网络暴力的危害，提高学生明辨是非的能力。并给家长系统地教育，让家长意识到网络暴力对孩子们的不良影响，教给家长更好地引导孩子的方法。针对在社会上的成年人，政府可以举办一些宣传相应的有关网络知识和法律的活动，借助媒体，或大型的宣传活动让人们知道网络暴力的恶劣后果及参与者将会面临地严厉惩罚，让无法律意识的人警醒。

3.加强对媒体的监督

媒体人应更加自律，国家也应出台针对网络媒体、自媒体的监管法规，让媒体不再成为网络暴力地推手，而是成为消除网络谣言，阻断网络暴力的监督者。

（二）网络技术文明规范

现在网络正进入大数据时代，这也是本部分技术支撑的重要前提，有了大数据的平台，使得人工智能中的基于半监督的RAC深度学习情感分类得以更好地建构实施，也才能实现真正随着网络传播方式及语言发展，智能更新发展的阻断不良信息的技术。

本节主要使用朱少杰提出的基于半监督的RAC深度学习情感分类方法，[8]并把它结合到微博信息传播中，实现对微博及评论发表的内容检测限制。从而从技术层面上阻断网络暴力的发生。

要更好地利用技术来阻断网络暴力，就需要在网络后台监管系统中建立完备的智能情感审核系统。智能情感审核系统是采用客户端与服务器端双重检测的方式，能够有效地对网络中恶意低俗语言文字进行拦截。而要实现该系统的建构离不开近几年人工智能领域里最为热门的“深度学习”方法。

深度学习是机器学习拉出的分支，它试图使用包含复杂结构或多重非线性变换构成的多个处理层对数据进行高层抽象的算法。简单来说，深度学习是人工智能的一部分，它模仿人脑的机制来解释数据，例如图像，声音和文本。[9]

因此，我们要建立成功的网络不良信息阻断系统，就要利用深度学习算法，建立一个模型，实现自动化分辨信息的语义。将其应用到微博发文的审核系统中，从而有效地拦截不良信息。

基于半监督RAE的深度学习就是一个可以借鉴使用的方法。这是一种只需要少量已标记样本和大量未知样本进行自学习的深度学习方法（半监督方式）。通过半监督RAE深度学习，我们只需要少量已知样本和大量未知样本就可以训练出一个正确率很高的模型。具体做法如下：

在客户端和服务器端共同对发表的文字进行处理。客户端中采用关键字限制法，而服务器则采用深度学习算法对服务器进行训练。关键字限制是针对某些特殊词汇的处理，如涉及个人隐私的关键字（身份证号、家庭住址等等），以及涉嫌语言暴力的关键字（弱智、傻逼等等）。

在服务器中我们需要运用深度学习得到的模型，判别内容是否分类为低俗、恶意的以及泄露隐私的言论。

处理的方法分为两部分，一部分在客户端，另一部分在服务器端。

其一，在客户端中的应用。客户端安装在用户手机或电脑中，按版本定时强制更新。而使用时只需要把常见、固定的污秽词语及新出现不良词语的词库定时更新后放在客户端进行限制，当客户端的微博用户使用这类词汇时，就无法发送信息，从而达到初步的限制作用。

其二，是在服务器端中的应用。服务器端运用微博已有的大规模的数据量进行基于深度学习的模型训练，得到识别模型。而该识别模型因为是基于半监督RAE的深度學习而建构起来的，它可以通过大数据的学习，模拟人的沟通交流语境，从而识别出一句话的情感偏向。在微博或评论发表时，用得到的识别模型进行检测，若检测结果为低俗、恶意或者泄露隐私的言论，就限制用户发表。即服务器端针对原有词汇的变种以及网上流行的绕过检测的方法进行再次进行检测验证。验证通过之后才能发表微博或者评论。如“傻逼”写成“煞笔”、“傻b”，“手机号”写成“tel”、“手机hao”等谐音、中外文的变形，或者在词汇中添加符号或其他正常文字来绕过的：“傻逼”写成“傻啊逼”、“手机号”写成“手x机x号”。服务器可以通过深度学习，不断增加有关新出现的绕过检测方式的数据判断，对此类绕过客户端检测的方法进行再次审查。

用户发表微博和评论时先由本地客户端程序检测，通过则发送到服务器验证，否则拒绝发表。服务器验证通过则用户发表成功，否则拒绝发表。已发表的内容若被举报后，先由人工进行审核，若不合格则删除该条记录并且将该记录放到深度学习样本池中，以便算法自动学习。若为正常内容，不操作。若出现正常内容发表被禁止的情况，则可以提交改进建议，人工审核后，放入样本池中供算法自动学习。深度学习可以模仿人脑的机制来解决问题。在网络暴力方面，可以用来识别包含暴力词汇、泄露隐私信息的语句，且还能用于语音、图片、音频、视频的识别处理。另外，基于深度学习的情感分类模型下，结合微博平台进行融合应用。使微博能够识别并限制用户发表带有语言暴力倾向，或泄露个人隐私的言论。在准确度方面可以采用增加数据集样本容量来提高。

此外，微博上的网络暴力的技术遏制，还要通过网络后台实名制与智能情感审核系统相结合，才能更好地有效限制网民发布严重违反网络文明规范的内容，若情节严重，需要追究法律责任时，才可以有效减少取证和锁定嫌疑人工作。

在网络暴力越来越多地出现在网络上的今天，需要更多地从其根本上去限制和拔除。在法律、个人素养和科技技术三方面的完善都将是一个十分漫长的过程。希望此篇论文能对网络暴力的遏制方法上起到一定的借鉴作用。

参考文献

[1]梁丽，吕瑞超.传播学视角下网络暴力初探[J].法治与社会，2009（12）：23.

[2]陈红莲.从网络暴力盛行看公众媒介素养问题[J].长江大学学报，2008（10）：124.

[3]曹林.预防前移才能让自杀变得可干预[J].中国青年报，2014（11）：01.

[4]新浪科技.CNNIC第38次调查报告：网民结构（EB/OL）.http：//tech.sina.com.cn/i/2016-08-03/doc-ifxunyxy6306515.shtml，2016-08-03

[5]郭爱涛.大学生网络暴力行为分析[J].扬州大学学报，2012（2）：16.

[6]伍燚.大数据环境下的情绪偏移--“乔任梁事件”舆情观察[J].新浪博客，2016（11）.

[7]白剑锋.莫让一块纱布挡住医患信任[J].人民日报，2016（11）.

[8]朱少杰.基于深度学习的文本情感分类研究[D].哈尔滨工业大学，2014.

[9]维基百科：深度学习（EB/OL）.https：//zh.wikipedia.org/wiki/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0，2016-12-13