陈 曦

(科技日报社 北京 100038)

1 问题的提出

自从1956年达特茅斯会议正式提出人工智能(Artificial Intelligence)这一概念以来，人与非人之间的界限开始变得模糊。凭借着智能技术的不断注入，人机互动的效率和质量在短时间内获得了巨大的飞跃。面对这场广度和深度甚至远超工业革命的新技术革命，当今科学界急需一种全新的思想资源和理论体系来回应这场狂飙突进的新技术革命。然而有学者指出，面对这场新技术革命，人类“完全未经抵抗，几乎不曾讨论”[1]。直到2016年AlphaGO战胜人类围棋冠军李世石之后，人类才终于意识到在这场人类与机器的智力比拼中，机器在逐渐超越着人的认知、挑战着人类的极限。一场关于人类主体性滞后的讨论开始在世界范围内进行。在大数据、深度学习、机器识别、社交机器人等技术重构社会的今天，人工智能技术已经十分接近库兹韦尔所言的“技术奇点”：当越过奇点之后，人工智能将迎来指数型的增长，其进化程度将远超人类的控制能力，人与非人之间的界限被打破，人类也无可避免地成为“后人类”。

人工智能技术的应用正在重构新闻业的底层逻辑，推动新闻生产的后工业化转型[2]。自Buzzfeed、今日头条等新闻聚合类平台问世以来，新闻业正在被一种由各类人工智能技术驱动的后工业化生产模式所侵蚀。为传统媒体所熟稔的“采写-编辑-出版”专业化新闻生产流程受到了新媒体、流媒体入局的大幅冲击。长久以来，人们将这种从传统媒体到新媒体的转型描述为“媒介融合”。但是这种将“新媒体化”看作是传统媒体的发展路径的线性进化逻辑实际上是以旧视角看待新问题，无法把握二者之间的本质变化。人工智能技术应用于新闻业产生的影响，不仅仅是行业内部的技术变化，而是整个行业在组织结构上的流程转变，甚至是权利的转移与媒介生态的变化。从长远的视角来看，这不是传统媒体在新媒体时代以新的生产模式的延续，而是从微观的新闻生产到宏观的媒介生态全方位的范式革新。只有意识到这一点，我们才能防止陷入“从后视镜观看现在，倒退着走向未来”(麦克卢汉语)的视线盲区。

作为人工智能技术的一种，社交机器人(Social Bot)对新闻业的影响可以从很多方面进行讨论。一方面，在新闻聚合类平台上，社交机器人作为内容生产者，能够以较低的成本生产大量的新闻内容。它在信息扩散中扮演着关键角色，也势必会对新闻生态造成冲击。另一方面，社交机器人作为普通的用户，却是以非人的状态出现，并不具有人的情感和判断力，因而造成了诸多伦理上的困境。社交机器人在美国大选[3]、中美贸易谈判[4]、俄乌战争[5]、新冠肺炎疫情[6]等公共事件中都通过在短时间内大量发表、转发、点赞等手段，扰乱了公共舆论秩序、破坏了互联网生态。在新冠肺炎疫情背景下，社交机器人还能在互联网平台上迅速扩散未经证实的健康信息，这将对公共健康造成严重危害[7]。已有研究多集中在社交机器人在具体新闻事件中的媒体表现，聚焦于其是如何通过自我复制与互动导致信息扩散、谣言泛滥的，仍然处于实然层面，而较少将社交机器人当作一个行动者来探讨其对于整个互联网生态的影响，更少从应然层面反思技术如今是如何作为的，未来需要何以有为。因此，将社交机器人与新闻业互动的认知，借由伦理反思提升至技术哲学层面，不失为从纷繁事件中拨云见月、看到其底层逻辑、推演未来发展路径的有效尝试。

2 社交机器人的发展现状

社交机器人，又被称为“僵尸用户”，是指“一种在社交网络中自主运行社交账号并且有能力自动发送信息和链接请求的智能程序”[8]。这些账户可以基于特定的脚本模仿人类的行为，然后进行信息内容的生产与扩散。此外，社交机器人还可以通过互相关注进行自我推广，以构成看似真实的社交网络，改变既有的信息交互结构。

已有的研究按照人机关系、实际功能、社会影响等方面对社交机器人进行了分类。就人际关系而言，社交机器人可分为2类：一类是机器辅助人类(botassisted humans)，为普通用户提供交互服务；另一类是人类辅助机器人(human-assisted bots)，可以协同人类展开行动，但常常由于操纵和编程服务于特殊的目的，多数情况会引发负面影响[9]。就实际功能而言，社交机器人可分为4类，分别是恶意僵尸机器人(malicious botments)、编辑机器人(editing bots)、聊天机器人(chat bots)、调研机器人(research bots)[10]。就社会效益而言，Clark等则直接把社交机器人应用后的社会效果分为“善”与“恶”两大类[11]。一些社交机器人向在线用户传递新闻资讯、进行天气预警、分发具有时效性的信息等；一些机器人传播虚假新闻、渗透政治话语、扰乱股市秩序、制造信息烟雾弹等。现有研究多关注具体应用场景中的社交机器人，尤其是其应用后的负面影响，而较少从技术哲学的角度探讨社交机器人现在如何作为、未来如何有为的整体 框架。

3 社交机器人在传媒业的应用

2017年，全国“两会”首次将“人工智能”写入政府工作报告[12]，这标志着“人工智能”上升为国家战略并且在中国各行业获得了政治合法性。在接下来的几年时间里，人工智能技术伴随着互联网行业的井喷式发展，在全社会范围内获得了快速的普及和应用，新闻业也不例外。在媒介融合的背景下，人工智能技术已渗入到新闻生产的各环节中。尽管媒介融合提倡的是传统媒体与新媒体的融合，但新闻业应用人工智能技术后的社会效果仍然显现出两种不同的效果。这一方面与传统媒体与新媒体的媒介属性有关，在另一方面也更加将技术背后的社会意识形态体现出来。因此，考察人工智能技术应用于新闻业后的社会价值更应该采取辩证思维，更应看到传统媒体和新媒体对该技术应用的不同之处。

3.1 新闻生产：提高采编效率与降低作恶成本并存

新闻生产是新闻业的初始环节。传统媒体和新媒体的最大不同之处就在于传统媒体拥有新闻采编权，可以采集一手新闻素材，而新媒体，如今日头条、腾讯新闻等新闻聚合类平台，则无法通过采集新闻素材来保证内容增量，在多数情况下，它们依靠用户发布的内容来维持平台的内容再生产。

对于传统媒体来说，一方面，社交机器人的应用在很大程度上帮助新闻生产达到了更好的社会效果，是媒介融合下的有效产物。如当地震、火灾等大型突发事件发生时，传感器、无人机、自然语言处理等可以深入到人类所不能抵达的现场进行报道。该类传感器新闻(Sensor Journalism)的出现极大地拓宽了新闻采集的边界，最大程度上发挥了新闻采编权的效果。在此类新闻中，新闻源不再是普通的个体、群体或机构组织，传感器作为信息采集工具，成为新闻工作者的感官延伸，赋予了报道更多的可能性。另一方面，传感器新闻是跨界复合的产物[13]，不仅需要新闻从业者进行维护，更需要统计师、数据分析师、技术工程师、交互设计师等多方人员的共同努力。除此之外，中国地震台网的地震信息播报机器人也是社交机器人应用于新闻业的成功案例。地震这一大型自然灾害，因其发生时间快、波及范围广等特点，对新闻报道的时效性提出了更高的要求。中国地震台网的社交媒体账号已应用社交机器人进行地震速报多年，其时效性和准确度一直为提高应急报道机制助力。

对于新媒体来说，社交机器人产生的大量信息冗余对互联网生态造成了一定程度的干扰。尤其是在重要的政治事件中，社交机器人通过短时间内的大量复制、自我转发促使难辨真假的信息大量传播，混淆了视听。已有大量研究表明，2012年特朗普在美国大选中当选与社交机器人的推动有直接相关性[14]。社交机器人采用自动化的新闻生产方式只需进行特定的程序输入，不仅可以批量产生账号、模仿普通用户的媒介使用行为，而且可以通过输入文本和图片自动生产视频。这样低成本的信息生产方式，使得社交机器人充斥在国内的新闻聚合类平台上。这对于依靠用户内容生产的新闻聚合类平台来说，很难分辨社交机器人与真实用户，因而导致了虚假内容在平台上肆意快速传播。正是通过与人类进行媒介互动，社交机器人得以成功融入社交网络，其在Facebook上的渗透率已经高达80%，模糊了平台上人与非人之间的界限[15]。

3.2 新闻审核：助力把关机制与混淆信息属性并存

新闻审核是保证新闻质量的重要一步。传统媒体的新闻审核往往进行事前审查，在发出时已经可以对新闻的质量作出保证，而新闻聚合类平台往往因为基数大、信息量大而采取事后审查的方式。然而在新旧媒体融合已成趋势的今天，在社交机器人的影响下，传统媒体和新媒体却在新闻审核上呈现出完全不同的趋势。

对于新媒体来说，社交机器人很难在既有的审核体系中进行准确定位。它以普通用户的形态出现在平台中，看似从事着与人类相近的媒介行为，实际上却是由特定的程序操控。这样一种介于人与非人之间的定位，使得社交机器人在面对新闻审核时具有天然的规避倾向。在新闻审核时，虽然可以把社交机器人当作普通账号进行审核，甚至对相关违禁账号进行限流、封查或禁用，但是却无法对操纵程序背后的政治目的与意识形态进行审查。为了应对该问题，近年来国内外多位学者提出要区分谬讯(disinformation)和误讯(misinformation)。前者是指因为信息核查的滞后性而导致的流言，其往往不具有特殊的传播目的；后者则是后真相时代，因为特定的政治目的而编织的带有倾向性的信息，以服务于互联网舆论战。但是如何在审核中区分意识形态与极端情绪，仍然是全球平台治理共同面对的难题。

对于传统媒体来说，由主流媒体主导的事实核查在本质上仍然是新闻专业主义的延续，是一直恪守新闻客观性的严肃媒体在社交媒体时代的尝试[16]。其事前审查机制不仅保证了新闻内容的质量，更保证了新闻内容的导向。但是在社交媒体时代，人人都有麦克风，人们轻而易举地便可在平台上发布对内容的质疑和新闻的质问。在两极分化的舆论场中，自上而下与自下而上往往加大了事实核查的难度，也在无形中加剧了对主流媒体的不信任[17]。由事前审查保证的新闻舆论场与事后审查的平台舆论场出现了撕裂，新闻审查急需以一种新的形式展开，以回应媒体面临的社会信任危机。

3.3 新闻分发：增强用户黏性与制造信息茧房并存

新闻分发是新闻传播的最后一公里。社交媒体时代，算法、平台、用户已经成为新闻分发的重要“把关人”。值得注意的是，社交机器人以普通用户的身份依靠算法在平台上运转，已经体现了社交机器人在新闻分发中不可忽视的地位。由于社交机器人基数大、媒介互动便捷的特征，已经在多个重大社会事件中扮演了重要的角色。有研究发现埃尔南德斯总统在Facebook上的帖子出现了异乎寻常的点赞行为，从2018年6月到7月，他收获的59 100个赞中，78%都不是来自于真人。类似的事情仍然大量发生在美国大选、俄乌战争中。如自俄乌战争2022年2月24日爆发以来，“今日头条”等新闻聚合类平台上就涌现出了大量社交机器人，它们的名字往往由简单的键盘乱码加上数字编号组成，发布的信息都为简单配图和机械音播报的文字稿，文字多为战况播报、鼓吹俄军战况和编造“大鱼”的虚假信息等内容。这些社交机器人的大量涌现使平台充斥着真假难辨的信息，极易引起民族主义情绪，而且还为互联网审核人员增加了额外的负担。社交机器人的存在一方面提高了平台的信息增量，但在另一方面，当大量的信息开始由程序操纵流转时，一个特定的信息茧房就在无形中被创造了出来。它干扰了普通用户的正常判断，将互联网的高赞、高转内容误认为是有价值的信息，同时造成了对真正值得关注的新闻的忽视。

4 社交机器人的技术伦理

通过以上对社交机器人在新闻业的使用状况及其效果的阐述，会发现社交机器人的应用效果并不能用单一的“好与坏”“利与弊”来评判，而是受到多种因素的影响。在新闻生产环节，可能会受到使用主体，也就是媒体的用途影响；在新闻审核环节，往往与具体技术的善与恶无关，而与操纵技术、编写代码的目的有关；在新闻分发环节，平台、用户和算法构成了社交机器人应用的3个重要支点。或许，社交机器人作为一项技术，只是一种媒介工具，真正对其应用后的社会效果负责的是背后的人，而人类常常会面临复杂的道德伦理困境[18]。我们需要更新既有的认知框架来回应这种复杂的伦理困境。

4.1 从封闭伦理走向开放伦理：关注多元行动者

沃德和沃斯曼曾经区分了“封闭伦理”和“开放伦理”(Open Ethics)这对概念，主要区分了如何运用、分析和批判性地使用伦理规则和使用的人群[19]。封闭伦理常常被应用于较少的人群，并划清了可进行讨论范围的边界和人群参与者；开放伦理则容纳进了更多元的利益攸关方参与到讨论之中，也并未设置过多的实质性限制。在人工智能技术将人与非人行动者都纳入到媒介网络运行规则的状况下，推动封闭伦理走向开放伦理，不仅关注人在其中的伦理行为，更需要关注非人行动者在其中的伦理行为。具体而言，对于社交机器人的伦理探讨需要在人与非人的互动下进行探讨，不仅需要关注技术变革对其产生的促进作用，更需要看到技术作为一种工具如何执行了人的意志。

4.2 从工具理性走向价值理性：倡导承担社会责任

技术中立性常常作为技术作恶的托词，技术服务的社会建构则与技术所代表的个人、组织、机构密切相关，但技术绝非任何社会问题的替罪羊。面对社交机器人应用于新闻业产生的种种问题，我们需要从工具理性走向价值理性，关注平台在其中的社会治理作用，并提倡平台承担更多的社会责任。如由于2016年社交机器人曾严重影响了美国大选，2020年再次进行美国大选时，硅谷的互联网巨头则出台了一系列的措施应对可能出现的虚假信息。如Twitter在含有不实消息的推文中加上了蓝色的感叹号，以提醒浏览到的人这是未经证实的消息等。就国内而言，今日头条的产品定位也从“你关心的才是头条”，变成“信息创造价值”再到“看见更大的世界”，这代表我国受众范围最广的新闻聚合类平台开始从关注用户个人的需求转向到如何提升内容质量来帮助个人扩展视野的发展方向。当然，全球平台的互联网治理是世界各国共同面对的难题，现在还只是刚刚开始，未来还有很长的路要走。

4.3 以技术哲学对抗技术：摒弃二元对立思维

在人工智能技术已经具有重构社会力量的今天，如果仅仅讨论技术的影响就会“只见树木不见树林”。技术的应用不是一个单纯意义上的物质转化、能量传递、信息传递的物理过程，更体现了其深刻的社会化内涵，并带来了技术的社会化[20]。在伦理学的层面上探讨技术哲学，为在社交机器人已经与真人真假难辨的今天提供了新的视角。

人类所发明的技术并非天生存在善恶价值观，技术的工具性也并非人类伦理的对立面，对社交机器人技术哲学的探讨可以跳出狭隘的工具理性思维，并且破除人与非人之间的界限，将人类与社交机器人同时看作媒介网络中的行动者，从而平衡人机关系之间的矛盾。

5 结 语

尽管社交机器人在新闻业中的应用产生了一体两面的社会效果，但是人工智能技术对人类而言，不一定处于人类伦理的对立面，也可以不必是利益最大化和资本逐利的工具。它也可以拥有人类对尊严、价值的尊重和思考，可以传递善良、正义、诚实、守信的人性之光。在人类与非人的博弈中，人类始终要记得自己的主体责任，是人有目的地使用技术作为工具导致了技术应用后完全不同的社会效果，而不是技术本身存在善恶。因此，人类首先需要端正心态、扬善除恶，建设和维护技术伦理的价值体系。