文/蒋晓 韩鸿 兰臻

以数据和智能化技术为基石、以人机协作为特征、以提升内容生产传播效率为目标的智媒形态，正在成为新闻媒体的思维方式和发展方向。它在改变人们信息获取和社交方式的同时，也在挑战传统媒体的生产关系和生态格局，同时带来了一系列让人担忧的问题，如虚假新闻、算法偏见、责任主体及隐私安全等。这些问题要求我们在伦理意义上重新审视新闻与新闻工作者的价值和职责，并找到人工智能新闻应用的合理框架。新闻业一直是媒体伦理中最早也是最完善的领域之一。新闻业的技术发展塑造了道德和道德诉求的话语，以及新闻业的社会责任。随着人工智能技术进入新闻制作领域，传统的媒体伦理受到了计算机伦理和信息伦理的影响。虽然来自国内外多个领域的学者对数据的来源和滥用、数字霸权、虚假新闻、算法权威、客观性、透明度和问责制等问题进行了讨论，但人工智能新闻的伦理框架尚未被分析和建构。目前所见的多是些零星的、局部的研究。

本文关注和讨论的问题是如何在中国语境和人工智能技术的二维坐标系中构建新闻伦理。一方面针对人工智能新闻应用引发的新议题，从伦理基石、基本原则、政策制定、责任主体、道德规范、技术路径等方面搭建人工智能新闻伦理的基本框架；另一方面将重点放在中国话语的建构上，针对我国特有的政治意识形态、社会发展阶段、价值观念及媒介体制，分析中国方案的特殊性和差异性。

伦理基石

伦理道德作为一种具有渗透力的规范力，为个人行为和组织政策划定边界。在中西方伦理学的研究中有很多学派，它们的不同之处不仅在于它们提供的答案不同，而且在于它们提出的关于如何理解世界以及如何应对道德挑战的基本问题的方式不同。

在西方，三种主要的道德理论有助于概括新闻伦理中的道德问题，特别是在处理算法新闻时。首先，有基于后果的伦理理论，如边沁的功利主义，以实际功效或利益最大化作为道德标准。功利主义的影响在计算机科学、经济学和决策制定的许多领域都能感受到，特别是以效用主义为基础的博弈论在人工智能中经常被用于理解个体或群体的相互作用，为算法的伦理分析和目标设计提供研究视角。其次，康德的基于义务的道义论，认为人的行为必须遵照某种道德原则或按照某种正当性去行为。该理论侧重道德行为动机的“善”，诉诸一定的行为规则和标准。潜在的问题是，规则如何应用于决策？正确的规则是什么？后一个问题涉及机制设计，即，为了达到目标，我们应该制定什么样的规则？最后，亚里士多德的美德伦理学，关注的是个体和局部，围绕培养习惯和性情来组织，这些习惯和性情有助于一个人实现自身的目标。该理论为新闻参与者的职业道德、社会责任、媒介素养提供支撑。

中国有关伦理道德的思想源远流长。在2000多年的历史进程中，不同的思想流派提出了各自的伦理观点。其中，有儒家宣扬的“中庸之道”，认为维持事物稳定发展的最好方法是采用中庸的方式。即在认识事物时，要求通过研究这个事物在可能的发展趋势中，在其不及和过头两个极端之间找出适中合宜的地方。这种中庸调和的思想，要求不偏不倚，有时又全面而灵活，为人工智能发展战略和政策制定提供方法论指引。有墨家提倡的“兼爱”思想，主张“兼相爱，交相利”，即人人互爱互利，注重从经验中的实际效果判断行为的善恶，以利人作为具体内容。这是对人工智能技术施加伦理规范的目的和依据。此外，主张“义以为上”“先义后利”，要求“见利思义”。“义”是指国家和民族的集体利益，“利”是指个人利益。强调社会利益高于个人利益。今天，社会主义核心价值观是中华民族传统美德的继承，倡导富强、民主、文明、和谐，倡导自由、平等、公正、法治，倡导爱国、敬业、诚信、友善。

相较而言，西方国家的新闻理论包括新闻伦理和法规是建立在个人主义、自由主义、欧洲中心和启蒙思想基础上的。而中国传统伦理思想，则强调建立一种和谐协调的人伦关系，强调个体对整体的道德义务。这是一种植根于社会文化的群体精神，进而扩展到整个民族和国家的集体主义精神。任何一种伦理理论都有它的力量和限制，这种限制体现在不同的社会环境中的不适用性。我们在借鉴西方经典伦理思想的同时，应立足于本土和民族的社会现实，注入自身独特的品格。特别是在中国社会转型期，面对意识形态领域思想多元、舆论生态复杂多变的严峻形势，信息领域伦理道德具有特殊的内在紧张和外在冲突。中国人工智能新闻伦理的构建，应该在坚持马克思主义新闻观，秉持中国传统伦理学中的合理内核情况下，吸收发展新闻学中的思想和诉求，以促进国家和社会的整体发展为优先目标。

构建原则

1.平衡工具理性和价值理性。人类技术的运用和发展的目的应是推动社会的整体进步，实现人类物质和精神的整体发展。在新闻实践层面，虽然智能技术显著提高了新闻制作与传播的效率，但效率并不是新闻业追求的唯一目标，“诸如对新闻真实性的追求，对美德的坚守，对问题的质疑等，这些精神才是新闻领域的基础价值判断，更是符合人类共性的价值理性”。因此，在人工智能的新闻伦理构建中，需要平衡价值理性和工具理性的关系，既要最大程度发挥人工智能新闻实践的应用潜力，又要秉承新闻专业精神的核心观念。

2.注重普适性和特殊性。人工智能作为推动全球传媒产业转型变革中的一个底层技术，在西方发达国家和中国新闻媒体中的应用具有同步性，其基于技术层面的实践伦理具有通约性。但是新闻学的理论和实践又具有较强的意识形态属性。一方面新闻行业具有本身固有的专业伦理，另一方面又深植于不同国家的特殊政治、经济、社会、文化环境中，不同的政治意识形态、价值观念、媒介体制，不同的新闻运作方式，导致不同国家新闻伦理存在较大差异。我国新闻传媒具有意识形态和产业的双重属性，受到意识形态工作规律、新闻传播规律、市场运作规律的共同制约。在构建中国人工智能新闻伦理过程中，既要建基于人类的基本价值观和道德原则，为业界认可；又要具有鲜明中国特色，将党性原则、服务人民大众、以人为本等原则纳入其中，做到恰当的平衡。

3.避免柯林格里奇悖论（Collingridge dilemma）。所谓柯林格里奇悖论是指：科学监管的实现有待于技术的发展，以便赋予社会规划者足够的知识。然而，当监管者获得必要的知识时，技术已经得到巩固，采取行动可能为时已晚。目前人工智能技术快速迭代，难以准确预测下一步技术发展和突破方向。其可能产生的伦理道德问题和社会风险也较难提前预测，导致在人工智能开发过程中难以提前制定合理的规范和监管措施。良好的监管将有效增强技术的安全感和控制力，规避新风险。但糟糕的监管（包括监管不足、监管过度和低能监管）则有可能阻碍人工智能新闻实践的探索。因此，为避免柯林格里奇悖论，需尽可能将对技术评估的过程和时间前置。

4.避免膝跳反射调节（Knee-jerk regulation）。即对人工智能新闻应用中产生的风险和问题采取自然反射式的低效过度调节，导致人工智能新闻应用的发展受到阻碍。应该坚持道德体系构建的“最少化”原则。即道德条文不是越多越好，而是越少越好。避免对规约对象束缚过多而无所作为。

构建路径

人工智能新闻伦理属于技术伦理学的分支，因此本文借鉴了技术伦理学的两种研究视角——外在主义进路（externalism）和内在主义进路（internalism），对人工智能新闻伦理的构建提出建议。

1.外在主义进路。技术伦理学自诞生以来一直为外在主义进路所主导，主要把道德视为技术活动之外的一种规范力量。其基本模式是对技术的后果进行伦理的反思和批判，伦理的职责是外在的监督，关注的焦点是下游的应用。遵循这种研究进路，在构建人工智能新闻伦理框架时，关注的内容主要为新闻工作者的行为准则、伦理责任及法规监管等问题。

（1）制定政策框架。美国、英国、欧洲、日本等国家已经在学界、业界、政府各个层面针对人工智能的发展问题展开了广泛的讨论，并形成了详细的政策框架和研究报告。就当前的政策框架而言，虽然各个国家的政策着力点不同，但其共同的政策目标都更倾斜于推动技术创新、提升国家竞争力，其政策选择也更倾向于遵循“无需批准式（permissionless）”的监管逻辑，即对人工智能的发展及其所引发的挑战持普遍的包容与开放态度。同样，在人工智能发展与应用的关键时期，我国的政策制定也应该更多地支持推动技术的创新和发展，以保证国家竞争力的提升。然而，要想最大程度发挥人工智能的应用潜力，并将潜在的威胁和风险最小化，需要在发展与监管之间找到平衡，实现激励发展与合理规制的协调。因为技术发展的速度和复杂性远远超过政策发展的速度，监管不足、监管过度和低效监管都将抑制技术的发展、创新和竞争力。为避免“膝跳反射调节”与“柯林格里奇悖论”，建议联合决策者、技术专家、研究人员和业界工作者共同致力于人工智能政策框架和道德体系的构建。一方面预判和跟踪人工智能应用的风险和挑战，密切监控和回应来自产业界和学术界的反馈，一方面针对性地协调产业政策、创新政策、社会政策与相关伦理法规。

（2）成立伦理监督委员会。国外在学界、业界和政府各个层次成立了人工智能伦理监督委员会或研究中心，研究人工智能应用的伦理学问题，探索人工智能技术的伦理规范路径，并围绕技术和科研政策问题制定相关伦理指导守则。在我国，尚未形成具有影响力的人工智能研究中心或研究报告。但就新闻传媒而言，2015年底，中国记协新闻道德委员会成立。截至目前，除个别省份外，全国和省一级新闻道德委员会架构初步形成。因此，本文建议我国由科技部牵头，联合国家互联网信息办公室、人大、中国记协新闻道德委员会、学界和行业协会组建人工智能新闻伦理监督委员会，共同探索建立行业自律、外部监督的长效机制。对人工智能新闻伦理规范、法规进行广泛的讨论和起草，对新闻机构及新闻从业人员违反职业道德行为进行监督，对建立健全人工智能新闻法律法规和行业管理制度提出建议，组织开展媒体社会责任报告工作、组织开展人工智能新闻职业道德培训和理论研究，每年发布伦理研究报告。

（3）明确伦理主体和主体责任。随着人工智能技术的应用，新闻制作中伦理的主体和责任发生了重大转移。记者个人不再是主要的道德主体，因为其他行为者，无论是新闻工作者还是非新闻工作者，都参与了不同层次的新闻制作，如：媒体/技术机构、算法/机器人、程序员/项目经理、数据/服务提供商甚至受众。因此，个人的重要性正在下降，而媒体/技术机构和媒体系统作为伦理主体的重要性正在上升，参与其中的每一个主体应分别承担不同层级的对应责任。首先，在组织领域，机构是导致技术伦理困境的制度性主体。中国媒体机构的社会责任应优先于其权利和自由，媒体必须把国家的发展目标放在重要的位置上，以促进国家政治、经济、社会、文化的建设。其次，在专业领域，新闻从业者的职业伦理包括个人伦理和职责伦理。前者包括个人的品德结构、道德认识（如全心全意为人民服务，实事求是）、道德情感、道德意志，以及道德能力，即具有“明显推理”（explicit reasoning）能力和面临伦理困境的“隐含推理”（implicit reasoning）能力。后者包括真相的深度阐释能力、“人机协同”能力、信息环境把关能力及专业内容把关能力。最后，在社会层面，公众责任是伦理构建过程中的重要组成。

（4）制定伦理规范准则。需要在国家的宏观政策框架下，由伦理监督委员会组织，联合决策者、技术专家、研究人员和媒体工作者共同制定一套具有技术操控性和价值合理性的规范体系。这方面国外的实践较为成熟。2017ASILOMAR会议“阿西洛马人工智能原则”，从安全性、故障透明、审判透明、个人隐私、设计者职责、价值观一致、自由、共享利益、共享繁荣、人类控制权、非颠覆、避免人工智能军备竞赛、维护共同利益等方面，谈及了人工智能应遵循的道德标准、价值观念及相关的基本规则。借鉴国内外针对人工智能伦理原则的探讨，结合我国传统新闻伦理和社会主义核心价值观，我们认为人工智能新闻伦理的基本原则应包括：自由、真实、客观、责任、仁爱、共享，并建议在此基础上，对《中国新闻工作者职业道德准则》进行修改。

2.内在主义进路。内在主义进路考察如何在技术设计中嵌入道德要素，对技术使用前的设计、开发、制造过程进行哲学、伦理学分析；把伦理的职责从外在的监督转变为内在的介入；把关注的焦点从下游的应用转移到上游的设计。根据内在主义研究视角，我们更多从数据和算法的方面考虑道德嵌入，以及如何以技术的手段来消除技术带来的社会问题。

（1）数据治理。一是数据的规范性。通过政府、企业、中介组织、个人等多主体的良好互动，综合运用互联网、物联网等收集和积累海量数据；开发新的框架和机制，如数据可移植性和数据信任，形成统一的数据格式和应用接口规范。二是数据的共享机制。应建立合理的激励、开放、共享、分配等机制以促进数据共享，让数据发挥价值；建立数据保护立法，防止拥有大量数据的大公司变得过于强大。三是数据的使用边界。应从设置数据开放等级制度和建立健全个人隐私保护制度等方面，不断完善人工智能发展中的隐私保护制度。四是数据的使用时限。除了出于科学研究、档案管理、公共安全或其他特殊的既非盈利也不面向一般公众的目的，个人和企业不应该存储、分析、使用和传播超出一定年限的数据。

（2）算法治理。一是算法的透明公开。新闻机构应采用完全透明的署名策略，向受众告知算法新闻的数据源、算法等特殊信息。可分情况采取不同的署名策略。二是算法的目标优化。通过价值敏感设计，在整个设计过程中以有原则和全面的方式考虑人类价值和社会核心价值，而不能仅仅以点击率或推荐最大化作为算法的目标。

（3）技术工具。技术产生的问题也可以通过技术本身的优势来解决。我们需要把对技术的功能性/工具性运用转变为在伦理法规实施过程中发挥设计/构建的本体性作用，纳入对人工智能新闻的伦理治理体系建设中。未来今日研究所（Future Today Institute）在《2018年影响传媒业的新科技趋势报告》中预测了影响传媒业的75个重要技术，其中许多技术既可影响新闻生产又可用于风险治理。如：新闻业区块链（Blockchain For Journalism）可以用来编码和核实内容，通过构建新闻公共账户——一个可以交换可信新闻、筛出假新闻的网络系统，保证信源、图像、视频的真实性。