谢亚可

摘要：人工智能技术的嵌入已然引发了诸多伦理争议。本文以今日头条用户对于“2020年全球十大人工智能事件”的评论为样本，使用共词分析法对用户关切的人工智能伦理向度进行实证研究。研究发现，“人本主义”是用户最为关切的核心伦理向度，“算法透明”为用户关切的伦理向度盲区，“审慎和节制”成为用户伦理关切的新向度。社交媒体用户对人工智能的关切向度在应然与实然层面上存在一定偏差，我国用户的人工智能伦理观需要从技术、社会治理、法律、文化等多方面进行引领。

关键词：社交媒体 用户关切 人工智能 伦理

近年来，伴随无人驾驶、人脸识别、智能语音等人工智能技术的广泛应用，人工智能伦理再次被社会各界广泛提及，并引发诸多伦理争议。面对人工智能伦理评价呈现越来越复杂的局面，笔者以今日头条为研究场景，探讨用户关注的人工智能伦理的向度问题。

笔者将从学理层面和业界诉求两方面综合确定讨论度较高的人工智能伦理维度。从伦理学角度看，“一线伦理”是能够让所有人都认可的共同价值基准。某种意义上说，人权原则就是应用伦理学下的一线伦理。尽管当前有关人权的确立和内涵外延上仍存在一些论争，但在“自主、平等、公正、尊严、关爱”等基本人权价值上所达成的共识，则具有明确性和不可动摇性。

人工智能技术正在深刻改变着人们的生产生活方式，但在不同领域与行业中，人工智能技术大规模应用也会带来如算法偏见、算法黑盒等诸多问题，给人类社会带来了巨大的困扰与不安。据2019年普华永道调查显示，人工智能技术的安全、责任、透明、隐私问题是企业目前面臨的最大难题。为应对这些困扰，欧盟委员会于2019年4月8日发布了《人工智能伦理准则》，该准则要求人工智能技术应尊重基本人权且必须安全可靠。随后，我国也提出了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理的人工智能治理八项原则。基于此，笔者综合国内外对人工智能伦理的学理分析，再围绕近年来对新兴技术治理机制的讨论，将人工智能伦理理论框架确定为“自主”、“公平”、“尊严”、“关爱”、“安全”、“责任”、“透明”、“隐私保护”、“可持续发展”共九个维度，九个伦理维度是理论上人工智能的伦理维度，实际上也是人类基本伦理价值标准在人工智能技术中的具体呈现。

在研究方法上，笔者以人民智库和旷视AI治理研究院评选出的“2020年度全球十大人工治理事件”为焦点事件进行分析。十大事件是在综合了各领域的资料数据、10万以上网友票选以及专家们的意见评选得出，事件样本具有典型代表性，能真实反映出用户的关切程度。如表1所示，笔者采用共词分析法，首先通过事件关键词在指定日期内对事件下的用户评论进行搜索，共获取相关数据60040万条；其次对获取的数据进行预处理和分词处理；最后对用户评论的高频词进行聚类分析与统计分析，以此推断出今日头条用户对人工智能技术伦理的关切向度。

笔者将十大事件从AI与公众福祉、AI与公平正义、AI政府（企业）治理、AI系统安全性与数据隐私安全四个方面进行分类探讨，通过对用户评论高频词的统计分析，揭示同一类型事件中今日头条用户对人工智能伦理的关切程度。

1.涉及人工智能与公共福祉事件。第一，AI成“监工”事件中，共有6588条用户评论参与高频词提取，高频词关涉到的伦理向度为安全、尊严、关爱、责任、自主、公平六个伦理维度。通过分析发现，用户对外卖员的工作和生活状况、安全和社会保障都给予高度关注，认为企业逐利的本质、算法的不公平使得外卖员在工作中面临安全威胁；也有用户认为外卖员缺少自主申诉途径，无法明确责任主体，难以追责；还有用户提出要关爱劳动者，算法应更具人情味，但鲜有用户关注到“算法透明”等相关问题。

第二，AI向善事件中，共有1977条用户评论参与高频词提取，高频词关涉到的伦理向度为关爱、隐私保护、可持续发展、公平四个方面。通过分析发现，多数用户认为“技术向善”的利民举措能够惠及老幼人群，充分体现了技术公平，可持续推广使用；部分用户认为应关爱老人并积极推动智能社会的适老化；还有用户担忧技术使用可能产生个人隐私和信息泄露问题，要谨慎使用。然而极少有用户提出对老年人技术“自主性”的要求。

2.涉及人工智能与公平正义的事件。第一，湖南岳阳警方破获AI犯罪案事件中，共有2181条用户评论参与高频词提取，高频词涉及的伦理向度主要为安全、隐私和责任三个方面。分析发现，大部分用户担心在享受人工智能技术带来红利的同时，隐私会受到侵害；部分用户肯定了“人”在“AI犯罪”中的主导作用，认为技术本无善恶，人利用技术实施的犯罪行为要承担全部责任，仅少部分用户认为人与机器都应该有明确的责任分担。

第二，人工智能拥有著作权事件中，共有3112条用户评论参与高频词提取，高频词关涉的伦理向度为尊严、公平、关爱三个维度。分析发现，大部分用户认为人工智能生成物的真正贡献者应是人工智能设计者、软件开发者或程序设定者；有用户认为人类研发人工智能是为了更好地辅助人类，而不是制造出与人类竞争的权利主体；部分用户认为评定人工智能生成物拥有著作权是对人类尊严的侵犯，有损公平正义；也有用户担忧人工智能可能使诸多产业发生革命性变革，导致部分人失业。

3.涉及人工智能系统安全性与数据隐私安全的事件。

第一，人工智能“读懂意识”事件中，共有2079条用户评论参与高频词提取，高频词关涉的伦理向度有安全、隐私、自主、尊严四个方面。通过分析发现，用户争议声较大的是关于脑机结构翻译大脑想法会对人们隐私和安全构成巨大威胁的问题；部分用户认为“机器意识”直追人类意识，人的独立性、尊严、自主性均受到一定程度的挑战；对于人工智能的可持续发展问题却鲜有用户关注到。

第二，“无人车”权责归属事件中，共有1466条用户评论参与高频词提取，高频词关涉的伦理向度有关爱、安全、责任三个方面。大部分用户都聚焦在无人驾驶车辆安全问题上；少数用户认为自动驾驶车辆投入可能让大量的驾驶员失业；也有极少部分用户认为无人驾驶是未来智能交通的发展方向；但较少有用户关注到“无人车”可能对用户隐私产生侵害等问题。

第三，人工智能技术具备“自主意识”事件中，共有905条用户评论参与了高频词提取，高词频关涉的伦理向度有自主、尊严、安全三个维度。通过分析发现，大部分用户认为一旦人工智能产生了“自主意识”，会对人类尊严和安全产生威胁；还有用户认识到人工智能的发展是一把“双刃剑”，要谨慎使用。对于涉及人工智能责任和法律人格尊严认定的问题，用户们并未提及。

第四，在人工智能首次控制美國军用系统事件中，高频词提取的用户评论共计31947条，说明用户对此事高度关注。高频词关涉的伦理向度主要有安全、自主和尊严三个维度。有关分析发现，智能时代的两国争锋或演变成两国算法战，因此用户们对算法的安全性深表担忧；也有部分用户认为人工智能模型还存在设计缺陷，无法抵御复杂多变的战场环境；少部分用户认为人工智能技术的快速发展会导致很多工作如飞行员、司机职位等被其取代，进而有损人类尊严；但事件中关于算法公平和人工智能责任的问题用户极少谈及。

4.涉及人工智能政府（企业）治理的事件。第一，在欧美、韩国相继出台AI治理新规事件中，高频词抓取的用户评论共有7199条，高频词关涉的伦理向度有隐私、尊严、自主、安全、公平五个方面。通过分析发现，大多数用户理解且赞同欧美、韩国出台政策的做法，担忧“人脸识别”的潜在风险；也有用户提出人脸信息识别有损“人格尊严”；还有用户认为使用人脸信息的前提是充分知情，信息主体有对个人信息自主决定的权利；少数用户提到人脸识别还会引发种族偏见和性别歧视等不公正问题；也有极少数用户不赞同欧美、韩国禁止使用“人脸识别”的做法，认为不能因噎废食，需要建设性的解决问题。

第二，在美国科技巨头企业对人工智能技术监管事件中，共有2606条用户评论参加高频词的抓取，高频词关涉到的伦理向度有隐私保护、责任、可持续发展、安全四个方面。大多数用户赞同美国科技巨头对人工智能技术的监管，认为人工智能技术的发展会产生安全、隐私和权责不明等问题，需要谨慎对待；少数部分用户关注到人工智能准则的制定是为了更好促进人工智能的可持续发展。

笔者进一步对今日头条用户在十个事件中伦理关切向度出现频次进行统计，结果如图1所示，在十大事件中，用户对“安全”、“尊严”的关注频次相对较高，对“自主”、“隐私保护”、“关爱”、“责任”和“公平”的关注频次次之，对“可持续发展”关切频次较少，而“透明”向度未能被用户所关切。由此可以看出，用户更关心与自身生活产生直接相关的伦理风险，对其伦理诉求也更加迫切。

1.“人本主义至上”：今日头条用户关切的核心伦理向度。笔者研究发现，用户关切频次较高的伦理向度是“尊严”、“安全”、“自主”、“隐私保护”、“关爱”、“责任”、“公平”方面，这些伦理向度恰恰与社会核心价值体系保持一致。人工智能的发展应以人类价值为核心，以人类福祉获取为目标，研发者应以“人本主义”伦理原则为基本遵循，尊重和保护人权，重视人工智能技术的公平与正义。此外还发现，社交媒体用户更关切人在技术中的主体性问题，当人工智能产品可能获得自主性或人工智能技术可能造成大面积失业时，用户倾向认为在人工智能技术发展中必须坚持人的尊严，不能将人变成纯粹的、操纵化的工具或手段。

2.“透明性”：今日头条用户关切的伦理向度盲区。当前用户较少对人工智能技术“透明性”伦理有所关注，这是今日头条用户对人工智能技术关切向度在应然与实然层面上存在偏差的集中体现。“透明性”原则能应对“算法技术黑箱”所造成的信息不对称问题，以实现风险的防控与监管。以算法为主要代表的人工智能技术已成为“看不见的手”，尽管能清楚感受其存在，但却无法对其内部一窥究竟。算法在本质上具有非透明性，其决策标准隐藏在用户不易觉察的代码中，特别是算法能依据不同的数据模式产生动态变化。由此导致的结果是，用户仅关注算法所带来的结果，不关心算法的具体操作，没有透明性的制度设计与安排最终将导致算法缺乏公众的监管和信任。

3.“审慎与节制”：今日头条用户关切的伦理新向度。史蒂芬·霍金曾预言，“人工智能的出现可能是‘人类文明史上最糟糕的事件’，除非人类社会能找到控制方法。”随着人们技术素养的不断提升，普通用户对人工智能的发展也有了更深层次的认识。笔者研究发现，用户对于人工智能技术不再是一味接受与享用，也开始进行深入反思，譬如在“人工智能无人驾驶”和“人工智能可实现自主意识”等事件中，“审慎”、“节制”、“安全”、“负责”等词成为用户关注的高频词汇，表现出用户对人工智能发展的担忧，认为对技术的革新要保持必要的谨慎，需对风险进行评估和规避。

同一事件中用户对人工智能伦理的认知、态度和伦理判断存在差异性和一致性。因此，伦理观的引领必定是一个多元且复杂的问题，需要从技术、社会治理、法律、文化等方面开展对我国用户人工智能伦理观的引领。

首先，人工智能设计应遵循“以人为本”的最高原则，尊重人的尊严、自由及文化多样性，正视人工智能可能产生的伦理问题，积极了解并回应用户的主要关切。在法律层面，应完善法律法规以确保人的尊严和自主性；在社会治理层面，应响应用户关于公平、正义、安全等与社会和谐发展紧密相关的诉求；在信息传播层面，需要媒体充分发挥正面引领作用，及时为用户提供全面、客观的信息，与用户展开理性的沟通与对话，并促进政府和企业的重视；在文化教育层面，应对用户开展因地制宜的智能技术教育，消除因技术鸿沟产生的知识壁垒，譬如建立智能技术伦理教育试点，借助平台加大对人工智能的解释和风险告知等。

其次，以公众关注的话题为切入点，对人工智能技术进行系统性与针对性的科普。从当前社交媒体用户较少关注“算法透明性”伦理问题可以看出，尽管人工智能技术成了社交媒体上的热门话题，但有关人工智能技术的科学问题、相关科普类信息的内容仍有所欠缺。媒体普遍关注人工智能政策落地和技术应用方面，尤其更关注人工智能技术的娱乐性和商业性。因此，对用户进行人工智能技术方面的科普不仅有助于提升公众的人工智能认知水平，还能够减少用户对人工智能技术的担忧，让用户以理性的态度看待人工智能技术应用对社会的影响，为我国人工智能领域的健康发展营造良好的社会氛围。

再次，倡导用户深入参与人工智能的研发与应用。从当前社交媒体用户对人工智能技术保持审慎态度来看，用户对其已具备了一定的风险感知能力。然而，用户对人工智能技术过度谨慎与节制反而会抑制其正常发展。因此，倡导用户深入参与人工智能的研发与应用能帮助破除技术鸿沟带来的知识壁垒，促进理性沟通与对话。譬如采取用户反馈、用户控制和用户选择等方式，同时包括利用人工智能技术的能力促进用户参与及公平赋能。另外，用户参与也可以通过行使个人权利来实现。尊重用户的隐私权、信息自由权与保护权、信息公平等个人权利，相关部门应提供相应的异议和申诉平台，以确保用户能及时维护权益；对于人工智能造成的损害，能为用戶提供相应的救济渠道并追究参与者的法律责任。

在未来用户人工智能伦理观研究层面，可以进一步关注不同用户在不同事件中的认知偏向和伦理取向的共性和差异性，推动人工智能技术平台合力打造良性的人工智能伦理观生态体系。

作者系湖南第一师范学院文学与新闻传播学院副教授

本文系湖南省教育厅科学研究优秀青年项目“融媒体背景下数据新闻的生产与伦理研究”（项目编号：19B120）的研究成果。

参考文献

[1]李伦.中国科技伦理研究范式回归契机——“当代科技伦理前沿问题学术研讨会”综述[J].伦理学研究，2005（11）.

[2]人民日报.欧盟发布人工智能伦理准则[EB/OL].（2019-04-11）[2021-12-13].http：//www.xinhuanet.com/tech/2019-04/11/ c_1124350837.htm.

[3]中国新闻网.新一代人工智能治理原则[EB/OL].（2019-06-17）[2021-12-13].https：//www.chinanews.com/gn/2019/06-17/8866913.shtml.

[4]人民论坛网.2020年度全球人工智能十大事件[EB/OL].（2021-01-15）[2021-12-13].http：//www.rmlt.com.cn/2021/0115/605251. shtml.

[5]Maayan Perel，Niva Elkin-Koren，Black box tinkering：beyond disclosure in algorithmic enforcement[J].Florida Law Review，2017（69）.

【编辑：朱垚颖】

3515500338217