张琨 魏青松

摘要：【目的】算法推荐正在超越人工智能技术范式，成为新兴的非物质软权力，这一权力在资本逻辑加持下给我国意识形态安全带来极大挑战，应对挑战并提出相关建议对我国国家安全建设有重要意义。【方法】本文通过探究算法推荐的技术逻辑及其意识形态属性，厘清算法推荐给我国主流意识形态安全建设带来的风险挑战，从而提出治理路径以有效规避风险。【结果/结论】治理算法推荐场域下以“微碎叙事”“娱乐泛化”“信息茧房”为主要表征方式的主流意识形态风险，需要平台履行主体责任加强管控；政府规制算法“有序”运行；主流媒体积极融入传播新格局，形成算法安全多元共治的局面，为主流意识形态安全保驾护航。

关键词：算法推荐；主流意识形态；人工智能；风险表征；治理路径            中图分类号：G20         文献标识码：A

文章编号：1671-0134（2024）01-053-04         DOI：10.19483/j.cnki.11-4653/n.2024.01.009

本文著录格式：张琨，魏青松 . 算法推荐场域下主流意识形态风险表征及治理路径[J].中国传媒科技，2024，31（1）：53-56.

习近平总书记指出：“互联网已经成为舆论斗争的主战场，在互联网这个战场上，我们能否顶得住、打得赢，直接关系我国意识形态安全和政权安全。”[1]随着大数据技术和人工智能技术的跃迁式发展，算法推荐逐渐成为信息流通领域影响我国主流意识形态安全的重要变量。防范化解算法推荐场域下的主流意识形态风险，对维护我国国家总体安全具有重要价值。

1.算法推荐的技术逻辑及意识形态属性

随着数字化高度发展与信息超载，为实现信息高效利用，算法推荐成为大数据等人工智能技术的必然产物，其具有自身的技术运作逻辑。作为一项技术，尽管其本身不具备价值导向，但技术的“内嵌式”结构使其不可避免地在信息选择与分发中呈现出鲜明的意识形态属性。明晰算法推荐的技术逻辑及其意识形态属性是探求算法推荐场域下主流意識形态风险表征及其治理路径的重要条件。

1.1   算法推荐的技术逻辑

研究表明，“算法”即“为解决特定问题而输入的一系列步骤”，其作为计算机理论的核心要素广泛应用于计算机领域。“推荐”即介绍合适的人或事物希望被任用或接受。“算法推荐”是以计算机为平台，建立在大数据收集、计算与分析基础上，对用户在网络平台的行为数据，包括用户的年龄、性别以及上网时间、地点等进行收集整合与偏好分析，推测用户物质与精神需求。之后基于内容推荐、协同过滤推荐等技术，对收集的信息进行整理分析，自动生成符合用户需求及其可能感兴趣的信息内容，且根据用户的实时反馈进行动态更新与调整，进而推送“懂你”的信息。 要了解算法推荐的技术逻辑及算法原理，首先要理解抽象数学模型：y = f（x1，x2，x3），其中，x为输入元素，y为输出结果，f（x）为算法推荐模型。一般的算法推荐往往包含三个自变量，第一类是用户特征（x1），往往包含用户基本信息、浏览偏好以及行为习惯等；第二类是环境特征（x2），主要指时间（时间段、工作日/节假日）、空间（办公场所/休闲娱乐场所）、设备（大屏/小屏）、网络等环境；第三类是内容特征（x3），主要指拟推荐内容的题材及长度等。可以发现，自变量主要分为静态自变量与动态自变量。顾名思义，静态自变量即相对稳定，不会发生明显变化的变量，如用户年龄、学历与地域等。动态自变量即用户所处的时空环境等特征，相对不稳定，容易发生变化。算法推荐的输出结果即因变量，涉及匹配度模型设置问题，可以简单理解为y =推荐或y=不推荐。由此，整个过程就抽象为了已知用户、环境内容特征，通过执行算法推荐，得出特定内容与特定用户之间匹配度的结果。根据不同的计算结果，平台可能针对用户采取不同的分发策略。通常来讲，算法推荐系统至少由三个子系统构成：数据系统（收集用户信息）、分析系统（勾勒用户偏好）、推荐系统（过滤、筛选和推送）。在这三个系统中，推荐系统处于核心地位，决定了个性化推荐能否顺利实现。

作为信息资源的一种全新配置范式，算法推荐技术一方面在信息流通效率提高的基础上为用户节省了检索筛选信息的时间成本，另一方面算法推荐技术使个性化信息推送成为现实，给用户带来了使其“愉悦”的个性化虚拟空间。对于平台来说，算法推荐增加了用户数量，增强了用户黏性，留住用户的同时也为其创造了更多商业价值。在算法推荐的作用下，信息交互使“人找信息”转向了“信息找人”。

1.2   算法推荐的意识形态属性

作为人类社会交流的重要媒介，话语“表达什么”“怎么表达”“以什么立场表达”都蕴藏着权力，这种权力关系的系统呈现，注定了算法推荐的全过程渗透着意识形态色彩。算法推荐分为输入单元、运算单元及输出单元，其功能分别对应：搜集用户信息并记录其个性特征及行为数据，进行过滤、分类、赋值和贴标签；计算已知数据与潜在需求之间匹配程度；向目标用户推送转化后的用户能够接受的算法推荐内容。就这三个单元的运行过程所蕴含的意识形态属性来说，一方面，从一开始算法推荐的技术本质及内嵌原则就决定了其必然内嵌着算法设计者的立场与观点，另一方面，算法推荐的不当使用也必然会导致特定的意识形态后果。

算法推荐不仅涉及技术编码与运算程序，还涉及算法设计者及使用者的价值体系。首先，在算法推荐的设计过程中，算法设计主体经过用户和技术“赋权”后，具有了筛选、决策和定向推送的权力，并依据自身知识经验或历史用户的使用数据进行选择并训练算法模型，以便推送更加符合“个性化”推送目的的信息，即使在弱人工智能阶段，算法推荐系统的人工痕迹仍非常明显。例如算法设计者通常为达到某种意图特意置顶某种凸显价值导向的内容。其次，“喂养”算法的数据也非绝对“价值中立”，来源于现实的数据信息必然也会携带一定社会的、历史的、文化的意识形态色彩。数据的规模及是否具有代表性是衡量算法推荐客观性的重要标准，但实际上获取全面的样本数据并非易事，在算法推送过程中，算法设计主体往往为了实现特定目标而选取“指定”数据，或在这一过程中进行人为“扭曲”，这些多重因素都影响着算法的价值选择。值得关注的是，算法推荐还会在承袭设计主体及历史数据的基础上，随着自身更迭强化并放大这一价值立场，通过晦涩、隐蔽的方式造成算法歧视，使一段时间内的偏见与不平等永恒化，造成意识形态危局。最后，算法推荐背后往往也有外部社会政治权力的介入，由于算法推荐技术的研发与运行需要大量资金投入，资本自然而然介入了算法运行。与传统制度化与强制化权力相异，市场经济条件下资本介入后的算法推荐更显现出“商业逻辑、偏好原则、技术理性和隐形运行的特征”[2]。算法推荐在追求利益最大化的同时不可避免地会利用自身技术优势以及行业便利、把控社会资源及信息，在用户黏性基础上潜移默化地影响人们的认知结构和行为方式，从而产生有利于代表利益集团的意识形态传播。可以说，算法推荐自始至终就是对原有传播结构进行重新组合，重塑价值的过程，因而具有意识形态色彩。

2.算法推荐场域下主流意识形态风险表征

算法的内嵌原则与不当使用是生成主流意识形态风险的关键因素。这些风险主要体现在挤压我国主流意识形态传播阵地、削弱我国主流意识形态话语权威以及弱化我国主流意识形态认知统合效果方面，造成我国主流意识形态建设危局。

2.1   微碎叙事挤压主流意识形态传播阵地

“阵地是意识形态工作的基本依托”[3]。当前，网络空间作为西方资本主义建构主流意识形态的重要阵地，依托算法推荐等互联网技术以随时发生、微量微小等传播方式加剧意识形态内容生产的“微碎化”趋势，挤压了主流意识形态等传播阵地。

在算法推荐“微碎叙事”背景下，一方面，围绕党、国家、人民及国际大事展开的宏大叙事失去效应，有限性的“小事”被赋予新的意义，“鸡毛蒜皮效应”对人们碎片化思维的形塑降低了受众对主流意识形态的接受程度。相比主流意识形态相关内容深入社会实际、具有深刻内涵与宏大叙事的特征，需要长期且扎实的理论学习才能“入脑入心”，算法以碎片化、轻量化的内容推荐吸引人，有价值和意义的信息被过滤，长此以往人们在碎片化思维的形塑下会更加沉迷于短平快的信息摄入，深陷抖音、快手等快餐式平台，造成主流意识形态传播边缘化风险。另一方面，算法推荐的“微碎叙事”对碎片化时间的占用也会影响受众对闲暇时间的有效利用，为诸如文化消费主义、历史虚无主义等西方不良社会思潮的资本主义意识形态渗透提供便利，潜移默化影响人们吃穿住行，引导文化消费。此外，算法推荐还会影响用户的信息筛选和分辨能力，例如包括“普世价值论”在内的各种错误思潮会利用碎片化材料拼凑“真相”，裁剪“事实”，恶意篡改历史、中伤英雄人物，歪曲党和国家的方针政策，导致主流意识形态话语偏离，对主流意识形态传播阵地构成严重威胁。

2.2   娱乐泛化削弱主流意识形态话语权威

“为了提升消费能力，絕不能让消费者休息。他们需要不断被置于新的诱惑之下，以便一直保持激动状态，永远不让兴奋萎缩”。[4]在虚拟网络空间，民众对于娱乐新闻八卦的热情远超公共信息，为迎合大众，算法不惜为用户创造“兴趣”，这种基于用户本位的信息分配机制很大程度上造成了用户“娱乐成瘾”。同时，在资本逻辑主导下，信息的价值评判标准由社会反馈转向流量资本，为了吸引更多流量产生更大经济效益，这种流量经济下的“泛娱乐化”致瘾机制使很多用户在娱乐化数字世界中沉迷、放纵，选择戏谑权威、歪曲主流话语等方式自我释放、宣泄情绪，在这样一种娱乐化氛围裹挟下，媒体平台的逐利性会迎合而非批判，主动宣传主流意识形态的信息变少，正如马克思所说“资本主义生产过程的动机和决定目的，是资本尽可能多地自行增值，也就是尽可能多地生产剩余价值”。[5]同时，逐渐衍生的“娱乐至死”心态也使社会变得喧嚣而浮躁，信息娱乐化、世俗化逐渐战胜抽象化、理论化，资本主义话语体系逐渐侵蚀价值话语，有意思的信息逐渐取代有价值的信息。西方敌对势力和我国别有用心者往往借此机会制造舆论风波、蓄意抹黑，导致主流意识形态话语权威削弱甚至旁落。

2.3   信息茧房弱化主流意识形态认知统合效果

“信息茧房”是指人们关注的信息领域会习惯性地被自己的兴趣所引导，从而将自己的生活禁锢于像蚕茧一般的“茧房”中的现象。在当前信息高度过剩的状态下，用户注意力，成了所有信息平台争抢的核心要素。算法机制为更成功吸引用户眼球，只推送用户喜欢的内容，但凡有一点引起用户反感或不悦的信息，它都可以从用户的停留时间或其他反馈上判断出来，进一步剔除优化，直到完全是用户喜欢且是最喜欢的一种或几种内容，由于用户倾向于选择自己偏爱的、产生精神愉悦的同质性信息，长此以往内容推送的单一化和排他化导致很多理应接收的信息被排除在外，用户逐渐失去接受异质性信息的机会，沉溺于以偏概全的信息世界，认知和视野的窄化导致个人与社会脱节，最终沦为“信息孤岛”的“原住民”。在兴趣“气泡”长期环绕下，人们通常吸收新信息以确认他们对世界的看法，这种现象被称为“证实偏见”，受众在这一过程中不断加深对某些问题的固有看法，逐渐丧失理性判断能力，只将自己认知内的信息看作是真理，拒斥合理性观念，成为“单向度的人”，长此以往造成圈层固化。葛兰西用社会水泥的隐喻阐释有组织意识形态就如“社会水泥”，对社会具有黏合团结的整合功能。而算法推荐的“信息茧房”效应使得利益群体逐渐分散，不利于社会成员对主流意识形态的接受和认同，思想共识在“信息茧房”效应引发的圈层固化中被撕裂，主流意识形态的整合效果被弱化。

3.算法推荐场域下主流意识形态风险治理路径

习近平总书记曾指出：“当前意识形态领域的斗争仍然尖锐复杂，需要全党以敢于斗争的精神、善于斗争的本领主动应战，牢牢掌握主动权。”[6]面对算法推荐技术带来的意识形态风险，我们应积极采取主动策略应对风险，重塑算法推荐场域。

3.1   平台自治：履行主体责任，加强平台管控

智能媒体要成为综合治理的技术主体，就必须从源头治理技术系统的运行，从而更好支配算法推荐技术的生产、分发与反馈环节，确保算法平台载体的安全合规。具体来说，一方面，平台要保护用户的知情权和选择权。面对算法对日常生活的深入渗透，多数用户表示对算法“是什么”及何时处于算法场域并不知情。作为算法技术的设计者和使用者，算法平台有义务告知用户算法运行情况。《互联网信息服务算法推荐管理规定》（以下简称《规定》）中明确指出企业应保护用户知情权，以适当方式公示算法服务的基本原理及主要运行机制等[7]，增强算法规则的透明度与可解释性，提升用户对于信息接收的敏感度。此外，平台还应尊重用户的选择权，向用户提供不针对个人特征或关闭算法推荐服务的选项等，避免用户陷入“算法牢笼”。另一方面，平台还应严格把控并评估算法推荐展示内容是否符合主流价值导向，智能选择并过滤算法推荐场域的新自由主义及历史虚无主义等“脏数据”，为内容分发过程加装“过滤网”，采用“算法＋人工”的“双保险”审核方式，用人工编辑的价值理念和专业知识来审视与监督算法偏见，增加算法中对主流价值导向的评价维度和权重设计，以“弘扬社会主义核心价值观”鼓励使用算法传播正能量，保证优质内容始终贯穿于推送序列中。

3.2   政府规制：以法治手段约束算法“有序”运行

由于算法推荐场域下网络空间意识形态安全的不确定性，政府对算法领域规制的积极介入成为约束算法推荐边界及运行的关键环节和重要路径。一方面，要认清形势，任何平台算法推荐的背后往往是资本逐利性、垄断性与扩张性控制下无节制追求“流量经济”等商业指标的结果，因此必须通过公权力的介入从外部对算法进行管控，政府要坚决防止算法背后资本力量的恶意操纵与不当得利，加强对算法的科学监管，以“包容审慎监管”为原则，在适应算法治理特征及算法创新需求基础之上，通过合理方式驱动算法推荐走上合法求利的轨道，维护我国主流意识形态安全。另一方面，“技术的迭代与创新，确实容易突破法律的边界，踏入规则的‘无人区”[8]，这也恰恰意味着在法律层面对算法进行规制、引导迫在眉睫。我国出台的《规定》为整治算法推荐场域乱象丛生提供了政策导向，但也要深刻认识到算法综合整治的法律法规仍处于起步阶段。加强对算法推荐的有效监管，就要加强商业互联网企业准入、运行与退出机制探索，对于不符合算法评估标准、违反行业道德、触碰法律红线的算法平台进行严厉打击，建立严格的惩罚制度，以硬性的法律夯实意识形态安全底线，阻止算法野蛮生长。此外，还可以建立健全政策奖励激励制度，以柔性治理手段积极推动算法向善发展，例如出台相关税收优惠政策等鼓励商业机构平台发挥主观能动性履行社会责任，实现商业利益同社会价值的有机统一。

3.3   主媒领治：推动主流媒体融入传播新格局

习近平总书记指出要“用主流价值导向驾驭‘算法，全面提高舆论引导能力”[9]。主流媒体承担着价值导向、成风化人等使命，不能同商业媒体算法一样以逐利为目标。一方面，主流媒体平台要不断推动信息分发核心技术优化升级，加大技术领域创新力度，形成壮大主流思想舆论的党媒算法和主流算法，精准定位用户需求，为用户量身推送社会主义核心价值观等主流意识形态的相关内容，实现从技术上的“跟跑者”到“领跑者”。另一方面，主流媒体也要在坚持内容为王、转换传播语言、形成贴近人民生活的主流传播内容的同时积极融入平台媒体，借助多元渠道扩大自身辐射范围，增强网络影响力。当前，拥有庞大用户基数的如抖音等的媒体平台已成为形塑与传播意识形态的重要阵地。只有善用头部商业平台的技术与市场，将之与自身优质内容相融，实现联合运营，才能更好地推动优质内容的分发机制，扩大主流意识形态的传播力、引导力、影响力和公信力。就《人民日报》来说，截至2023年11月抖音平台粉丝已突破1.7亿人次，获赞突破120亿次，在媒体抖音号影响力排名中位居首列，其内容辐射广度在抖音平台助力下进一步得到提升。

作为人工智能技术的重要形态，算法推荐在广泛应用中已然成为网络信息分发的主要方式，我们要认清这一技术导致的意识形态风险隐患，加强主流意识形态价值引领，引导广大民众形塑正确思想、发表积极言论，增强国家认同感，强化“四个自信”，维护我国网络空间安全。

参考文献;

[1] 《习近平新闻思想讲义（2018年版）》编写组.习近平新闻思想讲义[M].北京：人民出版社，学习出版社，2018．

[2] 张林.智能算法推荐的意识形态风险及其治理[J].探索，2021（1）：176-188.

[3] 中共中央文献研究室.习近平关于社会主义文化建设论述摘编[M].北京：中央文献出版社，2017.

[4] [英]齐格蒙特·鲍曼. 工作、消费、新穷人[M].譯者：李兰.长春：吉林出版集团，2010.

[5] 马克思恩格斯文集：第 5 卷[M]. 北京：人民出版社，2009.

[6] 习近平.在中央党校建校90周年庆祝大会暨2023年春季学期开学典礼上的讲话[J].求是，2023（7）：4-13.

[7]互联网信息服务算法推荐管理规定[EB/OL]. （2022-01-04）[2023-10-30].http.//www.cac.gov.cn/2022-01/04/c_1642894606364259.htm.

[8]羽生.人民网三评算法推荐：警惕算法走向创新的反面 [EB/OL]. （2017-9-20）[2023-11-10].人民网http：//opinion.people.com.cn/n1/2017/0920/c1003-29545718.html.

[9] 习近平 . 加快推动媒体融合发展构建全媒体传播格局[EB/OL]. （2019-3-15）[2023-2-5].求是网，http：//www.qstheory.cn/dukan/qs/2019-03/15/c_1124239254.htm.

作者简介：张琨（1999-），女，山西太原，上海海事大学马克思主义学院硕士研究生，研究方向为思想政治教育；魏青松（1977-），男，河南驻马店，教授，上海海事大学马克思主义学院硕士生导师，上海市习近平新时代中国特色社会主义思想研究中心研究员，马克思主义理论学科带头人，研究方向为马克思主义中国化、中国共产党海洋强国战略思想与实践、执政意识、政党制度及思想政治教育原理与方法等。

（责任编辑：李艳松）