陆 康 潘小宇 刘 慧 任贝贝

（1.南京晓庄学院 南京 211171;2.上海市网络技术综合应用研究所 上海 200336）

引言

近年来，人工智能（Artificial Intelligence，AI）等新技术的发展引起了社会的广泛关注。欧美已经开始探索AI的治理措施，我国也在2019年6月17日发布《新一代人工智能治理原则》[1]。2019年4月8日，欧盟委员会发布一份AI的道德准则，该准则由2018年12月公布的人工智能道德准则草案演变而来，提出了实现可信赖人工智能的七个要素，要求不得使用公民个人资料做出伤害或歧视他们的行为[2]。新时代的图书馆如同一个城市的“大脑”，凝聚着海量智慧信息，并利用最前沿的科技，将自身打造成一个更高效、更便捷、更精准、更智慧、更亲民、更具吸引力的复合文化空间，以满足公众多样的文化需求[3]。图书情报学作为一门与计算机技术、数据、信息、知识等关系极其密切的学科，本身就与AI技术有极强的黏性，业界的相关研究也与AI发展基本一致[4]。AI需要围绕数据伦理、算法伦理、安全伦理、法律责任四个方面进行治理[5]。我国图书馆职业伦理规范最初是借鉴国外的经验，后逐渐发展形成适合国内图书馆实际情况的职业伦理规范与条例[6]。图书馆伦理规范随法律、用户、技术以及业务场景等环境因素的变化而发生改变。图书馆的发展离不开技术创新的支持。AI等技术创新应用是图书馆发展的动力。图书馆服务的优化是AI等技术创新在图书馆应用的目标归属[7]。AI在图书馆的应用存在着数据安全与伦理困境等问题，未来在图书馆提供服务过程中如何避免安全问题与伦理危机的出现，这需要对AI等新技术加以规范约束，使其有效地为图书馆智慧服务提供支持，并以此促进智慧图书馆技术创新与制度完善。

1 文献回顾

我国图书馆对AI的关注始于20世纪80年代，其时，刘卫国在《图书馆学理论研究的几个问题》中指出，大众传播、机器通信系统、图书馆系统、智能系统和人工智能等是直接设计人的信息传播的系统[8]。徐高林于90年代中期介绍了有关开发应用前景的三大技术，并指出加强AI与其他技术的协同作用，才能更快地建成切实可行的智能化图书情报系统[9]。根据CNKI的检索结果，近三年来，图书馆的人工智能研究成果不断涌现，从2017年的60篇，2018年的165篇， 发展到2019年的206篇。在“超星发现”中，以“人工智能+图书馆”为主题进行检索（设定只检索学术文章，检索时间为2020年2月12日，如图1所示），得到图书18本，期刊文章1 003篇，学位论文230篇，会议论文30篇，但其中提到“伦理”的研究成果较少，只有6篇，显然AI伦理问题未得到普遍关注。

《国际图联趋势报告》 （IFLA Trend Report）将人工智能列为四大技术趋势之一[10]。AI 为图书馆既带来了机遇，也带来了挑战。图书馆受到大数据和人工智能创新发展的影响，图书馆的学术研究也面临着环境和需求的双重变化[11]。图书馆的AI研究可以分为两个层面：以技术创新为代表的宏观理论研究，结合智慧图书馆[12]、大数据等新技术[13]、新理念[14]驱动图书馆以及图书馆业务的变革[15]。以法规制度为代表的伦理危机研究，主要围绕AI风险防范[16]、数据安全、用户隐私等方面的研究。无论是互联网AI、大数据等新技术创新发展的外部环境变化，还是图书馆内部的法律制度与新技术能力等因素都给图书馆事业发展带来了机遇和挑战[17]。AI产品是否具有人权，如何界定其权利和义务以及应遵循何种伦理标准[18]，这些问题的解决是图书馆服务创新所面临的实际问题，也是图书馆事业发展所要解决的问题。文章围绕以AI为代表的图书馆创新技术，通过治理的角度、图书馆的责任以及倡导的理念等方面，结合《新一代人工智能治理原则》，探讨图书馆智慧服务的伦理规范等问题，以求为图书馆服务创新与事业发展提供参考依据。

图1 “人工智能”+“图书馆”主题检索知识点关联分析

2 AI治理的三个层面与三个认知

互联网中以AI为代表的新技术的治理，在全球范围内得到了广泛关注[2]。欧盟在2019年4月8日发布了“AI产品7大原则”，包括：“受人类监管”“技术稳健性与安全性”“隐私和数据治理”“透明度”“多元化，非歧视和公平性”“环境和社会福祉”“问责制”。近些年，我国也积极应对AI等创新技术发展与应用可能引发的潜在危机，《数据安全管理办法》《民法典人格权编草案》《信息安全技术个人信息安全规范》《网络生态治理规定》等都有所涉及。互联网治理也从政府、企业、社会与用户等主体协同治理信息内容逐步向推荐算法、深度伪造、流量造假与网络暴力等热点问题延伸。图书馆信息资源共享、用户隐私保护等问题也随着技术伦理危机的出现而持续发酵。但图书馆对国家互联网治理一直缺乏正面回应[19]，因此图书馆急需从三个层面与认知角度，应对服务创新所带来的管理弊端，提升管理能力与水平。

2.1 三个层面的挑战

2019年3月，在联合国教科文组织首次举办的“推动人性化人工智能全球会议”上，联合国教科文组织总干事Audrey Azoulay在开幕致辞中提到:“AI是人性的新前沿, 必须确保AI以人为本的发展方向。”人工智能不仅对教育、科技、卫生和可持续发展等方面起关键性助力作用，同时也给人类带来了一系列挑战, 特别是在伦理、人权和安全方面。联合国经济合作与发展组织秘书长安赫尔·古里亚认为：“如果人工智能没有以人为中心的价值观和包容性, 那么它就没有任何价值。”[20]AI技术支持着图书馆的服务创新，开拓了图书馆的人机协同、多元融合、共享共建、自主控制的智慧服务新时代，赋予了图书馆创新服务的能力，也对图书馆传统权利、权责以及伦理方面产生了挑战。

2.1.1 AI对传统权利的挑战

B.A.Wood等通过实证调研发现学术图书馆对AI的热衷程度与法律、医疗卫生等行业有差异，也与图书馆对其他新技术的引入态度不同[21]。图书馆对AI技术与业务融合存在着一定的顾虑，一方面由于馆员对AI技术不能够深入理解[22]，另一方面AI技术在文献资源推荐系统和自然语言处理方面尚未达到预期的效果。以机器学习为代表的现代AI系统出现之前，人类是地球上唯一具备自主行为能力的主体，国家以及社会组织作为法律上拟定制度的人，其自身不具备行为能力，需要人来代表其行使相关权利。图书馆用户服务，虽然从数字图书馆开始，增加了互联网的渠道，但仍需要相应的馆员与用户交流，而服务系统只是起到“中介”的作用。从AI的概念、意义与应用价值综合分析发现AI作为一个具有独立自主能够做出选择的非自然的实体，具备“类人行为”特征，例如“自动驾驶汽车”“自动问答”，甚至“创作作品”等，给传统的人类主体地位带来了一定挑战，其中最为突出的是AI服务产生的“后果”责任的承担以及不符合传统伦理道德等问题的解决。

2.1.2 AI对图书馆责任的挑战

A.Comsa等介绍了一些图书馆利用AI进行智能化图书管理的案例[23]。原属于馆员的图书管理工作被交予AI处理，其自主性与不可预测性切断了人与用户之间的因果关系。AI引发的可能是“技术—经济”决策导致的风险,也可能是法律保护的科技文明本身带来的风险，这些问题产生的社会风险具有共生性、时代性、全球性等特点。由AI等技术创新引发的智慧革命给当前的法律规则与秩序带来了一场前所未有的挑战，与民事主体法、著作权法、侵权责任法、人格权法、交通法、劳动法等诸多现有法律制度形成冲突，也凸显了法律制度产品供给的缺陷[24]。我国现有的图书馆法律制度，也存在着不适应互联网技术创新带来的图书馆服务危机，其中图书馆所承担的责任问题无法做到合理的界定。例如，《公共图书馆法》第四十三条规定“公共图书馆应当妥善保护读者的个人信息、借阅信息以及其他可能涉及读者隐私的信息，不得出售或者以其他方式非法向他人提供。”在读者信息保护方面，AI等技术都是以大数据为基础，以读者为服务对象，而感知读者需求必然用到用户数据，但AI显然不能够承担图书馆的法律责任。所以，AI等服务创新技术的使用也需要对服务模式、责任承担等改变图书馆传统伦理的问题展开探讨。

2.1.3 AI对图书馆伦理的挑战

Adetoun A Oyelude研究了2017年度互联网舆论的新技术轨迹[25]，发现图书馆的技术热点逐渐从以AI为主的技术创新向信息素养转移。然而因为馆员、用户等信息素养能力不足，无法适应技术创新带来的变革，所以图书馆对AI发展存在着一定顾虑。AI 给图书馆带来的伦理挑战主要体现在两个方面，第一，技术应用的范围与边界问题，包括图书馆之间、图书馆业务系统之间以及图书馆与用户之间的AI服务对象以及服务的内容究竟有哪些。第二，技术创新发展改变了传统的服务理念、方式、内容。对于图书馆来说，馆员对新技术的依赖，必然降低其用户服务的积极性，从而逐渐丧失业务能力，最终失去岗位。当AI超越馆员服务水平的时候，重新考虑图书馆的AI服务活动的道德性问题将被提上日程。

当前在技术创新的背景下，AI正以更快的方式融入人类社会的方方面面[26]。如果AI达到与人类相近的思维能力与推理能力，那么对AI与人的道德地位的界定将面临着挑战。AI的责任问题也是社会层面不可回避的重要议题。AI功能的实现源自于计算机算法与程序支持，难免存在无法避免的失误或者错误。图书馆虽然未涉及大规模的AI业务应用，但是也需要未雨绸缪提前谋划AI等技术创新带来的挑战。图书馆技术创新能否解决新的伦理危机，需要馆员加深对AI等技术创新的了解。

2.2 三个层面的认知

人类心智和认知分为神经、心理、语言、思维、文化五个层级[27]。从信息技术发展历史来看，人类通过利用计算机的认知在逐渐发生改变。互联网法律经历了三次重大变革，并且每个阶段都围绕着特殊问题制定了相关的法律、标准规范进行约束，以规范互联网发展。认知的第一阶段关注的焦点是计算机，各国政府围绕着计算机的安全问题，例如欺诈、滥用以及犯罪等制定了系列法律法规，美国在1986年颁布的《计算机欺诈和滥用法案（Computer Fraud and Abuse Act）》就诞生在第一阶段。认知的第二阶段关注的焦点是信息，各国政府围绕着信息中涉及用户隐私、信息保护、信息传播与信息滥用等问题展开法律制定，例如欧盟1995年的《个人数据保护指令》、美国1996年的《通信规范法》以及我国在1997年由公安部发布的《计算机信息网络国际联网安全保护管理办法》等。认知的第三个阶段关注数据与AI算法等技术创新带来的新挑战，例如欧盟2019年4月8日发布的《人工智能道德准则（Ehtics Guidelines For Trustworthy AI）》（可信赖AI的伦理准则）以及我国在2019年5月25日发布的《人工智能北京共识》，主要针对人工智能研发、使用、治理三方面[28]。智慧图书馆的AI治理与应用，需要注意以下三点内容：

2.2.1 数据控制、处理者应遵循数据保护规则规范

AI发展离不开大数据的支持。互联网大数据已经成为新的战略资源。所以，只有规范数据的使用，才能够为AI等以大数据为基础的创新技术提供发展空间。Affonso[29]等调查了南美国家数字图书馆数据收集以及用户隐私保护制度，并使用探索研究方法对特定国家的数字图书馆进行调研，识别这些图书馆在用户意识和环境中明确存在隐私政策的情况下收集的数据。例如巴西的国家数字图书馆使用Wireshark工具来识别用户交互过程中收集的隐私数据。通过调研发现只有两个经过审查的数字图书馆提供用户隐私保护的指导。大部分数字图书馆在收集数据时，用户并不知情。用户对数据收集的时间、方式和地点认识不足可能会涉及泄露隐私。数字图书馆隐私政策的可用性对于提高这一过程的认识至关重要。近些年来，无论是欧盟《通用数据保护条例》（General Data Protection Regulation，简称GDPR），还是我国的《信息安全技术 个人信息安全规范》都对用户数据使用进行约束，“用户知情权”成为其中的主要条款之一。图书馆作为数据的控制者，拥有较多权利的同时也有义务对用户数据进行保护。用户作为数据主体，数据隐私一直是其所困惑的问题之一。所以AI作为图书馆服务的工具涉及用户数据的使用时，也要遵循图书馆数据使用的相关规则，接受制度的约束与监管，尽量避免不当获取情况的发生。只有这样才能够保护数据的安全、用户的隐私。

2.2.2 AI治理需要采取积极包容审慎的规制方式

AI技术创新要革除现有的法律规则与传统伦理障碍，避免过时的法规、制度与伦理要求阻碍AI发展。AI逐渐渗透至图书馆业务中，带来了新的服务模式与内容，对传统图书馆业务产生迭代作用，对其不能有过多的限制性条款。图书馆依托互联网技术开展文献资源服务，图书馆的服务创新也紧密联系着互联网技术创新，因此新旧技术、新技术与旧制度产生的冲突在图书馆将不断增多。所以，图书馆的自我革新不应限于技术层面，而应该深入到制度、规范与伦理意识层面，这样才能够避免旧思维、旧思想阻碍新事物的发展。互联网环境下的技术、服务模式快速迭代，让制度无法跟上技术创新的步伐，完善的行业规范无法及时形成。但图书馆的技术创新不能因行业规范没有形成而停滞不前，便只能采取事后监管、追责或者出台相应的标准、行业公约、伦理框架、实践案例、技术指南等来规范图书馆AI等技术创新行为。《新一代人工智能治理原则》就在此背景下发布的，以此加强治理各行业的AI应用。

2.2.3 AI技术特征与复杂性追求应围绕算法透明

互联网环境下，人类数字化的存在为数据平台算法权利的形成和扩张提供了空间[30]。算法的不可解释性（黑箱）掩盖了数据权利存在的弊端，从而进一步催生了数据歧视，并因此产生了权利侵害等问题。对算法的法律规制不应忽视其透明的维度。“透明”根基于大数据技术发展所催生的互联网领域的公共空间，旨在克服算法等方面存在的技术偏私问题。正如社会层面要求政府信息公开一样，用户对技术透明也不是要求算法在每一个步骤、原理以及实现过程进行解释，而且简单的公开算法系统的源代码也不能够提供有效的透明度，反而进一步会对用户数据隐私以及技术安全造成威胁。从AI技术角度来分析，图书馆普通馆员、用户以及其他从业者现阶段对AI系统的理解比较困难，更别提对AI的决策、优化或者完善能起到促进作用。通过解释某一个结果的实现过程进而使算法透明方面公开化面临着巨大的挑战，处置不当将会限制AI应用。但是，如何使图书馆在AI系统行为与决策上实现有效的透明是值得探索的，这也可能会对提升图书馆的智慧服务效率起到促进作用。例如围绕AI技术特征，分析现有的法规条款，发现欧盟的GDPR没有规定对AI等自动化决策行为提出要求，仅仅要求提供内在逻辑意义的相关信息，以解释AI等自动化决策的重要意义与预期的后果（危机判断）等。所以，算法透明原则可被用来限制“算法黑箱”等产生的不利后果，但是对于社会层面，例如立法、行政、司法措施规制算法环境下,算法透明原则既不可行,也无必要[31]。因此，图书馆领域内的算法透明原则在算法规制谱系中应该处于非普适性、辅助性的位置。本质主义色彩浓厚、以算法透明为代表的事前规制，反而影响技术创新发展。所以，图书馆AI应用涉及算法等问题时，更加得当的规制策略应该是以实用主义为导向、以算法问责为代表的事后规制。

图书馆发展是一个不断创新与迭代的过程。新技术替代旧方案，实现服务创新，是图书馆引以自豪的亮点。图书馆的技术创新、服务创新不能改变“以用户为中心”的服务初心。互联网不仅给图书馆带来了发展机遇，也带来了一定挑战。互联网的文献资源服务内容与形式已经改变了用户思维方式。图书馆也应该随之进行自我革新，在遵循传统伦理规范基础上，引入AI等新技术，提升传统服务的质量，让图书馆时刻保持与社会同步。所以，现代图书馆不仅仅是文献资源服务的中心，也是科技创新机构，需要承担更多的伦理责任。

3 图书馆技术创新的伦理责任

每一种职业都有其服务对象，都有各自活动的环境、内容和方式，都承担着不同的社会责任[32]。伦理责任取决于主体的责任意识和道德修养[33]。图书馆伦理责任主要是指图书馆主体在文献资源服务等职业活动中所应承担的道德义务及违反道德义务应承担的后果，例如对道德评价、伦理的纠错、伦理的问责等。图书馆作为社会公益性组织，责任始终处于图书馆伦理价值取向最重要的地位[34]。“以用户为中心”的服务理念不断融入图书馆的各项业务中，发挥着重要作用。美国斯坦福大学在2019年3月18日宣布成立“以人为本”人工智能研究院（Stanford Human-Centered AI Institute， HAI）， 致力于推动人工智能领域的跨学科合作，让科技以人为中心，并加强对人工智能社会影响的研究[35]。在当前AI技术应用创新背景下，图书馆应比任何时候都要更加注重技术与伦理之间的平衡。

3.1 图书馆技术创新的效率驱动

现代图书馆的功能可以概括为资源建设、读者工作、宣传推广、系统保障、行政管理、技术创新、基础设施和学术研究等八个维度[36]。图书馆的主要价值活动与辅助性价值活动可以拓展为图书馆的核心业务与创新服务。互联网技术创新对图书馆价值活动产生了一定的驱动效果。一方面，图书馆对互联网技术的引入意味着图书馆有提升服务效率的需求，图书馆应该发挥好技术的优势，善用、优化技术来提高服务效率，从而产生一定的社会价值。另一方面，图书馆业务的实施离不开馆员的支持。馆员具有人性的一面，有一定的深度与价值，也会追求人性、维护人类固有的价值观与实现自我，具有避免技术创新发展与应用突破人类伦理底线的能力。图书馆智慧服务的目标就是为了提高服务效率，但是图书馆作为公益性机构，不能一味追求自我价值而忽略肩负的社会责任。图书馆在技术创新环境下，更应该发挥其服务读者、服务社会的职能，以实现社会影响与自我价值的统一。在商业领域，国内外的互联网创新企业也开始承担伦理责任，一方面注重技术创新对社会进步的影响，另一方面积极运用技术与制度方法规避技术滥用、数据滥用造成的伦理危机。S.W.Hawking、E.Musk以及Bill Gates等西方名人都意识到AI存在的道德风险，呼吁对AI等新技术的开发、使用要有审慎的态度。大学数字图书馆国际合作计划（CADAL）是我国应用虚拟现实技术最为成功的项目,目前已有虚拟阅读、资源评介与推荐、古籍资源利用等[37]，这些应用在不断革新图书馆的传统服务模式。但图书馆缺乏专门的伦理与社会部门来应对AI等技术创新所带来的伦理与社会问题。在整个行业都对新技术、新理念、新模式日益青睐的背景下，技术设计与实施的多学科综合评估是必要的。

3.2 图书馆技术创新的危机避免

2020年1月11日，在腾讯主办的第三届“千里之行”科技向善年度论坛中，麻省理工学院物理学终身教授、未来生命研究院创始人马克思·泰格马克畅谈AI技术，呼吁更加广泛的共同体，以实现真正惠及人类生活的美好愿景[38]。2018年被称为是国际数据保护元年[39]。一方面由于在2018年，世界各国发生了多起用户隐私泄露事件，从而引起了全球互联网用户的恐慌以及各国政府与国际组织的关注；另一方面，欧盟GDPR正式开始实施，新加坡、印度、巴西、澳大利亚等国数据保护法集中出台以及我国个人信息保护法也进入了立法阶段。图书馆技术创新离不开数据，智慧服务体系的实现，需要通过用户数据来感知用户所需。“技术向善”的理念就是围绕技术伦理的制度化建设，与图书馆的“以用户为中心”理念有着异曲同工之处。图书馆的技术创新伦理危机最终归集于用户数据是否规范化使用的问题，即用户数据隐私保护，其核心在于“善”与“度”两个方面。所以图书馆在落实技术创新价值观与方法论方面应该是多维度、多元化的，既要遵循现有的法律法规，例如《公共图书馆法》《网络安全法》等有关条款以及《新一代人工智能治理原则》等，又要在图书馆内部建立伦理审核制度以及用户权益保障机制等来落实图书馆服务创新所带来的伦理危机。图书馆作为数据控制者，很容易让用户产生误解。让用户拥有个人数据的知情权与决定权，是图书馆技术创新避免伦理危机的方法之一。

图书馆智慧服务的发展趋势不可避免，这是由于互联网数字技术与图书馆业务需求相互整合、相互构建的结果。图书馆高度的专业化、知识化与技术化使得其风险性与不确定性越来越高，图书馆需要从自身发展角度不断反思，不断探索AI等新技术的治理模式。图书馆的技术伦理教育能够增进馆员与用户的伦理自觉，并时刻保持对技术创新应用潜在影响与防范的反思，这样才能保障智慧图书馆的健康发展。《新一代人工智能治理原则》对图书馆智慧服务的新技术应用，起到了一定的参考作用。

4 《新一代人工智能治理原则》对图书馆智慧服务的启示

AI在图书馆领域的实践已经初具规模，尤其在文献资源服务方面已经与业务深入融合。如表1所示，图书馆领域对AI的探索仍然停留在技术创新方面，未从规则伦理角度进行宏观规划。《新一代人工智能治理原则》的八项原则为图书馆AI治理提供了参考（如图2所示）[41]。

表1 AI理论与图书馆实践相关构成

图2 智慧图书馆《新一代人工智能治理原则》的启示

4.1 和谐友好的多场景智慧服务嵌入

AI发展的初衷就是为了增进人类共同福祉。图书馆的专家系统、智能检索、智能推荐等弱AI系统的应用，符合图书馆长期以来遵从的“以用户为中心”的文献资源服务的价值观和伦理道德。人脸识别、智能借阅等服务创新功能实现了服务人类文明进步的目标，促进了图书馆的发展。图书馆AI的实践，目前还处于弱AI的初级阶段，主要嵌入的是图书馆基本业务开展所需的技术升级。长期以来，图书馆重视安全保障工作，无论是空间安全，还是互联网安全，都是对用户、馆员权益的尊重，这些理念也随着社会文明的进步而得到落实细化。图书馆智慧服务开展的初衷就是为了更好地服务用户。AI技术是支持图书馆智慧服务实施的工具，而且技术的嵌入也具有针对性。当前图书馆的智慧服务还处于初始阶段，AI嵌入业务实施的单一性也避免了新技术的误用、滥用以及恶用的情况发生。

4.2 公平公正的用户与图书馆权益保障

AI的发展提倡公平公正，保障利益相关者的权益并促进机会的均等性。互联网中的图书馆是一个复杂系统的集合体，既包括服务对象——用户，也包括服务实施者——馆员以及图书馆文献资源与技术保障的支持者——供应商等。AI技术的复杂性预示着图书馆无法通过自身的技术力量升级至AI系统。这就需要图书馆之间、图书馆与馆员、图书馆与用户以及图书馆与技术支持者之间的合作，汇聚力量来完成图书馆智慧服务应用的升级改造。在涉及多重关系情况下，无论是用户还是馆员、供应商，都需要具备全局观念，以相互协作的方式通过持续技术创新、管理方式改进，并且在数据设计、算法改进、技术开发、实践探索和应用过程中逐渐消除偏见和歧视，以实现弱AI向强AI甚至超级AI的跨越式发展，实现图书馆智慧服务的全覆盖。

4.3 包容共享的技术服务创新资源共享

AI也应该促进绿色发展，符合低能耗、资源节约型的要求。共享机制的建立有助于避免资源浪费。正如“数据鸿沟”一样，“技术鸿沟”也同样存在。AI的引入促进了图书馆服务创新，这必然会对传统服务模式造成冲击。例如智能借阅与智能推荐改变了传统的文献资源借阅模式。这类“冲击”必然会引起部分馆员的反感，会影响馆员的价值体现。互联网的创新理念、创新思维不断影响着人类，也促进了各行各业的转型发展。馆员应该从发展角度推动AI技术在图书馆服务创新中的应用，接受AI教育与普及，提升弱势群体的适应性，逐渐消除“技术鸿沟”，进而解决“数字鸿沟”“资源鸿沟”等问题，让图书馆的文献资源共享理念在AI等新技术的支持下最终实现。

4.4 尊重隐私的用户数据的规范化使用

用户隐私信息保护是图书馆用户信息资源化的前提和基础[42]。AI发展应尊重和保护图书馆用户的个人隐私，也应该充分保障用户个人的知情权和选择权。欧盟GDPR以及我国《信息安全技术个人信息安全规范》对用户个人信息（数据）的收集、存储、处理、使用等各个环节中应该设置边界以及建立制度的规范方面做了明确的条款说明。《新一代人工智能治理原则》再次明确，并对完善个人数据授权撤销机制，以及对窃取、篡改、泄露和其他非法收集利用个人信息的行为提出明确反对。图书馆智慧服务对象以及数据的关联对象都是用户，尊重用户的隐私，制定并遵从规范化数据使用的制度，是图书馆智慧服务开展的重要前提与基础。

4.5 安全可控的智慧服务与技术保障

信息安全是数字图书馆建设的重要内容之一。信息安全在经历技术保障、管理保障和制度保障三个阶段后，逐渐形成了一套完善的运行体系，并在图书馆领域得到了普及和推广[43]。技术创新背景下的图书馆AI应用，应该围绕着技术保障、管理保障以及制度保障三个方面完善信息安全内容。依托大数据、云计算、机器学习等技术，图书馆AI的信息安全体系也应该不断深入至大数据安全、计算安全、机器学习算法安全等方面，从而不断提升AI系统的透明性、可解释性、可靠性、可控性，同时建立、实现可审核、可监督、可追溯、可信赖的规范体系，为图书馆智慧服务提供完备的制度保障。图书馆应该高度关注AI系统的安全，提高AI抗干扰能力，形成AI的安全评估和管控能力，逐步形成图书馆领域独特的AI治理规范体系。

4.6 共担责任的图书馆共享机制构建

图书馆信息资源共享是社会发展的客观要求与必然产物，是以计算机技术、互联网技术、移动通信技术以及数字图书馆相关技术为依托所构建的综合的数字图书馆服务平台。技术创新为图书馆的信息资源共享带来了跨时代的革命动力[44]。图书馆是AI研发的主导者、使用者，图书馆也应具有高度的社会责任感和自律意识，严格遵守法律法规、伦理道德和标准规范，让AI等技术创新服务行为规范化。图书馆也是责任担当者。AI等新技术的应用，应该建立AI研发、应用后果的问责机制，同时要明确研发者（系统集成商）、使用者（图书馆）和受用者（用户）等的责任。图书馆AI应用过程中应确保人类（馆员、用户等）的知情权，告知（用户、图书馆等）可能产生的风险与影响。同时图书馆的责任担当也包括防范采用AI进行非法活动的行为，例如信息欺诈等。

4.7 开放合作的多学科机构之间的交流

图书馆、情报与文献学具有鲜明的跨学科特征,在知识生产、积累与发展过程中,既有对其他学科基础理论、方法论、学术观点及实践的借鉴、引用、移植和整合,也有向外输出理论、方法和技术,对其他学科产生的辐射和影响[45]。图书馆的技术创新工作也应该借鉴、鼓励跨学科、跨领域、跨地区、跨国界的交流合作。国际组织、政府部门、科研机构、教育机构、企业、社会组织、公众在AI发展与治理中的协调互动，能够有效促进AI应用与治理能力的整体提升。在充分尊重各国AI治理原则和实践的前提下，开展国际对话与合作，可以推动形成具有广泛共识的国际AI治理框架和标准规范。《国际图联趋势报告》已经将AI列为四大技术趋势之一，教育学、统计学、计算科学、心理学、控制论、信息论、认知学以及图书馆、情报与文献学等多学科的交流让图书馆AI应用实现跨越式发展。

4.8 敏捷治理的科学化规范化的模式

治理是政府的行为。AI从发展至今，逐渐得到各国政府的关注，而发展过程中涉及的问题，不是企业与个人能够解决的。所以，需要政府层面的治理，实现AI发展的科学化与规范化。AI驱动下的智慧图书馆服务的升级也需要科学化、规范化的治理模式加以指导[46]。图书馆“以用户为中心”的服务理念以及“以人为本”的发展理念，通过“互联网+业务”的融合，将“人”“资源”“空间”整合起来，运用AI等技术关联，实现全新的智慧图书馆服务新模式。从图书馆的实践创新角度看，AI将帮助图书馆重构“智慧服务”路径，践行图书馆知识服务的社会责任，进而推动图书馆管理服务工作的优化升级。对于新技术的治理，图书馆需要围绕政府层面的法律法规以及IFLA等机构层面的行业规范等开展治理工作。

图书馆需要尊重AI的发展规律，在推动AI在图书馆业务中实现创新、有序发展的同时，及时发现、解决可能引发的安全与伦理风险。图书馆也需要不断丰富智慧服务的手段，优化业务管理机制，完善技术服务治理体系，推动治理原则贯穿AI应用与服务的全生命周期，并对未来强AI以及超强AI的潜在风险持续开展研究和预判，确保AI始终朝着有利于智慧图书馆、智慧社会发展的方向得到应用。

5 结语

AI已广泛应用到社会的各个领域，当前对AI治理的思考，重点应以维护人类的传统伦理道德为先。AI技术在图书馆的应用，实现了AI从传统的机器学习研发逐步走向实践，从理论探索向普及应用方向发展。图书馆知识服务升级需要AI等技术进行技术迭代，以满足长期受互联网思维影响的用户需求。《新一代人工智能治理原则》的八项原则为图书馆AI治理提供了参考。图书馆肩负的伦理责任并践行“技术向善”理念与“以用户为中心”的服务理念有效融合，使得图书馆智慧服务逐步向规范化、制度化、人性化方向发展。智慧图书馆的发展需要AI等科学技术与人文精神的互动，只有不断加强技术创新与服务创新的融合，推动技术理论与伦理规范教育，才能够更好地利用AI实现提升图书馆服务效率的目标。