文/王桦宇 智惠

人工智能（AI）不仅仅是一项技术，也是全面数字时代到来的重要标志。《上海市促进人工智能产业发展条例》（以下简称《条例》）的立法，是上海市人工智能产业迅速发展的客观写照和必然要求，也是上海市人工智能产业高质量发展的催化剂和稳定器。为了使数字时代的经济社会保持健康稳定发展，有必要对人工智能行业标准、隐私权保护和主体责任等重点领域法律问题做进一步研究，推动人工智能在“以人为本，科技向善”的原则基础上高质量发展，从而最终建成具有国际影响力的人工智能“上海高地”。

AI行业标准的法律问题

根据《条例》第37条规定，上海市政府应当支持本市人工智能企业与相关行业组织在人工智能国家标准、行业标准、地方标准制定中发挥引领作用，参与算法性能、数据安全、隐私保护、产品兼容性、性能测试等方面技术标准的制定。上海市市场监管部门是人工智能地方标准的制定主体，指导上海市人工智能标准化技术委员会加强相关地方标准技术归口工作；同时，上海市市场监管、上海市经济和信息化委员会（以下简称“市经信委”）等部门应当引导人工智能企业与相关行业组织先行研究制定与人工智能相关的企业标准、团体标准。经自愿申请和第三方机构评价，符合国内领先、国际先进要求的，可以在标准文本上使用人工智能“上海标准”的专门标识。从上述立法内容来看，《条例》中的人工智能标准涉及国家、地方、行业、技术标准等多维度且涉及职能部门、行业组织等多方面主体，对上海市人工智能产业发展有着较为深入且长远的规划：一方面，人工智能作为国家重点推动的新兴产业，国家、行业标准的制定是产业健康发展不可或缺的基础性因素，也是我国科技创新和体制机制创新的重要突破口，需要加快推进不同层次相关标准的制定；另一方面，集成电路、生物医药、人工智能，是上海正在着力打造的三大先导产业，上海作为全国科技产业前沿的先行示范区，可根据本市人工智能产业发展实际，先行制定人工智能行业的地方性标准。

人工智能产业仍然处于“摸着石头过河”的探索阶段 （图/IC photos）

笔者认为，在行业标准制定过程中，需要重点把握几个方面的关系：一是中央与地方政府权限的关系。《条例》是针对人工智能产业发展的地方性立法，地方政府可以支持企业与行业组织参与国家和行业标准制定过程并发挥引领作用，但国家和行业标准制定仍属于中央事权。二是创新发展与规范引领的关系。上海市市场监管部门可以制定人工智能的地方标准，同时需要对人工智能的创新发展进行有效监管；既要鼓励“先行先试”允许“容错免责”，也要坚决制止“风险失控”。三是市场主导和政府促进的关系。人工智能产业的发展在本质上仍是由作为市场主体的企业在自我创新中加以推动，得找符合先进性要求的企业在适格第三方机构认可下自主选择“上海标准”的专门标识（政府对此予以认可、鼓励和保障）。

AI的社会应用与数据权益保护

人工智能的发展与数字经济息息相关，涉及大量数据的存储与运用。人工智能在经济发展、民生服务和城市治理等多个方面发挥着重要作用，人工智能处理的数据显现出很强的社会应用价值，人们享受着信息数字化带来的诸多便利。《条例》在第4章“应有赋能”中分“一般规定”“经济应用”“生活应用”“城市治理应用”对人工智能的应用做了较为具体的规定，明确提出建立人工智能应用场景开发制度，促进场景培育、发现、实施和示范性场景推广，并对人工智能的商业应用和公共应用进行了区分规范和分类治理。同时，《条例》在第5章“产业治理与安全”对人工智能的安全性做了较为具体的规定，并明确提出设立人工智能伦理专家委员会。

从《条例》第4章规定的内容来看，上海市正推动人工智能在经济、生活、城市治理等领域的规模化应用，加快数字化转型——要求市经信委会同相关部门制定并定期更新人工智能示范应用清单，指导有关方面加强人工智能在经济、生活、城市治理等领域的应用。这也说明，在人工智能的社会应用和示范使用中，上海市对公共数据的开放使用持积极态度，既包括主动公开数据，也包括申请数据公开的公平使用制度。《上海市数据条例》第38条规定了对公共数据的管理以共享为原则，以不共享为例外的指导原则。从人工智能的产业发展来看，所涉及的数据除了公共数据以外还有自然人的个人信息人格权益，以及自然人、法人和非法人组织在使用、加工等数据处理活动和进行数据创新中形成的法定或者约定的财产权益。这些数据权益需要在人工智能产业发展过程中得到充分有效的保障。

《上海市数据条例》第17条规定，自然人、法人和非法人组织开展数据处理活动、行使相关数据权益，应当遵守法律、法规，尊重社会公德和伦理，遵守商业道德，诚实守信，不得危害国家安全和公共利益，不得损害他人的合法权益。这与《条例》第67条规定的相关主体开展人工智能研发和应用应当遵循法律法规规定，不得从事侵犯国家安全、社会公共安全以及侵害用户数据财产权益和个人隐私的规定高度一致。在推动经济社会法治化治理进程中，在促进人工智能产业发展的同时，尤其需要注意数据权益的充分有效保护：要制定人工智能领域的数据权益保护示范规则，在人工智能发展初始阶段就制定人工智能领域特别是示范场景下的具体数据使用和权益保护规范，制定具体的数据资源开发和权益保障实施细则。加强人工智能场景下个人信息特别是隐私权保护的执行力度。在各类各项数据中，个人信息是更为重要的数据财产，其具有人格权的基本属性，在法律法规保护位阶上需要更加重视，落实对个人信息数据更为严格的管理。

AI法律主体及责任研究

人工智能的产业发展需要注重针对潜在危险的防范和控制，相关部门需要依法对人工智能应用开展安全检查和监管，并依照法律法规的规定追究相应主体的法律责任。《条例》设立“产业治理与安全”专章，在坚持总体国家安全观的基础上，统筹人工智能产业发展与安全，保障产业链、供应链安全。《条例》第65条还明确规定，上海市人民政府及有关部门应当顺应人工智能快速迭代的特点，积极探索分级治理和沙盒监管的新模式……

需要特别指出的是，在现有法律法规框架下，人工智能的法律主体和法律责任制度及其适用还存在一些争议。在学理上，人工智能主体是否具有法律上的主体地位亦不存在定论，人工智能产业发展过程中的责任承担主体和责任追究机制可以由各地探索在合理权限内、因地制宜地加以制定。《条例》第67条规定了相关主体开展人工智能研发和应用过程中禁止从事的事项，从侧面可以推知《条例》本身不认可人工智能在法律上的主体地位，人工智能产业造成损害后责任的承担应当归于从事人工智能研发和应用的主体。在此前提下，人工智能的侵权责任分为人工智能本身的设计缺陷或者是管理人员自身的故意或者过失造成的损害。另外，倘若是第三人操控人工智能造成损害，则应当界定这一操控是否非法，即是否存在授权行为，以此确定最终责任承担的主体。

当然，由于人工智能产业仍然处于“摸着石头过河”的探索阶段，基于促进发展与法治规范并行的指导原则，地方政府在执行地方性法规和追究相关主体责任方面可以采取适当宽容的态度，建立与实际情况相匹配的容错机制。这是一种产业法治化治理的新路径。除去高风险领域设置严格的清单式管理和严格责任外，对于人工智能产业的发展应当在分级治理和沙盒监管等制度上加大执法力度，在确保相关主体权益和社会伦理的基础上，最大程度激发市场主体活力，以促进人工智能产业健康有序地创新发展。