施娟萍

人工智能是新一轮产业变革的核心驱动力。上海已将人工智能、生物医药、集成电路作为三大战略性新兴产业。人工智能在赋能发展的同时，也带来了诸多风险挑战，需要进行防范和应对。

一、人工智能治理的研究框架思考

我国国家和地方层面尚未出台统一的人工智能立法，人工智能治理规则散见在部分法律及近年来系列政策文件中。

国家的法律涉及信息安全、隐私保护等领域，国家的政策文件既涉及人工智能相关行动实施方案、发展规划、治理原则等总揽性领域，也关注教育、环境、智能汽车等细分场景领域。上海的政策文件则主要集中于产业发展、细分场景及试验区建设等方面。

人工智能治理应遵循两条主线：坚守底线和促进创新。一方面保留足够的弹性与包容度，防止对技术创新的不当干预;另一方面，在适度宽松的治理取向下严守监管底线，有效预防风险。

二、人工智能治理的底线规则

（一）伦理底线

尊重伦理是人工智能技术研发和应用的底线，应将相关治理提前到算法设计阶段，同时在人工智能产品适用阶段施加良性规制，防止不符合人类伦理的人工智能产品的实际应用。

（二）隱私权保护底线

知情同意、收集必要性已成为收集数据必须遵循的共识性原则，但仍需通过具体化的场景对技术和算法的应用进行规制比如，在数据收集阶段设立隐私协议合规审查制度;在数据利用阶段加强对影响杀熟程度较高的数据的管制等。……