吴文峻*，黄铁军，龚克

a State Key Laboratory of Software Development Environment, Beihang University, Beijing 100191, China

b School of Electronics Engineering and Computer Science, Peking University, Beijing 100871, China

c Chinese Institute of New Generation Artificial Intelligence Development Strategie, Nankai University, Tianjin 300071, China

1. 引言

随着新一代人工智能（AI）算法和产品的快速开发和部署，AI在各个领域发挥着越来越重要的作用，并对现代社会结构产生了重大影响。AI模型和算法已被广泛应用于各种决策场景，如刑事审判、交通控制、金融贷款和医疗诊断。这种基于AI的自动决策系统得到不断的推广和应用，正在从安全性和公平性等方面带来潜在的风险。

例如，当前自动驾驶系统的安全性引发了人们的关注。2015年，中国的一辆特斯拉汽车发生了致命的事故，原因是汽车的自动驾驶系统未能识别出路上的清扫车，从而导致其没有执行正确的操作。在智能司法场景中，司法人员根据囚犯行为特征，采用智能算法来决定是否授予其假释许可。有人指出，这种算法可能会基于种族和文化背景做出有偏见和不公平的决定。在金融场景中，基于AI的数字贷款算法可能会因为有偏见的判断而拒绝某些人的贷款申请。政府机构、学术界和工业界都意识到了AI应用的安全性和公平性等问题，而且对AI应用的治理也成为了越来越重要的议题，所以我们必须采取有效措施来减轻与AI相关的一些潜在风险。

如今，许多国家的政府部门、研究机构和企业已经公布了他们的AI伦理准则、原则和建议。为了在当前的AI系统和产品中实施这些准则、原则和建议，开发AI治理技术将至关重要，需要深入研究联邦学习、可解释AI、严格的AI安全测试和验证以及AI伦理评估等方法。……