美国政府问责局曾 杰 译

（中国电子科技集团公司第三十研究所，四川 成都 610041）

0 引 言

美国《2018 年国防部人工智能战略》指出，人工智能将改变战争的性质，不采用人工智能技术可能会削弱作战人员保卫自己国家的能力。美国国防部正在进行组织变革并投资数十亿美元来整合人工智能技术，例如建立联合人工智能中心以提高整个国防部提供人工智能的能力。根据2021 财年“国防授权法案”的众议院报告116-442 规定：让美国政府问责局（Government Accountability Office，GAO）评估国防部的资源、能力和人工智能技术计划。本报告评估了国防部的人工智能战略和相关计划，包括综合战略的特征、国防部整个部门的人工智能活动、国防部在其人工智能活动上进行的合作。GAO 提出7 项建议，包括要求国防部发布指导以涵盖综合性战略的所有特征；为其AI 库存流程制订高级计划或路线图；最终确定并发布定义人工智能协作角色与职责的指南和协议等。

1 国防部加大人工智能技术资金投入

美国国防部进行了组织变革，并投入数十亿美元用于人工智能技术。2018 年，美国国防部建立了联合人工智能中心（Joint Artificial Intelligence Center，JAIC），以加快整个国防部人工智能交付的能力；2019—2020 财年，联合人工智能中心的预算从8 900 万美元增至2.425亿美元。在2021 财年更是增加至2.782 亿美元；根据2021 财年的规定，美国国防部重新调整联合人工智能中心主任，直接向国防部副部长报告。截至2025 财年，美国国防部为人工智能提供的采购授权总额达7 500 万美元；2022 财年，美国国防部为科学和技术领域拨款147 亿美元，其中8.74 亿美元用于发展人工智能，而2021 财年为8.41 亿美元。2021 财年和2022 财年的投入金额并未反映美国国防部在人工智能方面的投资总额。这些举措反映了美国国防部近年来逐渐加大对人工智能技术的投入，同时也凸显了人工智能技术在国防部业务中迅速增长的重要性。

2 国防部需要制定更全面的人工智能战略

美国政府问责局通过对《2018 年国防部人工智能战略》和与人工智能相关的其他计划及战略进行评估，发现大部分与人工智能相关的战略都只具备综合战略的部分特征，例如，具备问题定义、范围和方法；活动、里程碑和绩效衡量标准；资源和投资；组织角色、责任和协调；关键外部因素等特点。但是，大部分与人工智能相关的战略没有充分包含其他特点，特别是与AI 技术相关的资源、投资和风险等方面的特点。并且，美国政府问责局认为在战略文件中包含这些特点是非常重要的。

美国政府问责局认为，美国国防部没有为定期审查其战略和相关军事制定书面程序。授权《2018 年国防部人工智能战略》和国防部副部长备忘录，要求相关军事部门附件法律无须进行定期审查。然而，《2017 财年国防授权法案》要求国防部制定国防战略，并且至少每4 年更新一次。在没有更新的情况下，需要评估该战略的执行情况，以及是否有必要做出修订。此外，联邦内部控制规定，管理层应确定目标，包括要实现的目标、谁将实现目标、如何实现目标以及实现目标的时限。总的来说，国防部将更好地帮助管理人员在执行政府方案的进程中负责任地使用人工智能，确保未来的人工智能战略和计划包括综合战略的关键要素，并有效进行资源、投资和风险等内部控制。另外，国防部可以利用GAO AI 问责框架，在其战略和计划中纳入这些特点，因为该框架中提出的主要治理原则与综合战略的某些特点相一致。例如，国防部将更好地了解整个部门对人工智能的投资，以及实现战略目标和目的所需的各种资源；国防部还将更现实地了解外部因素所造成的影响，并将更好地处理这些因素；国防部将更好地理解和降低可能威胁战略目标成功的风险，在人工智能战略中包括如何识别、分析和应对风险等。

3 国防部2021 年建立AI 活动基线清单

2021 年1 月，根据国会的一项授权，JAIC开始制定一项新的程序，以确定与人工智能有关的活动，改进以前用于编制人工智能活动清单的方法。同年4 月，JAIC 向国会提交了人工智能基线清单和报告，其中包括这一初始阶段的方法、主要调查结果和局限性。

人工智能活动基线清单处理了一些人工智能活动的问题。例如，根据JAIC 2021 年4 月的人工智能基线清单报告，人工智能是一个很难进行的投资类别，因为它是一种嵌入其他系统的能力，而不是一种不同于其他系统的新型系统。此外，GAO 调查了整个国防部的39 个组织，试图了解其如何定义、识别、跟踪和报告人工智能活动，但发现对人工智能既没有统一的定义，也没有确定识别、跟踪和报告人工智能活动的方法。

需要注意的是，JAIC 在2021 年4 月向国会提交的人工智能基线清单并不全面，没有包括与运营和维护相关的人工智能活动（例如JAIC 的总体运营预算）。此外，JEIC 官员认为由于AI未被确定为预算文件中的项目，人工智能活动基线清单不包括国防部人工智能总的预算资金，也无法确定相关项目之间的关系。人工智能基线清单报告还指出，JAIC 打算在基线清单工作的基础上建立一个可重复的流程，使国防部能够准确估计每年与人工智能相关的总体支出，并在第二阶段缩小这些差距并打破这些局限性。联合人工智能中心的人工智能活动清单流程如图1 所示。

人工智能基准清单报告指出，在人工智能清单过程的第二阶段将聚焦解决基准清单中的3 个局限性：（1）操作和维护活动；（2）国防部分类活动；（3）与人工智能有关的资金信息。具体来说，JAIC 计划还继续添加和更新相关数据集，改进网络数据库工具功能和用户界面，并继续与国防部副部长办公室和其他国防部组织密切协调。JAIC 报告认为基于网络的数据库工具（国防部人工智能库存组合分析工具）有望提高国防部同步和解压其人工智能组合的能力。负责清单项目团队的JAIC 官员表示，已经明确了基线清单的局限性方面所面临的挑战，这些挑战可能导致在其流程第二阶段向国会提交的信息不完整。

JAIC 将人工智能库存组合分析定义为一种工具，用于对人工智能预算数据进行分类，并使之具有网页功能的表现形式，以协助从国防部各组织收集数据并与其进行协调。具体而言，将利用一个多用途的数据分析系统Advana，该系统由国防部副部长办公室管理，用于分析整个部门的数据；在开发AI 库存组合分析工具的第一次迭代过程中，Advana 的承包商团队将采用生命周期管理方法来管理所有Advana 产品的开发，其中包括敏捷开发；敏捷开发方法强调软件的迭代交付，其具有更强的灵活性和适应性，以满足客户不断变化的需求。

4 国防部在AI 领域协作，未整合领先的协作实践

国防部官员倾向于利用非正式和正式协作机制在人工智能活动方面开展合作，并且国防部打算利用联合共同基金会作为改进协作的机制。国防部尚未在其人工智能活动中充分融入领先实践。

GAO 调查了39 个在监督和管理国防部人工智能活动方面发挥作用的机构所组织的协作活动。根据调查发现，它们经常通过非正式讨论进行合作，但也有使用正式机制进行协作的情况，例如机构间小组。

（1）非正式合作机制。通过调查GAO 发现，大多数组织机构在各种人工智能活动上进行了非正式合作。据国防部多个组织机构的官员称，他们与其他人工智能组织的合作通常依赖于关系，并通过非正式讨论进行。例如，国防部一名官员认为，与其他组织的官员建立非正式联系是最有效的协作方式。另一位受访官员认为，非正式讨论为评估进展情况、分享经验教训等提供了机会。另外，其他受访官员则介绍了与非正式合作有关的挑战。例如，一位受访者认为，个人性格对他们的非正式合作提出了挑战。总体而言，94%的受访者表示，他们通过非正式讨论与更多的组织机构进行了合作，79%的受访者表示，他们通过非正式讨论进行了信息共享。

（2）正式合作机制。据国防部官员称，他们与其他人工智能组织通常也利用各种正式机制进行合作，包括机构间工作组、会议和备忘录。例如，受访者报告说，23%的受访者使用机构间协议与其伙伴组织合作。根据调查受访者反馈，与其他组织和JAIC 合作最常用的正式协作机制是机构间工作组，占比为64%，使用谅解备忘录、协定备忘录、机构间协定等机制促进协调（例如联络）的次数最少，占比为23%。最常见的是，使用多种不同的协作机制。总之，此次调查显示，国防情报组织机构采用正式协作机制与其他组织进行合作的平均数量最高。

通过调查发现，国防部没有将卓越协作实践完全纳入工作组，例如协作技术和其他协作机制。虽然协作机制的复杂性和范围可能不同，但是这些机制都受益于在我们先前工作的基础上纳入了主要的协作实践。这些机制包括：确定成果和监测问责制；搭建组织文化的桥梁；给出书面指导和协议用以明确角色和责任并确定领导和参与者。

根据GAO 的分析，虽然美国国防部在人工智能活动方面的协作部分纳入了协作的主要做法，但是在以下3 个关键领域有待加强。

（1）确定成果和监测问责制。国防部没有绩效衡量标准和里程碑来衡量人工智能协作活动的成果或监控短期和长期成果的进展。例如，一位受访者表示，人工智能驱动能力的不确定预期以及对基础研究的关注比正常情况下更多，这阻碍了该项工作的开展。另一位受访者认为，就他们的一些合作而言，目前虽然没有确定的里程碑，但会列入今后的规划进行定期讨论。JAIC 正在制定内部和外部关键业绩衡量指标，以评估如何有效地通过人工智能完成该部的改造任务。

（2）搭建组织文化的桥梁。美国在《2018年国防部人工智能战略》中确立了人工智能的企业定义，但在整个部门中并没有统一使用它来协调整个国防部的人工智能活动，并架起组织文化的桥梁。根据此次调查显示，50%的受访者表示，他们使用了《2020 年国家人工智能倡议法》的人工智能定义；24%的受访者表示，他们使用了《2018 年国防部人工智能战略》的定义；13%的受访者表示，他们使用了另一种战略或指导文件来定义人工智能；9%的受访者表示，他们使用了特定的定义。此外，国防部正在确定如何界定和确定具体的人工智能活动，作为其人工智能清单工作的一部分。据国防部官员称，JAIC 正在与首席数据官和情报界协调，开发人工智能统一术语表。JAIC 计划将这个术语表放在联合公共基金会中，以便通过支持协作、共享和重用的知识模型，进一步架起国防部组织文化的桥梁，以避免国防部在标记数据的问题上出现碎片化现象。GAO 的分析显示，一些国防部官员没有意识到这些努力与人工智能相关，也没有报告在国防部范围内或情报社区合作方面的挑战，因为一些组织没有优先考虑参与机构间工作组，如JAIC。例如，一名组织机构的受访者称，人工智能工作的范围似乎还没有被清楚地理解。

（3）给出指导和协议，用以明确角色和责任并确定领导者和参与者。明确定义角色和职责是一项卓越的协作实践举措，国防部专门设立了一个人工智能治理机构来定义部门范围内的人工智能角色和职责，并制定和推进政策实施。然而，根据JAIC 的一位高级官员的说法，国防部AI 治理机构可能不是AI 整合和协作的最有效工具，因为它不能确保作为一个单独的实体与JAIC 合作。国防部并没有为负责与JAIC合作的人员明确角色与职责。例如，在调查中有受访者表示，缺乏明确定义角色和责任会给合作带来挑战。JAIC 官员表示，他们有几项针对具体内容的协议和谅解备忘录，准备在未来签订更多协议，以改善合作。

5 给国防部的行动建议

美国《2018 年国防部人工智能战略》指出，国外对手和战略竞争对手出于国家安全目的对人工智能进行了大量投资。自2018 年以来，国防部进行了组织变革，并投资数十亿美元将人工智能技术纳入其业务。例如，国防部制定了总体人工智能战略和其他与人工智能相关的战略文件。然而，这些战略并不包括综合性战略的所有关键要素，这可能会阻碍国防部实现与人工智能有关的目标。国防部在进一步制定和更新与人工智能相关的指南时，将GAO 人工智能问责框架中概述的关键治理实践考虑在其中将是非常有益的。

此外，国会和国防部决策者没有关于人工智能活动和投资数量的完整信息。军事部门和其他重要的国防部组织机构正在建立协作关系和共享数据网络，以更好地发挥专业优势。随着国防部组织机构采用和集成人工智能技术，采取措施进一步整合领先的协作实践将有助于国防部避免未来不必要的重复性工作。国防部有机会在2022 年成立数字和人工智能首席官时，全面实施这些领先的协作实践。详细建议如下文所述。

（1）国防部部长应确保国防部副部长向数字人工智能首席官、JAIC、军事部门和相关国防部组织发出指导，以便将综合性战略的所有特点纳入今后的人工智能战略和相关计划，并考虑GAO AI 问责制框架中概述的主要治理做法。

（2）国防部部长应确保国防部副部长与数字和人工智能首席官、联合情报局和军事部门协商，为定期审查国防部人工智能和相关的军事服务附件制定文件化程序，包括时间表、评估该战略的执行情况以及是否有必要做出任何修订。

（3）国防部部长应确保数字和人工智能首席官和JAIC 主任与国防部副部长办公室和其他实体合作，酌情制定一项高级别计划或路线图——与综合主时间表的最佳做法保持一致——该计划或路线图涵盖支持编制部门人工智能库存组合和预算数据的所有需求、活动和里程碑。

（4）国防部部长应确保国防部副部长发布指南，确定与人工智能有关活动的结果并监测其问责情况，包括人工智能的关键绩效衡量指标。

（5）国防部部长应确保数字和人工智能首席官和JAIC 主任发布一份路线图或一份高级别计划，其中包括开发和进入联合共同基金会用户的所有要求和里程碑。

（6）国防部部长应确保国防部副部长制定时间表和指导方针，指导数字和人工智能首席官，以及JAIC、军事部门和其他相关实体，为人工智能相关活动建立统一的术语表。

（7）国防部部长应确保国防部副部长与数字和人工智能首席官和联合情报局协调，最后确定并发布指导意见和协议，界定军事部门和其他国防部组织的作用和责任，以便领导相关参与者就人工智能活动开展协作。

GAO 表示，国防部同意以上7 项建议，并确定了国防部正在采取或计划采取的回应行动。在同意第一项和第二项建议时，国防部表示将在其战略和计划中纳入GAO AI 问责制框架的特点。在同意第六项建议时，国防部表示在完成2022 年国防部人工智能战略之后，计划为人工智能制定一个共同的企业定义，以确保通用术语的使用。此外，国防部表示将制订计划，在数字和人工智能首席官完全具备运作能力之后执行第三项、第四项、第五项和第七项建议。国防部正计划采取这些行动，以落实所有7 项建议。GAO 认为，国防部一旦执行这些建议，就能够更好地向国会和决策者提供信息，以改善协作，并解决与国防部人工智能活动有关的问题和挑战。

6 结 语

美国《2018 年国防部人工智能战略》指出，人工智能将改变战争的性质，不采用人工智能技术可能会阻碍作战人员保卫国家的能力。美国国防部正在进行组织变革并投资数十亿美元来整合人工智能技术，例如建立联合人工智能中心以加速向整个国防部提供人工智能的能力。伴随《2021 财年国防授权法案》的众议院报告，GAO 对国防部的资源、能力及人工智能技术计划的评估及规定，美国军事部门和其他重要的国防部组织正在建立协作关系和共享数据网络，以更好地利用专业知识。另外，国防部组织采用并整合了人工智能技术，此做法将有助于美国国防部在今后避免不必要、零碎、重复和重叠的工作。