美国防部宣布成立生成式人工智能专项工作组

编者按

美国防部8月10日宣布成立生成式人工智能和大语言模型工作组（利马工作组），旨在重点推进对生成式人工智能能力的探索和负责任的部署。

(资料图片)

美国防部认为，人工智能已成为一种变革性技术，有可能彻底改变包括国防在内的各个领域；大型语言模型（LLM）等生成式人工智能 (AI) 能力在全球范围内的受欢迎程度、功能和影响力正在不断增长，既带来了新的机遇，也带来了重大的新风险；国防部迫切需要探索该技术的使用以及这些模型的规模、速度和交互能力的潜力，以提高国防部的任务效率，同时确定适当的保护措施并减轻各种相关风险；国防部必须负责任地寻求采用生成式人工智能模型，同时确定适当的保护措施并减轻可能因培训数据管理不善等问题而导致的国家安全风险；通过利用生成式人工智能模型，国防部将加强在作战、业务、健康、战备和政策等领域的运作。

利马工作组将在分析和集成国防部的大型语言模型（LLM）等生成式人工智能工具方面发挥关键作用；评估、同步和利用整个国防部的生成式人工智能能力，确保国防部在维护国家安全的同时保持在尖端技术的前沿；开发、评估、建议和监控生成式人工智能技术在国防部的实施，以确保国防部能够负责任且安全地设计、部署和使用生成式人工智能技术；利用美国防部、情报界和其他政府机构间的合作伙伴关系，帮助最大限度地减少风险和冗余，同时在整个美国防部推行生成式人工智能计划；为相关决策机构提供指导并提出解决建议，与国防部负责任人工智能（RAI）工作委员会分享经验教训。

为推进负责任地采用和使用生成式人工智能技术的统一方法，利马工作组将为美国防部提供框架和倡议，从而：加速有前景的生成式人工智能计划和联合解决方案；将不同的开发和研究工作联合到国防部实践社区中，以加速创新和实施；评估条令、组织、培训、物资、领导力、人员、设施和政策方面的解决方案；推动教育并建立负责任实施和使用的文化；确保国防部与机构间、国际、教育、民间社会和行业合作伙伴就生成式人工智能的负责任开发和使用保持协调一致。

利马工作组的工作目标包括：确定并盘点整个国防部正在进行的大型语言模型和生成式人工智能的研究、开发、部署和使用；通过制定定量和定性指标支持大型语言模型和基于生成式人工智能的能力和风险的评估；为大型语言模型和生成式人工智能能力制定人机协作指南和指标；识别、评估大型语言模型和生成式人工智能的任务领域、工作流程和用例；确定不建议使用大型语言模型和生成式人工智能的任务领域和工作流程；支持大型语言模型原型和基于生成人工智能的解决方案的开发和演示；制定关于将大型语言模型和生成式人工智能集成到工作流程和适当风险缓解的建议；监督大型语言模型和生成式人工智能与联合演习和实验的整合；就大型语言模型和生成式人工智能的开发和使用提出长期治理计划；评估大规模开发、实施和运作大型语言模型和生成式人工智能的资源需求；促进国防部与合作伙伴就大型语言模型和生成式人工智能的负责任开发和使用开展合作；定义大型语言模型和生成式人工智能的风险类别和相关组织风险容忍度。

奇安网情局编译有关情况，供读者参考。

美国防部8月10日宣布，成立一个生成式人工智能 (AI) 工作组，这一举措体现出国防部致力于以负责任的战略方式利用人工智能的力量。

美国防部副部长凯瑟琳·希克斯指导“利马工作组”（ Task Force Lima）；该组织将在分析和集成国防部的大型语言模型（LLM）等生成式人工智能工具方面发挥关键作用。

凯瑟琳·希克斯表示， “利马工作组的成立凸显了国防部对引领人工智能创新的坚定承诺。当我们驾驭生成式人工智能的变革力量时，我们的重点仍然是确保国家安全、最大限度地降低风险以及负责任地整合这些技术。国防的未来不仅仅在于采用尖端技术，还在于具有远见、责任感以及对对我们国家更广泛影响的深刻理解。”

在美国防部首席数字和人工智能办公室（CDAO）的领导下，“利马工作组”将评估、同步和利用整个国防部的生成式人工智能能力，确保国防部在维护国家安全的同时保持在尖端技术的前沿。

美国防部数字和人工智能负责人克雷格·马泰尔表示，“国防部必须负责任地寻求采用生成式人工智能模型，同时确定适当的保护措施并减轻可能因培训数据管理不善等问题而导致的国家安全风险。我们还必须考虑我们的对手将在多大程度上使用这项技术，并寻求破坏我们自己对基于人工智能的解决方案的使用。”

“利马工作组”将利用美国防部、情报界和其他政府机构间的合作伙伴关系，帮助最大限度地减少风险和冗余，同时在整个美国防部推行生成式人工智能计划。

人工智能已成为一种变革性技术，有可能彻底改变包括国防在内的各个领域。通过利用生成式人工智能模型（可以使用大量数据集来训练算法并有效生成产品），美国防部旨在加强其在作战、业务、健康、战备和政策等领域的运作。

附：美国防部副部长凯瑟琳·希克斯8月10日发布的备忘录

美国防部副部长

国防部五角大楼1010

华盛顿特区 20301-1010

2023年8月10日

致五角大楼高级领导层、作战司令部指挥官和国防部外勤机构主管的备忘录

主题：成立首席数字和人工智能官生成式人工智能和大语言模型工作组（利马工作组）

大型语言模型（LLM）等生成式人工智能 (AI) 能力在全球范围内的受欢迎程度、功能和影响力都在不断增长。这些能力是在海量数据集上进行训练的，以便生成以前需要人类作者才能达到的详细程度和明显连贯性的内容。这些能力带来了新的机遇，同时也带来了重大的新风险。美国防部迫切需要探索该技术的使用以及这些模型的规模、速度和交互能力的潜力，以提高国防部的任务效率，同时确定适当的保护措施并减轻各种相关风险。

因此，我特许成立了生成式人工智能和大语言模型工作组，即利马工作组，以重点关注美国防部对生成式人工智能能力的探索和负责任的部署，包括大型语言模型（LLM）。根据首席数字和人工智能官（CDAO）的使命和权限，利马工作组将开发、评估、建议和监控生成式人工智能技术在国防部的实施，以确保国防部能够负责任且安全地设计、部署和使用生成式人工智能技术。该工作组将为相关决策机构提供指导并提出解决建议。CDAO将领导利马工作组；治理的具体角色和职责在随附的章程和生成人工智能协调和治理计划中详述。

CDAO 将通过其算法战争部门主持利马特别工作组，并与其他首席参谋助理（PSA）密切合作，在整个国防部采用人工智能方面发挥关键作用并承担责任。其中包括负责政策的国防部副部长办公室、负责研究和工程的国防部副部长办公室、负责采购和保障的国防部副部长办公室、负责情报与安全的国防部副部长和国防部首席信息官。主要角色和职责包括但不限于：

负责政策的国防部副部长负责国家安全、国防战略和政策、双边、多边和机构间参与；

负责研究和工程的国防部副部长负责技术和创新战略以及通过原型设计进行研究；

负责采购和保障的国防部副部长负责监督采购策略、行业参与以及主要技术共享协议的协调；

负责情报与安全的国防部副部长负责情报、反情报、安全和敏感活动；

国防部首席信息官负责国防部信息体系，包括通信、信息系统、网络安全以及指挥控制。

该工作组的经验教训将提供给负责任人工智能（RAI）工作委员会，所有美国防部长办公室和国防部各部门将利用共享学习来为其举措和政策制定提供信息。国防部与生成式人工智能相关的活动将通过RAI工作委员会进行协调和同步，并酌情通过 CDAO 委员会向国防部副部长的管理行动小组提出。

为了推进负责任地采用和使用该技术的统一方法，利马工作组将为国防部提供框架和倡议，以：

加速有前景的生成式人工智能计划和联合解决方案；

将不同的开发和研究工作联合到国防部实践社区中，以加速创新和实施；

评估条令、组织、培训、物资、领导力、人员、设施和政策方面的解决方案；

推动教育并建立负责任实施和使用的文化；

确保国防部与机构间、国际、教育、民间社会和行业合作伙伴就生成式人工智能的负责任开发和使用保持协调一致。

利马工作组将在美国防部长办公室和国防部各部门间建立强有力的合作伙伴关系，确保我们共同学习、负责任地采用并努力推进生成式人工智能的安全性。我要求所有部门与该工作组合作，并授权其RAI领导吸收其经验教训。这项技术具有变革性的潜力。我们必须以符合我们价值观的负责任的方式利用它来促进我们国家的安全。

凯瑟琳·希克斯

备忘录附件（编注：摘译）：

目标：利马工作组将：

确定并盘点整个国防部正在进行的大型语言模型和生成式人工智能的研究、开发、部署和使用；

制定绩效和有效性的定量和定性指标，包括偏见和意外行为或后果，以支持大型语言模型和基于生成式人工智能的能力和风险的评估；

为大型语言模型和生成式人工智能能力制定人机协作指南和指标；

根据相关的可行性、局限性、有效性和风险，识别、评估大型语言模型和生成式人工智能的任务领域、工作流程和用例，并确定优先顺序；

确定由于不当风险或其他考虑因素而不建议使用大型语言模型和生成式人工智能的任务领域和工作流程，并在适当情况下建议限制或禁止国防部使用生成式人工智能；

通过练习和实验，支持针对这些已确定用例的大型语言模型原型和基于生成人工智能的解决方案的开发和演示；

为国防部制定关于将大型语言模型和生成式人工智能集成到工作流程和适当风险缓解的建议；

监督大型语言模型和生成式人工智能增强工作流程/任务线程与联合演习和实验的整合，例如 CDAO 领导的全球信息优势实验系列；

为大型语言模型和生成式人工智能的开发和使用推荐国防部长期治理计划；

评估和估计国防部在整个部门大规模开发、实施和运作大型语言模型和生成式人工智能的使用所需的资源需求；

支持国防部与跨机构、国际、业界以及民间社会就大型语言模型和生成式人工智能的负责任开发和使用进行合作；

定义大型语言模型和生成式人工智能的风险类别和相关组织风险容忍度。

可交付成果：

创建一个联系机制，将国防部用户与利马主题专家特别工作组联系起来，以解决有关大型语言模型和生成人工智能的即时问题和担忧（14 天内）；

临时公共事务和战略信息传递指南（45 天内）；

国际参与计划（60天内）；

机构间参与计划（60 天内）；

向国防部提供有关使用大型语言模型和生成式人工智能的当前风险、挑战和最佳实践的临时指南（45 天内）；

国防部当前/计划的大型语言模型和生成式人工智能工作清单（2024 财年第一季度） ；

大型语言模型和生成式人工智能绩效评估以及工作流程影响的指标（2024 财年第一季度）；

大型语言模型和生成式人工智能行业开发人员的参与和信息传递战略（2024 财年第一季度）；

用于快速大型语言模型和生成式人工智能实验和迭代的国防部环境（2024 财年第二季度）；

大型语言模型和生成式人工智能用例的评估和建议（2024 财年第二季度）；

负责任实施和使用的护栏/政策（2024 财年第二季度）；

生成式人工智能的安全和对策评估及建议（2024 财年第二季度）；

建议国防部开发和部署大型语言模型和生成式人工智能能力的优先投资和要求，包括支持措施（2024 财年第三季度）；

大型语言模型/生成式人工智能治理和监督计划（2024 财年第三季度）；

培训中使用的关键主题和问题列表（2024 财年第三季度）。

标签：