透视“军事领域负责任使用人工智能峰会”-快播

随着人工智能在军事领域应用价值日益凸显，各军事大国纷纷推进人工智能的军事应用，同时也引发了诸多安全风险和挑战。美国前国务卿基辛格曾警告称，人工智能的潜在破坏力可能“远超核弹”。也有人预言，人工智能武器将是继火药、核武器之后“战争领域的第三次革命”，恐将触发新一轮的军备竞赛，降低战争门槛。如何才能既有效推进军事智能化发展同时最大限度地减少其带来的风险？这是当前困扰世界各国的一个难题。2023年2月15日至16日，由荷兰和韩国在海牙共同主办了“军事领域负责任使用人工智能”峰会。这是国际上围绕“军事领域负责任使用人工智能”议题举办的第一届峰会，引发国际社会高度关注。此次峰会发布了成果文件《军事领域负责任使用人工智能行动倡议》（REAIM Call to Action），呼吁国际社会应就军事领域人工智能应用所带来的安全风险挑战加强多利益攸关方的讨论合作。本文梳理总结了这一峰会中具有代表性的各方观点及主要成果，并做简要评析，供读者参考。

图1：在海牙举办的“军事领域负责任使用人工智能峰会”

一、具有代表性的各方观点

(相关资料图)

2023年2月15日至16日，由荷兰和韩国在海牙共同主办了“军事领域负责任使用人工智能”峰会。中国、美国等80多国及联合国等国际组织应邀参加，来自政府、智库、企业、科研机构等1700余人与会。各方代表围绕人工智能军事应用相关问题发表了重要的观点，代表了这一领域国际上的最新观点动态，总结梳理如下。

在这场“军事领域负责任使用人工智能”峰会上，中国驻荷兰大使兼常驻禁化武组织代表谈践率团与会，主要阐述了以下观点。

图2：中国驻荷兰大使兼常驻禁化武组织代表谈践发表讲话

谈践大使在高级别会议中表示，中国始终高度重视人工智能安全治理，不断加强法律、军事、技术、伦理等层面研究，改善相关安全治理，并就规范人工智能军事应用、加强人工智能伦理治理向联合国提交两份立场文件。谈践大使强调，人工智能军事应用问题事关全人类安全和福祉，需要各国团结应对。中方主张坚持智能向善，反对借助人工智能谋求绝对军事优势和霸权；坚持以人为本，遵守国际法和伦理道德，切实尊重和保障人类尊严和人权；坚持多边主义，发挥联合国主渠道作用，增加发展中国家代表性和发言权。中方反对人为制造科技壁垒，确保各国充分享有技术发展与和平利用的权利。

谈践大使表示，人工智能是人类共同的智慧结晶，它不是地缘政治的博弈工具，所以不应该被政治化、武器化和意识形态化。中方愿同国际社会一道，推动跨国家、跨领域、跨文化的人工智能合作交流，我们反对构建排他性集团、恶意阻挠他国技术发展的行径。我们认为，应该坚持多边主义、开放包容的原则，致力于共同规范人工智能军事应用并建立普遍参与的国际机制，推动形成具有广泛共识的人工智能治理框架和标准规范。近年来，美英等军事大国一方面大举推进智能化军事体系建设，加快人工智能军事应用研发；另一方面，在多边领域，反对采取任何限制人工智能军事应用的举措，甚至拼凑“人工智能防务伙伴计划”“人工智能全球合作组织”等小集团，兜售以所谓“基本自由和民主价值”为基础的人工智能治理规则。对此，谈践大使明确指出，在对人工智能军事应用领域加强监管治理的同时，应避免采取以意识形态划线、泛化国家安全概念的做法。

谈践大使还强调，作为人工智能大国，中国始终以高度负责任的态度积极参与人工智能领域全球治理体系建设和改革。2021年以来，中方在联合国场合相继发布了《中国关于规范人工智能军事应用的立场文件》《中国关于加强人工智能伦理治理的立场文件》，为推进人工智能全球治理贡献了“中国智慧”与“中国方案”。此外，中方还积极参与联合国“致命性自主武器系统”问题讨论，未来，中方将继续以建设性姿态参与人工智能全球治理。

图3：2021年12月，中国特命全权裁军事务大使李松率团出席在日内瓦召开的联合国《特定常规武器公约》第六次审议大会，并向大会提交了《中国关于规范人工智能军事应用的立场文件》

美国代表邦尼·丹尼斯·詹金斯大使（Bonnie Denise Jenkins）也在会上阐述了美国对于人工智能军事应用的立场观点，认为人工智能是一种变革性的通用技术， 利用这种新技术为经济社会和军事领域带来了机遇和风险，将以未知的方式改变历史的进程。例如，人工智能的应用可以帮助应对解决复杂的核查挑战，增强对各国承诺的信心，从而加强军备控制。越来越多的国家正在发展军事人工智能能力，其中可能包括使用人工智能来实现自主系统。美国从负责任的角度将人工智能用于军事目的，这意味着在利用人工智能的好处的同时，必须关注安全和负责任的行为，这与战争法和国际人道主义法是一致的。人工智能的军事使用可以而且应该是合乎伦理的、负责任的，并增强国际安全，在武装冲突中使用人工智能必须符合国际人道主义法。人工智能能力的军事使用需要进行有效问责，包括在负责任的指挥和控制链内的军事行动中应用人工智能。军事使用人工智能的原则方法应该包括仔细考虑风险和收益，还应该最大限度地减少意外偏见和事故。各国应采取适当措施，确保负责任地开发、部署和使用其军事人工智能能力，包括那些实现自主系统的能力。这些措施应该覆盖到军事人工智能能力的整个生命周期。

图4：美军不断推动人工智能军事应用

美国代表强调，人工智能将深刻变革后勤管理、军事训练、作战方式等军队各领域。负责任的军队应当使用人工智能能力来改善决策和态势感知，帮助避免意外交战。人工智能能力将提高使用武力的准确性和精确性，这也将有助于加强执行国际人道主义法对平民的保护。人工智能的军事用途可以让世界更安全。然而，由于许多人工智能系统的脆弱性，急于利用人工智能而不采取谨慎、有原则的方法的国家可能会部署具有不可预测后果的系统——无论是因为系统设计不当、测试不足，还是因为指挥官和操作人员对这些系统的能力和局限性没有充分了解。

美国代表表示，目前美国防部已经发布军用人工智能伦理原则和负责任的人工智能战略和实施途径，阐释了指导美军在军事领域应用人工智能的基本原则和实践路径。美国致力于开发可靠的人工智能系统，确保操作者能够适当谨慎地并根据适用的国内法和国际法使用基于人工智能技术的武器系统，并确保保留人类的责任，确保在军事行动中人工智能技术的使用始终在负责任的指挥和控制人力链中。此外，美国和英法两国已经作出联合承诺，对所有执行有关使用核武器的主权决定至关重要的行动保持人类控制和参与，旨在确保这种最危险的军事技术受到人类的严格监督。

同时，美国代表还指出，在开发、部署和使用军事人工智能能力时应采取下列举措。

1.各国应采取法律审查等有效步骤，确保其军事人工智能能力仅在符合其国际法特别是国际人道主义法义务的情况下使用；

2.各国应保持对所有行动的人类控制和参与，这些行动对通报和执行有关使用核武器的主权决定至关重要；

3.各国应确保高级官员监督所有具有重大应用的军事人工智能能力的开发和部署，包括但不限于武器系统；

4.各国应通过、发布和实施其军事组织负责任的设计、开发、部署和使用人工智能能力的原则；

5.各国应确保相关人员在开发、部署和使用军事人工智能能力(包括具备这种能力的武器系统)时给予适当的照顾，包括适当水平的人类判断；

6.各国应确保采取深思熟虑的步骤，尽量减少军事人工智能能力方面的意外偏见；

7.各国应确保利用可审计的方法、数据源、设计程序和文件开发军事人工智能能力；

8. 各国应确保使用或批准使用军事人工智能能力的人员经过培训，以便充分了解其能力和限制，并能够对其使用做出基于背景的判断；

9.各国应确保军事人工智能能力具有定义明确的用途，并确保其设计用于实现这些预期功能；

10.各国应确保军事人工智能能力的安全性和有效性在其明确定义的用途和整个生命周期内接受适当和严格的测试和保证。自我学习或不断更新军事人工智能能力也应受到监测过程的制约，以确保关键的安全功能没有退化；

11. 各国应使军事人工智能具备避免出现意外后果的能力。各国还应实施其他适当的保障措施，以减轻严重故障的风险；

12.各国应继续讨论如何以负责任的方式开发、部署和使用军事人工智能能力，以促进这些做法的有效实施。

尤为值得注意的是，美国在此次峰会上还发表了一份关于负责任使用人工智能与自主技术的政治宣言，具体内容如下：

1. 确保相关人员在开发、部署和使用军事人工智能时要维持适当水平的人类判断;

2. 开发军事人工智能系统具备避免意外后果的能力；

3. 确保使用可审计的方法、数据源、设计程序和文档开发军事人工智能能力;

4. 最小化军事人工智能能力的意外偏差;

5. 确保国际法，特别是国际人道主义法得到遵守。

二、主要成果

在此次峰会上，包括中国、美国在内的60多个国家签署了一项“行动倡议”，支持“军事领域负责任使用人工智能”的立场，在世界上产生了重要影响。具体内容如下：

图5：军事领域负责任使用人工智能行动倡议

倡议指出，人工智能正在从根本上影响和改变我们的世界。人工智能将极大地影响未来的军事行动，就像它影响我们的工作和生活方式一样。各国军队正在不断推进人工智能的军事应用。人工智能作为一种使能技术具有非凡的潜力，使人类能够有力地利用以前无法想象的数据量并改善决策。然而，应当认识到其中也有风险，其中许多是迄今无法预见的。全世界都在关注人工智能在军事领域应用存在的风险挑战，包括人工智能系统潜在的不可靠问题、人类参与的问题、问责困难和潜在的意外后果，以及在武装力量范围内意外升级的风险等。

倡议强调，各国应当在军事领域负责任地使用人工智能，按照国际法律义务，以不损害国际安全、稳定和问责制的方式使用人工智能，是至关重要的。这一行动倡议邀请各国政府、工业界、知识机构、国际组织和其他方面支持以下工作。

1. 承认在军事领域迅速运用人工智能对国际安全和稳定产生的潜在影响，包括机遇和挑战；

2. 人工智能在军事领域的应用应当减少对平民和民用物体伤害的风险；

3. 当前没有也不可能完全理解和预见在军事领域广泛应用人工智能所带来的影响和挑战；

4. 提高对在军事领域运用人工智能的影响的理解。这包括破除神话，以及提高关于人工智能在军事领域基于风险和限制的知识和素养；

5. 赞赏许多行为体在负责任地开发、部署和使用军事人工智能方面所做的工作，包括相关的国家战略、人工智能原则和国际倡议，以及不同利益攸关方群体为有效应对将人工智能嵌入军事领域所带来的挑战而积累的专业知识；

6. 人工智能可以用来塑造和影响决策，需要努力确保在军事领域使用人工智能时，人类仍然要对决策负责和问责；

7. 有必要评估目前和未来在军事领域应用各种人工智能技术的各种类型以及应用人工智能的不同军事背景所涉及的风险；

8. 不及时采用人工智能可能会导致军事上的劣势，而在没有充分研究、测试和保证的情况下过早采用人工智能可能会导致意外伤害。有必要加强有关减少风险的做法和程序方面经验教训的国际交流；

9. 在应对军事领域使用人工智能可能产生的影响、机会和挑战方面，必须采取整体、包容和全面的方法，所有利益攸关方，包括国家、私营部门、民间社会和学术界，都需要就军事领域负责任的人工智能开展合作和交流；

10.人工智能系统数据的收集、使用、共享、归档和删除应符合国际法以及相关的国家、区域和国际法律框架和数据标准。从早期设计阶段开始就应建立和确保适当的数据保护和数据质量治理机制，包括在获得和使用人工智能训练数据方面；

11. 由于军事决策的分散性和人工智能系统的复杂性，需要密切关注人工智能在军事领域的开发、部署和使用的各个阶段。鼓励公共和私营部门之间的合作，并努力扩散军事领域开发、部署和使用人工智能的多利益攸关方之间的接触；

12. 必须确保对人工智能系统的使用采取适当的保障措施和人员监督，同时考虑到由于时间和能力的限制而造成的人员限制；

13. 使用人工智能的军事人员应充分了解人工智能系统的特点、使用这些系统的潜在后果，包括任何限制造成的后果，如数据中的潜在偏见，因此需要对用户互动的方式和对人工智能系统的依赖进行研究、教育和培训，以避免不良影响；

14. 应当促进各国之间交流良好做法和经验教训，以提高各国对在军事领域使用人工智能的国家框架和政策的相互理解。私营部门分享规范、政策、原则和技术专长方面的良好做法和经验教训是十分重要的；

15. 在军事领域应用人工智能的情况因国家而异。在军事领域负责任地使用人工智能需要多边和多利益攸关方的相互交流，以使所有国家，特别是发展中国家从机会中受益，并应对挑战和风险；

16. 有必要继续就人工智能在军事领域的使用所带来的好处、困境、风险和挑战进行国际和多方利益攸关方讨论。邀请国际私营部门、学术界、民间社会和其他相关利益攸关方积极推动多边层面的讨论，促进军事领域负责任使用人工智能；

17. 人工智能领域的技术发展主要发生在民用领域。因此，在军事领域引入人工智能是一个多利益攸关方的挑战。应当致力于以多方利益攸关方和包容的方式继续开展关于军事领域负责任的人工智能的全球对话，并呼吁所有利益相关者根据国际法承担其责任，为国际安全和稳定作出贡献；

18. 各国应当制定关于军事领域负责任的人工智能的国家框架、战略和原则；

19. 欢迎各国、学术界、民间社会、工业界和其他利益攸关方采取举措，促进军事领域负责任的人工智能；

20. 支持全球学术界、知识机构和智库开展更多的研究，以便更好地理解在军事领域迅速采用人工智能的影响、机遇和挑战，特别是在人机协作领域，同时认识到不同的人工智能系统在不同军事背景下的多方面使用情况；

21. 邀请学术界、知识机构和智库就人工智能在军事领域的使用所带来的挑战提出方法，并为实际解决方案作出贡献，以促进国际安全和稳定；

22. 呼吁私营部门支持和促进在军事领域负责任地使用人工智能。鼓励公司与其他利益攸关方分享关于负责任地使用人工智能的良好做法和政策，特别是那些可能与在军事领域使用人工智能有关的良好做法和政策，同时注重国家安全考虑和对商业专有信息的限制；

23. 鼓励多利益攸关方就最佳做法进行对话，以指导在军事领域开发、部署和使用人工智能，确保在整个军事领域负责任地使用人工智能的良好做法和政策方面进行跨学科讨论；

24. 邀请全世界所有利益攸关方加入这一行动倡议。

三、简要评价

应当看到，作为“后疫情时代”首个人工智能军事应用领域的国际会议，此次在荷兰举办的“军事领域负责任使用人工智能峰会”具有重要的国际影响和意义。这一方面表明，在俄乌冲突加速智能化战争形态来临的背景下，国际社会愈加重视为人工智能军事应用领域制定规则规范，以维护人工智能时代的军事安全与全球战略稳定。该峰会“行动倡议”的签署方表明，他们将致力于根据“国际法律义务”并“以不损害国际安全、稳定和责任的方式”开发和使用军事领域的人工智能。另一方面，此次会议也折射出各方在这一领域存在的严重分歧和制定国际条约的困难性。例如，一些积极推进人工智能军事应用的国家（如以色列）虽然参与了会议，但没有签署有关声明。虽然部分国家通过了一项“军事领域负责任使用人工智能”行动倡议，但是并不具有法律约束力。对于人工智能对战略稳定性的威胁以及致命性自主武器系统问题，此次会议也没有提出相应的解决方案。可以预见，未来要在世界范围内达成共识，有效管控人工智能军事应用带来的国际安全风险，仍然任重道远。

参考文献

[1] 新华网，“中美等国呼吁：监管人工智能军事应用迫在眉睫”，2023年2月20日，http://www.xinhuanet.com/mil/2023-02/20/c_1211730565.htm

[2] REAIM 2023 Call to Action，https://www.government.nl/documents/publications/2023/02/16/reaim-2023-call-to-action；https://www.government.nl/ministries/ministry-of-foreign-affairs/activiteiten/reaim

文字 | 秦风

图片 | 来源于网络

编辑 | 原熙文

审阅 | 李广昊

标签：