人工智能军事变革尚未到来

知远战略与防务研究所 三十年后/编译

(相关资料图)

自：美国安德鲁·马歇尔基金会网站报告

【知远导读】本文通过运用军事变革的四要素——技术变革、军事系统演变、作战创新和组织适应来分析美国和中国军事人工智能发展，探讨人工智能能否开创军事领域新的革命。文章研究发现，在短期内，人工智能更有可能帮助全面实现侦察-打击军事变革，而不是产生全新的人工智能军事变革。同时，对该问题的探讨可以对美国和中国之间军事技术竞争的潜在轨迹进行分析。

报告全篇约27000字，篇幅所限，推送部分为节选。

人工智能可能是中美科技竞争中最重要的领域。包括美国和中国在内的许多国家都认为人工智能在民用和军事应用方面具有潜在的革命性。人工智能因其“激活”机器的能力而被比作电力，有些人推测人工智能可能引发长期社会变革，就像是新工业革命。¹到2021年，44个国家已经发布并正在实施国家级人工智能战略。²然而美国和中国是全球领导者，体现在以下成功标志上：经费支出，学术出版，已获授权的专利和申请，蓬勃发展的学术，私营和公共部门人工智能研究。³他们也是半导体行业的关键参与者，该行业的进步促使人工智能得以持续发展。

对本文的研究来说，最重要的是美国和中国处于思考人工智能军事应用的前沿。两国都认为这可能是革命性的。人工智能革命性的军事潜力令人兴奋，但仍然存在不确定性。它的发展轨迹很难预测，历史上容易出现“寒冬”，其间又不时出现快速发展。⁴然而，美国和中国的一些分析人士、战略家和技术专家认为，它可能会从根本上改变人与机器之间的关系，将对战争产生影响，从限制人类在战场上的参与，到破坏战略核威慑背后的计算。⁵计算机视觉、自然语言处理和推荐系统等应用可以通过为指挥与控制、情报收集以及聚合、自主性和决策支持等作战挑战提供新颖的解决方案，帮助实现战略目标。⁶

因此，美国和中国的国家级人工智能战略均承认保持、发展领先地位的重要性。⁷美国在《2018年国防部人工智能战略》中指出，人工智能“将改变未来战场的特征和我们面对威胁时的速度。我们将利用人工智能的潜力，积极转变国防部的所有职能。⁸

但人工智能真的预示着军事变革即将到来吗？它为什么重要？就军事变革的概念而言，其要素包括技术变革、军事系统演变、作战创新和组织适应，是评估人工智能是否能够改变战争性质的自然视角，因为人工智能的价值目前处在狭窄的应用领域。⁹军事变革可能是由技术推动的，但除非特定的技术应用刺激了行动和组织的变化，推动军事进步，否则就不会出现军事变革。美国净评估办公室前主任安德鲁·马歇尔从美国的角度提出了军事变革的概念：“军事变革的主要挑战是智力挑战，而不是技术挑战。”¹⁰在人工智能潜力及其对系统、作战和组织影响的基础分析方面，军事变革框架有助于避免夸张的猜测。

如果人工智能正在推动美国或中国军队的军事变革，新技术和新概念的结合可能会威胁到任何一方的主导作战方式。如果不是，理解它在未来为什么以及将如何发生，可以帮助观察人士识别出进步和智力发展的标志，例如军事人工智能应用和新战术、新组织结构的结合，使人工智能军事变革更有可能发生。因此，评估人工智能是否可能引发军事变革，可以为美国如何考虑和塑造未来与中国的战略竞争提供信息。

本文的研究方法使用了安德鲁·克雷平涅维奇（Andrew Krepinevich）在1992年开创性论文中提出的军事变革四要素，作为评估人工智能是否为一种革命性军事技术的视角。在研究人工智能的应用之前，论文定义了军事变革，确定了将在多大程度上引发美国和中国军事系统、行动和组织的变化，以及这种变化的本质。根据访谈、学术研究、分析、官方文件、研究报告和历史案例，本报告发现人工智能目前并没有促成军事变革。人工智能技术的现状制约了军事应用，难以实现作战创新和适应性的组织结构。

从军事变革要素的视角分析人工智能

技术变革

在过去十年中，特定人工智能技术进步迅速且令人印象深刻。人工智能技术在计算机视觉、自然语言处理和推荐系统等领域的应用，使机器在某些任务上胜过人类，这引发了美国和中国对军事应用的创造性思考。然而，人工智能应用目前存在重大缺陷，在可预见的未来，可能会限制其战场用途。此外，也无法保证当前的快速进步能够持续。历史上，人工智能经常会出现发展缓慢的寒冬，而且诸如半导体技术发展等因素，可能会制约美国和中国的进步。本节研究了关于人工智能及其应用的广泛技术背景、最新进展、优势以及近期实现人工智能军事变革的重大障碍。

（一）技术背景及相关应用

简单地定义人工智能可能具有挑战性，因为在整个技术发展的历史中，技术和概念发生了快速的变化，其不断迭代升级，子类别和应用不断发展，且专家之间存在分歧。¹¹就本文的目的而言，人工智能广义上是指一系列技术，使计算机系统能够执行某些需要人类智慧参与的任务。¹²虽然人工智能在历史上包含了一系列决策系统（如专家系统），但在关于突破性能力的讨论中，该术语指的是使用计算能力，通过执行数据驱动算法来完成任务的机器学习系统。算法、数据和计算能力（以下统称为计算）是先进机器学习系统的核心组成部分。¹³

这三个要素的进步推动了人工智能领域近期的巨大进步，因此它们很有价值，但也很昂贵。专家通常拥有高等学位，创造最前沿的算法。理想情况下，这些算法在高质量的数据集上进行训练，而这些数据集足以代表给定的问题集，可以提高算法的精度和鲁棒性，同时限制偏差。半导体制造的进步以及为机器学习优化的芯片，通过促进计算来帮助推动人工智能实现突破：从2012年到2018年，用于训练顶级人工智能项目的计算增加了300000倍。¹⁴

通过深度学习技术训练的神经网络是人工智能领域最近取得诸多进展的原因。受人类神经元通信的启发，神经网络是具有输入、隐藏和输出节点层的算法集合。分配给每一层中不同节点的权重和阈值帮助模型处理数据，进而实现某个目标，例如搜索发现或识别图像。¹⁵人类可以通过提供对性能的反馈来训练网络，并通过在特定任务中校准通用模型中的权重，对模型进行微调。¹⁶深度神经网络包含三层以上，在计算机视觉和语言处理方面取得了长足的进步，并且在许多狭窄的应用中大大超过人类，比如从巨大的数据集中分析、得到观点。¹⁷然而，深度神经网络就像大脑一样，包含数千个相互连接的节点。这些节点的相互作用非常复杂，通常无法进行有意义的总结。这限制了产出的可预测性、可解释性，从而限制了它们在应用于敏感任务时的可信度。¹⁸

像深度神经网络这样的高级机器学习系统，在2016年进入了公众的视野。当时美国DeepMind公司的AlphaGo系统在围棋比赛中击败了世界排名第一的人类棋手。¹⁹AlphaGo开发的策略和动作对人类棋手来说是不可预测和无法理解的，这暗示了机器学习在某些任务上超越人类的新兴潜力。

五年多后，美国和中国将人工智能应用的民事和军事潜力视为革命性的，特别是在计算机视觉、自然语言处理、大数据分析和推荐系统方面。计算能力的提高和训练时间的减少引发了计算机视觉方面的重大进展，即系统检测、处理和环境识别方面的能力。²⁰民事应用包括医学成像、在复杂环境中提取重要细节的实时目标检测以及社交媒体图像搜索。²¹军事应用包括自主导航、基于图像的情报收集和分析、通过面部或步态识别个人以及目标识别等。

自然语言处理模型通过理解人类语言来执行任务。由于搜索引擎以及苹果的Siri和亚马逊的Alexa等虚拟助手的普及，模型通过阅读现有文本来学习单词在上下文中的用法，然后“学习”回答开放式查询，生成预测性文本，翻译并执行聊天机器人功能。²²军方可以使用这种技术扫描文件集以获取特定信息，翻译外国情报，甚至直接生成文本信息。²³

人工智能在决策支持方面也很有前景。决策支持算法通常受到大数据集（来自合并的结构化和非结构化数据）的推动，可以发现人类难以甚至不可能收集到的见解。²⁴顾名思义，推荐系统根据汇总的数据和用户偏好，提供决策支持。著名的Spotify使用这种算法来创建播放列表，并根据过去的收听行为和社区数据为用户推荐新的音乐。²⁵军方在融合、分析和消除来自战场的多源传感器数据以及优化复杂的后勤保障或装备维修方面看到了决策支持的潜力。²⁶

这里只是列举了一些有前景且可以军事应用的人工智能最新进展（其他的将在后文中介绍）。然而，在了解它们目前的重大缺陷之后，对这些应用程序的热情将有所缓和。

（二）技术的缺点

深度神经网络在训练环境之外可能很脆弱，这意味着对输入的微小修改就可能导致不正确的输出。这些缺陷可能会被对手利用。例如，研究人员只需在停车标志上放置黑白贴纸，就能阻止最先进深度神经网络系统中的图像分类器读取停车标志。²⁷其他研究人员发现，以一种人类无法察觉的方式随机扭曲熊猫的图像，会使准确率超过99%的模型将图像标记为长臂猿。²⁸由于模型不像人类那样看世界，隐藏层也不透明，所以人类充其量只能解释为什么模型会产生某种输出。²⁹即使过去的性能是准确的，这也使得在新数据上验证模型未来的表现变得困难。因此对于实现军事目的的信任，以及如何测试和评估系统是主要的弱点，可能会限制深度神经网络在高度复杂、动态作战环境中的短期有效性。³⁰

深度神经网络数据集和训练也可能是昂贵和困难的，需要高水平的计算或大量的人力来编译和标记数据。在过渡到现实应用时，即使是具有广泛代表性的训练数据也不能消除问题。³¹获取可用数据也可能是个问题：美国陆军利用大数据进行预测性维护的一项研究发现，历史数据是手写的，不能由机器读取。³²对手可以在训练和现实环境中“毒害”数据。³³此外，由人类培养的数据集可能会在无意中纳入他们的偏见，引发对公平、算法正义和准确性的深刻伦理担忧。³⁴

除了这些挑战外，整合人类和机器团队是复杂的，而且存在着潜在的危险。竞争对手带来的战场问题对作战人员来说已经足够具有挑战性，受限环境中表现最好的算法工具也并不成熟，不应再引入这种复杂性。³⁵人工智能系统与人类相比的决策速度，再加上可解释性挑战，会造成人类默认系统的判断，被称为“自动化偏见”。如果对手无法理解人工智能所支持的行动，就会产生战争升级的风险。³⁶2020年，兰德公司的一场兵棋推演发现，快速的机器决策速度使得态势升级更快、威慑更弱，以及对降级信号的反应减小，结论是：“广泛的人工智能和自主系统可能会导致无意的升级和危机的不稳定。”³⁷

目录

前言

简介

第一章 绪论

第二章 定义和识别军事变革

一、建立的条件

二、文化的影响

三、认识新兴的军事变革

第三章 从军事变革要素的视角分析人工智能

一、技术变革

二、军事系统演变

三、作战创新

四、组织适应

第四章 未来的人工智能军事变革：评估、影响和历史见解

一、识别技术进步的迹象和缺失的军事变革要素

二、实现军事变革要素的条件：从航空母舰军事变革的角度观察人工智能

第五章 结论和未来研究的问题

【1】Kevin Kelly, “The Three Breakthroughs that Have Finally Unleashed AI on the World,” Wired, October 27, 2014, https://www.wired.com/2014/10/ future-of-artificial-intelligence/; Matthew Daniels and Ben Chang, National Power After AI (Washington, DC: Center for Security and Emerging Technology, 2021), iv.

【2】Samar Fatima et al., “Winners and Losers in the Fulfillment of National Artificial Intelligence Aspirations,” Brookings Institution, October 21, 2021, https://www.brookings.edu/blog/techtank/2021/10/21/winners-and- losers-in-the-fulfilment-of-national-artificial-intelligenceaspirations/.

【3】Sachin Waikar, “AI Report: Competition Grows between China and the U.S.,” Stanford HAI, March 3, 2021, https://hai.stanford.edu/news/ai-report-competition-grows-between-china-and-us; Neil Savage, “The Race to the Top among the World’s Leaders in Artificial Intelligence,” Nature News, December 9, 2020, https://www.nature. com/articles/d41586-020-03409-8; Autumn Toney and Melissa Flagg, Comparing the United States’ and China’s Leading Roles in the Landscape of Science (Washington, DC: Center for Security and Emerging Technology, June 2021): 1–12.

【4】Marc Losito and John Anderson, “The Department of Defense’s Looming AI Winter,” War on the Rocks, May 10, 2021, https://warontherocks.com/2021/05/the-department-of-defenses-looming-ai-winter/.

【5】Rafael Loss and Joseph Johnson, “Will Artificial Intelligence Imperil Nuclear Deterrence?”, War on the Rocks, September 2019, https://warontherocks.com/2019/09/will-artificial-intelligence-imperil-nuclear-deterrence/.

【6】Paul Scharre, “Debunking the AI Arms Race Theory,” Texas National Security Review 4, no. 3 (Summer 2021): 123.

【7】Gregory Allen, Understanding China’s AI Strategy (Washington, DC: Center for a New American Security, February 6, 2019), https://www.cnas.org/publications/reports/understanding-chinas-ai-strategy.

【8】U.S. Department of Defense, Summary of the 2018 Department of Defense Artificial Intelligence Strategy (Washington, DC: U.S. Department of Defense, February 2019), 4.

【9】Andrew Krepinevich, The Military-Technical Revolution: A Preliminary Assessment (Washington, DC: Center for Strategic and Budgetary ssessments, 2002), 3.

【10】Dima Adamsky, The Culture of Military Innovation: The Impact of Cultural Factors on the Revolution in Military Affairs in Russia, the U.S., and Israel (Stanford, CA: Stanford University Press, 2010), 2.

【11】Dewey Murdick, James Dunham, and Jennifer Melot, AI Definitions Affect Policymaking (Washington, DC: Center for Security and Emerging Technology, June 2020): 3.

【12】National Security Commission on Artificial Intelligence, Final Report (Washington, DC: National Security Commission on Artificial Intelligence, 2021), 20, 31.

【13】Ben Buchanan, The AI Triad and What It Means for National Security Strategy (Washington, DC: Center for Security and Emerging Technology, August 2020), v–2.

【14】This is partially due to increased willingness to fund these expensive breakthroughs. Ibid., 1–9.

【15】IBM, “What Are Neural Networks?,” IBM, August 17, 2020, https://www.ibm.com/cloud/learn/neural- networks.

【16】Since this is not a technical paper, this description of neural nets does not delve more deeply into different types (e.g., convolutional, feed forward, or recurrent neural nets) or the intricacies of supervised versus unsupervised learning. While these distinctions deserve attention, they are not necessary for linking technological applications to broader discussions of the relationships among technology, military AI applications, and RMAs.

【17】Amy Webb, The Big Nine: How the Tech Titans and Their Thinking Machines Could Warp Humanity (New York: PublicAffairs, 2019), 40–50.

【18】Recent research has made some progress on this black box problem by using methods that interpret what certain computer vision DNNs analyze in a given image, but easy explainability and transparency remain far off. Chris Olah et al., The Building Blocks of Interpretability, Distill, March 26, 2018, https://distill.pub/2018/building- blocks/.

【19】“Google AI Defeats Human Go Champion,” BBC News, May 25, 2017, https://www.bbc.com/news/ technology-40042581. Experts had previously believed an AI would not be capable of beating a human at Go for one or two decades given the game’s complexity, which features many possible moves and is comparatively unstructured. See Webb, Big Nine, 40–50.

【20】Michael Littman et al., Gathering Strength, Gathering Storms: The One Hundred Year Study on Artificial Intelligence (AI100) 2021 Study Panel Report (Stanford, CA: Stanford University, September 2021), https://ai100.stanford.edu/2021-report/standing-questions-andresponses/sq2-what-are-most-important-advances-ai#recommendation.

【21】Ken Weiner, “Council Post: Computer Vision Is More than Just Image Recognition,” Forbes, August 12, 2016, https://www.forbes.com/sites/forbestechcouncil/2016/08/12/computer-vision-is-more-than-just-image-recognition/?sh=4c8ddb816065.

【22】IBM, “What Are Neural Networks?”

【23】Ryan Fedasiuk, Jennifer Melot, and Ben Murphy, Harnessed Lightning: How the Chinese Military is Adopting Artificial Intelligence (Washington, DC: Center for Security and Emerging Technology, 2021), 9; 18–19.

【24】Jason Miller, The Big Data Challenge Getting Smaller for Army, Air Force as CDOs Mature, Federal News Network, January 24, 2020, https://federalnewsnetwork.com/ask-the-cio/2020/01/the-big-data-challenge-getting- smaller-for-army-air-force-as-cdos-mature/.

【25】Priya Dialani, “Tech for Enjoying Music: Here’s How Spotify Uses Big Data,” Analytics Insight, April 19, 2021, https://www.analyticsinsight. net/tech-for-enjoying-music-heres-how-spotify-uses-big-data/.

【26】Altwan Whitfield and Mike Crozier, “Sustainment Transformation: How Joint Artificial Intelligence Center Supports Army Logistics: An Interview with Mr. Nand Mulchandani,” U.S. Army, December 16, 2021, https://www.army.mil/article/252657/sustainment_transformation_how_joint_artificial_intelligence_center_supports_army_logistics_an_interview_with_mr_nand_mulchandani.

【27】Kevin Eykholt et al., “Robust Physical-World Attacks on Deep Learning Models,” arXiv.org, April 10, 2018, https://arxiv.org/abs/1707.08945.

【28】Robert Richbourg, “‘It’s Either a Panda or a Gibbon’: AI Winters and the Limits of Deep Learning,” War on the Rocks, May 10, 2018, https://warontherocks.com/2018/05/its-either-a-panda-or-a-gibbon-ai-winters-and-the- limits-of-deep-learning/.

【29】Olah et al., Building Blocks of Interpretability.

【30】Joshua Kroll, “Artificial Intelligence: Too Fragile to Fight?,” U.S. Naval Institute, February 2022, https://www.usni.org/magazines/proceedings/2022/february/artificial-intelligence-too-fragile-fight?mc_cid=31b7a8c6db&mc_eid=cb69914e13.

【31】Ben Dickson, “The Future of Deep Learning, According to Its Pioneers,” VentureBeat, July 5, 2021, https://venturebeat.com/2021/07/05/the-future-of-deep-learning-according-to-its-pioneers/.

【32】Whitfield and Crozier, “Sustainment Transformation.”

【33】Patrick Tucker, “Vulnerabilities May Slow Air Force’s Adoption of Artificial Intelligence,” Defense One, September 23, 2021, https://www.defenseone.com/threats/2021/09/vulnerabilities-may-slow-air-forces-adoption- artificial-intelligence/185592/.

【34】Center for Naval Analyses, AI Considerations for the Marine Corps, (Arlington, VA: Center for Naval Analyses, 2021), 3.

【35】Owen Daniels, “Speeding Up the OODA Loop with AI: A Helpful or Limiting Framework?,” NATO Joint Air and Space Power Competency Centre, September 2021, https://www.japcc.org/speeding-up-the-ooda-loop-with- ai/.

【36】Kroll, “Artificial Intelligence.”

【37】Yuna Wong et al., Deterrence in the Age of Thinking Machines (Santa Monica, CA: RAND Corporation, 2020), 44–58.

标签：