ChatGPT给美国防工业基础带来的影响 今日视点

远望智库开源情报中心 书香慧言 编译

乔治·梅森大学商学院格雷格与卡米尔·巴罗尼政府合同中心研究员诺亚·里弗斯（Noah Rivers）日前撰文，就风靡全球的ChatGPT对美国防工业基础的影响分析如下：

(相关资料图)

ChatGPT是由美国人工智能实验室OpenAI开发的一款人工智能聊天机器人工具。在2022年11月推出两个月后，成为历史上最快达到1亿活跃用户的消费应用程序，并且已经开始在商业和学术界产生深刻影响。

ChatGPT（或其后继和相关技术）将在多大程度上对国家安全和国防采购产生影响尚不清楚，因为该技术尚不具备可取代人类的能力。然而，基于最初的使用案例即对该工具的反应，ChatGPT已经给国防专业人员带来了红利与风险。

一、红利方面

ChatGPT源于一种基于机器学习的语言模型GPT-3.5，被认为是一种开创性的生成型人工智能。这意味着它能够与用户进行对话，并对各种文本格式的问题或提示生成详细的类似人类的响应。这说明证明ChatGPT是一种跨各个领域的有用工具。例如，在医疗保健、房地产、公共关系、营销、客户服务和媒体行业，一些公司已经开始使用生成型人工智能的迭代，特别是ChatGPT，来完成从预约到撰写文章的各种任务。ChatGPT还因通过了各种考试而上了头条新闻，包括正确回答入门级谷歌软件工程工作的技术问题，以及在一所法学院的考试和沃顿商学院的论文中都得到了及格成绩。

在国防领域，无论是小公司还是大公司，都抱怨那些耗时的规章制度，但小企业由于不熟悉政府合同的相关流程和程序，有时在遵守联邦采购法规标准方面面临更多困难。ChatGPT已经可以帮助化解这个问题。正如一位YouTube创作者所展示的那样，该工具可以用来编写政府合同框架，虽然这不是一个全面的解决方案，但它肯定可以帮助那些竭尽全力争取中标的中小企业（SMB）创始人。据Bridge4Acquisitions总裁梅根·凡霍恩（Megan VanHorn）表示，ChatGPT对于起草和审查合同很有帮助。她指出，如果在政府合同领域没有正确的知识和经验，该工具不会产生巨大的效果，但如果再加上正确的专业知识，它将是一种颠覆性技术，可帮助她在赢得政府合同的道路上节省时间和金钱。

国防部也注意到了利用生成型人工智能加快和简化联邦采购流程的好处。今年，美国防部首席数字和人工智能办公室宣布，它正在开发和测试一种人工智能驱动的合同撰写能力，称为“Acqbot”。该工具旨在帮助合同起草官员撰写合同并管理合同生命周期。目前，该工具仍在开发中，需要大量的输入数据和人工监管。

二、弊端方面

ChatGPT可能为网络犯罪分子提供了一系列威胁美国公民和联邦政府网络安全态势的潜在应用。它已经被非国家威胁行为体（包括脚本小子、黑客和骗子）用来从事各种形式的网络犯罪，但未来，ChatGPT技术有可能被国家行为体用来进行网络间谍活动、信息操纵和网络攻击，从而产生越来越严重的破坏性影响。ChatGPT易于使用，并可供具有基本网络熟练程度的用户访问，从而降低了各种犯罪行为体的使用门槛。

在完成国家安全或国防合同领域最重要的任务方面，ChatGPT还有很长的路要走。它生成的信息看似很自信，但在没有进一步验证的情况下往往不可靠。ChatGPT无法识别潜在的错误信息。OpenAI自己的FAQ页面指出，ChatGPT有时会产生错误或有偏见的答案，而且它对2021之前发生的任何事情都知之甚少。一些软件开发人员甚至禁用了ChatGPT的答案，因为它经常会生成带有严重错误的代码。

鉴于其局限性，现实情况是，当前版本的ChatGPT不会立即彻底改变国家安全或政府合同采购。尽管如此，政府承包商和国防部工作人员都应更好地理解未来几年基于人工智能和机器学习的能力将给行业带来的利弊。当聊天机器人变得更“聪明”时，那些足够精明的国防专业人员会提高他们对人工智能（如ChatGPT）进步的认识，他们会充分利用这项技术的优势并防范其安全风险。

标签： 人工智能 国家安全 机器学习