您的位置:首页 >科技 >

布鲁金斯学会报告:深度伪造与国际冲突

2023-02-14 19:00:12    来源:互联网

内容摘要:

本报告介绍了深度伪造技术的技术原理、应用示例、检测办法及其产品作用机理,分析了该技术在国际冲突中的潜在用途,并针对防范、使用、管理深度伪造等问题提出了相应的政策建议。报告指出,对于深度伪造应当采取更加积极有效的防范措施;深度伪造虽然在国际冲突中可以起到独特作用,但它将从根本上破坏道德准则和价值观,因此民主国家应当尽力避免使用该技术;如果确要使用,则应当建立起“公平裁决流程”等强有力的管理机制。


(资料图)

深度伪造简介

1.1深度伪造技术原理

深度伪造的出现,是因为机器学习最近取得了突破。在过去的15年中,机器学习实现了其最初潜力;多模态数据(例如新闻文章、社交媒体、音频、图像、视频等)的广泛可得性,以及高性能CPU和GPU计算集群成本的大幅降低,则使机器学习技术无处不在。

最近的机器学习革命的核心是深度神经网络,通常称为“深度学习”。如果有足够的数据和计算能力,深度学习模型将极其强大,包括生成逼真的图像、音频、文本等。这也就是“深度伪造”技术的来源。

深度伪造通常使用的深度学习算法被称为GAN,即“生成对抗网络”。GAN于2014年开发,随着计算能力、可用数据和算法的提高,已迅速成熟,现可用于从静态的图像、文本到音频、视频流等所有形式的数字内容。GAN的底层算法通常是开源的,任何在线用户都可以下载并对其进行训练,其限制主要在于开发深度伪造所必需的训练数据和计算能力。

GAN虽然有很多变体,但它们都使用深度神经网络并遵循相同的简单架构(见图1)。

图1 GAN架构

1.2深度伪造产品的作用机理

随着机器学习越来越强大、性价比越来越高,受到操纵的媒体将对民主构成越来越大的挑战。在现代社交媒体中,真实信息和虚假信息都可以快速传播,从而产生信息级联。由于虚假事实普遍存在,它将被广泛接受。事实上,否认错误信息往往会导致其得到更广泛的传播,而且虚假信息比真实信息传播得更快。深度伪造产品质量越高、制作越简单,就越容易把真实内容或信息看作是不真实的。

目前,最大的危险来自拥有相当技术能力的国家(如俄罗斯)或可以花钱得到这些技术的国家(例如沙特阿拉伯)。然而,随着技术的进步和普及,较小的国家、非国家行为体甚至个人都可能开始使用深度伪造。尽管质量可能有所不同,但无需非常专业的行为就可以造成混乱或破坏政府政策。

深度伪造在国际冲突中的可能应用

以前,关于深度伪造的讨论主要集中在对民主和社会的威胁之上,认为它会玷污民主社会形象,破坏民主统治的合法性。但如今,被操纵的媒体正加剧国际冲突,深度伪造将使媒体上的造假活动更加有力。俄乌战争表明,深度伪造现在正被用于国际冲突,其作用在未来几年还将增大。根据深度伪造设计者目前的研究,该技术有8种典型应用,包括使战争和起义合法化、伪造命令、制造混乱、分裂上下级、削弱民众支持、使社会两极分化、分裂盟友、诋毁领导者等可能的情况。但美国也同样可以利用深度伪造来对抗敌人和其他威胁,以保护国际秩序。例如,显示俄罗斯将军命令俄军从乌克兰城市撤离,或者显示恐怖分子领导人发表导致恐怖组织分裂的批判性言论,等等。

应对深度伪造的政策建议

深度伪造的潜在应用范围之广,给美国和其他民主国家的决策者和安全分析员带来了巨大挑战。

3.1应当采取更加积极有效的办法来防范深度伪造

从防御角度来看,防范深度伪造绝非易事。在技术层面上,尽管目前仍有可能设计并训练能够识别深度伪造作品的算法,但从长远来看这并不可行,因为检测算法的所有进步都可以用到下一代的生成算法中,最终使检测无法进行,或者因为计算量太大而无法开展快速的大规模检测。要想有效防范深度伪造,需要有强大的数字内容认证和验证手段,也要求广大公众具有更高的数字素养和批判性推理能力。对安全和情报业界来说,还需要建立起相关系统,能够确保给定音频、视频或文本的来源和监管链。

3.2需要实时分析真相的人应当谨慎开展工作

对于情报分析员、记者和其他需要实时分析真相的人来说,他们必须谨慎对待重要且看似准确的视频;对单一来源信息,必须更加警惕;要考虑到可能存在欺骗,放慢分析速度并对信息进行验证;对于实时的行动,应当采取利用验证码等不同方法。

3.3民主国家应当尽量不利用深度伪造

关于民主国家的官员何时以及如何使用深度伪造,政策层面关注相对较少。民主国家的公众习惯于更好的信息环境,民主政治制度依赖于知情的公众,因此民主国家应当不愿意采取可能破坏公众信心和信任的策略,不会依赖深度伪造来开展公共信息行动。在武装冲突的情况下尤其如此,因为围绕基本的新闻和信息会存在激烈竞争,民主政府需要维护民众的信任,如果对某条新闻进行了拙劣的操纵,政府将会信誉扫地。即使敌方利用了深度伪造,也应当避免以毒攻毒进行回应,因为深度伪造的宣传将对民主社会造成更大伤害。上述深度伪造在国际冲突中的很多应用,民主政府和官员都不应当使用。

3.4民主国家应建立起强有力的管理机制

尽管深度伪造对民主社会构成了风险,但利用深度伪造针对特定目标,可以带来巨大的潜在利益,一些民主政府有可能生成并部署深度伪造。美国政府可能已经确定,深度伪造或欺骗策略所带来的好处,将超过它们带来的风险。鉴于此,民主国家应当建立强有力的监督和问责机制,以确定何时使用深度伪造的好处大于风险。

原文标题|Deepfakes and International Conflict

文章来源|布鲁金斯学会

发布时间|2023年1月

编译|智能society

文件链接|https://www.brookings.edu/research/deepfakes-and-international-conflict/

标签: 民主国家 机器学习 计算能力

相关阅读