看点：数字外交中的深度伪造研究

文│对外经济贸易大学国际关系学院教授 董青岭

作为数字外交“工具箱”中的新型武器，深度伪造（Deepfake）技术的应用日渐成为全球虚假信息泛滥的因素之一。简单说，深度伪造就是利用机器学习手段（核心技术是生成对抗网络）篡改素材内容、移花接木，通过数据训练虚构政治人物音频、视频、图像和文本等，使展示内容看起来像是被真实讲述过或真实发生过，从而蒙蔽观众并使之相信“他们正在阅读或观看事件真相”，然而，这些内容事实上从未发生过或从未存在过，只是被别有用心的政治势力凭空捏造、用于“污名化”政治对手或故意歪曲事件真相之目的。就此而言，通过深度伪造生成的虚假信息高度逼真，具有真假难辨、混淆视听之功能。该技术一经产生便被用作国际政治攻心之利器、数字外交之重要工具。

一、数字外交中的深度伪造类型与场景

(资料图片)

当前，数字技术的介入和渗透已成外交工作变革的核心驱动力量。作为数字外交的一种新型舆论攻心方式，深度伪造技术在外交工作中的应用主要是以机器学习为手段、以内容篡改为目标，旨在通过算法模型自动生成虚假图像和议题、伪造信息传播内容和主体，悄无声息地改变信息传递的真实性、放大议题的争议范围，以令人难以发觉的方式实现舆论引导、形象塑造和思想渗透。就此而言，深度伪造是数字环境下数据和算法在外交工作中的“武器化运用”。该技术不仅控制并改变着内容生产的速度、性质和传播方向，而且还可以根据受众喜好定制化推送政治宣传内容，从而实施精准政治沟通和精准公共外交。

虽然这些内容是虚构、歪曲甚至伪造的，但是鉴于其真假难辨、短期内具有实现舆论引导和政治说服之功用，深度伪造技术的介入正使外交工作变成国家间的技术对抗。一方面，深度伪造算法多是开源可获得；另一方面，用于伪造训练的计算资源如图形处理器（GPU）和张量处理器（TPU）等正变得越来越低廉，这使深度伪造技术在数字外交工作中能够得以迅速传播并被各国竞相效仿。概括来说，深度伪造在数字外交中的应用主要包括以下场景。

一是视频伪造，即借助生成对抗网络（GAN）合成或修改视频中的人脸、表情和动作等，以求达到移花接木、借尸还魂、以假乱真的效果。典型案例如 2022年 3 月 16 日出现在脸书（Facebook）上的乌克兰总统泽连斯基宣布投降的深度伪造视频。该视频显示，泽连斯基严肃地站在讲台上号召“乌克兰士兵放下武器并回到家人身边”。随后，泽连斯基在社交媒体照片墙（Instagram）上发布自拍视频澄清，宣称“这是幼稚的挑衅，乌克兰不会向俄罗斯投降。”尽管该视频已被各大社交媒体平台标注为“不实的虚假视频”，但是这一深度伪造视频却在外交实战中轻而易举产生了外交攻心作用，让人们对有关泽连斯基相关视频的真实性产生怀疑。

二是动作操纵，即操纵肢体图像或视频中的人物动作，重塑人物表情、说话口型和速度，发表目标对象非本人真实意图的言论和行为举止。例如，研究人员使用 Face2Face 软件工具控制俄罗斯总统普京的面部动作，发表了他在现实生活中从未发表过的严肃演讲。该视频于 2022 年 3 月 16 日发表在社交网站推特（Twitter）上。伪造者采用移花接木的手法操纵并重塑了普京的动作语言，以普京总统严肃讲话的形式“敦促冲突中的俄罗斯士兵放下武器回家”。这是动作操纵在数字外交中的典型应用。

三是图像生成，主要表现为无中生有，借助深度学习技术创建在现实生活中并不存在的图像。2022 年3 月 12 日，乌克兰议会和乌克兰文化政策信息部在 Twitter 上发布了一段模拟攻击视频。该视频以一名女性在埃菲尔铁塔旁边摆姿势拍照开始，然后呼啸而来的多次爆炸袭击了拍照者附近的标志性建筑。该视频中伪造的内容不仅包括建筑物被炸的场景，还包括震惊的人们用法语说话的声音以及战斗机飞过时的空袭警报声。作为乌克兰敦促欧盟和北约在乌克兰上空设立禁飞区的外交行动，这段视频随后被多个乌克兰官方社交媒体账号分享，包括乌克兰外交事务委员会和乌克兰国防部的推特账户。

四是声音克隆，即将面部表情与声音结合，借助深度学习创建合成声音，允许用户将音频“叠加”到预先存在的剪辑中。目前，已经有许多在线网站和手机应用可以让用户模拟名人的声音，其应用价值已引起多国外交机构的关注。根据《福布斯》杂志 2021 年 10 月获得的一份法庭文件披露，一个欺诈团伙利用音频深度伪造技术克隆了一家企业董事的声音，将 3500 万美元资金转移到几个海外账户。据报道，类似的诈骗案例实际上是窃取了 WhatsApp 的录音语音信息，并对其进行深度伪造。由于该技术可以运用在包括总统在内的任何官员身上，很多专家和研究者担心，一旦该技术被外交对手所利用，就会让虚假的信息打着真实的幌子成为挑战他国内部矛盾和暴力冲突的不法工具。

五是文本伪造，即通过使用自然语言模型（如GPT-3）生成高仿真的人工文本，包括社交媒体或网络论坛的简短“评论”、长篇新闻或观点文章。文本生成程序一旦被外交人员所利用，就会规模化生成大批量的伪造宣传材料，从而营造有利于自身的国际舆论环境或扰乱对方的社会秩序。根据《国际金融时报》的报道，研究人员联合开发了一套文本伪造算法。该算法可以允许任何人员包括外交人员添加、删除或编辑视频里说话者所说的文字，而这一切就像在文字处理器上编辑文本那么简单。

与传统人工伪造信息相比，深度伪造借助生成对抗网络可以大幅缩短并自动化训练过程。在这个过程中，两个神经网络相互竞争：生成器（Generator）网络用以创建虚假内容，而鉴别器（Discriminator）网络用以评估判别内容真假；两个神经网络相互竞争，循环往复数千甚至数百万个周期，直到无法区分真实和伪造。就此而言，深度伪造可以自动化内容创建过程，并允许没有技术专长的外交人员轻松操作伪造软件和平台。深度伪造正成为数字外交“工具箱”的重要武器，用于操控舆论、扰动民心和争取政治支持。

二、数字外交中的深度伪造应用和影响

随着全球社会生活数字化进程的不断深入发展，数字外交思维不断革新、数字外交工具层出不穷，其中深度伪造可以让虚假信息以“高度可信”的表象呈现给社会公众，进而操纵公众的情绪反应、诱导社会的舆论倾向。正因深度伪造具有混淆视听、真假难辨的功用，该技术受到各国外交机构的重视。作为技术性公共外交战略，深度伪造制作成本低廉、使用简单，很容易被用作诋毁他国政府、煽动恐怖主义和社会抗议活动、挑拨国家内部矛盾的工具。简单来说，深度伪造在数字外交的应用和影响主要体现在以下方面。

一是深度伪造为境外势力攻击他国社会稳定提供网络舆论操纵新手段。基于深度伪造的音视频合成可用于双边关系挑拨和政治欺骗。例如，人工智能换脸技术可用来虚构政治对手的绯闻，进而羞辱、勒索和污名化政治对手，诋毁和解构对手政治形象。此外，人工智能生成的伪造文本还能够欺骗社交媒体和搜索引擎的推荐算法，这些算法将根据受欢迎程度和参与度推荐偏好内容，进而创造无中生有的“虚假民意”和虚假“受欢迎程度”。总体而言，深度伪造为境外势力攻击他国政府和社会提供了可利用的新手段，恶意的虚假信息传播不仅会带来抗议和暴乱，还可诱发经济危机与社会恐慌。

二是深度伪造为西方外交机构说服他国民众提供政治信息操纵新工具。作为数字外交的重要工具，深度伪造不仅能够制造让公众真假难辨的伪造信息，而且还能够实现虚假信息生产过程的自动化，大幅度提升虚假信息的生产数量与传播速度，在对手尚未发现或尚未采取措施清除虚假信息之前就以压倒性优势迷惑和分裂对手。在此意义上，深度伪造极大降低了外交工作的说服成本、提升了外交工作舆论攻心的效率、扩大了国际舆论竞争行动者的范围。除国家政府以外，恐怖组织、极端势力、政治团队和个人等非国家行为体也表现出越来越强烈的部署和使用深度伪造技术的意愿。

三是深度伪造为西方国家干预他国政治提供了扰动民心的新利器。在某些极端情况下，超现实的深度伪造可能会带来严重的政治影响。例如，伪造的视听内容在外交中可用于掩盖事实真相、诱导对方做出错误判断，从而降低对方的态势感知能力；在政治危机中，对手可用深度伪造内容煽动民族情绪和种族仇恨，进而诱发对方社会爆发大规模暴力冲突；通过社交媒体传播故意伪造的误导性内容，例如脱离事实的虚假声明或移花接木的图片篡改，则可能会影响双边关系和外交谈判进程，放大国家间仇恨和造成部族间杀戮。就此而言，故意的或恶意的信息伪造已经成为数字时代外交工作的一个重要组成部分。事实上，越是虚假的信息，越容易传播，越容易挑动民众情绪、助长政治敌对。

三、数字外交中的深度伪造风险与表现

随着人工智能技术的不断发展，深度伪造的图像和音视频等越来越逼真，生产过程也越来越容易，由此导致的虚假信息也更加难以被侦测和发现，深度伪造将增强网络攻击、加速在线虚假宣传并加剧社会信任度的下降。一旦被运用于国际关系中，深度伪造在外交工作中的渗透和蔓延，将会极大降低虚假信息传播的成本并扩大能够参与其中行动者的范围，特别是当其与其他社会趋势相结合时，深度伪造将给世界各地的选举、政治运动和公共生活构成前所未有的威胁。综合来看，深度伪造运用于数字外交主要会滋生以下风险。

一是误导公共舆论，故意激起社会矛盾、制造政治麻烦、破坏外交行动的政治氛围。一般情况下，深度伪造信息通过肉眼或简单的技术难以侦测和识别。此外，由外交对手、寻求掩盖错误言行的公众人物或试图激起社会辩论的激进者所制作的伪造内容，本身就具有刻意的误导性和故意的捏造性，在公众无法分辨真伪的情况下，很容易带歪社会舆论风向、干扰正常的社会运行与政治沟通。

二是掩盖政治责任，以以假乱真、移花接木的手段混淆视听，通过故意作假转移舆论视线。深度伪造技术一旦被别有用心的政治势力所掌握和熟练运用，很容易产生“骗子红利”，即通过故意作假诱导社会公众质疑原视频、音频或图像的真实性，社会公众很容易被政客们宣称的“被曝视频、图像或录音是假的”所迷惑。说谎者经常利用民众的这一心理散布谣言，宣称对己不利的信息是伪造的，从而达到混淆公众视听、否认罪责言行、逃避惩罚或维持其观点立场的目的。

三是操纵个人决策，利用人的心理作用，以一种隐蔽、微妙的方式影响民众政治选择。例如，在总统大选或外交决策过程中展示朋友圈已经投票的照片，利用民众的从众心理诱导他们投出和朋友圈朋友一样的支持票或反对票，进而影响外交对象国的政局轮换或外交政策执行；在搜索引擎中，操纵不同政治事件或政治人物在搜索结果中出现的先后顺序，以民众难以察觉的方式进行潜在的议程设置；或利用虚假视频故意引发社会争议，增加一些政治候选人的曝光度，或故意诱导某些事件发酵升级为国际争端。

四是破坏社会信任，通过故意伪造和恶意污蔑歪曲事件真相，污名化对方媒体报道的政治可信度。例如，在伪造的政府官员视频中加入暴力、种族歧视和其他不当内容，会大大降低人们对政府机构的支持度，进而侵蚀民众对官方发布消息的可信性。此外，在外交舆论战中，由于虚假信息漫天飞舞，即便是真实的视频内容也有可能会被诽谤为深度伪造内容。就此而言，利用超现实、高度逼真的深度伪造视频混淆视听，很可能会给外交对象国带来民众和政府之间的相互嫌弃，进而瓦解对方对外推进外交行动的国内支持。

综上所述，在数字外交中，深度伪造可通过微妙的心理操纵使算法对人们决策和行为的影响变得“无感顺滑”，以至于“人们可能经常觉得他们已经自由地做出了决定，即使他们正在投票反对自己的利益”。就此而言，深度伪造已对外交工作和国家安全构成潜在威胁。放眼未来，不法者和某些外交机构很可能会利用虚假视频煽动暴力冲突、破坏国家间信任关系乃至刻意引发国家间外交对抗。深度伪造技术一旦被滥用，就会导致眼见耳听未必为实，很可能会加剧公众对新闻媒体和政府机构的不信任，进而造成社会信任体系的崩溃。

四、数字外交中的深度伪造识别与治理

伴随数字外交时代的来临，深度伪造技术的应用为虚假信息的滋生提供了技术温床，而社交媒体平台传播未经证实信息的速度和容易程度正使这个问题变得越来越糟糕，两者的结合无疑为虚假信息的泛滥提供了前所未有的动力。对此，各国政府需要谨慎对待，采取预防和治理措施。

一是加强深度伪造侦测技术研发，通过快速鉴别形成技术威慑。技术的进步在助长虚假信息泛滥的同时，也为打击虚假信息提供了工具。在强大的技术侦测面前，使用深度伪造技术的对手至少会平衡收益、成本与风险。目前，研究人员结合社会科学和计算科学知识已开发出诸多检测技术，这些技术大致可分为基于内容的识别和基于响应的识别。前者的工作方式主要是内容核查，包括机器的核查也包括人工的核验，通过将目标内容与可信的信息源相匹配，突出错误或谎言。后者的工作方式主要是开发软件和工具箱，包括高性能数据分析平台，利用机器人对抗机器人、利用技术反对技术，包括统计识别和语义识别。例如，2017 年 8 月，新加坡信息通信研究所网络安全小组发表名为《自动人脸交换及其检测》（Automated Face Swapping and ItsDetection）的报告，提出人工智能换脸检测框架的检测准确率达到 92%。2019 年 3 月，阿拉伯联合酋长国哈利法大学电气与计算机工程系研究人员发表名为《使用区块链和智能合约打击深度伪造视频》（Combating Deepfake Videos Using Blockchain and SmartContracts）的论文，提出区块链技术可对深度伪造视频进行追溯，追踪数字内容的来源和历史。

二是完善深度伪造法律法规建设，通过制度规范形成制度威慑。2019 年 6 月，美国众议院提出《深度伪造责任法案》（Deep Fakes Accountability Act）。该法案要求任何创建深度伪造视频媒体文件的人，必须用“不可删除的数字水印以及文本描述”说明该媒体文件是篡改还是生成的，否则属于犯罪行为。同时，该法案还赋予受害者起诉这些虚假视频创造者损害受害者声誉的权利。2021 年 5 月，欧盟委员会公布了《加强<反虚假信息行为守则>的指南》（Guidance onStrengthening the Code of Practice on Disinformation）。该《指南》要求互联公司要采取措施应对在线虚假信息并做出有针对性承诺，赋予用户理解和标记虚假信息的能力，同时扩大监管机构事实核查覆盖面，增加研究人员获取数据的机会和健全虚假信息的监测框架。2022年 6 月，欧盟委员会出台了该法案更严格的强化版指南，目前该政策指南已获得 34 个平台、科技企业与公民组织的遵守承诺。

三是强化开源取证和竞争陈述，通过信息溯源形成追责问责威慑。通常情况下，虚假宣传不会仅限于在一个社交媒体传播，而是在一个错综复杂的传播网络延伸。在此背景下，开源取证即从各种公开的信息资源中寻找和获取有价值的情报，这是打赢虚假信息战、指证虚假信息至关重要的解题方法。识别虚假信息仅仅是“去污化”的开始，一旦假信息被识别和标记，就需要通过强有力的政策干预立即删除或限制此类信息的传播，并提供足以推翻该虚假信息的事实证据和竞争性陈述，确保那些接触到该信息的人能够及时得到提示和警告。因此，开发和共享可以用来识别深度伪造信息的开源工具，可以帮助外交人员、新闻机构、用户和其他非技术专家溯源并检测是否存在深度伪造，即判断信息内容是否在来源上属实。在这方面，2022 年 1 月，内容溯源与真实性联盟（C2PA）建立了一个试探性的技术标准，用以指导创建者、编辑、媒体平台和消费者等实现内容来源的展示，确保信息来源的权威性。

综上所述，深度伪造作为数字外交工具箱中的一种新利器，旨在通过人工智能技术影响人们的心态、情感倾向和政治选择，推进特定政治议程。伴随数字伪造与检测能力之间竞赛的全面展开，反深度伪造的努力也日趋成为全球数字外交需要给予关注的重要议题。面对深度伪造所带来的安全风险，除了法律规范的限定措施外，投入资源进行检测技术和检测工具的开发并结合人工审查，方能形成完善可靠的治理体系。

（本文刊登于《中国信息安全》杂志2022年第10期）

标签： 社交媒体 移花接木 研究人员