实时深度伪造检测：英特尔实验室如何利用AI对抗虚假信息

英特尔的Ilke Demir解释了深度伪造技术的工作原理，以及为什么AI研究人员与人类学家、社会科学家和学术研究人员进行合作至关重要。

(资料图片仅供参考)

几年前，深度伪造技术似乎是一项新奇的技术，其制作者依赖于强大的计算能力。如今，深度伪造技术已无处不在，并具有被滥用于散布虚假信息、黑客攻击和其他恶意用途的潜在可能性。

英特尔实验室已经开发了实时深度伪造检测技术来应对这一日益严重的问题。英特尔的高级研究科学家Ilke Demir解释了深度伪造技术的背后原理，英特尔的检测方法，以及在开发和实施这类工具时涉及的伦理考虑。

深度伪造是指利用人工智能（AI）创建的视频、语音或图像，其中演员或行为并非真实存在。深度伪造利用复杂的深度学习架构，比如生成对抗网络（GAN）、变分自编码器（VAE）和其他AI模型，来创造高度逼真和可信的内容。这些模型可以生成个性化人物、对口型视频，甚至是文本转图像等内容，使得真实与虚假内容之间难以区分。

“深度伪造”这个术语有时也被用于指代已经被篡改的真实内容，比如2019年关于前众议院议长南希·佩洛西的视频，该视频被加工处理使其看起来像是喝醉了酒。

Demir团队研究计算机生成的深度伪造技术，这是由机器生成的合成内容形式。她说：“之所以称其为深度伪造，是因为生成式人工智能中涉及了复杂的深度学习架构来创造所有这些内容。”

网络犯罪分子和其他不法分子经常滥用深度伪造技术。一些使用案例包括政治虚假信息传播，以名人或未经同意的个人为特色的成人内容，市场操纵以及为了牟取金钱利益而进行的冒充。这些负面影响强调了需要有效的深度伪造检测方法。

英特尔实验室开发了世界上首个实时深度伪造检测平台之一。这项技术不是寻找伪造的痕迹，而是专注于检测真实的特征，比如心率。利用一种称为光体积变化描记图法的技术，该检测系统分析由于氧含量引起的静脉血液的颜色变化，这种变化在计算上是可见的，从而可以检测出一个人是真实的还是合成的。

Demir表示：“我们试图看到什么是真实和真正的。心率是其中之一的[信号]。”她解释道：“当你的心脏泵血时，血液流向静脉，静脉的颜色会因氧含量而改变。这个颜色变化对我们的眼睛是不可见的；我不能仅凭观察视频来看出你的心率。但这种颜色变化在计算上是可见的。”

英特尔的深度伪造检测技术正在被应用于各个领域和平台，包括社交媒体工具、新闻机构、广播公司、内容创作工具、初创企业和非营利组织。通过将这项技术整合到他们的工作流程中，这些组织可以更好地识别和减轻深度伪造和虚假信息的传播。

尽管深度伪造技术存在被滥用的可能性，但它也有合法的应用。早期的一个用例是创建头像，以更好地在数字环境中代表个人。Demir提到了一个名为“我的脸，我的选择”（MyFace, MyChoice）的特定用例，该用例利用深度伪造技术来增强在线平台的隐私保护。

简单来说，这种方法允许个人控制他们在在线照片中的外貌，如果他们希望避免被识别，可以用“可量化不相似的深度伪造”替换他们的脸部。这些控制措施提供了更高的隐私和对个人身份的控制，有助于对抗自动人脸识别算法。

确保人工智能技术的伦理发展和实施至关重要。英特尔的可信媒体团队与人类学家、社会科学家和用户研究人员合作，对技术进行评估和完善。该公司还设有一个负责任的人工智能委员会，审查人工智能系统是否符合负责任和道德原则，包括潜在的偏见、限制和可能的有害使用情况。这种多学科的方法有助于确保人工智能技术，如深度伪造检测，对人类产生益处，而不是造成伤害。

Demir表示：“我们有法律人员，社会科学家，心理学家，所有人都汇聚在一起，以找出限制因素，查找是否存在偏见——算法偏见，系统偏见，数据偏见，任何类型的偏见。”该团队会审查代码，以找出“任何可能对人们造成伤害的技术的使用情况”。

随着深度伪造技术变得越来越普遍和复杂，开发和实施检测技术以应对虚假信息和其他有害后果的重要性日益增加。英特尔实验室的实时深度伪造检测技术为这个不断增长的问题提供了可扩展和有效的解决方案。

通过融入伦理考虑并与各个学科领域的专家合作，英特尔正在努力实现一个未来，其中人工智能技术能够负责任地应用于社会的福祉。

* 本文为LLrber编译，原文地址：https://ustoday.news/real-time-deepfake-detection-how-intel-labs-uses-ai-to-combat-misinformation/

标签：