Meta推出开源AI视频水印工具Video Seal，重拳打击Deepfake泛滥。

如今，Deepfake 技术带来的挑战日益严峻。利用人工智能的强大能力，深度伪造技术能够以前所未有的逼真度篡改图像和音频。据 Sumsub 的报告显示，2023 年至 2024 年间，检测到的 Deepfake 数量增加了四倍。2024 年，Deepfake 占所有身份验证尝试的 7%，凸显了全球欺诈活动中 Deepfake 技术的显著增长。

为了应对 Deepfake 带来的威胁，Meta 公司已开发出一种名为 Meta Seal 的工具，旨在识别使用 AI 创建或修改的内容，从而为用户提供更多有关内容来源的信息。这项技术通过附加 Meta Seal，对符合特定标准的内容进行标记，帮助用户辨别真伪。Meta 提供的另一种工具是 Watermark Anything（能够检测和标记图片），以及 Audio Seal，用于识别人工智能生成的音频内容。

Meta AI 的技术传播者兼 TechCrunch 的撰稿人表示：“视频水印技术旨在清晰地显示内容是否由 AI 生成，或者是否在原始创建后经过 AI 工具的重大修改。”

视频水印正逐渐成为一种识别 AI 生成内容的重要手段。DeepMind 开发的 SynthID 技术，同样可以用于识别由 AI 修改过的图像，确保用户能够辨别内容的真实性。

技术传播者指出，在检测 AI 生成内容方面，仍然面临着一些挑战。

该技术传播者解释说：“全面地检测 AI 生成内容并非易事，因为在利用 AI 工具进行创作时，总存在一定程度的失真（即使经过训练有素的专家进行评估）。我们需要接受这样一个事实：有些 AI 生成的内容可能永远无法被准确识别。”

视频水印技术旨在帮助用户识别 AI 生成的内容，从而提高网络透明度。Meta 认为，视频水印可以为用户提供有价值的背景信息，帮助他们更好地评估内容的真实性。

技术传播者强调，视频水印是一项重要的措施，但它并不能完全解决内容来源和真实性的问题。他们进一步解释说，即使使用 AI 工具对内容进行轻微的修改，也可能难以检测到。

事实上，视频水印只是一种信号，表明内容可能并非完全由真人创作。它的目的是为了提高用户对 AI 技术在内容创作中作用的认知。与此同时，Meta 也在积极探索其他方法，以应对不断演变的深度伪造技术带来的挑战。例如，Meta 近期发布了一个名为 Meta Omni Seal Bench 的通用鲁棒性基准，旨在评估各种水印技术的有效性。此外，Meta 还将在今年的 ICLR（国际表征学习会议）上展示一种新的内容认证方法。ICLR 是一个专注于人工智能研究的重要会议。

“我们希望通过 AI 模型生成者和使用者共同努力，为更多内容添加来源信息，”技术传播者表示，“我们需要在检测和识别技术方面进行持续投入，以应对这一挑战。”

Meta 的这些举措表明，识别 Deepfake 内容是一项复杂而艰巨的任务。检测和识别 AI 生成内容的最佳方法是采用多管齐下的策略，结合多种技术手段。视频水印是其中的一个重要组成部分，它有助于提高用户对 Deepfake 技术的认识。