谷歌开源SynthID：AI生成内容一秒现形

当前，识别和区分人工生成内容与AI生成内容变得日益重要，谷歌推出了名为 SynthID 的工具，旨在帮助用户辨别由人工智能创作的内容。它是一种为 AI 生成的图像添加数字水印的技术。

据 DeepMind 的研究负责人 Pushmeet Kohli 介绍，该技术允许将 AI 标识直接嵌入到 AI 生成的媒体中，从而能够更可靠地识别和区分 AI 生成的图像，这对于应对大型语言模型（LLM）生成虚假信息的问题至关重要。

目前，这项技术已经在 Vertex AI 平台上提供。通过将水印嵌入到图像中，即使经过多次编辑和修改，SynthID 也能有效识别内容是否由 AI 生成。这意味着，即使图像被裁剪、压缩或添加滤镜，其 AI 来源仍然可以被追溯。同时，此功能也在不断改进，以适应不断变化的使用场景。

谷歌的 SynthID 技术目前应用于 Vertex AI 上的 Imagen 模型。它旨在为用户提供一种辨别 AI 生成内容的方法，从而提高 AI 技术使用的透明度。

重要的是，SynthID 专注于在内容创建阶段标记 AI 生成的内容，以便在信息传播过程中更易于识别，从而提高内容的可信度。例如，大型语言模型可能会生成 “猫的真实照片是” 的提示，因此需要能够区分 “真实” 、“虚假” 和 “模拟” 等信息。这种信息可以帮助 SynthID 区分未经修改的 AI 生成图像，从而确保可信度。

总的来说，这项技术旨在为使用 AI 生成的内容提供更高的透明度，使人们更容易识别哪些内容是由 AI 创建的，哪些不是。这有助于减少因 AI 生成内容而产生的潜在误导。谷歌表示，他们正在努力将这项技术应用于更多的 Gemini 模型，并不断改进其在图像、音频和其他媒体类型中的应用。

谷歌在一份声明中指出：“SynthID 不仅可以帮助识别 AI 生成的内容来源，还能提高 AI 模型在信息传播过程中的可信度，从而为用户创造更安全可靠的网络环境。”

参考链接：https://ai.google.dev/responsible/docs/safeguards/synthid?hl=zh-cn

要点总结：

✔️ SynthID 是一项用于识别 AI 生成图像的技术。

🛠️ 该技术有助于区分真实图像与 AI 生成的内容，从而应对虚假信息传播。

💡 SynthID 能够为 AI 生成的内容添加数字水印，便于识别。