# Google 扩展内容溯源工具，提升 AI 生成内容透明度

随着生成式媒体变得越来越先进且易于获取，了解内容的来源以及它是否经过修改变得非常有帮助。今天，我们正在搜索（Search）、Gemini、Chrome、Pixel 和云服务（Cloud）中扩展我们的内容透明度和验证工具，并加深与更广泛行业的合作。

扩展我们的技术

三年前，我们推出了 SynthID，这是我们行业领先的数字水印技术，可将难以察觉的信号嵌入到 AI 生成的内容中。自那时起，我们已将 SynthID 集成到我们的生成式媒体模型和产品中，为超过 1000 亿张图像和视频以及 6 万年的音频添加了水印。

在我们越来越多的生成式媒体工具中，我们使用了 C2PA 内容凭证（Content Credentials），这是一种行业标准，用于展示媒体是如何创建和修改的（无论是否使用 AI）。Pixel 10 是首款在其原生相机应用中为图像提供内容凭证的智能手机，我们将在未来几周内将此技术扩展到 Pixel 8、9 和 10 手机的视频功能中。

通过在拍摄点使用此技术，Pixel 可以记录内容何时由相机拍摄。在生成式媒体时代，我们认为识别真实、未经编辑的内容，与了解文件何时制作或使用 AI 编辑同样重要。

提供更多验证内容的方式

我们的目标是让用户更容易了解在线遇到的内容。这就是为什么我们最近在 Gemini 应用中增加了针对图像、视频和音频的 SynthID 验证功能。该功能在全球已被使用 5000 万次，今天我们将其验证能力扩展到搜索（Search），并在未来几周内扩展到 Chrome。

你可以通过使用搜索功能（如 Lens、AI 模式和“圈选即搜”）以及 Chrome 中的 Gemini 来了解图像的来源。只需询问：“这是 AI 制作的吗？”或“这是 AI 生成的吗？”

我们还增加了对 C2PA 内容凭证的验证，以便轻松检查内容是来自相机的未经修改的原始文件，还是经过了修改以及使用了什么工具。此功能从今天开始在 Gemini 应用中推出，并将在未来几个月内登陆搜索和 Chrome。这是在 YouTube 上识别 AI 生成内容的标签以及我们与 Backstory 可信测试人员合作使检测工具更快、更可靠等功能基础上的进一步发展。

跨行业合作

由于数字媒体在多个平台上传播，全行业的合作以及对强大、可互操作工具的采用至关重要。随着 OpenAI、Kakao 和 ElevenLabs 等公司将 SynthID 技术引入其更多 AI 生成的内容中，网络上将有更多内容携带这些难以察觉的水印。这建立在我们持续努力使内容来源更清晰的基础上，例如开源我们的 SynthID 文本水印技术，并与 NVIDIA 合作，为其 Cosmos 世界基础模型生成的 AI 视频添加水印。

为了帮助更多组织识别 AI 生成的媒体，我们正在 Google Cloud 的 Gemini 企业代理平台（Gemini Enterprise Agent Platform）上推出新的 AI 内容检测 API。这为企业提供了一种强大的方式来识别由 Google 和其他流行模型生成的 AI 内容，帮助他们决定如何评估和管理其平台上的媒体——无论是用于后端操作（如排序信息流和防止保险欺诈），还是用于面向用户的内容（如事实核查和标记合成媒体）。我们正与一批受信任的合作伙伴共同推出该 API，并将根据他们的反馈继续完善。

作为 C2PA 指导委员会的成员，我们还继续倡导溯源技术的全球标准。这确保了我们设备中内置的透明度工具能够在您每天使用的平台上无缝运行。例如，Meta（C2PA 指导委员会的另一位成员）将开始在 Instagram 上使用内容凭证标记相机拍摄的媒体。这意味着在 Pixel 手机上原生拍摄的真实照片和视频，在您分享到 Instagram 时，很快就能被识别并标记出来。


我们长期致力于提供有关您在线发现的信息的有用背景。内容透明度是一个复杂的挑战，但我们将继续开发推动技术进步的方法，并为行业设定高标准。我们的目标是为您提供所需的工具，以确定您遇到的任何内容的历史记录。

来源：Google DeepMind｜原文链接