Google近期宣布,将其SynthID验证工具扩展至搜索功能,并计划在未来几周内支持Chrome浏览器。这一举措使用户可以通过Lens、AI模式和Circle to Search等搜索功能检查图像的来源。
SynthID验证在搜索与Chrome中的应用
通过Google的搜索功能,用户可以验证图像是否由AI生成。通过Lens、AI模式和Circle to Search等功能,用户可以提出诸如“这是否由AI生成?”的问题,获取验证结果。
SynthID验证最初在Gemini应用中提供,用于图像、视频和音频的验证。该技术通过在AI生成的内容中嵌入不可见的数字水印来工作。
C2PA内容凭证
Google还在添加对C2PA内容凭证的验证,这是一种记录媒体创建和修改方式的行业标准。C2PA验证功能将首先在Gemini应用中推出,并将在未来几个月内扩展至搜索和Chrome。
AI内容检测API
Google在Google Cloud的Gemini Enterprise Agent平台上推出了新的AI内容检测API,初期将向特定合作伙伴开放。此API可以检测由Google和其他流行模型生成的AI内容,帮助企业在其平台上评估和管理媒体。
合作伙伴包括Shutterstock、Snap、Avid、Fox Sports和Canva等公司。
SynthID的行业应用
包括OpenAI、Kakao和ElevenLabs在内的公司正将SynthID技术应用于其AI生成的内容。Google已将其SynthID文本水印技术开源,并与NVIDIA合作,为NVIDIA的Cosmos模型生成的视频添加水印。
作为C2PA指导委员会成员之一,Meta将在Instagram上对使用Pixel手机拍摄的照片和视频进行内容凭证标识。
未来展望
自2023年首次引入SynthID以来,Google一直在开发内容来源验证工具。此次扩展至搜索和Chrome,使得验证功能从专业工具转移到用户每天接触内容的表面。
AI内容检测API为需要检查内容是否由AI生成的出版商和平台提供了新的使用场景,用户可以通过Google Cloud访问该功能。
用户已经可以通过“关于此图像”等功能检查图像上下文,而SynthID验证则增加了一个在创建时嵌入水印的层次,而不是依赖可能被去除的元数据。

TopsTip