谷歌正在将其SynthID验证工具扩展到搜索功能,并计划在未来几周内支持Chrome。用户可以通过Lens、AI模式和Circle to Search等搜索功能,检查图像的来源。
SynthID验证在搜索和Chrome中的应用
谷歌宣布,用户现在可以通过Lens、AI模式和Circle to Search等功能,检查图像是否由AI生成。用户可以提出诸如“这是AI生成的吗?”之类的问题,以获取验证结果。
SynthID验证此前已在Gemini应用中用于图像、视频和音频,通过嵌入不可见的数字水印来识别AI生成的内容。
C2PA内容凭证
谷歌还增加了对C2PA内容凭证的验证,这是一种记录媒体创建和修改过程的行业标准。该验证功能将从今天起在Gemini应用中推出,并将在未来几个月内扩展到搜索和Chrome。
AI内容检测API
谷歌在Google Cloud的Gemini Enterprise Agent平台上推出了一种新的AI内容检测API,并向部分合作伙伴开放。谷歌表示,该API能够检测由谷歌及其他流行模型生成的AI内容。
该API可帮助企业在其平台上评估和管理媒体,应用场景包括排序信息流、预防保险欺诈、事实核查和标记合成媒体。
SynthID的行业应用
包括OpenAI、Kakao和ElevenLabs在内的多家公司正在将SynthID技术应用于其AI生成内容。谷歌还与NVIDIA合作,为NVIDIA的Cosmos模型生成的视频添加水印。
作为C2PA指导委员会成员之一的Meta将在Instagram上开始标记相机拍摄的媒体,这意味着用Pixel手机拍摄的照片和视频将被识别为相机拍摄的媒体。
谷歌自2023年首次推出SynthID以来,一直在开发内容溯源工具。此次扩展到搜索和Chrome,意味着验证工具从专业化转向日常用户接触的内容平台。
AI内容检测API为需要检查内容是否由AI生成的出版商和平台提供了新的使用场景。搜索者已经可以通过“关于此图像”等功能检查图像背景,SynthID验证增加了一个在创建时嵌入水印的层次,而不是依赖可能被剥离的元数据。

TopsTip