Gemini 对话机器人加入开源盲水印技术来检测 AI 生成的内容

基于 AI 的对话机器人正在迅速融入我们的生活，但不当使用也带来了许多问题，例如学生利用 AI 机器人完成作业。OpenAI 曾尝试开发文本分类器来检测 ChatGPT 生成的内容，但由于检测成功率低而放弃。

Google 最近在其 Gemini 机器人中引入了一种名为 SynthID-Text 的盲水印技术。这种技术通过算法将特定字词嵌入文本中，用户无法察觉，但检测器可以识别。SynthID-Text 已集成到 Gemini 中，并开源供开发者和企业使用，使得其他公司 (如 OpenAI 和 Anthropic) 也能在自己的模型中应用这种水印。

该系统通过调整 AI 模型生成文本时的字词选择，创建独特的“统计签名”，从而在检测阶段识别文本是否由带有盲水印的 AI 模型生成。尽管用户可能难以发现这些水印，但可以通过替换字词来干扰水印检测，但这种做法较为繁琐，直接使用无水印的 AI 可能更加高效。