关注全球
专注海外

Gemini 对话机器人加入开源盲水印技术来检测 AI 生成的内容

基于 AI 的对话机器人正在迅速融入我们的生活,但不当使用也带来了许多问题,例如学生利用 AI 机器人完成作业。OpenAI 曾尝试开发文本分类器来检测 ChatGPT 生成的内容,但由于检测成功率低而放弃。

Google 最近在其 Gemini 机器人中引入了一种名为 SynthID-Text 的盲水印技术。这种技术通过算法将特定字词嵌入文本中,用户无法察觉,但检测器可以识别。SynthID-Text 已集成到 Gemini 中,并开源供开发者和企业使用,使得其他公司 (如 OpenAI 和 Anthropic) 也能在自己的模型中应用这种水印。

该系统通过调整 AI 模型生成文本时的字词选择,创建独特的“统计签名”,从而在检测阶段识别文本是否由带有盲水印的 AI 模型生成。尽管用户可能难以发现这些水印,但可以通过替换字词来干扰水印检测,但这种做法较为繁琐,直接使用无水印的 AI 可能更加高效。

-=||=-收藏赞 (1)
版权声明:本文采用知识共享 署名4.0国际许可协议 [BY-NC-SA] 进行授权
文章名称:《Gemini 对话机器人加入开源盲水印技术来检测 AI 生成的内容》
文章链接:https://topstip.com/gemini-bot-adds-open-source-blind-watermark-to-detect-ai-content/
转载说明:请注明来自“TopsTip”并加入转载内容页的超链接。
本站资源仅供个人学习交流,请于下载后24小时内删除,不允许用于商业用途,否则法律问题自行承担。

评论 抢沙发

评论前必须登录!

立即登录   注册