OpenAI 的 Whisper 转录工具存在虚假内容问题

OpenAI 的 Whisper 转录工具存在虚假内容问题，尽管生成式 AI 的虚假倾向已被广泛讨论，但在转录中出现这一问题令人意外，因为转录本应与录音内容密切相关。研究显示，Whisper 的转录中出现了从种族评论到虚构医疗治疗的各种内容，这在医疗等高风险环境中尤为严重。

密歇根大学的一位研究人员发现，在公共会议的音频转录中，80% 的样本存在虚假内容。一位机器学习工程师分析了超过 100 小时的 Whisper 转录，发现超过一半存在虚假内容，而另一位开发者在其创建的 26,000 个转录中几乎全部存在虚假内容。OpenAI 承诺持续改进模型的准确性，并限制其在高风险决策中的使用。