AI系统的不可预测性：行业内外的不同看法

“`html

近年来，关于AI系统不可预测性和难以控制的证据越来越多。Dario Amodei在今年1月曾表示，尽管他们的公司销售这种技术，但其不确定性依然存在。

开发者的真实声音

Anthropic在2024年5月发布了一篇重要的解释性研究文章，指出AI模型如同一个黑箱，输入与输出之间的关系不明。两年过去了，信心并没有增加。

2025年9月，谷歌DeepMind的Neel Nanda在一次采访中承认，最雄心勃勃的机械解释学版本可能无法实现。这意味着，最初设想的项目目标可能无法达成。

在2024年的NeurIPS大会上，Safe Superintelligence的联合创始人Ilya Sutskever表示，AI推理越多，结果越不可预测。这一声明令人意外，也反映出系统规模化后的复杂性。

销售者的口号与承诺

与开发者的谨慎态度不同，行业销售者充满自信地推销他们的策略。某些顾问声称可以确保AI概览中的收录，某些代理商则承诺能提升13%的引用概率。

这些策略常常缺乏严格的测试，没有对照组或预设假设，只是基于个别成功案例的自我验证。尽管这些策略的真实效果存疑，但信心却显得过于膨胀。

当有人进行测试

真实的测试需要更高的标准，而不仅仅是对个别策略的简单验证。Anthropic公开表示无法完全解释的模型，却被一些人用来进行自信的优化，这种现象值得深思。

在AI领域，开发者与销售者之间的理解差异显而易见。行业内的谨慎与外部的过度自信形成鲜明对比，这种不平衡可能会影响AI技术的未来发展。

“`

这篇文章旨在帮助中国SEO从业者理解AI系统的不可预测性及其在行业内外的不同看法。通过分析开发者与销售者的不同立场，读者可以更好地把握当前AI技术的真实情况。