Dario Amodei呼吁全球AI行业减速，警惕RSI风险

• 749
• 2026-09-15

近日，Anthropic的首席执行官Dario Amodei发表了一篇文章，阐述了为何AI行业应该放慢发展的步伐。他在文章中提出了一个包含三个部分的计划，而Anthropic已经决定单方面先实施其中的第一步。文章的主要观点由X用户Haider总结成几个关键点，其中一个要点是Amodei支持全面的全球AI暂停，但他也承认这种暂停在短期内可能难以实现。

他提到RSI（递归自我改进）现象已经在整个AI行业内显露出端倪，甚至在Anthropic内部也开始显现。Amodei并不将RSI视为遥不可及的假设，而是表示“正在发生”的现实。这种用语值得关注，因为他并不是在暗示“可能”或“将来会”，而是在强调这种现象现阶段已经开始。

另外一项具体的预测显示，在未来6到12个月内，一个持久化的botnet可能会接管互联网，造成数千亿美元的损失。这是Amodei对于时间框架和损失规模的估计。

在三部分的计划中，Anthropic选择先执行第一步：向第三方评估者提供永久性、员工级别的访问权限。这一举动意味着外部评估者将不再仅仅接收到一次性报告或演示，而是能够像内部员工一样，持续观察模型和相关工作。这标志着透明度将从“阶段性披露”转变为“常态化开放”。

需要注意的是，尽管Amodei呼吁全球暂停，他仍自认这一目标难以在短期内实现。这种表态并非矛盾——他确实认为暂停的选项值得考虑，但现实情况是没有人会真正采取这一举动。因此，Anthropic选择先从自己能够控制的部分做起。

在对于是否应放慢进程的讨论中，支持放慢的人士指出，若RSI真的启动，能力的增长速度可能会远超评估速度，而后果显现时再进行调整将付出更高的代价。Amodei提到的botnet情景，正是这种逻辑的极端体现：6到12个月数千亿的潜在损失，表明他担心的并非只是渐进式的风险，而是突发性的巨大危机。

反对一方则质疑，如果只有部分公司减速，而其他公司继续快速发展，结果会如何？Amodei也承认，全球性的暂停在短期内不太可能实现，这恰恰成为反方的重要论据——单方面放慢的策略可能会将领先地位拱手让给那些不受约束的竞争者，而风险依然不会降低。

我认为，Amodei文章的真正重要性不在于“暂停”本身的提议，而在于他提供了一个可以实施的第一步，并且Anthropic真的付诸实践。向第三方评估者永久性提供员工级别的访问权限，是一个可验证的承诺。至于RSI是否确实在行业中存在，未来6到12个月内的预测是否准确，这些都需要来自Anthropic之外的更多信息来相互验证。

目前可以确认的是，一位前沿AI公司的首席执行官公然表示行业应当减速，同时承认自身公司已见RSI迹象，并承诺向外部评估者开放员工级访问权限，这三点结合起来，构成了值得持续关注的重要信号。