尽管Anthropic最新披露的财务数据显示收入飙升且支出增加，但其S-1A文件中的另一项声明更引人深思：这家AI实验室正逼近具备“递归自我改进”（RSI）能力的临界点。
RSI是指AI在自我训练方面表现出色，从而引发能力大幅加速的现象。对悲观者而言，这意味着AI可能脱离人类控制；对乐观者来说，这代表着生产力与科学发现的巨大潜力。Anthropic视其为机遇与风险并存，指出利用AI构建更强大的AI可能带来重大安全隐患，尤其是当进步速度大幅加快时。
可能即将满足RSI定义
此前，RSI常被视为炒作或难以实现的目标。但Anthropic在文件“风险因素”部分新增声明称，公司已利用AI开发新模型，且当时并未识别出这些模型的能力飞跃。文件强调：
我们越来越多地使用AI系统加速研发，这可能导致模型能力发展速度快于安全措施的实施速度。因此，我们过去未能识别，未来也可能无法在发展速率显著加速前识别出这种变化。
内部估计表明，我们可能即将满足《负责任扩展政策》中关于“归因于AI的大幅加速进步”的定义。目前尚未有任何当前模型被认定超过这一阈值，相关数据仍在评估中。
坚持人类监督
Anthropic明确表示，目前没有任何模型跨越RSI阈值，并承诺在可预见的未来保持人类在研发中的参与。即使技术上可行，公司也无法在没有有意义的人类监督下完全自主设计后续前沿模型。为此，Anthropic正考虑更新《负责任扩展政策》，以确保对前沿模型开发的人类控制权。
尽管怀疑论者认为此类披露带有营销色彩，但Claude在编码、数学和网络安全方面的能力今年确实实现了飞跃。若Anthropic认为RSI迫在眉睫，加强监管或许是必要的应对之策。