Anthropic 在招股书中警告其可能接近达成递归自我改进能力

Anthropic 在其最新的 S-1/A 招股书中警告，公司内部评估显示未来模型可能很快达到负责任扩展策略（RSP）中定义的递归自我改进（RSI）门槛，即利用 AI 加速研发可能导致能力跃升超过安全与对齐措施的跟进速度。文件同时澄清当前模型尚未跨过该阈值，并承诺在可预见的未来始终让人类参与研发流程，正考虑更新 RSP 以保持人类对前沿模型开发的控制。