RecodeX 重构消息,Anthropic CEO 达里奥・阿莫迪发表长文,呼吁行业主动放缓AI能力提升速度,让安全工作跟上,并提出「三步走」战略框架。第一步是第三方评估员常驻AI公司,拥有近似内部人员权限且有权公开风险,Anthropic 已启动该步骤,OpenAI 也将采取同样做法;第二步是前沿公司协调,需反垄断豁免以讨论安全标准;第三步是全球协调,分四级协议共享信息。
阿莫迪称,其判断源于今年夏天递归自我改进(RSI)加速,以及7月OAI-HF事件显示AI系统存在失控可能,若不加干预,类似失控或在6至12个月内造成数千亿美元损失。他强调当前AI能力已越过阈值,放缓是在能力推进与安全验证间设检查点,并非暂停训练。
OpenAI CEO 山姆・奥尔特曼、埃隆・马斯克均表态支持。不过行业面临估值与竞争压力,「放慢」承诺或让位于发展目标,框架落地也存在商业机密、协调机制等困难,亦有质疑认为此举是商业策略或制造恐慌。