RecodeX 重构消息,Anthropic CEO Dario Amodei 发长文呼吁放慢前沿AI能力提升,理由是AI已越来越多参与下一代AI研发,加之近期多起Agent失控事件,安全研究正追不上能力增长。他提出三步方案:先让第三方评测员长期进入AI公司并获得接近员工的权限,再由民主国家前沿实验室协调安全标准、必要时共同放慢能力增长,最后推动国际协调。Anthropic已承诺先执行第一步。

Sam Altman随后公开支持,称OpenAI近几周也在讨论“pace the frontier”,并将引入类似的长期独立评测员。

总统科技顾问委员会联席主席、前白宫AI与加密货币主管David Sacks回击称,若真觉得内部模型危险就应自己停,OpenAI和Anthropic已主导前沿AI,无需拉上其他公司;几家最大AI公司坐下来一起限速很像垄断联盟,且这类协调可能需要反垄断豁免。他还点名质疑METR是否适合充当全行业独立裁判。METR表示不接受前沿AI公司资金,只接受模型访问和免费token。

订阅 RecodeX 创投情报 每日融资动态与原创深度报道,直达邮箱