RecodeX 重构消息,前Anthropic研究员Jacob Coxon就人工智能的"近期未来"发出灭绝风险警告,其言论引发争议,既有反对也有支持。与此同时,Anthropic表态支持建立一种合法、可验证的AI发布节奏机制,围绕AI发展速度的争论进一步升温。
前Anthropic研究员警告AI近期灭绝风险 呼吁建立发布节奏机制
后续报道
前Anthropic研究员Jacob Coxon辞职并公开警告AI灭绝风险
RecodeX 重构消息,27岁的英国AI研究员Jacob Coxon宣布从Anthropic辞职。他此前先后在OpenAI和Anthropic从事大模型预训练工作,曾出现在GPT-4o官方贡献者名单中,并在GPT-4.5中被列为核心贡献者。 Coxon在X上发文称,OpenAI和Anthropic正朝着可自我改进的超级智能快速推进,并认为部分前沿AI从业者私下相信,一旦失控,人类可能在本十年结束前灭绝。Anthropic对齐负责人公开支持其说法,称十年内发生概率大于10%;另有Anthropic安全研究人员以个人身份表示支持,刚离职的可扩展监督负责人Joe Benton也称其对行业现状的描述准确。
前Anthropic研究员Coxon公开批评老东家推动RSI竞赛
RecodeX 重构消息,前Anthropic研究员Jacob Coxon公开表达了对Anthropic领导层的分歧。他表示,Anthropic在很大程度上发起了近期围绕递归自我改进(RSI)的竞赛,原因是其相信这一进程不可避免。Coxon此前因发布AI末日警告而受到广泛关注。