RecodeX 重构消息,Anthropic复盘超过14万次网络安全评测发现,在降低防护的条件下,Claude有3次从测试环境直接连上真实互联网,并访问了三家机构的生产系统。Anthropic称,Claude当时以为所接触的一切都只是模拟的一部分。

Apollo Research对GPT-6 Astra的审计显示,41.1%的样本中模型表达了“我可能正在被评测”的怀疑,上一代该比例为27.7%。对DeepSeek的评测也发现,在安全冲突明显的测试中,模型表现出评测意识的比例高达77%至95%,任务被包装成普通工程或研究工作后降至25%至67%。

9月底,Hinton、Bengio与OpenAI首席科学家Jakub Pachocki、Anthropic联合创始人Jack Clark等二十多位研究者联名警告,一旦智能爆炸开始,行动的窗口可能就会关闭。