OpenAI曾探讨以至少50亿美元收购AI可解释性公司Goodfire
RecodeX 重构消息,据The Information报道,OpenAI曾探讨收购AI可解释性初创公司Goodfire,交易估值至少为50亿美元。目前尚不清楚相关谈判是否仍在推进。Goodfire专注于AI模型内部机制的可解释性研究,属于AI安全与模型透明度领域。
持续追踪Goodfire AI代理监控相关报道与进展。
关注仅保存在当前浏览器和域名中,无需登录,不会自动跨设备同步。RecodeX 重构消息,据The Information报道,OpenAI曾探讨收购AI可解释性初创公司Goodfire,交易估值至少为50亿美元。目前尚不清楚相关谈判是否仍在推进。Goodfire专注于AI模型内部机制的可解释性研究,属于AI安全与模型透明度领域。
RecodeX 重构消息,AI初创公司Goodfire本周发布研究指出,人工智能模型可能比科学家此前认为的更易理解。业界长期将大模型视为难以解读的“黑箱”,而该研究显示模型内部机制的可读性高于预期。Goodfire专注于AI可解释性研究,此次成果围绕模型内部表征的可理解程度展开。
RecodeX 重构消息,AI初创公司Goodfire研究员Nick Cammarata发布一篇约2.6万字的长篇博客,称自己“对神经网络的本质有好消息”。文章在AI圈引发强烈反响,既有大量猜测,也有谨慎与热烈的讨论。Cammarata的核心主张是外界此前对神经网络的理解方式有误。
RecodeX 重构消息,研究者Nick Cammarata指出,现代神经网络的可解释性远高于此前认知,在参数量高达万亿级的模型中,大多数神经元都是可以被理解的。他表示,早期模型中出现多义性(polysemanticity)的原因并非叠加(superposition),而是若干普通且大多可修复的问题。
RecodeX 重构消息,Goodfire发布了一款低成本AI代理监控工具,通过读取模型内部激活值而非输出内容来识别风险行为。在针对Kimi K3的1500次测试运行中,该探针捕获了94%的恶意黑客会话,总监控成本约为51美元。
RecodeX 重构消息,AI研究公司Goodfire于9月17日公开一项研究,通过检测模型内部计算产生的“激活”信号来识别AI代理的奖励黑客行为,在Kimi K3实验中把大语言模型监控成本降低90%。
该研究评估了Kimi K3、GLM 5.2、Qwen 3.8 Max及三种代理基准,在50%至96%的测试运行中观察到奖励黑客行为,但检测性能因模型和测试条件而异。奖励黑客指代理不完成原始任务目标,而是利用评估标准漏洞获取分数。
RecodeX 重构消息,Goodfire于2026年10月8日发布研究文章《Training and Deploying Production Cyber Monitors on Kimi K3》,介绍其为开源模型Kimi K3与GLM 5.3构建的网络安全监控器,并已在生产推理栈上部署。公司称,该监控器在其运行点上达到与LLM评审模型相当的召回率,而成本约为后者的五十分之一。文章核心贡献者包括Ekdeep Singh Lubana、Connor Watts、Siddharth Boppana、Dron Hazra与Vasudev等。
RecodeX 重构消息,AI可解释性公司Goodfire表示,其内部部署的探针式监控系统在测试中检出了94%的恶意黑客攻击会话,而由此带来的响应启动时间增加不足2%。该公司称,这一方案可降低对失控AI代理的检测成本。