RecodeX 重构消息,OpenAI可解释团队创建人Nick Cammarata发布长文,提出神经网络内部结构远比此前认为的清晰。他重新检视视觉模型InceptionV1中“同一神经元既识别猫脸又识别汽车前脸”的经典案例,认为该神经元实际响应的是V形等跨类别形状规律,而非无关概念的混装。
他提出“递归泛化”解释神经元的多义性,并称在对Qwen3-32B的初步审查中,约90%的神经元正负极各有一项主要工作,约7%有两项相关工作,2%至4%尚未理解;在Kimi K3上得到相近结果,并做出已知首个万亿参数模型的归因图。团队还借助智能体检查了十万张归因图,通过生成新样本与反例来验证解释能否预测模型行为。