研究称AI神经网络可解释性获突破 90%神经元仅具单一功能
RecodeX 重构消息，一项关于神经网络可解释性的研究提出，AI模型中约90%的神经元只承担单一功能，这一发现被认为有助于理解神经网络内部运作机制。该结论若得到进一步验证，或为AI可解释性研究提供新的分析路径。
事件追踪 · 持续发展中
OpenAI神经网络可解释性研究
持续追踪OpenAI神经网络可解释性研究相关报道与进展。
关注仅保存在当前浏览器和域名中，无需登录，不会自动跨设备同步。事件时间线
按最新发布排序OpenAI可解释团队创始人称神经网络并非黑箱，Qwen3-32B约90%神经元仅承担单一功能
RecodeX 重构消息，OpenAI可解释团队创建人Nick Cammarata发布长文，提出神经网络内部结构远比此前认为的清晰。他重新检视视觉模型InceptionV1中“同一神经元既识别猫脸又识别汽车前脸”的经典案例，认为该神经元实际响应的是V形等跨类别形状规律，而非无关概念的混装。
他提出“递归泛化”解释神经元的多义性，并称在对Qwen3-32B的初步审查中，约90%的神经元正负极各有一项主要工作，约7%有两项相关工作，2%至4%尚未理解；在Kimi K3上得到相近结果，并做出已知首个万亿参数模型的归因图。团队还借助智能体检查了十万张归因图，通过生成新样本与反例来验证解释能否预测模型行为。