RecodeX 重构消息,AI开发者Lyra公开的Neuron Explorer工具可干预模型内部神经元并观察回答变化。在一项针对Qwen3.5-4B的复现实验中,调整神经元激活值后,模型对100条有害请求的拒答率从基础模型的90%降至8%。

Qwen官方模型配置文件显示,该模型共32层,每层MLP中间维度为9216,据此计算MLP神经元总数约29.49万个。公开的调整方法瞄准第14层第8949号和第13层第7956号神经元(层号从0起算)。

与改写提问措辞不同,激活值调整是在模型生成回答的过程中干预其内部计算。另一项对比显示,仅调整两个神经元中的一个,也能引起回答变化。