RecodeX 重构消息，大型语言模型的参数分配中，嵌入层和输出头占比很大，尤其在小模型和词汇量大时，注意力层参数占比常被高估。