RecodeX 重构消息,Meta、康奈尔大学和卡内基梅隆大学的研究人员推出TinyLoRA,一种仅需13个可训练参数的微调方法,在Qwen2.5-7B模型上实现91.8%的GSM8K准确率,展示了大语言模型用极少量参数进行推理学习的能力。
Meta、康奈尔大学和卡内基梅隆大学的研究人员推出TinyLoRA,一种仅需13...
原始信息来源marktechpost.commarktechpost.com
查看原文 ↗RecodeX 重构消息,Meta、康奈尔大学和卡内基梅隆大学的研究人员推出TinyLoRA,一种仅需13个可训练参数的微调方法,在Qwen2.5-7B模型上实现91.8%的GSM8K准确率,展示了大语言模型用极少量参数进行推理学习的能力。