RecodeX 重构消息,Yann LeCun团队提出一个仅1.09亿参数的小模型,在视觉对齐任务上的表现优于720亿参数的大语言模型。作者认为,差距源于训练结构而非模型规模:照片与配文这类优质视图所需的训练样本量,比下一词预测少42倍。目前尚无独立团队复现这一109M对72B的对比结果。
LeCun团队109M小模型视觉对齐表现优于72B大模型
AI 辅助判断积极仅供信息参考,不构成投资建议
原始信息来源Startupfortunestartupfortune.com
查看原文 ↗RecodeX 重构消息,Yann LeCun团队提出一个仅1.09亿参数的小模型,在视觉对齐任务上的表现优于720亿参数的大语言模型。作者认为,差距源于训练结构而非模型规模:照片与配文这类优质视图所需的训练样本量,比下一词预测少42倍。目前尚无独立团队复现这一109M对72B的对比结果。