JEPA表征学习研究

RecodeX 重构消息，图灵奖得主Yann LeCun与布朗大学助理教授Randall Balestriero联合发布新论文，在柏拉图表征假说基础上建立数学框架，证明按特定正样本关系训练的不同模态JEPA模型可学到能通过旋转变换相互对齐的世界表征。
实验显示，仅1.09亿参数的文本JEPA在跨模态表征对齐测试中超过Qwen2.5-72B、Llama-3-70B等大模型，且仅用2160万训练样本就达到下一Token预测模型9亿样本的表征对齐水平。研究还表明，可通过线性变换连接独立训练的视觉编码器与文本模型。
该研究延续LeCun长期坚持的JEPA世界模型路线，指出训练中让模型学习的信息关系比单纯增加数据量更重要。

RecodeX 重构消息，一项新研究提出以联合嵌入预测架构（JEPA）为工具，对柏拉图表征假说进行证明与改进。该假说认为不同模型在足够大的数据与规模下会收敛到相似的表征空间。研究围绕JEPA的预测式表征学习特性展开论证，并给出改进方向。