LeCun团队提出JEPA训练方法，小模型在跨模态对齐上超越大模型

Yann LeCun与合作者提出基于JEPA架构的Good Views训练方法，在跨模态表征对齐任务中，1.09亿参数模型的表现优于720亿参数的Qwen2.5，且达到相同效果所需的训练样本量降至1/42。研究证明，使用Good Views可使不同模态模型的表征通过旋转变换对齐，而主流的下一个token预测属于Bad Views，可能限制模型对世界本质的理解。