LeCun团队用小模型挑战规模论
热点事件持续更新
LeCun团队用小模型挑战规模论
2 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Yann LeCun与布朗大学学者Randall Balestriero提出基于JEPA的Good Views训练方法，证明仅1.09亿参数的文本模型在跨模态表征对齐任务中可超越720亿参数的Qwen2.5，且仅需2160万样本即达传统方法9亿样本的效果。 研究指出，该方法通过特定正样本关系使不同模态模型学到可通过旋转变换对齐的统一表征空间，而主流下一Token预测采用的Bad Views可能限制对世界本质的理解。该结论基于论文中报告的表征对齐指标，尚未证实能提升通用智能表现。
AI 根据报道生成 · 59 分钟前更新
最新进展11月2日 15:42
LeCun团队提出JEPA训练方法，小模型在跨模态对齐上超越大模型事件进展
2 个进展
- 11月2日 15:42 · 1 篇报道LeCun团队提出JEPA训练方法实现跨模态对齐36氪：LeCun团队提出JEPA训练方法，小模型在跨模态对齐上超越大模型
- 11月2日 12:11 · 1 篇报道Yann LeCun 发布新论文挑战 Scaling Law36氪：Yann LeCun 发布新论文挑战模型规模论
报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- 36氪精选LeCun团队提出JEPA训练方法，小模型在跨模态对齐上超越大模型
Yann LeCun与合作者提出基于JEPA架构的Good Views训练方法，在跨模态表征对齐任务中，1.09亿参数模型的表现优于720亿参数的Qwen2.5，且达到相同效果所需的训练样本量降至1/42。研究证明，使用Good Views可使不同模态模型的表征通过旋转变换对齐，而主流的下一个token预测属于Bad Views，可能限制模型对世界本质的理解。
- 36氪Yann LeCun 发布新论文挑战模型规模论
Yann LeCun 与布朗大学学者 Randall Balestriero 共同发布论文《Proving and Improving the Platonic Representation Hypothesis with JEPAs》。
本事件热度走势
- 可比范围当前
- 10
- 可比范围峰值
- 1011月2日 16:00
- 近 24 小时变化
- –
02.557.510
13:0014:0015:0016:0017:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。