人工智能先驱 Yann LeCun 一直主张「生成式 AI 是一条死胡同,世界模型才是真的未来」。 他认为自回归生成有数学上的硬伤,文本承载不了人类的大部分知识,真正的推理也不是基于优化的推断,衡量智能的标准应该是学习新任务的速度,以及零样本应对全新环境的能力。 基于这种观点,LeCun 寻求的替代路线是世界模型 + JEPA,一套目标驱动型架构。最近他提交的一篇论文向着这个方向前进了一大步, 它从数学上论证了「next-token 预测路线效率低下」,还给出了自己的方法,用一个 1.09 亿参数的模型打败了 720 亿的 LLM。 一个只看图片的模型,
阅读更多