
「十个实验室九个在浪费算力」萨顿揭开行业不敢说的真相
在 Sequoia Capital 的访谈中,强化学习先驱理查德·萨顿与联合创始人胡拉姆·贾韦德,直指当前 AI 行业对算力、合成数据和大语言模型的盲目崇拜。他们认为,模型一旦部署后权重便被冻结,无法通过真实世界的持续互动学习,这与真正的智能相去甚远。 本期「AI快递」将深度解析两位研究者对持续学习、灾难性遗忘、监督学习和合成数据的批判,并介绍他们提出的持续反向传播,以及“万亿参数模型仅需二十瓦功耗”的激进愿景。 原视频链接: https://www.youtube.com/watch?v=xH7U7w9Qzlo 原视频标题:Rich Sutton and Khurram Javed: Why AI Models Stop Learning, and How to Start It Again 主要内容: • 为什么当前大语言模型并不具备真正意义上的持续学习能力 • 合成数据为何受制于人类认知边界,难以替代真实世界经验 • 自动驾驶仿真训练背后的人工修补,以及“从模拟到现实”的根本局限 • 监督学习为何只是智能的一小部分,松鼠如何通过互动展现复杂问题解决能力 • 持续反向传播如何缓解灾难性遗忘,并推动低功耗、持续进化的 AI 系统 • 为什么未来的智能可能不是单一全知模型,而是多个拥有独特经验流的独立系统 推荐理由: 这不仅是一场对主流 AI…
The skinny
The skinny isn't ready yet — notes appear once the transcript is processed.