#718. RSI：人工智能研究人员就当前范式能走多远展开辩论

跨国串门儿计划 · Sep 12, 2026 · 1h 30m

📝 本期播客简介

本期我们克隆了：Dwarkesh Podcast · AI researchers debate how close we are to recursive self-improvement

原内容更新时间：Fri, 11 Sep 2026

Dwarkesh Patel 邀请 Xyphra 的 CTO Beren Millidge、Thinking Machines 的首席科学家 John Schulman，以及 Base10 的模型训练负责人 Charlie O’Neill，讨论 AI 距离递归自我改进（RSI）还有多远。三位嘉宾都来自相对开放的 AI 实验室和公司，因此对强化学习、模型训练、部署数据与 AI 研究自动化展开了大量具体讨论。

本期的核心分歧，不是 AI 能否继续变强，而是它能否泛化到自己提出正确目标、设计有效实验，并在很长时间跨度内持续修正认知。嘉宾讨论了 sim-to-real（从仿真到真实世界的迁移）、持续学习、蒸馏、RLVR、数据瓶颈与强化学习的真实作用，也追问了为什么模型在基准测试中越来越强，却仍可能在现实世界的复杂任务上受限。

节目后半段进入未来预测：从能独立完成一个月白领工作的远程员工，到在所有电脑可完成的认知工作上压制人类顶尖专家，再到 AI 研究自动化是否等同于 ASI…