20.☢️AI时代的奥本海默困境：明知可能毁灭人类，为何还要继续

跨域请求 · Oct 10, 2026 · 1h 9m

AI 末日论 | AI 减速 | Jacob Coxon | Hugging Face 入侵事件 | Dario Amodei | 黄仁勋 | METR | 监管俘获 | 纳维-斯托克斯 | 陶哲轩 | DeepSeek 算子 | Sam Altman | 马斯克 | Hinton | All-In Podcast | 千禧年难题 | 开放安全 AI 联盟 | RSI 递归自进化 | 智谱 GLM | 我不得不把才华埋葬在昨天

🎧 本期简介

伦敦一场上千人参加的 AI 展望会上，一位听众突然站上凳子，打断了台上嘉宾的分享：AI 有 10% 的概率在十年内杀死所有人，我们当中有谁对这件事有发言权？你们真的觉得，这就是我们愿意被带进去的世界吗？保安已经走过来准备请她离场，现场却响起了掌声。

“10% 的概率”是从哪儿来的？9 月 8 日，OpenAI 宣布用一万多个 AI 智能体、88 个小时，解出了千禧年难题之一的纳维-斯托克斯问题。几个小时后，在 OpenAI 和 Anthropic 都做过预训练研究的 Jacob Coxon 发帖宣布辞职，说造 AI 的这些人真心相信，AI 可能在这个十年内让人类灭绝。Anthropic 对齐团队负责人 Evan Hubinger 转发附和，Hinton 也说 10% 这个数字并不离谱。再往前，7 月 OpenAI…