#778. Lenny｜Anthropic 可解释性研究员：看懂模型思考，识别安全风险

跨国串门儿计划 · Oct 19, 2026 · 59m

📝 本期播客简介

本期我们克隆了：Lenny's Podcast: Product | Career | Growth · Inside the black box of AI: How AI models actually think | Emmanuel Ameisen (Anthropic)

原内容更新时间：Sun, 18 Oct 2026

“能造出它们，不代表就理解它们。”在模型内部，一串看似随机的数字，可能藏着它对概念的表征、对后续内容的计划，甚至是它为什么会做出奇怪选择的线索。

Lenny Rachitsky 与 Anthropic 可解释性研究员 Emmanuel Ameisen，从模型如何训练、预测下一个 token，聊到它如何理解概念、提前规划，以及能力为何会平稳增长、却在跨过门槛后突然变得好用。两人还讨论了可解释性如何帮助检查模型是否真正按照预期行事，以及 AI 安全研究为何要认真对待技术持续进步的可能。

👤 本期嘉宾

Emmanuel Ameisen 是 Anthropic 的可解释性研究员，研究 Claude 等大语言模型的内部运作方式。加入 Anthropic 前，他曾在 Stripe 和 Insight 从事应用机器学习工作，也是《Building Machine Learning Powered…