#668.AI领域的下一个百倍增长：推理、网络与自我优化模型

跨国串门儿计划 · Aug 11, 2026 · 1h 36m

📝 本期播客简介

本期我们克隆了：知名 AI 工程播客 Latent Space Next 100x in AI: Inference, Networking, & Self-Optimizing Models — Philip Kiely & Ali Taha, Baseten

原内容更新时间：2026-08-03

本期节目由 Latent Space 主持人 swyx 与 Baseten 的资深推理工程师 Philip Kiely 和 Ali Taha 共同呈现，深入探讨了推理工程这一 AI 底层环节的实战内幕。节目围绕新模型发布后如何从“能跑”变成“跑得快又稳”展开，涉及量化、投机解码、模型并行等硬核话题，也聊到了模型自我优化这类前沿趋势。

对话从一次 20 万 token 的长查询如何被路由、缓存、预填充和解码开始，逐步拆解了推理服务商在支持新模型时面临的真实挑战。两位嘉宾不仅分享了 Baseten 在 GLM-5.2、Kimi K3 等模型上的优化实践，还大胆预测了 GPU 向 ASIC 演进、KV 缓存压缩、持续学习等未来方向。无论你是 AI 工程师、创业者还是对底层技术充满好奇的听众，这期节目都能让你对 AI 基础设施有全新的认识。

👨‍⚕️ 本期嘉宾

Philip Kiely 是 Baseten…