#549. AI 芯片究竟如何工作？GPU/TPU 的底层设计

跨国串门儿计划 · May 23, 2026 · 49m

📝 本期播客简介

本期我们克隆了：科技深度访谈播客《Dwarkesh Podcast》How do AI chips actually work? – Reiner Pope

本期节目是一场从芯片最底层一路搭到 AI 加速器架构的硬核技术对谈。主持人 Dwarkesh Patel 再次邀请 MatX CEO Reiner Pope，从最基础的 AND、OR、NOT 逻辑门开始，解释 AI 芯片究竟如何把矩阵乘法变成真实的电路结构。你将听到 multiply-accumulate 为什么是 AI 芯片的核心原语，full adder、mux、register file、systolic array、clock cycle、FPGA、ASIC、cache、scratch pad、GPU 与 TPU 这些概念之间到底如何相互连接。

这期节目最核心的问题是：在 AI 芯片里，真正昂贵的往往不是计算本身，而是数据移动、同步和通信。Reiner 用极其底层但清晰的方式解释，为什么低精度计算会带来平方级优势，为什么 tensor core / systolic array 能显著提升计算与通信的比例，为什么过快的 clock speed 反而可能伤害吞吐量，以及 GPU 和 TPU 的架构差异本质上是如何围绕矩阵乘法和数据搬运展开的。对于想理解 AI…