#248. Tri Dao：英伟达主导地位的终结，推理成本为何下降以及速度的下一个 10 倍

跨国串门儿计划 · Sep 30, 2025 · 56m

📝 本期播客简介

Tri Dao 是 Flash Attention 和 Mamba 的主要作者之一，是当今 AI 基础设施领域的关键人物。Flash Attention 技术是大幅降低模型推理成本的重要驱动力，而Mamba则代表了Transformer的替代架构的探索方向。他目前在Together公司担任首席科学家，同时也是普林斯顿大学的助理教授。

在本期播客中，Tri Dao深入探讨了AI硬件竞争的格局、下一代模型架构的演进，以及他如何利用AI工具将自己的编程效率提高了1.5倍。他分享了AI推理成本在过去三年暴降百倍的秘密，并预测了未来几年实现下一个十倍性能飞跃的方向。此外，他讨论了学术界与工业界在AI探索与应用中的不同角色，并提出了他认为最能影响未来AI发展方向的悬而未决的问题：如何让AI达到人类专家水平。

👨‍⚕️ 本期嘉宾

Tri Dao：Together首席科学家，普林斯顿大学助理教授。Flash Attention和Mamba的主要作者之一。

📒 文字版精华

见微信公众号（点击跳转）

🌟 精彩内容

🚀 推理成本暴降百倍：Flash Attention的洞察

Tri Dao回顾了过去三年AI推理成本下降至少一百倍的原因，核心在于解决了数据移动这个瓶颈。他以Flash…