
#356.AI硬件的未来:英伟达首席科学家Bill Dally的深度洞察
📝 本期播客简介
本期播客,我们克隆了伯克利的一期公开课 Bill Dally - Trends in Deep Learning Hardware
荣幸邀请到英伟达首席科学家兼研究高级副总裁、斯坦福大学客座教授Bill Dally。作为计算领域的泰斗,Bill Dally分享了他对深度学习硬件未来趋势的独到见解。他回顾了深度学习从算法萌芽到GPU引爆的历程,揭示了硬件性能提升的真正驱动力——从数值表示、复杂指令集到稀疏性利用,以及如何通过并行计算应对模型规模的爆炸式增长。Bill Dally还深入探讨了当前深度学习应用面临的挑战,如Agent模式、预填充与解码阶段的差异化需求、以及思维链推理对硬件提出的严苛要求。他展望了未来硬件设计方向,包括3D堆叠内存、优化的数值表示法、结构化稀疏性,并分享了他对通用加速器和超越CMOS技术范式的思考。
👨⚕️ 本期嘉宾
Bill Dally,英伟达首席科学家兼研究高级副总裁,斯坦福大学客座教授(曾任斯坦福计算机系主任)。他是美国国家工程院院士,电气电子工程师学会、计算机协会及美国艺术与科学学院会士,曾荣获伊丽莎白女王工程奖、本杰明·富兰克林奖等众多荣誉,在硬件和软件创新领域做出了卓越贡献。
⏱️ 时间戳
00:00 开场 & 嘉宾介绍
深度学习的崛起与硬件的推动
00:51…
The skinny
The skinny isn't ready yet — notes appear once the transcript is processed.