【第751期】AgentSysBench：AI智能体又慢又贵的真相

Seventy3 · Oct 20, 2026 · 17m

今天的这篇的主题是： From LLM Inference to Agentic Workloads: Characterization and Implications for Serving Systems

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：eccstartup（加群/投稿论文）

Summary

智能体应用正在推动 AI 服务从孤立的模型推理转向长时间运行的工作负载，在这类工作负载中，大语言模型（LLM）需要协调工具、环境和持久化状态。然而，这些工作负载的系统行为——包括延迟、成本和瓶颈的产生位置——仍缺乏充分的刻画，导致服务系统不得不依赖针对传统推理构建的假设。我们提出了…