共 2 篇
不神化也不贬低,从循环、工具、记忆三个零件讲清楚 AI Agent 的工程本质,以及它现在真正擅长和做不到的事。
拆开大模型推理的每一步——分词、前向计算、采样、KV 缓存,以及为什么首字延迟和吐字速度是两回事。