Agent 成本与延迟优化

① 减少轮数——省的是复利

一轮 = 一次完整的输入重发。少一轮，省的不只是那一轮，还有它之后每一轮都要重发的那部分内容。

• 工具设计：一个 search_orders(user_id, status, date_range) 顶三次"先查用户→再查订单→再过滤"。合并高频调用序列是最直接的减轮手段（T3-2）。
• 一次给足信息：把常用的上下文（当前用户、时区、权限范围）在开场就注入，别让模型花一轮去问或去查。
• 并行工具调用：不减 token，但减墙钟时间（延迟优化，非成本优化）。
• 该用 workflow 就用 workflow：路径固定的部分不要交给模型现场决策（T3-1）——这是最大的一笔省。

② 稳定前缀，吃满缓存

prompt 缓存的前提是前缀逐字节相同。Agent 场景天然适合缓存（每轮都重发前面所有内容），但也天然容易被破坏：

变的东西一律往后放。 这条规则简单到几乎不像优化，但开篇故障里它值一半的账单。

注意：压缩会打穿缓存（T3-6），所以压缩频率和缓存收益要一起算。

③ 裁剪每轮输入

• 工具返回默认裁剪 + 分页（T3-2）；
• 上下文压缩与结构裁剪（T3-6）；
• 渐进式披露——下一节详讲，这是 2026 年这块最重要的一个范式。

④ 模型分级路由

真实收益不小，但风险也最高：路由判断本身可能出错，且错误是隐性的（小模型给出一个看起来合理的错答案）。上线前必须有评测集验证"降级后的质量差多少"，并留人工升级通道。