用 AI Cost Gate 阻止失控的 AI Agent 成本

Agent 会在工具错误时重试、把检索扩成整仓上下文、派生子 Agent，并在你睡觉时继续跑。与有人结束会话的聊天界面不同，Agent 运行时往往把每次失败当成再试一次的理由——还可能换更贵的模型或更长的提示。

常见爆炸包括无界工具循环、把整个单体仓塞进上下文、每一步默认用前沿模型，以及 CI 评测与生产 Agent 共用不受限 Key。这些模式都会在无人值守时成倍放大 token。

财务看到意外账单，工程看到绿灯 CI。在请求路径具备归因与预算之前，没有人真正拥有这笔花费。“任务成功”与“任务付得起”之间的缺口，正是失控成本藏身之处。

有用的心智模型是爆炸半径：一个配置错误的 Agent 在有人发现之前最多能花多少钱？如果答案是“直到供应商账单到来”，你就没有遏制，只有事后报告。

重试风暴：工具失败时每次都带着完整对话历史重新提示。没有重试预算和更便宜的回退模型，脆弱工具就会变成成本放大器。

上下文膨胀：检索每轮追加更多文件，或摘要从不压缩既有状态。上下文窗口单调增长，每步单价也随之上升。

扇出：规划 Agent 为每个任务派生 N 个 worker，各自使用前沿模型与全套工具。演示里很聪明的并行，通宵可能把花费乘以 N。

共享 Key：演示机器人、CI 评测与面向客户的 Agent 共用一把生产 Key。任一环节失控，爆炸半径就是整家公司额度，而不是单个项目预算。

静默升模：SDK 或路由在缺少钉死版本时默认切到更新、更贵的模型。团队以为自己在用中档模型，账单到来才发现前沿定价。

事后仪表盘能解释燃烧，却拦不住下一次调用。遏制意味着：当项目或 Agent 预算耗尽时，闸门能在供应商请求离开你的网络之前返回错误。

先观察计量一周，再软告警，再对最吵的 Agent 硬停止。把自动停止与运维手册配对：谁能上调预算、紧急审批如何走、被拦截时 Agent 应如何降级。

AI Cost Gate 正为此而生：本地元数据、按项目/Agent 归因，以及能自动停止失控花费的预算。它不是 LiteLLM 替代品——需要多供应商路由时用路由器，意外 Agent 账单才是失败模式时用成本闸门。

把闸门当成断路器，而不是表格。断路器有明确跳闸点、复位流程与遥测；成本闸门同样需要这套运维纪律。

把 Agent 指向 AI Cost Gate 提供的 OpenAI 兼容 base URL。每个请求带上项目、Agent 与模型身份，花费可归因，而不是倒进共享 Key 桶。

成本元数据落在你运维的 SQLite 或 Postgres 中。计量不必让提示词离开本机——默认仅元数据，这对拒绝新提示词处理方的安全评审很重要。

触及预算阈值时，闸门拒绝下一次供应商调用并返回清晰的预算超限错误。这就是可观测与遏制的差别：循环无法在你睡觉时继续烧钱。

渐进上线：观察 → 70–80% 告警 → 对最吵 Agent 硬停 → 再扩大范围。写清谁能上调限额，让自动停止减少事故而不是制造工单风暴。

更广的 FinOps 框架请读 LLM 成本控制支柱文。如何设上限请读 AI Agent 预算。自托管与提示词驻留请读本地优先 LLM 网关。已有代理时请对比 AI Cost Gate vs LiteLLM。

若你在意外账单后写事后复盘，把本文链为遏制手册，把预算指南链为预防清单。爬虫与读者都能受益于连贯主题图，而不是孤立落地页。