对比
AI Cost Gate vs LiteLLM
AI Cost Gate（CostBrake）是面向 Agent 的本地优先 LLM 成本网关——归因、预算与自动停止。LiteLLM 是常见的多供应商 LLM 代理与路由层。两者解决不同工作，常可一起使用。
当 Agent 集群开始烧钱时，团队常搜索“LLM 成本控制”或“LiteLLM 替代”。这两种工具解决不同工作。LiteLLM 擅长统一供应商 API、路由与跨 OpenAI、Anthropic、Google 等的负载均衡。
AI Cost Gate 在另一层：按项目、Agent、模型归因每次请求，把成本元数据存在本地（SQLite 或 Postgres），并在触及预算阈值时拦截下一次调用。设计上提示词不必离开本机——仅元数据。
你可以一起用。许多栈用 LiteLLM（或其他网关）做路由，用 AI Cost Gate 做花费可见性与硬预算强制。若成本控制是主需求，也可单独跑 ACG。
为成本评估“LiteLLM 替代”时，先问你需要路由、闸门，还是两者。没有预算的路由仍允许单个 Agent 耗尽一把 Key。没有路由的闸门在你只打一家供应商或已有路由器时仍然成立。
运营上，ACG Pro 是一次性源码购买：结账后获得私有 GitHub 访问并部署在 Agent 旁。成本层没有强制控制面订阅。这匹配已自托管网关、拒绝再买一份月度计量账单的团队。
若安全评审问提示词去哪，说明 ACG 面向元数据日志，并确认部署设置符合该姿态。若问花费如何停下，写清预算粒度、错误行为与谁能上调限额。
实用决策树：若复盘总以“账单后才在日志里看到”收尾，你需要闸门。若痛点是“无法用一个 SDK 打 Anthropic 和 OpenAI”，你需要路由器。两者都痛就都跑，并为每层明确归属。
身份是共享依赖。剥离项目/Agent 头的路由器会破坏分摊。从未收到身份的闸门会塌成全公司桶。设计跳顺序，让标签从 Agent 存活到账本。
更深 FinOps 实践读 LLM 成本控制支柱；遏制手册读失控成本指南；预算设计读 Agent 预算；自托管姿态读本地优先 LLM 网关。
成本模型也帮助采购：LiteLLM 的价值常以节省工程时间衡量；AI Cost Gate 的价值以循环失控后少花的钱与可审计性衡量。KPI 不同，采购理由不同。
迁移路径：若 LiteLLM 已可用就保留；先对单个吵闹 Agent 引入 AI Cost Gate。用故意的极小预算证明自动停止，再扩大。不要为了“换成 ACG”拆掉可用路由器——ACG 不是路由替代品。
看功能矩阵时，拒绝忽略失败模式的二元“赢家”表。正确矩阵问：谁拥有路由、谁拥有预算、提示词在哪、触及阈值后下一次调用会发生什么。答完这四个，选型通常就清楚了。
支持与社区面也不同。LiteLLM 有大型开源社区与大量代理部署配方。AI Cost Gate 买家通常评估 Pro 交付、自托管文档，以及预算自动停止是否匹配事故史。把社区规模与你的失败模式（路由还是遏制）一起权衡。
最后写一份架构决策记录：首选跳顺序、必需身份头、预算负责人、何时升级限额。把该 ADR 链到本对比页与四篇 ACG 指南，让人与爬虫对齐同一叙事。
| 维度 | AI Cost Gate | LiteLLM |
|---|---|---|
| 核心职责 | 本地成本黑箱：归因 + 预算 + 自动停止 | 多供应商 LLM 代理、路由与负载均衡 |
| 成本控制 | 按项目/代理/模型追踪；预算到达即硬停止 | 用量/日志集成；并非专为代理预算闸门设计 |
| 数据姿态 | 默认仅元数据；提示词留在你这边 | 作为代理路径可能看到完整请求载荷（取决于部署） |
| 部署方式 | 自托管 Pro 源码；SQLite 或 Postgres | 开源代理；云端或自托管 |
| 更适合何时 | 需要在账单飙升前做代理感知的成本闸门 | 需要跨多家供应商的统一 OpenAI 兼容入口 |
常见问题
AI Cost Gate 是 LiteLLM 的替代品吗？
不是。AI Cost Gate 不是 LiteLLM 的即插即用替代。LiteLLM 侧重多供应商路由与统一 API；AI Cost Gate 侧重面向代理的本地 LLM 成本控制：按项目/代理/模型归因，以及预算自动停止失控消费。成本闸门选 ACG，供应商路由选 LiteLLM——也可以两者并用。
AI Cost Gate 如何帮助做 LLM 成本控制？
AI Cost Gate 记录逐请求成本元数据，并在下一次供应商调用前执行预算。这为编程代理与自动化集群提供本地优先的控制点，而不必等发票到了再靠表格事后复盘。
可以和 LiteLLM 一起用吗？
可以。常见做法是 LiteLLM 负责供应商路由，AI Cost Gate 负责花费归因与预算自动停止。ACG Pro 为一次性源码许可，你可在现有网关旁自托管成本层。
何时该选 AI Cost Gate，而不是给 LiteLLM 加更多日志？
当你需要硬预算执行，以及在本地数据存储中的 Agent 感知归因时，选 AI Cost Gate。额外的 LiteLLM 日志提升可见性，但本身不会在美元阈值自动熔断失控 Agent。若事故复盘总以「账单后才在日志里看到」结束，你需要闸门，而不只是记录器。
AI Cost Gate 会替换我现有的 OpenAI 兼容代理吗？
不一定。若代理已统一供应商，可保留它，并把 ACG 放在需要成本闸门的位置——常作为 Agent 调用的 base_url，代理在下游，或相反，取决于身份传递。产品决策关乎成本控制职责，而不是删除正在工作的路由器。
AI Cost Gate 应放在 LiteLLM 前还是后？
只要身份标签能存活，两种都行。常见模式是 Agent → AI Cost Gate（预算+归因）→ LiteLLM（路由）→ 供应商。若路由器已拥有 base_url 并能把项目/Agent 元数据转发给 ACG，反过来也可以。选择能保留标签与失败关闭预算错误的顺序。
LiteLLM 日志能替代 AI Cost Gate 预算吗？
不能。日志提升可见性，本身不会在美元阈值拒绝下一次供应商调用。若需要对失控 Agent 硬停，除了 LiteLLM 日志，还需要像 AI Cost Gate 这样的预算闸门。
AI Cost Gate 像 LiteLLM 一样开源吗？
AI Cost Gate Pro 以一次性源码许可交付供购买后自托管，不是托管计量订阅。LiteLLM 是流行的开源代理。许可模型不同；应按待办工作（闸门 vs 路由）比较，而不是只看“是否 OSS”。
若已运行 LiteLLM，我该先试什么？
保留 LiteLLM 做路由。为单个吵闹 Agent 或项目部署 AI Cost Gate，先观察模式，再用小预算硬停以证明遏制。仅在身份标签与错误处理正确后再扩大。该路径在验证闸门待办工作的同时最小化风险。
