对比
AI Cost Gate vs LiteLLM
LiteLLM 是常见的多供应商 LLM 代理与路由层；AI Cost Gate 是面向 AI 代理的本地成本黑箱——归因、预算，并在失控消费前自动停止。
当代理集群开始烧钱时，团队常会搜索「LLM 成本控制」或「LiteLLM 替代」。两者解决的问题不同。LiteLLM 擅长统一供应商 API、路由与负载均衡，覆盖 OpenAI、Anthropic、Google 等。
AI Cost Gate 处于另一层：按项目、代理与模型归因每一次请求，将成本元数据存于本地（SQLite 或 Postgres），并在预算阈值触发时拦截下一次调用。设计上只需元数据——提示词不必离开你的机器。
它们可以一起用：许多架构用 LiteLLM（或其他网关）做路由，再用 AI Cost Gate 做花费可见性与硬预算。若成本控制才是首要需求，也可以单独运行 ACG。
| 维度 | AI Cost Gate | LiteLLM |
|---|---|---|
| 核心职责 | 本地成本黑箱：归因 + 预算 + 自动停止 | 多供应商 LLM 代理、路由与负载均衡 |
| 成本控制 | 按项目/代理/模型追踪；预算到达即硬停止 | 用量/日志集成；并非专为代理预算闸门设计 |
| 数据姿态 | 默认仅元数据；提示词留在你这边 | 作为代理路径可能看到完整请求载荷（取决于部署） |
| 部署方式 | 自托管 Pro 源码；SQLite 或 Postgres | 开源代理；云端或自托管 |
| 更适合何时 | 需要在账单飙升前做代理感知的成本闸门 | 需要跨多家供应商的统一 OpenAI 兼容入口 |
常见问题
AI Cost Gate 是 LiteLLM 的替代品吗？
不是。AI Cost Gate 不是 LiteLLM 的即插即用替代。LiteLLM 侧重多供应商路由与统一 API；AI Cost Gate 侧重面向代理的本地 LLM 成本控制：按项目/代理/模型归因，以及预算自动停止失控消费。成本闸门选 ACG，供应商路由选 LiteLLM——也可以两者并用。
AI Cost Gate 如何帮助做 LLM 成本控制？
AI Cost Gate 记录逐请求成本元数据，并在下一次供应商调用前执行预算。这为编程代理与自动化集群提供本地优先的控制点，而不必等发票到了再靠表格事后复盘。
可以和 LiteLLM 一起用吗？
可以。常见做法是 LiteLLM 负责供应商路由，AI Cost Gate 负责花费归因与预算自动停止。ACG Pro 为一次性源码许可，你可在现有网关旁自托管成本层。
