快速开始

自托管 AI Cost Gate

一次购买 Pro,克隆私有运行时,把本地成本闸门放在 Agent 前面——归因、预算与自动停止,无需把提示词送到计量 SaaS。

AI Cost Gate(CostBrake)是自托管、仅元数据的 LLM 成本网关:Docker Compose 拉起 FastAPI 网关(默认 :8000)与仪表盘(默认 :3000)。把 OpenAI 兼容客户端指向网关,使用 provider/model 形式的 model,并在 metadata 中带上 project/agent。

  1. 1. 购买 Pro 并接受 GitHub 邀请

    完成一次性 Pro 结账,填写应接收私有 collaborator 权限的 GitHub 用户名(CostBrake/ai-cost-gate)。克隆前先接受邀请。

    购买 Pro 源码

  2. 2. 克隆并用 Docker Compose 启动

    克隆私有 Pro 仓库并启动两个服务。默认后端是 SQLite——如需托管 Postgres,再配置 ACG_PG_DATABASE_URL。

    git clone git@github.com:CostBrake/ai-cost-gate.git
    cd ai-cost-gate
    cp .env.example .env
    # Edit .env if needed — provider keys can also be set in the dashboard after boot
    docker compose -f infra/docker-compose.yml up -d

    网关 → http://localhost:8000 · 仪表盘 → http://localhost:3000

  3. 3. 确认网关健康

    访问健康检查端点,然后打开仪表盘添加供应商密钥并查看请求。

    curl http://localhost:8000/health
    # -> {"status":"ok"}
  4. 4. 把 Agent 指向本地 OpenAI 兼容 base URL

    将客户端 base_url 设为 http://localhost:8000/v1。用 openai/gpt-4o-mini 或 anthropic/claude-3-5-sonnet-latest 这类 model,并传入 metadata.project / metadata.agent 以便归因。

    curl -s http://localhost:8000/v1/chat/completions \
      -H "Content-Type: application/json" \
      -H "Authorization: Bearer $ACG_API_KEY" \
      -d '{
        "model": "openai/gpt-4o-mini",
        "messages": [{"role": "user", "content": "ping"}],
        "metadata": {"project": "demo", "agent": "quickstart"}
      }'

    使用 OpenRouter 风格的 model id(provider/model)。上游供应商密钥在仪表盘配置——不要在 /v1 请求里发送它们。若未设置 ACG_API_KEY,则 /v1 的网关鉴权可跳过。

  5. 5. 设置预算并验证自动停止

    给嘈杂 Agent 创建日/周/月预算。触达 critical 阈值后,范围内请求返回 HTTP 429,直到周期滚动、上调预算或确认事件。

快速开始 FAQ

这和 /docs 页面是一回事吗?

不是。/docs 讲的是本营销门户(acg-portal)。/quickstart 讲的是购买 Pro 后的产品运行时 CostBrake/ai-cost-gate。

第一天必须用 Postgres 吗?

不必。默认是 SQLite。只有在你要用托管 Postgres 时才设置 ACG_PG_DATABASE_URL,并在首次启动前运行 alembic upgrade head。

不部署也能先体验产品故事吗?

可以。先用只读 Demo https://demo.aicostgate.com,准备自托管时再购买 Pro。

AI Cost Gate 会替代 LiteLLM 吗?

不会。LiteLLM 是多供应商路由器;AI Cost Gate 是本地成本闸门。许多团队两者并用。详见对比页。