NewAPI Gateway：AI 供应商聚合网关的隐形冠军

痛点故事：被"Token地狱"困住的 AI 开发者

想象这样一个场景：你同时在用 A 供应商的 GPT-4、B 供应商的 Claude-3、C 供应商的 Gemini 来做不同的业务。某天，A 供应商开始限流，B 供应商换了 API 域名，你只能连夜改代码。更糟糕的是——每个供应商都要单独配置一个 API Token，代码里到处都是硬编码的密钥，维护成本高得像无底洞。

NewAPI Gateway 正是为解决这个痛点而生。

项目背景：NewAPI 生态的"流量调度中心"

NewAPI（QuantumNous/new-api）是开源社区流行的多供应商聚合平台，允许用户通过单一接口调用不同 AI 服务商（如 OpenAI、Anthropic、硅基流动等）的模型。但当你在本地或私有化部署多个 NewAPI 实例时，管理仍然分散。

xxbbzy 开发者的 NewAPI Gateway 就是来解决这个"NewAPI 多实例管理"问题的——它将多个 NewAPI 实例再次聚合，用户只需要一个聚合 Token（ag-xxx 格式），系统自动选择最优路由。

项目于 2026 年 2 月 创建，采用 MIT 开源协议，Go 语言编写，主分支为 main。

核心功能：透明代理 + 智能路由

1. 单一 Token，调用所有供应商

用户创建一个聚合 Token 后，可以像普通 OpenAI API 一样调用：

curl https://your-gateway.com/v1/chat/completions \
  -H "Authorization: Bearer ag_xxxxx" \
  -d '{"model": "gpt-4o", "messages": [{"role":"user","content":"Hello"}]}'

系统自动将请求路由到配置好的供应商之一，上游供应商无法感知网关的存在（Header 清洗、UA 透传）。

2. 智能路由算法

支持三种路由策略：

• 优先级分层（Priority）：按供应商权重分层，先从高优先级层选
• 价值评分（Cost-Efficiency）：按"能力/价格"比值排序
• 健康调节（可选）：根据供应商最近可用性动态调整

3. 自动同步与签到

• 每 5 分钟自动从上游 NewAPI 实例同步定价、Token 列表、账户余额
• 支持为多个供应商配置自动签到（每日定时触发），无需手动操作
• 支持 SSE 流式响应代理

4. OpenAI 全面兼容

不仅是 /v1/chat/completions，还支持：

• /v1/completions、/v1/embeddings、/v1/images/generations
• /v1/audio/speech、/v1/audio/transcriptions
• Anthropic /v1/messages、Gemini /v1beta/models/*
• OpenAI Responses API /v1/responses、重排序 /v1/rerank

5. Web 管理面板

React 前端，内嵌在 Go 二进制中，提供：

• 仪表盘（供应商状态、余额概览）
• 供应商管理（添加/删除/同步）
• 聚合 Token 管理（白名单、过期时间）
• 调用日志查询

部署体验：一条命令搞定

Docker 预编译镜像开箱即用：

docker pull xxbbzy/newapi-gateway:latest
docker run -d --name newapi-gateway \
  --restart always \
  -p 3000:3000 \
  -v ./data:/data \
  xxbbzy/newapi-gateway:latest

访问 http://localhost:3000，初始账号 root / 123456。默认使用 SQLite，无需配置数据库；若需要 MySQL/PostgreSQL，通过环境变量 SQL_DRIVER + SQL_DSN 切换。

二进制镜像基于 多阶段构建（Node 20 编译前端 → Go 1.18 编译后端 → Alpine 精简运行时），最终镜像约 30MB。

技术架构

后端采用 Gin（Go Web 框架）+ GORM（ORM，支持 SQLite/MySQL/PostgreSQL），可选 Redis 用于分布式限流和 Session 存储。

目录结构清晰分层：

controller/  — HTTP 路由处理（Auth/Provider/Token/Route/Log）
service/     — 业务逻辑（路由、签到、同步）
model/       — 数据模型（Provider/Token/Route/User）
middleware/  — 中间件（CORS/Session/认证）
web/         — React 前端（Vite 构建）
common/      — 公共工具（版本、数据库初始化）

局限与注意事项

1. 不支持自动计费：网关仅做透明代理，不涉及账户余额扣费逻辑
2. 不支持国内供应商直接对接：需要供应商先部署 NewAPI 并提供 Access Token
3. 无 docker-compose：官方仅提供单一容器镜像，多实例编排需自行处理
4. 默认密码强度低：生产环境务必修改 root 账号密码
5. 文档以中文为主：英文文档存在但内容不如中文完整

行业意义

随着 AI 模型供应商越来越多，"供应商锁定"是开发者的核心痛点之一。NewAPI Gateway 通过透明代理 + 智能路由，让开发者可以用统一接口访问多个 AI 服务商，同时保持对单个供应商的精细控制能力。在 AI 应用开发、私有化部署场景中具有较高实用价值。

相比商业方案（如 One API、NewAPI 本身），它的独特优势在于真正的透明代理（上游无感知）和多层级路由策略，更适合对成本敏感、需要精细化流量分配的团队。