AxonHub：一把 SDK 通吃 100+ 模型的开源 AI 网关

图：AxonHub 系统控制台（来自项目仓库 docs/screenshots/axonhub-dashboard.png）

一、一个具体的场景

你的产品里同时有三种调用：老服务用 OpenAI SDK 调 GPT-4，新服务用 Anthropic SDK 调 Claude 3.5，另一个内部工具用 Gemini 格式调实验模型。

某天老板说：「GPT 太贵了，切换到 DeepSeek。」你发现改起来要动三个仓库、三套 SDK、还有各自的错误处理逻辑。

AxonHub 解决的正是这件事：不改一行代码，把 base_url 换成一个网关地址，剩下的事交给它。

二、它是什么

官方一句话："Open-source AI Gateway — Use any SDK to call 100+ LLMs. Built-in failover, load balancing, cost control & end-to-end tracing."

AxonHub 定位是协议翻译网关 + 运维控制面的双重角色：

• 协议翻译层：用 OpenAI SDK 发 Anthropic 格式请求，或用 Anthropic SDK 发 OpenAI 格式请求，网关双向转换
• 运维控制面：渠道管理、模型管理、定价、RBAC 权限、请求追踪、实时成本

它要解决的四个问题写得很直白：厂商锁定（Vendor lock-in）、集成复杂度、可观测性缺口、成本失控。

技术栈：Go 1.26 后端 + React/Vite 前端，Apache-2.0 协议，151 位贡献者。

三、一个类比：多语言翻译 + 电力调度中心

AxonHub 有两层身份。

第一层是翻译官：客户端说什么语，它就翻成供应商听得懂的方言。你永远用自己熟悉的那套 SDK。

第二层是电网调度中心：每个供应商是一条「渠道」，AxonHub 决定这一请求走哪条线路——按负载均衡、按健康度、按优先级。当某条线路故障，100 毫秒内自动切换到备用渠道；每条线路的用电量（token）实时计量并折算成钱。

翻译官只解决「说得通」，调度中心才解决「跑得稳、花得清」。

四、核心功能

功能	说明
Any SDK → Any Model	零代码改动切换供应商，一套 API 格式对接 10+ 家供应商
完整请求追踪	带线程感知的可观测性，完整请求时间线，Trace Viewer 可回放
企业级 RBAC	细粒度访问控制、用量配额、数据隔离
智能负载均衡	100ms 内自动故障转移，始终路由到最健康的渠道
实时成本追踪	逐请求成本拆解，输入、输出、缓存 token 分别计量

API 类型覆盖

文本生成、图像生成、Rerank、Embedding 均已完成，Realtime 仍在规划中。

支持的供应商

OpenAI、Anthropic、智谱 GLM、Moonshot Kimi、DeepSeek、字节豆包、Gemini、Fireworks（含 MiniMax-M2.5、GLM-5、Kimi K2.5）、Jina AI（Embedding/Rerank）、OpenRouter、NanoGPT、ZAI（图像生成）均已完成；AWS Bedrock 与 Google Cloud 的 Claude 接入处于测试中。

兼容性矩阵有意思：几乎每家供应商都同时兼容 OpenAI、Anthropic、Gemini 三种入站协议——入站协议和出站供应商是解耦的。

五、上手门槛

仓库提供了完整的 Dockerfile（多阶段构建：Node 22 构建前端 → Go 编译后端 → Alpine 运行，含非 root 用户 65532）和 docker-compose.yml。

生产部署的安全默认值做得相当讲究：

• PostgreSQL 与 AxonHub 服务均 read_only: true，cap_drop: ALL，no-new-privileges:true
• 容器以非 root 用户 65532 运行
• 默认只绑定宿主机回环地址 127.0.0.1:8090，公网暴露需显式设置 AXONHUB_BIND_ADDRESS
• 强制设置 DB_PASSWORD、AXONHUB_IMAGE、POSTGRES_IMAGE，生产环境建议用不可变 digest 而非 tag
• 资源限制默认 CPU 2.0 / 内存 1G / pids 256

Makefile 提供 make build（前后端一起构建）、make generate（生成 GraphQL 与 Ent 代码）、make build-openapi、测试与迁移等目标。

后端技术选型值得一提：Ent（ORM）+ gqlgen（GraphQL），存储层同时支持 SQLite（默认开箱即用）、PostgreSQL、MySQL，还有 Redis 缓存与 S3/WebDAV 兼容存储。

官方还提供了一个专门的部署 Skill 包（looplj/axonhub-skills/deploy-axonhub），README 直接说「Ask your agent to read and follow deploy-axonhub to deploy AxonHub」——让 Agent 按文档自动完成部署。

Web UI：完整控制台，截图覆盖系统 Dashboard、渠道管理、模型定价、模型列表、Trace Viewer、请求监控、用户与权限、使用日志、系统设置。官方还提供在线 demo（axonhub.onrender.com）。

硬件要求很低：CPU 1-2 核、内存 1GB 起、磁盘数 GB，不需要 GPU——它是网关不做推理。

六、争议与局限

默认分支是 unstable。 仓库的默认分支叫 unstable，不是 main。这意味着克隆下来的默认代码不一定是稳定版，部署时需要注意选择 tag 或 release。

Go 1.26 版本要求激进。 go.mod 声明 go 1.26.0 并启用 GOTOOLCHAIN=auto，会触发工具链自动下载，老版本构建环境需要额外准备。

赞助商内容占比不小。 README 顶部有 APIKEY.FUN、Infistar.cc 等 API 中转站的赞助商区块与专属折扣链接——不影响功能，但说明项目与 API 中转服务存在商业关联，评估数据流向时值得留意。

中文优先、英文文档略薄。 主 README 为中文（README.en-US.md 为英文版），docs 下有 en/ 与 zh/ 双语目录，整体质量不错但英文文档深度略逊。

功能仍有空缺。 Realtime API 尚未完成；AWS Bedrock 与 Google Cloud 渠道仍在测试中；SSE 相关的依赖校验脚本（verify-go-sse-dependency.sh）出现在 Dockerfile 构建步骤里，暗示流式支持经历过一轮调整。

国内供应商覆盖是优势也是限制。 智谱、Moonshot、豆包等国内模型支持很好，但部分海外小众供应商缺失。

七、行业意义

AI 网关是 2025-2026 年 AI 基础设施里最热的方向之一。OpenRouter 证明了「模型聚合 + 统一计费」的商业模式，LiteLLM 证明了「开源网关 + 企业功能」的路径可行，AxonHub 是中国团队在这个方向上给出的第三个答案，而且是唯一一个把「AI 开发平台」这个更大概念一起做出来的。

它的差异化不在于功能列表（追踪、成本、RBAC、负载均衡，别人也有），而在于执行质量：Ent + gqlgen 的强类型 GraphQL 后端、生产级 Docker 安全基线（read_only、cap_drop ALL、非 root、默认绑回环）、默认 SQLite 零依赖启动、多存储后端支持。这套东西拿进企业生产环境不需要大改。

另一个信号是它把 Agent 部署变成了 Skill：仓库配套 axonhub-skills 让 AI Agent 自己按文档完成部署。这个「用 Agent 部署 Agent 基础设施」的闭环，是 2026 年开源项目的新常态。

对团队的现实价值：一次部署，全公司统一模型入口——换供应商改配置不改代码，成本按请求拆到人、按项目、按键；对个人：本地 docker compose up 就有企业级 AI 网关 + 完整控制台 + 追踪界面。