new-api
统一管理100+大模型API,一键切换与成本管控的AI网关神器
加载项目详情…
本应用为开源项目,仅供学习研究,请遵守其开源协议。
统一管理100+大模型API,一键切换与成本管控的AI网关神器
加载项目详情…
本应用为开源项目,仅供学习研究,请遵守其开源协议。
如果你同时在用 OpenAI 的 GPT、Anthropic 的 Claude、Google 的 Gemini,还有国内的各种大模型,每家都有独立的 API Key、管理后台和计费体系——光是把这些密钥管理清楚就已经够头疼了,更别说还要在不同模型之间切换、做成本统计。New API 就是来解决这个问题的:它把所有主流大模型的 API 接口统一成一套标准,让你的应用只需要对接一个入口,就能调用几十甚至上百种大模型。
2023 年 ChatGPT 带火了大模型浪潮,此后一年多里,全球范围内涌现出几十家大模型服务商,每家都推出了自己的 API 接口和 SDK。然而这些接口互不兼容——OpenAI 用 OpenAI 格式,Claude 用 Anthropic 格式,Gemini 又是另一套标准。对于开发者来说,每接入一个新模型就意味着要重新写一遍调用代码、配置一套新的密钥管理。这种碎片化在个人开发者和小型团队中造成了严重的效率损耗。
New API 的作者(GitHub 用户 Calcium-Ion / QuantumNous)正是在这个背景下启动了项目。最初它只是一个简单的 OpenAI 兼容代理层,目的是让不支持 OpenAI API 格式的应用也能用上其他模型。随着接入的模型越来越多、功能不断丰富,项目逐渐演变成今天这个完整的 AI 资产管理系统。开源社区对它的认可也印证了需求的真实存在——Star 数突破 35,000,GitHub Trending 长期上榜,被 HelloGitHub 收录为推荐项目。
可以把 New API 理解成一个 AI 世界的万能插座转换器。就像出国旅行时需要一个电源转换插头一样,当你的应用需要调用不同品牌的大模型 API 时,New API 充当中间层,自动把请求从一种格式转换成另一种。你不需要关心底层是哪个模型,只需要用 OpenAI 的调用方式,就能实际调用 Claude、Gemini、DeepSeek,以及国内的上百种模型。
更进一步,这个插座还带了一个智能配电箱的功能——它能统计每个模型的使用量、计算成本、在某个模型不可用时自动切换到备用模型(fallback),以及生成详细的用量报表。对于同时管理多个 API 密钥的团队来说,这相当于把散落在各处的手动记录变成了一套自动化的运维系统。
New API 的功能可以分为三个层次来理解。
第一层:协议转换(核心能力)。New API 支持将请求转换成 OpenAI 兼容格式、Claude 兼容格式和 Gemini 兼容格式三种输出模式。这意味着它不仅能接收各种格式的请求,还能以各种格式输出给下游应用,实现了真正的双向兼容。在代码实现上,relay 目录下有 20 个文件专门处理不同模型的请求转发,其中 compatible_handler.go 处理通用兼容逻辑,claude_handler.go 和 gemini_handler.go 分别处理特定模型的格式转换,chat_completions_via_responses.go 则处理 Responses API 格式的兼容。
第二层:模型管理与渠道测试。New API 的管理后台(Web UI)提供了完整的模型管理界面,包括模型列表、渠道配置、价格设置和可用性测试。在最近的 v1.0.0-rc.3 版本中,团队还新增了模型排行榜功能,可以直观地看到每个模型的可用性和响应速度指标,帮助运维人员选择最优的模型路由路径。v1.0.0-rc.8 则进一步完善了渠道诊断工具,让测试 API 连通性的操作变得更加便利。
第三层:企业级功能。除了基础的 API 网关功能,New API 还内置了 OAuth 认证系统(oauth 目录)、计费系统(支持 Stripe 支付集成)、多租户管理和细粒度的用量统计。electron 目录的存在表明项目还有桌面客户端的规划,进一步拓展了使用场景。
从代码结构来看,New API 采用了标准的现代 Web 架构。后端使用 Go 语言编写,主要依赖 Gin Web 框架(github.com/gin-contrib/* 系列中间件),配合 AWS SDK(用于调用 Bedrock 等云端模型)。项目使用 Go 1.25.1 版本,标准化的 go.mod 依赖管理保证了构建的一致性。
前端使用 React 技术栈(web/default/ 目录包含 Vite 加 React 配置),通过 bun 作为包管理器和运行时。从 v1.0.0-rc.1 开始,项目启用了全新的 v1 前端界面,官方称之为更简洁、更快速、更强大的管理体验。同时保留了 classic 前端选项,方便老用户平滑过渡。
容器化方面,项目提供了完整的多阶段 Dockerfile(基于 oven/bun:1 构建前端,golang:alpine 或类似镜像运行后端),以及 docker-compose.yml 支持一键启动完整系统(包括 MySQL/PostgreSQL 数据库)。官方维护了 Docker Hub 镜像 calciumion/new-api:latest,部署门槛极低。
对于普通用户,最简单的上手方式是使用 Docker Compose。只需要三步:下载 docker-compose.yml 配置文件,执行 docker-compose up -d,然后访问 http://localhost:3000 即可打开管理后台。第一次使用时需要在后台配置上游 API Key(如 OpenAI、Claude 的密钥),然后就可以通过 New API 统一暴露的端点来调用这些模型了。
需要注意的是,项目在法律合规方面有明确的声明:使用者必须合法获取上游 API 服务权限,面向公众提供生成式 AI 服务时需要遵守所在司法管辖区的备案和监管要求。这些声明体现了项目团队对合规边界的清晰认知。
New API 采用 GNU AGPLv3 开源协议,这是一个相当严格的 copyleft 许可证。核心要求是:如果你对 New API 进行了修改并将其作为网络服务部署(即通过 API 向外部用户提供服务),你就必须开源你的修改版本。这对于希望将 New API 深度定制后对外提供商业 API 服务的企业来说,是一个必须认真评估的法律约束。
项目官方也意识到了这一点,提供了商业授权的联系方式(support@quantumnous.com),企业可以付费获取更宽松的许可证。此外,作为一个相对新兴的项目,New API 在大规模企业场景(如每日数亿次 API 调用)下的性能基准数据目前还比较有限,生产环境部署前建议进行充分的压力测试。
New API 的流行并非孤例。AI 网关(AI Gateway)正在成为 AI 应用基础设施中增长最快的细分赛道之一。ngrok 在 2026 年的一篇博客中专门讨论了这个趋势,指出随着 Agentic AI(自主代理型 AI)的兴起,单个用户请求可能触发几十次大模型调用,AI 网关需要处理的流量复杂度远超传统的 API 网关。New API 踩中的正是这个时间窗口——它不仅解决了 API 碎片化问题,还通过用量统计、成本管控和自动 fallback 等功能,填补了 AI 应用运维层面的空白。
从数据趋势来看,New API 的 Star 数从 2024 年的数千增长到如今的 35,000,持续的增长曲线说明市场需求的真实性和持续性。随着更多大模型服务商进入市场,类似的聚合网关工具的价值预计会继续放大。