apisix
云原生高性能 API 网关 + AI Gateway，支持大模型流量路由与 MCP 协议桥接
加载项目详情…
本应用为开源项目，仅供学习研究，请遵守其开源协议。
微信扫码咨询客服
POMOAI — 让开源 AI 即刻运行
云原生高性能 API 网关 + AI Gateway，支持大模型流量路由与 MCP 协议桥接
加载项目详情…
本应用为开源项目，仅供学习研究，请遵守其开源协议。
凌晨两点，某电商平台的推荐系统突然"失语"——所有 AI 推理请求全部超时。SRE 团队排查后发现：流量洪峰来临时，没有一个统一入口来管理、分流和保障 AI 请求的可靠性。这不是某个 AI 模型的问题，而是 API 网关层的缺失。
Apache APISIX 正是为解决这类问题而生的。作为云原生时代的流量入口，APISIX 不仅处理传统的南北向 API 流量，更在 AI 时代演进为 AI Gateway，成为大模型请求的智能调度中心。
Apache APISIX 由 API7 公司（深圳支流科技）于 2019 年捐献给 Apache 软件基金会，是 Apache 顶级项目之一。它的核心开发者同时维护着另一款知名产品 Kong——这也解释了 APISIX 为什么在架构上与 Kong 有相似之处，但选择了更现代的技术栈：基于 OpenResty（LuaJIT）而非 Java，在性能上有数量级优势。
经过多年发展，APISIX 已经从单一的 API 网关演变为覆盖 API 管理、AI Gateway、Kubernetes Ingress Controller 三大场景的综合平台，在全球拥有超过 16,000 颗星标、2,800+ 次 Fork，被包括 NASA、Apache 基金会、腾讯云、网易等知名组织采用。
图1：APISIX 整体架构图（来源：官方文档）
APISIX 的高性能源于其底层架构。它构建在 NGINX 之上，但通过 Apache APISIX 自研的 HTTP 服务器替代了 NGINX 原生配置层，用 Lua 脚本实现动态配置——这意味着路由规则、热更新、插件启停都不需要 reload NGINX 进程，在零停机的条件下完成所有操作。
类比理解：如果把 NGINX 看作一台需要重启才能换挡的老式汽车，APISIX 就是在不熄火的情况下实时切换驾驶模式。
APISIX 的插件系统是其最强大的扩展机制。项目内置了超过 130 个官方插件，覆盖认证（JWT、Key Auth、OAuth2）、限流限速（rate-limit、limit-req）、可观测性（prometheus、skywalking、zipkin）、安全（WAF）等传统网关功能，以及专门为 AI 场景设计的插件群。
APISIX 对 AI 场景的支持并非后期叠加，而是系统性地设计了完整的 AI 流量管理层：
ai-proxy 插件 是 AI Gateway 的核心。它简化了对主流大模型 API 的访问，支持 OpenAI、DeepSeek、Azure OpenAI、Anthropic Claude、OpenRouter、Google Gemini、Amazon Bedrock 等十余家提供商。只需在配置文件中指定 provider 和模型名称，APISIX 自动完成请求格式转换（将内部请求映射为各 provider 的 API 规范），让业务代码无需感知 provider 差异。
mcp-bridge 插件 则连接了 AI Agent 与传统服务。项目声称可以用它"将基于 stdio 的 MCP 服务器无缝转换为可扩展的 HTTP SSE 服务"。MCP（Model Context Protocol）是 Anthropic 主导的 AI Agent 通信协议，APISIX 对此的支持意味着它可以作为企业级 AI 基础设施的南北向桥梁。
此外还有针对 AI 场景的专用插件：ai-prompt-decorator（Prompt 模板装饰器）、ai-prompt-guard（Prompt 安全过滤）、ai-prompt-template（动态 Prompt 管理）、ai-rag（检索增强生成代理）、ai-rate-limiting（Token 级别限流）、ai-aws-content-moderation / ai-aliyun-content-moderation（多厂商内容审核）、ai-transport（AI 请求传输层）等。
图2：APISIX 请求处理流程（来源：官方文档）
APISIX 作为一个专业级网关软件，部署门槛客观存在。核心部署依赖 OpenResty（≥1.19.3.2）和 etcd（≥3.4.0），需要理解路由、上游（Upstream）、插件等核心概念才能有效使用。对于完全不了解 API 网关概念的用户，有一定的学习曲线。
好消息是 APISIX 提供了多种部署选择：.devcontainer 支持在 VSCode Dev Container 中一键启动开发环境；有独立的 apisix-docker 仓库提供容器化部署方案；支持作为 Kubernetes Ingress Controller 运行，适合云原生环境。对于只是想快速体验的用户，可以用 Docker 方式在几分钟内搭建一个可用的网关实例。
关于 Web 管理界面：APISIX 核心本身不带 Web UI，但提供了独立的 apisix-dashboard（1,187 星标）项目，提供图形化管理界面，可视化配置路由、插件、上游等资源。
图3：APISIX Dashboard 管理界面（来源：apache/apisix-dashboard）
APISIX 的 Lua 架构带来了极致性能，但也带来了一些限制。由于插件必须用 Lua 编写（或者通过 FFI 调用 Python/Go），对于习惯使用 Python 生态机器学习工具的团队而言，这意味着在 APISIX 层面上无法直接集成 PyTorch、TensorFlow 等 Python ML 框架。所有 AI 处理仍然发生在后端 AI 服务中，APISIX 只负责请求路由、负载均衡和安全防护。
此外，APISIX 社区虽然活跃，但中文文档质量与英文文档存在一定落差，部分高级功能（如 MCP Bridge、AI Transport 等新插件）的文档仍在完善中。生产环境部署需要投入时间深入学习其配置体系。
APISIX 的演进轨迹映射了整个行业对 AI 基础设施认知的升级。最初，网关解决的是"如何管理 API 流量"；现在，随着 LLM API 调用成本飙升、AI Agent 需要稳定的 MCP 连接，APISIX 将自己定位为"AI 时代的流量入口"，这一定位在同类型产品中具有前瞻性。
从 CNCF Landscape 的位置来看，APISIX 已从云原生时代的基础设施，进化为 AI 时代的关键组件。对于正在构建 AI Agent 系统、需要管理多个 AI Provider 流量、或希望为内部 AI 服务提供统一入口的开发团队，APISIX 是一个值得认真考虑的选择。