helix
企业级私有 AI Agent 平台,支持多模型(GPT/Claude/Gemini)统一管理,Docker 一键部署,DRM 虚拟化 GPU 隔离,RAG + 代码语义搜索
加载项目详情…
本应用为开源项目,仅供学习研究,请遵守其开源协议。
企业级私有 AI Agent 平台,支持多模型(GPT/Claude/Gemini)统一管理,Docker 一键部署,DRM 虚拟化 GPU 隔离,RAG + 代码语义搜索
加载项目详情…
本应用为开源项目,仅供学习研究,请遵守其开源协议。
图1:HelixML 平台 Logo
当你在内部部署 GPT-4、Claude 或开源模型(如 Qwen、GLM)时,是否遇到过这些问题:
痛点一:数据安全红线。 企业文档上传到第三方 AI API服务商,等于数据出境。金融、医疗、法律等行业监管严格,根本无法将敏感数据发给外部服务器。传统解决方案要么自建 LLM 全套基础设施(成本高、门槛高),要么放弃 AI 能力。
痛点二:GPU 资源利用率低。 企业购买一块 A100/H100 显卡,往往只能给一个模型独占使用。大多数时候 GPU 空闲,成本摊不下来。
痛点三:多模型接入繁琐。 企业可能同时使用 OpenAI GPT、Anthropic Claude、智谱 GLM、火山引擎 Kimi 等多个模型,每个 API 对接方式不同,管理成本极高。
HelixML 就是来解决这三个问题的。它由 HelixML, Inc. 开发,定位是企业级私有 AI Agent 平台,目标是在企业自己的数据中心或 VPC 内完成 AI 应用的部署和运行。
1. AI Agent 与会话管理
HelixML 提供 Web UI 界面,用户可以直接创建、配置和与 AI Agent 对话。每个 Agent 有独立的会话管理能力,支持多轮对话、暂停/恢复上下文。Agent 之间资源隔离——每个 Agent 可以拥有自己独立的 GPU 加速桌面环境(通过 DRD/DRM 虚拟化实现)。
这种「每个 Agent 有独立 GPU 桌面」的架构非常有意思。传统 Agent 系统中,所有 Agent 共享底层 GPU 资源,容易产生资源争抢。HelixML 通过 DRM(Direct Rendering Manager)和 Chrome/Rod(无头浏览器自动化)实现容器级别的 GPU 虚拟化,每个 Agent 会话运行在独立的环境中,保证了隔离性和稳定性。
2. Skills & Tools 工具生态
HelixML 的 Agent 能力通过 Skills → Tools 两层结构组织:
这意味着开发者可以用 YAML 配置文件(helix.yaml)声明式地定义 Agent 的能力,而不需要写大量胶水代码。平台内置了对 OpenAPI Schema、MCP(Model Context Protocol)Server 和 GPTScript 的支持,扩展性很强。
3. 知识库与 RAG 流水线
HelixML 内置了完整的 RAG(检索增强生成)能力:
这意味着企业可以直接上传内部知识库文档,几分钟内就能构建一个支持自然语言查询的智能客服或知识问答系统。
4. 追踪与可观测性
HelixML 提供完整的执行链路追踪(Tracing)功能。在 Agent 运行时,可以查看每一个 LLM 调用、第三方 API 请求、MCP 交互的详细输入输出。这对于调试复杂 Agent 流程、审计 AI 决策过程至关重要。
5. 企业级扩展能力
HelixML 采用成熟的多层微服务架构:
后端(Go 1.25):主控制平面用 Go 编写,模块划分清晰:
api/cmd/helix:主服务入口,处理 API 路由api/pkg/agent:Agent 核心逻辑、状态机、工具编排api/pkg/inferenceproxy:统一推理代理,屏蔽不同 LLM 提供商的 API 差异api/pkg/inferencerouter:智能路由,根据模型类型和负载分配请求api/pkg/gpudetect:GPU 资源检测和调度api/pkg/hydra:Docker 隔离沙箱管理(每个 Agent 独立 dockerd)api/pkg/dataprep:文档解析和数据预处理api/pkg/desktop:GPU 虚拟桌面管理api/pkg/external-agent:外部 Agent 集成(Code Agent / AI IDE)api/pkg/goose:Goose AI CLI Agent 集成依赖管理使用 go.mod,大量引入 LangChain Go、Anthropic/OpenAI SDK 等成熟库,体现了项目对稳定性的追求。
前端(React 18 + TypeScript):使用 Material-UI (MUI) 组件库和 MobX 状态管理,配合 Monaco Editor(代码编辑器),构建现代化的 Web 管理界面。
数据库:PostgreSQL 12 + PGVector 向量扩展 + Kodit(专用向量数据库),关系型数据与向量数据共存,统一管理。
推理层:支持 OpenAI、Anthropic (Claude)、Google Gemini、火山引擎 Kimi、阿里 Qwen、Together AI 等多提供商,统一为 OpenAI-compatible API 接口(HTTPS),降低了多模型接入的复杂度。
HelixML 提供了极为友好的部署体验:
Docker 一键部署(推荐):
curl -sL -O https://get.helixml.tech/install.sh
chmod +x install.sh
sudo ./install.sh
安装脚本会自动拉取 Docker 镜像、配置环境变量、启动所有服务。默认访问地址 http://localhost:8080。
docker-compose.yaml 包含 6 个核心服务:
api:主控制平面(ghcr.io/helixml/controlplane 镜像)postgres:PostgreSQL 12,数据持久化vectorchord-kodit:PGVector + Kodit,向量数据库searxng:元搜索引擎,支持网页内容抓取chrome:Go-Rod 无头 Chrome,支持浏览器自动化工具环境变量配置通过 .env 文件管理,支持 OpenAI API Key、Anthropic API Key、各云服务商凭证的分发。
Kubernetes 生产部署:通过 Helm Chart(charts/helix-controlplane、charts/helix-sandbox)支持生产级 K8s 部署,配合 Flux GitOps 工具,可实现声明式的基础设施管理。
GPU 调度:内置 GPU 检测模块 gpudetect,能感知系统可用 GPU,并通过智能调度器在多模型间动态分配显存资源。
许可限制:HelixML 采用类 Docker Desktop 许可证。允许个人使用、教育用途和年收入低于 1000 万美元、员工少于 250 人的小型企业免费使用。禁止用本项目构建竞争产品,商业大规模使用需购买许可证。
依赖云端 API:HelixML 虽然是私有部署平台,但推理层仍然依赖 OpenAI/Anthropic 等商业模型 API Key(除非自托管开源模型如 Llama)。企业需要承担这些 API 的调用费用。
硬件门槛:默认部署不需要本地 GPU(可使用云端 OpenAI 兼容 API),但如果要跑本地开源模型(Qwen、Llama 等),则需要 NVIDIA GPU + CUDA 环境,显存建议 8GB 以上。
复杂度:6 个 Docker 服务的生产部署,对运维团队有一定要求。虽然有 install.sh 一键脚本,但深度定制(LDAP 集成、多节点 GPU 调度等)需要参考文档手动配置。
HelixML 代表了 AI Agent 平台从「玩具级」向「生产级」演进的趋势。传统的开源 Agent 框架(如 LangChain、AutoGPT)功能强大但缺乏企业级治理能力;HelixML 通过多租户隔离、可观测性追踪、DRM 虚拟化 GPU 桌面等特性,填补了「私有化部署 + 企业级管控」这一空白。
其 helix.yaml 声明式配置文件的理念,降低了 AI Agent 的定义门槛,让非 AI 专家也能构建复杂的 Agent 工作流。配合 Kodit 的代码语义搜索能力,在软件开发辅助(Code Agent)场景中有独特优势。
总结:HelixML 是一个定位清晰、功能完整、工程质量高的企业私有 AI Agent 平台。适合需要数据主权保障、金融/医疗/法律等合规行业、以及有多模型管理需求的中大型企业使用。Docker 一键部署降低了上手门槛,但完整功能的生产部署仍需一定运维投入。