LLMStack
无代码平台,通过可视化拖拽构建多Agent AI应用,支持多LLM链式调用和私有数据RAG检索
加载项目详情…
本应用为开源项目,仅供学习研究,请遵守其开源协议。
无代码平台,通过可视化拖拽构建多Agent AI应用,支持多LLM链式调用和私有数据RAG检索
加载项目详情…
本应用为开源项目,仅供学习研究,请遵守其开源协议。

图1:LLMStack 项目头像
想象一下:你的市场团队不需要等开发排期,自己就能搭一个 AI SDR(销售开发代表),自动生成个性化 Cold Email 和 LinkedIn 消息;你的投资团队自己配置一个 AI 研究分析师,输入公司名就能自动抓取财报和行业新闻,输出结构化的投资报告——而这一切都只需要拖拽配置,不需要写一行代码。
这就是 LLMStack 正在做的事情:一个开源的无代码平台,让任何人都能构建生成式 AI Agent、工作流和聊天机器人,把它们连接到你的数据和业务系统里。
大模型(LLM)的能力在 2023-2024 年突飞猛进,但把 AI 落地到真实业务流程中,依然是大多数企业的痛点。开发一个 AI 聊天机器人需要前端、后端、向量数据库、API 网关、RAG 检索、模型调度……光是技术选型就足以让非技术背景的业务负责人望而却步。
LLMStack 的核心价值主张很简单:降低 AI 应用开发门槛。它将上述所有技术细节封装成可视化的配置面板,用户通过拖拽节点、填写参数,就能组装出一个完整的 AI 应用。上线时间是几小时,而不是几个月。
LLMStack 支持将多个 LLM 串联成链(Chain)。这意味着你可以让 GPT-4 做规划、Claude 做执行、Llama 做检索——各模型分工协作,完成复杂任务。用户无需编写代码,只要在可视化编辑器里连接节点、配置提示词,就能实现多模型协作的 AI 应用。
LLMStack 内置完整的数据导入和处理管线,支持 CSV、TXT、PDF、DOCX、PPTX 等多种格式;数据源涵盖 Google Drive、Notion、网站爬取和直接上传。导入后,平台自动完成文本分块、向量化,并存入内置的 Weaviate 向量数据库。无需任何数据库知识,导入即检索。
平台的 Web UI 是核心产品亮点。用户通过拖拽节点构建 AI 链(AI Chain),每个节点可以是一个 LLM、一个工具(如网页搜索、Slack 消息发送)、或一个数据源。节点之间用连线表示数据流向,整个流程一目了然。
构建好的 AI 应用可以通过 HTTP API 暴露,供其他系统调用。更进一步,LLMStack 原生支持从 Slack 和 Discord 触发 AI 链——用户可以直接在企业 IM 里@机器人,实时获得 AI 响应。这意味着 LLMStack 可以无缝嵌入到现有的工作流中,而不是另起炉灶。
LLMStack 支持多组织(Organization)架构,每个组织下可以创建多个用户,不同组织的用户数据完全隔离。适合 SaaS 化部署场景,也适合大型企业内部分部门使用。
LLMStack 提供两种部署方式:一是 pip install + 一条命令启动(pip install llmstack && llmstack),系统自动在 ~/.llmstack/ 创建配置,打开浏览器访问 localhost:3000 即可使用;二是 Docker Compose 一键部署,包含 API 服务、前端 Nginx、PostgreSQL(持久化数据)、Redis(任务队列)和 Weaviate(向量数据库),一条 docker compose up 拉起完整生产级服务栈。
LLMStack 采用 Django +Channels(WebSocket)+ Redis + PostgreSQL 的标准现代 Web 架构。
docker-compose.yml 中配置),支持 OpenAI Embeddings 向量化llama-index-core、llama-index-readers-file、llama-index-vector-stores-chroma 等),支持结构化文档解析项目使用 Poetry 管理 Python 依赖,共分为 6 个依赖组:基础运行时(server)、处理器(processors,用于 AI 工具调用)、数据处理(data,LlamaIndex + 向量数据库)、可选的 FAISS 索引支持、以及网络设备集成(networking,可选)。
pip 安装方式是用户体验最友好的路径:pip install llmstack && llmstack,系统自动初始化配置并打开浏览器。需要注意的是,LLMStack 依赖 Docker 后台容器来执行任务(通过 python-on-whales 调用 Docker API),所以必须确保本地已安装 Docker。
Docker Compose 方式适合生产部署,一次性拉起所有依赖服务,数据持久化到宿主机 volumes。不过完整启动依赖较多镜像,首次部署需要下载约数 GB 镜像资源,建议在网络条件良好的环境下操作。
默认管理员账号为 admin / promptly,首次登录后务必从管理面板修改密码。首次使用需要配置 LLM API Key(支持 OpenAI、Cohere、Stability 等),可以在 Settings 页面逐用户配置,也可以通过 ~/.llmstack/config 文件为所有用户设置默认 Key。
适合的场景:内部工具搭建(RPA 自动化、研究报告生成)、客服机器人、数据分析助手、企业知识库问答、多模型协同应用。
局限之处:作为无代码平台,灵活性受限于内置节点类型,复杂的定制化逻辑(如自研模型接入、特殊业务流程)仍需要代码扩展;对 GPU 没有硬性要求,但处理大规模向量检索或多媒体生成任务时,性能依赖第三方 LLM API 的响应速度。此外,项目 License 为 ELv2(Educational License v2),非传统开源许可证,企业使用前需确认合规性。
LLMStack 代表了 2024 年 AI 应用开发领域的一个重要趋势:从"用代码调用 AI"到"用配置调用 AI"。随着 LLM API 的标准化和向量数据库的成熟,AI 应用的核心壁垒正在从"能不能调用模型"转移到"如何高效编排业务流程"。无代码/低代码 AI 平台(如 LangFlow、Dify、Flowise)百花齐放,LLMStack 凭借多模型链式调用、内置 RAG 管线、多租户和外部 IM 集成的组合,在细分场景中具备竞争力。
该项目由 Promptly 团队维护,官网提供同名云服务(SaaS 版),开源版本与商业版形成互补。对于技术团队,开源版是学习和定制的基础;对于业务团队,Promptly 云服务是零运维的直接选择。
LLMStack 是一个功能完整、文档清晰、部署友好的开源 AI 应用平台。它用可视化的方式降低了 AI Agent 和 RAG 应用的技术门槛,让非开发者也能快速构建和迭代 AI 产品。其 Docker Compose 一键部署能力和多租户架构,使其既适合个人探索,也具备团队协作和生产部署的能力。如果你正在寻找一个无需写代码就能把 LLM 接入业务数据的工具,LLMStack 值得一试。