core
基于 LangChain + FastAPI 的生产级 AI 代理框架,一键 Docker 部署内置
加载项目详情…
本应用为开源项目,仅供学习研究,请遵守其开源协议。
基于 LangChain + FastAPI 的生产级 AI 代理框架,一键 Docker 部署内置
加载项目详情…
本应用为开源项目,仅供学习研究,请遵守其开源协议。
图1:Cheshire Cat AI 项目 Logo —— 灵感来自《爱丽丝漫游奇境》中的"柴郡猫",寓意 AI 的"消失式交互"
想象你走进一家餐厅,点了一份"意大利面"。普通的 AI 助手会直接端上一盘标准意面——但 Cheshire Cat 框架下的 AI 助手会先问你:"请问是北意风格的宽面,还是南部的手切通心粉?要加松露还是番茄酱?"它会先翻阅厨房里所有的食谱文档,再结合你上次点的菜谱,最终端上一份完全贴合你口味的定制餐品。
这就是 Cheshire Cat AI 的核心哲学:不是让用户适应 AI,而是让 AI 适应用户。
这个框架由意大利开发者 Piero Savastano 发起,旨在帮助开发者快速构建可深度定制的 AI 代理。它并非又一款"套壳 ChatGPT",而是一套完整的生产级架构,包含向量检索增强生成(RAG)、插件系统、记忆管理和多模型支持,被意大利博洛尼亚大学作为 AI 方向毕业设计的研究对象。
Cheshire Cat 的架构用一句话概括:FastAPI 后端 + Vue.js 管理后台 + Qdrant 向量数据库 + LangChain 编排层。
后端核心(Python 3.10+,位于 /core/cat/):FastAPI 提供 REST API 和 WebSocket 双向通信能力,LangChain 0.2.x 作为 LLM 编排层,支持 OpenAI、Anthropic Claude、Google Gemini、Ollama(本地模型)、Cohere 等主流模型接入。无论你是 OpenAI 的忠实用户,还是坚持本地部署的隐私派,都能灵活切换。
向量检索层由 Qdrant 实现——这是一个用 Rust 编写的高性能向量数据库,专门用于语义搜索。项目还集成了 FastEmbed(用于本地向量嵌入生成),使得"上传 PDF/文档→自动切分→存入向量库→检索回答"的 RAG 流程完全开箱即用。
插件系统是 Cheshire Cat 区别于大多数 LangChain 二次封装项目的关键特性。开发者可以通过 pip install 方式加载自定义插件(install_plugin_dependencies.py),实现工具扩展、行为定制,甚至改造 AI 的人格设定(Persona)。这种"注入式"扩展方式比 fork 整个仓库优雅得多。
数据处理管道:支持 PDF、TXT、Markdown、JSON、网页抓取(BeautifulSoup4 + pdfminer.six + unstructured)等多种格式的文档解析,配合 tiktoken 分词和 scikit-learn 的 TF-IDF 能力,构建完整的知识库检索链路。
Cheshire Cat 提供了 compose.yml(Docker Compose v2 格式),包含三个核心服务:cheshire-cat-core(主服务)、Qdrant(向量数据库)和 Admin Vue(Web 管理界面)。启动命令仅需 docker compose up -d,约 5 分钟即可看到一个完整的 AI 助手服务跑起来。
主服务 Dockerfile 位于 /core/Dockerfile,基于 python:3.10.11-slim-bullseye,内置预编译的管理后台静态文件(通过下载 admin-vue 的 release.zip)。端口 1865 暴露 FastAPI 服务,5678 用于开发调试。无需 GPU,CPU 机器 4GB+ 内存即可运行,适合个人开发者快速验证想法。
不过需要注意的是,当前依赖版本相对保守(LangChain 0.2.x),与最新 LangChain 生态有一定差距;另外,所有数据默认存储在 TinyDB(SQLite 类文件数据库),生产环境建议自行替换持久化层。
Cheshire Cat 适合以下场景:快速搭建内部知识库问答机器人、为现有应用增加对话式 AI 层、AI 助手概念的原型验证。
它的局限性也需要正视:对中文文档的分块策略支持尚不完善;生产级 HA 部署文档较少;向量数据库 Qdrant 的运维对非 DevOps 背景开发者有一定门槛。
截至分析时,项目在 GitHub 拥有约 3,040 颗星,贡献者超过 100 人,更新活跃(pyproject.toml 显示 v1.9.2)。主要语言为 Python,许可证 GPL-3.0。官方网站 cheshirecat.ai 提供了更详细的产品文档和插件市场预告。
从技术趋势看,Cheshire Cat 代表了**"LangChain 二次封装 + 向量数据库 + Web-UI 一体化"**的产品化路径——这类框架在 2023-2024 年涌现了很多,Cheshire Cat 能存活并保持更新,说明其在"开箱即用"和"灵活定制"之间找到了不错的平衡点。
技术标签:FastAPI · LangChain · Qdrant · RAG · WebSocket · Python · Docker · Vue.js
适用人群:需要快速搭建 AI 助手的开发者 · 企业内部知识库建设者 · AI 原型验证团队
一句话评价:给 LangChain 套上一个开箱即用的外壳,让"训练自己的 AI 助手"从科幻走进现实。