GraphRAG Local Ollama：让本地大模型也能做知识图谱问答

一、痛点切入：为什么你需要这个工具？

想象这样一个场景：你是一家科技公司的技术负责人，公司积累了大量内部文档——产品需求文档、技术方案、会议纪要、项目周报，加起来有数千份 PDF 和 Markdown 文件。你想知道「过去一年里，我们的技术架构演进经历了哪些关键节点？有哪些未解决的技术债？」

用传统 RAG（检索增强生成），你只能问「文档里提到了哪些架构设计模式」这类局部问题。一旦问「全局性问题」——比如「总结整个文档库的核心主题和它们之间的关联」——RAG 的检索机制就会失效，因为答案需要综合整份语料库才能得出。

GraphRAG Local Ollama 正是为解决这一痛点而生。

二、项目背景：从微软 GraphRAG 到本地化落地

GraphRAG 是微软研究院 2024 年 4 月发布的论文提出的技术方案，其核心思想是：将 LLM 生成的知识图谱（Knowledge Graph）与社区发现（Community Detection）算法结合，让 AI 能够真正理解文档之间的语义关联，从而回答全局性问题。

原始的微软 GraphRAG 需要调用 OpenAI API 或 Azure OpenAI Service，成本高昂。TheAiSingularity 团队将其 fork 并深度改造，适配 Ollama 运行时——这意味着你可以用 llama3、mistral、gemma2、phi3 等开源本地大模型完全替代商业 API，实现零成本的 GraphRAG 体验。

目前该项目在 GitHub 获得 1100+ stars，收到社区广泛认可。

三、技术原理：GraphRAG 是怎么做全局问答的？

3.1 两阶段索引构建

GraphRAG 的索引管道分为两个核心阶段：

第一阶段：实体知识图谱构建

利用 LLM 从文档中递归式提取实体（人物、地点、组织、概念）和它们之间的关系。例如，从一段「华为发布 Mate60 手机，采用自研麒麟 9000s 芯片」的文本中，LLM 会自动抽取：

• 实体节点：华为（组织）、Mate60（产品）、麒麟 9000s（产品）
• 关系边：华为 → 生产 → Mate60；麒麟 9000s → 用于 → Mate60

第二阶段：社区摘要生成

基于构建好的知识图谱，使用 Leiden/Louvain 等社区发现算法，将紧密关联的实体聚类成社区，然后为每个社区预生成摘要。当用户提问时，系统先找到相关的社区，再读取社区摘要生成回答。

3.2 两种查询模式

模式	适用场景	原理
Local Search	局部实体问题	定位相关实体，聚合邻居节点信息
Global Search	全局总结问题	遍历所有社区摘要，层次化聚合生成

3.3 底层依赖栈

从 pyproject.toml 可以看到核心技术依赖：

• LLM 接口：openai SDK（兼容 Ollama 的 OpenAI-compatible API）
• 向量检索：lancedb（本地向量数据库）+ tiktoken（文本分词）
• 图数据处理：networkx（网络分析）+ graspologic（图统计）
• 并行计算：numba（GPU 加速数值计算）+ scipy
• 数据管道：datashaper（流式数据处理）

3.4 核心模块架构

graphrag/
├── index/        # 索引构建管道：文档解析 → 实体抽取 → 图构建 → 社区发现
├── query/        # 查询引擎：Local/ Global 两种搜索策略
├── llm/          # LLM 适配层：支持 Ollama 的 chat/completion 接口
├── vector_stores/# 向量存储后端：LanceDB
├── config/       # 配置管理
└── model/        # 数据模型定义（Pydantic）

四、Web UI：Gradio 驱动的可视化界面

项目提供了一个完整的 Gradio Web UI（app.py），包含四个功能 Tab：

1. Indexing（索引构建） — 上传文档，一键触发索引管道，实时查看构建日志
2. Query（问答查询） — 输入问题，选择 Local/Global 模式，获取结构化回答
3. Graph Visualizer（图谱可视化） — 自动加载最新生成的 .graphml 文件，渲染成交互式 HTML 图谱（通过 pyvis + networkx 实现）
4. Settings（参数配置） — 可视化调整 LLM 模型、Embedding 模型、文本分块大小（chunk_size）、重叠度（chunk_overlap）等关键参数

Settings Tab 默认配置为：

• LLM 模型：mistral
• Embedding 模型：nomic-embed-text
• Chunk size：300 tokens，重叠：100 tokens

五、部署体验：docker-compose 一键启动

项目提供了生产级的容器化部署方案：

• Dockerfile：基于 python:3.11-slim，安装了 gcc 编译工具链，直接 pip install 依赖
• docker-compose.yml：同时编排 Ollama 服务（端口 11434）和 GraphRAG 服务，通过健康检查确保 Ollama 就绪后再启动 GraphRAG

一键启动命令：

docker-compose up

启动后，Gradio UI 监听在默认端口（7860 或自定义），通过浏览器访问即可使用。Ollama 容器内数据持久化到 ollama_data Docker volume。

六、技术亮点与局限

亮点

• 零 API 成本：完全本地运行，无任何商业 API 调用费用
• 架构完整：索引管道、查询引擎、向量检索、图可视化全链路覆盖
• 多模型支持：Ollama 支持的模型均可无缝切换（llama3/mistral/gemma2/phi3）
• Lazy Graph RAG：支持懒加载模式，降低重复构建开销

局限

• 显存要求较高：运行中等规模模型（7B+）至少需要 6GB VRAM，加上索引构建时的 numba 加速，8GB VRAM 是推荐配置
• 索引速度慢：实体抽取依赖 LLM 逐句调用，文档量大时构建时间较长
• Embedding 模型依赖：目前默认 nomic-embed-text，效果与 OpenAI text-embedding-3-small 存在差距
• 缺乏增量索引：修改文档后需要全量重建，目前没有增量更新机制

七、行业意义

GraphRAG 代表了 RAG 技术的演进方向——从简单的向量检索，走向结构化的知识表示与推理。本地化实现（GraphRAG Local Ollama）让这一技术民主化：

• 中小企业：无需 OpenAI API 费用，即可享受高质量知识库问答
• 隐私敏感场景：医疗、法律、金融等行业的私有文档问答，数据永不离开本地
• 开发者生态：作为 Ollama 生态的重要补充，推动本地 LLM 应用场景拓展

该项目当前 1100+ stars 的增长曲线表明，社区对「低成本私有化 RAG 方案」的需求正在快速释放。