• 174K GitHub stars，MIT 许可证，Go + C++ 混合架构 • 一行命令运行 100+ 开源模型（Llama3、Gemma4、DeepSeek、Qwen、Mistral、MiniMax 等） • 支持 CUDA（NVIDIA）、Metal（Apple Silicon）、ROCm（AMD）、Vulkan 多后端 GPU 加速 • REST API + OpenAI 兼容端点，开箱即用的 Python/JavaScript SDK • Modelfile 声明式配置，零门槛自定义模型行为 • 持续更新的 thinking model、工具调用、结构化输出等 Agent 能力 • Docker 一键部署，支持 Kubernetes Helm Chart • Claude Code、OpenCode 等编程助手直接集成 • 活跃社区：30+ Web UI、50+ 集成工具、10+ 语言 SDK
加载项目详情…
本应用为开源项目，仅供学习研究，请遵守其开源协议。
Ollama 是一个开源的本地大模型运行平台，用一行命令即可在本地运行 Llama 3、Gemma 4、DeepSeek、Qwen、Mistral 等 100+ 开源大模型。截至 2026 年 GitHub Stars 超过 174,000，是本地 LLM 领域毫无争议的标杆项目。
ollama/
├── llm/ # 推理引擎抽象层（Go → CGO → llama.cpp）
├── llama/ # llama.cpp 适配层（CUDA/ROCm/Metal/Vulkan CMake）
├── server/ # HTTP API 服务（Gin 框架）
├── api/ # API 类型定义 + Go 客户端 SDK
├── cmd/ # CLI 入口（run/pull/list/create）
├── model/ # 模型 manifest、blob 缓存、SQLite 索引
├── template/ # 提示词模板引擎
├── openai/ # OpenAI Chat Completions 兼容端点
├── anthropic/ # Anthropic Messages API 兼容层
└── app/ # Electron 桌面客户端
ollama pull → 解析 manifest → 分片下载 blob → 校验 SHA256 → 存入 ~/.ollama/models/ollama run → 读取 Modelfile → fork llama.cpp 子进程 → 等待 ready 信号server/chat.go → 构建 prompt → 写入 llama 子进程 stdin → 流式读取 stdout → SSE 推送# 快速迭代（Go only）
go build . && ./ollama serve
# 完整构建（含 C++ GPU 后端）
cmake -B build . -DOLLAMA_LLAMA_BACKENDS="cuda_v13;vulkan"
cmake --build build --parallel 8
./ollama serve
ollama launch 命令：自动安装 Claude Code、OpenCode 等编程助手/v1/messages）Ollama 的真正壁垒是生态：
ollama run 即可运行