AI Engineering from Scratch

AI Engineering from Scratch 是由开发者 Rohit Ghumare（rohitg00）发起并持续维护的开源 AI 工程课程，核心定位是“一门不教你‘调用 API’，而是逼你亲手把 AI 造出来的多语言工程训练路线——从数学基础和反向传播手写起，一路走过 Transformer、LLM、Agent、MCP、生产部署与安全，每一节课的终点都是一个可以装进你项目里的工程资产”。它不满足于做又一份“大模型应用教程合集”或零散的论文导读，而是将 20 个阶段、542 节课、约 342 小时的系统课程、12 条结构化学习路径、10 个可直接安装的 Agent Skills、3 个带本地评分器的实战项目整合于一套完整的开源课程体系中，全部配有 npx skills add 一键接入编码代理、20 种语言的 README、MIT 开源协议。截至 2026 年，项目累计获得约 5.17 万–7.5 万 GitHub Stars、9,000–12,700 Forks，官网过去 30 天记录了 11.4 万读者与 18.2 万次页面浏览。

一、AI Engineering from Scratch 是什么

AI Engineering from Scratch 采用“网站自学 + 编码代理陪练 + 本地代码运行”三位一体的学习架构，通过 GitHub 完全开源发布，采用 MIT 许可证。项目由 Rohit Ghumare 发起，官网为 aiengineeringfromscratch.com，课程代码示例覆盖 Python、TypeScript、Rust、Julia 四种语言。

它的运作机制与市面上绝大多数“AI 课程”都有本质区别。大多数 AI 工程教程的终点是“调通一个 API、跑通一个 demo”——你知道怎么用，但不知道里面发生了什么。AI Engineering from Scratch 的每一节课遵循同一个可运行学习过程：先讲问题和概念，再从零实现关键算法，然后对照生产级库的实现，最后产出一个可复用的 prompt、skill、agent 或 MCP server。它不满足于让你“会用 AI”，而是要求你亲手造过一遍 AI——手写 Tokenizer、Attention、反向传播，再去对照 PyTorch 和 vLLM 的生产实现。课程仓库的定位句是：Learn AI Engineering! Learn it. Build it. Ship it for others.——“学它、造它、为别人交付它”。

二、AI Engineering from Scratch 能做什么

20 个阶段的完整工程链路——从数学地基到生产安全（链） ——不是“跳着讲热门话题”，而是“一条从底层到上层的完整依赖链”。课程覆盖 数学基础 → 机器学习基础 → 深度学习 → 计算机视觉 → NLP → Transformer → 生成式 AI → 强化学习 → LLM 工程 → RAG → Agent 工程 → 工具与协议 → 多智能体 → 基础设施与生产 → 安全与对齐 → 综合项目 等 20 个阶段。每一个阶段都是下一个阶段的真实前置——你不学完反向传播，就无法理解 Transformer 的训练；你不理解 MCP 的传输层，就无法设计生产级的 Agent 工具网关。

12 条结构化学习路径——按你的目标选入口，而不是从头啃到尾（路） ——不是“一条路强制所有人走完”，而是“12 条针对特定目标的学习路径”。README 列出了三条主线入口：Model foundations（从环境搭建开始，适合想理解模型内部的人）、LLM systems（从 Prompt Engineering 开始，适合想做 LLM 应用的人）、Agents and delivery（从 Agent Loop 开始，适合想做 Agent 工程和交付的人）。此外还有 MCP 17 节课路线、Agent Skills 路线、Reverse Engineering 路线、Claude 认证路线、MCPA 认证路线 等聚焦路径。你不需要“先学完所有前置再选方向”——路径设计本身就是入口。

10 个可直接安装的 Agent Skills——课程不只是读的，是可以装进编码代理的（技） ——不是“课程内容只能看”，而是“课程的核心方法论被封装成了可调用的技能”。start-learning 做一次性 onboarding（学习动机、分班测验、个性化计划写入 LEARNING.md）；learn 是导师循环（热身回忆 → 互动式下一课 → 测验 → 记录进度与复习队列）；course-guide 是主题路由器（“注意力机制在哪学？”“我的 loss 是 NaN” → 精准定位到具体课程）；learn-mcp 是 MCP 专项导师（创建 MCP-LEARNING.md，沿 17 节课路线记录传输、安全、可靠性和一致性证据）；find-your-level 是十题分班测验，把你的知识映射到起始阶段和带小时估算的个性化路径。这种“课程即技能”的设计，让学习过程本身可以被编码代理陪练和追踪。

3 个带本地评分器的实战项目——不是“看完就算”，而是“跑通才算”（项） ——不是“课程配几个 toy example”，而是“三个有 staged starter、参考实现和本地 grader 的工程项目”。Retrieval Evaluation Lab（Python）：实现排序验证、precision/recall 和排序敏感指标，然后做系统对比——grader 要求你保留可复现的对比、per-query 差异和评分所依据的 judgments。Agent Trace Debugger（TypeScript）：解析 JSONL trace、验证父子关系、做区间算术，产出一个可检查的时间线和 JSON 回归报告——grader 要求你区分重叠的子工作与父执行时间，避免 token 重复计数。Tool Call Firewall（Rust）：验证调用信封、检查调用者角色和路径、消费与精确请求绑定的审批——grader 要求你产出一个展示请求操作与策略决策的审计回执，审批在单次调用内一次性有效。每一个项目都是从“starter 跑不通”开始，靠你自己实现来解锁评分。

“造一遍再对照生产”的教学设计——从原理到工程的桥梁（教） ——不是“只讲理论”或“只教调包”，而是“从零实现 → 对照生产库 → 产出可复用资产”的三段式。以优化器为例，课程在数学基础阶段让你亲手实现梯度下降、momentum 和 Adam，再把它们放在同一个二次损失曲面上对比轨迹——而不是先教你 optimizer.step() 再解释背后发生了什么。这种“先造后看”的顺序，让生产级库的每一个抽象都有了具体的锚点。

三、AI Engineering from Scratch 适合谁用

不想只当“API 调用工程师”的开发者 ——用过 OpenAI、LangChain、LlamaIndex，能搭出能跑的 RAG 和 Agent，但说不清 Attention 的 QKV 在算什么、反向传播的梯度怎么流、Tokenizer 的 BPE 合并规则为什么这样设计。这门课程用 542 节课和 342 小时，把“会用”和“懂”之间的鸿沟填上。

想系统转向 AI 工程的后端/全栈工程师 ——有扎实的软件工程基础，但 AI 知识是碎片化的——看过几篇博客、跑过几个 notebook，没有一条从数学到部署的完整链路。12 条学习路径允许你从已有基础切入，不必从“什么是矩阵乘法”开始。

正在用 Claude Code / Codex / Cursor 的 Agent 重度用户 ——希望编码代理不只是“帮你写业务代码”，而是能陪你学习、追踪进度、按阶段测验。10 个学习 Skills 把“和 Agent 一起学 AI 工程”变成了可安装、可执行、可记录证据的工作流。

技术团队负责人与工程教育者 ——需要为团队或学生提供一条有明确产出、有本地评分、有工程纪律的 AI 工程训练路线。3 个项目的 grader 机制和“keep”要求（保留输入、审计回执、可复现对比）本身就是一套可复用的教学评估框架。

需要认证备考的从业者 ——课程包含 Claude 认证（CCAO-F / CCDV-F / CCAR-F / CCAR-P）和 MCPA 认证（34 节课、2026-07-28 协议、diagnostic + 三次 mock）的专项路径，把认证准备嵌入系统课程而非孤立刷题。

四、AI Engineering from Scratch 的应用场景是什么

从“调包”到“造轮子”的认知升级场景 ——一个工程师每天用 transformers 的 AutoModel，但说不清 forward() 里发生了什么。跟着 Transformer 阶段的课程，亲手实现一遍 self-attention 和 multi-head attention，再对照 HuggingFace 的生产实现——你会发现“原来那个 attention_mask 是这样广播的”。这种“先造后看”的顺序，让抽象不再抽象。

按目标定制的“12 条路径”学习场景 ——你想做的是“基于 MCP 构建 Agent 工具生态”，而不是“从头训练一个语言模型”。选择 MCP 17 节课路线，learn-mcp 技能创建 MCP-LEARNING.md，逐课记录传输层、安全边界、可靠性设计和一致性证据，最后产出一个可用的 MCP server——学习路径直接对齐交付物。

Agent 工程的“可观测性与安全”实战场景 ——你正在设计一个生产级 Agent 系统，但不确定“trace 怎么解析才不重复计数”“工具调用的审批怎么绑定到精确请求”。Agent Trace Debugger 和 Tool Call Firewall 两个项目，让你在本地 grader 的约束下亲手实现 trace 解析、区间算术和审批消费——这些是真实 Agent 基础设施里最容易被跳过、也最容易出事的环节。

“课程即技能”的 Agent 陪练场景 ——你不想“打开一个网页从第一课开始线性啃”，而是希望有一个 Agent 根据你的水平和目标动态规划。start-learning 做分班和计划，learn 做导师循环和复习队列，course-guide 在你卡住时精准路由到具体课程，check-understanding 在每阶段后做八题测验并指出要复习的课——整个学习过程被编码成可追踪、可续接的工作流。

团队 AI 工程训练与评估场景 ——技术负责人需要一套“不依赖外部讲师、有可运行代码、有本地 grader、有明确产出物”的训练方案。3 个项目的 staged starter + reference implementation + local grader，让“学员是否真的实现了”有了可执行的判定依据；课程的多语言 README（20 种语言）让不同语言背景的成员可以读母语版本入门。

五、AI Engineering from Scratch 为什么值得关注

从“会用 AI”到“造过 AI”的认知升维。大多数 AI 工程教育停留在“调用 API + 拼装框架”的层面——你学会了 ChatOpenAI、RetrievalQA、AgentExecutor 的用法，但一旦框架升级、API 变更或遇到框架没有覆盖的边界情况，就束手无策。这门课程要求你亲手实现关键算法——Tokenizer、Attention、反向传播、Agent Loop、MCP 传输——然后再对照生产库。造过一遍之后，生产库不再是黑盒，而是一组你理解其设计动机的工程选择。这种“从零构建是理解的唯一路径”的教学哲学，是它区别于所有“AI 应用教程”最核心的价值。

“20 阶段 × 542 节课 × 342 小时 × 4 语言”的覆盖深度与工程完整度。大多数 AI 课程在“LLM 应用”或“Prompt Engineering”就结束了。这门课程从数学基础一路覆盖到 MCP、Agent Skills、多智能体、基础设施、安全与对齐、认证备考——它不是“一个主题的课程”，而是一条完整的 AI 工程职业能力链路。Python 做主实现，TypeScript 做 Agent trace 和前端，Rust 做安全网关，Julia 做科学计算——四种语言不是装饰，而是不同工程场景的真实选择。

“课程即 Skills”——学习过程被编码成可安装、可追踪的 Agent 工作流。大多数课程是“内容 + 阅读”，学习进度靠人自己记。这门课程把 onboarding、导师循环、主题路由、专项路径、分班测验、阶段测验全部封装成 10 个 Agent Skills，可以 npx skills add 装进 Claude Code、Codex 或其他编码代理。这意味着学习不再是“打开网页读”，而是“和 Agent 一起按计划推进、按证据记录、按测验验证”——这是 AI 工程教育在交互形态上的一次实质升级。

3 个项目的“grader 驱动”工程纪律——把“做完”变成“做对”。大多数课程项目的验收标准是“看起来能跑”。这门课程的 3 个项目都配有 local grader：Retrieval Evaluation Lab 要求可复现的 per-query 差异和评分依据；Agent Trace Debugger 要求独占的 per-span token 计数；Tool Call Firewall 要求单次调用内一次性的审批消费和审计回执。这种“用另一套代码检查你的实现”的设计，让“完成项目”从一个主观声明变成了一个可验证的工程行为。

5.17 万–7.5 万 Stars + MIT 协议 + 20 种语言——社区验证与低摩擦可及性。项目累计约 5.17 万到 7.5 万 Stars、9,000 到 12,700 Forks，官网 30 天内 11.4 万读者。MIT 许可证允许自由使用、修改甚至商业销售。README 提供 20 种语言版本，覆盖简体中文、繁體中文、日语、韩语、西班牙语、法语、德语、阿拉伯语、印地语等——非英语学习者可以在母语中入门，再进入英文代码和课程。