dllm

dLLM：让扩散语言模型训练变得透明可复现

图1：dLLM Logo

当你用扩散模型生成文本时，AI 在"去噪"中说话

想象一下：你在听一位画家从一片混沌的灰色颜料中，逐步勾勒出蒙娜丽莎的轮廓——扩散语言模型（Diffusion Language Model）的文本生成，本质上就是这样一种"从噪声中逐步恢复有序语言"的过程。

dLLM（Diffusion Language Modeling）正是这样一个开源框架：它把扩散语言模型的训练、推理、评估三大环节整合到一个透明、可复现的代码库中，让研究者和工程师不再需要从零搭建实验管道。

背景：扩散模型杀入文本生成战场

自 2020 年以来，扩散模型（Diffusion Model）在图像生成领域大放异彩（Stable Diffusion、DALL-E），但文本生成却长期由自回归模型（Autoregressive Model，GPT 系列）主导。原因在于：文本是离散符号序列，不像图像那样天然适合连续的噪声添加过程。

2024-2025 年，陆续出现了一批突破性工作：Google 的 MDLM（Masked Diffusion Model）证明掩码扩散可以训练语言模型；国内 GSAI-ML 团队的 LLaDA 在多项基准上接近同规模自回归模型；Dream 则探索了双向扩散在对话场景的应用。dLLM 正是这些前沿工作的"共同代码基座"——将它们的训练逻辑抽象为统一 pipeline，让社区可以在同一套代码下复现、对比和改进。

核心功能：训练 · 推理 · 评估，一条管道走到底

训练层面，dLLM 基于 HuggingFace Transformers Trainer 构建，支持：

• 多种训练算法：MDLM（掩码扩散）、BD3LM（块状扩散）、Edit Flows（编辑流）等，每种算法对应一套独立 Pipeline 子目录
• 分布式训练：开箱即用 LoRA 微调、DeepSpeed ZeRO-2/3、FSDP（全分片数据并行），单节点多卡、多节点集群均可通过配置文件一键切换
• 强化学习扩展：支持 diffu-GRPO 算法，专门用于对掩码扩散语言模型进行思维链（Chain-of-Thought）强化学习，已在 GSM8K、MATH、Countdown 等推理任务上验证有效

推理层面，dLLM 集成了 NVlabs 的 Fast-dLLM 加速推理方案，可显著降低 LLaDA 和 Dream 模型的推理延迟。

评估层面，dLLM 内置了基于 lm-evaluation-harness 的统一评估管道，支持 MMLU_Pro、GSM8K、MATH 等主流 benchmark，一行命令即可在多卡上批量评测。

图2：扩散语言模型生成效果示意

技术架构：模块化分层设计

dllm/
├── core/           # 核心引擎：trainers（训练器）、samplers（采样器）、schedulers（调度器）
├── pipelines/     # 任务流水线：llada、dream、bert、a2d、rl 等各自独立
├── data/          # 数据处理：alpaca、ultrachat、opc 等数据集格式
├── tools/         # 工具集
└── utils/         # 模型加载、分词器等通用工具

架构亮点在于 pipeline 解耦：每个模型（如 LLaDA）有独立的 pipelines/llada/ 子目录，包含 sft.py（有监督微调）和 eval.py（评估）入口，新增模型只需继承统一接口即可接入。这种设计在保持灵活性的同时，也确保了代码的工程可维护性。

上手门槛：研究者友好，工程落地需积累

局限与争议

1. 部署友好度低：无 Docker 支持，无 Web UI，企业直接落地门槛较高，更适合有研究基础设施的实验室
2. 对比自回归模型仍有差距：在部分长文本生成任务上，扩散模型在连贯性和上下文保持方面尚不及 GPT-4 等顶级自回归模型
3. 生态尚在生长期：相比 Transformers + PEFT 的成熟生态，dLLM 的插件体系、用户社区还在快速迭代中

行业意义：扩散语言模型的重要里程碑

dLLM 的出现标志着扩散语言模型从"单篇论文验证"走向"系统性工程复现"的关键一步。它让以下场景成为可能：

• 对比研究：在同一框架下直接对比 MDLM vs BD3LM vs Edit Flow 的训练效果差异
• 教育普及：学生可以通过阅读 dLLM 代码，深入理解扩散语言模型从数据处理到梯度更新的完整流程
• 工业探索：已有团队基于 dLLM + Fast-dLLM 构建端侧推理引擎，尝试在消费级 GPU 上部署扩散语言模型

从 GitHub Star 增长趋势来看，dLLM 在 2026 年初发布技术报告后获得了显著关注，反映出社区对扩散语言模型工具链的强烈需求。