NASLib

图1：NASLib 项目标识

---

背景：让神经网络"自我设计"

想象一个场景：你要建一座房子，但不需要自己画图纸——一个AI系统会根据你的需求（面积、预算、功能）自动生成最优的建筑设计蓝图。这就是 Neural Architecture Search（NAS，神经架构搜索） 正在做的事情：让算法自动搜索出最优的神经网络结构。

NAS 领域有个著名的"NAS不好用"问题：每次搜索最优架构都需要训练成百上千个候选网络，算力成本极高，普通研究团队根本承受不起。这导致NAS研究门槛极高——要么有大厂GPU集群，要么就别玩。

NASLib（Neural Architecture Search Library）正是在这个痛点下诞生的。它由德国弗莱堡大学 AutoML Freiburg 团队 开发，核心理念是为NAS研究提供统一代码基座，让研究者可以专注创新而不是重复造轮子。就像软件工程中的"设计模式"——前人搭好框架，后人只需实现具体策略。

图2：NASLib 整体架构，搜索空间、优化器和评估器三层解耦

---

核心理念：三个模块的解耦艺术

NASLib 的架构哲学可以用一个类比来解释：乐高积木。一个完整的NAS流程由三个核心组件构成：

组件	乐高类比	NASLib 中的角色
Search Space（搜索空间）	积木的形状和颜色种类	定义神经网络可以长成什么样子（节点数、连接方式、算子类型）
Optimizer（优化器）	搭建积木的策略（随机摆/遗传算法/强化学习）	决定如何从海量候选中高效找到最优架构
Evaluator（评估器）	搭建完成后的质量检验	衡量候选架构的最终性能

关键创新：三个模块完全解耦。研究者可以自由组合——换一个新搜索空间，不需要重写优化器代码；提出新搜索策略，可以直接复用于所有已有搜索空间。这打破了传统NAS代码"强耦合、难复用"的困境。

---

丰富的内置组件：站在巨人的肩膀上

搜索空间（9种，覆盖主流基准）

NASLib 内置了9种经过学术界验证的搜索空间，每个都对应一篇重要论文：

• NAS-Bench-101：最早的大规模NAS基准，包含423,624个候选网络，提供CIFAR-10上的精确训练曲线。
• NAS-Bench-201：更规范的搜索空间，支持CIFAR-10、CIFAR-100和ImageNet16-120三个任务。
• NAS-Bench-301：代理模型基准，用surrogate model加速评估。
• NAS-Bench-ASR：语音识别任务（TIMIT数据集），填补了NAS在语音领域的空白。
• NAS-Bench-NLP：NLP任务基准（Penn Treebank）。
• TransNAS-Bench-101：7个计算机视觉任务的跨任务泛化测试。
• SimpleCellSearchSpace：轻量级单元搜索空间，适合快速实验。
• HierarchicalSearchSpace：层次化搜索空间。
• NATS-Bench：考虑结构参数的搜索空间。

优化器（7种，覆盖主流范式）

优化器	类型	核心思想
DARTSOptimizer	可微搜索	放松离散搜索为连续优化，权重共享
GDASOptimizer	可微搜索（Gumbel-Softmax）	改进DARTS的过拟合问题
DrNASOptimizer	可微搜索（强化学习辅助）	动态松弛
RandomSearch	随机搜索	基线方法
RegularizedEvolution	进化算法	锦标赛选择
LocalSearch	局部搜索	邻居探索
Bananas	基于预测器的搜索	用性能预测模型引导搜索

评估器

• FullEvaluation：从头训练评估（最准确但最慢）
• ZeroCostEvaluator：无需训练的评估指标（如SNIP、GRANET），几秒钟出结果
• ZeroCostEnsembleEvaluator：零成本指标集成

---

性能预测器：最有趣的组件

NASLib 包含一个专门针对性能预测器的研究模块。2021年论文《How Powerful are Performance Predictors in Neural Architecture Search?》在NASLib上系统评估了31种不同的性能预测器，这是目前最全面的预测器对比研究。

图3：31种性能预测器在NAS-Bench-201上的对比（来源：NASLib论文）

预测器的核心思想很朴素：训练一个模型来预测候选架构的最终性能，而不必真正训练完整个架构。这可以大幅节省计算资源。NASLib内置的预测器包括：

• MLP预测器：直接用架构编码特征训练神经网络
• GCN预测器：图卷积网络，直接在神经网络的计算图上做预测
• GP预测器：高斯过程，擅长小样本场景
• LightGBM/XGBoost：梯度提升树
• NGB（Natural Gradient Boosting）：概率预测，输出不确定性估计
• BONAS：基于图注意力网络的预测器
• SemiNAS：半监督预测

---

上手体验：研究者的日常

安装门槛

NASLib 对环境要求较为严格：仅支持 Python 3.7/3.8/3.9，不兼容 Python 3.10+。这是因为 setup.py 中的依赖（如 nasbench301、nasbench-pytorch）尚未适配新版 Python。

安装过程通过 pip install -e . 自动处理核心依赖，额外的数据集文件（NAS-Bench-101/201/301等）需要手动从 Google Drive / Figshare 下载放置到 naslib/data/ 目录。这带来了第一个门槛：数据集下载可能需要科学上网。

使用示例

三行代码即可启动一次NAS实验：

from naslib.search_spaces import SimpleCellSearchSpace
from naslib.optimizers import DARTSOptimizer
from naslib.defaults.trainer import Trainer

search_space = SimpleCellSearchSpace()
optimizer = DARTSOptimizer(config)
optimizer.adapt_search_space(search_space)
trainer = Trainer(optimizer, config)
trainer.search()   # 搜索最优架构
trainer.evaluate() # 评估最优架构

配置通过 YAML 文件管理，scripts/ 目录提供了 SLURM 集群的批量实验脚本。

局限性

1. Python版本锁定：Python 3.10/3.11/3.12 用户无法直接使用，需要conda创建3.7-3.9环境。
2. GPU强依赖：搜索过程需要大量GPU资源，CPU训练极慢。
3. 数据集维护问题：部分数据集托管在 Google Drive，链接可能失效。
4. 活跃度下降：最后更新停在2022年，核心维护团队的重心已转向新项目。

---

学术影响力：NAS基准测试的标准工具

NASLib 不仅是代码库，更是NAS学术研究的基础设施。最重要的两篇引用论文：

1. NASLib论文（arXiv 2020）：介绍这个库的模块化设计理念。
2. NAS-Bench-Suite论文（ICLR 2022）：系统评估了16种NAS算法在多种搜索空间上的表现，证明了NASLib作为评估平台的价值。

NASLib 被广泛用于 AutoML 竞赛（如 Zero-Cost NAS Competition），研究团队也用它来对比自己的新算法与SOTA。

---

总结：一站式NAS研究平台

NASLib 的价值在于降低NAS研究的工程门槛——把NAS领域最常用、最重要的搜索空间、优化器、评估器和预测器全部整合到一个模块化框架中。研究者可以站在前人工作的基础上，专注于算法创新本身，而不是重新实现各种基准。

对于有兴趣入门NAS的开发者，NASLib 是一个极好的起点：通过 Jupyter Notebook 教程（examples/naslib_tutorial.ipynb）和基准测试脚本，可以快速理解NAS的核心概念和工作流程。