AIOS：把 AI 大脑装进操作系统

想象这样一个场景：你对电脑说「帮我整理一下这个月的开源项目，生成报告并发给同事」，系统立刻调动内存里的上下文、调用搜索工具抓取项目列表、调动大模型生成报告——整个过程就像一个精密的车间流水线，有调度员分配任务、有仓管员管理原料、有质检员把控输出。这就是 AIOS（AI Agent Operating System） 正在做的事：给 AI Agent 一个专属的「操作系统」。

图1：AIOS 系统架构总览

图2：模块交互细节

从一篇论文到一个活跃社区

AIOS 起源于 2023 年 12 月的一篇视角论文《LLM as OS, Agents as Apps》，2024 年 3 月正式发布基础论文《AIOS: LLM Agent Operating System》，目前已积累超过 5700 颗 GitHub stars，被 Berkeley AgentX LLM Agents MOOC 竞赛选为决赛入围项目。2024 年 11 月，团队发布了重大版本更新 v0.2，将内核彻底解耦为独立仓库，同时启动 Rust 重写实验（aios-rs）以提升性能。2025 年，团队继续扩展，推出计算机操控 Agent 专用架构 LiteCUA 和配套 SDK Cerebrum。

AIOS 由美国高校研究团队（agiresearch）主导维护，核心开发者在 2025 年 3 月进行了大规模代码重构，显著提升了模块化程度和可维护性。项目保持着高频更新（最近推送为 2026 年 5 月），社区生态逐步完善。

为什么需要 AIOS？

当前开发者构建 AI Agent 应用时，普遍面临几个头疼问题：LLM 调用没有统一接口，不同模型切换麻烦；多个 Agent 并发时资源竞争一团乱麻；记忆管理靠数据库硬写，缺乏抽象层；工具调用没有标准化，每次接入新工具都要重写 glue code。AIOS 尝试用 OS 的思路一次性解决这些问题——把操作系统几十年积累的工程经验（进程调度、内存管理、文件系统抽象）迁移到 AI Agent 的世界里。

核心架构：Kernel + SDK 双层设计

AIOS 系统由两个核心组件构成：AIOS Kernel（当前仓库）和 AIOS SDK（Cerebrum）（独立仓库）。Kernel 扮演 OS 内核角色，在操作系统和 LLM 之间插入一层抽象，管理四大核心资源：LLM 引擎、记忆管理器（支持 ChromaDB/Qdrant 等向量存储）、存储管理器、工具管理器。SDK 则面向 Agent 开发者和终端用户，提供构建和运行 Agent 应用的编程接口。

Agent 通过 SDK 发起请求，Kernel 接收后进入 Syscall 层，调度器（Scheduler）根据策略（如 FIFO、SJF）将任务排队并分发给对应模块执行。这套设计让 Agent 开发完全不用操心底层资源分配——就像应用程序不用直接管理 CPU 寄存器一样。

功能亮点：四大核心能力

① 多 Agent 并发调度：AIOS 实现了多种调度策略（FIFO、SJF 等），多个 Agent 请求不再排队等待，能够并行处理。调度器会根据任务预估长度智能分配资源，减少大任务饿死小任务的情况。

② 多模型统一接入：通过 LLM Driver 模块，AIOS 统一接入 litellm，能够连接 OpenAI GPT、Anthropic Claude、Google Gemini、DeepSeek、Llama 等主流模型，支持快速切换无需改动 Agent 代码。requirements.txt 中引入了 llama_index、transformers、sentence-transformers 等生态库，确保广泛的模型兼容性。

③ 记忆分层管理：内置 Memory Manager，支持 ChromaDB、Qdrant 等向量数据库，实现 Agent 长期记忆的语义存储与检索。同时支持 Redis 缓存用于短期记忆，终端交互还有语义回滚（rollback）能力。

④ 丰富工具生态：Tool Manager 内置对 Google 搜索、Wolfram Alpha、Rapid API 等工具的调用支持，可通过 OpenAGI、AutoGen、Open Interpreter 等框架扩展。2025 年新增的 LiteCUA 架构还支持计算机操控 Agent，能够自动化操作浏览器和桌面应用。

部署方式：四种模式灵活选

AIOS 提供从本地到云端的四种部署模式：Mode 1 本地内核模式（所有组件运行在同一台机器，最适合开发调试）；Mode 2 远程内核模式（SDK 和 Kernel 分离部署，适合团队协作）；Mode 2.5 远程开发模式（远程 Kernel 用于开发测试）；Mode 3 个人远程内核（云端注册账号，本地 SDK 远程连接，支持跨设备数据同步）。

Dockerfile 基于 python:3.11.8-slim-bullseye 构建，通过 uvicorn 提供 FastAPI 服务暴露 8000 端口，官方文档中有专门的 WebUI Quickstart 指南，部署体验相对友好。但缺少 docker-compose 文件，Redis 等依赖需要单独配置，对新手有一定门槛。

上手体验

安装分三步：克隆 AIOS Kernel 代码仓库、安装依赖（pip install -r requirements.txt）、安装 AIOS SDK（Cerebrum）。启动前需要配置 LLM API Key（支持 OpenAI/Anthropic/Gemini/Groq 等），可通过 .env 文件或交互式配置向导完成。配置完成后，运行 aios start 启动服务，通过命令行终端与语义文件系统交互，Agent 会将自然语言转换为系统调用执行。

如果想用 WebUI，可参考官方文档的 WebUI Quickstart，通过 FastAPI 服务访问图形界面。GPU 不是必须的——没有 GPU 时，系统会使用远程 API 调用云端模型；有 GPU 且安装了 CUDA 版本依赖（requirements-cuda.txt + vLLM），可以实现本地推理加速。

技术栈与代码质量

AIOS 主力语言为 Python，核心依赖包括：litellm（统一 LLM 接口）、pydantic v2（数据验证）、fastapi + uvicorn（Web 服务）、llama_index（Agent 开发框架）、chromadb + qdrant-client（向量数据库）、redis（缓存）。架构采用模块化设计，Kernel 与 SDK 分离，代码结构清晰。主要挑战在于子模块通过 git submodule 管理（aios-rs、aios、runtime 等为独立子仓库），导致本地 clone 后需要额外初始化步骤。

局限与争议

AIOS 的核心理念——用 OS 思维管理 AI Agent——仍属早期探索方向。调度器的实际效率提升在真实生产环境中有待验证；多 Agent 并发场景下的资源竞争和隔离机制还不够成熟；Rust 重写（aios-rs）尚处实验阶段，生产环境使用存在风险。此外，由于高度依赖 LLM API Key，用户需要承担 API 调用成本，且网络延迟直接影响 Agent 响应速度。

行业意义

AIOS 代表了 AI Agent 基础设施化的一个重要方向——不再把 LLM 当成单一 API 调用工具，而是作为系统级资源来管理。随着 Agent 应用场景从研究走向生产，如何高效调度多个 Agent、共享记忆和工具资源、保证系统稳定性，将成为刚需。AIOS 的探索虽然还不成熟，但为这个方向提供了有价值的参考框架，值得 AI 开发者和 ML infra 工程师持续关注。