genai-processors
Google 出品:统一多模态 AI 管道开发的异步 Python 框架
加载项目详情…
本应用为开源项目,仅供学习研究,请遵守其开源协议。
Google 出品:统一多模态 AI 管道开发的异步 Python 框架
加载项目详情…
本应用为开源项目,仅供学习研究,请遵守其开源协议。
图1:Google DeepMind 官方头像
想象这样一个场景:你正在用 Gemini API 构建一个实时语音对话助手,需要同时处理音频流、调用搜索工具、管理对话上下文,还要把结果流式输出到前端。面对这么多横跨网络 I/O、模型调用、多模态数据的复杂操作,传统方案是把所有逻辑塞进一个大函数里——结果代码耦合严重、调试困难、重用几乎不可能。Google DeepMind 推出的 GenAI Processors 正是来解决这个问题的。
随着 Gemini、GPT、Claude 等大模型生态越来越丰富,开发者面临一个共同的困境:每个模型 API 的调用方式、数据格式、流式处理逻辑都各不相同。你今天写好的管道,换一个模型可能要从头重写。GenAI Processors 的诞生,正是 Google 在内部广泛使用这套框架后,将沉淀出的最佳实践开源给社区的产物。
项目于 2025 年初发布,Star 数在短时间内突破 2000+,获得了 Gemini 官方生态的高度认可。核心作者来自 Google DeepMind,代码版权声明明确标注年份至 2026 年,表明项目处于活跃维护状态。
GenAI Processors 的核心是一个名为 Processor 的抽象类。它将任何 AI 相关的内容处理任务——无论是调用 Gemini API、解析 PDF、处理音频,还是执行 MCP 工具调用——全部统一封装为一个可组合的单元。
这个设计借鉴了 Unix 管道(pipe)的哲学:Processor 之间可以用 + 串联(Chain),用 // 并行(Gather),从而将复杂的多步骤 AI 管道拆解为清晰的小模块。代码示例非常直观:继承 Processor,实现 call 异步方法,就能创建一个自定义处理器。调用方不需要关心底层细节,只需往处理器里丢内容,坐等结果或流式输出即可。
从源码结构来看,项目分为三大块:genai_processors/core/ 包含内置处理器(如 GenaiModel 轮次交互、LiveProcessor 实时流式、FunctionCalling 工具调用、PdfProcessor 文档处理等),genai_processors/contrib/ 存放社区扩展(如 LangChain 集成、OpenRouter 支持),genai_processors/ 顶层提供 processor.py(核心抽象)、content_api.py(统一内容模型)、cache.py(缓存层)、mcp.py(MCP 协议集成)等基础设施。
所有处理器基于 Python asyncio 构建,充分利用协程实现高并发网络 I/O 与计算子线程的协同调度。ProcessorPart 是统一的内容载体,内部封装了 genai.types.Part 并附加了 MIME 类型、角色、自定义属性等元数据,实现了文本、图像、音频、PDF 等多模态内容的统一表示。
项目中包含对 MCP(Model Context Protocol)的原生支持,通过 mcp.py 模块可以将任何 MCP 服务器的工具无缝转换为 FunctionCalling 处理器可调用的 Python 函数。这意味着在构建 Agent 时,可以轻松接入各种 MCP 生态的外部工具(数据库查询、API 调用等),而不必自己处理协议解析和错误重试。
作为纯 Python 库,安装只需一行 pip install genai-processors,依赖 Python 3.11+,不需要 GPU 或特殊硬件。官方提供了多个 Jupyter Colab 教程,从内容 API 基础、处理器入门、自定义处理器创建到 Live API 实时交互,覆盖了从入门到进阶的完整学习路径。另有 llms.txt 专项指南,专门帮助 AI 编程工具(如 GitHub Copilot、Claude Code)生成符合最新 SDK 规范的代码,解决模型知识陈旧导致 API 调用错误的问题。
当前版本对 Gemini 系列模型的集成最为完善,但对其他大模型的支持主要通过 contrib 扩展实现,稳定性不如 core 模块。缺乏容器化支持(无 Dockerfile/docker-compose)意味着在服务器端部署时需要用户自行处理 Python 环境。此外,由于依赖 google-genai SDK,API 调用受限于 Google 的服务端限流策略,大规模并发场景需要自行实现背压机制。
GenAI Processors 代表了一种趋势:随着大模型应用复杂度提升,单纯的 API 包装库已经不够用,社区需要更结构化的管道编排框架。Google 将内部沉淀的开源,既是对自身 AI 应用开发效率的验证,也是抢占 AI 中间层生态的战略性布局。
项目地址:https://github.com/google-gemini/genai-processors | 许可证:Apache 2.0 | Python >= 3.11