AI-Infra-Guard
腾讯朱雀实验室开源的AI红队平台,一站式检测Agent安全、MCP漏洞、基础设施CVE与模型越狱风险
加载项目详情…
本应用为开源项目,仅供学习研究,请遵守其开源协议。
腾讯朱雀实验室开源的AI红队平台,一站式检测Agent安全、MCP漏洞、基础设施CVE与模型越狱风险
加载项目详情…
本应用为开源项目,仅供学习研究,请遵守其开源协议。
想象一下这个场景:你花了几十万部署了一套基于 vLLM 的企业内部大模型服务,限定了内网 IP,信心满满地认为安全无虞。然而某天,安全团队发现攻击者只需要访问一个特定的接口路径,就能绕过所有鉴权,直接读取对话历史,甚至拿到模型权重——而这个漏洞,CVEs 收录了,但你的扫描器从未告警。
这并非危言耸听。Ollama、vLLM、ComfyUI、n8n 这些主流 AI 框架每年都会涌现数十个高危漏洞。AI 安全攻防的窗口期极短,传统的网络扫描工具对 AI 组件指纹识别能力不足,而人工排查又难以覆盖 64 种框架、1300+ CVE 变种。AI-Infra-Guard(A.I.G) 正是为解决这一痛点而生。
A.I.G 由**腾讯安全平台部朱雀实验室(Tencent Zhuque Lab)**主导开发。朱雀实验室成立于 2019 年,是腾讯在 AI 安全领域最顶尖的实战攻防团队,研究方向覆盖大模型安全、AI 智能体安全、AI 赋能安全与 AIGC 检测等多个维度。
这支团队的战绩颇为亮眼:曾协助 英伟达、谷歌、微软 等国际巨头修复大量高危漏洞,并获得官方公开致谢;同时为 OpenClaw、Linux 基金会、Hugging Face 等开源社区填补安全盲区。研究成果广泛发表于 Black Hat、DEF CON、ICLR、CVPR、NeurIPS、ACL 等国际顶级会议,并出版了专著《AI 安全:技术与实战》。如此背景的团队出手,项目的技术深度和实战价值不言而喻。
A.I.G 集成了五大核心扫描能力,覆盖从基础设施到模型行为的完整攻击面:
ClawScan(OpenClaw 安全体检) 提供一键式安全评估,检测不安全配置、Skill 风险、CVE 漏洞及隐私泄露等问题。无需逐项排查,一条命令即可生成完整的安全报告。
Agent Scan 专为 AI Agent 工作流安全评估设计,支持对运行在 Dify、Coze 等平台上的 Agent 进行深度扫描,捕捉工作流配置错误、工具滥用和权限边界漏洞。
MCP Server & Agent Skills 扫描 针对 Model Context Protocol 生态中的 14 大类安全风险进行专项检测,支持上传源代码压缩包或直接传入 GitHub 仓库 URL 两种方式,灵活适配不同场景。
AI Infra 漏洞扫描 覆盖 64 种主流 AI 开源 Web 组件,漏洞库收录 1300+ 已知 CVE,涵盖 Ollama、ComfyUI、vLLM、n8n、Triton Inference Server 等几乎所有常见框架。支持批量 IP 段扫描和 CIDR 范围探测,适合大规模内网资产排查。
Jailbreak Evaluation(越狱评估) 提供精选数据集与越狱攻击算法,可快速评估大语言模型的护栏有效性和内生安全风险,并支持跨模型横向对比,是 Red Team 评估模型安全基线的利器。
从代码结构来看,A.I.G 采用了双语言分层架构:
Go 后端(cmd/cli) 作为核心引擎,负责高性能漏洞扫描、HTTP 请求处理和 CLI 接口。使用 tRPC 作为内部 RPC 通信框架,gin-gonic 作为 HTTP 框架,SQLite 存储扫描任务数据。Go 侧引入了 projectdiscovery 系列工具包(fastdialer、fdmax、hmap、rawhttp、retryablehttp)进行高效的 HTTP 探测,并集成了 go-rod 进行无头浏览器操作——这是扫描 SPA 和 JavaScript 密集型 AI Web 界面所必需的。
Python 子系统 包含三个独立模块:agent-scan(AI Agent 安全扫描客户端,支持 OpenAI SDK 与 WebSocket provider)、mcp-scan(MCP Server 安全扫描,支持 pytest 测试框架)、AIG-PromptSecurity(提示词安全扫描,CLI 工具形态)。
Web UI 独立部署于 http://localhost:8088,提供图形化扫描任务管理、实时进度跟踪和报告导出。API 文档集成 Swagger,第三方系统可通过 REST API 集成扫描能力。
对于大多数用户,A.I.G 的部署流程极为友好。项目提供三种安装方式:
Docker 一键部署(推荐):拉取预构建镜像,5 分钟内启动 Web 服务:克隆仓库后执行 docker-compose -f docker-compose.images.yml up -d,然后访问 http://localhost:8088 即可。
一键安装脚本:自动安装 Docker 并启动服务,适合全新环境:执行官方提供的 docker.sh 脚本即可全自动完成部署。
源码编译:如果需要定制化修改,从源代码构建 Docker 镜像。
硬件需求亲民:无需 GPU,4GB+ RAM、10GB 磁盘即可运行标准扫描任务。需要注意的是,项目明确指出暂无鉴权机制,适合在隔离内网环境使用,不建议直接部署在公网。
A.I.G 的出现填补了 AI 安全领域的一个关键空白:在此之前,AI 组件的漏洞扫描主要依赖通用网络扫描工具,对 AI 框架特有的指纹和漏洞模式识别不足;而人工渗透测试成本高昂,难以高频重复。A.I.G 将安全研究团队的实战经验固化为可复用的自动化工具,大幅降低了 AI 安全评估的门槛。
项目采用 Apache License 2.0 开源,完全免费,且支持插件化扩展——用户可以通过提交指纹规则、漏洞规则和 MCP 安全规则参与贡献,形成正向的安全生态循环。
局限方面,Agent Scan 目前需要接入外部 LLM provider,扫描质量受模型能力影响;Jailbreak Evaluation 需要有明确的目标模型 API 接入点;另外,作为腾讯内部工具演进而来的平台,部分模块对中文 AI 场景的覆盖深度还有提升空间。
总体而言,AI-Infra-Guard 是当前开源生态中功能最全面、覆盖最广泛的 AI 安全红队平台之一,无论你是 AI 应用开发者、安全研究员,还是企业安全团队,都值得将它纳入安全工具链的必备选项。