Agent Threat Rules：AI 代理安全扫描的开源标准

当 AI 代理开始"中毒"：一个真实的安全危机

2024年的某个深夜，某科技公司的 AI 助手突然开始向用户推荐虚假投资链接——这不是 AI "幻觉"，而是一次精心策划的提示词注入攻击。攻击者通过在网页中植入恶意指令，让 AI 在不知不觉中执行了攻击者的意图。

这并非孤例。随着 AI Agent（AI 代理）技术爆发式普及，一个严峻的安全问题浮出水面：传统的安全工具无法理解 AI 代理的运行逻辑。防火墙不知道什么是"工具中毒"，SIEM 不认识"MCP 攻击"。正如网络安全需要 Sigma 规则来标准化威胁检测，AI 代理安全也需要一套专属的检测标准——这就是 Agent Threat Rules (ATR) 诞生的背景。

项目背景：从攻击研究中诞生的行业标准

Agent Threat Rules 由安全研究员 Michael Gousie（@gousie）发起，是一个专注于 AI 代理安全威胁检测的开源规则框架。项目的核心理念是："像 Sigma 之于 SIEM 一样，为 AI 代理安全建立标准化的检测规则。"

项目的诞生源于真实的攻击研究。在与 OWASP 的合作中，团队发现 AI 代理面临四类核心威胁：

技术架构：规则即代码

ATR 的架构设计体现了"规则即代码"的理念：

# 一键安装
npm install -g agent-threat-rules

# 扫描项目
atr scan ./my-agent-project

核心特性：

1. 标准化规则格式：基于 YAML 的规则定义，兼容 MISP（威胁情报平台）和 STIX/TAXII
2. 多平台适配：提供 MCP Server、VS Code 扩展、GitHub Action、GitLab CI 等集成
3. 规则即测试：每条规则都附带测试用例，确保检测的准确性
4. 跨框架兼容：支持 Mastra、OpenShell Filter、Nemoclaw Preflight 等主流框架

技术栈：

• 语言：TypeScript + Node.js
• 包管理：npm
• CLI 工具：atr
• 规则格式：YAML + JSON Schema

快速上手：从安装到首次扫描

# 安装 CLI
npm install -g agent-threat-rules

# Docker 方式（无需 Node.js 环境）
docker run --rm -v "$PWD:/scan" ghcr.io/agent-threat-rule/agent-threat-rules scan .

# 扫描当前目录
atr scan .

# 扫描指定文件
atr scan ./src/agent.ts

# 输出 JSON 格式（便于 CI 集成）
atr scan . --format json

企业采用：从开源到行业标准

ATR 已获得多家科技巨头的认可和集成：

• Microsoft：集成到 Microsoft Defender XDR，提供 AI 代理实时保护
• Cisco：在企业安全产品中采用 ATR 规则
• Gen Digital：将其整合到终端安全解决方案
• MISP：作为官方威胁情报星系（Galaxy）发布
• FINOS：金融开源软件基金会采用

这标志着 ATR 从一个开源项目成长为行业认可的安全标准。

局限与挑战

尽管 ATR 代表了 AI 安全的重要进步，但仍面临一些挑战：

1. 规则覆盖的滞后性：AI 攻击手法不断演进，规则库需要持续更新
2. 误报问题：严格的检测规则可能产生误报，影响正常业务流程
3. 性能开销：大规模代码扫描会增加 CI/CD 流水线的执行时间
4. 跨平台一致性：不同 AI 框架的差异可能导致检测结果不一致

行业意义：AI 安全的"疫苗"

ATR 的价值在于它为 AI 代理安全提供了一套可测量、可测试、可更新的防御体系。随着 AI Agent 从实验走向生产环境，这种标准化的安全工具将成为保障 AI 系统可信度的关键基础设施。

对于安全团队而言，ATR 提供了一种主动防御的手段——在攻击发生之前，通过规则扫描发现潜在的安全风险。对于 AI 开发者而言，ATR 是 CI/CD 流水线中的安全门卫，帮助在代码合入前阻断恶意注入。

相关链接：

• GitHub: https://github.com/Agent-Threat-Rule/agent-threat-rules
• 官网: https://agentthreatrule.org
• npm: https://www.npmjs.com/package/agent-threat-rules