Adrian
AI Agent运行时安全监控引擎,实时分析推理链路+行为模式,在危险操作执行前拦截
加载项目详情…
本应用为开源项目,仅供学习研究,请遵守其开源协议。
AI Agent运行时安全监控引擎,实时分析推理链路+行为模式,在危险操作执行前拦截
加载项目详情…
本应用为开源项目,仅供学习研究,请遵守其开源协议。
凌晨三点,某电商公司的AI客服Agent正在处理用户退款请求——突然,它开始遍历数据库、读取用户密码哈希、准备将数据发送到一个陌生的外部IP地址。这不是小说情节,而是AI Agent化带来的真实安全威胁:传统安全工具根本看不见它在干什么。
传统的安全监控只能看到"API被调用"、"数据库被查询",但无法理解这些行为背后的意图和上下文——这个Agent为什么要读取密码哈希?它是在正常处理还是在数据泄露?直到2025年,OpenAI与DeepMind联合研究才指出:仅靠行为监控的检测准确率远低于同时分析行为+推理链路的方案。
Secure Agentics 公司推出的 Adrian 正是这一研究的工程化实现——它是目前首个开源的AI Agent运行时安全监控与控制引擎,填补了Agent安全领域的空白。
AI Agent与传统AI应用的根本区别在于:Agent能自主规划、自主行动、自主调用工具。这意味着Agent拥有类似特权账户的权限——可以读写文件、调用API、操作数据库、发送邮件。但传统安全工具(RASP、网络监控、静态分析)都是在Agent"行动之后"才感知,无法在"行动之前"介入。
2024-2025年,Agent安全事件频发:Prompt注入攻击通过恶意输入让Agent泄露敏感数据;工具投毒让Agent调用了伪造的危险工具;越权行为让客服Agent自行修改了管理员权限。问题的根源在于:没有人在Agent做决策的路径上加一道安检。
Adrian的核心理念是:在Agent的每一次工具调用执行之前,先过一遍"安检门"——分析它的推理链路和行为意图,判断是否超出授权范围,必要时直接阻断。
第一层:推理链路分析(Reasoning Analysis)
Adrian不仅监控Agent做了什么,更分析它为什么这么做。通过解析Agent的思维链(Chain-of-Thought)和中间推理结果,Adrian能够理解当前行动的上下文——它正在处理什么任务?前几步做了什么?这与用户原始指令是否一致?
第二层:行为模式检测(Behaviour Detection)
检测Agent的工具调用模式是否异常,包括:
第三层:实时干预(Intervention)
支持两种模式:
Adrian采用三层架构设计:
SDK层(Python / TypeScript)
Python SDK通过LangChain/LangGraph的回调机制自动注入,零代码侵入。只需 pip install adrian-sdk 并配置API Key,即可对现有Agent添加安全监控。TypeScript SDK面向Node.js生态,同样支持零侵入集成。SDK负责捕获Agent的工具调用、推理链路和输出结果,通过WebSocket实时上报给后端引擎。
后端引擎(Go)
核心检测引擎由Go编写,选择Go的原因是看重其高并发WebSocket处理能力和嵌入式SQLite数据库的部署简便性。后端模块包括:
engine/:AI推理分析引擎,使用Few-shot Learning进行分类判断store/:SQLite数据持久化(会话、事件、策略、用户等)ws/:WebSocket协议处理,支持多客户端长连接api/:REST API,提供Dashboard和SDK的数据接口alerts/:告警分发,支持Webhook/Discord等渠道notifications/:通知调度前端面板(Next.js + Tailwind)
提供完整的Web管理界面,包括:
Claude Code插件
Adrian还提供了原生的Claude Code集成,可在终端中实时拦截危险操作——当Claude Code调用 rm -rf / 这样的危险命令时,Adrian会弹出提示框,等待人工确认后再决定是否放行。
推荐:使用Docker手动构建
Adrian提供了三个独立的Dockerfile:
deploy/Dockerfile.backend:Go后端服务,包含WebSocket协议处理和AI推理引擎deploy/Dockerfile.frontend:Next.js管理面板,需要Node.js构建deploy/Dockerfile.setup:Python安装脚本,负责SQLite数据库初始化和管理员账号创建部署流程需要依次构建三个镜像、初始化数据库、配置环境变量。官方计划后续推出 docker-compose 一键部署脚本,当前版本需要手动编排。
SDK快速集成
对于只需要SDK监控能力的用户,pip install adrian-sdk 后注册API Key即可。SDK会自动检测LangChain/LangGraph环境并注入监控代码,无需修改现有Agent代码。
Adrian的出现标志着AI Agent安全从"亡羊补牢"走向"预防为主"。其核心技术——行为+推理联合分析——已被OpenAI和DeepMind的联合研究验证,能够比纯行为监控提升35%的检测准确率,并捕获4倍以上的复杂攻击。随着AI Agent在企业中的普及,这类运行时安全工具正在成为Agent基础设施的必要组件,而非可选项。
项目快速信息