企业级AI助手安全卫士：Uber开源的AI代理行为监控与防御系统

昆仑 AI

2026-08-04 0 66

在工程师频繁使用Cursor、Claude Code、GitHub Copilot等AI编程助手，客服团队部署智能对话机器人之际，一个被忽视的风险正悄然浮现：这些“AI代理”可能被恶意提示词诱导执行危险操作——删库、泄露密钥、越权调用内部API。Uber推出的ADR（Agentic AI Detection and Response）正是为此而生：它不是给大模型加防火墙，而是为整个AI代理运行过程装上“行车记录仪+安全雷达+自动刹车”三位一体的防护体系。该项目已在Uber真实生产环境大规模部署，是目前少有的、经过千级并发验证的企业级AI代理安全实践。

核心功能

全平台行为可观测性：深度捕获AI代理在macOS/Linux/Windows上的完整执行链——从用户输入意图、工具调用决策（如Git操作、文件读写、HTTP请求），到最终代码生成与执行结果，支持Cursor、Claude Code、Codex等7+主流AI编码工具及内部自动化Agent。
企业级安全基准测试套件（ADR-Bench）：内置300+真实业务场景任务、覆盖全部17类AI代理攻击手法（含提示注入、上下文劫持、MCP协议滥用等），并预集成133个Model Context Protocol（MCP）服务端，让安全测试不再停留在“Hello World”级别。
双层智能威胁检测引擎：第一层采用轻量规则+统计模型实现毫秒级高召回初筛；第二层调用专用安全LLM进行多步推理分析，精准识别隐蔽风险会话（如“看似修bug实则植入后门”的异常工具链组合）。
可扩展的审计与告警中枢：提供标准化日志Schema、实时仪表盘和Slack/Email/Webhook告警接口，支持与企业现有SIEM（如Splunk、Datadog）无缝对接，满足等保2.0与GDPR审计要求。
面向AI原生架构设计：原生支持MCP（Model Context Protocol）标准，可透明拦截和检查任意遵循该协议的AI工具调用，不依赖修改底层模型或Agent框架代码。
生产就绪的部署能力：提供Docker Compose一键部署方案、Kubernetes Helm Chart及OpenTelemetry兼容指标埋点，已在Uber支撑数千名工程师日常AI协作。

适合哪些人用

AI平台工程师、企业安全团队（AppSec/MLOpsSec）、AI产品负责人以及大型技术团队的DevOps/SRE——尤其当你正在：为研发团队引入AI编程助手却担心代码污染；上线AI客服但需规避客户数据意外外泄；或构建自有AI Agent平台却缺乏运行时行为审计能力时，ADR就是你亟需的“AI时代SOC（安全运营中心）”核心组件。

快速上手

项目已提供清晰的本地开发与生产部署路径：
✅ 克隆仓库：git clone https://github.com/uber/ADR
✅ 安装依赖（Python 3.10+）：pip install -e ".[dev]"
✅ 启动观测代理（以Cursor为例）：adr-agent start --tool cursor --platform macos
✅ 运行基准测试：adr-bench run --attack prompt-injection --target copilot
✅ 查看实时仪表盘：docker-compose up -d grafana 并访问 http://localhost:3000
详细文档见官方Docs目录，含企业级配置模板与SAML单点登录集成指南。