腾讯开源AI安全“红队演练平台”：一站式检测大模型与智能体系统漏洞

昆仑 AI

2026-08-21 0 54

AI-Infra-Guard 是腾讯推出的开源AI安全评估平台，专为防御日益复杂的AI攻击而设计。它不是简单的提示词测试工具，而是覆盖“大模型→智能体（Agent）→技能模块→基础设施”的全栈式红队演练系统，能主动发现LLM越狱、提示注入、技能滥用、MCP协议缺陷及AI底座配置风险等真实生产环境中的安全隐患。在企业加速部署AI应用却缺乏专业安全验证能力的当下，它填补了从研发到上线前关键的安全验证空白。

核心功能

LLM越狱与对抗测试：内置200+高质量越狱提示模板（含DAN、STT、多轮诱导等变体），支持自动迭代生成新攻击向量，量化评估模型抗干扰能力
智能体（Agent）安全扫描：模拟恶意用户对Agent工作流发起攻击，检测工具调用权限失控、目标劫持、上下文污染等高危行为
技能模块（Skills）深度审计：自动解析Function Calling、Tool Use等接口定义，识别未授权API暴露、参数注入点及敏感操作绕过路径
MCP协议安全检查：针对新兴的Model Communication Protocol（MCP）标准，验证服务端认证缺失、消息篡改、会话重放等通信层漏洞
AI基础设施（AI Infra）配置审计：检查推理服务（如vLLM、Triton）、向量数据库、RAG缓存等组件的默认配置风险，如开放调试端口、弱鉴权策略
自动化报告与修复建议：生成分级漏洞报告（Critical/High/Medium），附带可复现的PoC代码和具体加固指引，支持对接CI/CD流程

适合哪些人用

AI-Infra-Guard 主要面向三类实践者：一是AI平台工程师——需保障自研大模型服务、Agent框架或MCP网关上线前的安全基线；二是AI安全研究员与红队人员——快速构建AI专项攻防靶场，验证新型攻击手法并输出行业级评估指标；三是企业AI治理团队——在采购或接入第三方AI服务（如智能客服Agent、RAG助手）前，进行独立、可审计的安全尽职调查。普通开发者若正在搭建具备联网、工具调用能力的AI应用，也应将其纳入开发测试环节。

快速上手

项目采用纯Python实现，兼容主流Linux/macOS环境。推荐使用Python 3.9+：

pip install ai-infra-guard
ai-infra-guard scan --target llm --model-url http://localhost:8000/v1/chat/completions --api-key sk-xxx
ai-infra-guard scan --target agent --config agent_config.yaml
ai-infra-guard report --format html --output ./report.html

支持命令行一键扫描，也提供Python SDK供集成到自有平台。详细配置说明、预置攻击策略集及Docker部署方案见GitHub Wiki，新手可5分钟跑通首个LLM越狱检测任务。