AgentENV(简称AENV)是一个用Rust编写的开源分布式平台,专为大规模运行AI智能体(Agent)仿真环境而设计。它解决了当前大模型智能体训练中一个关键瓶颈:如何在成千上万个隔离、快速启停、资源可控的环境中,高效并行执行复杂任务(如工具调用、多步推理、环境交互)。不同于传统虚拟机或容器方案,AENV通过深度优化的快照机制与按需加载的镜像技术,在保持强隔离性的同时,将单个环境冷启动时间压至50毫秒以内,让“海量智能体+海量环境”的训练范式真正落地。
核心功能
- 毫秒级快照启停:基于Firecracker微虚拟机与定制快照引擎,环境启动/恢复<50ms,暂停<100ms,彻底告别传统容器冷启动秒级延迟
- 无感镜像扩展:依托OverlayBD技术实现OCI镜像按需加载,本地磁盘仅缓存热数据,支持TB级镜像库远超物理存储容量,无需预分发、不占满硬盘
- 弹性资源回收:空闲环境可瞬时释放CPU与内存,仅保留极小内存占用;新任务到达时毫秒级唤醒,显著降低集群闲置成本
- 跨节点统一调度:内置轻量级分布式协调器,自动感知各节点资源负载与镜像缓存状态,智能分配环境实例,支持百节点规模集群
- 开箱即用的RL训练支撑:已成功驱动Kimi K3等前沿智能体强化学习训练框架,提供标准gRPC接口与Python SDK,无缝对接主流训练流水线
- 企业级可观测性:内置覆盖率监控、环境生命周期追踪、镜像加载热力图,并提供Prometheus指标与结构化日志,运维一目了然
适合哪些人用
AgentENV面向三类核心用户:一是AI智能体研发团队,需要高频次、高并发运行沙箱环境进行工具调用测试、多轮对话评估或强化学习训练;二是大模型平台工程师,负责构建可伸缩的Agent Serving基础设施,追求低延迟、高密度与低成本;三是学术研究者,在分布式RL、环境仿真、智能体评测等方向开展实验,需要稳定、可复现且易部署的底层环境底座。如果你还在为Docker启动太慢、VM资源太重、环境隔离性不足而困扰,AENV正是为此而生。
快速上手
只需三步即可本地体验:
- 安装依赖:
cargo install agentenv-cli(需Rust 1.75+)或下载预编译二进制包(Linux x86_64 / macOS ARM64) - 启动单节点服务:
agentenv serve --listen 0.0.0.0:8080 - 提交首个环境任务:
curl -X POST http://localhost:8080/v1/environments -d '{"image": "ghcr.io/kvcache-ai/env-python:3.11", "cmd": ["python", "-c", "print(\\\"Hello from AgentENV!\\\")"]}'
完整文档、Kubernetes部署指南与Python SDK示例详见官方文档站,生产环境推荐搭配containerd + OverlayBD插件使用以发挥极致性能。
项目信息
AgentENV (AENV) is a distributed platform for running agent environments at scale.
2.7k
Stars
211
Forks
Rust
MIT
编程语言:Rust|Star 数:2729|开源协议:MIT|GitHub 项目地址
如果你正在构建下一代AI智能体系统,AgentENV不是另一个“玩具框架”,而是已在真实大模型训练场景中验证过的高性能生产级环境底座——它让智能体从实验室走向规模化落地,真正迈出了关键一步。


