Repolode
uber

uber/ADR

面向企业的 AI 智能体安全系统,用于发现、观测、评测并检测编码与客服类智能体的风险行为。

Star
2,127
Fork
231
未关闭 Issue
51
最近提交
8天前

这是什么?

ADR(Agentic AI Detection and Response)是一套面向企业的 AI 智能体安全系统,覆盖员工侧使用的 Cursor、Claude Code、Codex、GitHub Copilot CLI 等工具,也适用于面向客户的 AI 客服智能体。该系统已在 Uber 内部生产环境中部署。

开源部分包括四个模块:Discovery 用于盘点终端上的 AI 应用、CLI 智能体、IDE 扩展、本地模型运行时和 MCP 服务器,并标记未知组件供审查;Sensor 用于采集并统一 Claude Code、Cursor、Codex、Gemini CLI 等工具的遥测数据;ADR-Bench 包含 300 多个任务和 134 个 MCP 服务器,覆盖 17 种智能体攻击技术;Detection 为双层检测器,先做高召回率的初筛,再对可疑会话进行更深入的推理分析。防护拦截组件和离线红队引擎不在本次开源范围内。

项目基于 Python,使用 uv 进行环境配置。检测模块支持 Anthropic 和 OpenAI 的 API 密钥,也提供无需密钥的 LlamaFirewall 模式用于冒烟测试。基准测试数据均为合成数据,仅供防御性安全研究使用。

核心功能

  • 01发现员工终端上的 AI 应用、CLI 智能体、IDE 扩展和 MCP 服务器。
  • 02统一采集 Claude Code、Cursor、Codex、Gemini CLI 等工具的遥测数据。
  • 03提供包含 300 多个任务、134 个 MCP 服务器和 17 种攻击技术的 ADR-Bench。
  • 04采用双层检测架构,先初筛再对可疑会话做深度推理。
  • 05遥测采集支持 macOS、Linux 和 Windows。

适用场景

  • 盘点工程团队中未经批准的 AI 编码工具和 MCP 服务器。
  • 审计编码智能体的行为,包括工具调用和执行轨迹。
  • 用prompt injection 及 MCP 相关攻击评测智能体防御能力。
  • 研究智能体风险行为的检测方法。

快速上手

  1. 1

    克隆仓库

    git clone https://github.com/uber/ADR
  2. 2

    进入 Detection 目录

    cd ADR/Detection
  3. 3

    使用 uv 安装依赖

    uv sync
  4. 4

    设置 Anthropic 和 OpenAI 的 API 密钥

    export ANTHROPIC_API_KEY="..." OPENAI_API_KEY="..."

使用前须知

  • 默认检测器需要付费的 Anthropic 和 OpenAI API 密钥;无密钥选项仅适用于冒烟测试。
  • 开源版本不包含防护(Prevention)组件。
  • 本仓库不包含离线 ADR Explorer 引擎。

收录于专题

标签

常见问题

ADR 是什么?
面向企业的 AI 智能体安全系统,用于发现、观测、评测并检测编码与客服类智能体的风险行为。 ADR(Agentic AI Detection and Response)是一套面向企业的 AI 智能体安全系统,覆盖员工侧使用的 Cursor、Claude Code、Codex、GitHub Copilot CLI 等工具,也适用于面向客户的 AI 客服智能体。该系统已在 Uber 内部生产环境中部署。
ADR 可以免费使用吗?用的什么许可证?
ADR 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
ADR 还在维护吗?
活跃维护中。ADR 最近一次提交是在 2026年10月31日。
ADR 适合用来做什么?
盘点工程团队中未经批准的 AI 编码工具和 MCP 服务器。 审计编码智能体的行为,包括工具调用和执行轨迹。 用prompt injection 及 MCP 相关攻击评测智能体防御能力。 研究智能体风险行为的检测方法。
ADR 怎么安装和运行?
克隆仓库: git clone https://github.com/uber/ADR 进入 Detection 目录: cd ADR/Detection 使用 uv 安装依赖: uv sync 设置 Anthropic 和 OpenAI 的 API 密钥: export ANTHROPIC_API_KEY="..." OPENAI_API_KEY="..."
在哪里获取 ADR?
源代码和安装说明在 GitHub 上:https://github.com/uber/ADR

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目