Repolode
0x4D31

0x4D31/endpoint-ai-agent-abuse

Подборка техник и реальных случаев злоупотребления локальными AI-агентами через их конфигурацию, состояние, инструменты и унаследованные права доступа.

Звёзды
100
Форки
6
Открытые issues
0
Последний коммит
4 дня назад

Что это?

EAA систематизирует способы злоупотребления AI-агентами, запущенными на рабочих станциях, в контейнерах для разработки и CI-раннерах. В проекте описано, как атакующий запускает агента, меняет его инструкции и конфигурацию, собирает историю взаимодействий и состояние, а затем использует доступ агента к файлам, инструментам и сервисам.

Для каждой техники указаны действие атакующего и необходимые предпосылки, а также уровень зрелости: осуществима, продемонстрирована в публичном исследовании или вредоносном артефакте либо зафиксирована в отчёте об инциденте или кампании. В отдельных записях о случаях отслеживается, присутствовала ли процедура, предпринималась ли попытка её выполнить, была ли она выполнена и привела ли к подтверждённым последствиям.

Проект посвящён агентам, работающим от имени пользователя или организации-жертвы. В него входят машиночитаемый каталог JSON и схема, идеи для обнаружения с указанием необходимых телеметрических данных, а также скрипт для проверки вкладов.

Ключевые возможности

  • 01Содержит 21 технику: запуск агентов, изменение конфигурации, сбор данных о состоянии, злоупотребление MCP и инструментами, а также использование унаследованных полномочий.
  • 02Присваивает каждой технике уровень зрелости: осуществима, продемонстрирована или зафиксирована.
  • 03Связывает инциденты, вредоносные артефакты и исследования с конкретными техниками.
  • 04Предлагает идеи для обнаружения, указывает необходимые телеметрические данные и ограничения.
  • 05Включает машиночитаемый каталог JSON со схемой и валидатор без зависимостей.

Сценарии использования

  • Команды безопасности, разрабатывающие правила обнаружения атак на AI-агентов, запущенных на рабочих станциях разработчиков.
  • Red team, оценивающие, как можно злоупотребить агентом через его конфигурацию или доступ к инструментам.
  • Инженеры, оценивающие риски предоставления доступа агентам в CI-раннерах или контейнерах для разработки.
  • Исследователи, которым нужна структурированная таксономия и подборка случаев злоупотребления агентами.

Быстрый старт

  1. 1

    Откройте основной каталог в репозитории

  2. 2

    Запустите валидатор без зависимостей из корня репозитория

    python3 scripts/validate.py

Что важно знать

  • В README указано, что источники и технические утверждения всё ещё нужно проверять отдельно от проверки валидатором.

В подборках

Темы

Частые вопросы

Что такое endpoint-ai-agent-abuse?
Подборка техник и реальных случаев злоупотребления локальными AI-агентами через их конфигурацию, состояние, инструменты и унаследованные права доступа. EAA систематизирует способы злоупотребления AI-агентами, запущенными на рабочих станциях, в контейнерах для разработки и CI-раннерах. В проекте описано, как атакующий запускает агента, меняет его инструкции и конфигурацию, собирает историю взаимодействий и состояние, а затем использует доступ агента к файлам, инструментам и сервисам.
endpoint-ai-agent-abuse можно использовать бесплатно? Какая у него лицензия?
endpoint-ai-agent-abuse распространяется с открытым исходным кодом под лицензией CC0-1.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
endpoint-ai-agent-abuse всё ещё поддерживается?
Активно поддерживается. Последний коммит в endpoint-ai-agent-abuse — 3 нояб. 2026 г..
Для чего можно использовать endpoint-ai-agent-abuse?
Команды безопасности, разрабатывающие правила обнаружения атак на AI-агентов, запущенных на рабочих станциях разработчиков. Red team, оценивающие, как можно злоупотребить агентом через его конфигурацию или доступ к инструментам. Инженеры, оценивающие риски предоставления доступа агентам в CI-раннерах или контейнерах для разработки. Исследователи, которым нужна структурированная таксономия и подборка случаев злоупотребления агентами.
Как установить endpoint-ai-agent-abuse?
Откройте основной каталог в репозитории Запустите валидатор без зависимостей из корня репозитория: python3 scripts/validate.py
Где скачать endpoint-ai-agent-abuse?
Исходный код и инструкции по установке — на GitHub: https://github.com/0x4D31/endpoint-ai-agent-abuse

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Сканер безопасности на Rust для аудита MCP-серверов и файлов навыков AI-агентов на предмет prompt injection, отравления инструментов, утечки секретов и рисков цепочки поставок.

99+1 за неделю20RustApache-2.0Активно поддерживаетсяОбновлён в прошлом месяце

Корпоративная система безопасности для обнаружения и инвентаризации AI-агентов, наблюдения за ними, оценки их защищённости и выявления рискованного поведения.

2,1 тыс.+38 за неделю231PythonApache-2.0Активно поддерживаетсяОбновлён 8 дней назад

Открытый межсетевой экран для AI-агентов: блокирует утечку секретов, prompt injection, SSRF и отравление MCP-инструментов, подписывая подтверждения решений.

987+11 за неделю113GoApache-2.0Активно поддерживаетсяОбновлён 3 часа назад

Контроль доступа для AI-агентов, пишущих код: блокировка чтения учётных данных, проверка рискованных действий и журналирование вызовов инструментов в Claude Code, Codex, Cursor и MCP-серверах.

225+2 за неделю21TypeScriptApache-2.0Активно поддерживаетсяОбновлён 5 часов назад

CLI и библиотека с открытым исходным кодом для проверки файлов моделей ИИ, кода, работающих конечных точек LLM/агентов/MCP и записанных трасс агентов с отчетом о проблемах и пробелах в проверках.

20317PythonApache-2.0Обновлён 14 часов назад