Runtime-защита для AI-агентов, которая проверяет каждый вызов инструмента и возвращает PASS, AUTH или BLOCK до выполнения действия.
superagent-ai/superagent
SDK с открытым исходным кодом защищает AI-приложения от prompt injection, маскирует персональные данные и секреты и сканирует репозитории на атаки, нацеленные на AI-агентов.
- Звёзды
- 6,847
- Форки
- 966
- Открытые issues
- 21
- Последний коммит
- 2 месяца назад
Что это?
Superagent SDK — набор инструментов для добавления проверок безопасности в приложения на базе больших языковых моделей. Метод guard проверяет пользовательский ввод во время работы приложения и обнаруживает и блокирует prompt injection, вредоносные инструкции и небезопасные вызовы инструментов. Метод redact удаляет из текста PII, PHI и секреты, заменяя их заполнителями, например <EMAIL_REDACTED>.
В SDK также есть метод scan, который анализирует репозитории на наличие атак, нацеленных на AI-агентов, таких как отравление репозитория и встроенные вредоносные инструкции. Функция тестирования с запуском red team-сценариев против production-агента указана как будущая.
Проект предоставляет SDK для TypeScript и Python, CLI и MCP-сервер для работы с Claude Code и Claude Desktop. Заявлена поддержка моделей OpenAI, Anthropic, Google, Groq и Bedrock; также доступны модели с открытыми весами, позволяющие запускать Guard на собственной инфраструктуре.
Ключевые возможности
- 01Обнаружение и блокировка prompt injection и небезопасных вызовов инструментов во время работы приложения
- 02Маскирование PII, PHI и секретов в тексте
- 03Сканирование репозиториев на отравление и вредоносные инструкции для AI-агентов
- 04SDK для TypeScript и Python, а также CLI
- 05MCP-сервер для Claude Code и Claude Desktop
Сценарии использования
- Добавление фильтрации ввода в чат-бот перед передачей данных модели
- Маскирование конфиденциальных данных клиентов в промптах или логах
- Проверка сторонних репозиториев, которые будет читать AI-агент для написания кода
- Запуск Guard на собственной инфраструктуре с моделями с открытыми весами
Быстрый старт
- 1
Зарегистрируйтесь на superagent.sh, чтобы получить API-ключ
- 2
Установите TypeScript SDK
npm install safety-agent - 3
Укажите API-ключ
export SUPERAGENT_API_KEY=your-key
Что важно знать
- Для работы Guard, redact и scan нужен API-ключ Superagent, поэтому требуются аккаунт и доступ к сети, если только вы не разместите модели с открытыми весами на собственном сервере.
- Функция Test помечена как «скоро появится» и пока недоступна.
В подборках
Темы
Частые вопросы
- Что такое superagent?
- SDK с открытым исходным кодом защищает AI-приложения от prompt injection, маскирует персональные данные и секреты и сканирует репозитории на атаки, нацеленные на AI-агентов. Superagent SDK — набор инструментов для добавления проверок безопасности в приложения на базе больших языковых моделей. Метод guard проверяет пользовательский ввод во время работы приложения и обнаруживает и блокирует prompt injection, вредоносные инструкции и небезопасные вызовы инструментов. Метод redact удаляет из текста PII, PHI и секреты, заменяя их заполнителями, например <EMAIL_REDACTED>.
- superagent можно использовать бесплатно? Какая у него лицензия?
- superagent распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- superagent всё ещё поддерживается?
- Обновлялся за последние 6 месяцев. Последний коммит в superagent — 25 авг. 2026 г..
- Для чего можно использовать superagent?
- Добавление фильтрации ввода в чат-бот перед передачей данных модели Маскирование конфиденциальных данных клиентов в промптах или логах Проверка сторонних репозиториев, которые будет читать AI-агент для написания кода Запуск Guard на собственной инфраструктуре с моделями с открытыми весами
- Как установить superagent?
- Зарегистрируйтесь на superagent.sh, чтобы получить API-ключ Установите TypeScript SDK: npm install safety-agent Укажите API-ключ: export SUPERAGENT_API_KEY=your-key
- Где скачать superagent?
- Исходный код и инструкции по установке — на GitHub: https://github.com/superagent-ai/superagent
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Открытый Python-фреймворк для red teaming систем на базе LLM и AI-агентов: имитирует атаки, выявляет уязвимости и предоставляет защитные механизмы для production.
Открытый Python-инструментарий для программно настраиваемых ограничений в диалоговых приложениях на базе LLM: он контролирует темы, сценарии диалога и ответы.
Библиотека Python для запуска eval-проверок и защитных механизмов на размещённых или локальных моделях принятия решений в стиле Jev; все проверки трейса отправляются одним запросом.
Защита перед выполнением команд, блокирующая опасные команды Git и файловой системы, а также доступ к файлам с секретами для AI-агентов, например Claude Code и Codex.
Не зависящий от хоста слой безопасности между AI-агентами, использующими инструменты, и самими инструментами: блокирует опасные вызовы и скрывает чувствительные данные в результатах.