Repolode
Предложить
SafeAI-Lab-X

SafeAI-Lab-X/ClawKeeper

Не зависящий от хоста слой безопасности между AI-агентами, использующими инструменты, и самими инструментами: блокирует опасные вызовы и скрывает чувствительные данные в результатах.

Открыть на GitHub
Звёзды
1,018
Форки
59
Открытые issues
7
Последний коммит
2 месяца назад

Что это?

ClawKeeper — слой безопасности для агентных систем, вызывающих инструменты: shell, Python, браузер, файловую систему и сетевые функции. Он перехватывает вызовы инструментов до выполнения и проверяет результаты после их получения, поэтому защищать хост-агента можно без переработки его основной логики. ClawKeeper можно подключить к Hermes Agent, инструментам MCP, HTTP-мостам, средам выполнения в стиле OpenClaw или собственному хосту.

Набор правил по умолчанию нацелен на распространённые проблемы безопасности агентов: prompt injection, чтение учётных данных, цепочки их эксфильтрации, опасные команды shell, доступ к защищённым путям, URL с риском SSRF, payload в кодировке base64 или hex и отравленный вывод инструментов. Хосты без Python могут обращаться к Judge API, предоставляемому HTTP-сервером.

Дополнительный демон Watcher анализирует намерения, недавнюю историю вызовов инструментов и предлагаемые вызовы, чтобы принимать решения, которые невозможно учесть правилами для отдельных команд. Обнаруженные Watcher проблемы можно преобразовать в новые шаблоны, сохраняемые в ~/.clawkeeper/ и загружаемые в работающий слой защиты без перезапуска.

Ключевые возможности

  • 01Блокирует опасные вызовы инструментов shell, Python, браузера, файловой системы и сети до их выполнения.
  • 02Скрывает чувствительные данные в результатах инструментов и проверяет возвращённый вывод на признаки отравления.
  • 03Обнаруживает цепочки эксфильтрации учётных данных и попытки доступа к защищённым путям.
  • 04Предоставляет HTTP-ядро с эндпоинтами для judge, событий, аудита и сканирования логов и навыков.
  • 05Предлагает дополнительный демон Watcher, который анализирует намерения и историю последовательных вызовов инструментов.

Сценарии использования

  • Добавление защитного слоя в развертывание Hermes Agent с помощью нескольких строк Python.
  • Защита среды выполнения агента без Python: вызов HTTP Judge API перед выполнением инструмента.
  • Аудит вызовов инструментов агентом для выявления попыток доступа к учётным данным и их эксфильтрации.
  • Обучение слоя защиты новым шаблонам атак на основе обнаружений Watcher.

Темы

#agent-security#ai-agents#tool-calling#prompt-injection#guardrails#safety#personal-agent#agents#openclaw#plugins

Частые вопросы

Что такое ClawKeeper?
Не зависящий от хоста слой безопасности между AI-агентами, использующими инструменты, и самими инструментами: блокирует опасные вызовы и скрывает чувствительные данные в результатах. ClawKeeper — слой безопасности для агентных систем, вызывающих инструменты: shell, Python, браузер, файловую систему и сетевые функции. Он перехватывает вызовы инструментов до выполнения и проверяет результаты после их получения, поэтому защищать хост-агента можно без переработки его основной логики. ClawKeeper можно подключить к Hermes Agent, инструментам MCP, HTTP-мостам, средам выполнения в стиле OpenClaw или собственному хосту.
ClawKeeper можно использовать бесплатно? Какая у него лицензия?
У ClawKeeper не указана лицензия. Код открыт, но без лицензии нет явного разрешения на его использование — уточните у автора, прежде чем на него полагаться.
ClawKeeper всё ещё поддерживается?
Обновлялся за последние 6 месяцев. Последний коммит в ClawKeeper — 17 авг. 2026 г..
Для чего можно использовать ClawKeeper?
Добавление защитного слоя в развертывание Hermes Agent с помощью нескольких строк Python. Защита среды выполнения агента без Python: вызов HTTP Judge API перед выполнением инструмента. Аудит вызовов инструментов агентом для выявления попыток доступа к учётным данным и их эксфильтрации. Обучение слоя защиты новым шаблонам атак на основе обнаружений Watcher.
Где скачать ClawKeeper?
Исходный код и инструкции по установке — на GitHub: https://github.com/SafeAI-Lab-X/ClawKeeper

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

guardana / guardana

CLI и библиотека с открытым исходным кодом для проверки файлов моделей ИИ, кода, работающих конечных точек LLM/агентов/MCP и записанных трасс агентов с отчетом о проблемах и пробелах в проверках.

Безопасность#ai-security#llm-security#red-teaming
24813PythonApache-2.0Обновлён вчера