guardrails-ai/guardrails

Что это?

Ключевые возможности

• 01Guard-механизмы для проверки входных данных и ответов LLM с помощью настраиваемых валидаторов.
• 02Готовые валидаторы из Guardrails Hub, например для проверки регулярных выражений, упоминаний конкурентов и обнаружения токсичных высказываний.
• 03Генерация структурированных данных с помощью LLM на основе моделей Pydantic.
• 04Вызов функций и инструкции со схемой в промпте для моделей с разными возможностями.
• 05Отдельный сервер с REST API и совместимой с OpenAI конечной точкой.

Сценарии использования

• Фильтрация токсичного или не относящегося к теме контента в чат-боте до того, как его увидят пользователи.
• Предотвращение упоминаний конкурентами ассистента или утечки ограниченной информации.
• Получение ответов LLM в фиксированной структуре JSON для последующей обработки кодом.
• Добавление слоя валидации в существующее приложение на базе OpenAI без переписывания клиентского кода.

Быстрый старт

1. 1

   Установите пакет guardrails-ai

   pip install guardrails-ai
2. 2

   Настройте Guardrails Hub CLI

   guardrails configure
3. 3

   Установите валидатор из Guardrails Hub

   pip install guardrails-ai-regex-match
4. 4

   Создайте Guard с установленным валидатором и запустите его, как показано в README

Что важно знать

• !Guardrails прекращает предоставлять размещённый сервис удалённого инференса; его отключение запланировано на 25 августа 2026 года.
• !Валидаторы переносятся в отдельные пакеты PyPI, которые необходимо устанавливать по одному.

Темы

Частые вопросы

Что такое guardrails?

Python-фреймворк для проверки входных данных и ответов LLM-приложений и генерации структурированных данных по заданной схеме. Guardrails — это Python-фреймворк, который помогает повысить надёжность приложений на базе LLM. Он проверяет входные данные и ответы с помощью guard-механизмов, выявляющих, оценивающих и снижающих конкретные риски. Такие механизмы собираются из валидаторов, которые можно объединить в один guard. Валидаторы распространяются через Guardrails Hub, а каждый из них можно установить отдельно с помощью pip.

guardrails можно использовать бесплатно? Какая у него лицензия?

guardrails распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.

guardrails всё ещё поддерживается?

Активно поддерживается. Последний коммит в guardrails — 15 окт. 2026 г..

Для чего можно использовать guardrails?

Фильтрация токсичного или не относящегося к теме контента в чат-боте до того, как его увидят пользователи. Предотвращение упоминаний конкурентами ассистента или утечки ограниченной информации. Получение ответов LLM в фиксированной структуре JSON для последующей обработки кодом. Добавление слоя валидации в существующее приложение на базе OpenAI без переписывания клиентского кода.

Как установить guardrails?

Установите пакет guardrails-ai: pip install guardrails-ai Настройте Guardrails Hub CLI: guardrails configure Установите валидатор из Guardrails Hub: pip install guardrails-ai-regex-match Создайте Guard с установленным валидатором и запустите его, как показано в README

Где скачать guardrails?

Исходный код и инструкции по установке — на GitHub: https://github.com/guardrails-ai/guardrails