Repolode
Предложить
NVIDIA-NeMo

NVIDIA-NeMo/Guardrails

Открытый Python-инструментарий для программно настраиваемых ограничений в диалоговых приложениях на базе LLM: он контролирует темы, сценарии диалога и ответы.

Открыть на GitHubСайт
Звёзды
7,333
Форки
876
Открытые issues
270
Последний коммит
6 часов назад

Что это?

NeMo Guardrails — инструментарий NVIDIA, который позволяет размещать программно настраиваемые ограничения между кодом приложения и большой языковой моделью. Ограничения задают, о чём модель может говорить, как она отвечает на определённые запросы, каким сценариям диалога следует и в каком стиле или формате выдаёт результат, например извлекает структурированные данные.

Ограничения задаются в папке конфигурации. В файле config.yml выбираются LLM и активные rails, а файлы Colang описывают диалоговые сценарии и правила. Rails могут проверять пользовательский ввод, извлечённые фрагменты в конвейерах RAG, вызовы инструментов и их результаты, а также ответы модели — и отклонять или переписывать содержимое на каждом этапе. В библиотеку входят готовые ограничения для обнаружения jailbreak и prompt injection, самопроверки модерации и фактчекинга, а также маскировки конфиденциальных данных. Кроме того, она интегрируется с несколькими сторонними сервисами модерации и безопасности.

Библиотека изначально рассчитана на асинхронную работу, но предоставляет и синхронные, и асинхронные методы. Интерфейс generate устроен по образцу формата OpenAI Chat Completions. Библиотеку также можно запускать как HTTP-сервер с endpoint для chat completions, через CLI с командами chat, server и evaluate или использовать в цепочках LangChain, если включена соответствующая интеграция.

Ключевые возможности

  • 01Программно настраиваемые rails для ввода, диалога, извлечения данных, выполнения действий и вывода.
  • 02Языки моделирования Colang 1.0 и 2.0 для описания диалоговых сценариев.
  • 03Встроенные ограничения для обнаружения jailbreak, модерации, фактчекинга и маскировки конфиденциальных данных.
  • 04Асинхронный Python API с методами generate и generate_async.
  • 05HTTP-сервер с endpoint для chat completions, а также CLI и Docker-образ.
  • 06Опциональная интеграция с LangChain и инструмент оценки rails для проверки соответствия теме и выявления галлюцинаций.

Сценарии использования

  • Удерживать чат-бот поддержки клиентов в рамках темы и заданного сценария диалога.
  • Добавить модерацию и фактчекинг в систему ответов на вопросы на базе RAG.
  • Маскировать персональные данные во вводе пользователя до передачи в LLM.
  • Добавить уровень безопасности перед пользовательским endpoint собственной LLM.

Быстрый старт

  1. 1

    Установите библиотеку с помощью pip

    pip install nemoguardrails
  2. 2

    Загрузите конфигурацию guardrails и создайте экземпляр LLMRails (Python API)

  3. 3

    Вызовите rails.generate, передав сообщения

Что важно знать

  • Для запуска конфигурации необходимы бэкенд LLM и его API-учётные данные — их нужно предоставить самостоятельно.
  • По умолчанию используется Colang 1.0, а у Colang 2.0 отдельный синтаксис, поэтому в конфигурации нужно выбрать используемую версию.

Темы

#llm-safety#guardrails#llm#conversational-ai#prompt-injection#content-moderation#python#agents#generative-ai#llm-security

Частые вопросы

Что такое Guardrails?
Открытый Python-инструментарий для программно настраиваемых ограничений в диалоговых приложениях на базе LLM: он контролирует темы, сценарии диалога и ответы. NeMo Guardrails — инструментарий NVIDIA, который позволяет размещать программно настраиваемые ограничения между кодом приложения и большой языковой моделью. Ограничения задают, о чём модель может говорить, как она отвечает на определённые запросы, каким сценариям диалога следует и в каком стиле или формате выдаёт результат, например извлекает структурированные данные.
Guardrails можно использовать бесплатно? Какая у него лицензия?
Guardrails распространяется с открытым исходным кодом под лицензией Other. Перед использованием в коммерческих продуктах проверьте условия лицензии.
Guardrails всё ещё поддерживается?
Активно поддерживается. Последний коммит в Guardrails — 20 окт. 2026 г..
Для чего можно использовать Guardrails?
Удерживать чат-бот поддержки клиентов в рамках темы и заданного сценария диалога. Добавить модерацию и фактчекинг в систему ответов на вопросы на базе RAG. Маскировать персональные данные во вводе пользователя до передачи в LLM. Добавить уровень безопасности перед пользовательским endpoint собственной LLM.
Как установить Guardrails?
Установите библиотеку с помощью pip: pip install nemoguardrails Загрузите конфигурацию guardrails и создайте экземпляр LLMRails (Python API) Вызовите rails.generate, передав сообщения
Где скачать Guardrails?
Исходный код и инструкции по установке — на GitHub: https://github.com/NVIDIA-NeMo/Guardrails

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты