Repolode
投稿する
NVIDIA-NeMo

NVIDIA-NeMo/Guardrails

LLMベースの会話アプリケーションにプログラム可能なガードレールを追加し、話題や対話の流れ、出力を制御するオープンソースのPythonツールキット。

GitHub で見る公式サイト
スター
7,333
フォーク
876
未解決の Issue
270
最終コミット
6 時間前

これは何？

NeMo Guardrailsは、アプリケーションコードと大規模言語モデルの間にプログラム可能なガードレールを設けるための、NVIDIA製ツールキットです。ガードレールによって、モデルが扱う話題、特定のリクエストへの応答方法、たどる対話の流れ、出力のスタイルや構造（構造化データの抽出など）を制御できます。

ガードレールは設定フォルダーで定義します。config.ymlでLLMと有効にするrailsを選び、Colangファイルで対話フローとルールを記述します。railsはユーザー入力、RAGパイプラインで取得したチャンク、ツール呼び出しとその結果、モデル出力に適用でき、各段階でコンテンツを拒否または書き換えられます。ライブラリには、jailbreakやプロンプトインジェクションの検出、セルフチェックによるモデレーションとファクトチェック、機密データのマスキングを行う組み込みガードレールがあり、複数のサードパーティ製モデレーション・安全性サービスとも連携できます。

このライブラリはasyncを基本としつつ、syncとasyncの両方のメソッドを提供します。また、OpenAI Chat Completions形式をモデルにしたgenerateインターフェースも備えています。chat completionsエンドポイントを持つHTTPサーバーとして、chat、server、evaluateコマンドを備えたCLI経由で、または連携を有効にしたうえでLangChainのchain内でも実行できます。

主な機能

  • 01入力、対話、検索、実行、出力に適用できるプログラム可能なrails。
  • 02対話フローの定義に使えるColang 1.0および2.0のモデリング言語。
  • 03jailbreak検出、モデレーション、ファクトチェック、機密データのマスキングに対応する組み込みガードレール。
  • 04generateおよびgenerate_asyncメソッドを備えた、asyncを基本とするPython API。
  • 05chat completionsエンドポイントを備えたHTTPサーバーに加え、CLIとDockerイメージを提供。
  • 06オプションのLangChain連携と、話題に関するrailsやハルシネーションを評価するツール。

ユースケース

  • カスタマーサポートチャットボットが話題から逸れず、決められた会話フローに沿うようにする。
  • RAGを使った質問応答システムにモデレーションとファクトチェックを追加する。
  • ユーザー入力に含まれる個人データを、LLMに渡す前にマスキングする。
  • 外部ユーザー向けのカスタムLLMエンドポイントの前段に安全性レイヤーを設ける。

クイックスタート

  1. 1

    pipでライブラリをインストールする

    pip install nemoguardrails
  2. 2

    ガードレールの設定を読み込み、LLMRailsインスタンスを作成する（Python API）

  3. 3

    メッセージを指定してrails.generateを呼び出す

使う前に知っておきたいこと

  • 設定を実行するにはLLMバックエンドとそのAPI認証情報が必要です。これらは自分で用意する必要があります。
  • デフォルトはColang 1.0で、Colang 2.0は別の構文です。設定でどちらを使うか選択する必要があります。

トピック

#llm-safety#guardrails#llm#conversational-ai#prompt-injection#content-moderation#python#agents#generative-ai#llm-security

よくある質問

Guardrails とは？
LLMベースの会話アプリケーションにプログラム可能なガードレールを追加し、話題や対話の流れ、出力を制御するオープンソースのPythonツールキット。 NeMo Guardrailsは、アプリケーションコードと大規模言語モデルの間にプログラム可能なガードレールを設けるための、NVIDIA製ツールキットです。ガードレールによって、モデルが扱う話題、特定のリクエストへの応答方法、たどる対話の流れ、出力のスタイルや構造（構造化データの抽出など）を制御できます。
Guardrails は無料で使えますか？ライセンスは？
Guardrails は Other ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
Guardrails は今もメンテナンスされていますか？
活発にメンテナンス中。Guardrails の最終コミットは 2026年10月20日 です。
Guardrails は何に使えますか？
カスタマーサポートチャットボットが話題から逸れず、決められた会話フローに沿うようにする。 RAGを使った質問応答システムにモデレーションとファクトチェックを追加する。 ユーザー入力に含まれる個人データを、LLMに渡す前にマスキングする。 外部ユーザー向けのカスタムLLMエンドポイントの前段に安全性レイヤーを設ける。
Guardrails のインストール方法は？
pipでライブラリをインストールする: pip install nemoguardrails ガードレールの設定を読み込み、LLMRailsインスタンスを作成する（Python API） メッセージを指定してrails.generateを呼び出す
Guardrails はどこで入手できますか？
ソースコードとインストール手順は GitHub にあります：https://github.com/NVIDIA-NeMo/Guardrails

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト