guardrails-ai/guardrails

어떤 프로젝트인가요?

핵심 기능

• 01설정 가능한 검증기로 LLM 입력과 응답을 검사하는 입력 및 출력 가드.
• 02정규식 매칭, 경쟁사 확인, 유해 언어 감지 등의 Guardrails Hub 사전 구축 검증기.
• 03Pydantic 모델을 사용한 LLM 구조화 데이터 생성.
• 04모델 기능에 따라 사용할 수 있는 function calling 및 프롬프트 기반 스키마 지침.
• 05REST API와 OpenAI 호환 엔드포인트를 제공하는 독립형 서버.

활용 사례

• 챗봇이 사용자에게 응답하기 전에 유해하거나 주제에서 벗어난 콘텐츠를 필터링합니다.
• 어시스턴트가 경쟁사 이름을 언급하거나 제한된 정보를 유출하지 못하게 합니다.
• 후속 코드에서 사용할 수 있도록 LLM 응답을 고정된 JSON 구조로 받습니다.
• 클라이언트 코드를 다시 작성하지 않고 기존 OpenAI 기반 애플리케이션에 검증 계층을 추가합니다.

빠른 시작

1. 1

   guardrails-ai 패키지를 설치합니다

   pip install guardrails-ai
2. 2

   Guardrails Hub CLI를 구성합니다

   guardrails configure
3. 3

   Guardrails Hub에서 검증기를 설치합니다

   pip install guardrails-ai-regex-match
4. 4

   README에 나온 것처럼 설치한 검증기를 사용해 Guard를 만들고 실행합니다

사용 전 알아둘 점

• !Guardrails는 호스팅 원격 추론 서비스를 중단할 예정이며, 종료일은 2026년 8월 25일입니다.
• !검증기는 각각 개별적으로 설치해야 하는 별도의 PyPI 패키지로 이전 중입니다.

토픽

자주 묻는 질문

guardrails은(는) 무엇인가요?

LLM 애플리케이션에 입력 및 출력 가드를 추가하고, LLM 응답에서 검증된 구조화 데이터를 생성하는 Python 프레임워크입니다. Guardrails는 LLM 기반 애플리케이션의 신뢰성을 높이는 Python 프레임워크입니다. 입력과 출력을 검사하는 가드를 실행해 특정 위험을 감지하고, 정량화하고, 완화합니다. 가드는 여러 검증기를 조합해 만들 수 있습니다. 검증기는 Guardrails Hub를 통해 배포되며, 각각 pip로 별도 패키지처럼 설치할 수 있습니다.

guardrails은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

guardrails은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

guardrails은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. guardrails의 마지막 커밋은 2026년 10월 15일입니다.

guardrails은(는) 어디에 사용할 수 있나요?

챗봇이 사용자에게 응답하기 전에 유해하거나 주제에서 벗어난 콘텐츠를 필터링합니다. 어시스턴트가 경쟁사 이름을 언급하거나 제한된 정보를 유출하지 못하게 합니다. 후속 코드에서 사용할 수 있도록 LLM 응답을 고정된 JSON 구조로 받습니다. 클라이언트 코드를 다시 작성하지 않고 기존 OpenAI 기반 애플리케이션에 검증 계층을 추가합니다.

guardrails는 어떻게 설치하나요?

guardrails-ai 패키지를 설치합니다: pip install guardrails-ai Guardrails Hub CLI를 구성합니다: guardrails configure Guardrails Hub에서 검증기를 설치합니다: pip install guardrails-ai-regex-match README에 나온 것처럼 설치한 검증기를 사용해 Guard를 만들고 실행합니다

guardrails은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/guardrails-ai/guardrails