Repolode
dottxt-ai

dottxt-ai/outlines

LLM 생성 과정에서 출력을 지정된 타입, 정규식, JSON 스키마 또는 문법에 맞도록 제한하는 Python 라이브러리입니다.

스타
15,952
포크
907
열린 이슈
197
마지막 커밋
28일 전

어떤 프로젝트인가요?

Outlines는 대규모 언어 모델을 사용한 구조화된 생성을 위한 Python 라이브러리입니다. 모델이 응답한 뒤 자유 형식 텍스트를 파싱하고 수정하는 대신, Literal 선택지, int, Pydantic 모델 등 요청한 타입에 항상 맞도록 출력을 생성하게 합니다.

래핑된 모델에 프롬프트와 출력 타입을 전달해 호출합니다. 정규식 패턴, JSON 스키마, 문맥 자유 문법, Python 타입을 지원하며 함수 시그니처에서 구조를 추론할 수도 있습니다. 재사용 가능한 Jinja 기반 템플릿으로 프롬프트를 만들 수 있습니다.

README에는 transformers, llama.cpp, vLLM, Ollama, OpenAI, Gemini와의 통합이 소개되어 있습니다. 이 프로젝트는 .txt 팀이 개발합니다.

핵심 기능

  • 01생성을 Literal 선택지, int, Pydantic 모델에 맞도록 제한합니다.
  • 02정규식 패턴, JSON 스키마, 문맥 자유 문법을 지원합니다.
  • 03함수 시그니처에서 필요한 출력 구조를 추론합니다.
  • 04재사용하거나 파일에서 불러올 수 있는 Jinja 기반 프롬프트 템플릿을 제공합니다.
  • 05transformers와 llama.cpp를 통한 로컬 모델, vLLM 및 Ollama 같은 서버와 함께 사용할 수 있습니다.

활용 사례

  • 자유 형식 텍스트에서 티켓이나 이벤트 같은 구조화된 레코드를 추출합니다.
  • 문서나 제품을 미리 정해진 카테고리로 분류합니다.
  • 자연어 요청을 함수 호출에 사용할 인자로 변환합니다.
  • 일괄 LLM 처리에 사용할 재사용 가능한 프롬프트 템플릿을 만듭니다.

빠른 시작

  1. 1

    outlines를 설치합니다

    pip install outlines
  2. 2

    모델을 로드하고 구조화된 생성을 실행합니다(전체 코드는 README의 Quickstart 참고)

사용 전 알아둘 점

  • README의 예제에서는 Hugging Face Transformers 모델을 사용하며, 원활한 속도를 내려면 GPU가 필요할 수 있습니다.
  • 호스팅되는 .txt API는 얼리 액세스 단계이며, 사용하려면 액세스를 신청해야 합니다.

토픽

자주 묻는 질문

outlines은(는) 무엇인가요?
LLM 생성 과정에서 출력을 지정된 타입, 정규식, JSON 스키마 또는 문법에 맞도록 제한하는 Python 라이브러리입니다. Outlines는 대규모 언어 모델을 사용한 구조화된 생성을 위한 Python 라이브러리입니다. 모델이 응답한 뒤 자유 형식 텍스트를 파싱하고 수정하는 대신, Literal 선택지, int, Pydantic 모델 등 요청한 타입에 항상 맞도록 출력을 생성하게 합니다.
outlines은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
outlines은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
outlines은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. outlines의 마지막 커밋은 2026년 9월 21일입니다.
outlines은(는) 어디에 사용할 수 있나요?
자유 형식 텍스트에서 티켓이나 이벤트 같은 구조화된 레코드를 추출합니다. 문서나 제품을 미리 정해진 카테고리로 분류합니다. 자연어 요청을 함수 호출에 사용할 인자로 변환합니다. 일괄 LLM 처리에 사용할 재사용 가능한 프롬프트 템플릿을 만듭니다.
outlines는 어떻게 설치하나요?
outlines를 설치합니다: pip install outlines 모델을 로드하고 구조화된 생성을 실행합니다(전체 코드는 README의 Quickstart 참고)
outlines은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/dottxt-ai/outlines

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트