Repolode
Enviar
dottxt-ai

dottxt-ai/outlines

Biblioteca Python que restringe as saídas de LLMs durante a geração para corresponderem a um tipo, regex, JSON schema ou gramática especificados.

Ver no GitHubSite
Estrelas
15,952
Forks
907
Issues abertas
197
Último commit
há 29 dias

O que é?

Outlines é uma biblioteca Python para geração estruturada com modelos de linguagem grandes. Em vez de analisar e corrigir texto livre depois da resposta do modelo, ela orienta a geração para que a saída sempre corresponda ao tipo solicitado, como uma opção Literal, um int ou um modelo Pydantic.

Você chama um modelo encapsulado com um prompt e um tipo de saída. A biblioteca oferece suporte a padrões regex, JSON schemas, gramáticas livres de contexto e tipos Python, além de inferir a estrutura a partir de assinaturas de funções. Os prompts podem ser criados com templates reutilizáveis baseados em Jinja.

O README lista integrações com transformers, llama.cpp, vLLM, Ollama, OpenAI e Gemini. O projeto é desenvolvido pela equipe da .txt.

Recursos principais

  • 01Restringe a geração a opções Literal, ints e modelos Pydantic.
  • 02Oferece suporte a padrões regex, JSON schemas e gramáticas livres de contexto.
  • 03Infere a estrutura de saída necessária a partir de assinaturas de funções.
  • 04Oferece templates de prompt baseados em Jinja, que podem ser reutilizados ou carregados de arquivos.
  • 05Funciona com modelos locais via transformers e llama.cpp, e com servidores como vLLM e Ollama.

Casos de uso

  • Extrair registros estruturados, como chamados ou eventos, de texto livre.
  • Classificar documentos ou produtos em um conjunto fixo de categorias.
  • Transformar solicitações em linguagem natural em argumentos para chamadas de funções.
  • Criar templates de prompt reutilizáveis para processamento de LLMs em lote.

Início rápido

  1. 1

    Instale outlines

    pip install outlines
  2. 2

    Carregue um modelo e execute uma geração estruturada (consulte o código completo em Quickstart no README)

Antes de usar

  • Os exemplos no README usam modelos do Hugging Face Transformers, que podem precisar de uma GPU para oferecer boa velocidade.
  • A API .txt hospedada está em acesso antecipado e é necessário solicitar acesso.

Tópicos

#llm#structured-generation#json-schema#regex#prompt-engineering#python#generative-ai#cfg#json#llms

Perguntas frequentes

O que é outlines?
Biblioteca Python que restringe as saídas de LLMs durante a geração para corresponderem a um tipo, regex, JSON schema ou gramática especificados. Outlines é uma biblioteca Python para geração estruturada com modelos de linguagem grandes. Em vez de analisar e corrigir texto livre depois da resposta do modelo, ela orienta a geração para que a saída sempre corresponda ao tipo solicitado, como uma opção Literal, um int ou um modelo Pydantic.
outlines é gratuito? Qual é a licença?
outlines é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
outlines ainda é mantido?
Manutenção ativa. O último commit de outlines foi em 21 de set. de 2026.
Para que posso usar outlines?
Extrair registros estruturados, como chamados ou eventos, de texto livre. Classificar documentos ou produtos em um conjunto fixo de categorias. Transformar solicitações em linguagem natural em argumentos para chamadas de funções. Criar templates de prompt reutilizáveis para processamento de LLMs em lote.
Como instalar outlines?
Instale outlines: pip install outlines Carregue um modelo e execute uma geração estruturada (consulte o código completo em Quickstart no README)
Onde consigo outlines?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/dottxt-ai/outlines

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados