Repolode
dottxt-ai

dottxt-ai/outlines

Python-библиотека, которая ограничивает генерацию LLM, чтобы результат соответствовал заданному типу, регулярному выражению, JSON Schema или грамматике.

Звёзды
15,952
Форки
907
Открытые issues
197
Последний коммит
28 дней назад

Что это?

Outlines — Python-библиотека для генерации структурированных данных с помощью больших языковых моделей. Вместо того чтобы разбирать и исправлять произвольный текст после ответа модели, она направляет генерацию так, чтобы результат всегда соответствовал заданному типу: например, одному из вариантов Literal, значению int или модели Pydantic.

Вы вызываете обёрнутую модель, передавая ей промпт и тип результата. Библиотека поддерживает регулярные выражения, JSON Schema, контекстно-свободные грамматики и типы Python, а также умеет выводить структуру из сигнатур функций. Промпты можно создавать на основе повторно используемых шаблонов Jinja.

В README перечислены интеграции с transformers, llama.cpp, vLLM, Ollama, OpenAI и Gemini. Проект разрабатывает команда .txt.

Ключевые возможности

  • 01Ограничивает генерацию вариантами Literal, значениями int и моделями Pydantic.
  • 02Поддерживает регулярные выражения, JSON Schema и контекстно-свободные грамматики.
  • 03Выводит необходимую структуру результата из сигнатур функций.
  • 04Предоставляет шаблоны промптов на основе Jinja, которые можно повторно использовать или загружать из файлов.
  • 05Работает с локальными моделями через transformers и llama.cpp, а также с серверами, такими как vLLM и Ollama.

Сценарии использования

  • Извлечение структурированных записей, например заявок или событий, из произвольного текста.
  • Классификация документов или товаров по фиксированному набору категорий.
  • Преобразование запросов на естественном языке в аргументы для вызова функций.
  • Создание повторно используемых шаблонов промптов для пакетной обработки с помощью LLM.

Быстрый старт

  1. 1

    Установите outlines

    pip install outlines
  2. 2

    Загрузите модель и выполните структурированную генерацию (полный код см. в разделе Quickstart файла README)

Что важно знать

  • В примерах README используются модели Hugging Face Transformers, для хорошей скорости работы которых может потребоваться GPU.
  • Размещённый API .txt находится в раннем доступе; для его использования необходимо запросить доступ.

Темы

Частые вопросы

Что такое outlines?
Python-библиотека, которая ограничивает генерацию LLM, чтобы результат соответствовал заданному типу, регулярному выражению, JSON Schema или грамматике. Outlines — Python-библиотека для генерации структурированных данных с помощью больших языковых моделей. Вместо того чтобы разбирать и исправлять произвольный текст после ответа модели, она направляет генерацию так, чтобы результат всегда соответствовал заданному типу: например, одному из вариантов Literal, значению int или модели Pydantic.
outlines можно использовать бесплатно? Какая у него лицензия?
outlines распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
outlines всё ещё поддерживается?
Активно поддерживается. Последний коммит в outlines — 21 сент. 2026 г..
Для чего можно использовать outlines?
Извлечение структурированных записей, например заявок или событий, из произвольного текста. Классификация документов или товаров по фиксированному набору категорий. Преобразование запросов на естественном языке в аргументы для вызова функций. Создание повторно используемых шаблонов промптов для пакетной обработки с помощью LLM.
Как установить outlines?
Установите outlines: pip install outlines Загрузите модель и выполните структурированную генерацию (полный код см. в разделе Quickstart файла README)
Где скачать outlines?
Исходный код и инструкции по установке — на GitHub: https://github.com/dottxt-ai/outlines

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Многоагентная система симуляции, которая создает цифровой мир на основе исходных данных и прогнозирует последствия новостей, решений или финансовых событий.

80,6 тыс.12,2 тыс.PythonAGPL-3.0Обновлён 4 дня назад

Промпт-навык для AI-агентов, который помогает писать только необходимый для задачи код, отдавая предпочтение повторному использованию и минимальным решениям.

167,5 тыс.9,1 тыс.JavaScriptMITОбновлён позавчера