generative-computing/mellea

Что это?

Ключевые возможности

• 01Преобразует типизированные функции Python в вызовы LLM со схемами выходных данных, проверяемыми с помощью Pydantic.
• 02Позволяет задавать для вызовов требования на естественном языке и повторяет их, пока требования не будут выполнены.
• 03Позволяет переключаться между стратегиями сэмплирования, например rejection sampling и majority voting.
• 04Поддерживает бэкенды Ollama, OpenAI, HuggingFace, WatsonX, LiteLLM и Bedrock.
• 05Позволяет внедрять библиотеку в существующий код с помощью хелпера mify.
• 06Предоставляет генеративные программы как инструменты MCP.

Сценарии использования

• Извлечение структурированных записей, например профилей или полей, из неструктурированного текста.
• Добавление проверки результатов и автоматических повторных попыток на этапах LLM в промышленном конвейере.
• Оборачивание функций LLM в инструменты MCP для агентных фреймворков.
• Сравнение стратегий сэмплирования для повышения качества ответов без изменения кода приложения.

Быстрый старт

1. 1

   Установите библиотеку с помощью uv

   uv pip install mellea
2. 2

   Сохраните пример из README и запустите его (нужен работающий бэкенд LLM, например Ollama)

Что важно знать

• !Для каждого вызова LLM нужен настроенный бэкенд, например Ollama, OpenAI или WatsonX, поэтому доступ к модели необходимо обеспечить самостоятельно.

В подборках

Темы

Частые вопросы

Что такое mellea?

Библиотека Python для создания генеративных программ, превращающих типизированные вызовы LLM в структурированные, тестируемые и самопроверяющиеся AI-процессы. Mellea — библиотека Python, призванная сделать конвейеры на базе LLM более предсказуемыми. Вместо написанных вручную шаблонов промптов и парсеров результатов функция с типом возвращаемого значения Pydantic и декоратором @generative становится структурированным вызовом LLM, а текст docstring используется как промпт.

mellea можно использовать бесплатно? Какая у него лицензия?

mellea распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.

mellea всё ещё поддерживается?

Активно поддерживается. Последний коммит в mellea — 6 нояб. 2026 г..

Для чего можно использовать mellea?

Извлечение структурированных записей, например профилей или полей, из неструктурированного текста. Добавление проверки результатов и автоматических повторных попыток на этапах LLM в промышленном конвейере. Оборачивание функций LLM в инструменты MCP для агентных фреймворков. Сравнение стратегий сэмплирования для повышения качества ответов без изменения кода приложения.

Как установить mellea?

Установите библиотеку с помощью uv: uv pip install mellea Сохраните пример из README и запустите его (нужен работающий бэкенд LLM, например Ollama)

Где скачать mellea?

Исходный код и инструкции по установке — на GitHub: https://github.com/generative-computing/mellea