Repolode
Предложить
preferencemodel

preferencemodel/karotte

Открытый Python-фреймворк для создания надёжных RL-сред, где задачи для агентов выполняются в изолированных виртуальных машинах, чтобы обучать AI с учётом человеческих предпочтений.

Открыть на GitHub
Звёзды
186
Форки
21
Открытые issues
9
Последний коммит
вчера

Что это?

Karotte — фреймворк для создания сред обучения с подкреплением от Preference Model. Среда создаётся на основе шаблона и задаёт задачи, которые AI-модель решает шаг за шагом. При каждом запуске собирается образ, а задача выполняется в локальной виртуальной машине; ход выполнения сохраняется в JSON-файл и отображается во встроенной панели.

По умолчанию запуски выполняются в локальной виртуальной машине: в Apple container на macOS и Firecracker на Linux. Для запуска в виртуальной машине на Modal доступна среда выполнения Modal; также можно использовать локальные Docker или Podman. Требуются Python 3.12+ и uv. Шаблон `language-toolchains` включает компиляторы и среды выполнения для многих языков, в том числе некоторые компоненты под лицензиями GPL и LGPL.

Типичный рабочий процесс: выполнить `karotte create-env`, синхронизировать зависимости, задать ключ API модели, а затем запустить `karotte run`, указав выбранную модель. Проект распространяется по лицензии MIT, а входящие в комплект шаблоны — по MIT-0.

Ключевые возможности

  • 01Создаёт среды на основе шаблонов, включая шаблон по умолчанию с примером задачи.
  • 02Запускает задачи в локальных виртуальных машинах на macOS (Apple container) и Linux (Firecracker).
  • 03Поддерживает Modal, Docker и Podman в качестве альтернативных сред выполнения.
  • 04Сохраняет ход выполнения в JSON и предоставляет панель для его просмотра.
  • 05Включает шаблон language-toolchains с компиляторами для многих языков программирования.

Сценарии использования

  • Создание RL-сред для оценки или обучения AI-моделей на многоэтапных задачах.
  • Запуск задач, управляемых моделью, в изолированных виртуальных машинах.
  • Сравнение результатов разных моделей на одной задаче и просмотр журналов их выполнения.

Быстрый старт

  1. 1

    Установите инструмент karotte с помощью uv

    uv tool install karotte
  2. 2

    Создайте среду на основе шаблона по умолчанию

    karotte create-env my_env
  3. 3

    Перейдите в каталог, синхронизируйте зависимости и настройте данные

    cd my_env && uv sync --extra dev && uv run setup_data.py
  4. 4

    Укажите API-ключ Anthropic и запустите пример задачи

    export ANTHROPIC_API_KEY=... && uv run karotte run --task example-task --model anthropic/claude-opus-5-5

Что важно знать

  • Требуются Python 3.12 или новее и uv, а также локальная среда выполнения VM (Apple container на macOS или Firecracker на Linux) либо Modal, docker или podman.
  • Для запуска примера задачи необходим API-ключ Anthropic.

В подборках

Фреймворки и среды для обучения с подкреплениемФреймворки тестирования и инструменты автоматизации тестов

Темы

#reinforcement-learning#ai-safety#sandbox#virtual-machine#llm-evaluation#python

Частые вопросы

Что такое karotte?
Открытый Python-фреймворк для создания надёжных RL-сред, где задачи для агентов выполняются в изолированных виртуальных машинах, чтобы обучать AI с учётом человеческих предпочтений. Karotte — фреймворк для создания сред обучения с подкреплением от Preference Model. Среда создаётся на основе шаблона и задаёт задачи, которые AI-модель решает шаг за шагом. При каждом запуске собирается образ, а задача выполняется в локальной виртуальной машине; ход выполнения сохраняется в JSON-файл и отображается во встроенной панели.
karotte можно использовать бесплатно? Какая у него лицензия?
karotte распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
karotte всё ещё поддерживается?
Активно поддерживается. Последний коммит в karotte — 5 нояб. 2026 г..
Для чего можно использовать karotte?
Создание RL-сред для оценки или обучения AI-моделей на многоэтапных задачах. Запуск задач, управляемых моделью, в изолированных виртуальных машинах. Сравнение результатов разных моделей на одной задаче и просмотр журналов их выполнения.
Как установить karotte?
Установите инструмент karotte с помощью uv: uv tool install karotte Создайте среду на основе шаблона по умолчанию: karotte create-env my_env Перейдите в каталог, синхронизируйте зависимости и настройте данные: cd my_env && uv sync --extra dev && uv run setup_data.py Укажите API-ключ Anthropic и запустите пример задачи: export ANTHROPIC_API_KEY=... && uv run karotte run --task example-task --model anthropic/claude-opus-5-5
Где скачать karotte?
Исходный код и инструкции по установке — на GitHub: https://github.com/preferencemodel/karotte

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

cvs-health / uqlm

Python-библиотека для оценки вероятности галлюцинаций в ответах LLM с помощью количественной оценки неопределённости и black-box, white-box, judge- и ensemble-оценщиков.

ИИ и машинное обучение#hallucination-detection#uncertainty-quantification#llm-evaluation
1,2 тыс.+2 за неделю140PythonApache-2.0Активно поддерживаетсяОбновлён 24 дня назад

ifixai-ai / iFixAi

Python CLI для аудита AI-агентов по 61 проверке: он выявляет, выходят ли агенты за рамки своей роли, поддаются ли манипуляциям и выдумывают ли факты.

ИИ и машинное обучение#agent-evaluation#ai-safety#llm-evaluation
43,6 тыс.+4,6 тыс. за неделю1,8 тыс.PythonApache-2.0Обновлён 18 часов назад

PacificAI / langtest

Python-библиотека для запуска тестов на устойчивость, смещения, справедливость и точность NLP-моделей и LLM одной строкой кода.

ИИ и машинное обучение#ai-testing#llm-evaluation#nlp
56153PythonApache-2.0Активно поддерживаетсяОбновлён 2 месяца назад