Repolode
Enviar
preferencemodel

preferencemodel/karotte

Framework de Python de código abierto para crear entornos de RL robustos que ejecutan tareas de agentes en máquinas virtuales aisladas para entrenar una IA alineada.

Ver en GitHub
Estrellas
185
Forks
20
Issues abiertos
9
Último commit
hace 24 horas

¿Qué es?

Karotte es un framework para crear entornos de aprendizaje por refuerzo, desarrollado por Preference Model. Los entornos se crean a partir de una plantilla y definen tareas que un modelo de IA realiza paso a paso. En cada ejecución se crea una imagen y se ejecuta la tarea dentro de una máquina virtual local; la transcripción se guarda en un archivo JSON que se puede consultar en un panel integrado.

De forma predeterminada, las ejecuciones se realizan en una máquina virtual local: Apple container en macOS y Firecracker en Linux. Hay disponible un runtime de Modal para ejecutar las tareas en una máquina virtual de Modal; también se pueden usar Docker o Podman locales. Se requiere Python 3.12 o posterior y uv. La plantilla `language-toolchains` incluye compiladores y runtimes para muchos lenguajes, así como algunos componentes con licencias GPL y LGPL.

Un flujo de trabajo habitual consiste en ejecutar `karotte create-env`, sincronizar las dependencias, configurar una clave de API del modelo y, luego, llamar a `karotte run` con el modelo elegido. El proyecto tiene licencia MIT y las plantillas incluidas usan la licencia MIT-0.

Funciones clave

  • 01Crea entornos a partir de plantillas, incluida una plantilla predeterminada con una tarea de ejemplo.
  • 02Ejecuta tareas en máquinas virtuales locales en macOS (Apple container) y Linux (Firecracker).
  • 03Admite Modal, Docker y Podman como runtimes alternativos.
  • 04Guarda las transcripciones de las ejecuciones en archivos JSON y ofrece un panel para consultarlas.
  • 05Incluye una plantilla `language-toolchains` con compiladores para muchos lenguajes de programación.

Casos de uso

  • Crear entornos de RL para evaluar o entrenar modelos de IA con tareas de varios pasos.
  • Ejecutar tareas controladas por modelos en máquinas virtuales aisladas para mantenerlas en un entorno de pruebas.
  • Comparar el rendimiento de distintos modelos en una misma tarea y revisar sus transcripciones.

Inicio rápido

  1. 1

    Instala la herramienta karotte con uv

    uv tool install karotte
  2. 2

    Crea un entorno a partir de la plantilla predeterminada

    karotte create-env my_env
  3. 3

    Entra en el directorio, sincroniza las dependencias y configura los datos

    cd my_env && uv sync --extra dev && uv run setup_data.py
  4. 4

    Configura tu clave de API de Anthropic y ejecuta la tarea de ejemplo

    export ANTHROPIC_API_KEY=... && uv run karotte run --task example-task --model anthropic/claude-opus-5-5

Antes de usarlo

  • Se necesitan Python 3.12 o superior y uv, además de un entorno de ejecución de VM local (Apple container en macOS o Firecracker en Linux), o bien Modal, docker o podman.
  • Para ejecutar la tarea de ejemplo se necesita una clave de API de Anthropic.

En colecciones

Frameworks y entornos de aprendizaje por refuerzoFrameworks de pruebas y herramientas de automatización

Temas

#reinforcement-learning#ai-safety#sandbox#virtual-machine#llm-evaluation#python

Preguntas frecuentes

¿Qué es karotte?
Framework de Python de código abierto para crear entornos de RL robustos que ejecutan tareas de agentes en máquinas virtuales aisladas para entrenar una IA alineada. Karotte es un framework para crear entornos de aprendizaje por refuerzo, desarrollado por Preference Model. Los entornos se crean a partir de una plantilla y definen tareas que un modelo de IA realiza paso a paso. En cada ejecución se crea una imagen y se ejecuta la tarea dentro de una máquina virtual local; la transcripción se guarda en un archivo JSON que se puede consultar en un panel integrado.
¿karotte es gratuito? ¿Qué licencia tiene?
karotte es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿karotte sigue mantenido?
Mantenimiento activo. El último commit de karotte fue el 5 nov 2026.
¿Para qué puedo usar karotte?
Crear entornos de RL para evaluar o entrenar modelos de IA con tareas de varios pasos. Ejecutar tareas controladas por modelos en máquinas virtuales aisladas para mantenerlas en un entorno de pruebas. Comparar el rendimiento de distintos modelos en una misma tarea y revisar sus transcripciones.
¿Cómo se instala karotte?
Instala la herramienta karotte con uv: uv tool install karotte Crea un entorno a partir de la plantilla predeterminada: karotte create-env my_env Entra en el directorio, sincroniza las dependencias y configura los datos: cd my_env && uv sync --extra dev && uv run setup_data.py Configura tu clave de API de Anthropic y ejecuta la tarea de ejemplo: export ANTHROPIC_API_KEY=... && uv run karotte run --task example-task --model anthropic/claude-opus-5-5
¿Dónde consigo karotte?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/preferencemodel/karotte

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados

cvs-health / uqlm

Biblioteca de Python que evalúa la probabilidad de que las respuestas de LLM contengan alucinaciones mediante cuantificación de incertidumbre, con evaluadores black-box, white-box, de juez y de conjunto.

IA y Machine Learning#hallucination-detection#uncertainty-quantification#llm-evaluation
1,2 mil+2 esta semana140PythonApache-2.0Bien mantenidoActualizado hace 24 días