Um harness de avaliação para testar LLMs como agentes autônomos, com 300 tarefas verificadas por humanos e avaliadas por conclusão, segurança e robustez.
906+39 esta semana96PythonMITAtualizado há 11 horas
preferencemodel/karotte
Framework open source em Python para criar ambientes robustos de RL que executam tarefas de agentes em VMs isoladas para treinar IA alinhada.
- Estrelas
- 186
- Forks
- 21
- Issues abertas
- 9
- Último commit
- há 23 horas
O que é?
Karotte é um framework para criar ambientes de aprendizado por reforço, desenvolvido pela Preference Model. Um ambiente é criado a partir de um template e define tarefas que um modelo de IA executa passo a passo. Cada execução cria uma imagem e executa a tarefa em uma VM local, registrando a transcrição em um arquivo JSON que pode ser visualizado em um dashboard integrado.
Por padrão, as execuções usam uma VM local: Apple container no macOS e Firecracker no Linux. Há um runtime Modal para executar em uma VM no Modal, e também é possível usar Docker ou Podman localmente. Requer Python 3.12+ e uv. O template `language-toolchains` inclui compiladores e runtimes para várias linguagens, com alguns componentes GPL e LGPL.
Um fluxo de trabalho típico consiste em executar `karotte create-env`, sincronizar as dependências, definir uma chave de API do modelo e, em seguida, chamar `karotte run` com o modelo escolhido. O projeto usa a licença MIT, e os templates incluídos usam MIT-0.
Recursos principais
- 01Cria ambientes a partir de templates, incluindo um template padrão com uma tarefa de exemplo.
- 02Executa tarefas em VMs locais no macOS (Apple container) e no Linux (Firecracker).
- 03Oferece suporte a Modal, Docker e Podman como runtimes alternativos.
- 04Registra as transcrições das execuções em JSON e oferece um dashboard para visualizá-las.
- 05Inclui um template `language-toolchains` com compiladores para várias linguagens de programação.
Casos de uso
- Criar ambientes de RL para avaliar ou treinar modelos de IA em tarefas com várias etapas.
- Executar tarefas orientadas por modelos em VMs isoladas para manter a execução em sandbox.
- Comparar o desempenho de diferentes modelos na mesma tarefa e analisar as transcrições.
Início rápido
- 1
Instale a ferramenta karotte com uv
uv tool install karotte - 2
Crie um ambiente a partir do template padrão
karotte create-env my_env - 3
Acesse o diretório, sincronize as dependências e configure os dados
cd my_env && uv sync --extra dev && uv run setup_data.py - 4
Configure sua chave de API da Anthropic e execute a tarefa de exemplo
export ANTHROPIC_API_KEY=... && uv run karotte run --task example-task --model anthropic/claude-opus-5-5
Antes de usar
- É necessário ter Python 3.12 ou superior e uv, além de um runtime de VM local (Apple container no macOS ou Firecracker no Linux) ou Modal, docker ou podman.
- Para executar a tarefa de exemplo, é necessária uma chave de API da Anthropic.
Em coleções
Tópicos
Perguntas frequentes
- O que é karotte?
- Framework open source em Python para criar ambientes robustos de RL que executam tarefas de agentes em VMs isoladas para treinar IA alinhada. Karotte é um framework para criar ambientes de aprendizado por reforço, desenvolvido pela Preference Model. Um ambiente é criado a partir de um template e define tarefas que um modelo de IA executa passo a passo. Cada execução cria uma imagem e executa a tarefa em uma VM local, registrando a transcrição em um arquivo JSON que pode ser visualizado em um dashboard integrado.
- karotte é gratuito? Qual é a licença?
- karotte é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
- karotte ainda é mantido?
- Manutenção ativa. O último commit de karotte foi em 5 de nov. de 2026.
- Para que posso usar karotte?
- Criar ambientes de RL para avaliar ou treinar modelos de IA em tarefas com várias etapas. Executar tarefas orientadas por modelos em VMs isoladas para manter a execução em sandbox. Comparar o desempenho de diferentes modelos na mesma tarefa e analisar as transcrições.
- Como instalar karotte?
- Instale a ferramenta karotte com uv: uv tool install karotte Crie um ambiente a partir do template padrão: karotte create-env my_env Acesse o diretório, sincronize as dependências e configure os dados: cd my_env && uv sync --extra dev && uv run setup_data.py Configure sua chave de API da Anthropic e execute a tarefa de exemplo: export ANTHROPIC_API_KEY=... && uv run karotte run --task example-task --model anthropic/claude-opus-5-5
- Onde consigo karotte?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/preferencemodel/karotte
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
SDK e CLI Python para criar, implantar e executar ambientes de RL agênticos em contêineres e as tarefas que avaliam os agentes neles.
415+20 esta semana55PythonApache-2.0Bem mantidoAtualizado há 3 horas
Biblioteca Python que avalia a probabilidade de respostas de LLM conterem alucinações usando quantificação de incerteza, com scorers black-box, white-box, judge e ensemble.
IA e Machine Learning#hallucination-detection#uncertainty-quantification#llm-evaluation#confidence-estimation#llm-safety
1,2 mil+2 esta semana140PythonApache-2.0Bem mantidoAtualizado há 24 dias
Kit de pesquisa aberto do benchmark TrustLLM da ICML 2024 para avaliar a confiabilidade de LLMs em seis dimensões via CLI e Python.
635+1 esta semana69PythonMITAtualizado mês passado
Uma CLI em Python que audita agentes de IA com 61 inspeções para verificar se respeitam seu papel, resistem à manipulação e evitam inventar informações.
43,6 mil+4,6 mil esta semana1,8 milPythonApache-2.0Atualizado há 10 horas
Biblioteca Python que gera e executa testes de robustez, viés, equidade e precisão em modelos de NLP e LLMs com uma linha de código.
56153PythonApache-2.0Bem mantidoAtualizado há 2 meses