Repolode
Enviar
Niko1221

Niko1221/Strata

Executa o modelo Qwen3.8-Flash-Next de 125 bilhões de parâmetros em um PC doméstico com GPU NVIDIA ou AMD e disponibiliza APIs compatíveis com OpenAI e Anthropic no localhost.

Alternativa open source a:ChatGPTClaude

Ver no GitHub
Estrelas
27,379
Forks
2,899
Issues abertas
1,326
Último commit
anteontem

O que é?

Strata é um mecanismo de inferência que executa o grande modelo Qwen3.8-Flash-Next em PCs gamer comuns, sem precisar de servidores. Ele é compatível com Windows e Linux em placas de vídeo NVIDIA ou AMD com pelo menos 12 GB de VRAM e inclui um instalador de um clique que detecta o hardware e escolhe um tamanho de modelo adequado. O modelo é dividido entre a GPU, a RAM do sistema e o SSD: os experts usados com frequência ficam na placa, enquanto os demais são mantidos na RAM ou lidos do disco conforme necessário.

Depois de iniciado, o Strata disponibiliza uma API compatível com OpenAI no localhost, além de endpoints no estilo Anthropic e OpenAI Responses. Assim, aplicativos existentes e agentes de programação, como o Claude Code, podem se conectar alterando a URL base. A interface web integrada oferece chat e um monitor em tempo real do uso de GPU, CPU e RAM. Também há suporte opcional a imagens, e o modelo pode ser executado em vários tamanhos quantizados para se adaptar a diferentes capacidades de memória.

Recursos principais

  • 01Executa um modelo de 125 bilhões de parâmetros em GPUs NVIDIA ou AMD com 12 GB de VRAM ou mais.
  • 02Disponibiliza APIs compatíveis com OpenAI, Anthropic e OpenAI Responses no localhost.
  • 03Inclui uma interface de chat no navegador e um monitor em tempo real de GPU, CPU e RAM.
  • 04Oferece vários tamanhos de modelo quantizados para se ajustar à RAM disponível.
  • 05Aceita imagens como entrada opcional e pode ser controlado por agentes de programação com IA por meio de um servidor MCP.

Casos de uso

  • Executar um modelo local capaz para programação sem enviar código a um serviço na nuvem.
  • Conectar o Claude Code ou outras ferramentas compatíveis com OpenAI a um modelo no seu próprio PC.
  • Experimentar modelos quantizados grandes em uma única GPU de consumo.
  • Manter conversas e documentos na própria máquina por privacidade.

Tópicos

#llm#local-inference#gpu#openai-api#quantization#coding-agent

Perguntas frequentes

O que é Strata?
Executa o modelo Qwen3.8-Flash-Next de 125 bilhões de parâmetros em um PC doméstico com GPU NVIDIA ou AMD e disponibiliza APIs compatíveis com OpenAI e Anthropic no localhost. Strata é um mecanismo de inferência que executa o grande modelo Qwen3.8-Flash-Next em PCs gamer comuns, sem precisar de servidores. Ele é compatível com Windows e Linux em placas de vídeo NVIDIA ou AMD com pelo menos 12 GB de VRAM e inclui um instalador de um clique que detecta o hardware e escolhe um tamanho de modelo adequado. O modelo é dividido entre a GPU, a RAM do sistema e o SSD: os experts usados com frequência ficam na placa, enquanto os demais são mantidos na RAM ou lidos do disco conforme necessário.
Strata é gratuito? Qual é a licença?
Strata é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
Strata ainda é mantido?
Manutenção ativa. O último commit de Strata foi em 17 de out. de 2026.
Para que posso usar Strata?
Executar um modelo local capaz para programação sem enviar código a um serviço na nuvem. Conectar o Claude Code ou outras ferramentas compatíveis com OpenAI a um modelo no seu próprio PC. Experimentar modelos quantizados grandes em uma única GPU de consumo. Manter conversas e documentos na própria máquina por privacidade.
Onde consigo Strata?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/Niko1221/Strata

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados