Executa o modelo Qwen3.8-Flash-Next de 125 bilhões de parâmetros em um PC doméstico com GPU NVIDIA ou AMD e disponibiliza APIs compatíveis com OpenAI e Anthropic no localhost.
27,4 mil2,9 milC++MITAtualizado anteontem
#local-inference
Projetos open source sobre “local-inference”
Repositórios do GitHub selecionados relacionados a local-inference, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
4 repositórios
GUI de grafo de nós, API e backend para executar modelos de difusão localmente e gerar imagens, vídeos, áudio e conteúdo 3D.
IA e Machine Learning#stable-diffusion#diffusion-models#image-generation#video-generation#node-editor
138,5 mil16,5 milPythonGPL-3.0Atualizado há 3 horas
Lista de modelos de IA, APIs e ferramentas mantida pela comunidade, que podem ser usados sem pagar, incluindo planos gratuitos, modelos de pesos abertos e ferramentas de inferência local.
2,5 mil244OtherAtualizado há 7 dias
Modelo de síntese de voz ultraleve que roda no dispositivo, com arquitetura de 80 milhões de parâmetros, saída em streaming a 32 kHz e suporte a CPU, CUDA e MPS.
1,6 mil138PythonApache-2.0Atualizado há 9 meses