Diretório colaborativo de modelos de IA, APIs e ferramentas gratuitas, de modelos com pesos abertos a planos grátis de API e ferramentas para execução local.
2,5 mil244OtherAtualizado há 9 dias
rafska/awesome-local-llm
Uma lista selecionada de plataformas, engines, interfaces, modelos, ferramentas e tutoriais para executar LLMs localmente.
- Estrelas
- 2,984
- Forks
- 498
- Issues abertas
- 234
- Último commit
- há 3 dias
O que é?
awesome-local-llm é uma lista selecionada de recursos para executar grandes modelos de linguagem no seu próprio hardware, em vez de usar uma API hospedada. A lista é organizada por categoria: plataformas e engines de inferência, como Ollama, llama.cpp e vLLM; interfaces de usuário, como Open WebUI e SillyTavern; e coleções de modelos com pesos abertos de provedores como Qwen, Mistral, Gemma e NVIDIA.
Além de software, a lista inclui rankings e benchmarks de modelos, frameworks de agentes, ferramentas do Model Context Protocol, componentes de geração aumentada por recuperação (RAG), orientações sobre hardware e tutoriais de engenharia de prompts e de contexto e inferência. Os itens levam diretamente às páginas dos projetos ou às coleções no Hugging Face, com descrições breves para ajudar os leitores a escolher uma ferramenta rapidamente.
Recursos principais
- 01Abrange engines de inferência como Ollama, llama.cpp, vLLM e ferramentas baseadas em MLX
- 02Lista interfaces de usuário para desktop e web para conversar com modelos locais
- 03Reúne famílias de modelos com pesos abertos, agrupadas por caso de uso, como programação, visão e fala
- 04Inclui frameworks de agentes, componentes de RAG e ferramentas de MCP para configurações locais
- 05Oferece benchmarks, rankings e recursos sobre hardware e tutoriais
Casos de uso
- Escolher uma engine de inferência ou interface de chat antes de configurar um LLM local
- Encontrar modelos com pesos abertos adequados para tarefas de programação, visão ou fala
- Descobrir frameworks de agentes e ferramentas de RAG compatíveis com modelos auto-hospedados
- Aprender sobre práticas para LLMs locais por meio dos tutoriais indicados
Tópicos
Perguntas frequentes
- O que é awesome-local-llm?
- Uma lista selecionada de plataformas, engines, interfaces, modelos, ferramentas e tutoriais para executar LLMs localmente. awesome-local-llm é uma lista selecionada de recursos para executar grandes modelos de linguagem no seu próprio hardware, em vez de usar uma API hospedada. A lista é organizada por categoria: plataformas e engines de inferência, como Ollama, llama.cpp e vLLM; interfaces de usuário, como Open WebUI e SillyTavern; e coleções de modelos com pesos abertos de provedores como Qwen, Mistral, Gemma e NVIDIA.
- awesome-local-llm é gratuito? Qual é a licença?
- awesome-local-llm é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
- awesome-local-llm ainda é mantido?
- Manutenção ativa. O último commit de awesome-local-llm foi em 17 de out. de 2026.
- Para que posso usar awesome-local-llm?
- Escolher uma engine de inferência ou interface de chat antes de configurar um LLM local Encontrar modelos com pesos abertos adequados para tarefas de programação, visão ou fala Descobrir frameworks de agentes e ferramentas de RAG compatíveis com modelos auto-hospedados Aprender sobre práticas para LLMs locais por meio dos tutoriais indicados
- Onde consigo awesome-local-llm?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/rafska/awesome-local-llm
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Lista selecionada de plataformas, engines, interfaces, modelos, ferramentas e tutoriais para executar LLMs localmente no seu próprio hardware.
1,2 mil138Sem licençaAtualizado há 4 meses
Guia curado em chinês sobre o ChatGPT e LLMs de ponta, com conteúdo sobre uso, criação de prompts, desenvolvimento de apps, agentes e ferramentas de produtividade.
11,8 mil1,1 milPythonMITAtualizado há 5 dias
Lista selecionada de provedores de API de LLM com planos gratuitos permanentes para inferência de texto, incluindo endpoints, modelos e limites de uso.
10,7 mil1,2 milJavaScriptCC0-1.0Atualizado anteontem
Lista organizada e pesquisável de repositórios open source do GitHub relacionados ao ChatGPT, à OpenAI API e ao Codex, que pode ser usada como skill do Claude Code e do Codex.
3,3 mil511PythonCC0-1.0Atualizado ontem
Runner local e na nuvem para modelos abertos, como Gemma, Qwen, DeepSeek e gpt-oss, com CLI, REST API e bibliotecas para Python e JavaScript.
183,8 mil18,4 milGoMITAtualizado anteontem