Repolode
Enviar
0xSojalSec

0xSojalSec/LLMs-local

Lista selecionada de plataformas, engines, interfaces, modelos, ferramentas e tutoriais para executar LLMs localmente no seu próprio hardware.

Ver no GitHub
Estrelas
1,198
Forks
138
Issues abertas
12
Último commit
há 4 meses

O que é?

LLMs-local é uma lista selecionada de recursos para executar modelos de linguagem grandes na sua própria máquina, em vez de usar uma API hospedada. Ela é organizada em seções sobre plataformas e engines de inferência, interfaces de usuário, modelos específicos com pesos abertos, frameworks de agentes, servidores do Model Context Protocol, geração aumentada por recuperação, agentes de programação, camadas de memória, ferramentas de avaliação, hardware e tutoriais.

Os itens incluem links para projetos como Ollama, llama.cpp, vLLM, LM Studio e Open WebUI, acompanhados de descrições curtas de uma linha. A lista também aponta para provedores de modelos e rankings de benchmarks, para que os leitores possam comparar opções antes de escolher uma stack.

O repositório é uma coleção de links, não um pacote de software; portanto, não há código próprio para instalar ou executar.

Recursos principais

  • 01Lista engines de inferência local, como llama.cpp, Ollama, vLLM e MLX-LM, com descrições de uma linha.
  • 02Agrupa interfaces de chat, como Open WebUI, clientes no estilo do LM Studio e SillyTavern.
  • 03Abrange frameworks de agentes, servidores MCP e ferramentas de RAG compatíveis com modelos locais.
  • 04Inclui informações sobre hardware e tutoriais sobre prompts, contexto e inferência.

Casos de uso

  • Escolher uma engine de inferência ou um aplicativo para desktop para executar modelos em um computador pessoal.
  • Encontrar uma interface de chat local ou um assistente de programação para usar com modelos de pesos abertos.
  • Explorar os modelos abertos e benchmarks disponíveis antes de configurar uma stack local.

Antes de usar

  • Nenhuma licença foi especificada, portanto, as condições de reutilização não estão claras.

Tópicos

#llm#local-llm#inference#awesome-list#ai-tools#open-source-models

Perguntas frequentes

O que é LLMs-local?
Lista selecionada de plataformas, engines, interfaces, modelos, ferramentas e tutoriais para executar LLMs localmente no seu próprio hardware. LLMs-local é uma lista selecionada de recursos para executar modelos de linguagem grandes na sua própria máquina, em vez de usar uma API hospedada. Ela é organizada em seções sobre plataformas e engines de inferência, interfaces de usuário, modelos específicos com pesos abertos, frameworks de agentes, servidores do Model Context Protocol, geração aumentada por recuperação, agentes de programação, camadas de memória, ferramentas de avaliação, hardware e tutoriais.
LLMs-local é gratuito? Qual é a licença?
LLMs-local não declara licença. O código é público, mas sem licença você não tem permissão explícita para reutilizá-lo; fale com o autor antes de depender dele.
LLMs-local ainda é mantido?
Atualizado nos últimos 6 meses. O último commit de LLMs-local foi em 10 de jun. de 2026.
Para que posso usar LLMs-local?
Escolher uma engine de inferência ou um aplicativo para desktop para executar modelos em um computador pessoal. Encontrar uma interface de chat local ou um assistente de programação para usar com modelos de pesos abertos. Explorar os modelos abertos e benchmarks disponíveis antes de configurar uma stack local.
Onde consigo LLMs-local?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/0xSojalSec/LLMs-local

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados