Repolode
Enviar
rafska

rafska/awesome-local-llm

Una lista seleccionada de plataformas, motores, interfaces, modelos, herramientas y tutoriales para ejecutar modelos de lenguaje grandes en local.

Ver en GitHub
Estrellas
2,984
Forks
498
Issues abiertos
234
Último commit
hace 3 días

¿Qué es?

awesome-local-llm es una lista seleccionada de recursos para ejecutar modelos de lenguaje grandes en tu propio hardware, en lugar de usar una API alojada. Está organizada por categorías: plataformas y motores de inferencia como Ollama, llama.cpp y vLLM; interfaces de usuario como Open WebUI y SillyTavern; y colecciones de modelos de pesos abiertos de proveedores como Qwen, Mistral, Gemma y NVIDIA.

Además del software, la lista abarca clasificaciones y benchmarks de modelos, frameworks de agentes, herramientas del Model Context Protocol, componentes de generación aumentada por recuperación, recomendaciones de hardware y tutoriales sobre ingeniería de prompts y de contexto, e inferencia. Las entradas enlazan directamente a las páginas de los proyectos o a colecciones de Hugging Face e incluyen descripciones breves para ayudar a los lectores a elegir una herramienta rápidamente.

Funciones clave

  • 01Incluye motores de inferencia como Ollama, llama.cpp, vLLM y herramientas basadas en MLX
  • 02Enumera interfaces de usuario de escritorio y web para chatear con modelos locales
  • 03Reúne familias de modelos de pesos abiertos agrupadas por caso de uso, como programación, visión y voz
  • 04Incluye frameworks de agentes, componentes de RAG y herramientas MCP para configuraciones locales
  • 05Ofrece benchmarks, clasificaciones y recursos sobre hardware y tutoriales

Casos de uso

  • Elegir un motor de inferencia o una interfaz de chat antes de configurar un LLM local
  • Encontrar modelos de pesos abiertos adecuados para tareas de programación, visión o voz
  • Descubrir frameworks de agentes y herramientas de RAG compatibles con modelos autoalojados
  • Aprender sobre prácticas para usar LLM locales mediante los tutoriales enlazados

Temas

#llm#local-llm#awesome-list#self-hosted#inference#open-weight-models#ai-tools#ai#awesome#local

Preguntas frecuentes

¿Qué es awesome-local-llm?
Una lista seleccionada de plataformas, motores, interfaces, modelos, herramientas y tutoriales para ejecutar modelos de lenguaje grandes en local. awesome-local-llm es una lista seleccionada de recursos para ejecutar modelos de lenguaje grandes en tu propio hardware, en lugar de usar una API alojada. Está organizada por categorías: plataformas y motores de inferencia como Ollama, llama.cpp y vLLM; interfaces de usuario como Open WebUI y SillyTavern; y colecciones de modelos de pesos abiertos de proveedores como Qwen, Mistral, Gemma y NVIDIA.
¿awesome-local-llm es gratuito? ¿Qué licencia tiene?
awesome-local-llm es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿awesome-local-llm sigue mantenido?
Mantenimiento activo. El último commit de awesome-local-llm fue el 17 oct 2026.
¿Para qué puedo usar awesome-local-llm?
Elegir un motor de inferencia o una interfaz de chat antes de configurar un LLM local Encontrar modelos de pesos abiertos adecuados para tareas de programación, visión o voz Descubrir frameworks de agentes y herramientas de RAG compatibles con modelos autoalojados Aprender sobre prácticas para usar LLM locales mediante los tutoriales enlazados
¿Dónde consigo awesome-local-llm?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/rafska/awesome-local-llm

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados