Proyectos open source sobre «local-llm»

Asistente de investigación con IA autoalojado que realiza investigaciones profundas en varios pasos con LLM locales o en la nube y busca en la web, bases de datos académicas y documentos propios.

Una lista seleccionada de plataformas, motores de inferencia, interfaces, modelos, herramientas y tutoriales para ejecutar LLMs en tu propio hardware.

Un motor de inferencia MoE nativo para edge que ejecuta modelos grandes de pesos abiertos, como DeepSeek-V4 y Qwen3.6, en GPU de consumo al distribuir el trabajo entre la memoria de la GPU y la CPU.

Herramienta de razonamiento local que guarda como grafo de conocimiento las respuestas paso a paso de un modelo pequeño y se ejecuta en tu propia máquina mediante Ollama.

Una lista seleccionada, al estilo Awesome, de plataformas, herramientas, modelos y tutoriales para ejecutar modelos de lenguaje grandes en local.

Ejecuta Claude Code con modelos de IA abiertos en una Mac con Apple Silicon mediante un servidor de API de Anthropic basado en MLX, sin modelos en la nube ni claves de API.

Serie de tutoriales prácticos para crear agentes de IA desde cero con LLM locales mediante node-llama-cpp, sin usar frameworks.

Tutorial educativo de JavaScript que enseña a crear generación aumentada por recuperación paso a paso con LLM locales y sin API en la nube.

Motor de inferencia en C puro que ejecuta modelos MoE muy grandes en hardware convencional al cargar desde disco los expertos seleccionados.

Herramienta CLI para ajustar y entrenar LLM con un único archivo YAML, con transmisión de capas para entrenar modelos de 8B en una GPU de 4 GB.

Motor local de automatización del navegador y Agent Skill que ejecuta modelos Qwen3.5 en el dispositivo para elegir acciones a partir de elementos visibles de la página.

Usa un iPhone conectado por USB-C para acelerar el prefill y ampliar el contexto de un modelo Qwen 27B que se ejecuta localmente en una Mac.

Spark-X2.5 es una serie de modelos de lenguaje de pesos abiertos (4B y 1.7B) orientados a la programación con agentes y al uso de herramientas en hardware local y dispositivos.

Motor de inferencia de código abierto que ajusta sus kernels al hardware para ejecutar cada modelo abierto a la máxima velocidad posible.

Aplicación de escritorio multiplataforma que usa LLM locales o remotos para clasificar archivos y sugerir nombres más claros, con revisión antes de realizar cambios.

Plugin de Zotero para chatear con un PDF, varios o toda tu biblioteca, con citas en las que puedes hacer clic y modelos totalmente locales opcionales.

Extensión de Chrome y servicio local de Python que genera subtítulos traducidos en tiempo real al inglés o al chino para transmisiones en vivo de YouTube con Ollama.