Ejecuta LLM en local: los mejores de 2026

Motor de inferencia en C puro que ejecuta modelos MoE muy grandes en hardware convencional al cargar desde disco los expertos seleccionados.

Asistente de reuniones con IA, de código abierto y local, que graba, transcribe en tiempo real y genera resúmenes en macOS y Windows.

Proxy local que permite usar OpenAI Codex y Claude Code con cualquier proveedor de LLM, incluidos Claude, Gemini, Grok, DeepSeek y Ollama.

Un motor de inferencia MoE nativo para edge que ejecuta modelos grandes de pesos abiertos, como DeepSeek-V4 y Qwen3.6, en GPU de consumo al distribuir el trabajo entre la memoria de la GPU y la CPU.

Modelo de generación musical open source que crea canciones completas a partir de texto y ofrece herramientas de edición como crear versiones, repintar y separar pistas.

Herramienta CLI para ajustar y entrenar LLM con un único archivo YAML, con transmisión de capas para entrenar modelos de 8B en una GPU de 4 GB.

Asistente de investigación con IA autoalojado que realiza investigaciones profundas en varios pasos con LLM locales o en la nube y busca en la web, bases de datos académicas y documentos propios.

Motor de inferencia de código abierto que ajusta sus kernels al hardware para ejecutar cada modelo abierto a la máxima velocidad posible.

Runtime de Swift y Metal que ejecuta Gemma 4 26B-A4B en Macs con Apple Silicon y unos 2 GB de RAM, transmitiendo expertos desde el SSD.

Herramienta de OCR para Windows que captura texto de zonas de la pantalla, imágenes y PDF, y lo copia al portapapeles o a un editor; todo el procesamiento se realiza en el dispositivo.

Serie de tutoriales prácticos para crear agentes de IA desde cero con LLM locales mediante node-llama-cpp, sin usar frameworks.

Aplicación de escritorio que busca archivos locales por su contenido, en fotos, PDF, documentos, audio, video y código, y funciona en el dispositivo con EmbeddingGemma 2.

Tutorial modular de Agentic RAG basado en LangGraph, con indexación jerárquica, memoria conversacional y aclaración de consultas.

Ejecuta Claude Code con modelos de IA abiertos en una Mac con Apple Silicon mediante un servidor de API de Anthropic basado en MLX, sin modelos en la nube ni claves de API.

Web scraper basado en Streamlit que usa modelos de OpenAI, Gemini, Ollama o LiteLLM para extraer datos estructurados de páginas descritas en lenguaje natural.

API autohospedada que convierte PDF, imágenes y documentos de Office a Markdown o JSON estructurado mediante OCR y LLM alojados en Ollama, con eliminación opcional de información personal identificable.

Una lista seleccionada de plataformas, motores de inferencia, interfaces, modelos, herramientas y tutoriales para ejecutar LLMs en tu propio hardware.

Plugin de Zotero para chatear con un PDF, varios o toda tu biblioteca, con citas en las que puedes hacer clic y modelos totalmente locales opcionales.

Aplicación de escritorio multiplataforma que usa LLM locales o remotos para clasificar archivos y sugerir nombres más claros, con revisión antes de realizar cambios.

Estudio local de audio y música de código abierto para macOS y Windows, que ejecuta TTS, clonación de voz y creación de canciones con IA completamente sin conexión.

Tutorial educativo de JavaScript que enseña a crear generación aumentada por recuperación paso a paso con LLM locales y sin API en la nube.

Seguimiento de búsqueda de empleo autohospedado con revisión de CV mediante IA, compatibilidad con ofertas, búsqueda automática de empleos y un servidor MCP para agentes de IA.

Una lista seleccionada, al estilo Awesome, de plataformas, herramientas, modelos y tutoriales para ejecutar modelos de lenguaje grandes en local.

Servidor MCP local que dirige prompts a sesiones de navegador de ChatGPT, Claude, Gemini y Perplexity, o a endpoints BYOK y de modelos locales para usar en editores de código.

Usa un iPhone conectado por USB-C para acelerar el prefill y ampliar el contexto de un modelo Qwen 27B que se ejecuta localmente en una Mac.

Estudio de escritorio para Windows del modelo abierto de canciones YuE2, que genera canciones completas con voces, partituras ABC editables, versiones y reproducción exacta en una GPU NVIDIA local.

Spark-X2.5 es una serie de modelos de lenguaje de pesos abiertos (4B y 1.7B) orientados a la programación con agentes y al uso de herramientas en hardware local y dispositivos.

Convierte PDF, archivos de Office, escaneos, capturas de pantalla y diagramas a Markdown mediante un modelo de visión compatible con OpenAI que tú eliges.

Framework para el uso autónomo de Android y computadoras: permite que un LLM planifique y ejecute tareas de interfaz con modelos locales o remotos.

Una ventana emergente de código abierto para macOS que aparece al seleccionar texto y ofrece acciones de transformación, scripts, atajos, matemáticas e IA.

Herramienta de razonamiento local que guarda como grafo de conocimiento las respuestas paso a paso de un modelo pequeño y se ejecuta en tu propia máquina mediante Ollama.

App de macOS local-first para buscar fotos y fotogramas de video en cualquier carpeta describiéndolos en lenguaje natural, con modelos de IA en el dispositivo.

Aplicación de capturas de pantalla y anotación basada en Electron que permite a agentes de programación con IA, como Claude Code, generar diagramas y vistas previas para su revisión visual.

Un asistente de oficina con IA y enfoque local que convierte una solicitud en archivos PPTX, DOCX, XLSX y HTML editables, usando tus propias claves de modelo o modelos locales.

Un pequeño proyecto educativo para ejecutar inferencias de modelos de visión y lenguaje con MLX en Apple Silicon y puntuar respuestas candidatas sobre una imagen.

Aplicación de escritorio de Tauri para explorar y consultar datos con SQL sobre ClickHouse, con integración opcional de LLM y modo web.

Motor local de automatización del navegador y Agent Skill que ejecuta modelos Qwen3.5 en el dispositivo para elegir acciones a partir de elementos visibles de la página.

Un asistente de escritura de escritorio local que corrige, reescribe y da formato a borradores en tu equipo, sin necesidad de crear una cuenta.

Extensión de Chrome y servicio local de Python que genera subtítulos traducidos en tiempo real al inglés o al chino para transmisiones en vivo de YouTube con Ollama.