Motor de inferencia de código abierto que ajusta sus kernels al hardware para ejecutar modelos abiertos más rápido en Apple Silicon, NVIDIA, AMD o CPU.
7,2 mil494RustApache-2.0Actualizado ayer
exo-explore/exo
Agrupa tus dispositivos en un clúster de IA para ejecutar modelos grandes localmente en varios Macs y otros equipos.
Alternativa open source a:Ollama
- Estrellas
- 47,970
- Forks
- 3,568
- Issues abiertos
- 378
- Último commit
- hace 7 días
¿Qué es?
exo conecta los dispositivos de tu red en un único clúster que ejecuta modelos de IA localmente. Puede repartir entre varios dispositivos un modelo demasiado grande para una sola máquina y detecta automáticamente los demás equipos, sin necesidad de configuración manual. En Macs con Thunderbolt 5, admite RDMA over Thunderbolt para reducir la latencia entre dispositivos y paralelismo de tensores para acelerar la inferencia a medida que se añaden más dispositivos.
El proyecto usa MLX como backend de inferencia y MLX distributed para la comunicación. El clúster ofrece una API compatible con los formatos OpenAI Chat Completions, Claude Messages, OpenAI Responses y Ollama, por lo que los clientes y herramientas existentes pueden conectarse. Incluye un panel para gestionar el clúster y chatear con los modelos cargados, y permite añadir modelos personalizados desde el hub de Hugging Face.
La app para macOS y la ejecución desde el código fuente son compatibles con macOS, mientras que Linux actualmente solo permite ejecutar inferencias en la CPU.
Funciones clave
- 01Detecta automáticamente otros dispositivos exo en la red, sin configuración manual.
- 02Reparte los modelos entre dispositivos mediante paralelismo que tiene en cuenta la topología.
- 03Admite paralelismo de tensores y RDMA over Thunderbolt 5 en Macs compatibles.
- 04Ofrece APIs compatibles con OpenAI, Claude, OpenAI Responses y Ollama.
- 05Incluye un panel para gestionar el clúster y chatear con los modelos.
- 06Carga modelos personalizados desde el hub de Hugging Face.
Casos de uso
- Ejecutar un modelo demasiado grande para un solo Mac agrupando varios Macs.
- Mantener la inferencia local y privada en el hardware que ya tienes.
- Conectar herramientas compatibles con OpenAI u Ollama a un clúster local.
- Ejecutar un nodo que solo coordina en una máquina con buena conectividad de red, pero poca capacidad de GPU.
Inicio rápido
- 1
Instala la app para macOS con Homebrew
brew install --cask exo - 2
Abre el panel y la API en tu navegador
Antes de usarlo
- La app para macOS requiere macOS Tahoe 26.2 o posterior.
- En Linux, exo actualmente solo funciona con CPU; la compatibilidad con GPU está en desarrollo.
- RDMA a través de Thunderbolt 5 requiere determinados Mac, cables TB5 y versiones del sistema operativo compatibles en todos los dispositivos.
Temas
Preguntas frecuentes
- ¿Qué es exo?
- Agrupa tus dispositivos en un clúster de IA para ejecutar modelos grandes localmente en varios Macs y otros equipos. exo conecta los dispositivos de tu red en un único clúster que ejecuta modelos de IA localmente. Puede repartir entre varios dispositivos un modelo demasiado grande para una sola máquina y detecta automáticamente los demás equipos, sin necesidad de configuración manual. En Macs con Thunderbolt 5, admite RDMA over Thunderbolt para reducir la latencia entre dispositivos y paralelismo de tensores para acelerar la inferencia a medida que se añaden más dispositivos.
- ¿exo es gratuito? ¿Qué licencia tiene?
- exo es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿exo sigue mantenido?
- Mantenimiento activo. El último commit de exo fue el 13 oct 2026.
- ¿Para qué puedo usar exo?
- Ejecutar un modelo demasiado grande para un solo Mac agrupando varios Macs. Mantener la inferencia local y privada en el hardware que ya tienes. Conectar herramientas compatibles con OpenAI u Ollama a un clúster local. Ejecutar un nodo que solo coordina en una máquina con buena conectividad de red, pero poca capacidad de GPU.
- ¿Cómo se instala exo?
- Instala la app para macOS con Homebrew: brew install --cask exo Abre el panel y la API en tu navegador
- ¿Dónde consigo exo?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/exo-explore/exo
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Aplicación de escritorio de código abierto e interfaz web para ejecutar, ajustar y exportar LLMs y modelos de difusión localmente, además de una biblioteca de entrenamiento basada en código.
78,3 mil7,2 milPythonApache-2.0Actualizado hace 3 horas
CLI y TUI en Rust que detecta tu CPU, RAM y GPU y clasifica los LLM de código abierto según qué tan bien funcionarán en tu equipo.
38,1 mil2,5 milRustMITActualizado ayer
Ejecuta modelos de IA abiertos localmente en Macs con Apple Silicon mediante MLX y los ofrece en un servidor compatible con la API de Anthropic para usar Claude Code sin conexión.
3,4 mil652PythonMITActualizado hace 5 días
Runner local y en la nube para modelos abiertos como Gemma, Qwen, DeepSeek y gpt-oss, con CLI, API REST y bibliotecas para Python y JavaScript.
183,8 mil18,4 milGoMITActualizado anteayer
Cherry Studio es un cliente de IA de escritorio multiplataforma que se conecta con numerosos proveedores de LLM, modelos locales y más de 300 asistentes preconfigurados.
52,8 mil5,1 milTypeScriptAGPL-3.0Actualizado hace 12 horas