Conecta un iPhone a un Mac por USB-C para que la GPU del teléfono ayude a ejecutar localmente un modelo Qwen 27B y agilice la lectura de prompts y amplíe el contexto.
1,1 mil120PythonMITActualizado hace 8 días
incoai/splash
Motor local de inferencia de LLM para Mac con Apple silicon, con APIs compatibles con OpenAI y Anthropic para agentes de programación.
Alternativa open source a:LM Studio
- Estrellas
- 1,593
- Forks
- 153
- Issues abiertos
- 70
- Último commit
- hace 7 horas
¿Qué es?
Splash es un motor local de inferencia para Mac con Apple silicon. Ejecuta modelos de lenguaje en una sola máquina y ofrece endpoints compatibles con OpenAI Chat Completions, Responses y Completions, y con Anthropic Messages, para que los agentes de programación y las aplicaciones existentes puedan conectarse a localhost en vez de a un servicio en la nube.
El motor combina la decodificación especulativa DFlash 2 con kernels de Metal optimizados para cada familia de modelos compatible y planifica la memoria automáticamente. También almacena en caché los prefijos reutilizados, agrupa solicitudes concurrentes, admite entrada de imágenes, llamadas a herramientas y salida con JSON Schema, e incluye una página de chat integrada. Entre los modelos compatibles están Qwen3.8-27B, Qwen3.6-35B-A3B y Qwen3.8-Flash-Next, en formatos cuantizados GGUF o MLX.
Se instala mediante Homebrew y el servidor se inicia con un único comando: `splash serve`. Los requisitos son un chip Apple M3 o posterior, macOS 26.4 o posterior y al menos 36 GB de memoria unificada para los ejemplos de 4 bits.
Funciones clave
- 01Ofrece APIs compatibles con OpenAI y Anthropic, con streaming y llamadas a herramientas.
- 02Usa decodificación especulativa DFlash 2 con kernels de Metal específicos para cada modelo.
- 03Planifica la memoria automáticamente y reutiliza prefijos almacenados en caché entre solicitudes.
- 04Admite imágenes y PDF como entrada, además de salida estructurada con JSON Schema.
- 05Incluye una página de chat integrada y lanzadores para varios agentes de programación.
Casos de uso
- Ejecutar agentes de programación como opencode o Claude con un modelo en tu propio Mac.
- Desarrollar aplicaciones con un endpoint compatible con OpenAI o Anthropic, sin pagar por APIs en la nube.
- Mantener prompts y código en una máquina local, en vez de enviarlos a un servicio alojado.
Inicio rápido
- 1
Instala Splash con Homebrew
brew install incoai/tap/splash - 2
Inicia el servidor y descarga el modelo
splash serve --model unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_M - 3
Cuando aparezca Ready, abre http://127.0.0.1:8000 en el navegador
Antes de usarlo
- Se necesita un Mac con Apple silicon, un chip M3 o posterior y macOS 26.4 o posterior.
- Los ejemplos de 4 bits requieren al menos 36 GB de memoria unificada; los Mac con menos memoria deben usar variantes GGUF más pequeñas.
- Solo admite un conjunto limitado de familias de modelos; no admite modelos íntegramente en BF16 o F16.
Temas
Preguntas frecuentes
- ¿Qué es splash?
- Motor local de inferencia de LLM para Mac con Apple silicon, con APIs compatibles con OpenAI y Anthropic para agentes de programación. Splash es un motor local de inferencia para Mac con Apple silicon. Ejecuta modelos de lenguaje en una sola máquina y ofrece endpoints compatibles con OpenAI Chat Completions, Responses y Completions, y con Anthropic Messages, para que los agentes de programación y las aplicaciones existentes puedan conectarse a localhost en vez de a un servicio en la nube.
- ¿splash es gratuito? ¿Qué licencia tiene?
- splash es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿splash sigue mantenido?
- Mantenimiento activo. El último commit de splash fue el 20 oct 2026.
- ¿Para qué puedo usar splash?
- Ejecutar agentes de programación como opencode o Claude con un modelo en tu propio Mac. Desarrollar aplicaciones con un endpoint compatible con OpenAI o Anthropic, sin pagar por APIs en la nube. Mantener prompts y código en una máquina local, en vez de enviarlos a un servicio alojado.
- ¿Cómo se instala splash?
- Instala Splash con Homebrew: brew install incoai/tap/splash Inicia el servidor y descarga el modelo: splash serve --model unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_M Cuando aparezca Ready, abre http://127.0.0.1:8000 en el navegador
- ¿Dónde consigo splash?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/incoai/splash
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Motor de inferencia de código abierto que ajusta sus kernels al hardware para ejecutar modelos abiertos más rápido en Apple Silicon, NVIDIA, AMD o CPU.
7,2 mil494RustApache-2.0Actualizado anteayer
Agrupa tus dispositivos en un clúster de IA para ejecutar modelos grandes localmente en varios Macs y otros equipos.
48 mil3,6 milPythonApache-2.0Actualizado hace 7 días
Un motor de inferencia escrito íntegramente en C que ejecuta modelos MoE muy grandes en hardware convencional mediante la carga de expertos desde el disco según se necesitan.
43 mil4,8 milCApache-2.0Actualizado hace 11 horas
Motor de inferencia nativo y especializado para ejecutar DeepSeek V4 Flash y otros modelos grandes seleccionados en hardware de consumo con Metal, CUDA y ROCm.
23,9 mil2,3 milCMITActualizado anteayer
Runtime de Swift y Metal que ejecuta el modelo Gemma 4 26B-A4B de 26B en Mac con Apple Silicon y unos 2 GB de RAM, transmitiendo expertos desde el SSD.
6,9 mil461SwiftApache-2.0Actualizado hace 6 días