Repolode
Enviar
Generated-Computers

Generated-Computers/Locals

Servidor de inferencia local para Mac con Apple silicon que atiende a varios agentes de programación con IA a la vez, con decodificación por lotes y llamadas a herramientas restringidas por gramática.

Ver en GitHubSitio web
Estrellas
640
Forks
41
Issues abiertos
7
Último commit
hace 8 horas

¿Qué es?

Locals es un servidor local de modelos para Mac, diseñado para agentes y no para chats convencionales. Los agentes envían llamadas a herramientas, conversaciones largas y muchas solicitudes en paralelo. Locals las gestiona con kernels de GPU por lotes, salidas de llamadas a herramientas restringidas por el esquema de cada herramienta y una caché de prompts que se conserva entre turnos y reinicios. El README indica que puede ofrecer hasta 3 veces más rendimiento que mlx-lm cuando se ejecutan ocho solicitudes a la vez en un M2 Pro con 16 GB, usando Qwen3.5-4B.

Expone APIs compatibles con OpenAI, Anthropic y Ollama, para que herramientas como OpenCode, Cline, Aider, OpenHands, Claude Code y Hermes Agent puedan conectarse con un solo comando de inicio, por ejemplo, `locals code ~/my-project`. Locals también incluye un modo `locals run` que distribuye una tarea entre varios agentes, cada uno trabajando en su propia copia del proyecto y con los resultados verificados por las pruebas del proyecto. Todo se ejecuta en el equipo local, y el proyecto requiere Apple silicon y macOS 14 o posterior.

Funciones clave

  • 01Decodificación por lotes para que varias solicitudes de agentes compartan una pasada por la GPU.
  • 02Llamadas a herramientas restringidas por el esquema de cada herramienta, para que los argumentos coincidan con sus tipos.
  • 03Caché de prompts y conversaciones que se conserva entre turnos y reinicios.
  • 04Compatible con las APIs de OpenAI, Anthropic y Ollama.
  • 05Inicio con un solo comando para OpenCode, Aider, Cline, OpenHands, Claude Code y otras herramientas.
  • 06Modo multiagente `locals run` que prueba cada parte en una copia aislada del proyecto.

Casos de uso

  • Ejecutar varios agentes de programación en paralelo en un Mac sin enviar código a una API en la nube.
  • Trabajar en un proyecto local con OpenCode o Aider usando un modelo que se ejecuta en el equipo.
  • Ofrecer un endpoint local compatible con OpenAI para extensiones de editores como Cline o Roo Code.
  • Hacer preguntas sobre una base de código o un documento extensos con un contexto largo en caché.

Inicio rápido

  1. 1

    Ejecuta el script oficial de instalación que aparece en el README

  2. 2

    O instálalo desde PyPI con uv

    uv tool install --python 3.12 locals
  3. 3

    Abre una nueva ventana de Terminal e inicia OpenCode en tu proyecto

    locals code ~/my-project

Antes de usarlo

  • Solo funciona en macOS con Apple silicon.
  • Flint necesita al menos 24 GB de memoria y su versión más reciente aún no está disponible en PyPI.
  • Algunos chips (M1, M3, M4) aún no se han sometido a pruebas de rendimiento.

En colecciones

Programar con LLM localesFrameworks y apps de agentes de IA open sourceAsistentes y agentes de programación con IAEjecuta LLM en localApps open source para Mac

Temas

#ai-agents#local-llm#apple-silicon#mlx#inference-engine#coding-agents#openai-compatible#macos#agents#artificial-intelligence

Preguntas frecuentes

¿Qué es Locals?
Servidor de inferencia local para Mac con Apple silicon que atiende a varios agentes de programación con IA a la vez, con decodificación por lotes y llamadas a herramientas restringidas por gramática. Locals es un servidor local de modelos para Mac, diseñado para agentes y no para chats convencionales. Los agentes envían llamadas a herramientas, conversaciones largas y muchas solicitudes en paralelo. Locals las gestiona con kernels de GPU por lotes, salidas de llamadas a herramientas restringidas por el esquema de cada herramienta y una caché de prompts que se conserva entre turnos y reinicios. El README indica que puede ofrecer hasta 3 veces más rendimiento que mlx-lm cuando se ejecutan ocho solicitudes a la vez en un M2 Pro con 16 GB, usando Qwen3.5-4B.
¿Locals es gratuito? ¿Qué licencia tiene?
Locals es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿Locals sigue mantenido?
Mantenimiento activo. El último commit de Locals fue el 7 nov 2026.
¿Para qué puedo usar Locals?
Ejecutar varios agentes de programación en paralelo en un Mac sin enviar código a una API en la nube. Trabajar en un proyecto local con OpenCode o Aider usando un modelo que se ejecuta en el equipo. Ofrecer un endpoint local compatible con OpenAI para extensiones de editores como Cline o Roo Code. Hacer preguntas sobre una base de código o un documento extensos con un contexto largo en caché.
¿Cómo se instala Locals?
Ejecuta el script oficial de instalación que aparece en el README O instálalo desde PyPI con uv: uv tool install --python 3.12 locals Abre una nueva ventana de Terminal e inicia OpenCode en tu proyecto: locals code ~/my-project
¿Dónde consigo Locals?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/Generated-Computers/Locals

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados