Repolode
Enviar
mudler

mudler/LocalAI

Motor de IA autohospedado y compatible con OpenAI que ejecuta LLM, modelos de visión, voz, imagen y video en cualquier hardware, incluso solo con CPU.

Alternativa open source a:OpenAI API

Ver en GitHubSitio web
Estrellas
49,633
Forks
4,507
Issues abiertos
202
Último commit
hace 3 horas

¿Qué es?

LocalAI es un motor de código abierto para servir modelos de IA en tu propia infraestructura. Ofrece API compatibles con OpenAI, Anthropic y ElevenLabs, para que el código de cliente existente pueda conectarse a un servidor local en lugar de a un servicio alojado. Incluye generación de texto, visión, conversión de voz a texto y de texto a voz, generación de imágenes y video, embeddings, reranking y detección de objetos, todo a través de una sola API.

El núcleo es pequeño. Cada backend integra un motor como llama.cpp, vLLM, whisper.cpp, stable-diffusion o MLX, y se instala como una imagen independiente solo cuando un modelo lo necesita. Es compatible con NVIDIA CUDA, AMD ROCm, Intel oneAPI, Metal en Apple Silicon, Vulkan y equipos que funcionan solo con CPU.

Además de la inferencia, LocalAI incluye autenticación con API keys, cuotas por usuario, agentes integrados con uso de herramientas y RAG, compatibilidad con MCP y un modo distribuido que utiliza PostgreSQL y NATS para escalar horizontalmente.

Funciones clave

  • 01Endpoints de API compatibles con OpenAI, Anthropic y ElevenLabs en todos los backends
  • 02Ejecuta LLM y modelos de visión, voz, imagen y video a través de una sola API
  • 03Los backends se instalan bajo demanda, por lo que solo se descargan los motores que necesita cada modelo
  • 04Compatible con hardware de NVIDIA, AMD, Intel y Apple Silicon, así como con Vulkan y equipos que funcionan solo con CPU
  • 05Agentes integrados con uso de herramientas, RAG y compatibilidad con MCP
  • 06Autenticación con API keys, cuotas por usuario y control de acceso basado en roles para configuraciones multiusuario

Casos de uso

  • Ejecutar una alternativa privada y autohospedada a las API alojadas compatibles con OpenAI
  • Servir modelos abiertos en una estación de trabajo o un servidor sin una GPU dedicada
  • Crear asistentes de voz que combinen localmente conversión de voz a texto, un LLM y conversión de texto a voz
  • Operar un servicio de modelos compartido por un equipo, con cuotas por usuario y API keys

Temas

#llm#openai-compatible#self-hosted#inference#multimodal#rag#text-to-speech#image-generation#agents#ai

Preguntas frecuentes

¿Qué es LocalAI?
Motor de IA autohospedado y compatible con OpenAI que ejecuta LLM, modelos de visión, voz, imagen y video en cualquier hardware, incluso solo con CPU. LocalAI es un motor de código abierto para servir modelos de IA en tu propia infraestructura. Ofrece API compatibles con OpenAI, Anthropic y ElevenLabs, para que el código de cliente existente pueda conectarse a un servidor local en lugar de a un servicio alojado. Incluye generación de texto, visión, conversión de voz a texto y de texto a voz, generación de imágenes y video, embeddings, reranking y detección de objetos, todo a través de una sola API.
¿LocalAI es gratuito? ¿Qué licencia tiene?
LocalAI es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿LocalAI sigue mantenido?
Mantenimiento activo. El último commit de LocalAI fue el 19 oct 2026.
¿Para qué puedo usar LocalAI?
Ejecutar una alternativa privada y autohospedada a las API alojadas compatibles con OpenAI Servir modelos abiertos en una estación de trabajo o un servidor sin una GPU dedicada Crear asistentes de voz que combinen localmente conversión de voz a texto, un LLM y conversión de texto a voz Operar un servicio de modelos compartido por un equipo, con cuotas por usuario y API keys
¿Dónde consigo LocalAI?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/mudler/LocalAI

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados