Repolode
Enviar
LostRuins

LostRuins/koboldcpp

Runner local en un solo archivo para modelos de lenguaje GGUF, con una interfaz web KoboldAI integrada y generación de texto, imágenes, voz y música.

Alternativa open source a:ChatGPTCharacter.AI

Ver en GitHubSitio web
Estrellas
12,173
Forks
808
Issues abiertos
532
Último commit
hace 10 horas

¿Qué es?

KoboldCpp ejecuta modelos de lenguaje grandes GGUF en tu propio equipo, con CPU o GPU y sin instalar nada. La descarga es un único ejecutable para Windows, Linux y macOS. Una vez cargado un modelo, ofrece la interfaz web KoboldAI Lite incluida para chatear, hacer roleplay y escribir aventuras e historias, además de una interfaz web de llama.cpp y varias interfaces más.

Además de generar texto, el proyecto permite generar y editar imágenes con modelos como Stable Diffusion, SDXL y Flux, así como generar video, convertir voz a texto con Whisper y usar modelos de texto a voz como Kokoro y Qwen3-TTS. También incluye compatibilidad con servidores MCP, llamadas a herramientas, búsqueda web y un agente integrado para escribir código y programar tareas.

Para integrarse con otras aplicaciones, KoboldCpp ofrece endpoints de API de KoboldAI, compatibles con OpenAI, Ollama, AUTOMATIC1111, ComfyUI y otros, para que las aplicaciones existentes puedan conectarse a un servidor local. También puede reenviar solicitudes a proveedores externos como OpenRouter, Gemini o Mistral si se inicia sin un modelo local.

Funciones clave

  • 01Ejecuta modelos de texto GGUF con CPU o GPU y permite descargar todo o parte del procesamiento en la GPU.
  • 02Se distribuye como un único ejecutable, sin instalación ni dependencias externas.
  • 03Incluye las interfaces web KoboldAI Lite y llama.cpp, con memoria, información del mundo y tarjetas de personajes.
  • 04Genera imágenes, video, voz y música con archivos de modelos compatibles.
  • 05Ofrece endpoints de API compatibles con OpenAI, Ollama, KoboldAI y otros servicios.

Casos de uso

  • Chatear con un asistente de IA privado que se ejecuta completamente en tu propio equipo.
  • Hacer roleplay y crear ficción interactiva con personajes, información del mundo e historias guardadas.
  • Conectar aplicaciones existentes compatibles con OpenAI u Ollama a un servidor local de modelos.
  • Experimentar con generación local de imágenes, voz o música junto con modelos de texto.

Inicio rápido

  1. 1

    Descarga el ejecutable de KoboldCpp para tu sistema operativo desde la página de la última versión

  2. 2

    Descarga por separado un modelo de texto GGUF desde Hugging Face

  3. 3

    Inicia KoboldCpp indicando el archivo del modelo (ejemplo para Linux)

    ./koboldcpp-linux-x64 --model /path/to/model.gguf
  4. 4

    Abre la Web UI en el navegador en localhost, puerto 5001

Antes de usarlo

  • Tiene licencia AGPL-3.0, una licencia copyleft que exige compartir el código fuente modificado cuando se distribuye o se ofrece a través de una red.
  • Los archivos del modelo no están incluidos y deben descargarse por separado.

En colecciones

Ejecuta LLM en localGeneradores de imágenes con IA y herramientas de Stable Diffusion

Temas

#llm#gguf#local-llm#llama-cpp#text-generation#roleplay#image-generation#tts#gemma#ggml

Preguntas frecuentes

¿Qué es koboldcpp?
Runner local en un solo archivo para modelos de lenguaje GGUF, con una interfaz web KoboldAI integrada y generación de texto, imágenes, voz y música. KoboldCpp ejecuta modelos de lenguaje grandes GGUF en tu propio equipo, con CPU o GPU y sin instalar nada. La descarga es un único ejecutable para Windows, Linux y macOS. Una vez cargado un modelo, ofrece la interfaz web KoboldAI Lite incluida para chatear, hacer roleplay y escribir aventuras e historias, además de una interfaz web de llama.cpp y varias interfaces más.
¿koboldcpp es gratuito? ¿Qué licencia tiene?
koboldcpp es open source bajo la licencia AGPL-3.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿koboldcpp sigue mantenido?
Mantenimiento activo. El último commit de koboldcpp fue el 6 nov 2026.
¿Para qué puedo usar koboldcpp?
Chatear con un asistente de IA privado que se ejecuta completamente en tu propio equipo. Hacer roleplay y crear ficción interactiva con personajes, información del mundo e historias guardadas. Conectar aplicaciones existentes compatibles con OpenAI u Ollama a un servidor local de modelos. Experimentar con generación local de imágenes, voz o música junto con modelos de texto.
¿Cómo se instala koboldcpp?
Descarga el ejecutable de KoboldCpp para tu sistema operativo desde la página de la última versión Descarga por separado un modelo de texto GGUF desde Hugging Face Inicia KoboldCpp indicando el archivo del modelo (ejemplo para Linux): ./koboldcpp-linux-x64 --model /path/to/model.gguf Abre la Web UI en el navegador en localhost, puerto 5001
¿Dónde consigo koboldcpp?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/LostRuins/koboldcpp

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados