Repolode
Enviar
oobabooga

oobabooga/textgen

Aplicación de escritorio gratuita y de código abierto para ejecutar LLM localmente, con una interfaz de chat y una API compatible con OpenAI y Anthropic.

Alternativa open source a:LM Studio

Ver en GitHub
Estrellas
47,739
Forks
5,987
Issues abiertos
865
Último commit
hace 2 meses

¿Qué es?

TextGen es una aplicación de escritorio para ejecutar LLM en tu propio equipo. Incluye una interfaz de chat y una API, de modo que puedes usar el mismo modelo local desde una interfaz web o desde código. Ofrece versiones portátiles para Linux, Windows y macOS, con opciones para CUDA, Vulkan, ROCm y solo CPU, y ejecuta modelos GGUF mediante llama.cpp. En la instalación completa, también están disponibles backends adicionales, como ExLlamaV3, Transformers y TensorRT-LLM.

Además del chat convencional, admite modos de chat instruct y basados en personajes, archivos de imagen adjuntos para modelos de visión y la carga de archivos de texto y PDF. Los modelos pueden usar herramientas como la búsqueda web, la obtención de páginas y funciones Python personalizadas; también se admiten servidores MCP. El proyecto incluye además ajuste fino de LoRA, una pestaña de generación de imágenes basada en diffusers y extensiones para TTS, entrada de voz y traducción. La aplicación indica que funciona completamente sin conexión y que no envía telemetría.

La API ofrece endpoints de Chat, Completions y Messages que siguen los formatos de OpenAI y Anthropic, por lo que el código cliente existente puede apuntar a un servidor local.

Funciones clave

  • 01Modos de chat, instruct y por personajes, con plantillas de prompts Jinja2
  • 02Entrada de imágenes y archivos adjuntos PDF, .docx y de texto
  • 03Varios backends, incluidos llama.cpp, Transformers y ExLlamaV3
  • 04API compatible con OpenAI y Anthropic, con compatibilidad para llamadas a herramientas
  • 05Llamadas a herramientas mediante funciones Python personalizadas y servidores MCP
  • 06Ajuste fino de LoRA y una pestaña de generación de imágenes basada en diffusers

Casos de uso

  • Ejecutar de forma privada un modelo de chat GGUF en una computadora personal, sin enviar datos a un servicio en la nube
  • Conectar durante el desarrollo código cliente existente de OpenAI o Anthropic a un modelo local
  • Chatear con documentos o imágenes mediante un modelo local con capacidad de visión
  • Ajustar un adaptador LoRA con tus propios datos de chat o texto

Inicio rápido

  1. 1

    Descarga la versión portable para tu sistema operativo desde la página de lanzamientos

  2. 2

    Descomprime el archivo descargado y haz doble clic en textgen para abrir la ventana de la aplicación

  3. 3

    Coloca un archivo de modelo GGUF en la carpeta user_data/models y la interfaz lo detectará

Antes de usarlo

  • Tiene licencia AGPL-3.0, una licencia copyleft que exige compartir el código fuente de los servicios de red derivados.
  • Los backends adicionales, como ExLlamaV3 y Transformers, así como el entrenamiento y la generación de imágenes, requieren la instalación completa. Esta ocupa unos 10 GB de espacio en disco y descarga PyTorch.
  • La versión portable solo admite modelos GGUF (llama.cpp).

Temas

#local-llm#llm#llama-cpp#gguf#chat-ui#openai-compatible-api#lora-fine-tuning#image-generation

Preguntas frecuentes

¿Qué es textgen?
Aplicación de escritorio gratuita y de código abierto para ejecutar LLM localmente, con una interfaz de chat y una API compatible con OpenAI y Anthropic. TextGen es una aplicación de escritorio para ejecutar LLM en tu propio equipo. Incluye una interfaz de chat y una API, de modo que puedes usar el mismo modelo local desde una interfaz web o desde código. Ofrece versiones portátiles para Linux, Windows y macOS, con opciones para CUDA, Vulkan, ROCm y solo CPU, y ejecuta modelos GGUF mediante llama.cpp. En la instalación completa, también están disponibles backends adicionales, como ExLlamaV3, Transformers y TensorRT-LLM.
¿textgen es gratuito? ¿Qué licencia tiene?
textgen es open source bajo la licencia AGPL-3.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿textgen sigue mantenido?
Actualizado en los últimos 6 meses. El último commit de textgen fue el 17 ago 2026.
¿Para qué puedo usar textgen?
Ejecutar de forma privada un modelo de chat GGUF en una computadora personal, sin enviar datos a un servicio en la nube Conectar durante el desarrollo código cliente existente de OpenAI o Anthropic a un modelo local Chatear con documentos o imágenes mediante un modelo local con capacidad de visión Ajustar un adaptador LoRA con tus propios datos de chat o texto
¿Cómo se instala textgen?
Descarga la versión portable para tu sistema operativo desde la página de lanzamientos Descomprime el archivo descargado y haz doble clic en textgen para abrir la ventana de la aplicación Coloca un archivo de modelo GGUF en la carpeta user_data/models y la interfaz lo detectará
¿Dónde consigo textgen?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/oobabooga/textgen

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados