Repolode
Enviar
krisyangdev

krisyangdev/ChatLLM-Web

Espacio de chat y agentes de IA local en el navegador que ejecuta modelos WebLLM en tu dispositivo mediante WebGPU, sin backend ni cuenta.

Alternativa open source a:ChatGPT

Ver en GitHubSitio web
Estrellas
640
Forks
48
Issues abiertos
4
Último commit
hace 3 meses

¿Qué es?

ChatLLM Web es una aplicación web estática para conversar con modelos de lenguaje grandes que se ejecutan por completo en el navegador. Usa WebLLM en un Web Worker dedicado para ejecutar modelos en la GPU local mediante WebGPU. La aplicación comprueba la compatibilidad del dispositivo con WebGPU, la memoria y el almacenamiento; luego recomienda un modelo y muestra el estado de descarga, carga, caché y compatibilidad.

Además del chat, incluye un modo Agent en el que los modelos con llamadas a funciones nativas (como Hermes 2 Pro y Hermes 3) pueden usar herramientas locales aisladas para leer y buscar en archivos adjuntos, hacer cálculos y crear o actualizar artefactos Markdown, de código, JSON o texto. Antes de guardar cualquier artefacto en IndexedDB, se muestra una comparación línea por línea para que la apruebes. Las conversaciones, los archivos y los artefactos permanecen en el navegador. La aplicación puede instalarse como PWA para reutilizar los modelos en caché sin conexión después de la primera carga.

El proyecto está desplegado en Cloudflare Pages y no tiene backend de aplicación, cuentas, claves de API ni telemetría. Los pesos de los modelos se descargan directamente de Hugging Face o de las URL de la biblioteca WebLLM. Admite interfaces en inglés y chino simplificado, además de temas claros y oscuros.

Funciones clave

  • 01Ejecuta modelos WebLLM en la GPU local mediante WebGPU, en un worker dedicado.
  • 02Ofrece una selección curada de 20 modelos para chat, programación, razonamiento, visión y uso de herramientas, además de un catálogo avanzado.
  • 03Modo Agent con herramientas locales aisladas para leer archivos seleccionados, buscar y hacer cálculos.
  • 04Exige aprobar la comparación antes de escribir cualquier artefacto en IndexedDB.
  • 05Adjunta archivos TXT, Markdown, JSON y de lenguajes de programación comunes como contexto directo.
  • 06Se instala como PWA y reutiliza los modelos en caché después de la primera carga.

Casos de uso

  • Chatear con un LLM de forma privada, sin enviar prompts a una API en la nube.
  • Probar modelos abiertos pequeños en una laptop con una GPU y un navegador compatibles.
  • Hacer preguntas sobre archivos locales de código o texto sin subirlos.
  • Experimentar con agentes locales que usan herramientas y solo trabajan con archivos seleccionados.

Inicio rápido

  1. 1

    Instalar dependencias

    npm install
  2. 2

    Iniciar el servidor de desarrollo

    npm run dev

Antes de usarlo

  • Se necesita un navegador actualizado compatible con WebGPU y un dispositivo con suficiente memoria GPU.
  • Los tres modelos Agent están marcados como experimentales y el catálogo Advanced está dirigido a usuarios avanzados.

En colecciones

Frameworks y apps de agentes de IA open sourceEjecuta LLM en local

Temas

#local-ai#webgpu#webllm#llm#browser-ai#pwa#react#ai-agents#cloudflare-pages#llama

Preguntas frecuentes

¿Qué es ChatLLM-Web?
Espacio de chat y agentes de IA local en el navegador que ejecuta modelos WebLLM en tu dispositivo mediante WebGPU, sin backend ni cuenta. ChatLLM Web es una aplicación web estática para conversar con modelos de lenguaje grandes que se ejecutan por completo en el navegador. Usa WebLLM en un Web Worker dedicado para ejecutar modelos en la GPU local mediante WebGPU. La aplicación comprueba la compatibilidad del dispositivo con WebGPU, la memoria y el almacenamiento; luego recomienda un modelo y muestra el estado de descarga, carga, caché y compatibilidad.
¿ChatLLM-Web es gratuito? ¿Qué licencia tiene?
ChatLLM-Web es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿ChatLLM-Web sigue mantenido?
Actualizado en los últimos 6 meses. El último commit de ChatLLM-Web fue el 12 ago 2026.
¿Para qué puedo usar ChatLLM-Web?
Chatear con un LLM de forma privada, sin enviar prompts a una API en la nube. Probar modelos abiertos pequeños en una laptop con una GPU y un navegador compatibles. Hacer preguntas sobre archivos locales de código o texto sin subirlos. Experimentar con agentes locales que usan herramientas y solo trabajan con archivos seleccionados.
¿Cómo se instala ChatLLM-Web?
Instalar dependencias: npm install Iniciar el servidor de desarrollo: npm run dev
¿Dónde consigo ChatLLM-Web?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/krisyangdev/ChatLLM-Web

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados