Repolode
Enviar
krisyangdev

krisyangdev/ChatLLM-Web

Um ambiente de chat e agentes de IA local no navegador, que executa modelos WebLLM no seu dispositivo via WebGPU, sem backend nem conta.

Alternativa open source a:ChatGPT

Ver no GitHubSite
Estrelas
640
Forks
48
Issues abertas
4
Último commit
há 3 meses

O que é?

ChatLLM Web é um app web estático para conversar com modelos de linguagem grandes que rodam inteiramente no navegador. Ele usa WebLLM em um Web Worker dedicado para executar modelos na GPU local por meio do WebGPU. O app verifica o suporte do dispositivo a WebGPU, a memória e o armazenamento; em seguida, recomenda um modelo e exibe o status de download, carregamento, cache e compatibilidade.

Além do chat, o app inclui um modo Agent no qual modelos com suporte nativo a function calling, como Hermes 2 Pro e Hermes 3, podem usar ferramentas locais isoladas em sandbox para ler e pesquisar arquivos anexados, fazer cálculos e criar ou atualizar artefatos em Markdown, código, JSON ou texto. Cada gravação de artefato é exibida como um diff linha a linha para aprovação antes de ser salva no IndexedDB. Conversas, arquivos e artefatos ficam no navegador, e o app pode ser instalado como PWA para reutilizar modelos em cache offline após o primeiro carregamento.

O projeto está publicado no Cloudflare Pages e não tem backend de aplicação, contas, API keys nem telemetria. Os pesos dos modelos são baixados diretamente do Hugging Face ou de URLs da biblioteca WebLLM. O app oferece interfaces em inglês e chinês simplificado, além de temas claro e escuro.

Recursos principais

  • 01Executa modelos WebLLM na GPU local por meio do WebGPU, em um worker dedicado.
  • 02Oferece uma seleção de 20 modelos para chat, programação, raciocínio, visão e uso de ferramentas, além de um catálogo avançado.
  • 03Modo Agent com ferramentas locais isoladas em sandbox para ler arquivos selecionados, pesquisar e fazer cálculos.
  • 04Exige aprovação do diff antes de gravar qualquer artefato no IndexedDB.
  • 05Anexa arquivos TXT, Markdown, JSON e formatos comuns de código como contexto direto.
  • 06Pode ser instalado como PWA e reutiliza modelos em cache após o primeiro carregamento.

Casos de uso

  • Conversar com um LLM com privacidade, sem enviar prompts para uma API na nuvem.
  • Experimentar modelos abertos pequenos em um laptop com GPU e navegador compatíveis.
  • Fazer perguntas sobre arquivos locais de código ou texto sem enviá-los para outro lugar.
  • Experimentar agentes locais com chamadas de ferramentas que atuam apenas nos arquivos selecionados.

Início rápido

  1. 1

    Instalar dependências

    npm install
  2. 2

    Iniciar o servidor de desenvolvimento

    npm run dev

Antes de usar

  • É necessário um navegador atualizado compatível com WebGPU e um dispositivo com memória de GPU suficiente.
  • Três modelos Agent estão marcados como experimentais, e o catálogo Advanced é voltado para usuários avançados.

Em coleções

Frameworks e apps de agentes de IA open sourceRode LLMs localmente

Tópicos

#local-ai#webgpu#webllm#llm#browser-ai#pwa#react#ai-agents#cloudflare-pages#llama

Perguntas frequentes

O que é ChatLLM-Web?
Um ambiente de chat e agentes de IA local no navegador, que executa modelos WebLLM no seu dispositivo via WebGPU, sem backend nem conta. ChatLLM Web é um app web estático para conversar com modelos de linguagem grandes que rodam inteiramente no navegador. Ele usa WebLLM em um Web Worker dedicado para executar modelos na GPU local por meio do WebGPU. O app verifica o suporte do dispositivo a WebGPU, a memória e o armazenamento; em seguida, recomenda um modelo e exibe o status de download, carregamento, cache e compatibilidade.
ChatLLM-Web é gratuito? Qual é a licença?
ChatLLM-Web é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
ChatLLM-Web ainda é mantido?
Atualizado nos últimos 6 meses. O último commit de ChatLLM-Web foi em 12 de ago. de 2026.
Para que posso usar ChatLLM-Web?
Conversar com um LLM com privacidade, sem enviar prompts para uma API na nuvem. Experimentar modelos abertos pequenos em um laptop com GPU e navegador compatíveis. Fazer perguntas sobre arquivos locais de código ou texto sem enviá-los para outro lugar. Experimentar agentes locais com chamadas de ferramentas que atuam apenas nos arquivos selecionados.
Como instalar ChatLLM-Web?
Instalar dependências: npm install Iniciar o servidor de desenvolvimento: npm run dev
Onde consigo ChatLLM-Web?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/krisyangdev/ChatLLM-Web

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados