Um app de chat no navegador que executa LLMs de código aberto localmente na sua GPU via WebGPU, mantendo as conversas no seu dispositivo.
midudev/runonweb.ai
Módulos de IA open source que rodam no navegador e no dispositivo via WebGPU ou WASM, com pacote npm para fala, remoção de fundo, embeddings, tradução e TTS.
- Estrelas
- 776
- Forks
- 76
- Issues abertas
- 0
- Último commit
- há 14 dias
O que é?
runonweb.ai é uma coleção de módulos de IA open source que rodam inteiramente no navegador, além do pacote npm `runonweb`, que os disponibiliza. Cada tarefa tem seu próprio caminho de importação, como conversão de fala em texto, remoção de fundo, geração de legendas para imagens, estimativa de profundidade, detecção de objetos, embeddings de texto, classificação, tradução, previsão de emojis e conversão de texto em fala.
Os módulos usam WebGPU quando o navegador oferece suporte e recorrem ao WASM caso contrário; a inferência acontece no dispositivo do usuário. Cada módulo é baseado em um modelo aberto com licença permissiva, e as páginas de demonstração dão os créditos ao modelo base, ao autor e à licença.
O repositório é um monorepo: o site em Astro fica em `packages/web` e é implantado no Cloudflare Workers, enquanto a biblioteca fica em `packages/runonweb`. O projeto também documenta particularidades do backend encontradas durante os testes, como quais formatos de quantização falham no WebGPU e quais modelos são fixados no WASM.
Recursos principais
- 01Importações separadas para conversão de fala em texto, remoção de fundo, geração de legendas, estimativa de profundidade, detecção, embeddings, classificação, tradução, emojis e TTS.
- 02Usa WebGPU quando disponível e recorre ao WASM caso contrário.
- 03A inferência é executada localmente no navegador, portanto os dados de entrada não são enviados a um servidor.
- 04Cada módulo é baseado em um modelo aberto com licença Apache-2.0 ou MIT.
- 05Inclui uma função auxiliar para verificar a disponibilidade do WebGPU e uma função de similaridade de cosseno para embeddings.
Casos de uso
- Adicionar transcrição de fala ou conversão de texto em fala no navegador a um app web, sem precisar de uma API no servidor.
- Remover o fundo de imagens no cliente para preservar a privacidade em fotos sensíveis.
- Executar buscas semânticas ou verificar similaridades em textos inteiramente no navegador.
- Prototipar recursos de IA no dispositivo e comparar o desempenho de WebGPU e WASM.
Início rápido
- 1
Instale as dependências com pnpm
pnpm install - 2
Inicie o servidor de desenvolvimento local
pnpm dev
Antes de usar
- Os metadados do projeto não informam uma licença, portanto os termos para reutilizar o código não estão claros.
- Alguns módulos só funcionam em WASM, que é mais lento que WebGPU.
- A licença LFM do modelo de legendas é gratuita apenas se a receita for inferior a US$ 10 milhões.
- O modelo grande de classificação tem cerca de 2,7 GB para baixar.
Em coleções
Tópicos
Perguntas frequentes
- O que é runonweb.ai?
- Módulos de IA open source que rodam no navegador e no dispositivo via WebGPU ou WASM, com pacote npm para fala, remoção de fundo, embeddings, tradução e TTS. runonweb.ai é uma coleção de módulos de IA open source que rodam inteiramente no navegador, além do pacote npm `runonweb`, que os disponibiliza. Cada tarefa tem seu próprio caminho de importação, como conversão de fala em texto, remoção de fundo, geração de legendas para imagens, estimativa de profundidade, detecção de objetos, embeddings de texto, classificação, tradução, previsão de emojis e conversão de texto em fala.
- runonweb.ai é gratuito? Qual é a licença?
- runonweb.ai não declara licença. O código é público, mas sem licença você não tem permissão explícita para reutilizá-lo; fale com o autor antes de depender dele.
- runonweb.ai ainda é mantido?
- Manutenção ativa. O último commit de runonweb.ai foi em 24 de out. de 2026.
- Para que posso usar runonweb.ai?
- Adicionar transcrição de fala ou conversão de texto em fala no navegador a um app web, sem precisar de uma API no servidor. Remover o fundo de imagens no cliente para preservar a privacidade em fotos sensíveis. Executar buscas semânticas ou verificar similaridades em textos inteiramente no navegador. Prototipar recursos de IA no dispositivo e comparar o desempenho de WebGPU e WASM.
- Como instalar runonweb.ai?
- Instale as dependências com pnpm: pnpm install Inicie o servidor de desenvolvimento local: pnpm dev
- Onde consigo runonweb.ai?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/midudev/runonweb.ai
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Execute modelos Transformers da Hugging Face diretamente no navegador ou em runtimes JavaScript, sem servidor, usando ONNX Runtime.
Removedor de fundo open source que funciona inteiramente no navegador com WebGPU ou WebAssembly, sem enviar imagens.
Um upscaler de imagens com IA gratuito e baseado no navegador, que executa os modelos localmente para que as imagens nunca saiam do seu dispositivo.
Kit de ferramentas de fala offline com onnxruntime para reconhecimento de fala, síntese de voz, VAD, diarização e muito mais, em várias plataformas e idiomas.
Servidor de inferência em um único binário, escrito inteiramente em Rust, que executa modelos GGUF em qualquer GPU via WebGPU e oferece uma API compatível com a OpenAI.