Automação de navegador open source que usa LLMs e visão computacional para executar fluxos de trabalho na web em qualquer site, estendendo o Playwright com comandos de IA.
mishushakov/llm-scraper
Biblioteca TypeScript que usa LLMs para extrair dados estruturados de qualquer página da web, com Playwright e Zod ou JSON Schema.
- Estrelas
- 6,952
- Forks
- 451
- Issues abertas
- 10
- Último commit
- há 12 dias
O que é?
LLM Scraper é uma biblioteca TypeScript para extrair dados estruturados de páginas da web usando modelos de linguagem grandes. Você inicia um navegador Playwright, abre uma página, define o formato da saída com Zod ou JSON Schema, e a biblioteca envia o conteúdo da página ao modelo e retorna resultados tipados.
A biblioteca aceita vários formatos de entrada: HTML pré-processado, HTML bruto, markdown, texto extraído pelo Readability.js, uma captura de tela para modelos multimodais ou conteúdo personalizado gerado pela sua própria função. Ela funciona com modelos da OpenAI, Anthropic, Google, Groq e Ollama por meio do Vercel AI SDK; a versão 2.0 tem como alvo o AI SDK 6.
Além da extração pontual, a biblioteca pode transmitir objetos parciais à medida que são gerados e gerar código Playwright reutilizável que realiza a mesma extração sem chamar o modelo novamente.
Recursos principais
- 01Extrai dados usando schemas definidos com Zod ou JSON Schema, com segurança completa de tipos no TypeScript.
- 02Funciona com modelos GPT, Claude, Gemini, Llama e Qwen por meio do Vercel AI SDK.
- 03Aceita seis modos de entrada: html, raw_html, markdown, text, image e custom.
- 04Transmite resultados parciais à medida que o modelo os gera.
- 05Gera código Playwright reutilizável para um schema específico.
Casos de uso
- Transformar listagens de produtos ou páginas iniciais de notícias em JSON para um banco de dados ou dashboard.
- Extrair dados de sites sem API e cujo layout muda com frequência, onde seletores deixariam de funcionar.
- Prototipar a extração de dados com diferentes provedores de LLM e comparar os resultados.
- Gerar um script Playwright fixo a partir de um schema para evitar chamadas repetidas ao modelo.
Início rápido
- 1
Instale as dependências principais pelo npm
npm i zod playwright llm-scraper - 2
Instale o provider do AI SDK para o LLM que você usa (por exemplo, OpenAI)
npm i @ai-sdk/openai - 3
Inicialize o LLM e crie uma instância do scraper; depois, execute-a em uma página
Antes de usar
- A qualidade da extração e o custo dependem do provider de LLM escolhido, que geralmente exige uma chave de API.
Em coleções
Tópicos
Perguntas frequentes
- O que é llm-scraper?
- Biblioteca TypeScript que usa LLMs para extrair dados estruturados de qualquer página da web, com Playwright e Zod ou JSON Schema. LLM Scraper é uma biblioteca TypeScript para extrair dados estruturados de páginas da web usando modelos de linguagem grandes. Você inicia um navegador Playwright, abre uma página, define o formato da saída com Zod ou JSON Schema, e a biblioteca envia o conteúdo da página ao modelo e retorna resultados tipados.
- llm-scraper é gratuito? Qual é a licença?
- llm-scraper é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
- llm-scraper ainda é mantido?
- Manutenção ativa. O último commit de llm-scraper foi em 26 de out. de 2026.
- Para que posso usar llm-scraper?
- Transformar listagens de produtos ou páginas iniciais de notícias em JSON para um banco de dados ou dashboard. Extrair dados de sites sem API e cujo layout muda com frequência, onde seletores deixariam de funcionar. Prototipar a extração de dados com diferentes provedores de LLM e comparar os resultados. Gerar um script Playwright fixo a partir de um schema para evitar chamadas repetidas ao modelo.
- Como instalar llm-scraper?
- Instale as dependências principais pelo npm: npm i zod playwright llm-scraper Instale o provider do AI SDK para o LLM que você usa (por exemplo, OpenAI): npm i @ai-sdk/openai Inicialize o LLM e crie uma instância do scraper; depois, execute-a em uma página
- Onde consigo llm-scraper?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/mishushakov/llm-scraper
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
API de navegador open source para agentes de IA e aplicativos, com um sandbox gerenciado do Chrome que você controla usando Puppeteer, Playwright ou Selenium.
Infraestrutura de navegador na nuvem e framework baseado em Playwright para executar automações web com agentes de IA, com stealth, resolução de CAPTCHA e proxies.
Toolkit para extrair dados e automatizar sites ativos usando uma linguagem de consulta com IA que funciona com Playwright, além de SDKs e uma REST API.
SDKs em TypeScript, Python e Go para agentes de navegador que controlam o Chrome com chamadas em linguagem natural para agir, observar e extrair dados, além de APIs no estilo Playwright.
Captura o tráfego de rede de um site enquanto você ou um agente de IA navega e, em seguida, gera um cliente de API tipado para os endpoints usados.