Framework Python para criar aplicações de RAG, agentes e processamento de documentos que conectam LLMs aos seus próprios dados.
52,8 mil+87 esta semana8,5 milPythonMITAtualizado ontem
LazyAGI/LazyLLM
Framework Python low-code para criar aplicações de LLM multiagente, com suporte a RAG, chatbots, fine-tuning e implantação com um clique.
- Estrelas
- 3,890
- Forks
- 428
- Issues abertas
- 77
- Último commit
- ontem
O que é?
LazyLLM é uma ferramenta low-code de desenvolvimento para criar aplicações com modelos de linguagem grandes e múltiplos agentes. Ela oferece fluxos predefinidos, como pipeline, parallel, diverter e loop, para que desenvolvedores montem workflows com funções e módulos sem precisar escrever muito código de orquestração.
O framework foi pensado para cobrir o ciclo do protótipo à produção: criar rapidamente uma aplicação funcional, analisar casos que falham com dados específicos da tarefa e, então, iterar nos algoritmos ou fazer fine-tuning dos modelos. Ele oferece uma interface unificada para serviços de modelos online de vários provedores e para modelos implantados localmente, servidos por frameworks de inferência como vLLM e LightLLM. Também inclui componentes de RAG, como Document, Retriever e Reranker.
A implantação faz parte do projeto. As aplicações podem ser iniciadas com um único comando, um gateway leve cuida da conexão entre os serviços dos submódulos e o app pode ser empacotado como uma imagem para Kubernetes. O mesmo código pode ser executado em bare metal, máquinas de desenvolvimento, clusters Slurm ou nuvens públicas.
Recursos principais
- 01Montagem low-code de workflows com funções e módulos, usando fluxos pipeline, parallel e loop.
- 02Interface unificada para APIs de modelos online e modelos implantados localmente.
- 03Componentes de RAG integrados, incluindo análise de documentos, recuperação e reranking.
- 04Implantação com um clique, com gateway leve e empacotamento em imagem para Kubernetes.
- 05Suporte a fine-tuning, com seleção automática de frameworks e estratégias de divisão de modelos.
- 06Execução multiplataforma em bare metal, Slurm e nuvens públicas.
Casos de uso
- Criar um bot de perguntas e respostas com geração aumentada por recuperação usando seus próprios documentos.
- Prototipar um chatbot multiagente que encaminha solicitações para modelos de chat, fala ou imagem.
- Transformar um pipeline de protótipo em um serviço implantável no Kubernetes.
- Comparar modelos online e locais usando o mesmo código de aplicação.
Início rápido
- 1
Instale o lazyllm com pip
pip3 install lazyllm - 2
Instale todas as dependências (opcional)
lazyllm install full - 3
Defina sua chave da API da OpenAI como uma variável de ambiente e, em seguida, inicie um chatbot com o comando incluído
lazyllm run chatbot
Antes de usar
- A inferência de modelos locais exige pelo menos um framework de inferência, como lightllm ou vllm, que normalmente requer uma GPU.
- A instalação no Windows e no macOS requer um tutorial de configuração separado, disponível na documentação.
Em coleções
Tópicos
Perguntas frequentes
- O que é LazyLLM?
- Framework Python low-code para criar aplicações de LLM multiagente, com suporte a RAG, chatbots, fine-tuning e implantação com um clique. LazyLLM é uma ferramenta low-code de desenvolvimento para criar aplicações com modelos de linguagem grandes e múltiplos agentes. Ela oferece fluxos predefinidos, como pipeline, parallel, diverter e loop, para que desenvolvedores montem workflows com funções e módulos sem precisar escrever muito código de orquestração.
- LazyLLM é gratuito? Qual é a licença?
- LazyLLM é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
- LazyLLM ainda é mantido?
- Manutenção ativa. O último commit de LazyLLM foi em 5 de nov. de 2026.
- Para que posso usar LazyLLM?
- Criar um bot de perguntas e respostas com geração aumentada por recuperação usando seus próprios documentos. Prototipar um chatbot multiagente que encaminha solicitações para modelos de chat, fala ou imagem. Transformar um pipeline de protótipo em um serviço implantável no Kubernetes. Comparar modelos online e locais usando o mesmo código de aplicação.
- Como instalar LazyLLM?
- Instale o lazyllm com pip: pip3 install lazyllm Instale todas as dependências (opcional): lazyllm install full Defina sua chave da API da OpenAI como uma variável de ambiente e, em seguida, inicie um chatbot com o comando incluído: lazyllm run chatbot
- Onde consigo LazyLLM?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/LazyAGI/LazyLLM
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Framework em Python e TypeScript para criar sistemas de IA multiagente com backends de LLM, ferramentas, memória, RAG e workflows.
3,5 mil+5 esta semana545PythonApache-2.0Bem mantidoAtualizado há 3 dias
Toolkit open source de transforms modulares para limpar, filtrar e enriquecer dados não estruturados para treinamento de LLMs e aplicações de RAG.
968257HTMLApache-2.0Atualizado mês passado
Uma coleção de fluxos de trabalho de referência com foco em NVIDIA para criar pipelines de RAG, IA agêntica e ajuste fino de LLMs com microserviços NIM e NeMo.
4,2 mil+6 esta semana1,1 milJupyter NotebookApache-2.0Atualizado há 2 meses
Framework Python para criar agentes de IA autônomos que pesquisam, planejam, programam e executam tarefas, com memória, RAG e mais de 100 provedores de LLM.
9,3 mil+15 esta semana1,5 milPythonMITAtualizado há 22 horas
Um mecanismo de IA auto-hospedado e compatível com OpenAI, que executa LLMs e modelos de visão, voz, imagem e vídeo em qualquer hardware, inclusive em máquinas só com CPU.
50,2 mil+159 esta semana4,6 milGoMITAtualizado há 21 horas