LazyAGI/LazyLLM

어떤 프로젝트인가요?

핵심 기능

• 01pipeline, parallel, loop 플로를 사용해 함수와 모듈로 로우코드 워크플로를 구성합니다.
• 02온라인 모델 API와 로컬 배포 모델을 위한 통합 인터페이스를 제공합니다.
• 03문서 파싱, 검색, 재순위화를 포함한 RAG 구성 요소를 내장하고 있습니다.
• 04경량 게이트웨이와 Kubernetes용 이미지 패키징을 통해 원클릭 배포를 지원합니다.
• 05프레임워크와 모델 분할 전략을 자동으로 선택하는 파인튜닝을 지원합니다.
• 06베어메탈, Slurm, 퍼블릭 클라우드 등 여러 환경에서 실행할 수 있습니다.

활용 사례

• 자체 문서를 기반으로 하는 검색 증강 질의응답 봇 구축
• 요청을 채팅, 음성, 이미지 모델로 라우팅하는 멀티 에이전트 챗봇 프로토타이핑
• 프로토타입 파이프라인을 Kubernetes에 배포할 수 있는 서비스로 전환
• 동일한 애플리케이션 코드에서 온라인 모델과 로컬 모델 비교

빠른 시작

1. 1

   pip으로 lazyllm 설치

   pip3 install lazyllm
2. 2

   모든 종속 항목 설치(선택 사항)

   lazyllm install full
3. 3

   OpenAI API 키를 환경 변수로 설정한 다음, 번들로 제공되는 명령어로 챗봇 시작

   lazyllm run chatbot

사용 전 알아둘 점

• !로컬 모델 추론에는 lightllm이나 vllm과 같은 추론 프레임워크가 하나 이상 필요하며, 일반적으로 GPU도 필요합니다.
• !Windows 및 macOS 설치에는 문서에 있는 별도의 설정 튜토리얼이 필요합니다.

포함된 컬렉션

토픽

자주 묻는 질문

LazyLLM은(는) 무엇인가요?

RAG, 챗봇, 파인튜닝, 원클릭 배포를 지원하는 멀티 에이전트 LLM 앱 구축용 로우코드 Python 프레임워크입니다. LazyLLM은 멀티 에이전트 대규모 언어 모델 애플리케이션을 구축하기 위한 로우코드 개발 도구입니다. pipeline, parallel, diverter, loop와 같은 사전 구축 플로를 제공하므로, 개발자는 오케스트레이션 코드를 많이 작성하지 않고도 함수와 모듈을 조합해 워크플로를 구성할 수 있습니다.

LazyLLM은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

LazyLLM은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

LazyLLM은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. LazyLLM의 마지막 커밋은 2026년 11월 6일입니다.

LazyLLM은(는) 어디에 사용할 수 있나요?

자체 문서를 기반으로 하는 검색 증강 질의응답 봇 구축 요청을 채팅, 음성, 이미지 모델로 라우팅하는 멀티 에이전트 챗봇 프로토타이핑 프로토타입 파이프라인을 Kubernetes에 배포할 수 있는 서비스로 전환 동일한 애플리케이션 코드에서 온라인 모델과 로컬 모델 비교

LazyLLM는 어떻게 설치하나요?

pip으로 lazyllm 설치: pip3 install lazyllm 모든 종속 항목 설치(선택 사항): lazyllm install full OpenAI API 키를 환경 변수로 설정한 다음, 번들로 제공되는 명령어로 챗봇 시작: lazyllm run chatbot

LazyLLM은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/LazyAGI/LazyLLM