API, 데이터베이스, 파일의 데이터를 웨어하우스, 레이크, AI 애플리케이션으로 옮기는 오픈소스 ELT 플랫폼
ucbepic/docetl
자연어로 정의한 대규모 정형·비정형 데이터용 LLM 기반 MapReduce 및 ETL 파이프라인을 실행하는 Python 시스템입니다.
- 스타
- 4,137
- 포크
- 452
- 열린 이슈
- 47
- 마지막 커밋
- 12일 전
어떤 프로젝트인가요?
DocETL은 LLM을 사용해 대규모 정형·비정형 데이터 컬렉션을 처리하는 시스템입니다. 각 작업은 자연어로 작성하며, 시스템은 map, reduce, filter, resolve, split, gather 등의 연산자를 제공하고 이를 조율해 데이터셋 전체에 작업을 병렬로 수행합니다. 결과는 데이터베이스에서 쿼리할 수 있는 표 형식의 데이터입니다.
파이프라인은 세 가지 방식으로 작성할 수 있습니다. Python API를 사용하거나, docetl CLI로 실행하는 YAML 설정 파일을 작성하거나, 대화형 프롬프트 개발을 위한 DocWrangler 웹 UI를 이용하면 됩니다. 프로젝트에는 정확도를 높이고 비용을 줄이기 위해 모델을 자동으로 교체하고, 프롬프트를 다시 작성하며, 작업을 분해하고, 하위 작업을 코드로 대체하는 옵티마이저 MOAR도 포함되어 있습니다.
DocETL은 API 키가 환경 변수에 설정된 모든 LLM 제공업체와 함께 사용할 수 있습니다. 문서 분석 및 유사한 데이터 작업을 위해 LLM 호출 체인을 직접 작성하고 조정해야 하는 팀을 대상으로 합니다.
핵심 기능
- 01LLM 기반 데이터 처리용 map, reduce, filter, resolve, split, gather 연산자.
- 02출력 스키마를 포함한 자연어 작업 정의.
- 03모델을 교체하고 프롬프트를 다시 작성하는 자동 파이프라인 최적화.
- 04Python API, CLI로 실행하는 YAML 설정, DocWrangler 웹 UI.
- 05속도 제한 제어 기능을 갖춘 데이터셋 전체 병렬 실행.
활용 사례
- 대량의 지원 티켓에서 불만 사항이나 우선순위 같은 구조화된 필드 추출.
- map-then-reduce 워크플로로 범주별 문서 요약.
- 대화록이나 비정형 텍스트를 분석해 쿼리 가능한 표 형식으로 결과 반환.
빠른 시작
- 1
pip으로 패키지를 설치합니다
pip install docetl - 2
LLM 제공업체(예: OpenAI)의 API 키를 설정합니다
export OPENAI_API_KEY=your_key - 3
파이프라인 YAML 파일을 작성하고 CLI로 실행합니다
docetl run pipeline.yaml
사용 전 알아둘 점
- LLM 제공업체의 API 키가 필요하며, 사용 비용이 발생합니다.
토픽
자주 묻는 질문
- docetl은(는) 무엇인가요?
- 자연어로 정의한 대규모 정형·비정형 데이터용 LLM 기반 MapReduce 및 ETL 파이프라인을 실행하는 Python 시스템입니다. DocETL은 LLM을 사용해 대규모 정형·비정형 데이터 컬렉션을 처리하는 시스템입니다. 각 작업은 자연어로 작성하며, 시스템은 map, reduce, filter, resolve, split, gather 등의 연산자를 제공하고 이를 조율해 데이터셋 전체에 작업을 병렬로 수행합니다. 결과는 데이터베이스에서 쿼리할 수 있는 표 형식의 데이터입니다.
- docetl은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- docetl은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- docetl은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. docetl의 마지막 커밋은 2026년 10월 9일입니다.
- docetl은(는) 어디에 사용할 수 있나요?
- 대량의 지원 티켓에서 불만 사항이나 우선순위 같은 구조화된 필드 추출. map-then-reduce 워크플로로 범주별 문서 요약. 대화록이나 비정형 텍스트를 분석해 쿼리 가능한 표 형식으로 결과 반환.
- docetl는 어떻게 설치하나요?
- pip으로 패키지를 설치합니다: pip install docetl LLM 제공업체(예: OpenAI)의 API 키를 설정합니다: export OPENAI_API_KEY=your_key 파이프라인 YAML 파일을 작성하고 CLI로 실행합니다: docetl run pipeline.yaml
- docetl은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/ucbepic/docetl
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
자체 데이터와 LLM을 연결해 RAG, 에이전트, 문서 처리 애플리케이션을 구축하는 Python 프레임워크입니다.
기초 모델 학습을 위해 텍스트, 이미지, 오디오, 비디오 데이터를 정제·필터링·중복 제거·합성할 수 있는 200개 이상의 조합형 연산자를 제공하는 데이터 처리 시스템입니다.
AI 학습용 대규모 텍스트, 이미지, 비디오, 오디오 데이터셋을 필터링·중복 제거·변환하는 재현 가능한 파이프라인을 구축하기 위한 GPU 가속 툴킷입니다.
대화 기록만 재생하는 대신 기억을 저장·회상·성찰해 AI 에이전트가 시간이 지날수록 학습하도록 돕는 에이전트 메모리 시스템입니다.
자체 호스팅 환경에서 문서를 바탕으로 출처를 제시하며 질문에 답하는 AI 에이전트와 어시스턴트를 어떤 모델로든 구축할 수 있는 플랫폼입니다.