Rust 기반 임베딩 파이프라인으로, 텍스트·PDF·이미지·오디오·웹사이트를 입력받아 로컬 또는 클라우드 모델로 임베딩을 생성하고 벡터 데이터베이스에 스트리밍합니다.
lance-format/lance
멀티모달 AI를 위한 개방형 레이크하우스 테이블 및 파일 형식으로, 오브젝트 스토리지에서 벡터 검색, 전문 검색, 빠른 랜덤 액세스를 지원합니다.
- 스타
- 7,266
- 포크
- 926
- 열린 이슈
- 1,197
- 마지막 커밋
- 4시간 전
어떤 프로젝트인가요?
Lance는 AI 워크로드를 위해 오브젝트 스토리지 기반 레이크하우스를 구축하는 데 쓰이는 파일 형식, 테이블 형식, 카탈로그 사양입니다. 이미지, 동영상, 오디오, 텍스트, 임베딩을 하나의 형식에 저장하며, 멀티모달 데이터를 위한 blob 인코딩과 지연 로딩을 지원합니다.
이 프로젝트는 유사도 검색, ML 학습을 위한 랜덤 샘플링, 테이블 전체를 다시 쓰지 않고 기존 데이터에 값을 채운 피처 열을 추가하는 작업처럼 기존 Parquet 기반 레이크하우스가 잘 처리하지 못하는 워크로드를 대상으로 합니다. 같은 데이터셋에서 벡터 인덱스, BM25 전문 검색, SQL 분석을 지원하며, 타임 트래블, 태그, 브랜치를 포함한 자동 버전 관리 기능도 제공합니다.
몇 줄의 Python 코드로 Parquet에서 Lance를 쓸 수 있으며, Pandas, Polars, DuckDB, PyArrow, PyTorch를 통해 읽을 수 있습니다. Ray, Spark, Trino, Flink와의 통합도 제공하며, 핵심은 Rust로 구현되고 Python 및 Java 바인딩을 제공합니다.
핵심 기능
- 01IVF_PQ 인덱스를 이용한 벡터 유사도 검색과 전문 검색(BM25), SQL 쿼리를 함께 지원합니다.
- 02프로젝트 벤치마크에서 배치 조회 시 Parquet보다 최대 100배 빠른 랜덤 액세스 성능을 기록했습니다.
- 03지연 blob 로딩을 지원하며 이미지, 동영상, 오디오, 텍스트, 임베딩을 하나의 형식에 저장합니다.
- 04전체 테이블을 다시 쓰지 않고 기존 값을 채운 열을 추가합니다.
- 05ACID 트랜잭션, 타임 트래블, 태그, 브랜치를 지원하는 자동 버전 관리 기능을 제공합니다.
- 06Pandas, Polars, DuckDB, PyArrow, PyTorch와 함께 사용할 수 있습니다.
활용 사례
- 벡터, 키워드, SQL 필터를 결합하는 검색 엔진이나 피처 스토어 구축
- 이미지 또는 동영상 데이터셋에서 빠른 랜덤 샘플링이 필요한 대규모 ML 학습
- 오브젝트 스토리지 레이크하우스에서 임베딩과 멀티모달 에셋 관리
- 전체 데이터를 다시 쓰지 않고 기존 데이터셋에 엔지니어링한 피처 추가
빠른 시작
- 1
Python 패키지 pylance 설치
pip install pylance - 2
Parquet 데이터셋을 Lance로 변환한 뒤 Python에서 다시 읽기
사용 전 알아둘 점
- Lance는 자주 릴리스되므로, 서로 다른 Lance 버전 간에 결정적인 쓰기 결과를 얻으려면 data_storage_version을 고정하세요.
- 'next' 파일 형식 별칭은 불안정하므로 프로덕션 데이터에 사용하지 마세요.
포함된 컬렉션
토픽
자주 묻는 질문
- lance은(는) 무엇인가요?
- 멀티모달 AI를 위한 개방형 레이크하우스 테이블 및 파일 형식으로, 오브젝트 스토리지에서 벡터 검색, 전문 검색, 빠른 랜덤 액세스를 지원합니다. Lance는 AI 워크로드를 위해 오브젝트 스토리지 기반 레이크하우스를 구축하는 데 쓰이는 파일 형식, 테이블 형식, 카탈로그 사양입니다. 이미지, 동영상, 오디오, 텍스트, 임베딩을 하나의 형식에 저장하며, 멀티모달 데이터를 위한 blob 인코딩과 지연 로딩을 지원합니다.
- lance은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- lance은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- lance은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. lance의 마지막 커밋은 2026년 11월 7일입니다.
- lance은(는) 어디에 사용할 수 있나요?
- 벡터, 키워드, SQL 필터를 결합하는 검색 엔진이나 피처 스토어 구축 이미지 또는 동영상 데이터셋에서 빠른 랜덤 샘플링이 필요한 대규모 ML 학습 오브젝트 스토리지 레이크하우스에서 임베딩과 멀티모달 에셋 관리 전체 데이터를 다시 쓰지 않고 기존 데이터셋에 엔지니어링한 피처 추가
- lance는 어떻게 설치하나요?
- Python 패키지 pylance 설치: pip install pylance Parquet 데이터셋을 Lance로 변환한 뒤 Python에서 다시 읽기
- lance은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/lance-format/lance
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
멀티모달 데이터, 계산 열, 벡터 인덱스, HTTP 라우트를 한 파일에서 선언하는 Python 백엔드입니다.
데이터 전체를 메모리에 올리지 않고도 수십억 행의 테이블 데이터를 지연 탐색하고 시각화할 수 있는 Python DataFrame 라이브러리입니다.
ADBC 드라이버를 통해 데이터베이스에 SQL 쿼리를 실행하고, 대화형 셸과 파일 내보내기를 지원하는 명령줄 도구입니다.
YAML 설정만으로 LLM, 멀티모달 및 테이블형 모델을 학습하고 파인튜닝·배포할 수 있는 선언형 딥러닝 프레임워크입니다.
이미지와 GPS 좌표를 정렬해 전 세계 사진의 위치를 추정하는 CLIP 스타일 모델 GeoCLIP의 PyTorch 구현입니다.