AI 앱을 위한 오픈 소스 임베딩 데이터베이스로, 문서와 벡터를 저장해 시맨틱·하이브리드·전체 텍스트 검색을 지원합니다.
StarlightSearch/EmbedAnything
Rust 기반 임베딩 파이프라인으로, 텍스트·PDF·이미지·오디오·웹사이트를 입력받아 로컬 또는 클라우드 모델로 임베딩을 생성하고 벡터 데이터베이스에 스트리밍합니다.
- 스타
- 1,323
- 포크
- 140
- 열린 이슈
- 20
- 마지막 커밋
- 12일 전
어떤 프로젝트인가요?
EmbedAnything은 Python 바인딩을 제공하는 Rust 기반 임베딩 파이프라인입니다. 텍스트, PDF, Markdown, 이미지, 오디오, 웹사이트, S3 버킷 등 다양한 소스의 파일을 가져와 청크로 나누고 임베딩을 생성한 뒤, 결과를 벡터 데이터베이스에 스트리밍합니다. 지원하는 모델 유형에는 dense, sparse(SPLADE), ONNX, Model2Vec, late-interaction(ColBERT, ColPali) 임베딩이 있으며, reranker도 지원합니다.
모델은 Candle 또는 ONNX Runtime 백엔드에서 실행되므로 PyTorch에 의존하지 않습니다. Hugging Face 모델을 직접 불러올 수 있으며, Cohere 같은 클라우드 임베딩 모델도 사용할 수 있습니다. 청킹 방식으로는 고정 크기, 문장 단위, 시맨틱, late-chunking 전략을 제공합니다. 파일을 임베딩하는 동안 저장소로 스트리밍할 수 있도록 처리, 인덱싱, 추론을 별도의 스레드에서 실행합니다.
Qdrant, Weaviate, Milvus, Pinecone, Chroma, Elasticsearch 등의 벡터 스토어용 어댑터와 서버용 사전 빌드 Docker 이미지를 제공합니다.
핵심 기능
- 01dense, sparse, ONNX, Model2Vec, late-interaction 임베딩을 생성합니다.
- 02PyTorch 없이 Candle 또는 ONNX Runtime에서 모델을 실행합니다.
- 03PDF, 텍스트, Markdown, 이미지, 오디오, 웹사이트, S3 버킷의 데이터를 가져옵니다.
- 04고정 크기, 문장 단위, 시맨틱, late-chunking 전략을 제공합니다.
- 05임베딩을 Qdrant, Weaviate, Milvus 등의 벡터 데이터베이스에 스트리밍합니다.
- 06Python 바인딩과 사전 빌드된 Docker 서버 이미지를 제공합니다.
활용 사례
- PDF와 문서를 벡터 데이터베이스에 인덱싱하는 RAG 파이프라인 구축.
- PyTorch를 설치하지 않고 로컬 머신이나 클라우드 서버에서 임베딩 생성.
- 대규모 파일 모음을 처리하는 동안 S3 버킷에서 데이터를 인덱싱.
- dense 임베딩과 SPLADE sparse 임베딩을 결합한 하이브리드 검색 실행.
빠른 시작
- 1
README의 Installation 섹션에 안내된 대로 Python 패키지를 설치합니다
- 2
README의 사용 예제를 참고해 모델을 로드하고 파일을 임베딩합니다
사용 전 알아둘 점
- Cohere와 같은 클라우드 모델을 사용하려면 본인의 API 키가 필요합니다.
- 액세스가 제한된 Hugging Face 저장소와 같은 일부 모델에는 액세스 토큰이 필요합니다.
토픽
자주 묻는 질문
- EmbedAnything은(는) 무엇인가요?
- Rust 기반 임베딩 파이프라인으로, 텍스트·PDF·이미지·오디오·웹사이트를 입력받아 로컬 또는 클라우드 모델로 임베딩을 생성하고 벡터 데이터베이스에 스트리밍합니다. EmbedAnything은 Python 바인딩을 제공하는 Rust 기반 임베딩 파이프라인입니다. 텍스트, PDF, Markdown, 이미지, 오디오, 웹사이트, S3 버킷 등 다양한 소스의 파일을 가져와 청크로 나누고 임베딩을 생성한 뒤, 결과를 벡터 데이터베이스에 스트리밍합니다. 지원하는 모델 유형에는 dense, sparse(SPLADE), ONNX, Model2Vec, late-interaction(ColBERT, ColPali) 임베딩이 있으며, reranker도 지원합니다.
- EmbedAnything은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- EmbedAnything은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- EmbedAnything은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. EmbedAnything의 마지막 커밋은 2026년 10월 26일입니다.
- EmbedAnything은(는) 어디에 사용할 수 있나요?
- PDF와 문서를 벡터 데이터베이스에 인덱싱하는 RAG 파이프라인 구축. PyTorch를 설치하지 않고 로컬 머신이나 클라우드 서버에서 임베딩 생성. 대규모 파일 모음을 처리하는 동안 S3 버킷에서 데이터를 인덱싱. dense 임베딩과 SPLADE sparse 임베딩을 결합한 하이브리드 검색 실행.
- EmbedAnything는 어떻게 설치하나요?
- README의 Installation 섹션에 안내된 대로 Python 패키지를 설치합니다 README의 사용 예제를 참고해 모델을 로드하고 파일을 임베딩합니다
- EmbedAnything은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/StarlightSearch/EmbedAnything
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
오픈소스 텍스트 임베딩 및 리랭커 모델을 HTTP와 gRPC로 배포하고 제공하는 Rust 기반 서버입니다.
Epsilla는 메타데이터 필터링, 하이브리드 검색, LLM 검색 연동을 지원하는 임베딩 유사도 검색용 오픈 소스 C++ 벡터 데이터베이스입니다.
객체와 벡터를 함께 저장하고, 벡터 유사도 검색과 구조화된 필터링을 결합하는 오픈소스 벡터 데이터베이스입니다.
Milvus 벡터 데이터베이스로 비정형 데이터 검색 및 AI 애플리케이션을 만드는 방법을 보여주는 Jupyter Notebook 튜토리얼과 데모 모음입니다.
Qdrant 벡터 검색 엔진의 공식 Python 클라이언트 라이브러리로, 동기·비동기 REST/gRPC 액세스와 로컬 인메모리 모드를 제공합니다.