Repolode
제출하기
infiniflow

infiniflow/infinity

LLM 애플리케이션을 위한 AI 네이티브 데이터베이스로, dense vector, sparse vector, tensor 및 전문 검색을 결합한 하이브리드 검색을 제공합니다.

GitHub에서 보기웹사이트
스타
4,761
포크
458
열린 이슈
150
마지막 커밋
그저께

어떤 프로젝트인가요?

Infinity는 LLM 및 RAG 애플리케이션을 위해 구축된 데이터베이스입니다. 구조화된 데이터와 함께 dense embedding, sparse embedding, tensor(멀티 벡터) 및 전문 검색 콘텐츠를 저장하고, 한 번의 요청으로 이러한 검색 유형과 필터를 결합한 쿼리를 실행합니다.

검색 옵션으로는 RRF, 가중 합계, ColBERT 등 여러 재순위화 방법을 제공합니다. 서버 프로세스에 연결할 수 있는 Python SDK와 HTTP API 문서도 제공합니다. 서버는 Docker를 사용하거나 Linux, macOS, WSL2 기반 Windows에서 바이너리로 배포할 수 있으며, AVX2를 지원하는 x86_64 CPU와 Python 3.11 이상이 필요합니다.

이 프로젝트는 C++20으로 작성되었으며 외부 종속성 없이 단일 바이너리로 배포됩니다. 저장소에는 벡터 및 전문 검색 쿼리의 벤치마크 수치가 공개되어 있으며, 프로젝트 벤치마크 페이지에서 확인할 수 있습니다.

핵심 기능

  • 01dense vector, sparse vector, tensor 및 전문 검색 쿼리를 필터링과 결합하는 하이브리드 검색.
  • 02RRF, 가중 합계, ColBERT 등의 재순위화 방법.
  • 03AI 워크플로에 클라이언트를 통합할 수 있는 Python SDK.
  • 04Python 인터페이스와 함께 제공되는 HTTP API.
  • 05외부 종속성 없이 단일 바이너리로 제공되며 Docker로 배포할 수 있는 서버.

활용 사례

  • 시맨틱 검색과 키워드 검색을 모두 지원해야 하는 RAG 파이프라인의 검색 백엔드.
  • 메타데이터 필터를 적용해 문서나 제품 카탈로그에서 수행하는 시맨틱 검색.
  • 임베딩 유사도와 구조화된 조건을 결합하는 추천 시스템.
  • Python에서 사용할 수 있는 임베디드 데이터베이스로 LLM 애플리케이션 프로토타이핑.

빠른 시작

  1. 1

    Infinity 서버용 데이터 디렉터리 만들기

    sudo mkdir -p /var/infinity && sudo chown -R $USER /var/infinity
  2. 2

    Infinity 서버 Docker 이미지 pull하기

    docker pull infiniflow/infinity:nightly
  3. 3

    Infinity 서버 컨테이너 시작하기

    docker run -d --name infinity -v /var/infinity/:/var/infinity --ulimit nofile=500000:500000 --network=host infiniflow/infinity:nightly
  4. 4

    Infinity Python 클라이언트 설치하기

    pip install infinity-sdk==0.7.5

사용 전 알아둘 점

  • AVX2를 지원하는 x86_64 CPU가 필요합니다.
  • Windows 사용자는 Docker를 사용해 WSL 또는 WSL2에서 실행해야 합니다.

포함된 컬렉션

벡터 데이터베이스

토픽

#vector-database#hybrid-search#rag#full-text-search#embedding#nearest-neighbor-search#cpp#ai-native#approximate-nearest-neighbor-search#bm25

자주 묻는 질문

infinity은(는) 무엇인가요?
LLM 애플리케이션을 위한 AI 네이티브 데이터베이스로, dense vector, sparse vector, tensor 및 전문 검색을 결합한 하이브리드 검색을 제공합니다. Infinity는 LLM 및 RAG 애플리케이션을 위해 구축된 데이터베이스입니다. 구조화된 데이터와 함께 dense embedding, sparse embedding, tensor(멀티 벡터) 및 전문 검색 콘텐츠를 저장하고, 한 번의 요청으로 이러한 검색 유형과 필터를 결합한 쿼리를 실행합니다.
infinity은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
infinity은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
infinity은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. infinity의 마지막 커밋은 2026년 11월 5일입니다.
infinity은(는) 어디에 사용할 수 있나요?
시맨틱 검색과 키워드 검색을 모두 지원해야 하는 RAG 파이프라인의 검색 백엔드. 메타데이터 필터를 적용해 문서나 제품 카탈로그에서 수행하는 시맨틱 검색. 임베딩 유사도와 구조화된 조건을 결합하는 추천 시스템. Python에서 사용할 수 있는 임베디드 데이터베이스로 LLM 애플리케이션 프로토타이핑.
infinity는 어떻게 설치하나요?
Infinity 서버용 데이터 디렉터리 만들기: sudo mkdir -p /var/infinity && sudo chown -R $USER /var/infinity Infinity 서버 Docker 이미지 pull하기: docker pull infiniflow/infinity:nightly Infinity 서버 컨테이너 시작하기: docker run -d --name infinity -v /var/infinity/:/var/infinity --ulimit nofile=500000:500000 --network=host infiniflow/infinity:nightly Infinity Python 클라이언트 설치하기: pip install infinity-sdk==0.7.5
infinity은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/infiniflow/infinity

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트