Repolode
infiniflow

infiniflow/infinity

LLMアプリケーション向けのAIネイティブなデータベース。密ベクトル、疎ベクトル、テンソル、全文検索を組み合わせたハイブリッド検索を提供します。

スター
4,762
フォーク
458
未解決の Issue
150
最終コミット
一昨日

これは何?

Infinityは、LLMやRAGアプリケーション向けに構築されたデータベースです。構造化データに加えて、密な埋め込み、疎な埋め込み、テンソル(マルチベクトル)、全文コンテンツを保存し、これらの検索方式とフィルターを1つのリクエストで組み合わせたクエリを実行できます。

検索オプションには、RRF、weighted sum、ColBERTなどの各種リランカーがあります。サーバープロセスに接続できるPython SDKが提供されており、HTTP APIのドキュメントも用意されています。サーバーはDocker、またはLinux、macOS、Windows(WSL2上)向けのバイナリでデプロイでき、AVX2対応のx86_64 CPUとPython 3.11以降が必要です。

プロジェクトはC++20で書かれており、外部依存関係のない単一バイナリとして配布されています。リポジトリではベクトル検索と全文検索のベンチマーク結果を公開しており、プロジェクトのベンチマークページで確認できます。

主な機能

  • 01密ベクトル、疎ベクトル、テンソル、全文検索をフィルタリングと組み合わせたハイブリッド検索。
  • 02RRF、weighted sum、ColBERTなどのリランカー。
  • 03AIワークフローにクライアントを組み込むためのPython SDK。
  • 04Pythonインターフェースに加え、HTTP APIも提供。
  • 05外部依存関係のない単一バイナリのサーバー。Dockerでデプロイ可能。

ユースケース

  • セマンティック検索とキーワード検索の両方が必要なRAGパイプラインの検索バックエンド。
  • メタデータフィルターを使った、ドキュメントや商品カタログのセマンティック検索。
  • 埋め込みの類似度と構造化データの条件を組み合わせるレコメンデーションシステム。
  • Pythonから利用できる組み込みデータベースを使ったLLMアプリケーションのプロトタイピング。

クイックスタート

  1. 1

    Infinity サーバー用のデータディレクトリを作成する

    sudo mkdir -p /var/infinity && sudo chown -R $USER /var/infinity
  2. 2

    Infinity サーバーの Docker イメージを pull する

    docker pull infiniflow/infinity:nightly
  3. 3

    Infinity サーバーのコンテナを起動する

    docker run -d --name infinity -v /var/infinity/:/var/infinity --ulimit nofile=500000:500000 --network=host infiniflow/infinity:nightly
  4. 4

    Infinity Python クライアントをインストールする

    pip install infinity-sdk==0.7.5

使う前に知っておきたいこと

  • AVX2 に対応した x86_64 CPU が必要です。
  • Windows ユーザーは Docker を使い、WSL または WSL2 経由で実行する必要があります。

収録されている特集

トピック

よくある質問

infinity とは?
LLMアプリケーション向けのAIネイティブなデータベース。密ベクトル、疎ベクトル、テンソル、全文検索を組み合わせたハイブリッド検索を提供します。 Infinityは、LLMやRAGアプリケーション向けに構築されたデータベースです。構造化データに加えて、密な埋め込み、疎な埋め込み、テンソル(マルチベクトル)、全文コンテンツを保存し、これらの検索方式とフィルターを1つのリクエストで組み合わせたクエリを実行できます。
infinity は無料で使えますか?ライセンスは?
infinity は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
infinity は今もメンテナンスされていますか?
活発にメンテナンス中。infinity の最終コミットは 2026年11月5日 です。
infinity は何に使えますか?
セマンティック検索とキーワード検索の両方が必要なRAGパイプラインの検索バックエンド。 メタデータフィルターを使った、ドキュメントや商品カタログのセマンティック検索。 埋め込みの類似度と構造化データの条件を組み合わせるレコメンデーションシステム。 Pythonから利用できる組み込みデータベースを使ったLLMアプリケーションのプロトタイピング。
infinity のインストール方法は?
Infinity サーバー用のデータディレクトリを作成する: sudo mkdir -p /var/infinity && sudo chown -R $USER /var/infinity Infinity サーバーの Docker イメージを pull する: docker pull infiniflow/infinity:nightly Infinity サーバーのコンテナを起動する: docker run -d --name infinity -v /var/infinity/:/var/infinity --ulimit nofile=500000:500000 --network=host infiniflow/infinity:nightly Infinity Python クライアントをインストールする: pip install infinity-sdk==0.7.5
infinity はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/infiniflow/infinity

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト