Repolode
infiniflow

infiniflow/infinity

面向大模型应用的 AI 原生数据库,支持稠密向量、稀疏向量、张量与全文的混合检索。

Star
4,762
Fork
458
未关闭 Issue
150
最近提交
前天

这是什么?

Infinity 是一款面向大模型与 RAG 应用的数据库。它可以把结构化数据与稠密向量、稀疏向量、张量(多向量)和全文内容存放在一起,并在同一次查询中把这些检索方式与过滤条件组合使用。

检索支持 RRF、加权求和以及 ColBERT 等多种重排序方式。项目提供 Python SDK 连接服务端进程,并提供 HTTP API。服务端可通过 Docker 部署,也可在 Linux、macOS 以及 WSL2 下的 Windows 上以二进制方式运行,要求 x86_64 CPU 并支持 AVX2,Python 版本为 3.11 及以上。

项目使用 C++20 编写,以无外部依赖的单一二进制文件分发。仓库公布了向量与全文检索的性能测试数据,详情可在官方基准页面查看。

核心功能

  • 01混合检索,可将稠密向量、稀疏向量、张量和全文查询与过滤条件结合。
  • 02支持 RRF、加权求和与 ColBERT 等重排序方式。
  • 03提供 Python SDK,便于集成到 AI 工作流中。
  • 04除 Python 接口外还提供 HTTP API。
  • 05服务端为无外部依赖的单一二进制文件,可通过 Docker 部署。

适用场景

  • 为需要语义检索与关键词检索并用的 RAG 流程提供检索后端。
  • 在文档或商品目录上做带元数据过滤的语义搜索。
  • 结合向量相似度与结构化条件的推荐系统。
  • 以可通过 Python 调用的数据库原型化大模型应用。

快速上手

  1. 1

    创建 Infinity 服务器的数据目录

    sudo mkdir -p /var/infinity && sudo chown -R $USER /var/infinity
  2. 2

    拉取 Infinity 服务器 Docker 镜像

    docker pull infiniflow/infinity:nightly
  3. 3

    启动 Infinity 服务器容器

    docker run -d --name infinity -v /var/infinity/:/var/infinity --ulimit nofile=500000:500000 --network=host infiniflow/infinity:nightly
  4. 4

    安装 Infinity Python 客户端

    pip install infinity-sdk==0.7.5

使用前须知

  • 需要支持 AVX2 的 x86_64 CPU。
  • Windows 用户必须通过 WSL 或 WSL2 配合 Docker 运行。

收录于专题

标签

常见问题

infinity 是什么?
面向大模型应用的 AI 原生数据库,支持稠密向量、稀疏向量、张量与全文的混合检索。 Infinity 是一款面向大模型与 RAG 应用的数据库。它可以把结构化数据与稠密向量、稀疏向量、张量(多向量)和全文内容存放在一起,并在同一次查询中把这些检索方式与过滤条件组合使用。
infinity 可以免费使用吗?用的什么许可证?
infinity 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
infinity 还在维护吗?
活跃维护中。infinity 最近一次提交是在 2026年11月5日。
infinity 适合用来做什么?
为需要语义检索与关键词检索并用的 RAG 流程提供检索后端。 在文档或商品目录上做带元数据过滤的语义搜索。 结合向量相似度与结构化条件的推荐系统。 以可通过 Python 调用的数据库原型化大模型应用。
infinity 怎么安装和运行?
创建 Infinity 服务器的数据目录: sudo mkdir -p /var/infinity && sudo chown -R $USER /var/infinity 拉取 Infinity 服务器 Docker 镜像: docker pull infiniflow/infinity:nightly 启动 Infinity 服务器容器: docker run -d --name infinity -v /var/infinity/:/var/infinity --ulimit nofile=500000:500000 --network=host infiniflow/infinity:nightly 安装 Infinity Python 客户端: pip install infinity-sdk==0.7.5
在哪里获取 infinity?
源代码和安装说明在 GitHub 上:https://github.com/infiniflow/infinity

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目