面向 AI 应用的开源数据基础设施,用于存储文档与向量并支持语义、混合及全文检索。
neuml/txtai
一体化 Python AI 框架,覆盖语义搜索、RAG、LLM 编排与语言模型工作流。
- Star
- 13,065
- Fork
- 967
- 未关闭 Issue
- 15
- 最近提交
- 昨天
这是什么?
txtai 是一个以嵌入数据库为核心的 Python AI 框架。该数据库将稠密与稀疏向量索引、图网络和关系型数据库组合在一起,可用于语义搜索,也能作为大语言模型应用的知识来源,支持检索增强生成(RAG)和自主智能体。
除搜索外,txtai 还提供文本摘要、语音转写、翻译、标签分类和 LLM 提示等基于语言模型的管道,并可将这些管道串联成工作流。智能体基于 smolagents 框架构建,可调用 Hugging Face 模型、llama.cpp,也可通过 LiteLLM 接入 OpenAI、Claude、AWS Bedrock 等模型。嵌入可覆盖文本、文档、音频、图像和视频。
项目可通过 pip 安装并在本地运行,也可通过 FastAPI 暴露为 Web API,或作为 Model Context Protocol(MCP)服务使用。官方提供 JavaScript、Java、Rust 和 Go 绑定,并支持容器化部署以横向扩展。
核心功能
- 01结合稠密与稀疏向量索引,支持 SQL、图分析和主题建模的向量搜索
- 02为文本、文档、音频、图像和视频生成嵌入
- 03提供 LLM 提示、问答、摘要、转写和翻译等语言模型管道
- 04可将管道串联为微服务或多模型工作流
- 05基于 smolagents 构建的智能体,可接入 Hugging Face、llama.cpp 及 LiteLLM 支持的模型
- 06提供 Web API 与 Model Context Protocol(MCP)服务,并有 JavaScript、Java、Rust、Go 绑定
适用场景
- 为文档、图片或问答库构建语义搜索
- 实现检索增强生成,让大模型基于自有数据回答问题
- 构建可调用嵌入与管道作为工具的自主智能体
- 将摘要、转写和翻译模型串联成单一工作流
快速上手
- 1
按照 README 中链接的安装指南,使用 pip 安装 txtai
- 2
创建 app.yml 配置文件,并设置 embeddings 路径,例如 sentence-transformers/all-MiniLM-L6-v2
- 3
使用该配置文件启动 txtai API 服务
CONFIG=app.yml uvicorn "txtai.api:app"
使用前须知
- 需要 Python 3.11 或更高版本。
- 基于 Hugging Face Transformers 和 Sentence Transformers 等较重的机器学习依赖构建。
收录于专题
标签
常见问题
- txtai 是什么?
- 一体化 Python AI 框架,覆盖语义搜索、RAG、LLM 编排与语言模型工作流。 txtai 是一个以嵌入数据库为核心的 Python AI 框架。该数据库将稠密与稀疏向量索引、图网络和关系型数据库组合在一起,可用于语义搜索,也能作为大语言模型应用的知识来源,支持检索增强生成(RAG)和自主智能体。
- txtai 可以免费使用吗?用的什么许可证?
- txtai 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- txtai 还在维护吗?
- 活跃维护中。txtai 最近一次提交是在 2026年11月5日。
- txtai 适合用来做什么?
- 为文档、图片或问答库构建语义搜索 实现检索增强生成,让大模型基于自有数据回答问题 构建可调用嵌入与管道作为工具的自主智能体 将摘要、转写和翻译模型串联成单一工作流
- txtai 怎么安装和运行?
- 按照 README 中链接的安装指南,使用 pip 安装 txtai 创建 app.yml 配置文件,并设置 embeddings 路径,例如 sentence-transformers/all-MiniLM-L6-v2 使用该配置文件启动 txtai API 服务: CONFIG=app.yml uvicorn "txtai.api:app"
- 在哪里获取 txtai?
- 源代码和安装说明在 GitHub 上:https://github.com/neuml/txtai
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
Epsilla 是一个开源 C++ 向量数据库,用于嵌入向量相似度搜索,支持元数据过滤、混合检索和 LLM 集成。
一个用于构建大模型应用的 Ruby 库,提供统一的 LLM 接口、向量数据库、RAG 与智能助手能力。
北京智源推出的检索工具包,提供 BGE 向量模型与重排序模型,并包含微调、评测和教程,用于搜索与 RAG。
一个用 JavaScript 从零实现检索增强生成(RAG)的分步教学项目,基于本地 LLM,不依赖云端 API。
基于 Milvus 向量数据库的 Jupyter 教程与演示集合,涵盖非结构化数据检索与 AI 应用构建。