Repolode
neuml

neuml/txtai

一体化 Python AI 框架,覆盖语义搜索、RAG、LLM 编排与语言模型工作流。

Star
13,065
Fork
967
未关闭 Issue
15
最近提交
昨天

这是什么?

txtai 是一个以嵌入数据库为核心的 Python AI 框架。该数据库将稠密与稀疏向量索引、图网络和关系型数据库组合在一起,可用于语义搜索,也能作为大语言模型应用的知识来源,支持检索增强生成(RAG)和自主智能体。

除搜索外,txtai 还提供文本摘要、语音转写、翻译、标签分类和 LLM 提示等基于语言模型的管道,并可将这些管道串联成工作流。智能体基于 smolagents 框架构建,可调用 Hugging Face 模型、llama.cpp,也可通过 LiteLLM 接入 OpenAI、Claude、AWS Bedrock 等模型。嵌入可覆盖文本、文档、音频、图像和视频。

项目可通过 pip 安装并在本地运行,也可通过 FastAPI 暴露为 Web API,或作为 Model Context Protocol(MCP)服务使用。官方提供 JavaScript、Java、Rust 和 Go 绑定,并支持容器化部署以横向扩展。

核心功能

  • 01结合稠密与稀疏向量索引,支持 SQL、图分析和主题建模的向量搜索
  • 02为文本、文档、音频、图像和视频生成嵌入
  • 03提供 LLM 提示、问答、摘要、转写和翻译等语言模型管道
  • 04可将管道串联为微服务或多模型工作流
  • 05基于 smolagents 构建的智能体,可接入 Hugging Face、llama.cpp 及 LiteLLM 支持的模型
  • 06提供 Web API 与 Model Context Protocol(MCP)服务,并有 JavaScript、Java、Rust、Go 绑定

适用场景

  • 为文档、图片或问答库构建语义搜索
  • 实现检索增强生成,让大模型基于自有数据回答问题
  • 构建可调用嵌入与管道作为工具的自主智能体
  • 将摘要、转写和翻译模型串联成单一工作流

快速上手

  1. 1

    按照 README 中链接的安装指南,使用 pip 安装 txtai

  2. 2

    创建 app.yml 配置文件,并设置 embeddings 路径,例如 sentence-transformers/all-MiniLM-L6-v2

  3. 3

    使用该配置文件启动 txtai API 服务

    CONFIG=app.yml uvicorn "txtai.api:app"

使用前须知

  • 需要 Python 3.11 或更高版本。
  • 基于 Hugging Face Transformers 和 Sentence Transformers 等较重的机器学习依赖构建。

收录于专题

标签

常见问题

txtai 是什么?
一体化 Python AI 框架,覆盖语义搜索、RAG、LLM 编排与语言模型工作流。 txtai 是一个以嵌入数据库为核心的 Python AI 框架。该数据库将稠密与稀疏向量索引、图网络和关系型数据库组合在一起,可用于语义搜索,也能作为大语言模型应用的知识来源,支持检索增强生成(RAG)和自主智能体。
txtai 可以免费使用吗?用的什么许可证?
txtai 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
txtai 还在维护吗?
活跃维护中。txtai 最近一次提交是在 2026年11月5日。
txtai 适合用来做什么?
为文档、图片或问答库构建语义搜索 实现检索增强生成,让大模型基于自有数据回答问题 构建可调用嵌入与管道作为工具的自主智能体 将摘要、转写和翻译模型串联成单一工作流
txtai 怎么安装和运行?
按照 README 中链接的安装指南,使用 pip 安装 txtai 创建 app.yml 配置文件,并设置 embeddings 路径,例如 sentence-transformers/all-MiniLM-L6-v2 使用该配置文件启动 txtai API 服务: CONFIG=app.yml uvicorn "txtai.api:app"
在哪里获取 txtai?
源代码和安装说明在 GitHub 上:https://github.com/neuml/txtai

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目