用于构建 LLM 应用和智能体的 Python 框架,提供模型、嵌入、向量库等统一接口与第三方集成。
14.8万2.5万PythonMIT更新于 7小时前
用于构建 RAG、智能体和文档处理应用的 Python 框架,帮助 LLM 连接私有数据。
LlamaIndex 是一个开源的 Python 框架,用于基于自有数据构建 LLM 应用。它提供数据连接器,可接入文件、API 和数据库;提供向量索引、图等结构来组织数据以便检索;并通过查询接口把检索到的上下文交给 LLM,生成有依据的回答。
核心包 llama-index-core 通过大量集成包扩展,覆盖各类 LLM 服务商、嵌入模型和向量数据库。开发者既可以安装包含常用集成的 llama-index 入门,也可以只按需添加所需的集成。高层 API 能让新手用几行代码完成索引构建和查询,检索器、查询引擎、重排序等底层组件则支持深度定制。
项目还包含面向多步骤应用的智能体和工作流工具。另有托管的文档解析与信息抽取平台 LlamaParse,可与本框架配合使用,也可独立使用。
安装入门包
pip install llama-index在设置 OpenAI 密钥后,为你的文档构建向量索引
查询索引
query_engine = index.as_query_engine()概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
用于构建 LLM 应用和智能体的 Python 框架,提供模型、嵌入、向量库等统一接口与第三方集成。
一个用 Python 编程而非手写提示词来调用语言模型的框架,并可自动优化提示与权重。
用于构建、测试和部署 AI 智能体与工作流的可视化平台,可通过 API 或 MCP 服务器对外调用。
为 AI 智能体和应用提供长期记忆层,跨会话保存并检索用户与上下文信息。
本地优先的 AI 记忆系统,逐字保存对话历史,并通过语义搜索检索,提供 MCP 服务与命令行工具。
面向 AI 智能体的记忆系统,支持存储、检索与反思记忆,让智能体随时间学习而非仅回放对话历史。