Python AI 客户端库,用统一简单的接口调用多家大模型服务,支持文本、结构化数据和多轮对话。
ax-llm/ax
面向 TypeScript 的 DSPy 风格框架,用类型化签名构建结构化 LLM 程序,并提供 Agent、工作流和优化器。
- Star
- 2,978
- Fork
- 201
- 未关闭 Issue
- 5
- 最近提交
- 20小时前
这是什么?
Ax 让开发者用类型化签名描述 LLM 任务,签名可以是简短的字符串 DSL、链式构建器,也可以是 Zod、Valibot、ArkType 等 Standard Schema 校验器。输出会被解析并校验为类型化的值,校验失败时自动重试。通过切换 provider 名称即可接入 OpenAI、Anthropic、Google Gemini、Ollama 以及兼容 OpenAI 接口的端点。
在签名之上,项目提供带沙箱 JavaScript 运行时和递归长上下文执行的 Agent,支持分支、循环和并行的类型化工作流图,以及 GEPA、少样本自举等优化器。此外还支持多模态输入、按字段解析的流式输出、工具调用,并可将 MCP 服务器作为工具来源。
同一套编程模型也被编译为仓库内置的 Python、Java、C++、Go 和 Rust 库,便于程序在不同运行时之间迁移。
核心功能
- 01通过字符串 DSL、链式构建器或 Zod、Valibot、ArkType 定义类型化的结构化输出
- 02用一套 API 对接多家模型服务商,切换 provider 名称即可
- 03带沙箱 JS 运行时、检查点回放以及记忆和技能加载的 Agent
- 04支持分支、循环和并行执行的类型化工作流图
- 05提供 GEPA、少样本自举等提示优化器
- 06支持流式解析、工具调用和 MCP 客户端
适用场景
- 从邮件、工单或文档中抽取结构化数据并得到类型化对象
- 开发需要校验 LLM 输出的 TypeScript 应用
- 构建包含分支与重试逻辑的多步 LLM 流程
- 基于带标注的评测集自动优化提示词
快速上手
- 1
从 npm 安装 TypeScript 包
npm install @ax-llm/ax - 2
导入 ai 和 ax,并使用你的 OpenAI API 密钥创建分类器
- 3
调用 forward 方法,传入 LLM 和评论文本以运行分类器
使用前须知
- 运行 LLM 调用需要模型提供商(如 OpenAI 或 Anthropic)的 API 密钥。
- Python、Java、C++、Go、Rust 版本由 TypeScript 源码生成,功能可能落后于 TypeScript 版本。
收录于专题
标签
常见问题
- ax 是什么?
- 面向 TypeScript 的 DSPy 风格框架,用类型化签名构建结构化 LLM 程序,并提供 Agent、工作流和优化器。 Ax 让开发者用类型化签名描述 LLM 任务,签名可以是简短的字符串 DSL、链式构建器,也可以是 Zod、Valibot、ArkType 等 Standard Schema 校验器。输出会被解析并校验为类型化的值,校验失败时自动重试。通过切换 provider 名称即可接入 OpenAI、Anthropic、Google Gemini、Ollama 以及兼容 OpenAI 接口的端点。
- ax 可以免费使用吗?用的什么许可证?
- ax 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- ax 还在维护吗?
- 活跃维护中。ax 最近一次提交是在 2026年11月6日。
- ax 适合用来做什么?
- 从邮件、工单或文档中抽取结构化数据并得到类型化对象 开发需要校验 LLM 输出的 TypeScript 应用 构建包含分支与重试逻辑的多步 LLM 流程 基于带标注的评测集自动优化提示词
- ax 怎么安装和运行?
- 从 npm 安装 TypeScript 包: npm install @ax-llm/ax 导入 ai 和 ax,并使用你的 OpenAI API 密钥创建分类器 调用 forward 方法,传入 LLM 和评论文本以运行分类器
- 在哪里获取 ax?
- 源代码和安装说明在 GitHub 上:https://github.com/ax-llm/ax
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
一个用于构建和运行基于大模型的自主智能体与多智能体工作流的开源平台,附带无代码图形编辑器。
用于构建 LLM 应用和智能体的 Python 框架,提供模型、嵌入、向量库等统一接口与第三方集成。
一个开源 SDK,用于防范提示词注入、脱敏 PII 与密钥,并扫描仓库中针对 AI 智能体的攻击。
为大语言模型应用添加输入输出防护的 Python 框架,并可从 LLM 输出中生成经校验的结构化数据。