Repolode
ax-llm

ax-llm/ax

面向 TypeScript 的 DSPy 风格框架,用类型化签名构建结构化 LLM 程序,并提供 Agent、工作流和优化器。

Star
2,978
Fork
201
未关闭 Issue
5
最近提交
20小时前

这是什么?

Ax 让开发者用类型化签名描述 LLM 任务,签名可以是简短的字符串 DSL、链式构建器,也可以是 Zod、Valibot、ArkType 等 Standard Schema 校验器。输出会被解析并校验为类型化的值,校验失败时自动重试。通过切换 provider 名称即可接入 OpenAI、Anthropic、Google Gemini、Ollama 以及兼容 OpenAI 接口的端点。

在签名之上,项目提供带沙箱 JavaScript 运行时和递归长上下文执行的 Agent,支持分支、循环和并行的类型化工作流图,以及 GEPA、少样本自举等优化器。此外还支持多模态输入、按字段解析的流式输出、工具调用,并可将 MCP 服务器作为工具来源。

同一套编程模型也被编译为仓库内置的 Python、Java、C++、Go 和 Rust 库,便于程序在不同运行时之间迁移。

核心功能

  • 01通过字符串 DSL、链式构建器或 Zod、Valibot、ArkType 定义类型化的结构化输出
  • 02用一套 API 对接多家模型服务商,切换 provider 名称即可
  • 03带沙箱 JS 运行时、检查点回放以及记忆和技能加载的 Agent
  • 04支持分支、循环和并行执行的类型化工作流图
  • 05提供 GEPA、少样本自举等提示优化器
  • 06支持流式解析、工具调用和 MCP 客户端

适用场景

  • 从邮件、工单或文档中抽取结构化数据并得到类型化对象
  • 开发需要校验 LLM 输出的 TypeScript 应用
  • 构建包含分支与重试逻辑的多步 LLM 流程
  • 基于带标注的评测集自动优化提示词

快速上手

  1. 1

    从 npm 安装 TypeScript 包

    npm install @ax-llm/ax
  2. 2

    导入 ai 和 ax,并使用你的 OpenAI API 密钥创建分类器

  3. 3

    调用 forward 方法,传入 LLM 和评论文本以运行分类器

使用前须知

  • 运行 LLM 调用需要模型提供商(如 OpenAI 或 Anthropic)的 API 密钥。
  • Python、Java、C++、Go、Rust 版本由 TypeScript 源码生成,功能可能落后于 TypeScript 版本。

收录于专题

标签

常见问题

ax 是什么?
面向 TypeScript 的 DSPy 风格框架,用类型化签名构建结构化 LLM 程序,并提供 Agent、工作流和优化器。 Ax 让开发者用类型化签名描述 LLM 任务,签名可以是简短的字符串 DSL、链式构建器,也可以是 Zod、Valibot、ArkType 等 Standard Schema 校验器。输出会被解析并校验为类型化的值,校验失败时自动重试。通过切换 provider 名称即可接入 OpenAI、Anthropic、Google Gemini、Ollama 以及兼容 OpenAI 接口的端点。
ax 可以免费使用吗?用的什么许可证?
ax 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
ax 还在维护吗?
活跃维护中。ax 最近一次提交是在 2026年11月6日。
ax 适合用来做什么?
从邮件、工单或文档中抽取结构化数据并得到类型化对象 开发需要校验 LLM 输出的 TypeScript 应用 构建包含分支与重试逻辑的多步 LLM 流程 基于带标注的评测集自动优化提示词
ax 怎么安装和运行?
从 npm 安装 TypeScript 包: npm install @ax-llm/ax 导入 ai 和 ax,并使用你的 OpenAI API 密钥创建分类器 调用 forward 方法,传入 LLM 和评论文本以运行分类器
在哪里获取 ax?
源代码和安装说明在 GitHub 上:https://github.com/ax-llm/ax

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目