Repolode
ianarawjo

ianarawjo/ChainForge

一个可视化节点式环境,用于同时查询多个大模型,对比提示词与模型的回答质量。

Star
3,040
Fork
261
未关闭 Issue
70
最近提交
8天前

这是什么?

ChainForge 是一个用于提示词工程和大模型回答评测的数据流环境。你不必逐个与模型聊天,而是在画布上搭建流程,把同一个提示词模板发送给多个模型,并按提示词变体和模型参数并排比较输出。

它的核心机制是组合展开:填入提示词模板的多组输入值会相互交叉,并与所选模型再次组合,因此可以一次发出数百个请求。你可以接入 Python 评估脚本为回答打分,再以箱线图或直方图可视化结果,也能把数据导出为表格。

ChainForge 以本地 Python 服务加 React 前端的形式运行,也可以直接在浏览器中使用。支持的服务包括 OpenAI、Anthropic、Google Gemini、Ollama 本地模型、Azure OpenAI 和 Amazon Bedrock,其他服务可通过自定义提供方脚本接入。

核心功能

  • 01一次运行同时查询多个大模型并比较回答
  • 02基于模板变量和数据集自动生成提示词组合
  • 03通过 Python 评估节点为回答打分
  • 04以图表可视化数值与布尔类指标
  • 05将结果导出为电子表格格式
  • 06提供上传、分块、检索和重排序等 RAG 节点

适用场景

  • 在选定服务商之前,比较哪个模型最适合某项具体任务
  • 在大量输入上测试提示词措辞细微变化对输出质量的影响
  • 做基准答案评测,例如将数学题回答与标准答案比对
  • 批量生成参数化的模型输出,并导出做进一步分析

快速上手

  1. 1

    使用 pip 安装 ChainForge(需要 Python 3.10 或更高版本)

    pip install chainforge
  2. 2

    启动本地服务器

    chainforge serve
  3. 3

    在 Chrome、Firefox、Edge 或 Brave 中打开 localhost:8000

使用前须知

  • 本地安装需要 Python 3.10 或更高版本。
  • Python 评估器和本地 Ollama 模型等功能仅在本地版本中可用,网页版不支持。
  • 完整的服务端 RAG 功能需要额外安装,FAISS 还需单独安装。

收录于专题

标签

常见问题

ChainForge 是什么?
一个可视化节点式环境,用于同时查询多个大模型,对比提示词与模型的回答质量。 ChainForge 是一个用于提示词工程和大模型回答评测的数据流环境。你不必逐个与模型聊天,而是在画布上搭建流程,把同一个提示词模板发送给多个模型,并按提示词变体和模型参数并排比较输出。
ChainForge 可以免费使用吗?用的什么许可证?
ChainForge 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
ChainForge 还在维护吗?
活跃维护中。ChainForge 最近一次提交是在 2026年10月29日。
ChainForge 适合用来做什么?
在选定服务商之前,比较哪个模型最适合某项具体任务 在大量输入上测试提示词措辞细微变化对输出质量的影响 做基准答案评测,例如将数学题回答与标准答案比对 批量生成参数化的模型输出,并导出做进一步分析
ChainForge 怎么安装和运行?
使用 pip 安装 ChainForge(需要 Python 3.10 或更高版本): pip install chainforge 启动本地服务器: chainforge serve 在 Chrome、Firefox、Edge 或 Brave 中打开 localhost:8000
在哪里获取 ChainForge?
源代码和安装说明在 GitHub 上:https://github.com/ianarawjo/ChainForge

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目