开源 AI 工程平台,用于调试、评估、监控和优化智能体、LLM 应用与机器学习模型。
ianarawjo/ChainForge
一个可视化节点式环境,用于同时查询多个大模型,对比提示词与模型的回答质量。
- Star
- 3,040
- Fork
- 261
- 未关闭 Issue
- 70
- 最近提交
- 8天前
这是什么?
ChainForge 是一个用于提示词工程和大模型回答评测的数据流环境。你不必逐个与模型聊天,而是在画布上搭建流程,把同一个提示词模板发送给多个模型,并按提示词变体和模型参数并排比较输出。
它的核心机制是组合展开:填入提示词模板的多组输入值会相互交叉,并与所选模型再次组合,因此可以一次发出数百个请求。你可以接入 Python 评估脚本为回答打分,再以箱线图或直方图可视化结果,也能把数据导出为表格。
ChainForge 以本地 Python 服务加 React 前端的形式运行,也可以直接在浏览器中使用。支持的服务包括 OpenAI、Anthropic、Google Gemini、Ollama 本地模型、Azure OpenAI 和 Amazon Bedrock,其他服务可通过自定义提供方脚本接入。
核心功能
- 01一次运行同时查询多个大模型并比较回答
- 02基于模板变量和数据集自动生成提示词组合
- 03通过 Python 评估节点为回答打分
- 04以图表可视化数值与布尔类指标
- 05将结果导出为电子表格格式
- 06提供上传、分块、检索和重排序等 RAG 节点
适用场景
- 在选定服务商之前,比较哪个模型最适合某项具体任务
- 在大量输入上测试提示词措辞细微变化对输出质量的影响
- 做基准答案评测,例如将数学题回答与标准答案比对
- 批量生成参数化的模型输出,并导出做进一步分析
快速上手
- 1
使用 pip 安装 ChainForge(需要 Python 3.10 或更高版本)
pip install chainforge - 2
启动本地服务器
chainforge serve - 3
在 Chrome、Firefox、Edge 或 Brave 中打开 localhost:8000
使用前须知
- 本地安装需要 Python 3.10 或更高版本。
- Python 评估器和本地 Ollama 模型等功能仅在本地版本中可用,网页版不支持。
- 完整的服务端 RAG 功能需要额外安装,FAISS 还需单独安装。
收录于专题
标签
常见问题
- ChainForge 是什么?
- 一个可视化节点式环境,用于同时查询多个大模型,对比提示词与模型的回答质量。 ChainForge 是一个用于提示词工程和大模型回答评测的数据流环境。你不必逐个与模型聊天,而是在画布上搭建流程,把同一个提示词模板发送给多个模型,并按提示词变体和模型参数并排比较输出。
- ChainForge 可以免费使用吗?用的什么许可证?
- ChainForge 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- ChainForge 还在维护吗?
- 活跃维护中。ChainForge 最近一次提交是在 2026年10月29日。
- ChainForge 适合用来做什么?
- 在选定服务商之前,比较哪个模型最适合某项具体任务 在大量输入上测试提示词措辞细微变化对输出质量的影响 做基准答案评测,例如将数学题回答与标准答案比对 批量生成参数化的模型输出,并导出做进一步分析
- ChainForge 怎么安装和运行?
- 使用 pip 安装 ChainForge(需要 Python 3.10 或更高版本): pip install chainforge 启动本地服务器: chainforge serve 在 Chrome、Firefox、Edge 或 Brave 中打开 localhost:8000
- 在哪里获取 ChainForge?
- 源代码和安装说明在 GitHub 上:https://github.com/ianarawjo/ChainForge
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
开源的 LLM 工程平台,用于追踪、评估、管理提示词并调试 LLM 应用,支持自托管。
面向图像、视频和音频任务的多模态模型统一评测工具包,内置 100 多个评测任务。
开源、可自托管的 AI 可观测性平台,用于追踪、评估和调试 LLM 应用与智能体。
基于 Prompt Flow 的 LLMOps 模板,覆盖 LLM 应用的实验、评估与部署,支持 Azure AI Studio 与 Azure Machine Learning。
面向 LLM 提示词的 Markdown 文件格式,配套多语言运行时与 VS Code 扩展,用于运行和追踪提示词。