Repolode
ianarawjo

ianarawjo/ChainForge

Визуальная среда на основе узлов для сравнения промптов и моделей: она одновременно отправляет запросы нескольким LLM и оценивает ответы.

Звёзды
3,040
Форки
261
Открытые issues
70
Последний коммит
9 дней назад

Что это?

ChainForge — среда для работы с потоками данных, предназначенная для разработки промптов и оценки ответов LLM. Вместо того чтобы общаться с одной моделью за раз, вы собираете поток на холсте, отправляете один шаблон промпта нескольким моделям и сравниваете результаты при разных вариантах промпта и настройках моделей.

В основе лежит комбинирование: значения, подставленные в шаблон промпта, комбинируются друг с другом и с выбранными моделями, благодаря чему можно одновременно запускать сотни запросов. Для оценки ответов можно подключать скрипты на Python, а затем визуализировать результаты с помощью диаграмм размаха и гистограмм и экспортировать данные в электронную таблицу.

ChainForge работает как локальный сервер Python с фронтендом на React; также им можно пользоваться в браузере по адресу chainforge.ai/play. Поддерживаются OpenAI, Anthropic, Google Gemini, локальные модели, запущенные через Ollama, Azure OpenAI и Amazon Bedrock. Для других провайдеров можно написать собственные скрипты.

Ключевые возможности

  • 01Отправка запросов нескольким LLM за один запуск и сравнение ответов
  • 02Создание комбинаций промптов на основе переменных шаблона и наборов данных
  • 03Оценка ответов с помощью узлов оценки на Python
  • 04Визуализация числовых и логических метрик в виде графиков
  • 05Экспорт результатов в формат электронных таблиц
  • 06Включает узлы RAG для загрузки, разбиения на фрагменты, поиска и повторного ранжирования

Сценарии использования

  • Выбор модели, которая лучше всего справляется с конкретной задачей, прежде чем остановиться на одном провайдере
  • Проверка того, как небольшие изменения формулировок промпта влияют на качество ответов при обработке множества входных данных
  • Проведение оценок с эталонными ответами, например проверка математических ответов по ожидаемым результатам
  • Массовая генерация параметризованных ответов LLM и их экспорт для анализа

Быстрый старт

  1. 1

    Установите ChainForge с помощью pip (Python 3.10 или выше).

    pip install chainforge
  2. 2

    Запустите локальный сервер.

    chainforge serve
  3. 3

    Откройте localhost:8000 в Chrome, Firefox, Edge или Brave.

Что важно знать

  • Для локальной установки требуется Python 3.10 или выше.
  • Некоторые функции, например Python evaluators и локальные модели Ollama, доступны только в локальной версии, а не в веб-версии.
  • Для доступа ко всем серверным функциям RAG требуется дополнительная установка, а FAISS нужно установить отдельно.

В подборках

Темы

Частые вопросы

Что такое ChainForge?
Визуальная среда на основе узлов для сравнения промптов и моделей: она одновременно отправляет запросы нескольким LLM и оценивает ответы. ChainForge — среда для работы с потоками данных, предназначенная для разработки промптов и оценки ответов LLM. Вместо того чтобы общаться с одной моделью за раз, вы собираете поток на холсте, отправляете один шаблон промпта нескольким моделям и сравниваете результаты при разных вариантах промпта и настройках моделей.
ChainForge можно использовать бесплатно? Какая у него лицензия?
ChainForge распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
ChainForge всё ещё поддерживается?
Активно поддерживается. Последний коммит в ChainForge — 29 окт. 2026 г..
Для чего можно использовать ChainForge?
Выбор модели, которая лучше всего справляется с конкретной задачей, прежде чем остановиться на одном провайдере Проверка того, как небольшие изменения формулировок промпта влияют на качество ответов при обработке множества входных данных Проведение оценок с эталонными ответами, например проверка математических ответов по ожидаемым результатам Массовая генерация параметризованных ответов LLM и их экспорт для анализа
Как установить ChainForge?
Установите ChainForge с помощью pip (Python 3.10 или выше).: pip install chainforge Запустите локальный сервер.: chainforge serve Откройте localhost:8000 в Chrome, Firefox, Edge или Brave.
Где скачать ChainForge?
Исходный код и инструкции по установке — на GitHub: https://github.com/ianarawjo/ChainForge

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Единый инструментарий для оценки мультимодальных моделей на задачах с изображениями, видео и аудио: более 100 бенчмарков и свыше 30 бэкендов моделей.

4,5 тыс.+12 за неделю686PythonOtherАктивно поддерживаетсяОбновлён вчера