Open source-платформа для разработки ИИ: отладки, оценки, мониторинга и оптимизации агентов, LLM-приложений и ML-моделей.
ianarawjo/ChainForge
Визуальная среда на основе узлов для сравнения промптов и моделей: она одновременно отправляет запросы нескольким LLM и оценивает ответы.
- Звёзды
- 3,040
- Форки
- 261
- Открытые issues
- 70
- Последний коммит
- 9 дней назад
Что это?
ChainForge — среда для работы с потоками данных, предназначенная для разработки промптов и оценки ответов LLM. Вместо того чтобы общаться с одной моделью за раз, вы собираете поток на холсте, отправляете один шаблон промпта нескольким моделям и сравниваете результаты при разных вариантах промпта и настройках моделей.
В основе лежит комбинирование: значения, подставленные в шаблон промпта, комбинируются друг с другом и с выбранными моделями, благодаря чему можно одновременно запускать сотни запросов. Для оценки ответов можно подключать скрипты на Python, а затем визуализировать результаты с помощью диаграмм размаха и гистограмм и экспортировать данные в электронную таблицу.
ChainForge работает как локальный сервер Python с фронтендом на React; также им можно пользоваться в браузере по адресу chainforge.ai/play. Поддерживаются OpenAI, Anthropic, Google Gemini, локальные модели, запущенные через Ollama, Azure OpenAI и Amazon Bedrock. Для других провайдеров можно написать собственные скрипты.
Ключевые возможности
- 01Отправка запросов нескольким LLM за один запуск и сравнение ответов
- 02Создание комбинаций промптов на основе переменных шаблона и наборов данных
- 03Оценка ответов с помощью узлов оценки на Python
- 04Визуализация числовых и логических метрик в виде графиков
- 05Экспорт результатов в формат электронных таблиц
- 06Включает узлы RAG для загрузки, разбиения на фрагменты, поиска и повторного ранжирования
Сценарии использования
- Выбор модели, которая лучше всего справляется с конкретной задачей, прежде чем остановиться на одном провайдере
- Проверка того, как небольшие изменения формулировок промпта влияют на качество ответов при обработке множества входных данных
- Проведение оценок с эталонными ответами, например проверка математических ответов по ожидаемым результатам
- Массовая генерация параметризованных ответов LLM и их экспорт для анализа
Быстрый старт
- 1
Установите ChainForge с помощью pip (Python 3.10 или выше).
pip install chainforge - 2
Запустите локальный сервер.
chainforge serve - 3
Откройте localhost:8000 в Chrome, Firefox, Edge или Brave.
Что важно знать
- Для локальной установки требуется Python 3.10 или выше.
- Некоторые функции, например Python evaluators и локальные модели Ollama, доступны только в локальной версии, а не в веб-версии.
- Для доступа ко всем серверным функциям RAG требуется дополнительная установка, а FAISS нужно установить отдельно.
В подборках
Темы
Частые вопросы
- Что такое ChainForge?
- Визуальная среда на основе узлов для сравнения промптов и моделей: она одновременно отправляет запросы нескольким LLM и оценивает ответы. ChainForge — среда для работы с потоками данных, предназначенная для разработки промптов и оценки ответов LLM. Вместо того чтобы общаться с одной моделью за раз, вы собираете поток на холсте, отправляете один шаблон промпта нескольким моделям и сравниваете результаты при разных вариантах промпта и настройках моделей.
- ChainForge можно использовать бесплатно? Какая у него лицензия?
- ChainForge распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- ChainForge всё ещё поддерживается?
- Активно поддерживается. Последний коммит в ChainForge — 29 окт. 2026 г..
- Для чего можно использовать ChainForge?
- Выбор модели, которая лучше всего справляется с конкретной задачей, прежде чем остановиться на одном провайдере Проверка того, как небольшие изменения формулировок промпта влияют на качество ответов при обработке множества входных данных Проведение оценок с эталонными ответами, например проверка математических ответов по ожидаемым результатам Массовая генерация параметризованных ответов LLM и их экспорт для анализа
- Как установить ChainForge?
- Установите ChainForge с помощью pip (Python 3.10 или выше).: pip install chainforge Запустите локальный сервер.: chainforge serve Откройте localhost:8000 в Chrome, Firefox, Edge или Brave.
- Где скачать ChainForge?
- Исходный код и инструкции по установке — на GitHub: https://github.com/ianarawjo/ChainForge
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Открытая платформа для разработки LLM-приложений: трассировка, оценка, управление промптами и отладка; можно развернуть самостоятельно.
Единый инструментарий для оценки мультимодальных моделей на задачах с изображениями, видео и аудио: более 100 бенчмарков и свыше 30 бэкендов моделей.
Open-source платформа AI observability для самостоятельного развёртывания: трассировка, оценка и отладка приложений и агентов на базе LLM.
Шаблон и рекомендации по эксплуатации приложений на базе LLM с Prompt Flow в Azure AI Studio или Azure Machine Learning: от экспериментов и оценки до развертывания.
Формат Markdown-файлов для LLM-промптов с поддержкой Python, TypeScript, Rust, C# и других языков, а также расширением VS Code для запуска и трассировки.