Repolode
ianarawjo

ianarawjo/ChainForge

여러 LLM에 동시에 질의하고 응답을 평가해 프롬프트와 모델을 비교하는 시각적 노드 기반 환경입니다.

스타
3,040
포크
261
열린 이슈
70
마지막 커밋
8일 전

어떤 프로젝트인가요?

ChainForge는 프롬프트 엔지니어링과 LLM 응답 평가를 위한 데이터 흐름 환경입니다. 모델 하나와 한 번에 대화하는 대신, 캔버스에서 플로우를 구성하고 같은 프롬프트 템플릿을 여러 모델에 보내 프롬프트 변형과 모델 설정별 결과를 나란히 비교할 수 있습니다.

핵심은 조합 방식입니다. 프롬프트 템플릿에 입력한 값들을 서로 조합하고 선택한 각 모델에도 적용해 한 번에 수백 건의 질의를 실행할 수 있습니다. Python 평가 스크립트를 연결해 응답에 점수를 매기고, 결과를 상자 수염 그림이나 히스토그램으로 시각화한 뒤 스프레드시트로 내보낼 수 있습니다.

ChainForge는 React 프런트엔드와 함께 로컬 Python 서버로 실행할 수 있으며, chainforge.ai/play 브라우저 버전도 제공됩니다. OpenAI, Anthropic, Google Gemini, Ollama에서 호스팅하는 로컬 모델, Azure OpenAI, Amazon Bedrock을 지원하며, 그 외 제공업체는 사용자 지정 provider 스크립트로 연동할 수 있습니다.

핵심 기능

  • 01한 번의 실행으로 여러 LLM에 질의하고 응답 비교
  • 02템플릿 변수와 데이터셋으로 프롬프트 조합 생성
  • 03Python 평가 노드로 응답 채점
  • 04숫자 및 불리언 지표를 그래프로 시각화
  • 05결과를 스프레드시트 형식으로 내보내기
  • 06업로드, 청킹, 검색, 재순위를 위한 RAG 노드 제공

활용 사례

  • 특정 작업에 가장 적합한 모델을 선택하기 전에 성능 비교
  • 프롬프트의 표현을 조금씩 바꿨을 때 여러 입력에서 출력 품질이 어떻게 달라지는지 테스트
  • 수학 답변을 예상 결과와 대조하는 등 정답 데이터를 활용한 평가 실행
  • 매개변수화된 LLM 출력을 일괄 생성하고 분석을 위해 내보내기

빠른 시작

  1. 1

    pip으로 ChainForge를 설치합니다(Python 3.10 이상).

    pip install chainforge
  2. 2

    로컬 서버를 시작합니다.

    chainforge serve
  3. 3

    Chrome, Firefox, Edge 또는 Brave에서 localhost:8000을 엽니다.

사용 전 알아둘 점

  • 로컬 설치에는 Python 3.10 이상이 필요합니다.
  • Python evaluators 및 로컬 Ollama 모델과 같은 일부 기능은 웹 버전이 아닌 로컬 버전에서만 사용할 수 있습니다.
  • RAG 서버 측 기능을 모두 사용하려면 추가 설치가 필요하며, FAISS는 별도로 설치해야 합니다.

포함된 컬렉션

토픽

자주 묻는 질문

ChainForge은(는) 무엇인가요?
여러 LLM에 동시에 질의하고 응답을 평가해 프롬프트와 모델을 비교하는 시각적 노드 기반 환경입니다. ChainForge는 프롬프트 엔지니어링과 LLM 응답 평가를 위한 데이터 흐름 환경입니다. 모델 하나와 한 번에 대화하는 대신, 캔버스에서 플로우를 구성하고 같은 프롬프트 템플릿을 여러 모델에 보내 프롬프트 변형과 모델 설정별 결과를 나란히 비교할 수 있습니다.
ChainForge은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
ChainForge은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
ChainForge은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. ChainForge의 마지막 커밋은 2026년 10월 29일입니다.
ChainForge은(는) 어디에 사용할 수 있나요?
특정 작업에 가장 적합한 모델을 선택하기 전에 성능 비교 프롬프트의 표현을 조금씩 바꿨을 때 여러 입력에서 출력 품질이 어떻게 달라지는지 테스트 수학 답변을 예상 결과와 대조하는 등 정답 데이터를 활용한 평가 실행 매개변수화된 LLM 출력을 일괄 생성하고 분석을 위해 내보내기
ChainForge는 어떻게 설치하나요?
pip으로 ChainForge를 설치합니다(Python 3.10 이상).: pip install chainforge 로컬 서버를 시작합니다.: chainforge serve Chrome, Firefox, Edge 또는 Brave에서 localhost:8000을 엽니다.
ChainForge은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/ianarawjo/ChainForge

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트