Repolode
confident-ai

confident-ai/deepeval

Pytest와 비슷한 방식으로 RAG, 에이전트, 챗봇, 음성 에이전트 등을 평가하는 메트릭을 제공하는 오픈소스 Python 프레임워크입니다.

스타
18,982
포크
2,102
열린 이슈
751
마지막 커밋
어제

어떤 프로젝트인가요?

DeepEval은 LLM 애플리케이션 테스트를 위한 오픈소스 LLM 평가 프레임워크입니다. Pytest처럼 사용할 수 있지만 LLM 출력에 맞게 설계되었습니다. 입력, 애플리케이션의 실제 출력, 선택적 기대 출력 또는 검색 컨텍스트가 포함된 테스트 케이스를 작성하고, 메트릭을 기준으로 점수를 매깁니다. G-Eval 같은 여러 메트릭은 LLM을 평가자로 사용하며, 원하는 LLM과 함께 사용할 수 있습니다.

이 라이브러리는 앱을 블랙박스로 간주하는 엔드투엔드 평가뿐 아니라 AI 에이전트, 도구 호출, 검색 단계, 하위 에이전트 간 핸드오프를 대상으로 한 컴포넌트 단위 및 궤적 기반 평가도 지원합니다. 기본 제공 메트릭에는 RAG용 답변 관련성, 충실성, 컨텍스트 정밀도 및 재현율, 에이전트용 작업 완료도 및 도구 정확성, 멀티턴 챗봇용 지식 유지율, 환각·편향·유해성 검사 등이 있습니다. 커스텀 메트릭을 만들어 동일한 워크플로에 추가할 수도 있습니다.

`deepeval test run` 명령어로 CLI에서 테스트를 실행하고 CI/CD 파이프라인에 통합할 수 있습니다. OpenAI, Anthropic, LangChain, LangGraph, LlamaIndex, CrewAI, Pydantic AI 등의 트레이싱 통합을 지원합니다. 결과를 Confident AI 플랫폼에 동기화해 공유 가능한 리포트로 만들 수도 있습니다.

핵심 기능

  • 01`deepeval test run`으로 실행하는, Pytest 스타일의 LLM 출력 단위 테스트.
  • 02RAG, AI 에이전트, 멀티턴 챗봇, 음성 에이전트, MCP 및 멀티모달 출력용 기본 제공 메트릭.
  • 03커스텀 기준을 적용하고 LLM을 평가자로 사용하는 G-Eval 및 DAG 메트릭.
  • 04트레이싱을 통한 엔드투엔드, 컴포넌트 단위 및 궤적 기반 평가.
  • 05OpenAI, Anthropic, LangChain, LlamaIndex, CrewAI 및 기타 프레임워크와의 통합.
  • 06평가 결과를 바탕으로 한 합성 데이터셋 생성 및 프롬프트 최적화.

활용 사례

  • RAG 파이프라인의 회귀 테스트를 CI/CD 워크플로에 추가.
  • AI 에이전트가 작업을 완료하고 적절한 도구를 호출하는지 확인.
  • 멀티턴 고객 지원 챗봇의 역할 준수 및 지식 유지율 평가.
  • LLM 제공자를 바꾸기 전에 모델이나 프롬프트 비교.

빠른 시작

  1. 1

    README의 빠른 시작 가이드를 Google Colab에서 엽니다(로컬 설치는 필요하지 않습니다).

사용 전 알아둘 점

  • LLM-as-a-judge 지표는 원하는 LLM을 사용하며, API 키가 필요하거나 사용 비용이 발생할 수 있습니다.

토픽

자주 묻는 질문

deepeval은(는) 무엇인가요?
Pytest와 비슷한 방식으로 RAG, 에이전트, 챗봇, 음성 에이전트 등을 평가하는 메트릭을 제공하는 오픈소스 Python 프레임워크입니다. DeepEval은 LLM 애플리케이션 테스트를 위한 오픈소스 LLM 평가 프레임워크입니다. Pytest처럼 사용할 수 있지만 LLM 출력에 맞게 설계되었습니다. 입력, 애플리케이션의 실제 출력, 선택적 기대 출력 또는 검색 컨텍스트가 포함된 테스트 케이스를 작성하고, 메트릭을 기준으로 점수를 매깁니다. G-Eval 같은 여러 메트릭은 LLM을 평가자로 사용하며, 원하는 LLM과 함께 사용할 수 있습니다.
deepeval은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
deepeval은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
deepeval은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. deepeval의 마지막 커밋은 2026년 10월 19일입니다.
deepeval은(는) 어디에 사용할 수 있나요?
RAG 파이프라인의 회귀 테스트를 CI/CD 워크플로에 추가. AI 에이전트가 작업을 완료하고 적절한 도구를 호출하는지 확인. 멀티턴 고객 지원 챗봇의 역할 준수 및 지식 유지율 평가. LLM 제공자를 바꾸기 전에 모델이나 프롬프트 비교.
deepeval는 어떻게 설치하나요?
README의 빠른 시작 가이드를 Google Colab에서 엽니다(로컬 설치는 필요하지 않습니다).
deepeval은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/confident-ai/deepeval

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트