AI 에이전트 추적, LLM 출력 평가, 프롬프트 관리, 프로덕션 모니터링을 위한 오픈소스 LLM 옵저버빌리티 및 평가 플랫폼입니다.
confident-ai/deepeval
Pytest와 비슷한 방식으로 RAG, 에이전트, 챗봇, 음성 에이전트 등을 평가하는 메트릭을 제공하는 오픈소스 Python 프레임워크입니다.
- 스타
- 18,982
- 포크
- 2,102
- 열린 이슈
- 751
- 마지막 커밋
- 어제
어떤 프로젝트인가요?
DeepEval은 LLM 애플리케이션 테스트를 위한 오픈소스 LLM 평가 프레임워크입니다. Pytest처럼 사용할 수 있지만 LLM 출력에 맞게 설계되었습니다. 입력, 애플리케이션의 실제 출력, 선택적 기대 출력 또는 검색 컨텍스트가 포함된 테스트 케이스를 작성하고, 메트릭을 기준으로 점수를 매깁니다. G-Eval 같은 여러 메트릭은 LLM을 평가자로 사용하며, 원하는 LLM과 함께 사용할 수 있습니다.
이 라이브러리는 앱을 블랙박스로 간주하는 엔드투엔드 평가뿐 아니라 AI 에이전트, 도구 호출, 검색 단계, 하위 에이전트 간 핸드오프를 대상으로 한 컴포넌트 단위 및 궤적 기반 평가도 지원합니다. 기본 제공 메트릭에는 RAG용 답변 관련성, 충실성, 컨텍스트 정밀도 및 재현율, 에이전트용 작업 완료도 및 도구 정확성, 멀티턴 챗봇용 지식 유지율, 환각·편향·유해성 검사 등이 있습니다. 커스텀 메트릭을 만들어 동일한 워크플로에 추가할 수도 있습니다.
`deepeval test run` 명령어로 CLI에서 테스트를 실행하고 CI/CD 파이프라인에 통합할 수 있습니다. OpenAI, Anthropic, LangChain, LangGraph, LlamaIndex, CrewAI, Pydantic AI 등의 트레이싱 통합을 지원합니다. 결과를 Confident AI 플랫폼에 동기화해 공유 가능한 리포트로 만들 수도 있습니다.
핵심 기능
- 01`deepeval test run`으로 실행하는, Pytest 스타일의 LLM 출력 단위 테스트.
- 02RAG, AI 에이전트, 멀티턴 챗봇, 음성 에이전트, MCP 및 멀티모달 출력용 기본 제공 메트릭.
- 03커스텀 기준을 적용하고 LLM을 평가자로 사용하는 G-Eval 및 DAG 메트릭.
- 04트레이싱을 통한 엔드투엔드, 컴포넌트 단위 및 궤적 기반 평가.
- 05OpenAI, Anthropic, LangChain, LlamaIndex, CrewAI 및 기타 프레임워크와의 통합.
- 06평가 결과를 바탕으로 한 합성 데이터셋 생성 및 프롬프트 최적화.
활용 사례
- RAG 파이프라인의 회귀 테스트를 CI/CD 워크플로에 추가.
- AI 에이전트가 작업을 완료하고 적절한 도구를 호출하는지 확인.
- 멀티턴 고객 지원 챗봇의 역할 준수 및 지식 유지율 평가.
- LLM 제공자를 바꾸기 전에 모델이나 프롬프트 비교.
빠른 시작
- 1
README의 빠른 시작 가이드를 Google Colab에서 엽니다(로컬 설치는 필요하지 않습니다).
사용 전 알아둘 점
- LLM-as-a-judge 지표는 원하는 LLM을 사용하며, API 키가 필요하거나 사용 비용이 발생할 수 있습니다.
토픽
자주 묻는 질문
- deepeval은(는) 무엇인가요?
- Pytest와 비슷한 방식으로 RAG, 에이전트, 챗봇, 음성 에이전트 등을 평가하는 메트릭을 제공하는 오픈소스 Python 프레임워크입니다. DeepEval은 LLM 애플리케이션 테스트를 위한 오픈소스 LLM 평가 프레임워크입니다. Pytest처럼 사용할 수 있지만 LLM 출력에 맞게 설계되었습니다. 입력, 애플리케이션의 실제 출력, 선택적 기대 출력 또는 검색 컨텍스트가 포함된 테스트 케이스를 작성하고, 메트릭을 기준으로 점수를 매깁니다. G-Eval 같은 여러 메트릭은 LLM을 평가자로 사용하며, 원하는 LLM과 함께 사용할 수 있습니다.
- deepeval은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- deepeval은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- deepeval은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. deepeval의 마지막 커밋은 2026년 10월 19일입니다.
- deepeval은(는) 어디에 사용할 수 있나요?
- RAG 파이프라인의 회귀 테스트를 CI/CD 워크플로에 추가. AI 에이전트가 작업을 완료하고 적절한 도구를 호출하는지 확인. 멀티턴 고객 지원 챗봇의 역할 준수 및 지식 유지율 평가. LLM 제공자를 바꾸기 전에 모델이나 프롬프트 비교.
- deepeval는 어떻게 설치하나요?
- README의 빠른 시작 가이드를 Google Colab에서 엽니다(로컬 설치는 필요하지 않습니다).
- deepeval은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/confident-ai/deepeval
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
AI 에이전트와 워크플로를 시각적으로 구축하고 테스트·배포하며, API와 MCP 서버로 바로 노출할 수 있는 플랫폼입니다.
모델, 임베딩, 벡터 저장소와 서드파티 통합을 위한 표준 인터페이스를 제공하는 LLM 기반 애플리케이션 및 에이전트 구축용 Python 프레임워크입니다.
대화 전반에 걸쳐 사용자, 세션, 에이전트 컨텍스트를 저장하고 검색하는 AI 에이전트 및 앱용 메모리 레이어입니다.
Python과 Next.js 기반의 에이전트 네이티브 자체 호스팅 AI 학습 워크스페이스로, 맞춤형 튜터링, Q&A, 퀴즈, 리서치, 시각화를 지원합니다.
선언형 설정과 CI/CD 연동을 제공하는 프롬프트 평가 및 LLM 앱 레드팀 테스트용 CLI·라이브러리입니다.