임베딩, ColBERT, 리랭커 모델을 아우르는 RAG 검색 모델의 학습, 추론 및 증류를 위한 엔드투엔드 코드입니다.
netease-youdao/BCEmbedding
NetEase Youdao가 개발한 중국어·영어 임베딩 및 리랭커 모델로, RAG 애플리케이션의 검색에 적합합니다.
- 스타
- 1,878
- 포크
- 129
- 열린 이슈
- 32
- 마지막 커밋
- 2개월 전
어떤 프로젝트인가요?
BCEmbedding은 검색 파이프라인을 위한 두 가지 모델을 제공합니다. EmbeddingModel은 텍스트를 검색 및 질의응답에 사용할 의미 벡터로 변환하고, RerankerModel은 후보 구절의 점수를 다시 매겨 가장 관련성 높은 결과가 상위에 오도록 합니다. 두 모델은 중국어, 영어 및 교차 언어 검색을 지원하며, 리랭커는 일본어와 한국어도 지원합니다.
이 프로젝트는 오픈소스 QAnything을 비롯한 Youdao의 RAG 제품에서 검색의 기반으로 사용됩니다. 모델은 Hugging Face에 공개되어 있으며 BCEmbedding 패키지, transformers 또는 sentence-transformers를 통해 불러올 수 있습니다. LangChain 및 LlamaIndex 연동 헬퍼도 포함되어 있고, 리랭커는 512토큰이 넘는 구절도 처리합니다.
저장소에는 MTEB 및 LlamaIndex 기반 평가 스크립트와 다중 도메인 중국어·영어 RAG 평가 데이터셋도 포함되어 있습니다.
핵심 기능
- 01중국어, 영어 및 교차 언어 의미 검색을 지원하는 임베딩 모델.
- 02중국어, 영어, 일본어, 한국어를 지원하는 리랭커 모델.
- 03최대 32k토큰까지 512토큰이 넘는 구절을 처리하는 리랭커.
- 04품질이 낮은 구절을 필터링하는 데 사용할 수 있는 관련성 점수를 출력하는 리랭커.
- 05작업별 쿼리 지시문 없이 사용할 수 있는 임베딩 모델.
- 06LangChain 및 LlamaIndex 연동과 transformers 및 sentence-transformers를 통한 직접 사용을 지원.
활용 사례
- 중국어·영어 이중 언어 지식 베이스나 문서 질의응답 시스템 구축.
- 기존 RAG 파이프라인에 리랭킹 단계를 추가해 검색된 컨텍스트 개선.
- 쿼리와 문서가 서로 다른 언어로 작성된 교차 언어 검색 구현.
- 제공된 평가 스크립트로 RAG 작업에서 임베딩 및 리랭커 모델 벤치마킹.
빠른 시작
- 1
conda 환경을 만들고 활성화합니다
conda create --name bce python=3.10 -y - 2
conda 환경을 활성화합니다
conda activate bce - 3
PyPI에서 BCEmbedding을 설치합니다(torch를 먼저 설치하고 버전을 맞추세요)
pip install BCEmbedding==0.1.5
사용 전 알아둘 점
- 충돌을 방지하려면 사용 중인 CUDA 버전에 맞는 torch를 직접 설치해야 합니다.
- README에는 임베딩 지원 언어로 중국어와 영어만 나와 있으며, 리랭커는 일본어와 한국어도 지원합니다.
포함된 컬렉션
토픽
자주 묻는 질문
- BCEmbedding은(는) 무엇인가요?
- NetEase Youdao가 개발한 중국어·영어 임베딩 및 리랭커 모델로, RAG 애플리케이션의 검색에 적합합니다. BCEmbedding은 검색 파이프라인을 위한 두 가지 모델을 제공합니다. EmbeddingModel은 텍스트를 검색 및 질의응답에 사용할 의미 벡터로 변환하고, RerankerModel은 후보 구절의 점수를 다시 매겨 가장 관련성 높은 결과가 상위에 오도록 합니다. 두 모델은 중국어, 영어 및 교차 언어 검색을 지원하며, 리랭커는 일본어와 한국어도 지원합니다.
- BCEmbedding은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- BCEmbedding은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- BCEmbedding은(는) 아직 유지보수되고 있나요?
- 6개월 이내 업데이트. BCEmbedding의 마지막 커밋은 2026년 9월 3일입니다.
- BCEmbedding은(는) 어디에 사용할 수 있나요?
- 중국어·영어 이중 언어 지식 베이스나 문서 질의응답 시스템 구축. 기존 RAG 파이프라인에 리랭킹 단계를 추가해 검색된 컨텍스트 개선. 쿼리와 문서가 서로 다른 언어로 작성된 교차 언어 검색 구현. 제공된 평가 스크립트로 RAG 작업에서 임베딩 및 리랭커 모델 벤치마킹.
- BCEmbedding는 어떻게 설치하나요?
- conda 환경을 만들고 활성화합니다: conda create --name bce python=3.10 -y conda 환경을 활성화합니다: conda activate bce PyPI에서 BCEmbedding을 설치합니다(torch를 먼저 설치하고 버전을 맞추세요): pip install BCEmbedding==0.1.5
- BCEmbedding은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/netease-youdao/BCEmbedding
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
BAAI의 검색 툴킷으로, BGE 임베딩 및 리랭커 모델과 검색·RAG를 위한 학습, 평가, 튜토리얼을 제공합니다.
임베딩 데이터베이스를 기반으로 시맨틱 검색, RAG, LLM 오케스트레이션과 언어 모델 워크플로를 지원하는 올인원 Python AI 프레임워크입니다.
Milvus 벡터 데이터베이스로 비정형 데이터 검색 및 AI 애플리케이션을 만드는 방법을 보여주는 Jupyter Notebook 튜토리얼과 데모 모음입니다.
수백 또는 수천 개의 도구를 검색해 가져와 사용하는 LangGraph 에이전트를 만들기 위한 Python 라이브러리입니다.
오픈소스 텍스트 임베딩 및 리랭커 모델을 HTTP와 gRPC로 배포하고 제공하는 Rust 기반 서버입니다.