Repolode
netease-youdao

netease-youdao/BCEmbedding

NetEase Youdao가 개발한 중국어·영어 임베딩 및 리랭커 모델로, RAG 애플리케이션의 검색에 적합합니다.

스타
1,878
포크
129
열린 이슈
32
마지막 커밋
2개월 전

어떤 프로젝트인가요?

BCEmbedding은 검색 파이프라인을 위한 두 가지 모델을 제공합니다. EmbeddingModel은 텍스트를 검색 및 질의응답에 사용할 의미 벡터로 변환하고, RerankerModel은 후보 구절의 점수를 다시 매겨 가장 관련성 높은 결과가 상위에 오도록 합니다. 두 모델은 중국어, 영어 및 교차 언어 검색을 지원하며, 리랭커는 일본어와 한국어도 지원합니다.

이 프로젝트는 오픈소스 QAnything을 비롯한 Youdao의 RAG 제품에서 검색의 기반으로 사용됩니다. 모델은 Hugging Face에 공개되어 있으며 BCEmbedding 패키지, transformers 또는 sentence-transformers를 통해 불러올 수 있습니다. LangChain 및 LlamaIndex 연동 헬퍼도 포함되어 있고, 리랭커는 512토큰이 넘는 구절도 처리합니다.

저장소에는 MTEB 및 LlamaIndex 기반 평가 스크립트와 다중 도메인 중국어·영어 RAG 평가 데이터셋도 포함되어 있습니다.

핵심 기능

  • 01중국어, 영어 및 교차 언어 의미 검색을 지원하는 임베딩 모델.
  • 02중국어, 영어, 일본어, 한국어를 지원하는 리랭커 모델.
  • 03최대 32k토큰까지 512토큰이 넘는 구절을 처리하는 리랭커.
  • 04품질이 낮은 구절을 필터링하는 데 사용할 수 있는 관련성 점수를 출력하는 리랭커.
  • 05작업별 쿼리 지시문 없이 사용할 수 있는 임베딩 모델.
  • 06LangChain 및 LlamaIndex 연동과 transformers 및 sentence-transformers를 통한 직접 사용을 지원.

활용 사례

  • 중국어·영어 이중 언어 지식 베이스나 문서 질의응답 시스템 구축.
  • 기존 RAG 파이프라인에 리랭킹 단계를 추가해 검색된 컨텍스트 개선.
  • 쿼리와 문서가 서로 다른 언어로 작성된 교차 언어 검색 구현.
  • 제공된 평가 스크립트로 RAG 작업에서 임베딩 및 리랭커 모델 벤치마킹.

빠른 시작

  1. 1

    conda 환경을 만들고 활성화합니다

    conda create --name bce python=3.10 -y
  2. 2

    conda 환경을 활성화합니다

    conda activate bce
  3. 3

    PyPI에서 BCEmbedding을 설치합니다(torch를 먼저 설치하고 버전을 맞추세요)

    pip install BCEmbedding==0.1.5

사용 전 알아둘 점

  • 충돌을 방지하려면 사용 중인 CUDA 버전에 맞는 torch를 직접 설치해야 합니다.
  • README에는 임베딩 지원 언어로 중국어와 영어만 나와 있으며, 리랭커는 일본어와 한국어도 지원합니다.

포함된 컬렉션

토픽

자주 묻는 질문

BCEmbedding은(는) 무엇인가요?
NetEase Youdao가 개발한 중국어·영어 임베딩 및 리랭커 모델로, RAG 애플리케이션의 검색에 적합합니다. BCEmbedding은 검색 파이프라인을 위한 두 가지 모델을 제공합니다. EmbeddingModel은 텍스트를 검색 및 질의응답에 사용할 의미 벡터로 변환하고, RerankerModel은 후보 구절의 점수를 다시 매겨 가장 관련성 높은 결과가 상위에 오도록 합니다. 두 모델은 중국어, 영어 및 교차 언어 검색을 지원하며, 리랭커는 일본어와 한국어도 지원합니다.
BCEmbedding은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
BCEmbedding은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
BCEmbedding은(는) 아직 유지보수되고 있나요?
6개월 이내 업데이트. BCEmbedding의 마지막 커밋은 2026년 9월 3일입니다.
BCEmbedding은(는) 어디에 사용할 수 있나요?
중국어·영어 이중 언어 지식 베이스나 문서 질의응답 시스템 구축. 기존 RAG 파이프라인에 리랭킹 단계를 추가해 검색된 컨텍스트 개선. 쿼리와 문서가 서로 다른 언어로 작성된 교차 언어 검색 구현. 제공된 평가 스크립트로 RAG 작업에서 임베딩 및 리랭커 모델 벤치마킹.
BCEmbedding는 어떻게 설치하나요?
conda 환경을 만들고 활성화합니다: conda create --name bce python=3.10 -y conda 환경을 활성화합니다: conda activate bce PyPI에서 BCEmbedding을 설치합니다(torch를 먼저 설치하고 버전을 맞추세요): pip install BCEmbedding==0.1.5
BCEmbedding은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/netease-youdao/BCEmbedding

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트