NLP 및 언어 모델 파이프라인을 위한 Rust 기반 고성능 토크나이저 라이브러리로, Python과 Node.js 바인딩을 제공합니다.
1.1만1.2천RustApache-2.0업데이트 15시간 전
#tokenization
“tokenization” 관련 오픈소스 프로젝트
tokenization 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
#tokenization
tokenization 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
NLP 및 언어 모델 파이프라인을 위한 Rust 기반 고성능 토크나이저 라이브러리로, Python과 Node.js 바인딩을 제공합니다.