양자화와 최적화된 커널을 활용해 Whisper, Llama, NLLB 같은 Transformer 모델을 더 빠르고 적은 메모리로 실행하는 C++ 및 Python 라이브러리입니다.
4.7천547C++MIT업데이트 어제
#avx
“avx” 관련 오픈소스 프로젝트
avx 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
#avx
avx 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
양자화와 최적화된 커널을 활용해 Whisper, Llama, NLLB 같은 Transformer 모델을 더 빠르고 적은 메모리로 실행하는 C++ 및 Python 라이브러리입니다.