llama.cpp 기반의 1-bit(ternary, 1.58-bit) 대규모 언어 모델용 Microsoft 공식 CPU/GPU 추론 프레임워크입니다.
4.1만3.8천C++MIT업데이트 3개월 전
#ternary-weights
ternary-weights 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
llama.cpp 기반의 1-bit(ternary, 1.58-bit) 대규모 언어 모델용 Microsoft 공식 CPU/GPU 추론 프레임워크입니다.