Intel의 LLM 및 VLM 후학습 양자화 툴킷으로, Transformers, vLLM, SGLang용 모델을 저비트 가중치로 압축합니다.
1.7천193PythonApache-2.0업데이트 5시간 전
#post-training-quantization
“post-training-quantization” 관련 오픈소스 프로젝트
post-training-quantization 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.