InternLM / lmdeployGitHubTurboMind 및 PyTorch 추론 엔진을 제공하며 LLM과 비전-언어 모델을 압축, 배포, 서빙하는 툴킷입니다.AI·머신러닝#llm-inference#llm#quantization#model-serving#gpu8.1천767PythonApache-2.0업데이트 5시간 전