InternLM / lmdeployGitHub用于压缩、部署和服务大语言模型与视觉语言模型的工具包,内含 TurboMind 与 PyTorch 两种推理引擎。AI 与机器学习#llm-inference#llm#quantization#model-serving#gpu8111767PythonApache-2.0更新于 4小时前