InternLM / lmdeployGitHubTurboMindとPyTorchの推論エンジンを備え、LLMや視覚言語モデルの圧縮、デプロイ、サービングを行うツールキット。AI・機械学習#llm-inference#llm#quantization#model-serving#gpu8111767PythonApache-2.0更新 5 時間前