sgl-project / sglangGitHubSGLangは、多様なGPU、TPU、CPU環境で大規模言語モデル、ビジョン言語モデル、拡散モデルを提供するオープンソース推論フレームワークです。AI・機械学習#llm#inference#gpu#serving#vlm3.7万9720PythonApache-2.0更新 6 時間前