magnitudedev / magnitudeGitHubApple Silicon、NVIDIA、AMD、CPU向けにカーネルを調整し、オープンモデルを高速実行するオープンソース推論エンジン。AI・機械学習#inference#llm#local-llm#apple-silicon#cuda7186494RustApache-2.0更新 一昨日