「gemma」に関するオープンソースプロジェクト

Gemma、Qwen、DeepSeek、gpt-ossなどのオープンモデルをローカルやクラウドで実行できるCLI・REST API・各種ライブラリ。

SSDからエキスパートをストリーミングし、約2 GBのメモリでApple Silicon Mac上で26B Gemma 4 26B-A4Bモデルを動かすSwift・Metalランタイム。