「gemma4」に関するオープンソースプロジェクト

SSDからエキスパートをストリーミングし、約2 GBのメモリでApple Silicon Mac上で26B Gemma 4 26B-A4Bモデルを動かすSwift・Metalランタイム。