「gguf」に関するオープンソースプロジェクト

並列・再開可能な転送でHuggingFace HubのモデルやデータセットをダウンロードするGo製CLI・Web UI。

Raspberry Piなどの低価格ボードで、約45MBのRAMを使って1BクラスのLLaMAアーキテクチャGGUFモデルを動かす、最小構成のC11製LLM推論エンジン。

画像理解、画像生成、画像編集を単一のアーキテクチャで実現するオープンソースのネイティブマルチモーダルモデル。

単一のYAML設定でLLMをファインチューニング・追加学習するCLIツール。レイヤーストリーミングにより4 GB GPUで8Bモデルを学習可能。