llama.cppをベースにした、1-bit（ternary、1.58-bit）LLM向けMicrosoft公式のCPU/GPU推論フレームワーク。
4.1万3836C++MIT更新 3 か月前
#ternary-weights
「ternary-weights」に関するオープンソースプロジェクト
ternary-weights に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
#ternary-weights
ternary-weights に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
llama.cppをベースにした、1-bit（ternary、1.58-bit）LLM向けMicrosoft公式のCPU/GPU推論フレームワーク。