microsoft / BitNetGitHubllama.cppをベースにした、1-bit(ternary、1.58-bit)LLM向けMicrosoft公式のCPU/GPU推論フレームワーク。AI・機械学習#llm#inference#quantization#1-bit#cpu-inference4.1万3836C++MIT更新 3 か月前