ggml-org / llama.cppGitHub纯 C/C++ 实现的 LLM 推理引擎,可在本地或云端运行大语言模型与视觉语言模型,支持多种硬件后端。AI 与机器学习#llm#inference#gguf#quantization#cpp13.2万2.5万C++MIT更新于 9小时前