Open source inference engine, который подстраивает kernels под ваше оборудование и ускоряет работу open models на Apple Silicon, NVIDIA, AMD или CPU.
7,2 тыс.494RustApache-2.0Обновлён позавчера
#ollama-alternative
Отобранные репозитории GitHub по теме ollama-alternative с описаниями от ИИ и ключевыми метриками.
Open source inference engine, который подстраивает kernels под ваше оборудование и ускоряет работу open models на Apple Silicon, NVIDIA, AMD или CPU.