Компактный нативный движок инференса для запуска DeepSeek V4 Flash и других выбранных крупных моделей на потребительском оборудовании с Metal, CUDA и ROCm.
23,9 тыс.2,3 тыс.CMITОбновлён вчера
#inference-engine
Open source проекты по теме «inference-engine»
Отобранные репозитории GitHub по теме inference-engine с описаниями от ИИ и ключевыми метриками.
Сортировка:Недавно добавленные
2 репозитория
Python-привязки и слой политик для роботов на базе Rust-движка инференса ApxInf, запускающий VLA-модели, например PI-0.5, на Jetson Thor/Orin и GPU RTX.
22728PythonApache-2.0Обновлён 21 день назад