Движок инференса и рантайм на C++ для запуска LLM, речевых и визуальных моделей на смартфонах, носимых устройствах, устройствах умного дома и роботах.
6,1 тыс.519C++OtherОбновлён 27 дней назад
#mobile-inference
Open source проекты по теме «mobile-inference»
Отобранные репозитории GitHub по теме mobile-inference с описаниями от ИИ и ключевыми метриками.
Сортировка:Недавно добавленные
2 репозитория
Библиотека React Native для запуска моделей машинного обучения прямо на телефоне без сетевых запросов, основанная на runtime ExecuTorch от Meta.
1,8 тыс.97TypeScriptOtherОбновлён 4 часа назад