Нативный для edge-устройств движок для инференса MoE-моделей с открытыми весами, например DeepSeek-V4 и Qwen3.6, на потребительских GPU и CPU.
14,6 тыс.1,5 тыс.PythonApache-2.0Обновлён 8 часов назад
#edge-ai
Отобранные репозитории GitHub по теме edge-ai с описаниями от ИИ и ключевыми метриками.
Нативный для edge-устройств движок для инференса MoE-моделей с открытыми весами, например DeepSeek-V4 и Qwen3.6, на потребительских GPU и CPU.
Небольшая фундаментальная модель для вызова инструментов, структурированного извлечения данных, эмбеддингов и распознавания речи на устройствах — от телефонов до микроконтроллеров.
Периферийный ИИ-движок на C++, который превращает видеоаналитику и локальные VLM-модели в приложения для Sophon, Rockchip RKNN и x86.