Инструмент на C++ распределяет инференс LLM между несколькими домашними устройствами по Ethernet, ускоряя генерацию.
3,1 тыс.258C++MITОбновлён 11 дней назад
#distributed-llm
Open source проекты по теме «distributed-llm»
Отобранные репозитории GitHub по теме distributed-llm с описаниями от ИИ и ключевыми метриками.
Сортировка:Недавно добавленные
1 репозиторий