Инструмент на C++ распределяет инференс LLM между несколькими домашними устройствами по Ethernet, ускоряя генерацию.
3,1 тыс.258C++MITОбновлён 11 дней назад
#llama2
Отобранные репозитории GitHub по теме llama2 с описаниями от ИИ и ключевыми метриками.
Инструмент на C++ распределяет инференс LLM между несколькими домашними устройствами по Ethernet, ускоряя генерацию.