Библиотека GPU-ядер и генератор для инференса LLM с унифицированными API для attention, GEMM, MoE и сэмплирования.
6,8 тыс.+10 за неделю1,6 тыс.CudaApache-2.0Обновлён 13 часов назад
#large-large-models
Open source проекты по теме «large-large-models»
Отобранные репозитории GitHub по теме large-large-models с описаниями от ИИ и ключевыми метриками.
Сортировка:Недавно добавленные
1 репозиторий