Библиотека на C++ и Python для быстрого запуска моделей Transformer, таких как Whisper, Llama и NLLB, с меньшим расходом памяти благодаря квантованию и оптимизированным ядрам.
4,7 тыс.547C++MITОбновлён вчера
#transformer-models
Отобранные репозитории GitHub по теме transformer-models с описаниями от ИИ и ключевыми метриками.
Библиотека на C++ и Python для быстрого запуска моделей Transformer, таких как Whisper, Llama и NLLB, с меньшим расходом памяти благодаря квантованию и оптимизированным ядрам.