Библиотека на C++ и Python для быстрого запуска моделей Transformer, таких как Whisper, Llama и NLLB, с меньшим расходом памяти благодаря квантованию и оптимизированным ядрам.
4,7 тыс.547C++MITОбновлён вчера
#avx
Отобранные репозитории GitHub по теме avx с описаниями от ИИ и ключевыми метриками.
Библиотека на C++ и Python для быстрого запуска моделей Transformer, таких как Whisper, Llama и NLLB, с меньшим расходом памяти благодаря квантованию и оптимизированным ядрам.