Библиотека на C++ и Python для быстрого запуска моделей Transformer, таких как Whisper, Llama и NLLB, с меньшим расходом памяти благодаря квантованию и оптимизированным ядрам.
4,7 тыс.547C++MITОбновлён вчера
#avx2
Отобранные репозитории GitHub по теме avx2 с описаниями от ИИ и ключевыми метриками.
Библиотека на C++ и Python для быстрого запуска моделей Transformer, таких как Whisper, Llama и NLLB, с меньшим расходом памяти благодаря квантованию и оптимизированным ядрам.
Парсер JSON на C++, использующий SIMD-инструкции для обработки гигабайтов JSON в секунду с полной проверкой данных.