Open-source библиотека для обучения больших языковых моделей с 3D-параллелизмом, оптимизацией памяти ZeRO и интеграцией с Hugging Face на базе PyTorch и Triton.
33753PythonOtherОбновлён 6 дней назад
#zero-optimizer
Отобранные репозитории GitHub по теме zero-optimizer с описаниями от ИИ и ключевыми метриками.
Open-source библиотека для обучения больших языковых моделей с 3D-параллелизмом, оптимизацией памяти ZeRO и интеграцией с Hugging Face на базе PyTorch и Triton.