Высокопроизводительный и простой в использовании движок для инференса и обслуживания LLM с API-сервером, совместимым с OpenAI.
55246C++OtherОбновлён 2 месяца назад
#ascend-npu
Отобранные репозитории GitHub по теме ascend-npu с описаниями от ИИ и ключевыми метриками.
Высокопроизводительный и простой в использовании движок для инференса и обслуживания LLM с API-сервером, совместимым с OpenAI.