Motor de alto rendimiento y fácil de usar para inferencia y serving de LLM, con un servidor API compatible con OpenAI.
55246C++OtherActualizado hace 2 meses
#ascend-npu
Repositorios de GitHub seleccionados relacionados con ascend-npu, con resúmenes de IA y métricas clave.
Motor de alto rendimiento y fácil de usar para inferencia y serving de LLM, con un servidor API compatible con OpenAI.