SGLang é um framework open source de inferência para servir modelos de linguagem, visão-linguagem e difusão em diversas plataformas com GPU, TPU e CPU.
37,5 mil9,7 milPythonApache-2.0Atualizado há 11 horas
#blackwell
Projetos open source sobre “blackwell”
Repositórios do GitHub selecionados relacionados a blackwell, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
2 repositórios
Biblioteca e servidor rápidos e eficientes em memória para executar e servir modelos de linguagem grandes com uma API compatível com a OpenAI.
94,2 mil23,6 milPythonApache-2.0Atualizado há 11 horas